コーネル大学のXNUMX人の研究者は、AIニューラルネットワーク内にマルウェアコードを隠すことが可能であることを発見しました。 Zhi Wang、Chaoge Liu、Xiang Cuiは、arXivプレプリントサーバー上のニューラルネットワークにコードを挿入する実験について説明した論文を投稿しました。
コンピューターとして テクノロジー データの破壊や暗号化、その返還に対するユーザーへの支払いの要求など、独自の目的で新しいテクノロジーを実行しているマシンに侵入する犯罪者の試みはますます複雑になっています。 この新しい研究で、チームは人工知能アプリケーションを実行している特定の種類のコンピュータ システムに感染する新しい方法を発見しました。
AIシステムは、人間の脳と同様の方法でデータを処理することによって機能します。 しかし、そのようなネットワークは、研究トリオが発見したものであり、外国のコードによる侵入に対して脆弱です。
ニューラルネットワークは、その性質上、外国のエージェントによって侵入される可能性があります。 そのようなエージェントがしなければならないのは、人間の脳に記憶が追加されるのとほぼ同じ方法でネットワークの構造を模倣することだけです。 研究者たちは、AlexNetと呼ばれるAIシステムの背後にあるニューラルネットワークにマルウェアを埋め込むことで、それを実現できることを発見しました。AIシステムを実行しているハードウェアで、36.9 MiBのメモリスペースを占有し、かなり重いにもかかわらずです。 コードをニューラルネットワークに追加するために、研究者たちは注射に最適な層であると信じているものを選択しました。 また、すでにトレーニングされたモデルに追加しましたが、ハッカーはネットワーク全体への影響が少ない可能性があるため、トレーニングされていないネットワークを攻撃することを好む可能性があると指摘しました。
研究者は、標準のウイルス対策ソフトウェアがマルウェアを見つけられなかっただけでなく、感染後のAIシステムのパフォーマンスはほぼ同じであることを発見しました。 したがって、ひそかに実行された場合、感染は検出されなかった可能性があります。
研究者たちは、ニューラルネットワークにマルウェアを追加するだけでは害はないことに注意しています。システムにコードを挿入した人は誰でも、そのコードを実行する方法を見つける必要があります。 彼らはまた、ハッカーがAIニューラルにコードを挿入できることが知られていることにも注目しています ネットワーク、ウイルス対策ソフトウェアを更新して検索することができます。
