Ein Forschertrio der Cornell University hat herausgefunden, dass es möglich ist, Malware-Code in neuronalen Netzwerken der KI zu verstecken. Zhi Wang, Chaoge Liu und Xiang Cui haben einen Artikel veröffentlicht, in dem sie ihre Experimente mit dem Einschleusen von Code in neuronale Netze auf dem arXiv-Preprint-Server beschreiben.
Als Computer Technologie Immer komplexer werden auch die Versuche von Kriminellen, in Maschinen einzudringen, auf denen neue Technologien für ihre eigenen Zwecke laufen, etwa um Daten zu vernichten oder zu verschlüsseln und von den Benutzern eine Zahlung für die Rückgabe zu verlangen. In dieser neuen Studie hat das Team einen neuen Weg gefunden, bestimmte Arten von Computersystemen zu infizieren, auf denen Anwendungen der künstlichen Intelligenz ausgeführt werden.
KI-Systeme verrichten ihre Arbeit, indem sie Daten ähnlich wie das menschliche Gehirn verarbeiten. Aber solche Netzwerke, so das Forschertrio, sind anfällig für die Infiltration durch fremden Code.
Neuronale Netze können naturgemäß von fremden Agenten überfallen werden. Alles, was diese Agenten tun müssen, ist die Struktur des Netzwerks nachzuahmen, ähnlich wie Erinnerungen im menschlichen Gehirn hinzugefügt werden. Die Forscher fanden heraus, dass sie genau dies erreichen konnten, indem sie Malware in das neuronale Netzwerk hinter einem KI-System namens AlexNet einbetteten – obwohl es ziemlich umfangreich war und 36.9 MiB Speicherplatz auf der Hardware beanspruchte, auf der das KI-System läuft. Um den Code in das neuronale Netz einzufügen, wählten die Forscher die ihrer Meinung nach beste Schicht für die Injektion. Sie fügten es auch einem Modell hinzu, das bereits trainiert worden war, aber festgestellte Hacker könnten es vorziehen, ein ungeschultes Netzwerk anzugreifen, da dies wahrscheinlich weniger Auswirkungen auf das gesamte Netzwerk hätte.
Die Forscher fanden heraus, dass die Standard-Antivirensoftware die Malware nicht nur nicht finden konnte, sondern auch die Leistung des KI-Systems nach der Infektion fast gleich war. Daher könnte die Infektion bei einer heimlichen Ausführung unentdeckt geblieben sein.
Die Forscher stellen fest, dass das einfache Hinzufügen von Malware zum neuronalen Netzwerk keinen Schaden anrichten würde – wer auch immer den Code in das System eingeschleust hat, muss immer noch einen Weg finden, diesen Code auszuführen. Sie stellen auch fest, dass jetzt, da bekannt ist, dass Hacker Code in KI-Neurale einschleusen können Netzwerke, Antivirensoftware kann aktualisiert werden, um danach zu suchen.
