Un trio de chercheurs de l'Université Cornell a découvert qu'il est possible de cacher le code malveillant à l'intérieur des réseaux de neurones d'IA. Zhi Wang, Chaoge Liu et Xiang Cui ont publié un article décrivant leurs expériences d'injection de code dans les réseaux de neurones sur le serveur de préimpression arXiv.
Comme ordinateur sans souci devient de plus en plus complexe, tout comme les tentatives des criminels de s'introduire dans des machines exécutant de nouvelles technologies à leurs propres fins, comme détruire des données ou les chiffrer et exiger un paiement des utilisateurs pour leur restitution. Dans cette nouvelle étude, l’équipe a découvert une nouvelle façon d’infecter certains types de systèmes informatiques exécutant des applications d’intelligence artificielle.
Les systèmes d'IA font leur travail en traitant les données de manière similaire au cerveau humain. Mais de tels réseaux, a découvert le trio de recherche, sont vulnérables à l'infiltration de code étranger.
Les réseaux de neurones, de par leur nature même, peuvent être envahis par des agents étrangers. Tout ce que ces agents ont à faire est d'imiter la structure du réseau de la même manière que les souvenirs sont ajoutés dans le cerveau humain. Les chercheurs ont découvert qu'ils étaient capables de faire exactement cela en incorporant des logiciels malveillants dans le réseau de neurones derrière un système d'IA appelé AlexNet, bien qu'il soit plutôt lourd, occupant 36.9 Mio d'espace mémoire sur le matériel exécutant le système d'IA. Pour ajouter le code dans le réseau neuronal, les chercheurs ont choisi ce qu'ils pensaient être la meilleure couche pour l'injection. Ils l'ont également ajouté à un modèle qui avait déjà été formé, mais les pirates ont noté que les pirates pourraient préférer attaquer un réseau non formé car cela aurait probablement moins d'impact sur l'ensemble du réseau.
Les chercheurs ont découvert que non seulement le logiciel antivirus standard ne parvenait pas à trouver le malware, mais que les performances du système d'IA étaient presque les mêmes après avoir été infectées. Ainsi, l'infection aurait pu passer inaperçue si elle avait été secrètement exécutée.
Les chercheurs notent que le simple fait d'ajouter des logiciels malveillants au réseau de neurones ne causerait pas de dommages - quiconque a glissé le code dans le système devrait toujours trouver un moyen d'exécuter ce code. Ils notent également que maintenant qu'on sait que les pirates peuvent injecter du code dans les neurones de l'IA réseaux, le logiciel antivirus peut être mis à jour pour le rechercher.
