Un trio di ricercatori della Cornell University ha scoperto che è possibile nascondere il codice malware all'interno delle reti neurali AI. Zhi Wang, Chaoge Liu e Xiang Cui hanno pubblicato un articolo che descrive i loro esperimenti con l'iniezione di codice nelle reti neurali sul server di prestampa arXiv.
Come computer la tecnologia diventa sempre più complesso, così come i tentativi dei criminali di penetrare in macchine che utilizzano nuove tecnologie per i propri scopi, come distruggere dati o crittografarli e chiedere il pagamento agli utenti per la loro restituzione. In questo nuovo studio, il team ha trovato un nuovo modo per infettare alcuni tipi di sistemi informatici che eseguono applicazioni di intelligenza artificiale.
I sistemi di intelligenza artificiale svolgono il loro lavoro elaborando i dati in modi simili al cervello umano. Ma tali reti, ha scoperto il trio di ricerca, sono vulnerabili all'infiltrazione di codici stranieri.
Le reti neurali, per loro stessa natura, possono essere invase da agenti estranei. Tutto ciò che tali agenti devono fare è imitare la struttura della rete più o meno allo stesso modo in cui i ricordi vengono aggiunti nel cervello umano. I ricercatori hanno scoperto di essere stati in grado di farlo incorporando malware nella rete neurale dietro un sistema di intelligenza artificiale chiamato AlexNet, nonostante sia piuttosto pesante, occupando 36.9 MiB di spazio di memoria sull'hardware che esegue il sistema di intelligenza artificiale. Per aggiungere il codice alla rete neurale, i ricercatori hanno scelto quello che ritenevano sarebbe stato il miglior livello per l'iniezione. Lo hanno anche aggiunto a un modello che era già stato addestrato, ma che gli hacker hanno notato che potrebbero preferire attaccare una rete non addestrata perché probabilmente avrebbe un impatto minore sulla rete complessiva.
I ricercatori hanno scoperto che non solo il software antivirus standard non è riuscito a trovare il malware, ma le prestazioni del sistema di intelligenza artificiale erano quasi le stesse dopo essere stato infettato. Pertanto, l'infezione potrebbe non essere rilevata se eseguita di nascosto.
I ricercatori osservano che la semplice aggiunta di malware alla rete neurale non causerebbe danni: chiunque abbia inserito il codice nel sistema dovrebbe comunque trovare un modo per eseguire quel codice. Notano anche che ora che è noto che gli hacker possono iniettare codice nell'intelligenza artificiale neurale reti, il software antivirus può essere aggiornato per cercarlo.
