Ketiga penyelidik di Universiti Cornell telah mendapati bahawa mungkin untuk menyembunyikan kod perisian hasad di dalam rangkaian saraf AI. Zhi Wang, Chaoge Liu dan Xiang Cui telah memposting makalah yang menjelaskan eksperimen mereka dengan menyuntik kod ke dalam rangkaian saraf pada pelayan pracetak arXiv.
Sebagai komputer teknologi semakin kompleks, begitu juga percubaan penjenayah untuk menceroboh mesin yang menjalankan teknologi baharu untuk tujuan mereka sendiri, seperti memusnahkan data atau menyulitkannya dan menuntut bayaran daripada pengguna untuk pemulangannya. Dalam kajian baharu ini, pasukan itu telah menemui cara baharu untuk menjangkiti jenis sistem komputer tertentu yang menjalankan aplikasi kecerdasan buatan.
Sistem AI berfungsi dengan memproses data dengan cara yang serupa dengan otak manusia. Tetapi rangkaian seperti itu, yang diketahui oleh trio penyelidikan, rentan terhadap penyusupan oleh kod asing.
Jaringan saraf, secara semula jadi, boleh diserang oleh ejen asing. Semua ejen tersebut harus meniru struktur rangkaian dengan cara yang sama seperti kenangan yang ditambahkan di otak manusia. Para penyelidik mendapati bahawa mereka dapat melakukan hal itu dengan memasukkan malware ke dalam rangkaian saraf di belakang sistem AI yang disebut AlexNet — walaupun agak kuat, mengambil 36.9 MiB ruang memori pada perkakasan yang menjalankan sistem AI. Untuk menambahkan kod ke dalam rangkaian saraf, para penyelidik memilih apa yang mereka yakini sebagai lapisan suntikan terbaik. Mereka juga menambahkannya ke model yang sudah dilatih tetapi peretas yang dicatat mungkin lebih suka menyerang rangkaian yang tidak terlatih kerana kemungkinan akan memiliki sedikit dampak pada jaringan keseluruhan.
Para penyelidik mendapati bahawa bukan sahaja perisian antivirus standard gagal menemui perisian hasad, tetapi prestasi sistem AI hampir sama setelah dijangkiti. Oleh itu, jangkitan mungkin tidak dapat dikesan jika dilaksanakan secara tersembunyi.
Para penyelidik menyatakan bahawa hanya menambahkan perisian hasad ke rangkaian saraf tidak akan menyebabkan bahaya - siapa pun yang memasukkan kod ke dalam sistem masih harus mencari jalan untuk melaksanakan kod tersebut. Mereka juga memperhatikan bahawa sekarang diketahui bahawa penggodam dapat memasukkan kod ke dalam neural AI rangkaian, perisian antivirus boleh dikemas kini untuk mencarinya.
