Trio peneliti di Cornell University telah menemukan bahwa adalah mungkin untuk menyembunyikan kode malware di dalam jaringan saraf AI. Zhi Wang, Chaoge Liu dan Xiang Cui telah memposting makalah yang menjelaskan eksperimen mereka dengan menyuntikkan kode ke jaringan saraf di server pracetak arXiv.
Sebagai komputer teknologi menjadi semakin kompleks, begitu pula upaya penjahat untuk membobol mesin yang menjalankan teknologi baru untuk tujuan mereka sendiri, seperti menghancurkan data atau mengenkripsinya dan meminta pembayaran dari pengguna untuk pengembaliannya. Dalam studi baru ini, tim telah menemukan cara baru untuk menginfeksi sistem komputer tertentu yang menjalankan aplikasi kecerdasan buatan.
Sistem AI melakukan pekerjaannya dengan memproses data dengan cara yang mirip dengan otak manusia. Tetapi jaringan seperti itu, menurut penelitian trio, rentan disusupi oleh kode asing.
Jaringan saraf, pada dasarnya, dapat diserang oleh agen asing. Yang harus dilakukan agen semacam itu adalah meniru struktur jaringan dengan cara yang sama seperti ingatan ditambahkan di otak manusia. Para peneliti menemukan bahwa mereka dapat melakukan hal itu dengan menyematkan malware ke dalam jaringan saraf di belakang sistem AI yang disebut AlexNet—meskipun agak besar dan kuat, menghabiskan 36.9 MiB ruang memori pada perangkat keras yang menjalankan sistem AI. Untuk menambahkan kode ke dalam jaringan saraf, para peneliti memilih apa yang mereka yakini sebagai lapisan terbaik untuk injeksi. Mereka juga menambahkannya ke model yang telah dilatih tetapi peretas mencatat mungkin lebih suka menyerang jaringan yang tidak terlatih karena kemungkinan akan berdampak lebih kecil pada jaringan secara keseluruhan.
Para peneliti menemukan bahwa tidak hanya perangkat lunak antivirus standar yang gagal menemukan malware, tetapi kinerja sistem AI hampir sama setelah terinfeksi. Dengan demikian, infeksi bisa saja tidak terdeteksi jika dilakukan secara diam-diam.
Para peneliti mencatat bahwa hanya menambahkan malware ke jaringan saraf tidak akan menyebabkan kerusakan—siapa pun yang memasukkan kode ke dalam sistem masih harus menemukan cara untuk mengeksekusi kode itu. Mereka juga mencatat bahwa sekarang diketahui bahwa peretas dapat menyuntikkan kode ke dalam saraf AI jaringan, perangkat lunak antivirus dapat diperbarui untuk mencarinya.
