Cornell Üniversitesi'ndeki üç araştırmacı, yapay zeka sinir ağlarının içine kötü amaçlı yazılım kodunu gizlemenin mümkün olduğunu buldu. Zhi Wang, Chaoge Liu ve Xiang Cui, arXiv ön baskı sunucusundaki sinir ağlarına kod enjekte etme deneylerini açıklayan bir makale yayınladılar.
Bilgisayar olarak teknoloji Suçluların, verileri yok etmek veya şifrelemek ve geri dönüşü için kullanıcılardan ödeme talep etmek gibi kendi amaçları doğrultusunda yeni teknolojiyi çalıştıran makinelere girme girişimleri de giderek daha karmaşık hale geliyor. Bu yeni çalışmada ekip, yapay zeka uygulamalarını çalıştıran belirli türdeki bilgisayar sistemlerine virüs bulaştırmanın yeni bir yolunu buldu.
Yapay zeka sistemleri, verileri insan beynine benzer şekillerde işleyerek işlerini yapıyor. Ancak araştırma üçlüsü, bu tür ağların yabancı kodların sızmasına karşı savunmasız olduğunu buldu.
Sinir ağları doğası gereği yabancı ajanlar tarafından istila edilebilir. Bu tür ajanların tek yapması gereken, insan beynine anıların eklendiği şekilde ağın yapısını taklit etmektir. Araştırmacılar, oldukça ağır olmasına ve AI sistemini çalıştıran donanımda 36.9 MiB bellek alanı kaplamasına rağmen, AlexNet adlı bir AI sisteminin arkasındaki sinir ağına kötü amaçlı yazılım yerleştirerek tam da bunu yapabildiklerini keşfettiler. Kodu sinir ağına eklemek için araştırmacılar, enjeksiyon için en iyi katman olacağına inandıkları katmanı seçtiler. Bunu ayrıca önceden eğitilmiş bir modele de eklediler, ancak bilgisayar korsanlarının eğitimsiz bir ağa saldırmayı tercih edebileceğini çünkü bunun genel ağ üzerinde daha az etkisi olacağını belirttiler.
Araştırmacılar, standart antivirüs yazılımının kötü amaçlı yazılımı bulmada başarısız olmasının yanı sıra, virüs bulaştıktan sonra AI sistem performansının neredeyse aynı olduğunu da buldu. Bu nedenle, gizlice yürütülürse enfeksiyon tespit edilemeyebilirdi.
Araştırmacılar, sinir ağına kötü amaçlı yazılım eklemenin herhangi bir zarara yol açmayacağını, kodu sisteme kim kaydırdıysa yine de bu kodu çalıştırmanın bir yolunu bulması gerektiğini belirtiyor. Ayrıca bilgisayar korsanlarının yapay zekanın sinir sistemine kod enjekte edebildiğinin artık bilindiğini de belirtiyorlar. ağlar, antivirüs yazılımı onu aramak için güncellenebilir.
