Çevrimiçi sahte haber dedektörleri ve spam filtreleri daha karmaşık hale geldikçe, saldırganların onları kandırma yöntemleri de gelişiyor - "evrensel tetikleyici" yoluyla yapılan saldırılar da dahil. Bu öğrenmeye dayalı yöntemde, saldırgan belirsiz sayıda girdiyi yanıltmak için bir ifade veya sözcük kümesi kullanır. Başarılı bir saldırı, sosyal medya akışınızda daha fazla sahte haberin görünmesi veya e-posta gelen kutunuza spam ulaşması anlamına gelebilir. Bu evrensel tetikleyici tabanlı saldırılara karşı savunma yapmak için siber güvenlikte yaygın olarak kullanılan bir tekniği ödünç alan Penn State Bilgi Bilimleri Koleji'ndeki araştırmacılar ve Teknoloji doğal dil işleme uygulamalarındaki aynı tür saldırılara karşı %99 oranında proaktif bir şekilde savunma yapabilen bir makine öğrenimi çerçevesi geliştirdik.
DARCY adı verilen model, sahte haber dedektörleri ve spam filtreleri gibi doğal dil işleme uygulamalarına yönelik potansiyel saldırıları tuzağa düşürmek ve yakalamak için "bal küpü" olarak bilinen bir siber güvenlik konseptini kullanıyor. Tuzak görevi gören bal küpü, saldırganı hacklemede hedeflediği kelime ve ifadelere çekerek kendine çeker.
Araştırma makalesinin başyazarı ve bilgi bilimleri ve teknolojisi alanında doktora öğrencisi Thai Le, "Saldırganlar bu evrensel saldırı ifadelerini bulmaya çalışıyor, bu nedenle biz de zaten belirlediğimiz ifadeleri bulmalarını onlar için çok çekici hale getirmeye çalışıyoruz" dedi. “Hücum işini onlar için çok kolaylaştırmaya çalışıyoruz ama sonra tuzağa düşüyorlar.”
DARCY, evrensel tetikleyici saldırılar tarafından oluşturulan kötü amaçlı içeriği yakalamak ve filtrelemek için, doğal dil işleme uygulamalarını çalıştıran teknoloji olan metinsel bir sinir ağına birden fazla tuzak kapısı veya tuzak arar ve enjekte eder.
Bilgi bilimleri ve teknolojisi profesörü ve projenin baş araştırmacısı Dongwon Lee, "Bildiğimiz kadarıyla bu, metinsel sinir ağı modellerini düşmanca saldırılara karşı savunmak için siber güvenlik alanındaki bal küpü kavramını kullanan ilk çalışmadır" dedi.
Le, rakip saldırılara karşı mevcut savunma yöntemlerinin büyük ölçüde reaktif olduğunu, yani savunucuların bir saldırıdan sonra bilgisayar korsanlarının tekniklerini gözlemlemesi ve öğrenmesi ve ardından başka bir saldırının bunları tespit edip ortadan kaldırmasını beklemesi gerektiği anlamına geldiğini açıkladı.
DARCY ile proaktif savunma yaklaşımına ilişkin yeni fikir, saldırıların tespit edilmesine ve önlenmesine yardımcı olabilir.
“İnsanların eskiden yaptığı şey eğitmekti makine öğrenme modelleyin ve eğitildikten sonra onu savunmaya çalışın," dedi Le. "Ancak yapmaya çalıştığımız şey eğitim süreci boyunca savunma yapmak, böylece eğitim aşamasında modelleri proaktif bir şekilde koruyoruz."
Araştırmacılar DARCY'yi dört ayrı metin sınıflandırma veri kümesi üzerinde test etti ve bir saldırganın algılama ağına erişimi olup olmadığı veya gömülü tuzak kapılarının farkında olup olmadığı gibi altı farklı potansiyel saldırı senaryosuna karşı savunma yapmak için çerçeveyi kullandı. DARCY, savunma temelleri olarak hizmet veren mevcut beş rakip tespit algoritmasından önemli ölçüde daha iyi performans gösterdi.
Lee, "Örneğin DARCY, evrensel tetikleyici tabanlı düşmanca saldırıları çoğu durumda %99'a varan gerçek pozitif oranı ve %2'den az yanlış pozitif oranıyla tespit edebildi; bu, mevcut temellere göre önemli bir gelişme" dedi.
Doğal dil işleme uygulamalarını savunmak için başarılı bir siber güvenlik savunma taktiği kullanmanın etkinliğini gören araştırmacılar, gelecekte diğer saldırı türlerini önlemek için aynı teknikleri ve çerçeveyi kullanmayı umuyorlar.
Le sözlerini şöyle tamamladı: "Çok farklı bir alandan bir konsepti uygulamak ilgi çekici çünkü farklı alanların birbiriyle nasıl bağlantı kurduğunu ve güvenlik şemsiyesinin bilgisayar bilimindeki birçok farklı yöne nasıl uygulanabileceğini görebiliyoruz."
