นักวิจัยสามคนที่ Cornell University พบว่าสามารถซ่อนรหัสมัลแวร์ภายในเครือข่ายประสาทเทียม AI ได้ Zhi Wang, Chaoge Liu และ Xiang Cui ได้โพสต์บทความอธิบายการทดลองของพวกเขาด้วยการฉีดโค้ดลงในเครือข่ายประสาทเทียมบนเซิร์ฟเวอร์ preprint ของ arXiv
เป็นคอมพิวเตอร์ เทคโนโลยี มีความซับซ้อนมากขึ้นเรื่อย ๆ เช่นเดียวกับความพยายามของอาชญากรที่จะเจาะเข้าไปในเครื่องที่ใช้เทคโนโลยีใหม่เพื่อวัตถุประสงค์ของตนเอง เช่น การทำลายข้อมูลหรือการเข้ารหัสและการเรียกร้องการชำระเงินจากผู้ใช้เพื่อส่งคืน ในการศึกษาครั้งใหม่นี้ ทีมงานได้ค้นพบวิธีใหม่ในการติดเชื้อระบบคอมพิวเตอร์บางประเภทที่ใช้แอปพลิเคชันปัญญาประดิษฐ์
ระบบ AI ทำงานโดยการประมวลผลข้อมูลในลักษณะที่คล้ายกับสมองของมนุษย์ แต่เครือข่ายดังกล่าวซึ่งเป็นกลุ่มวิจัยทั้งสามพบว่ามีความเสี่ยงที่จะถูกแทรกซึมโดยรหัสต่างประเทศ
โดยธรรมชาติแล้วโครงข่ายประสาทเทียมสามารถถูกบุกรุกโดยตัวแทนจากต่างประเทศ ตัวแทนดังกล่าวทั้งหมดต้องทำคือเลียนแบบโครงสร้างของเครือข่ายในลักษณะเดียวกับที่เพิ่มความทรงจำในสมองของมนุษย์ นักวิจัยพบว่าพวกเขาสามารถทำเช่นนั้นได้โดยการฝังมัลแวร์ลงในเครือข่ายประสาทหลังระบบ AI ที่เรียกว่า AlexNet แม้ว่าจะค่อนข้างแข็งแรงโดยใช้พื้นที่หน่วยความจำ 36.9 MiB บนฮาร์ดแวร์ที่ใช้ระบบ AI เพื่อเพิ่มรหัสลงในโครงข่ายประสาทเทียม นักวิจัยได้เลือกสิ่งที่พวกเขาเชื่อว่าจะเป็นเลเยอร์ที่ดีที่สุดสำหรับการฉีด พวกเขายังเพิ่มลงในโมเดลที่ได้รับการฝึกอบรมแล้ว แต่สังเกตเห็นว่าแฮ็กเกอร์อาจต้องการโจมตีเครือข่ายที่ไม่ได้รับการฝึกฝนเพราะน่าจะมีผลกระทบต่อเครือข่ายโดยรวมน้อยกว่า
นักวิจัยพบว่าไม่เพียงแต่ซอฟต์แวร์ป้องกันไวรัสมาตรฐานไม่พบมัลแวร์ แต่ประสิทธิภาพของระบบ AI เกือบจะเท่ากันหลังจากติดไวรัส ดังนั้น การติดเชื้ออาจไม่สามารถตรวจพบได้หากดำเนินการอย่างลับๆ
นักวิจัยตั้งข้อสังเกตว่าเพียงการเพิ่มมัลแวร์ลงในโครงข่ายประสาทเทียมจะไม่ก่อให้เกิดอันตราย ใครก็ตามที่ใส่รหัสเข้าไปในระบบจะยังคงต้องหาวิธีที่จะรันโค้ดนั้น พวกเขายังทราบด้วยว่าตอนนี้เป็นที่ทราบกันดีอยู่แล้วว่าแฮกเกอร์สามารถใส่รหัสลงใน AI neural เครือข่ายสามารถอัปเดตซอฟต์แวร์ป้องกันไวรัสเพื่อค้นหาได้
