שלישיית חוקרים מאוניברסיטת קורנל מצאה כי אפשר להסתיר קוד זדוני בתוך רשתות עצביות AI. Zhi Wang, Chaoge Liu ו- Xiang Cui פרסמו מאמר המתאר את הניסויים שלהם בהזרקת קוד לרשתות עצביות בשרת ההדפסה המקדימה של arXiv.
בתור מחשב טֶכנוֹלוֹגִיָה הולך וגדל מורכב יותר, כך גם ניסיונות של פושעים לפרוץ למכונות שמריצות טכנולוגיה חדשה למטרותיהם, כגון השמדת נתונים או הצפנתם ודרישת תשלום מהמשתמשים עבור החזרתם. במחקר חדש זה, הצוות מצא דרך חדשה להדביק סוגים מסוימים של מערכות מחשב המפעילות יישומי בינה מלאכותית.
מערכות AI מבצעות את עבודתן על ידי עיבוד נתונים בדרכים הדומות למוח האנושי. אבל רשתות כאלה, כך מצאו שלישיית המחקר, חשופות לחדירה על ידי קוד זר.
רשתות עצביות, מעצם טבען, יכולות לפלוש לסוכנים זרים. כל מה שסוכנים כאלה צריכים לעשות הוא לחקות את מבנה הרשת באופן זהה לאופן בו מתווספים זיכרונות במוח האנושי. החוקרים גילו שהם הצליחו לעשות זאת בדיוק על ידי הטמעת תוכנות זדוניות ברשת העצבית שמאחורי מערכת AI בשם AlexNet - למרות היותה די חסונה, ותפסה 36.9 MiB של שטח זיכרון בחומרה המפעילה את מערכת ה- AI. כדי להוסיף את הקוד לרשת העצבית, החוקרים בחרו מה הם מאמינים שתהיה השכבה הטובה ביותר להזרקה. הם גם הוסיפו אותו לדגם שהוכשר כבר אך ציינו כי האקרים עשויים להעדיף לתקוף רשת לא מאומנת מכיוון שכנראה תהיה לכך פחות השפעה על הרשת הכוללת.
החוקרים גילו שלא רק שתוכנות אנטי -וירוס סטנדרטיות לא הצליחו למצוא את התוכנה הזדונית, אלא שביצועי מערכת ה- AI היו כמעט זהים לאחר שנדבקו. לפיכך, הזיהום היה יכול להיעלם אם הוא מבוצע בחשאי.
החוקרים מציינים כי פשוט הוספת תוכנות זדוניות לרשת העצבית לא תגרום נזק - מי שהחליק את הקוד למערכת עדיין יצטרך למצוא דרך לבצע את הקוד הזה. הם גם מציינים שעכשיו כידוע כי האקרים יכולים להזריק קוד לעצבנות AI רשתות, ניתן לעדכן תוכנת אנטי וירוס כדי לחפש אותה.
