קטע אודיו מפוברק של מנהל תיכון בארה"ב עורר שטף של זעם, והותיר אותו נאבק בטענות על גזענות ואנטישמיות במקרה שעורר אזהרה חדשה על מניפולציה של AI.
המשטרה האשימה איש צוות ממורמר בבית הספר במרילנד בייצור ההקלטה שעלתה בינואר - כביכול של המנהל אריק אייסוורט המתפרץ נגד יהודים ו"ילדים שחורים חסרי תודה" - תוך שימוש בבינה מלאכותית.
הקליפ, שהותיר את מנהלי בית הספר התיכון פיקסוויל עם מבול של שיחות זועמות ואיומים, מדגיש את הקלות שבה ניתן לעשות שימוש לרעה בכלי AI וכלי עריכה זמינים כדי להתחזות לסלבריטאים ולאזרחים רגילים כאחד.
בשנה של בחירות גדולות ברחבי העולם, כולל בארצות הברית, הפרק גם מדגים את הסכנות של זיופים עמוקים ריאליסטיים כשהחוק תופס.
"אתה צריך תמונה אחת כדי להכניס אדם לסרטון, אתה צריך 30 שניות של אודיו כדי לשכפל קול של מישהו", אמר האני פאריד, מומחה לזיהוי פלילי דיגיטלי מאוניברסיטת קליפורניה, ברקלי, ל-AFP.
"אין כמעט דבר שאתה יכול לעשות אלא אם כן אתה מתחבא מתחת לסלע.
"ווקטור האיום הפך מג'ו ביידן והטיילור סוויפטס של העולם למנהלי בתי ספר תיכוניים, ילדים בני 15, עיתונאים, עורכי דין, בוסים, סבתות. כולם פגיעים כעת".
לאחר החקירה הרשמית, המנהל הספורטיבי של בית הספר, דאז'ון דריין, בן 31, נעצר בסוף החודש שעבר בגלל הקליפ.
מסמכי טעינה אומרים שעובדי בית הספר התיכון פיקסוויל חשו לא בטוחים לאחר שהשמע הופיע. המורים דאגו שהקמפוס היה מעורפל במכשירי הקלטה בזמן שהודעות פוגעניות האירו את המדיה החברתית של אייזוורט.
"העולם היה מקום טוב יותר אם הייתם בצד השני של העפר", כתב אחד משתמש X ל-Eiswert.
אייזוורט, שלא הגיב לבקשתו של AFP להגיב, הוצא לחופשה על ידי בית הספר ונזקק לאבטחה בביתו.
'נֵזֶק'
כשההקלטה הגיעה לרשתות החברתיות בינואר, מחוזקת על ידי חשבון אינסטגרם פופולרי שהפוסטים שלו גררו אלפי תגובות, המשבר הכניס את בית הספר לאור הזרקורים הלאומי.
האודיו הוגבר על ידי האקטיביסט DeRay McKesson, שדרש את הירי של אייסוורט לכמעט מיליון עוקביו ב-X. כשהאישומים עלו על פניו, הוא הודה שהתבדה.
"אני ממשיך להיות מודאג מהנזק שהפעולות הללו גרמו", אמר בילי בורק, מנכ"ל האיגוד המייצג את אייסוורט, בהתייחס להקלטה.
המניפולציה מגיעה כאשר מספר בתי ספר בארה"ב נאבקו להכיל פורנוגרפיה עמוקה מזויפת התומכת בבינה מלאכותית, מה שהוביל להטרדה של תלמידים על רקע היעדר חקיקה פדרלית.
סקוט שלנברגר, פרקליטו של מחוז בולטימור, אמר במסיבת עיתונאים שהתקרית של פיקסוויל מדגישה את הצורך "לעדכן את החוק עם טֶכנוֹלוֹגִיָה".
משרדו מעמיד את דריין לדין בארבעה אישומים, כולל הפרעה לפעילות בית הספר.
"מיליון מנהלים"
החוקרים קשרו את השמע למנהל הספורטיבי בחלקו בכך שחיברו אותו לכתובת המייל שהפיצה אותו בתחילה.
המשטרה טוענת שעבודת ההכפשה לכאורה באה כנקמה על חקירה שפתח אייסוורט בדצמבר האם דריין אישר תשלום לא לגיטימי למאמן שהיה גם שותפו לחדר.
דריין ביצע חיפושים אחר כלי AI דרך רשת בית הספר לפני שהשמע יצא, והוא השתמש ב"מודלים של שפה גדולים", לפי מסמכי הטעינה.
פרופסור מאוניברסיטת קולורדו שניתח את השמע עבור המשטרה הגיע למסקנה שהוא "הכיל עקבות של תוכן שנוצר בינה מלאכותית עם עריכה אנושית לאחר מעשה".
החוקרים גם התייעצו עם פריד, וכתבו שהמומחה מקליפורניה מצא שזה "טופל, והקלטות מרובות חוברו יחד באמצעות תוכנה לא ידועה".
תוכן שנוצר בינה מלאכותית - ובמיוחד אודיו, שלדברי מומחים קשה במיוחד לזהות אותו - עורר אזעקה לאומית בינואר כאשר שיחת רובוק מזויפת שהתחזה לביידן קראה לתושבי ניו המפשייר לא להצביע בפריימריז של המדינה.
"זה משפיע על כל דבר, החל מכלכלות שלמות, דרך דמוקרטיות ועד למנהל התיכון", אמר פאריד על השימוש לרעה בטכנולוגיה.
המקרה של אייזוורט היה קריאת השכמה בפיקסוויל, שחשף כיצד דיסאינפורמציה יכולה להוביל אפילו "קהילה מאוד מלוכדת", אמר פרקר בראטון, מאמן הגולף של בית הספר.
"יש נשיא אחד. יש מיליון מנהלים. אנשים אומרים: 'מה זה אומר עבורי? מהן ההשלכות האפשריות עבורי כשמישהו פשוט מחליט שהוא רוצה לסיים את הקריירה שלי?'”
"לעולם לא נוכל לברוח מהסיפור הזה."