ככל שמגלאי חדשות מזויפות ומסנני דואר זבל הופכים מתוחכמים יותר, כך גם שיטות התוקפים להונות אותם - כולל התקפות באמצעות "הטריגר האוניברסלי". בשיטה מבוססת למידה זו, תוקף משתמש בביטוי או בקבוצת מילים כדי לשטות במספר בלתי מוגבל של קלט. התקפה מוצלחת עשויה להיות יותר חדשות מזויפות המופיעות בפיד המדיה החברתית שלך או שספאם מגיע לתיבת הדואר הנכנס שלך. בהשאלה של טכניקה הנפוצה באבטחת סייבר כדי להתגונן מפני התקפות מבוססות טריגרים אוניברסליות אלו, חוקרים במכללת פן סטייט למדעי המידע ו טכנולוגיה פיתחו מסגרת למידת מכונה שיכולה להגן באופן יזום מפני אותם סוגי התקפות ביישומי עיבוד שפה טבעית ב-99% מהמקרים.
המודל, הנקרא DARCY, משתמש במושג אבטחת סייבר המכונה "סיר יערות" כדי להתיש ולתפוס התקפות אפשריות על יישומי עיבוד שפות טבעיות, כגון גלאי חדשות מזויפים ומסנני דואר זבל. סיר הדבש, המשמש כתמצית, מושך תוקף על ידי ציורו למילים ולמשפטים שאליהם הם מכוונים בפריצה שלהם.
"התוקפים מנסים למצוא את ביטויי ההתקפה האוניברסליים האלה, ולכן אנו מנסים להפוך אותם למאוד אטרקטיביים למצוא את המשפטים שכבר הגדרנו", אמר תאילנד לה, דוקטורנט למדעי המידע והטכנולוגיה והמחבר הראשי בעיתון המחקר. "אנחנו מנסים להקל עליהם את עבודת ההתקפה ואז הם נופלים בפח".
DARCY מחפש ומזריק מספר דלתות, או פיתיונות, לרשת עצבית טקסטואלית - הטכנולוגיה המניעה יישומים לעיבוד שפות טבעיות - כדי לתפוס ולסנן תוכן זדוני שנוצר על ידי התקפות טריגר אוניברסאליות.
"למיטב ידיעתנו, זוהי העבודה הראשונה שמנצלת את הרעיון של סיר יער מתחום אבטחת הסייבר בהגנה על מודלים של רשת עצבית טקסטואלית מפני התקפות ירידות", אמר דונגוון לי, פרופסור למדעי המידע והטכנולוגיה וחוקר הראשי של הפרויקט.
לה הסביר כי שיטות ההגנה הנוכחיות נגד מתקפות יריבות הן תגובתיות במידה רבה, כלומר על המגינים להתבונן וללמוד את טכניקות ההאקרים לאחר התקפה ולאחר מכן לחכות להתקפה נוספת כדי לאתר ולהסיר אותן.
עם DARCY, הרעיון החדש של גישת הגנה יזומה יכול לסייע באיתור ומניעת התקפות.
"מה שאנשים נהגו לעשות זה להתאמן א למידת מכונה מודל ולאחר מכן נסה להגן עליו לאחר שהוכשר, "אמר לה. "אבל מה שאנחנו מנסים לעשות הוא להגן במהלך תהליך האימון, כך שאנו מגינים באופן יזום על מודלים במהלך שלב האימון."
החוקרים בדקו את DARCY על ארבעה מערכי נתונים של סיווג טקסט נפרד והשתמשו במסגרת כדי להתגונן מפני שישה תרחישי תקיפה פוטנציאליים שונים, כגון האם לתוקף יש גישה לרשת האיתור או אם הם מודעים לדלתות הכניסה המשובצות. DARCY עלה בצורה משמעותית בהצלחה על חמישה אלגוריתמים קיימים של זיהוי נגדי ששימשו קווי בסיס הגנתיים.
"לדוגמה, DARCY הצליחה לזהות את ההתקפות האוניברסאליות המבוססות על טריגר אוניברסאלי עם עד 99% שיעור חיובי נכון ופחות מ -2% שיעור חיובי שווא ברוב המקרים, המהווה שיפור משמעותי ביחס לקווי הבסיס הקיימים", אמר לי.
כשהם רואים את האפקטיביות של שימוש בטקטיקה מוצלחת של אבטחת סייבר להגנה על יישומי עיבוד שפה טבעית, החוקרים מקווים להשתמש באותן טכניקות ומסגרת למניעת התקפות מסוגים אחרים בעתיד.
"יישום מושג מתחום שונה מאוד הוא מסקרן, מכיוון שאנו יכולים לראות כיצד תחומים שונים מתחברים זה לזה וכיצד מטריית האבטחה יכולה לחול על היבטים רבים ושונים במדעי המחשב", סיכם לה.
