כיצד חיבורים אופטיים בתוך החבילה יכולים לשפר את ביצועי הבינה המלאכותית של שבבים?

בינה מלאכותית גנרטיבית (AI) דורשת תנועה מהירה ורציפה של כמויות גדולות של נתונים. במספר הולך וגדל של מקרים, חיבורי קלט/פלט חשמליים (I/O) בין ה-ICs שבשבבים הופכים לצוואר בקבוק לביצועים גבוהים יותר. מחסומי ביצועי קלט/פלט חשמליים מרכזיים כוללים יעילות חשמל, רוחב פס והשהייה.

שאלות נפוצות זו בוחנות את היתרונות הצפויים של שימוש ב-I/O אופטי (IOI) בתוך החבילה במקום ה-I/O החשמלי של היום בשבבים, ונסגרת במבט על פתרונות וטכנולוגיות IOI מתפתחות.

פתרונות IOI מייצגים את החידושים האחרונים בשורה ארוכה של התקדמות בחיבורים אופטיים, החל במקלטי משדר אופטיים הניתנים לחיבור המחליפים או משלימים קלט/פלט חשמלי במרכזי נתונים (איור 1). לדוגמה, סריאליזר/מסירי חשמל חשמלי (SerDes) הוא צורה נפוצה של קישוריות במהירות גבוהה. הוא מורכב מזוג בלוקים הממירים נתונים בין נתונים טוריים וממשקים מקבילים לכל כיוון. עם זאת, מעבר ל-112 גיגה-ביט לשנייה (Gbps) הוא מאתגר ביותר מכיוון שהפסדי האות הגדולים בחיבורי נחושת מקשים על העברת נתונים מעבר לסנטימטרים ספורים. ההחלפה של SerDes ב-OIO בצ'יפלטים צפויה לבטל צווארי בקבוק של קלט/פלט חשמלי ולהגדיל באופן דרמטי את מהירויות העברת הנתונים. חסמים קריטיים להגברת ביצועי ה-I/O כוללים יעילות צריכת חשמל, זמן השהייה וצפיפות רוחב פס וטווח הגעה.

איור 1. מגוון אפשרויות ה-I/O משימוש מקצה לקצה ב-I/O חשמלי (למטה) ועד IOI (למעלה) (תמונה: *אייר לאבס*).

מחסומי ביצועי I/O
יעילות צריכת חשמל היא קריטית עבור יישומי מחשוב בעלי ביצועים גבוהים כמו AI יצירתי. יעילות ההספק של קלט/פלט חשמלי קיים ב-112 Gbps היא בערך 6 עד 10 פיקו ג'ול לביט (pJ/b). הגעה מהאריזה לקצה של לוח מעגלים מודפסים בקצב נתונים זה אפשרי אך דורשת כוח רב, מייצרת חום ומפחיתה את יעילות המערכת. כפי שצוין באיור 1, הגעה אל מעבר לקצה ה-PCB דורשת שילוב של מקלטי משדר אופטיים חשמליים הניתנים לחיבור חשמלי וכבלים אופטיים פעילים. IOI צריך להשתפר ברמות הביצועים הללו.

חביון הוא עוד רוצח ביצועים. קלט/פלט חשמלי מובנה ומחוצה לו בקצבים מעל 50 Gbps דורשים שימוש בקידוד תיקון שגיאות קדימה שיכול להגדיל את זמן ההשהיה עד 100 ns. זה יותר מדי עבור מערכות מחשוב מבוזרות כמו אלו המשמשות עבור AI גנרטיבי. ביישומים אלה נדרשות זמן אחזור מתחת ל-10 ns.

צפיפות רוחב הפס היא גורם חשוב. משתמשים בשבבים הטרוגניים במקום שבו נדרשת צפיפות מערכת גבוהה, וזה כולל צפיפות רוחב פס. קלט/פלט חשמלי יכול לתמוך בצפיפות רוחב פס של כ-100 Gbps/mm. המגבלה עבור SerDes היא בערך 200 עד 500 Gbps/mm; טווח ארוך יותר גורר קנסות צריכת חשמל ותרמיים, מה שהופך אותו לפתרון לא מעשי ברוב היישומים. IOI, לעומת זאת, יכול לספק כיום כ-200 Gbps/mm, כאשר מפות דרכים צפויות להגיע ל-1 Tbps/mm בעתיד.

טווח הגעה הוא המרחק מקצה לקצה של הקלט/פלט. ב-chiplet, טווח ההגעה הנדרש הוא בדרך כלל מתחת ל-10 מ"מ. ב-PCB, טווח ההגעה יכול להיות עד 50 מ"מ, ובמרכז נתונים, טווח ההגעה יכול לעלות על 1,000 מ"מ. בעוד קלט/פלט חשמלי יכול לתמוך בטווחים קצרים, מרחקים ארוכים יותר דורשים שימוש בתקשורת אופטית. מעבר בין תקשורת חשמלית בתוך האריזה או על ה-PCB לאופטי לטווח ארוך יותר אינו יעיל ויקר. פתרון מועדף יהיה להשתמש ב-IOI הן לתקשורת שבבים פנימית והן לקישוריות לכל מרכז הנתונים.

מספר ספקים הכריזו על פתרונות IOI. במקרה אחד פותח בד חיבור פוטוני שניתן לתכנות בקנה מידה של רקיק לשימוש בצ'יפלטים הטרוגניים. העיצוב תומך ב-40 נתיבים פוטוניים הניתנים להחלפה באותו חלל שנכבש על ידי סיב אופטי רגיל. יישומים ראשוניים צפויים לתמוך במהירויות של 1 Tbps על פני מערכים על עד 48 ICs הטרוגניים על מצעים של עד 8 אינץ' רבועים עם חביון מקסימלי של 5 ns וצריכת חשמל נמוכה יותר בהשוואה ל-I/O חשמלי חלופי (איור 2). הארכיטקטורה צפויה להתרחב לרוחבי פס של עד 100 Tbps.

איור 2. מבנה של פתרון IOI הניתן לתכנות בקנה מידה רקיק (תמונה: *ServeTheHome*).

גישה שנייה משתמשת במקור אופטי רב-גל המשלב פוטוניקת סיליקון עם עיבוד CMOS סטנדרטי כדי לספק צפיפות רוחב פס גבוהה עד פי 1000 ב-10% מצריכת החשמל של קלט/פלט חשמלי (לוח 1). הפתרון משתמש בתהליך 45 ננומטר של GlobalFoundries בנפח גבוה כדי לשלב מיליוני טרנזיסטורים עם מאות מכשירים פוטוניים.

טבלה 1. דוגמאות לביצועים צפויים עבור IOI ב-chiplets (טבלה: *אייר לאבס*).

<br> סיכום
דרישות ה-I/O של AI גנרטיבי מתקדם ויישומי מחשוב בעלי ביצועים גבוהים אחרים (HPC) עולות על היכולות של פתרונות מבוססי חשמל. כתוצאה מכך, מפותחות טכנולוגיות IOI שיכולות לתמוך ביעילות החשמל, זמן ההשהיה, יעילות רוחב הפס ולהגיע לדרישות של יישומי HPC.

הפניות
מפת הדרכים של אינטגרציה הטרוגנית, מהדורת 2023, פרק 9: פוטוניקה משולבת, IEEE
Lightmatter Passage מביאה את אופטיקה ה-Co-Packed ו-Silicon Photonics לעידן ה-Chiplets, ServeTheHome
חיבור אופטי עבור Hyperscale Data Center עם יישומי AI / ML, Amphenol
חיבורים אופטיים סוף סוף רואים את האור בפוטוניקת סיליקון: עבר ההייפ, ננו-חומרי MDPI
הערת מפתח פוטוניקה: מעבר מקלט/פלט חשמלי לאופטי, קידנס
חללי PhC סיליקון פוליגריסטלי עבור אינטגרציה של CMOS על-שבב, דוחות מדעיים
חשיבה מחודשת על ארכיטקטורות בינה מלאכותית עם קלט/פלט אופטי, Ayer Labs