הבינה הכללית המלאכותית (AGI) והשערת האיום הקיומי האמיתי

עדכון: 7 באוגוסט 2021
הבינה הכללית המלאכותית (AGI) והשערת האיום הקיומי האמיתי

הסנטימנט האנתרופומורפי מצביע על כך ש- Homo sapiens קיים בערך שישה מיליון שנה. עם זאת, חשבו על זה כך, אם כדור הארץ היה נוצר לפני שנה אחת, אז בני האדם, אם כן, היו בני 10 דקות. העידן התעשייתי החל לפני 2 שניות. אנו, המינים המתפתחים והאינטליגנטים ביותר הם למעשה אורחים שהגיעו לאחרונה לכדור הארץ הזה.

מאש ומגפיים, האינטליגנציה האנושית הייתה הזרז העיקרי בהשגת כל מה שהשגנו וכל מה שאכפת לנו ממנו. ניכר בבירור שמעגל האבולוציה של בני האדם והעולם הסובב אותם תלוי באופן מכריע בכמה שינויים קטנים יחסית שעשו את המוח האנושי. וזה כמובן מהדהד, כי כל שינוי נוסף שיכול לשנות משמעותית את מצע החשיבה עשוי להיות בעל השלכות עצומות.

ובכן, כבר ראינו מפץ גדול נוסף שגרם לשינוי עמוק במצע זה וכרגע אנו בעיצומה של מהפכה. חל שינוי פרדיגמה גדול מ- AI מבוסס-כלל ללמידת מכונה וממשק אדם-מכונה לממשק מכונה למכונה. מכונות יכולות למעשה ללמוד מדפוסים ואלגוריתמים ולהשתפר תמידית בדיוק כמו תינוק אנושי. למידת חיזוק היא התהליך שבו המכונה מאמנת את עצמה על ידי ניסוי וטעייה.

אנו פוגשים בינה מלאכותית בכל יום ו טֶכנוֹלוֹגִיָה עושה צעדים מהירים. זו יכולה להיות האבולוציה החדשה שיכולה לשנות באופן מהותי את החיים על הפלנטה שלנו. לבינה מלאכותית יש פוטנציאל לחולל מהפכה בכל היבט בחיי היומיום; עבודה, ניידות, רפואה, כלכלה ותקשורת.

שחמט על האנושות?

תחשוב על זה, אתה צופה בסרטון בפייסבוק או סליל באינסטגרם ואז בהדרגה מה קורה אתה מתחיל לקבל הצעה של סרטון חדש מאותה קטגוריה שבה צפית קודם לכן. ואז קורה משהו מפחיד, שרשרת של הצעות אוטומטיות מתחילה להגיע להזנות שלך ועכשיו אתה לכוד במעגל האכזרי ההוא של הרג שעות מזמנך על ידי הפיכת עצמך למעגל הזה.

אתה צופה ומתגלגל ללא הרף מבלי להבין כי איפשהו יש בינה מלאכותית ואלגוריתם שקורא ומנתח את תבנית הגלילה שלך, זמן הצפייה שלך, תרגל את המוח שלך ומשרת אותך בדיוק את הדבר הזה שיאלץ אותך להשקיע יותר ויותר זמן באפליקציה הספציפית הזו. במובן מסוים, האינטליגנציה אומרת למשתמש מה לצפות. וזה קורה כל הזמן. אתה מקבל הצעות כשאתה עורך קניות מקוונות או ב- YouTube. ואם לא מוסדר, זה יכול להיות שחמט על האינטליגנציה האנושית.

GPT-3 (Generative Pre-Trained 3) מעורר רעידות ברחבי עמק הסיליקון

רק דמיין AI שיכול לכתוב כל דבר. אתה מאכיל אותו בשירים של משורר מסוים והוא יכתוב שיר חדש עם אותו קצב וז'אנר. או שהוא יכול לכתוב מאמר חדשות (האפוטרופוס כבר עשה את זה). הוא יכול לקרוא מאמר, לענות על שאלות מהמידע שבמאמר ואפילו לסכם עבורך את המאמר ושלא לדבר שהוא יכול להפיק תמונות מהטקסט.

GPT-3 הוא אלגוריתם למידה עמוקה המייצר טקסט דמוי אדם. זהו מודל חיזוי השפות של הדור השלישי שנוצר על ידי חברת הסטארט-אפים "OpenAI" בסן פרנסיסקו, שהוקמה על ידי אילון מאסק. תוכנית זו טובה יותר מכל תוכנית קודמת בהפקת טקסט שיכול היה להיכתב על ידי אדם. זוהי קפיצה קוונטית מכיוון שהיא עשויה להיות שימושית לחברות רבות ויש לה פוטנציאל רב באוטומציה של משימות.

הוא יכול לכתוב קודי ג'אווה, פשוט לשים בו תיאורי טקסט. לחלופין, מה דעתך על יצירת אתר מדומה פשוט על ידי העתקה והדבקה של כתובת אתר עם תיאור.

הכל התחיל במשחק.

"Go" הוא אחד המשחקים המורכבים ביותר שקיימים, מטרתו פשוטה; להקיף יותר שטח מאשר היריב שלך. משחק זה שיחק על ידי בני אדם במשך 2,500 השנים האחרונות והוא נחשב למשחק הלוח העתיק ביותר שעדיין משחק כיום. רמת המורכבות של המשחק חורגת בהרבה מעצם העובדה שיש יותר מהלכים אפשריים במשחק Go מאשר יש אטומים ביקום.

עם זאת, לא רק בני האדם משחקים את המשחק הזה כעת. בשנת 2016, AlphaGo של גוגל דיפ מיינד ניצחה את אלוף העולם פי 18, לי סדול, בארבעה מתוך חמישה משחקים. בדרך כלל, מחשב שמכה בן אדם במשחק כמו שחמט או דמקה לא יהיה כל כך מרשים, אבל Go שונה. במדינות בהן המשחק הזה מאוד פופולרי, כמו סין, יפן ודרום קוריאה, מבחינתן, זה לא רק משחק. זה כמו איך אתה לומד אסטרטגיה. יש לו מרכיב כמעט רוחני.

המשחק הזה הוא הרבה מעבר להישג התחזיות ולא ניתן לפתור אותו בכוח עז. ישנם מעל 10 ל -170 מהלכים אפשריים במשחק. כדי לשים את זה בפרספקטיבה, יש רק 10 עד 80 אטומים ביקום הנצפה. AlphaGo הוכשרה באמצעות נתונים ממשחקי Go ממש. היא עברה מיליוני משחקים ולמדה את הטכניקות בהן השתמשו ואפילו המציאו חדשות שאף אחד לא ראה מעולם.

עם זאת, שנה לאחר הניצחון של AlphaGo על לי סדול, AI חדש לגמרי בשם AlphaGo zero ניצח את AlphaGo המקורית עם 100 עד 0 משחקים. 100 משחקים ברציפות. והחלק המרשים ביותר בכך הוא למד כיצד לשחק עם אפס אינטראקציה אנושית. זה היה ניצחון ענק עבור מוח עמוק ו- AI. זו הייתה הדוגמה המובהקת לסוג מודיעין אחד שהכה סוגים אחרים של אינטליגנציה.

בינה מלאכותית הוכיחה שהיא יכולה להעביר כמות עצומה של נתונים, מעבר לכל דבר שכל אדם יכול להתמודד איתו, ולהשתמש בו כדי ללמד את עצמו כיצד לחזות תוצאה. ההשלכות המסחריות הן עצומות.

הטיעונים להגעתה הקרובה של AI ברמה האנושית בדרך כלל פונים להתקדמות שראינו עד כה בלימוד מכונה ומניחים כי היא תוביל בהכרח למודיעין-על. במילים אחרות, הגדל את המודלים הנוכחיים, תן להם יותר נתונים, ו- voilà: AGI.

האם AI מתקדמים יהפכו לטרמינייטורים וישתלטו על הציוויליזציה האנושית?

בהרצאות המכובדות של פורד ב -1960 הצהיר הכלכלן הרברט סיימון כי תוך 20 שנה מכונות יהיו שוות בביצוע כל משימה שניתן להשיג על ידי בני אדם. בשנת 1961, קלוד שאנון - מייסד תורת המידע - חזה כי רובוטים בסגנון מדע בדיוני יופיעו תוך 15 שנים.

המתמטיקאי IJ Good הגה "פיצוץ מודיעיני" בורח, תהליך שבו מכונות חכמות יותר מאדם משפרות באופן איטרטיבי את האינטליגנציה שלהן. כשכתב בשנת 1965, ניבא גוד כי הפיצוץ יגיע לפני סוף המאה העשרים. בשנת 1993, ורנר וינג טבע את תחילת הפיצוץ הזה "הייחודיות" והצהיר שהוא יגיע תוך 30 שנה.

מאוחר יותר הכריז ריי קורצווייל על חוק היסטוריה, חוק האצת החזרות, החוזה את הגעת הסינגולריות עד 2045. לאחרונה טען אילון מאסק כי מודיעין -על נמצא במרחק של פחות מחמש שנים, ואנשי אקדמיה מסטיף הוקינג ועד ניק בוסטרום הראו חששות. בנוגע לסכנות של AI נוכל.

ההייפ אינו מוגבל לקומץ אישי ציבור. מדי כמה שנים ישנם סקרים של חוקרים העובדים בתחום הבינה המלאכותית ומבקשים את תחזיותיהם מתי נשיג בינה כללית מלאכותית (AGI)-מכונות לכל מטרה ולפחות אינטליגנטיות כמו בני אדם. הערכות חציוניות מהסקרים הללו נותנות סיכוי של 10% ל- AGI מתישהו בשנות ה -2020, וסיכוי של אחד לשניים ל- AGI בין 2035 ל -2050. גם חוקרים מובילים בתחום עשו תחזיות מבהילות. מנכ"ל OpenAI כותב כי בעשורים הקרובים מחשבים "יעשו כמעט הכל, כולל תגליות מדעיות חדשות שירחיבו את התפיסה שלנו של 'הכל', ומייסד שותף של Google Deepmind כי" AI ברמה האנושית יהיה עבר באמצע שנות ה 2020 ".

לתחזיות אלו יש השלכות. חלקם כינו את הגעתה של AGI כאיום קיומי, תוהים האם עלינו לעצור את ההתקדמות הטכנולוגית כדי למנוע אסון. אחרים שופכים מיליונים במימון פילנתרופי למניעת הימנעות AI אסונות.

מיינק ושיש | עורך משנה | ELE טיימס