De kunstmatige algemene intelligentie (AGI) en de reële existentiële dreigingshypothese

Update: 7 augustus 2021
De kunstmatige algemene intelligentie (AGI) en de reële existentiële dreigingshypothese

Het antropomorfe sentiment suggereert dat Homo sapiens al ongeveer zes miljoen jaar bestaat. Denk er echter zo over na: als de aarde een jaar geleden werd geschapen, zou de menselijke soort 10 minuten oud zijn. Het industriële tijdperk begon 2 seconden geleden. Wij, de meest geëvolueerde en intelligente soorten, zijn eigenlijk pas onlangs aangekomen gasten op deze planeet.

Van vuur en zwavel is de menselijke intelligentie de belangrijkste katalysator geweest bij het bereiken van alles wat we hebben bereikt en alles waar we om geven. Het is duidelijk duidelijk dat de evolutiecyclus van de mens en de wereld om hen heen in cruciale mate afhangt van enkele relatief kleine veranderingen die de menselijke geest hebben gemaakt. En dat weergalmt natuurlijk dat alle verdere veranderingen die het denksubstraat aanzienlijk zouden kunnen veranderen, potentieel enorme gevolgen kunnen hebben.

Welnu, we hebben al een andere oerknal gezien die een diepgaande verandering in dat substraat heeft veroorzaakt en momenteel bevinden we ons midden in een revolutie. Er heeft een grote paradigmaverschuiving plaatsgevonden van op regels gebaseerde AI naar machine learning en van mens-machine-interface naar machine naar machine-interface. Machines kunnen echt leren van patronen en algoritmen en voortdurend beter worden, net als een menselijke baby. Reinforcement learning is het proces waarbij de machine zichzelf traint met vallen en opstaan.

We komen elke dag AI tegen en de technologie maakt snelle stappen. Dit kan de nieuwe evolutie zijn die levens op onze planeet fundamenteel kan muteren. Kunstmatige intelligentie heeft het potentieel om elk aspect van het dagelijks leven radicaal te veranderen; werk, mobiliteit, geneeskunde, economie en communicatie.

Schaakmat op de mensheid?

Denk er eens over na, je bekijkt een video op Facebook of een reel op Instagram en dan geleidelijk aan, wat er gebeurt, krijg je de suggestie van een nieuwe video van dezelfde categorie die je eerder hebt bekeken. En dan gebeurt er iets beangstigends, een reeks geautomatiseerde suggesties begint in je feeds te komen en nu zit je gevangen in die vicieuze cirkel van uren van je tijd doden door jezelf aan die cyclus te laten verwennen.

Je bent continu aan het kijken en scrollen zonder zelfs maar te beseffen dat er ergens kunstmatige intelligentie is en een algoritme dat je scrollpatroon, je kijktijd leest en analyseert, je geest oefent en je precies dat ding verzorgt dat je dwingt om meer en meer tijd door te brengen op die specifieke app. In zekere zin vertelt de intelligentie de gebruiker waar hij naar moet kijken. En dit gebeurt de hele tijd. Je krijgt suggesties wanneer je online gaat winkelen of op YouTube. En als het niet gereguleerd is, kan dit schaakmat zijn op de menselijke intelligentie.

GPT-3 (Generative Pre-Trained Transformer 3) wekt trillingen op in Silicon Valley

Stel je een AI voor die alles kan schrijven. Je voedt het gedichten van een bepaalde dichter en het zal een nieuwe schrijven met hetzelfde ritme en genre. Of het kan een nieuwsartikel schrijven (voogd heeft dat al gedaan). Het kan een artikel lezen, vragen beantwoorden uit de informatie in het artikel en zelfs het artikel voor u samenvatten en niet te vergeten dat het afbeeldingen uit de tekst kan genereren.

GPT-3 is een deep learning-algoritme dat mensachtige tekst produceert. Het is het derde generatie taalvoorspellingsmodel gemaakt door de San Francisco start-up "OpenAI", die mede werd opgericht door Elon Musk. Dit programma is beter dan enig ander programma in het produceren van tekst die door een mens geschreven zou kunnen zijn. Het is een kwantumsprong omdat het voor veel bedrijven nuttig kan zijn en een groot potentieel heeft bij het automatiseren van taken.

Het kan Java-codes schrijven door er simpelweg tekstbeschrijvingen in te plaatsen. Of wat dacht je van het maken van een nepwebsite door gewoon een URL met een beschrijving te kopiëren en plakken.

Het begon allemaal met een spel.

"Go" is misschien wel een van de meest complexe spellen die er zijn, het doel is eenvoudig; omsingel meer territorium dan je tegenstander. Dit spel wordt al 2,500 jaar door mensen gespeeld en wordt beschouwd als het oudste bordspel dat nog steeds wordt gespeeld. Het complexiteitsniveau van het spel gaat veel verder dan het feit dat er meer mogelijke zetten zijn in het spel van Go dan er atomen in het universum zijn.

Het zijn echter niet alleen mensen die dit spel nu spelen. In 2016 versloeg AlphaGo van Google Deep Mind de 18-voudig wereldkampioen Lee Sedol in vier van de vijf wedstrijden. Normaal gesproken zou een computer die een mens verslaat bij een spel als schaken of dammen niet zo indrukwekkend zijn, maar Go is anders. In landen waar dit spel erg populair is, zoals China, Japan en Zuid-Korea, is het niet zomaar een spel. Het is net als hoe je strategie leert. Het heeft een bijna spirituele component.

Dit spel ligt ver buiten het bereik van voorspellingen en kan niet met brute kracht worden opgelost. Er zijn meer dan 10 tot de 170 mogelijke zetten in het spel. Om dat in perspectief te plaatsen, er zijn slechts 10 tot 80 atomen in het waarneembare heelal. AlphaGo is getraind met behulp van gegevens van echte menselijke Go-games. Het liep door miljoenen games en leerde de gebruikte technieken en verzon zelfs nieuwe die niemand ooit had gezien.

Echter, een jaar na AlphaGo's overwinning op Lee Sedol, versloeg een gloednieuwe AI genaamd AlphaGo zero de originele AlphaGo met 100 tegen 0 games. 100 wedstrijden op rij. En het meest indrukwekkende is dat het leerde spelen zonder menselijke interactie. Het was een enorme overwinning voor deep mind en AI. Het was het beste voorbeeld van een soort intelligentie die andere soorten intelligentie versloeg.

Kunstmatige intelligentie had bewezen dat het een enorme hoeveelheid gegevens kon verzamelen, meer dan een mens aankan, en het kon gebruiken om zichzelf te leren hoe een uitkomst te voorspellen. De commerciële gevolgen zijn enorm.

De argumenten voor de aanstaande komst van AI op menselijk niveau doen doorgaans een beroep op de vooruitgang die we tot nu toe hebben gezien op het gebied van machine learning en gaan ervan uit dat dit onvermijdelijk zal leiden tot superintelligentie. Met andere woorden, maak de huidige modellen groter, geef ze meer data, en voilà: AGI.

Zal geavanceerde AI Terminators worden en de menselijke beschaving overnemen?

Tijdens de Ford Distinguished Lectures in 1960 verklaarde de econoom Herbert Simon dat machines binnen 20 jaar op gelijke voet zouden staan ​​bij het uitvoeren van elke taak die door mensen kan worden uitgevoerd. In 1961 voorspelde Claude Shannon - de grondlegger van de informatietheorie - dat robots in sciencefictionstijl binnen 15 jaar zouden verschijnen.

De wiskundige IJ Good bedacht een op hol geslagen 'intelligentie-explosie', een proces waarbij slimmer-dan-menselijke machines hun eigen intelligentie iteratief verbeteren. Good schreef in 1965 en voorspelde dat de explosie voor het einde van de twintigste eeuw zou komen. In 1993 bedacht Verner Vinge het begin van deze explosie "de singulariteit" en verklaarde dat deze binnen 30 jaar zou komen.

Ray Kurzweil verklaarde later een wet van de geschiedenis, The Law of Accelerating Returns, die de komst van de singulariteit in 2045 voorspelt. Meer recentelijk heeft Elon Musk beweerd dat superintelligentie minder dan vijf jaar verwijderd is, en academici van Stephen Hawking tot Nick Bostrom hebben hun bezorgdheid geuit over de gevaren van malafide AI.

De hype beperkt zich niet tot een handvol publieke figuren. Om de paar jaar zijn er enquêtes van onderzoekers die werkzaam zijn op het gebied van AI en vragen naar hun voorspellingen over wanneer we kunstmatige algemene intelligentie (AGI) zullen bereiken - machines die even algemeen en minstens zo intelligent zijn als mensen. Mediane schattingen van deze onderzoeken geven een kans van 10% op AGI ergens in de jaren 2020 en een kans van één op twee op AGI tussen 2035 en 2050. Toonaangevende onderzoekers in het veld hebben ook verrassende voorspellingen gedaan. De CEO van OpenAI schrijft dat computers de komende decennia "bijna alles zullen doen, inclusief nieuwe wetenschappelijke ontdekkingen doen die ons concept van 'alles' zullen uitbreiden", en de mede-oprichter van Google Deepmind dat "AI op menselijk niveau zal worden gepasseerd in het midden van de jaren 2020.”

Deze voorspellingen hebben consequenties. Sommigen hebben de komst van AGI een existentiële bedreiging genoemd en vragen zich af of we de technologische vooruitgang moeten stoppen om een ​​catastrofe te voorkomen. Anderen storten miljoenen in filantropische financiering om af te wenden AI rampen.

Mayank Vashisht | Sub-editor | ELE Times