ปัญญาประดิษฐ์ทั่วไป (AGI) และสมมติฐานภัยคุกคามที่มีอยู่จริง

อัปเดต: 7 สิงหาคม 2021
ปัญญาประดิษฐ์ทั่วไป (AGI) และสมมติฐานภัยคุกคามที่มีอยู่จริง

ความรู้สึกของมนุษย์แสดงให้เห็นว่า Homo sapiens มีมาประมาณหกล้านปีแล้ว อย่างไรก็ตาม ลองคิดดู ถ้าโลกถูกสร้างขึ้นเมื่อหนึ่งปีที่แล้ว เผ่าพันธุ์มนุษย์ก็จะมีอายุ 10 นาที ยุคอุตสาหกรรมเริ่มต้นเมื่อ 2 วินาทีที่แล้ว พวกเรา สายพันธุ์ที่พัฒนาและฉลาดที่สุด แท้จริงแล้วเป็นแขกที่มาพักบนโลกใบนี้

จากไฟและกำมะถัน ความฉลาดของมนุษย์เป็นตัวเร่งปฏิกิริยาหลักในการบรรลุทุกสิ่งที่เราประสบความสำเร็จและทุกสิ่งที่เราใส่ใจ เห็นได้ชัดว่าวัฏจักรวิวัฒนาการของมนุษย์และโลกรอบตัวขึ้นอยู่กับการเปลี่ยนแปลงเล็กน้อยบางอย่างที่ทำให้จิตใจของมนุษย์ และแน่นอนว่ามันก้องกังวาน นั่นคือการเปลี่ยนแปลงใดๆ เพิ่มเติมที่สามารถเปลี่ยนพื้นฐานการคิดได้อย่างมีนัยสำคัญ อาจมีผลที่ตามมาอย่างมหาศาล

เราได้เห็นบิ๊กแบงอีกครั้งหนึ่ง ที่ทำให้เกิดการเปลี่ยนแปลงอย่างลึกซึ้งในสารตั้งต้นนั้น และขณะนี้ เรากำลังอยู่ท่ามกลางการปฏิวัติ มีการเปลี่ยนแปลงกระบวนทัศน์ที่สำคัญจาก AI ตามกฎเป็นการเรียนรู้ของเครื่องและจากส่วนต่อประสานระหว่างมนุษย์กับเครื่องจักรไปจนถึงส่วนต่อประสานระหว่างเครื่องจักรกับเครื่องจักร เครื่องจักรสามารถเรียนรู้จากรูปแบบและอัลกอริธึมได้จริง และปรับปรุงให้ดีขึ้นตลอดไปเช่นเดียวกับทารกมนุษย์ การเรียนรู้การเสริมกำลังเป็นกระบวนการที่เครื่องฝึกตัวเองโดยการลองผิดลองถูก

เราพบกับ AI ทุกวันและ เทคโนโลยี กำลังก้าวหน้าอย่างรวดเร็ว นี่อาจเป็นวิวัฒนาการใหม่ที่สามารถกลายพันธุ์สิ่งมีชีวิตบนโลกของเราโดยพื้นฐาน ปัญญาประดิษฐ์มีศักยภาพที่จะปฏิวัติทุกแง่มุมของชีวิตประจำวัน การงาน การเคลื่อนย้าย การแพทย์ เศรษฐกิจ และการสื่อสาร

รุกฆาตในมนุษยชาติ?

ลองคิดดู คุณดูวิดีโอบน Facebook หรือรีลบน Instagram แล้วค่อยๆ เกิดอะไรขึ้น คุณเริ่มได้รับคำแนะนำเกี่ยวกับวิดีโอใหม่ในหมวดหมู่เดียวกันกับที่คุณดูก่อนหน้านี้ แล้วสิ่งที่น่ากลัวก็เกิดขึ้น คำแนะนำอัตโนมัติแบบต่อเนื่องเริ่มเข้ามาในฟีดของคุณ และตอนนี้คุณติดอยู่ในวงจรอุบาทว์ของการฆ่าเวลาหลายชั่วโมงด้วยการทำให้ตัวเองหลงระเริงกับวงจรนั้น

คุณกำลังดูและเลื่อนไปเรื่อย ๆ โดยไม่ได้ตระหนักว่าบางแห่งมีปัญญาประดิษฐ์และอัลกอริธึมที่อ่านและวิเคราะห์รูปแบบการเลื่อนของคุณ เวลาในการรับชมของคุณ ฝึกฝนจิตใจของคุณ และเตรียมสิ่งที่คุณจะกระตุ้นให้คุณใช้เวลามากขึ้น ในแอปนั้นโดยเฉพาะ ในทางหนึ่ง สติปัญญากำลังบอกผู้ใช้ว่าต้องดูอะไร และสิ่งนี้เกิดขึ้นตลอดเวลา คุณจะได้รับคำแนะนำเมื่อไปช็อปปิ้งออนไลน์หรือบน YouTube และหากไม่ได้รับการควบคุม ก็อาจเป็นการรุกฆาตในสติปัญญาของมนุษย์

GPT-3 (Generative Pre-Trained Transformer 3) กำลังกระตุ้นแรงสั่นสะเทือนทั่วซิลิคอนแวลลีย์

ลองนึกภาพ AI ที่สามารถเขียนอะไรก็ได้ คุณป้อนบทกวีจากกวีคนใดคนหนึ่งและจะเขียนบทใหม่ที่มีจังหวะและประเภทเดียวกัน หรือจะเขียนบทความข่าวก็ได้ (ผู้ปกครองทำไปแล้ว) สามารถอ่านบทความ ตอบคำถามจากข้อมูลในบทความ หรือแม้แต่สรุปบทความให้คุณ และไม่ต้องพูดถึงว่าสามารถสร้างรูปภาพจากข้อความได้

GPT-3 เป็นอัลกอริธึมการเรียนรู้เชิงลึกที่สร้างข้อความที่เหมือนมนุษย์ เป็นรูปแบบการทำนายภาษารุ่นที่สามที่สร้างขึ้นโดย "OpenAI" ซึ่งเป็นบริษัทสตาร์ทอัพในซานฟรานซิสโก ซึ่งก่อตั้งโดย Elon Musk โปรแกรมนี้ดีกว่าโปรแกรมก่อนหน้านี้ในการสร้างข้อความที่มนุษย์สามารถเขียนได้ เป็นการก้าวกระโดดแบบควอนตัมเพราะอาจพิสูจน์ได้ว่ามีประโยชน์สำหรับหลายบริษัทและมีศักยภาพที่ดีในการทำงานอัตโนมัติ

มันสามารถเขียนโค้ดจาวาโดยเพียงแค่ใส่คำอธิบายข้อความลงไป หรือจะสร้างเว็บไซต์จำลองด้วยการคัดลอกและวาง URL พร้อมคำอธิบาย

ทุกอย่างเริ่มต้นด้วยเกม

“Go” ถือได้ว่าเป็นหนึ่งในเกมที่ซับซ้อนที่สุดที่มีอยู่ เป้าหมายนั้นเรียบง่าย ล้อมรอบอาณาเขตมากกว่าคู่ต่อสู้ของคุณ เกมนี้เล่นโดยมนุษย์มาเป็นเวลากว่า 2,500 ปีแล้ว และถือเป็นเกมกระดานที่เก่าแก่ที่สุดที่ยังคงเล่นอยู่ในปัจจุบัน ระดับความซับซ้อนของเกมไปไกลกว่าความจริงที่ว่ามีการเคลื่อนไหวที่เป็นไปได้มากกว่าในเกม Go มากกว่าที่มีอะตอมในจักรวาล

อย่างไรก็ตาม ไม่ใช่แค่มนุษย์ที่กำลังเล่นเกมนี้อยู่ในขณะนี้ ในปี 2016 AlphaGo ของ Google Deep Mind เอาชนะ Lee Sedol แชมป์โลก 18 สมัยในสี่ในห้าเกม โดยปกติ คอมพิวเตอร์ที่ตีมนุษย์ในเกมอย่างหมากรุกหรือหมากฮอสจะไม่น่าประทับใจนัก แต่ Go นั้นแตกต่างออกไป ในประเทศที่เกมนี้ได้รับความนิยมอย่างมาก เช่น จีน ญี่ปุ่น และเกาหลีใต้ สำหรับพวกเขา เกมนี้ไม่ได้เป็นเพียงเกม มันเหมือนกับว่าคุณเรียนรู้กลยุทธ์อย่างไร มันมีองค์ประกอบทางจิตวิญญาณเกือบ

เกมนี้อยู่ไกลเกินกว่าจะคาดเดาได้ และไม่สามารถแก้ไขได้ด้วยกำลังดุร้าย มีการเคลื่อนไหวที่เป็นไปได้มากกว่า 10 ถึง 170 ท่าในเกม ในมุมมองนี้ มีเพียง 10 ถึง 80 อะตอมในจักรวาลที่สังเกตได้ AlphaGo ได้รับการฝึกฝนโดยใช้ข้อมูลจากเกม Go ของมนุษย์จริงๆ มันวิ่งผ่านเกมหลายล้านเกมและเรียนรู้เทคนิคที่ใช้และสร้างเกมใหม่ที่ไม่มีใครเคยเห็น

อย่างไรก็ตาม หนึ่งปีหลังจากชัยชนะของ AlphaGo เหนือ Lee Sedol AI ใหม่ล่าสุดที่เรียกว่า AlphaGo zero เอาชนะ AlphaGo ดั้งเดิมด้วยเกม 100 ต่อ 0 เกม 100 เกมติดต่อกัน และส่วนที่น่าประทับใจที่สุดคือได้เรียนรู้วิธีการเล่นโดยไม่มีปฏิสัมพันธ์ของมนุษย์ มันเป็นชัยชนะที่ยิ่งใหญ่สำหรับจิตใจที่ลึกซึ้งและ AI มันเป็นตัวอย่างที่สำคัญของความฉลาดประเภทหนึ่งที่เอาชนะความฉลาดประเภทอื่น

ปัญญาประดิษฐ์ได้พิสูจน์แล้วว่าสามารถจัดการข้อมูลจำนวนมหาศาล เกินกว่าที่มนุษย์จะรับมือได้ และใช้มันเพื่อสอนตัวเองถึงวิธีการทำนายผลลัพธ์ นัยทางการค้ามีมหาศาล

ข้อโต้แย้งสำหรับการมาถึงของ AI ระดับมนุษย์ที่ใกล้จะเกิดขึ้นมักจะดึงดูดความก้าวหน้าที่เราเคยเห็นมาจนถึงปัจจุบันในการเรียนรู้ด้วยเครื่องและถือว่ามันจะนำไปสู่ความฉลาดหลักแหลมอย่างหลีกเลี่ยงไม่ได้ กล่าวอีกนัยหนึ่ง ทำให้โมเดลปัจจุบันใหญ่ขึ้น ให้ข้อมูลมากขึ้น และ voila: AGI

AI ขั้นสูงจะเปลี่ยนเป็นผู้ยุติและจะเข้ายึดครองอารยธรรมมนุษย์หรือไม่?

ที่ Ford Distinguished Lectures ในปี 1960 นักเศรษฐศาสตร์ เฮอร์เบิร์ต ไซมอน ประกาศว่าภายใน 20 ปี เครื่องจักรจะเทียบเท่ากับการทำงานใดๆ ที่มนุษย์ทำได้ ในปี 1961 คลอดด์ แชนนอน ผู้ก่อตั้งทฤษฎีสารสนเทศ คาดการณ์ว่าหุ่นยนต์สไตล์นิยายวิทยาศาสตร์จะปรากฎตัวภายใน 15 ปี

นักคณิตศาสตร์ IJ Good นึกถึง "การระเบิดของปัญญา" ที่หนีไม่พ้น กระบวนการที่เครื่องจักรที่ฉลาดกว่ามนุษย์จะปรับปรุงความฉลาดของตนเองซ้ำแล้วซ้ำเล่า เขียนในปี 1965 Good ทำนายว่าการระเบิดจะมาถึงก่อนสิ้นศตวรรษที่ยี่สิบ ในปี 1993 Verner Vinge ได้ก่อตั้งจุดเริ่มต้นของการระเบิดครั้งนี้ว่า “ภาวะเอกฐาน” และกล่าวว่ามันจะมาถึงภายใน 30 ปี

Ray Kurzweil ได้ประกาศกฎแห่งประวัติศาสตร์ในเวลาต่อมาว่า The Law of Accelerating Returns ซึ่งคาดการณ์การมาถึงของภาวะเอกฐานภายในปี 2045 อีกไม่นาน Elon Musk ได้อ้างว่า superintelligence อยู่ห่างออกไปไม่ถึงห้าปี และนักวิชาการจาก Stephen Hawking ถึง Nick Bostrom ได้แสดงความกังวล เกี่ยวกับอันตรายของ AI อันธพาล

โฆษณาไม่ได้ จำกัด เฉพาะบุคคลสาธารณะจำนวนหนึ่งเท่านั้น ทุก ๆ สองสามปีจะมีการสำรวจนักวิจัยที่ทำงานด้าน AI เพื่อสอบถามการคาดการณ์ว่าเราจะบรรลุปัญญาประดิษฐ์ทั่วไป (AGI) เมื่อใด ซึ่งเป็นเครื่องจักรที่ใช้งานได้ทั่วไปและอย่างน้อยก็ฉลาดพอๆ กับมนุษย์ ค่ามัธยฐานจากการสำรวจเหล่านี้ทำให้มีโอกาส 10% ของ AGI ในช่วงปี 2020 และโอกาสหนึ่งในสองของ AGI ระหว่างปี 2035 ถึง 2050 นักวิจัยชั้นนำในสาขานี้ได้คาดการณ์ที่น่าตกใจเช่นกัน CEO ของ OpenAI เขียนว่าในทศวรรษต่อๆ ไป คอมพิวเตอร์ “จะทำเกือบทุกอย่าง รวมถึงการค้นพบทางวิทยาศาสตร์ใหม่ๆ ที่จะขยายแนวคิดเรื่อง 'ทุกอย่าง' ของเรา” และผู้ร่วมก่อตั้ง Google Deepmind ว่า “AI ระดับมนุษย์จะเป็น ผ่านไปในช่วงกลางปี ​​2020”

การคาดการณ์เหล่านี้มีผลที่ตามมา บางคนเรียกการมาถึงของ AGI ว่าเป็นภัยคุกคามที่มีอยู่ โดยสงสัยว่าเราควรหยุดความก้าวหน้าทางเทคโนโลยีเพื่อหลีกเลี่ยงภัยพิบัติหรือไม่ คนอื่น ๆ กำลังทุ่มเงินหลายล้านเพื่อการกุศลเพื่อหลีกเลี่ยงการ AI ภัยพิบัติ

Mayank Vashisht | บรรณาธิการย่อย | ELE Times