Kecerdasan Umum Buatan (AGI) dan Hipotesis Ancaman Eksistensial Nyata

Pembaruan: 7 Agustus 2021
Kecerdasan Umum Buatan (AGI) dan Hipotesis Ancaman Eksistensial Nyata

Sentimen antropomorfik menunjukkan bahwa Homo sapiens telah ada selama sekitar enam juta tahun. Namun, pikirkan seperti ini, jika bumi diciptakan satu tahun yang lalu, maka spesies manusia akan berumur 10 menit. Era industri dimulai 2 detik yang lalu. Kami, spesies yang paling berevolusi dan cerdas sebenarnya adalah tamu yang baru saja tiba di planet ini.

Dari api dan belerang, Kecerdasan manusia telah menjadi katalis utama dalam mencapai semua yang telah kita capai dan semua yang kita pedulikan. Jelas terbukti bahwa siklus evolusi manusia dan dunia di sekitar mereka sangat bergantung pada beberapa perubahan yang relatif kecil yang membuat pikiran manusia. Dan yang menggema, tentu saja, adalah bahwa setiap perubahan lebih lanjut yang secara signifikan dapat mengubah dasar pemikiran dapat memiliki konsekuensi yang berpotensi sangat besar.

Nah, kita telah melihat big bang lain yang telah menyebabkan perubahan besar pada substrat itu dan saat ini, kita berada di tengah-tengah revolusi. Telah terjadi pergeseran paradigma besar dari AI berbasis aturan ke pembelajaran mesin dan dari antarmuka manusia-mesin ke antarmuka mesin ke mesin. Mesin benar-benar dapat belajar dari pola dan algoritma dan terus-menerus menjadi lebih baik seperti bayi manusia. Pembelajaran penguatan adalah proses di mana mesin melatih dirinya sendiri dengan coba-coba.

Kami menghadapi AI setiap hari dan teknologi sedang membuat langkah cepat. Ini mungkin merupakan evolusi baru yang secara mendasar dapat mengubah kehidupan di planet kita. Kecerdasan buatan berpotensi merevolusi setiap aspek kehidupan sehari-hari; pekerjaan, mobilitas, kedokteran, ekonomi dan komunikasi.

Skakmat pada Kemanusiaan?

Pikirkan tentang hal ini, Anda menonton video di Facebook atau reel di Instagram dan kemudian secara bertahap apa yang terjadi Anda mulai mendapatkan saran dari beberapa video baru dari kategori yang sama yang Anda tonton sebelumnya. Dan kemudian sesuatu yang menakutkan terjadi, serangkaian saran otomatis mulai masuk ke feed Anda dan sekarang Anda terjebak dalam lingkaran setan yang menghabiskan waktu berjam-jam dengan membuat diri Anda terlibat dalam siklus itu.

Anda terus-menerus menonton dan menggulir tanpa menyadari bahwa di suatu tempat ada kecerdasan buatan dan algoritme yang membaca dan menganalisis pola pengguliran Anda, waktu menonton Anda, melatih pikiran Anda, dan melayani Anda dengan tepat hal yang akan memaksa Anda untuk menghabiskan lebih banyak waktu. pada aplikasi tertentu. Di satu sisi, kecerdasan memberi tahu pengguna apa yang harus ditonton. Dan ini terjadi sepanjang waktu. Anda mendapatkan saran saat berbelanja online, atau di YouTube. Dan jika tidak diatur, ini bisa menjadi skakmat pada kecerdasan manusia.

GPT-3 (Generative Pre-Trained Transformer 3) membangkitkan getaran di Lembah Silikon

Bayangkan saja AI yang bisa menulis apa saja. Anda memberinya puisi dari penyair tertentu dan ia akan menulis yang baru dengan ritme dan genre yang sama. Atau bisa menulis artikel berita (wali sudah melakukannya). Itu bisa membaca artikel, menjawab pertanyaan dari informasi dalam artikel dan bahkan meringkas artikel untuk Anda dan belum lagi dapat menghasilkan gambar dari teks.

GPT-3 adalah algoritma pembelajaran mendalam yang menghasilkan teks seperti manusia. Ini adalah model prediksi bahasa generasi ketiga yang dibuat oleh perusahaan rintisan San Francisco "OpenAI", yang didirikan bersama oleh Elon Musk. Program ini lebih baik daripada program sebelumnya dalam menghasilkan teks yang bisa ditulis oleh manusia. Ini adalah lompatan kuantum karena mungkin terbukti berguna bagi banyak perusahaan dan memiliki potensi besar dalam mengotomatisasi tugas.

Itu dapat menulis kode java, hanya dengan meletakkan deskripsi teks di dalamnya. Atau, bagaimana kalau membuat website moke-up hanya dengan menyalin dan menempelkan URL dengan deskripsi.

Semua berawal dari sebuah Game.

“Go” bisa dibilang salah satu game paling kompleks yang pernah ada, tujuannya sederhana; mengelilingi lebih banyak wilayah daripada lawan Anda. Permainan ini telah dimainkan oleh manusia selama 2,500 tahun terakhir dan dianggap sebagai permainan papan tertua yang masih dimainkan sampai sekarang. Tingkat kerumitan gim ini jauh melampaui fakta bahwa ada lebih banyak kemungkinan gerakan dalam gim Go daripada jumlah atom di alam semesta.

Namun, bukan hanya manusia yang memainkan game ini sekarang. Pada tahun 2016, AlphaGo dari Google Deep Mind mengalahkan juara dunia 18 kali Lee Sedol dalam empat dari lima pertandingan. Biasanya, komputer yang mengalahkan manusia dalam permainan seperti catur atau catur tidak akan begitu mengesankan, tetapi Go berbeda. Di negara-negara di mana game ini sangat populer, seperti Cina, Jepang, dan Korea Selatan, bagi mereka, ini bukan sekadar game. Ini seperti bagaimana Anda belajar strategi. Ini memiliki komponen yang hampir spiritual.

Game ini jauh di luar jangkauan prediksi dan tidak dapat diselesaikan dengan kekerasan. Ada lebih dari 10 hingga 170 kemungkinan gerakan dalam permainan. Sebagai perbandingan, hanya ada 10 hingga 80 atom di alam semesta yang dapat diamati. AlphaGo dilatih menggunakan data dari game Go manusia nyata. Itu menjalankan jutaan permainan dan mempelajari teknik yang digunakan dan bahkan membuat yang baru yang belum pernah dilihat siapa pun.

Namun, setahun setelah kemenangan AlphaGo atas Lee Sedol, AI baru bernama AlphaGo zero mengalahkan AlphaGo asli dengan 100 hingga 0 game. 100 pertandingan berturut-turut. Dan bagian yang paling mengesankan tentang itu adalah belajar bagaimana bermain tanpa interaksi manusia. Itu adalah kemenangan besar bagi deep mind dan AI. Itu adalah contoh utama dari satu jenis kecerdasan yang mengalahkan jenis kecerdasan lainnya.

Kecerdasan buatan telah membuktikan bahwa ia dapat mengumpulkan sejumlah besar data, melampaui apa pun yang dapat ditangani oleh manusia mana pun, dan menggunakannya untuk mengajari dirinya sendiri cara memprediksi suatu hasil. Implikasi komersialnya sangat besar.

Argumen untuk kedatangan AI tingkat manusia dalam waktu dekat biasanya mengacu pada kemajuan yang telah kita lihat hingga saat ini dalam pembelajaran mesin dan berasumsi bahwa itu pasti akan mengarah pada kecerdasan super. Dengan kata lain, buat model saat ini lebih besar, beri mereka lebih banyak data, dan voila: AGI.

Akankah AI Tingkat Lanjut Menjadi Terminator dan akan mengambil alih Peradaban Manusia?

Pada Ford Distinguished Lectures pada tahun 1960, ekonom Herbert Simon menyatakan bahwa dalam waktu 20 tahun mesin akan setara dalam melakukan tugas apa pun yang dapat dicapai oleh manusia. Pada tahun 1961, Claude Shannon - pendiri teori informasi - meramalkan bahwa robot gaya fiksi ilmiah akan muncul dalam waktu 15 tahun.

Ahli matematika IJ Good memahami "ledakan kecerdasan" yang tak terkendali, sebuah proses di mana mesin yang lebih pintar dari manusia secara iteratif meningkatkan kecerdasan mereka sendiri. Menulis pada tahun 1965, Good meramalkan bahwa ledakan itu akan tiba sebelum akhir abad kedua puluh. Pada tahun 1993, Verner Vinge menciptakan awal dari ledakan ini "singularitas" dan menyatakan bahwa itu akan tiba dalam waktu 30 tahun.

Ray Kurzweil kemudian mendeklarasikan hukum sejarah, The Law of Accelerating Returns, yang memprediksi kedatangan singularitas pada tahun 2045. Baru-baru ini, Elon Musk telah mengklaim bahwa superintelijen kurang dari lima tahun lagi, dan akademisi dari Stephen Hawking hingga Nick Bostrom telah menunjukkan kekhawatirannya. tentang bahaya AI nakal.

Hype tidak terbatas pada segelintir tokoh masyarakat. Setiap beberapa tahun ada survei para peneliti yang bekerja di bidang AI yang menanyakan prediksi mereka tentang kapan kita akan mencapai kecerdasan umum buatan (AGI) — mesin yang berfungsi umum dan setidaknya secerdas manusia. Perkiraan median dari survei ini memberikan peluang 10% AGI sekitar tahun 2020-an, dan peluang AGI satu-dalam-dua antara tahun 2035 dan 2050. Para peneliti terkemuka di lapangan juga telah membuat prediksi yang mengejutkan. CEO OpenAI menulis bahwa dalam beberapa dekade mendatang, komputer “akan melakukan hampir segalanya, termasuk membuat penemuan ilmiah baru yang akan memperluas konsep kami tentang 'segalanya',” dan salah satu pendiri Google Deepmind bahwa “AI tingkat manusia akan menjadi berlalu pada pertengahan 2020-an.”

Prediksi ini memiliki konsekuensi. Beberapa orang menyebut kedatangan AGI sebagai ancaman eksistensial, bertanya-tanya apakah kita harus menghentikan kemajuan teknologi untuk mencegah bencana. Yang lain menggelontorkan jutaan dana filantropi untuk mencegah AI bencana.

Mayank Vashisht | Sub-editor | Waktu ELE