Salah satu ciri kemanusiaan ialah bahasa, tetapi kini, alat kecerdasan buatan baharu yang berkuasa turut mengarang puisi, menulis lagu dan mengadakan perbualan yang meluas dengan pengguna manusia. Alat seperti ChatGPT dan Gemini tersedia secara meluas dengan menekan butang—tetapi sejauh manakah kecerdasan AI ini?
Usaha penyelidikan pelbagai disiplin baharu yang diketuai bersama oleh Anna (Anya) Ivanova, penolong profesor di Sekolah Psikologi di Georgia Tech, bersama Kyle Mahowald, penolong profesor di Jabatan Linguistik di Universiti Texas di Austin, sedang berusaha untuk mendedahkan hanya itu.
Keputusan mereka boleh membawa kepada AI inovatif yang lebih serupa dengan otak manusia berbanding sebelum ini—dan juga membantu ahli sains saraf dan psikologi yang mencungkil rahsia fikiran kita sendiri.
Kajian, "Mengasingkan Bahasa dan Pemikiran dalam Model Bahasa Besar," diterbitkan dalam Trend dalam Sains Kognitif. Pracetak kertas yang lebih awal telah dikeluarkan pada Januari 2023. Pasukan penyelidik telah terus memperhalusi penyelidikan untuk penerbitan jurnal akhir ini.
"ChatGPT tersedia semasa kami memuktamadkan pracetak," jelas Ivanova. “Sepanjang tahun lalu, kami mempunyai peluang untuk mengemas kini hujah kami berdasarkan model generasi baharu ini, kini termasuk ChatGPT.”
Bentuk lawan fungsi
Kajian ini memberi tumpuan kepada model bahasa besar (LLM), yang termasuk AI seperti ChatGPT. LLM ialah model ramalan teks dan mencipta tulisan dengan meramalkan perkataan yang akan datang dalam ayat—sama seperti telefon bimbit atau perkhidmatan e-mel seperti Gmail mungkin mencadangkan perkataan yang anda mungkin mahu tulis seterusnya. Walau bagaimanapun, walaupun jenis pembelajaran bahasa ini sangat berkesan untuk mencipta ayat yang koheren, itu tidak semestinya menunjukkan kecerdasan.
Pasukan Ivanova berhujah bahawa kecekapan formal—mewujudkan ayat yang tersusun dengan baik, dari segi tatabahasa yang betul—harus dibezakan daripada kecekapan berfungsi—menjawab soalan yang betul, menyampaikan maklumat yang betul, atau berkomunikasi dengan sewajarnya. Pasukan itu juga mendapati bahawa walaupun LLM yang dilatih mengenai ramalan teks selalunya sangat baik dalam kemahiran formal, mereka masih bergelut dengan kemahiran berfungsi.
"Kita manusia mempunyai kecenderungan untuk menggabungkan bahasa dan pemikiran," kata Ivanova. “Saya fikir itu adalah perkara penting yang perlu diingat kerana kami cuba memikirkan apa yang model ini mampu, kerana menggunakan keupayaan itu untuk mahir dalam bahasa, untuk mahir dalam kecekapan formal, menyebabkan ramai orang menganggap bahawa AI juga pandai berfikir—walaupun tidak demikian.
"Ia adalah heuristik yang kami bangunkan apabila berinteraksi dengan manusia lain selama beribu-ribu tahun evolusi, tetapi kini dalam beberapa aspek, heuristik itu rosak," jelas Ivanova.
Perbezaan antara kecekapan formal dan fungsional juga penting dalam menguji keupayaan AI dengan teliti, tambah Ivanova. Penilaian selalunya tidak membezakan kecekapan formal dan berfungsi, menjadikannya sukar untuk menilai faktor yang menentukan kejayaan atau kegagalan model. Keperluan untuk membangunkan ujian yang berbeza adalah salah satu penemuan pasukan yang lebih diterima secara meluas, dan satu yang telah mula dilaksanakan oleh beberapa penyelidik dalam bidang itu.
Mewujudkan sistem modular
Walaupun kecenderungan manusia untuk menggabungkan kecekapan fungsional dan formal mungkin telah menghalang pemahaman tentang LLM pada masa lalu, otak manusia kita juga boleh menjadi kunci untuk membuka kunci AI yang lebih berkuasa.
Memanfaatkan alat neurosains kognitif semasa bersekutu pasca doktoral di Massachusetts Institute of Teknologi (MIT), Ivanova dan pasukannya mengkaji aktiviti otak dalam individu neurotipikal melalui fMRI, dan menggunakan penilaian tingkah laku individu yang mengalami kerosakan otak untuk menguji peranan kausal kawasan otak dalam bahasa dan kognisi-kedua-duanya menjalankan penyelidikan baru dan lukisan pada kajian terdahulu. Keputusan pasukan menunjukkan bahawa otak manusia menggunakan kawasan yang berbeza untuk kecekapan berfungsi dan formal, seterusnya menyokong perbezaan ini dalam AI.
“Penyelidikan kami menunjukkan bahawa di dalam otak, terdapat pemprosesan bahasa modul dan modul berasingan untuk penaakulan, "kata Ivanova. Modulariti ini juga boleh berfungsi sebagai pelan tindakan untuk membangunkan AI masa hadapan.
“Membina pandangan daripada otak manusia—di mana sistem pemprosesan bahasa sangat berbeza daripada sistem yang menyokong keupayaan kita untuk berfikir—kami berpendapat bahawa perbezaan pemikiran bahasa secara konsep penting untuk memikirkan, menilai dan menambah baik model bahasa yang besar, terutamanya memandangkan usaha baru-baru ini untuk menyemai model ini dengan kecerdasan seperti manusia, "kata bekas penasihat dan pengarang bersama kajian Ivanova Evelina Fedorenko, seorang profesor sains otak dan kognitif di MIT dan ahli Institut McGovern untuk Penyelidikan Otak.
Membangunkan AI dalam corak otak manusia boleh membantu mencipta sistem yang lebih berkuasa—sambil membantu mereka menyesuaikan diri secara lebih semula jadi dengan pengguna manusia. "Secara amnya, perbezaan dalam struktur dalaman mekanisme mempengaruhi tingkah laku," kata Ivanova. "Membina sistem yang mempunyai organisasi makroskopik yang luas yang serupa dengan otak manusia boleh membantu memastikan ia mungkin lebih sejajar dengan manusia."
Dalam dunia AI yang pesat membangun, sistem ini sudah matang untuk percubaan. Selepas pracetak pasukan diterbitkan, OpenAI mengumumkan hasrat mereka untuk menambah pemalam pada model GPT mereka.
"Sistem pemalam itu sebenarnya sangat serupa dengan apa yang kami cadangkan," tambah Ivanova. "Ia memerlukan pendekatan modulariti di mana model bahasa boleh menjadi antara muka kepada modul khusus lain dalam sistem."
Walaupun sistem pemalam OpenAI akan menyertakan ciri seperti menempah penerbangan dan memesan makanan, bukannya ciri yang diilhamkan secara kognitif, ia menunjukkan bahawa "pendekatan itu mempunyai banyak potensi," kata Ivanova.
Masa depan AI—dan perkara yang boleh diceritakan kepada kita tentang diri kita sendiri
Walaupun otak kita sendiri mungkin menjadi kunci untuk membuka kunci AI yang lebih baik dan lebih berkuasa, AI ini juga mungkin membantu kita memahami diri kita dengan lebih baik. "Apabila penyelidik cuba mengkaji otak dan kognisi, ia selalunya berguna untuk mempunyai beberapa sistem yang lebih kecil di mana anda boleh masuk dan melihat sekeliling dan melihat apa yang berlaku sebelum anda sampai kepada kerumitan yang besar," jelas Ivanova.
Walau bagaimanapun, oleh kerana bahasa manusia adalah unik, model atau sistem haiwan lebih sukar untuk dikaitkan. Di situlah LLM masuk.
"Terdapat banyak persamaan yang mengejutkan antara cara seseorang mendekati kajian otak dan kajian rangkaian saraf tiruan" seperti model bahasa yang besar, tambahnya. "Kedua-duanya adalah sistem pemprosesan maklumat yang mempunyai neuron biologi atau buatan untuk melakukan pengiraan."
Dalam banyak cara, otak manusia masih merupakan kotak hitam, tetapi AI yang tersedia secara terbuka menawarkan peluang unik untuk melihat kerja dalaman sistem sintetik dan mengubah suai pembolehubah, dan meneroka sistem yang sepadan ini tidak pernah berlaku sebelum ini.
"Ia adalah model yang sangat hebat yang kami mempunyai banyak kawalan," kata Ivanova. “Rangkaian saraf—ia menakjubkan.”
Bersama Anna (Anya) Ivanova, Kyle Mahowald, dan Evelina Fedorenko, pasukan penyelidik juga termasuk Idan Blank (University of California, Los Angeles), serta Nancy Kanwisher dan Joshua Tenenbaum (Institut Teknologi Massachusetts).