Sistem peradilan, bank, dan perusahaan swasta menggunakan algoritme untuk membuat keputusan yang berdampak besar pada kehidupan masyarakat. Sayangnya, algoritme tersebut terkadang bias—secara tidak proporsional berdampak pada orang kulit berwarna serta individu di kelas berpenghasilan rendah ketika mereka mengajukan pinjaman atau pekerjaan, atau bahkan ketika pengadilan memutuskan jaminan apa yang harus ditetapkan saat seseorang menunggu persidangan.
Peneliti MIT telah mengembangkan bahasa pemrograman AI baru yang dapat menilai keadilan algoritme lebih tepat, dan lebih cepat, daripada alternatif yang tersedia.
Bahasa Probabilistik Sum-Produk (SPPL) mereka adalah sistem pemrograman probabilistik. Pemrograman probabilistik adalah bidang yang muncul di persimpangan bahasa pemrograman dan kecerdasan buatan yang bertujuan untuk membuat sistem AI lebih mudah dikembangkan, dengan keberhasilan awal dalam visi komputer, pembersihan data yang masuk akal, dan pemodelan data otomatis. Bahasa pemrograman probabilistik mempermudah pemrogram untuk mendefinisikan model probabilistik dan melakukan inferensi probabilistik—yaitu, bekerja mundur untuk menyimpulkan kemungkinan penjelasan untuk data yang diamati.
Ada sistem sebelumnya yang dapat menyelesaikan berbagai pertanyaan keadilan. Sistem kami bukan yang pertama; tetapi karena sistem kami khusus dan dioptimalkan untuk kelas model tertentu, sistem kami dapat memberikan solusi ribuan kali lebih cepat.
SPPL memberikan solusi yang cepat dan tepat untuk pertanyaan inferensi probabilistik seperti “Seberapa besar kemungkinan model merekomendasikan pinjaman kepada seseorang yang berusia di atas 40 tahun?” atau “Hasilkan 1,000 pemohon pinjaman sintetis, semuanya berusia di bawah 30 tahun, yang pinjamannya akan disetujui.” Hasil inferensi ini didasarkan pada program SPPL yang mengkodekan model probabilistik tentang jenis pelamar apa, apriori, dan juga bagaimana mengklasifikasikannya. Pertanyaan keadilan yang dapat dijawab oleh SPPL antara lain “Apakah ada perbedaan antara kemungkinan merekomendasikan pinjaman kepada pemohon imigran dan non-imigran dengan status sosial ekonomi yang sama?” atau “Berapa probabilitas perekrutan, mengingat kandidat memenuhi syarat untuk pekerjaan itu dan dari kelompok yang kurang terwakili?”
SPPL berbeda dari kebanyakan bahasa pemrograman probabilistik, karena SPPL hanya memungkinkan pengguna untuk menulis program probabilistik yang secara otomatis dapat memberikan hasil inferensi probabilistik yang tepat. SPPL juga memungkinkan pengguna untuk memeriksa seberapa cepat inferensi akan terjadi, dan karenanya menghindari penulisan program yang lambat. Sebaliknya, bahasa pemrograman probabilistik lainnya seperti Gen dan Pyro memungkinkan pengguna untuk menuliskan program probabilistik di mana satu-satunya cara yang diketahui untuk melakukan inferensi adalah perkiraan — yaitu, hasilnya mencakup kesalahan yang sifat dan besarnya sulit untuk dikarakterisasi.
Kesalahan dari perkiraan inferensi probabilistik dapat ditoleransi di banyak aplikasi AI. Tetapi tidak diinginkan untuk memiliki kesalahan inferensi yang merusak hasil dalam aplikasi AI yang berdampak sosial, seperti pengambilan keputusan otomatis, dan terutama dalam analisis keadilan.
SPPL menghindari kesalahan dengan membatasi ke kelas model yang dirancang dengan hati-hati yang masih mencakup kelas algoritma AI yang luas, termasuk pengklasifikasi pohon keputusan yang banyak digunakan untuk pengambilan keputusan algoritmik. SPPL bekerja dengan mengkompilasi program probabilistik ke dalam struktur data khusus yang disebut "ekspresi jumlah-produk." SPPL selanjutnya membangun tema yang muncul menggunakan sirkuit probabilistik sebagai representasi yang memungkinkan inferensi probabilistik yang efisien. Pendekatan ini memperluas pekerjaan sebelumnya pada jaringan sum-produk ke model dan kueri yang diekspresikan melalui bahasa pemrograman probabilistik. Namun, Saad mencatat bahwa pendekatan ini memiliki keterbatasan: “SPPL secara substansial lebih cepat untuk menganalisis keadilan pohon keputusan, misalnya, tetapi tidak dapat menganalisis model seperti jaringan saraf. Sistem lain dapat menganalisis jaringan saraf dan pohon keputusan, tetapi mereka cenderung lebih lambat dan memberikan jawaban yang tidak tepat.”
SPPL menunjukkan bahwa inferensi probabilistik yang tepat adalah praktis, tidak hanya mungkin secara teoritis, untuk kelas program probabilistik yang luas. Di lab saya, kami telah melihat peningkatan kecepatan dan akurasi mengemudi inferensi simbolis dalam tugas inferensi lain yang sebelumnya kami dekati melalui perkiraan Monte Carlo dan belajar mendalam algoritma. Kami juga telah menerapkan SPPL ke program probabilistik yang dipelajari dari database dunia nyata, untuk mengukur probabilitas kejadian langka, menghasilkan data proxy sintetis yang diberi batasan, dan secara otomatis menyaring data untuk kemungkinan anomali.
-
electronica India dan Productronica India bersama dengan MatDispens Dijadwalkan Ulang hingga 16–18 Desember 2021
-
Honda Luncurkan Skuter Listrik U-GO Baru
-
Dek Dikosongkan untuk Assam State Electronics Development Corporation Limited untuk Konektivitas Internet Berkecepatan Tinggi
-
Satelit Geo-imaging “EOS-03” Dijadwalkan untuk Diluncurkan pada Kuartal Ketiga 2021
Mayank Vashisht
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtSolusi Pengukuran Anritsu untuk Komunikasi 5G NR di Anritsu Test and Measurement Web Expo – Musim Semi 2021
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtAI dan ML akan Membuka Level Selanjutnya dalam Game Desain Chip
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtKecerdasan Umum Buatan (AGI) dan Hipotesis Ancaman Eksistensial Nyata
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtRealitas yang Diperluas, Memudar Garis Antara Imajinasi dan Realitas