Het rechtssysteem, banken en particuliere bedrijven gebruiken algoritmen om beslissingen te nemen die een grote impact hebben op het leven van mensen. Helaas zijn die algoritmen soms bevooroordeeld - ze hebben een onevenredige impact op mensen van kleur en individuen in lagere inkomensklassen wanneer ze een aanvraag indienen voor leningen of banen, of zelfs wanneer rechtbanken beslissen welke borgtocht moet worden vastgesteld terwijl een persoon op zijn proces wacht.
MIT-onderzoekers hebben een nieuwe AI-programmeertaal ontwikkeld die de eerlijkheid van algoritmen nauwkeuriger en sneller kan beoordelen dan beschikbare alternatieven.
Hun Sum-Product Probabilistic Language (SPPL) is een probabilistisch programmeersysteem. Probabilistisch programmeren is een opkomend veld op het snijvlak van programmeertalen en kunstmatige intelligentie, dat tot doel heeft AI-systemen veel gemakkelijker te ontwikkelen te maken, met vroege successen in computervisie, gezond verstand opschonen van gegevens en geautomatiseerde gegevensmodellering. Probabilistische programmeertalen maken het veel gemakkelijker voor programmeurs om probabilistische modellen te definiëren en probabilistische gevolgtrekkingen uit te voeren - dat wil zeggen, achteruit werken om waarschijnlijke verklaringen voor waargenomen gegevens af te leiden.
Er zijn eerdere systemen die verschillende rechtvaardigheidsvragen kunnen oplossen. Ons systeem is niet het eerste; maar omdat ons systeem gespecialiseerd en geoptimaliseerd is voor een bepaalde klasse modellen, kan het duizenden keren sneller oplossingen leveren.
SPPL geeft snelle, exacte oplossingen voor probabilistische gevolgtrekkingsvragen zoals "Hoe waarschijnlijk is het dat het model een lening aanbeveelt aan iemand ouder dan 40?" of "Genereer 1,000 aanvragers van synthetische leningen, allemaal jonger dan 30 jaar, wiens leningen worden goedgekeurd." Deze gevolgtrekkingsresultaten zijn gebaseerd op SPPL-programma's die probabilistische modellen coderen van wat voor soort aanvragers a priori waarschijnlijk zijn, en ook hoe ze moeten worden geclassificeerd. Eerlijkheidsvragen die SPPL kan beantwoorden, zijn onder meer: "Is er een verschil tussen de kans dat een lening wordt aanbevolen aan een immigrant en een niet-immigrant die dezelfde sociaaleconomische status heeft?" of "Hoe groot is de kans op een aanwerving, aangezien de kandidaat gekwalificeerd is voor de baan en uit een ondervertegenwoordigde groep komt?"
SPPL verschilt van de meeste probabilistische programmeertalen, omdat SPPL gebruikers alleen probabilistische programma's laat schrijven waarvoor het automatisch exacte probabilistische inferentieresultaten kan leveren. SPPL maakt het ook mogelijk voor gebruikers om te controleren hoe snel gevolgtrekking zal zijn, en daardoor het schrijven van trage programma's te vermijden. Daarentegen stellen andere probabilistische programmeertalen zoals Gen en Pyro gebruikers in staat om probabilistische programma's op te schrijven waarbij de enige bekende manieren om gevolgtrekkingen uit te voeren bij benadering zijn - dat wil zeggen, de resultaten bevatten fouten waarvan de aard en omvang moeilijk te karakteriseren zijn.
Fouten van geschatte probabilistische gevolgtrekkingen zijn acceptabel in veel AI-toepassingen. Maar het is onwenselijk dat gevolgtrekkingsfouten de resultaten corrumperen in sociaal impactvolle toepassingen van AI, zoals geautomatiseerde besluitvorming, en vooral in eerlijkheidsanalyse.
SPPL vermijdt fouten door zich te beperken tot een zorgvuldig ontworpen klasse van modellen die nog steeds een brede klasse van AI-algoritmen bevat, inclusief de beslissingsboomclassificaties die veel worden gebruikt voor algoritmische besluitvorming. SPPL werkt door probabilistische programma's te compileren in een gespecialiseerde gegevensstructuur die een "som-productexpressie" wordt genoemd. SPPL bouwt verder op het opkomende thema van het gebruik van probabilistische circuits als een representatie die efficiënte probabilistische gevolgtrekking mogelijk maakt. Deze benadering breidt eerder werk aan som-productnetwerken uit tot modellen en vragen die worden uitgedrukt via een probabilistische programmeertaal. Saad merkt echter op dat deze aanpak beperkingen met zich meebrengt: “SPPL is aanzienlijk sneller voor het analyseren van bijvoorbeeld de eerlijkheid van een beslisboom, maar het kan geen modellen zoals neurale netwerken analyseren. Andere systemen kunnen zowel neurale netwerken als beslissingsbomen analyseren, maar die zijn meestal langzamer en geven onnauwkeurige antwoorden.”
SPPL laat zien dat exacte probabilistische gevolgtrekking praktisch is, niet alleen theoretisch mogelijk, voor een brede klasse van probabilistische programma's. In mijn laboratorium hebben we verbeteringen in de snelheid en nauwkeurigheid van symbolische inferentie gezien in andere inferentietaken die we eerder benaderden via bij benadering Monte Carlo en diepgaand leren algoritmen. We hebben SPPL ook toegepast op probabilistische programma's die zijn geleerd uit echte databases, om de kans op zeldzame gebeurtenissen te kwantificeren, synthetische proxygegevens te genereren met beperkingen en automatisch gegevens te screenen op mogelijke afwijkingen.
-
electronica India en Productronica India samen met MatDispens worden verplaatst naar 16-18 december 2021
-
Honda lanceert nieuwe U-GO elektrische scooter
-
Decks vrijgegeven voor Assam State Electronics Development Corporation Limited voor snelle internetverbinding
-
Geo-imaging-satelliet "EOS-03" staat gepland voor lancering in het derde kwartaal van 2021
Mayank Vasisht
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtAnritsu's meetoplossingen voor 5G NR-communicatie op Anritsu Test and Measurement Web Expo - lente 2021
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtAI en ML ontgrendelen het volgende niveau in Chip Design Game
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtDe kunstmatige algemene intelligentie (AGI) en de reële existentiële dreigingshypothese
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtExtended Reality, vervagen de grenzen tussen verbeelding en realiteit