Il sistema giudiziario, le banche e le aziende private utilizzano algoritmi per prendere decisioni che hanno un profondo impatto sulla vita delle persone. Sfortunatamente, questi algoritmi sono a volte distorti, influendo in modo sproporzionato sulle persone di colore e sugli individui nelle classi a basso reddito quando fanno domanda per prestiti o lavori, o anche quando i tribunali decidono quale cauzione dovrebbe essere fissata mentre una persona è in attesa di processo.
I ricercatori del MIT hanno sviluppato un nuovo linguaggio di programmazione AI in grado di valutare l'equità degli algoritmi in modo più preciso e più rapido rispetto alle alternative disponibili.
Il loro Sum-Product Probabilistic Language (SPPL) è un sistema di programmazione probabilistico. La programmazione probabilistica è un campo emergente all'incrocio tra linguaggi di programmazione e intelligenza artificiale che mira a rendere i sistemi di intelligenza artificiale molto più facili da sviluppare, con primi successi nella visione artificiale, nella pulizia dei dati di buon senso e nella modellazione automatizzata dei dati. I linguaggi di programmazione probabilistici rendono molto più facile per i programmatori definire modelli probabilistici ed eseguire inferenze probabilistiche, ovvero lavorare a ritroso per dedurre probabili spiegazioni per i dati osservati.
Esistono sistemi precedenti che possono risolvere varie questioni di equità. Il nostro sistema non è il primo; ma poiché il nostro sistema è specializzato e ottimizzato per una certa classe di modelli, può fornire soluzioni migliaia di volte più velocemente.
SPPL fornisce soluzioni rapide ed esatte a domande di inferenza probabilistica come "Quanto è probabile che il modello raccomandi un prestito a qualcuno di età superiore ai 40 anni?" o "Genera 1,000 richiedenti di prestito sintetico, tutti di età inferiore ai 30 anni, i cui prestiti saranno approvati". Questi risultati di inferenza si basano su programmi SPPL che codificano modelli probabilistici di quali tipi di candidati sono probabili, a priori, e anche su come classificarli. Le domande sull'equità a cui SPPL può rispondere includono "C'è una differenza tra la probabilità di raccomandare un prestito a un richiedente immigrato e non immigrato con lo stesso status socioeconomico?" oppure "Qual è la probabilità di un'assunzione, dato che il candidato è qualificato per il lavoro e fa parte di un gruppo sottorappresentato?"
SPPL è diverso dalla maggior parte dei linguaggi di programmazione probabilistici, poiché SPPL consente solo agli utenti di scrivere programmi probabilistici per i quali può fornire automaticamente risultati di inferenza probabilistica esatti. SPPL consente inoltre agli utenti di verificare la velocità dell'inferenza e quindi evitare di scrivere programmi lenti. Al contrario, altri linguaggi di programmazione probabilistici come Gen e Pyro consentono agli utenti di scrivere programmi probabilistici in cui gli unici modi conosciuti per fare inferenza sono approssimativi, ovvero i risultati includono errori la cui natura e grandezza possono essere difficili da caratterizzare.
L'errore da inferenza probabilistica approssimata è tollerabile in molte applicazioni di intelligenza artificiale. Ma non è auspicabile che gli errori di inferenza corrompano i risultati nelle applicazioni dell'IA di impatto sociale, come il processo decisionale automatizzato e, in particolare, nell'analisi dell'equità.
SPPL evita errori limitandosi a una classe di modelli attentamente progettata che include ancora un'ampia classe di algoritmi di intelligenza artificiale, inclusi i classificatori dell'albero decisionale ampiamente utilizzati per il processo decisionale algoritmico. SPPL funziona compilando programmi probabilistici in una struttura dati specializzata chiamata "espressione somma-prodotto". SPPL si basa ulteriormente sul tema emergente dell'utilizzo di circuiti probabilistici come rappresentazione che consente un'inferenza probabilistica efficiente. Questo approccio estende il lavoro precedente sulle reti somma-prodotto ai modelli e alle query espresse tramite un linguaggio di programmazione probabilistico. Tuttavia, Saad osserva che questo approccio presenta dei limiti: “SPPL è sostanzialmente più veloce per analizzare l'equità di un albero decisionale, ad esempio, ma non può analizzare modelli come le reti neurali. Altri sistemi possono analizzare sia le reti neurali che gli alberi decisionali, ma tendono ad essere più lenti e a fornire risposte inesatte".
SPPL mostra che l'esatta inferenza probabilistica è pratica, non solo teoricamente possibile, per un'ampia classe di programmi probabilistici. Nel mio laboratorio, abbiamo visto l'inferenza simbolica che guida la velocità e i miglioramenti dell'accuratezza in altre attività di inferenza che in precedenza ci siamo avvicinati tramite Monte Carlo approssimativo e apprendimento profondo algoritmi. Abbiamo anche applicato SPPL a programmi probabilistici appresi da database del mondo reale, per quantificare la probabilità di eventi rari, generare dati proxy sintetici dati i vincoli e vagliare automaticamente i dati per probabili anomalie.
-
electronica India e Productronica India insieme a MatDispens sono riprogrammate al 16-18 dicembre 2021
-
Honda lancia il nuovo scooter elettrico U-GO
-
Deck autorizzati per Assam State Electronics Development Corporation Limited per la connettività Internet ad alta velocità
-
Il lancio del satellite di geo-imaging "EOS-03" è previsto per il terzo trimestre del 2021
Mayank Vasisht
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtLe soluzioni di misurazione di Anritsu per le comunicazioni 5G NR all'Anritsu Test and Measurement Web Expo - Primavera 2021
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtAI e ML sbloccheranno il livello successivo nel gioco di progettazione di chip
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtL'intelligenza artificiale generale (AGI) e l'ipotesi della minaccia esistenziale reale
-
Mayank Vasishthttps://www.eletimes.com/author/mayankvashishtRealtà estesa, dissolvenza dei confini tra immaginazione e realtà