Le système judiciaire, les banques et les entreprises privées utilisent des algorithmes pour prendre des décisions qui ont de profonds impacts sur la vie des gens. Malheureusement, ces algorithmes sont parfois biaisés, affectant de manière disproportionnée les personnes de couleur ainsi que les personnes des classes à faible revenu lorsqu'elles demandent des prêts ou des emplois, ou même lorsque les tribunaux décident quelle caution doit être fixée pendant qu'une personne attend son procès.
Les chercheurs du MIT ont développé un nouveau langage de programmation d'IA qui peut évaluer l'équité des algorithmes plus précisément et plus rapidement que les alternatives disponibles.
Leur langage probabiliste Sum-Product (SPPL) est un système de programmation probabiliste. La programmation probabiliste est un domaine émergent à l'intersection des langages de programmation et de l'intelligence artificielle qui vise à rendre les systèmes d'IA beaucoup plus faciles à développer, avec des succès précoces dans la vision par ordinateur, le nettoyage des données de bon sens et la modélisation automatisée des données. Les langages de programmation probabilistes permettent aux programmeurs de définir plus facilement des modèles probabilistes et d'effectuer des inférences probabilistes, c'est-à-dire de travailler en arrière pour déduire des explications probables des données observées.
Il existe des systèmes antérieurs qui peuvent résoudre diverses questions d'équité. Notre système n'est pas le premier ; mais parce que notre système est spécialisé et optimisé pour une certaine classe de modèles, il peut fournir des solutions des milliers de fois plus rapidement.
SPPL donne des solutions rapides et exactes aux questions d'inférence probabiliste telles que « Quelle est la probabilité que le modèle recommande un prêt à une personne de plus de 40 ans ? ou « Générer 1,000 30 demandeurs de prêts synthétiques, tous âgés de moins de XNUMX ans, dont les prêts seront approuvés ». Ces résultats d'inférence sont basés sur des programmes SPPL qui codent des modèles probabilistes des types de candidats probables, a priori, et également de la manière de les classer. Les questions d'équité auxquelles SPPL peut répondre comprennent « Y a-t-il une différence entre la probabilité de recommander un prêt à un demandeur immigrant et non immigrant ayant le même statut socio-économique ? » ou « Quelle est la probabilité d'une embauche, étant donné que le candidat est qualifié pour le poste et issu d'un groupe sous-représenté ? »
SPPL est différent de la plupart des langages de programmation probabilistes, car SPPL permet uniquement aux utilisateurs d'écrire des programmes probabilistes pour lesquels il peut automatiquement fournir des résultats d'inférence probabilistes exacts. SPPL permet également aux utilisateurs de vérifier à quelle vitesse l'inférence sera, et donc d'éviter d'écrire des programmes lents. En revanche, d'autres langages de programmation probabilistes tels que Gen et Pyro permettent aux utilisateurs d'écrire des programmes probabilistes où les seules façons connues de faire l'inférence sont approximatives, c'est-à-dire que les résultats incluent des erreurs dont la nature et l'ampleur peuvent être difficiles à caractériser.
L'erreur provenant de l'inférence probabiliste approximative est tolérable dans de nombreuses applications d'IA. Mais il n'est pas souhaitable que des erreurs d'inférence corrompent les résultats dans les applications de l'IA à impact social, telles que la prise de décision automatisée, et en particulier dans l'analyse de l'équité.
SPPL évite les erreurs en se limitant à une classe de modèles soigneusement conçus qui comprend toujours une large classe d'algorithmes d'IA, y compris les classificateurs d'arbre de décision qui sont largement utilisés pour la prise de décision algorithmique. SPPL fonctionne en compilant des programmes probabilistes dans une structure de données spécialisée appelée « expression de produit de somme ». SPPL s'appuie en outre sur le thème émergent de l'utilisation de circuits probabilistes comme représentation permettant une inférence probabiliste efficace. Cette approche étend les travaux antérieurs sur les réseaux somme-produit aux modèles et requêtes exprimés via un langage de programmation probabiliste. Cependant, Saad note que cette approche a ses limites : « SPPL est considérablement plus rapide pour analyser l'équité d'un arbre de décision, par exemple, mais il ne peut pas analyser des modèles comme les réseaux de neurones. D'autres systèmes peuvent analyser à la fois les réseaux de neurones et les arbres de décision, mais ils ont tendance à être plus lents et à donner des réponses inexactes.
SPPL montre que l'inférence probabiliste exacte est pratique, et pas seulement théoriquement possible, pour une large classe de programmes probabilistes. Dans mon laboratoire, nous avons constaté des améliorations de la vitesse de conduite et de la précision de l'inférence symbolique dans d'autres tâches d'inférence que nous avons précédemment abordées via Monte Carlo approximatif et l'apprentissage en profondeur algorithmes. Nous avons également appliqué SPPL à des programmes probabilistes tirés de bases de données du monde réel, pour quantifier la probabilité d'événements rares, générer des données proxy synthétiques en fonction des contraintes et filtrer automatiquement les données pour détecter les anomalies probables.
-
electronica India et Productronica India ainsi que MatDispens sont reprogrammés du 16 au 18 décembre 2021
-
Honda lance le nouveau scooter électrique U-GO
-
Decks autorisé pour Assam State Electronics Development Corporation Limited pour la connectivité Internet haut débit
-
Le lancement du satellite de géo-imagerie « EOS-03 » est prévu au troisième trimestre 2021
Mayank Vashisht
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtLes solutions de mesure d'Anritsu pour les communications 5G NR à Anritsu Test and Measurement Web Expo - Printemps 2021
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtAI et ML débloqueront le prochain niveau dans le jeu de conception de puces
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtL'intelligence générale artificielle (IAG) et l'hypothèse de la menace existentielle réelle
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtRéalité étendue, estomper les frontières entre l'imagination et la réalité