O sistema judiciário, os bancos e as empresas privadas usam algoritmos para tomar decisões que têm impactos profundos na vida das pessoas. Infelizmente, esses algoritmos às vezes são tendenciosos - afetando desproporcionalmente pessoas de cor, bem como indivíduos de classes de renda mais baixa, quando se candidatam a empréstimos ou empregos, ou mesmo quando os tribunais decidem que fiança deve ser definida enquanto uma pessoa aguarda o julgamento.
Os pesquisadores do MIT desenvolveram uma nova linguagem de programação de IA que pode avaliar a justiça dos algoritmos com mais exatidão e rapidez do que as alternativas disponíveis.
Sua Sum-Product Probabilistic Language (SPPL) é um sistema de programação probabilístico. A programação probabilística é um campo emergente na interseção de linguagens de programação e inteligência artificial que visa tornar os sistemas de IA muito mais fáceis de desenvolver, com sucessos iniciais em visão computacional, limpeza de dados de bom senso e modelagem automatizada de dados. As linguagens de programação probabilística tornam muito mais fácil para os programadores definir modelos probabilísticos e realizar inferências probabilísticas - isto é, trabalhar de trás para frente para inferir explicações prováveis para os dados observados.
Existem sistemas anteriores que podem resolver várias questões de justiça. Nosso sistema não é o primeiro; mas como nosso sistema é especializado e otimizado para uma determinada classe de modelos, ele pode entregar soluções milhares de vezes mais rápido.
O SPPL oferece soluções rápidas e exatas para questões de inferência probabilística, como "Qual é a probabilidade do modelo recomendar um empréstimo a alguém com mais de 40 anos?" ou “Gerar 1,000 candidatos a empréstimos sintéticos, todos com menos de 30 anos, cujos empréstimos serão aprovados”. Esses resultados de inferência são baseados em programas SPPL que codificam modelos probabilísticos de quais tipos de candidatos são prováveis, a priori, e também como classificá-los. As perguntas de imparcialidade que o SPPL pode responder incluem “Existe uma diferença entre a probabilidade de recomendar um empréstimo a um candidato imigrante e não imigrante com o mesmo status socioeconômico?” ou “Qual é a probabilidade de uma contratação, visto que o candidato é qualificado para o trabalho e é de um grupo sub-representado?”
O SPPL é diferente da maioria das linguagens de programação probabilísticas, já que o SPPL apenas permite que os usuários escrevam programas probabilísticos para os quais ele pode fornecer resultados de inferência probabilística exata automaticamente. O SPPL também possibilita que os usuários verifiquem a velocidade da inferência e, portanto, evitem escrever programas lentos. Em contraste, outras linguagens de programação probabilísticas, como Gen e Pyro, permitem que os usuários escrevam programas probabilísticos onde as únicas maneiras conhecidas de fazer inferência são aproximadas - ou seja, os resultados incluem erros cuja natureza e magnitude podem ser difíceis de caracterizar.
O erro de inferência probabilística aproximada é tolerável em muitas aplicações de IA. Mas é indesejável que erros de inferência corrompam os resultados em aplicações de IA de impacto social, como a tomada de decisão automatizada e, especialmente, na análise de imparcialidade.
O SPPL evita erros restringindo-se a uma classe de modelos cuidadosamente projetada que ainda inclui uma ampla classe de algoritmos de IA, incluindo os classificadores de árvore de decisão que são amplamente usados para tomada de decisão algorítmica. O SPPL funciona compilando programas probabilísticos em uma estrutura de dados especializada chamada de "expressão de soma-produto". O SPPL desenvolve ainda mais o tema emergente do uso de circuitos probabilísticos como uma representação que permite uma inferência probabilística eficiente. Esta abordagem estende o trabalho anterior em redes de soma de produtos a modelos e consultas expressas por meio de uma linguagem de programação probabilística. No entanto, Saad observa que essa abordagem apresenta limitações: “O SPPL é substancialmente mais rápido para analisar a justiça de uma árvore de decisão, por exemplo, mas não pode analisar modelos como redes neurais. Outros sistemas podem analisar redes neurais e árvores de decisão, mas tendem a ser mais lentos e fornecer respostas inexatas. ”
SPPL mostra que a inferência probabilística exata é prática, não apenas teoricamente possível, para uma ampla classe de programas probabilísticos. Em meu laboratório, vimos a inferência simbólica conduzindo a velocidade e melhorias de precisão em outras tarefas de inferência que abordamos anteriormente por meio de Monte Carlo aproximado e deep learning algoritmos. Também aplicamos o SPPL a programas probabilísticos aprendidos em bancos de dados do mundo real, para quantificar a probabilidade de eventos raros, gerar dados de proxy sintéticos com base nas restrições e rastrear dados automaticamente em busca de prováveis anomalias.
-
electronica India e Productronica India junto com MatDispens são reprogramados para 16 a 18 de dezembro de 2021
-
Honda lança nova scooter elétrica U-GO
-
Decks liberados para Assam State Electronics Development Corporation Limited para conectividade de alta velocidade com a Internet
-
Satélite de geo-imagem “EOS-03” está programado para lançamento no terceiro trimestre de 2021
Mayank Vashisht
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtSoluções de medição da Anritsu para comunicações 5G NR na Anritsu Test and Measurement Web Expo - primavera de 2021
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtAI e ML irão desbloquear o próximo nível no jogo de design de chips
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtA Inteligência Artificial Geral (AGI) e a Hipótese de Ameaça Existencial Real
-
Mayank Vashishthttps://www.eletimes.com/author/mayankvashishtRealidade Estendida, Desvanecendo as Linhas entre Imaginação e Realidade