사법 제도, 은행 및 민간 기업은 알고리즘을 사용하여 사람들의 삶에 중대한 영향을 미치는 결정을 내립니다. 불행하게도 이러한 알고리즘은 때때로 편향되어 유색인종과 저소득층 개인이 대출이나 일자리를 신청할 때 또는 법원이 재판을 기다리는 동안 보석금을 결정할 때 불균형적으로 영향을 미칩니다.
MIT 연구원들은 알고리즘의 공정성을 기존 대안보다 더 정확하고 빠르게 평가할 수 있는 새로운 AI 프로그래밍 언어를 개발했습니다.
SPPL(Sum-Product Probabilistic Language)은 확률적 프로그래밍 시스템입니다. 확률적 프로그래밍은 컴퓨터 비전, 상식적인 데이터 정리 및 자동화된 데이터 모델링의 초기 성공과 함께 AI 시스템을 훨씬 쉽게 개발할 수 있도록 하는 것을 목표로 하는 프로그래밍 언어와 인공 지능의 교차점에서 새롭게 떠오르는 분야입니다. 확률적 프로그래밍 언어를 사용하면 프로그래머가 확률적 모델을 정의하고 확률적 추론을 수행하기가 훨씬 쉬워집니다. 즉, 관찰된 데이터에 대한 가능한 설명을 추론하기 위해 거꾸로 작업합니다.
다양한 공정성 문제를 해결할 수 있는 이전 시스템이 있습니다. 우리 시스템은 최초가 아닙니다. 그러나 우리 시스템은 특정 모델 클래스에 대해 특화되고 최적화되어 있기 때문에 솔루션을 수천 배 빠르게 제공할 수 있습니다.
SPPL은 "모델이 40세 이상의 사람에게 대출을 추천할 가능성은 얼마나 됩니까?"와 같은 확률적 추론 질문에 빠르고 정확한 솔루션을 제공합니다. 또는 "대출이 승인될 1,000세 미만의 합성 대출 신청자 30명을 생성합니다." 이러한 추론 결과는 지원자의 유형, 선험적 가능성 및 분류 방법에 대한 확률 모델을 인코딩하는 SPPL 프로그램을 기반으로 합니다. SPPL이 대답할 수 있는 공정성 질문에는 "동일한 사회 경제적 지위를 가진 이민자와 비이민 신청자에게 대출을 추천할 확률 사이에 차이가 있습니까?"가 포함됩니다. 또는 "후보자가 직무에 대한 자격이 있고 소수 집단에 속한 경우 채용 가능성은 얼마입니까?"
SPPL은 사용자가 정확한 확률적 추론 결과를 자동으로 제공할 수 있는 확률적 프로그램을 작성할 수만 있기 때문에 대부분의 확률적 프로그래밍 언어와 다릅니다. 또한 SPPL을 사용하면 사용자가 추론이 얼마나 빠른지 확인할 수 있으므로 느린 프로그램 작성을 피할 수 있습니다. 대조적으로, Gen 및 Pyro와 같은 다른 확률적 프로그래밍 언어를 사용하면 추론을 수행하는 유일한 알려진 방법이 근사치인 확률적 프로그램을 작성할 수 있습니다. 즉, 결과에는 특성과 크기를 특성화하기 어려운 오류가 포함됩니다.
근사 확률적 추론의 오류는 많은 AI 응용 프로그램에서 허용됩니다. 그러나 자동화된 의사 결정, 특히 공정성 분석과 같이 사회적으로 영향을 미치는 AI 응용 프로그램에서 추론 오류로 인해 결과가 손상되는 것은 바람직하지 않습니다.
SPPL은 알고리즘 의사 결정에 널리 사용되는 의사 결정 트리 분류기를 포함하여 광범위한 AI 알고리즘 클래스를 포함하는 신중하게 설계된 모델 클래스로 제한하여 오류를 방지합니다. SPPL은 확률 프로그램을 "합계 표현"이라는 특수 데이터 구조로 컴파일하여 작동합니다. SPPL은 효율적인 확률적 추론을 가능하게 하는 표현으로 확률적 회로를 사용하는 새로운 주제를 기반으로 합니다. 이 접근 방식은 확률적 프로그래밍 언어를 통해 표현된 모델 및 쿼리로 합계 제품 네트워크에 대한 이전 작업을 확장합니다. 그러나 Saad는 이 접근 방식에 한계가 있다고 지적합니다. 다른 시스템은 신경망과 의사 결정 트리를 모두 분석할 수 있지만 속도가 느리고 부정확한 답변을 제공하는 경향이 있습니다.”
SPPL은 광범위한 종류의 확률 프로그램에 대해 정확한 확률적 추론이 이론적으로만 가능한 것이 아니라 실용적임을 보여줍니다. 내 연구실에서 우리는 이전에 대략적인 몬테카를로를 통해 접근했던 다른 추론 작업에서 기호적 추론 구동 속도와 정확도 향상을 확인했습니다. 깊은 학습 알고리즘. 우리는 또한 실제 데이터베이스에서 학습한 확률 프로그램에 SPPL을 적용하여 드문 이벤트의 확률을 정량화하고 제약 조건이 주어진 합성 프록시 데이터를 생성하며 가능한 이상에 대한 데이터를 자동으로 선별합니다.
-
일렉트로니카 인디아와 프로덕트로니카 인디아, MatDispens와 함께 16년 18월 2021~XNUMX일로 일정이 변경되었습니다.
-
혼다, 새로운 U-GO 전기 스쿠터 출시
-
고속 인터넷 연결을 위한 Assam State Electronics Development Corporation Limited의 데크 정리
-
지리 영상 위성 "EOS-03", 2021년 XNUMX분기 발사 예정
마얀크 바시쉬트
-
마얀크 바시쉬트https://www.eletimes.com/author/mayankvashisht안리쓰 테스트 및 측정 웹 엑스포에서 5G NR 통신을 위한 안리쓰의 측정 솔루션 – 2021년 봄
-
마얀크 바시쉬트https://www.eletimes.com/author/mayankvashishtAI와 ML은 칩 디자인 게임의 다음 단계를 열 것입니다
-
마얀크 바시쉬트https://www.eletimes.com/author/mayankvashisht인공 일반 지능(AGI)과 실제 존재 위협 가설
-
마얀크 바시쉬트https://www.eletimes.com/author/mayankvashisht확장된 현실, 상상과 현실의 경계를 허물다