司法制度、銀行、民間企業は、アルゴリズムを使用して、人々の生活に深刻な影響を与える決定を下します。 残念ながら、これらのアルゴリズムには偏りがある場合があります。ローンや仕事に応募するとき、または裁判所が裁判を待つ間にどの保釈金を設定すべきかを決定するときでさえ、有色人種や低所得層の個人に不釣り合いに影響を与えます。
MITの研究者は、利用可能な代替手段よりも正確かつ迅速にアルゴリズムの公平性を評価できる新しいAIプログラミング言語を開発しました。
彼らのSum-ProductProbabilistic Language（SPPL）は、確率的プログラミングシステムです。 確率的プログラミングは、プログラミング言語と人工知能が交差する新しい分野であり、コンピュータービジョン、常識的なデータクリーニング、自動データモデリングで初期の成功を収め、AIシステムの開発をはるかに容易にすることを目的としています。 確率的プログラミング言語を使用すると、プログラマーは確率的モデルを定義し、確率的推論を実行することがはるかに簡単になります。つまり、観測データの可能性のある説明を推論するために逆方向に作業します。
さまざまな公平性の問題を解決できる以前のシステムがあります。 私たちのシステムは最初ではありません。 しかし、私たちのシステムは特定のクラスのモデルに特化して最適化されているため、ソリューションを数千倍速く提供できます。
SPPLは、「モデルが40歳以上の人にローンを推奨する可能性はどのくらいありますか？」などの確率的推論の質問に対して、迅速で正確なソリューションを提供します。 または「ローンが承認される、すべて1,000歳未満の30人の合成ローン申請者を生成します。」 これらの推論結果は、どのような種類の応募者である可能性が高いか、アプリオリ、およびそれらを分類する方法の確率モデルをエンコードするSPPLプログラムに基づいています。 SPPLが回答できる公平性の質問には、「同じ社会経済的地位を持つ移民と非移民の申請者にローンを推奨する確率に違いはありますか？」が含まれます。 または「候補者がその仕事に適格であり、過小評価グループからのものであるとすると、採用の可能性はどのくらいですか？」
SPPLは、正確な確率的推論結果を自動的に提供できる確率的プログラムの作成のみをユーザーに許可するため、ほとんどの確率的プログラミング言語とは異なります。 SPPLを使用すると、ユーザーは推論の速度を確認できるため、遅いプログラムの作成を回避できます。 対照的に、GenやPyroなどの他の確率的プログラミング言語では、ユーザーは、推論を行うための既知の方法が近似的である確率的プログラムを書き留めることができます。つまり、結果には、性質と大きさを特徴付けることが難しいエラーが含まれます。
近似確率推論からのエラーは、多くのAIアプリケーションで許容できます。 しかし、自動化された意思決定、特に公平性分析など、社会的に影響力のあるAIのアプリケーションで結果を損なう推論エラーが発生することは望ましくありません。
SPPLは、アルゴリズムによる意思決定に広く使用されているデシジョンツリー分類子を含む幅広いクラスのAIアルゴリズムを含む、慎重に設計されたクラスのモデルに制限することで、エラーを回避します。 SPPLは、確率的プログラムを「sum-product式」と呼ばれる特殊なデータ構造にコンパイルすることによって機能します。 SPPLはさらに、効率的な確率的推論を可能にする表現として確率的回路を使用するという新たなテーマに基づいています。 このアプローチは、和積ネットワークに関する以前の作業を、確率的プログラミング言語を介して表現されたモデルとクエリに拡張します。 ただし、Saadは、このアプローチには制限があると述べています。「たとえば、SPPLは、意思決定ツリーの公平性を分析する場合に大幅に高速ですが、ニューラルネットワークのようなモデルを分析することはできません。 他のシステムはニューラルネットワークとデシジョンツリーの両方を分析できますが、速度が遅く、不正確な答えを出す傾向があります。」
SPPLは、正確な確率的推論が、理論的に可能であるだけでなく、幅広いクラスの確率的プログラムにとって実用的であることを示しています。 私の研究室では、以前に近似モンテカルロと 深い学習 アルゴリズム。 また、SPPLを実際のデータベースから学習した確率的プログラムに適用して、まれなイベントの確率を定量化し、制約が与えられた合成プロキシデータを生成し、可能性のある異常についてデータを自動的にスクリーニングしています。
-
electronicaIndiaとProductronicaIndia、およびMatDispensは、16年18月2021〜XNUMX日に再スケジュールされます。
-
ホンダが新しいU-GO電動スクーターを発売
-
高速インターネット接続のためにAssamState Electronics Development CorporationLimitedのデッキがクリアされました
-
ジオイメージング衛星「EOS-03」は2021年第XNUMX四半期に打ち上げられる予定です
マヤンクヴァシシュト
-
マヤンクヴァシシュトhttps://www.eletimes.com/author/mayankvashishtアンリツのテストおよび測定WebExpoでの5GNR通信向けのアンリツの測定ソリューション– 2021年春
-
マヤンクヴァシシュトhttps://www.eletimes.com/author/mayankvashishtAIとMLがチップデザインゲームの次のレベルのロックを解除します
-
マヤンクヴァシシュトhttps://www.eletimes.com/author/mayankvashisht人工知能（AGI）と実存的脅威仮説
-
マヤンクヴァシシュトhttps://www.eletimes.com/author/mayankvashishtエクステンデットリアリティ、想像力と現実の間の境界線を弱める