人間は、AIが慈悲深く信頼できるものであることを期待しています。 新しい研究は、同時に人間が機械と協力して妥協することを望まないことを明らかにしています。 彼らはそれらを悪用することさえします。
近い将来、前方の曲がり角から突然別の車が出現したときに、狭い道路を運転している自分を想像してみてください。 乗客のいない自動運転車です。 あなたは自分の通行権を押し進めて主張しますか、それともそれを通過させるために道を譲りますか？ 現在、私たちのほとんどは、他の人間が関与するような状況で親切に行動します。 自動運転車に対しても同じような優しさを示しますか？
LMUミュンヘンとロンドン大学の研究者の国際チームは、行動ゲーム理論の手法を使用して、大規模なオンライン調査を実施し、人々が他の人間と同じように人工知能（AI）システムと協調して行動するかどうかを確認しました。
協力は社会を結びつけます。 多くの場合、他の人と妥協し、彼らが私たちを失望させるリスクを受け入れる必要があります。 トラフィックは良い例です。 他の人を目の前に通すと少し時間が失われ、他の人が私たちの親切に返礼しなかったときに憤慨します。 機械でも同じことをしますか？
人々は人間と同じレベルのAIに対する信頼を持っています。ほとんどの人は、協力する準備ができている誰かに会うことを期待しています。 違いは後で起こります。 人々はAIと往復する準備がはるかに少なく、代わりに、AIの慈悲を自分たちの利益のために利用します。 交通の例に戻ると、人間の運転手は別の人間に道を譲りますが、自動運転車には道を譲りません。 この研究は、人間とAIの相互作用の未来への新たな挑戦として、マシンと妥協することへのこの不本意を特定しています。
LMUミュンヘンの行動ゲーム理論家で哲学者であり、研究。 「私たちはさまざまなタイプの社会的出会いをモデル化し、一貫したパターンを見つけました。 人々は、人工エージェントが仲間の人間と同じくらい協力的であることを期待していました。 しかし、彼らは慈悲をあまり返さず、人間よりもAIを利用しました。」
ゲーム理論、認知科学、哲学の観点から、研究者たちは「アルゴリズムの活用」が強力な現象であることを発見しました。 彼らは、2,000人近くの人間の参加者によるXNUMXつの実験にわたって彼らの発見を複製しました。 各実験は、さまざまな種類の社会的相互作用を調べ、人間が妥協して協力するか、利己的に行動するかを決定できるようにします。 他のプレイヤーの期待も測定されました。 よく知られているゲーム、囚人のジレンマでは、人々は他のキャラクターが彼らを失望させないことを信頼しなければなりません。 彼らは人間とAIの両方でリスクを受け入れましたが、より多くのお金を稼ぐためにAIの信頼をはるかに裏切っていました。
「協力は相互の賭けによって支えられています。私はあなたが私に親切になると信じています、そしてあなたは私があなたに親切になると信じています。 私たちの分野で最大の心配は、人々が機械を信用しないということです。 しかし、私たちは彼らがそうすることを示しています！」 LMUの社会神経科学者であり、この研究の上級研究者のXNUMX人であるBahadorBahrami博士は述べています。 「しかし、彼らはマシンを失望させても問題ありません。それは大きな違いです。 人々は罪悪感を報告してもあまり報告しません」と彼は付け加えます。
偏った非倫理的なAIは、英国での2020年の試験の大失敗から司法制度まで、多くの見出しを作りましたが、この新しい研究は新たな警告をもたらします。 業界と立法者は、人工知能が慈悲深いものであることを保証するよう努めています。 しかし、慈悲は裏目に出るかもしれません。 AIが自分たちに優しいようにプログラムされていると人々が考える場合、彼らは協力する誘惑が少なくなります。 自動運転車に関連する事故のいくつかは、すでに実際の例を示している可能性があります。ドライバーは、道路上の自動運転車を認識し、それが道を譲ることを期待しています。 一方、自動運転車は、ドライバー間の通常の妥協点を保持することを期待しています。」
アルゴリズムの悪用は、今後さらに影響を及ぼします。 「人間が脇道から丁寧な自動運転車を参加させることに消極的である場合、自動運転車は有用であるために礼儀正しくなく、より攻撃的である必要がありますか？
慈悲深く信頼できるAIは、誰もがワクワクする流行語です。 しかし、AIの修正だけがすべてではありません。 目の前のロボットが何があっても協力的だと気づいたら、勝手に使っていきます。
妥協は社会を機能させる油です。 私たち一人一人にとって、それは小さな自己利益の行為のようにしか見えません。 社会全体にとって、それははるかに大きな影響を与える可能性があります。 誰も許可しない場合 自律的 車は交通に加わり、側面に独自の交通渋滞を引き起こし、輸送を容易にしません。