인간은 AI가 자비롭고 신뢰할 수 있기를 기대합니다. 새로운 연구에 따르면 인간은 기계와 협력하거나 타협하기를 꺼리는 것으로 나타났습니다. 그들은 심지어 그들을 착취합니다.
가까운 미래에 좁은 길을 운전하고 있을 때 갑자기 앞쪽 모퉁이에서 다른 차가 나타날 때를 상상해 보십시오. 탑승자 없이 자율주행차다. 앞으로 나아가서 통행권을 주장하시겠습니까, 아니면 통행권을 양보하시겠습니까? 현재 우리 대부분은 다른 사람이 관련된 상황에서 친절하게 행동합니다. 우리도 자율주행차에 대해 그와 같은 친절을 베풀 수 있을까요?
LMU 뮌헨과 런던 대학교의 국제 연구팀은 행동 게임 이론의 방법을 사용하여 사람들이 동료 인간과 마찬가지로 인공 지능(AI) 시스템과도 협력적으로 행동하는지 알아보기 위해 대규모 온라인 연구를 수행했습니다.
협력은 사회를 하나로 묶는다. 종종 우리는 다른 사람들과 타협하고 그들이 우리를 실망시키는 위험을 감수해야 합니다. 교통이 좋은 예이다. 우리는 다른 사람이 우리 앞에 지나가도록 놔둘 때 약간의 시간을 허비하고, 다른 사람이 우리의 친절에 보답하지 않을 때 분노합니다. 기계에도 똑같이 할 것인가?
사람들은 AI에 대해 인간과 같은 수준의 신뢰를 가지고 있습니다. 대부분은 협력할 준비가 된 사람을 만날 것으로 기대합니다. 차이점은 그 이후에 나타납니다. 사람들은 AI에 보답할 준비가 훨씬 덜 되어 있으며, 대신 자신의 이익을 위해 AI의 자비를 활용합니다. 교통 사례로 돌아가면, 인간 운전자는 다른 인간에게 양보하지만 자율주행차에는 양보하지 않습니다. 이 연구는 기계와의 타협을 꺼리는 이러한 태도를 인간-AI 상호 작용의 미래에 대한 새로운 도전으로 식별합니다.
LMU 뮌헨의 행동 게임 이론가이자 철학자이자 연구. “우리는 다양한 유형의 사회적 만남을 모델링하고 일관된 패턴을 찾았습니다. 사람들은 인공 에이전트가 동료 인간만큼 협조적일 것으로 기대했습니다. 그러나 그들은 은혜를 많이 갚지 않고 인간보다 AI를 더 많이 이용했습니다.”
게임 이론, 인지 과학, 철학의 관점을 통해 연구자들은 '알고리즘 활용'이 강력한 현상이라는 것을 발견했습니다. 그들은 거의 2,000명의 참가자를 대상으로 한 XNUMX번의 실험을 통해 결과를 재현했습니다. 각 실험은 다양한 종류의 사회적 상호 작용을 조사하고 인간이 타협하고 협력할지 아니면 이기적으로 행동할지 결정할 수 있게 해줍니다. 다른 플레이어들의 기대치도 측정되었습니다. 잘 알려진 게임인 죄수의 딜레마에서 사람들은 다른 캐릭터들이 그들을 실망시키지 않을 것이라고 믿어야 합니다. 그들은 인간과 AI 모두 위험을 감수했지만 더 많은 돈을 얻기 위해 AI의 신뢰를 훨씬 더 자주 배신했습니다.
“협력은 상호 내기를 통해 유지됩니다. 나는 당신이 나에게 친절할 것이라고 믿고, 당신은 내가 당신에게 친절할 것이라고 믿습니다. 우리 분야에서 가장 큰 걱정은 사람들이 기계를 신뢰하지 않을 것이라는 점입니다. 하지만 우리는 그들이 그렇게 한다는 것을 보여줍니다!” LMU의 사회 신경과학자이자 이번 연구의 수석 연구원 중 한 명인 Bahador Bahrami 박사는 말합니다. “그렇지만 그들은 기계를 내려놓는 데에는 문제가 없으며 그것은 큰 차이입니다. 사람들은 심지어 죄책감을 느낀다고 보고하지도 않습니다.”라고 그는 덧붙였습니다.
편향되고 비윤리적인 AI는 영국의 2020년 시험 실패부터 사법 제도에 이르기까지 많은 헤드라인을 장식했지만 이 새로운 연구는 새로운 경고를 제시합니다. 업계와 입법자들은 인공지능이 자비로운지 확인하기 위해 노력하고 있습니다. 그러나 자비는 역효과를 낳을 수 있습니다. 사람들이 AI가 자신에게 자비를 베풀도록 프로그램되어 있다고 생각하면 협력하려는 유혹이 줄어들 것입니다. 자율주행차와 관련된 사고 중 일부는 이미 실제 사례를 보여주고 있습니다. 운전자는 도로에서 자율주행차를 인식하고 그것이 양보할 것이라고 기대합니다. 자율주행차는 운전자 간의 정상적인 타협을 기대합니다.”
알고리즘 활용은 향후 더 많은 결과를 가져옵니다. “인간이 예의바른 자율주행차가 옆길에서 합류하는 것을 꺼린다면, 자율주행차가 유용하기 위해서는 덜 예의바르고 더 공격적이어야 할까요?
자비롭고 신뢰할 수 있는 AI는 모두가 열광하는 유행어입니다. 그러나 AI를 고치는 것이 전부는 아닙니다. 우리 앞에 있는 로봇이 무슨 일이 있어도 협조할 것이라는 사실을 깨닫는다면 우리는 그것을 이기적인 이익을 위해 사용할 것입니다.
타협은 사회를 작동시키는 원유입니다. 우리 각자에게 그것은 단지 작은 사리사욕의 행위처럼 보일 뿐입니다. 사회 전체로 보면 훨씬 더 큰 영향을 미칠 수 있습니다. 아무도 허락하지 않는다면 자발적인 자동차가 교통에 합류하면 측면에 교통 정체가 발생하고 운송이 더 쉬워지지 않습니다.