인공 일반 지능(AGI)과 실제 존재 위협 가설

업데이트: 7년 2021월 XNUMX일
인공 일반 지능(AGI)과 실제 존재 위협 가설

의인화된 감정은 호모 사피엔스가 약 10만 년 동안 존재해 왔다는 것을 암시합니다. 하지만 이렇게 생각해보면 지구가 2년 전에 창조되었다면 인류의 나이는 XNUMX분이었을 것입니다. 산업 시대는 XNUMX초 전에 시작되었습니다. 가장 진화하고 지적인 종인 우리는 실제로 최근에 이 행성에 도착한 손님입니다.

불과 유황에서 인간의 지능은 우리가 성취한 모든 것과 우리가 관심을 갖고 있는 모든 것을 달성하는 주요 촉매제였습니다. 인간과 인간을 둘러싼 세계의 진화 주기가 인간의 마음을 만든 비교적 작은 변화에 결정적으로 의존한다는 것은 분명합니다. 물론 생각의 기반을 크게 바꿀 수 있는 추가 변화는 잠재적으로 엄청난 결과를 초래할 수 있습니다.

글쎄, 우리는 이미 그 기질에 중대한 변화를 일으킨 또 다른 빅뱅을 보았고 현재 우리는 혁명의 한가운데에 있습니다. 규칙 기반 AI에서 기계 학습으로, 인간-기계 인터페이스에서 기계 대 기계 인터페이스로의 주요 패러다임 전환이 있었습니다. 기계는 실제로 패턴과 알고리즘을 통해 학습할 수 있으며 인간의 유아처럼 지속적으로 개선될 수 있습니다. 강화 학습은 기계가 시행착오를 통해 스스로 훈련하는 과정입니다.

우리는 매일 AI를 접하며, technology 빠른 진전을 보이고 있습니다. 이것은 지구상의 생명을 근본적으로 변화시킬 수 있는 새로운 진화일 수 있습니다. 인공지능은 일상생활의 모든 측면을 혁신할 수 있는 잠재력을 가지고 있습니다. 일, 이동성, 의학, 경제 및 커뮤니케이션.

인류의 체크메이트?

생각해 보세요. Facebook에서 동영상을 보거나 Instagram에서 릴을 시청한 다음 점차적으로 이전에 본 동일한 카테고리의 새로운 동영상에 대한 제안을 받기 시작합니다. 그런 다음 두려운 일이 발생합니다. 일련의 자동 제안이 피드에 들어오기 시작하고 이제 해당 주기에 빠져 시간을 허비하는 악순환에 빠지게 됩니다.

당신은 어딘가에 인공 지능과 당신의 스크롤 패턴, 당신의 시청 시간, 당신의 마음을 연습하고 분석하는 알고리즘이 있다는 것을 깨닫지도 못한 채 계속해서 보고 스크롤하고 있습니다. 그 특정 앱에서. 어떤 면에서 인텔리전스는 사용자에게 무엇을 봐야 하는지 알려줍니다. 그리고 이것은 항상 발생합니다. 온라인 쇼핑을 하거나 YouTube에서 제안을 받습니다. 그리고 규제되지 않으면 이것은 인간 지능에 대한 체크메이트가 될 수 있습니다.

GPT-3(Generative Pre-Trained Transformer 3)이 실리콘 밸리 전역에 진동을 불러일으키고 있습니다.

무엇이든 쓸 수 있는 AI를 상상해 보세요. 특정 시인의 시를 주면 같은 리듬과 장르로 새 시를 씁니다. 또는 뉴스 기사를 작성할 수 있습니다(보호자가 이미 작성했습니다). 기사를 읽고 기사의 정보에서 질문에 답하고 기사를 요약할 수 있으며 텍스트에서 그림을 생성할 수 있다는 것은 말할 것도 없습니다.

GPT-3는 사람과 유사한 텍스트를 생성하는 딥 러닝 알고리즘입니다. 엘론 머스크가 공동 창업한 샌프란시스코 스타트업 '오픈AI'가 만든 XNUMX세대 언어 예측 모델이다. 이 프로그램은 사람이 작성할 수 있는 텍스트를 생성하는 데 있어 이전의 어떤 프로그램보다 우수합니다. 많은 회사에 유용할 수 있고 작업 자동화에 큰 잠재력이 있기 때문에 비약적인 도약입니다.

단순히 텍스트 설명을 넣어 자바 코드를 작성할 수 있습니다. 아니면 설명이 있는 URL을 복사해서 붙여넣기만 하면 모크업 웹사이트를 만들어 보는 건 어떨까요?

모든 것은 게임에서 시작되었습니다.

"바둑"은 틀림없이 현존하는 가장 복잡한 게임 중 하나이며, 그 목표는 간단합니다. 상대보다 더 많은 영토를 둘러싸고 있습니다. 이 게임은 지난 2,500년 동안 인간이 플레이해 왔으며 오늘날에도 여전히 플레이되고 있는 가장 오래된 보드 게임으로 여겨집니다. 게임의 복잡성 수준은 우주에 원자가 있는 것보다 바둑 게임에서 더 많은 가능한 움직임이 있다는 바로 그 사실을 훨씬 능가합니다.

그러나 지금 이 게임을 하는 것은 인간만이 아닙니다. 2016년 구글 딥마인드의 알파고는 18경기 중 XNUMX경기에서 XNUMX회 세계 챔피언 이세돌을 이겼다. 일반적으로 체스나 체커와 같은 게임에서 컴퓨터가 사람을 이기는 것은 그다지 인상적이지 않지만 바둑은 다릅니다. 중국, 일본, 한국과 같이 이 게임이 매우 인기 있는 국가에서는 단순한 게임이 아닙니다. 전략을 배우는 것과 같습니다. 그것은 거의 영적인 요소를 가지고 있습니다.

이 게임은 예측의 범위를 훨씬 넘어서 있으며 무차별 대입으로 해결할 수 없습니다. 게임에는 10개에서 170개 이상의 가능한 움직임이 있습니다. 이를 원근법으로 고려하면 관측 가능한 우주에는 10~80개의 원자만 있습니다. AlphaGo는 실제 인간 바둑 게임의 데이터를 사용하여 훈련되었습니다. 수백만 개의 게임을 실행하고 사용된 기술을 배웠고 아무도 본 적이 없는 새로운 기술을 만들었습니다.

하지만 알파고가 이세돌을 이기고 100년 후, 알파고 제로라는 새로운 AI가 0대 100으로 오리지널 알파고를 꺾었다. 연속 XNUMX경기. 그리고 가장 인상적인 부분은 인간과의 상호작용 없이 노는 법을 배웠다는 것입니다. 딥마인드와 AI의 엄청난 승리였습니다. 그것은 한 유형의 지능이 다른 유형의 지능을 능가하는 대표적인 예였습니다.

인공 지능은 인간이 처리할 수 있는 것 이상으로 방대한 양의 데이터를 정리하고 이를 사용하여 결과를 예측하는 방법을 스스로 가르칠 수 있음을 입증했습니다. 상업적 의미는 엄청납니다.

인간 수준 AI의 임박한 도래에 대한 주장은 일반적으로 우리가 지금까지 본 기계 학습의 발전에 호소하며 필연적으로 초지능으로 이어질 것이라고 가정합니다. 즉, 현재 모델을 더 크게 만들고 더 많은 데이터를 제공하고 짜잔: AGI.

고급 AI가 터미네이터가 되어 인간 문명을 인수하게 될까요?

1960년 Ford Distinguished Lectures에서 경제학자 Herbert Simon은 20년 안에 인간이 달성할 수 있는 모든 작업을 기계가 수행할 수 있을 것이라고 선언했습니다. 1961년 정보 이론의 창시자인 Claude Shannon은 SF 스타일의 로봇이 15년 이내에 나타날 것이라고 예측했습니다.

수학자 IJ Good은 인간보다 똑똑한 기계가 반복적으로 자신의 지능을 향상시키는 과정인 폭주하는 "지능 폭발"을 생각했습니다. 1965년에 쓴 글에서 Good은 폭발이 1993세기가 끝나기 전에 도착할 것이라고 예측했습니다. 30년 Verner Vinge는 이 폭발의 시작을 "특이점"이라고 명명하고 XNUMX년 이내에 도착할 것이라고 말했습니다.

Ray Kurzweil은 나중에 2045년까지 특이점의 도착을 예측하는 역사의 법칙인 가속도의 반환 법칙을 선언했습니다. 보다 최근에 Elon Musk는 초지능이 XNUMX년도 채 남지 않았다고 주장했으며 Stephen Hawking에서 Nick Bostrom에 이르기까지 학자들은 우려를 표시했습니다. 불량 AI의 위험성에 대해

과대 광고는 소수의 공인에 국한되지 않습니다. 몇 년마다 AI 분야에서 일하는 연구원들에 대한 설문 조사가 언제 우리가 인공 일반 지능(AGI)을 달성할 것인지에 대한 예측을 묻는 설문조사가 있습니다. 이 설문조사의 중앙값 추정치는 10년대 언젠가 AGI의 확률이 2020%이고 2035년과 2050년 사이에 AGI가 발생할 확률은 2020/XNUMX입니다. 이 분야의 주요 연구원들도 놀라운 예측을 했습니다. OpenAI의 CEO는 앞으로 수십 년 동안 컴퓨터가 "'모든 것'에 대한 우리의 개념을 확장할 새로운 과학적 발견을 포함하여 거의 모든 일을 할 것"이라고 썼고 Google Deepmind의 공동 설립자는 "인간 수준 AI는 XNUMX년대 중반 통과”

이러한 예측에는 결과가 있습니다. 어떤 사람들은 AGI의 도래를 실존적 위협이라고 부르며 재앙을 피하기 위해 기술 발전을 멈춰야 하는지 궁금해합니다. 다른 사람들은 이를 방지하기 위해 수백만 달러의 자선 기금을 쏟아 붓고 있습니다. AI 재해.

Mayank Vashisht | 하위 편집기 | ELE 타임즈