人工知能(AGI)と実存的脅威仮説

更新日: 7 年 2021 月 XNUMX 日
人工知能(AGI)と実存的脅威仮説

擬人化された感情は、ホモサピエンスが約10万年前から存在していることを示唆しています。 しかし、このように考えてみてください。地球が2年前に作られたとしたら、人間の種はXNUMX分前になります。 産業時代はXNUMX秒前に始まりました。 私たち、最も進化した知的な種は、実際にこの惑星に最近到着したゲストです。

火と硫黄から、人間の知性は私たちが達成したすべてと私たちが気にかけているすべてを達成するための主要な触媒でした。 人間とその周りの世界の進化のサイクルは、人間の精神を作った比較的小さな変化に決定的に依存していることは明らかです。 そしてもちろん、それは、思考の基盤を大幅に変える可能性のあるさらなる変化が、潜在的に甚大な結果をもたらす可能性があることを反響させます。

さて、私たちはすでにその基盤に大きな変化を引き起こした別のビッグバンを見てきました、そして現在、私たちは革命の真っ只中にいます。 ルールベースのAIから機械学習へ、そしてヒューマンマシンインターフェースからマシンツーマシンインターフェースへの大きなパラダイムシフトがありました。 機械は実際にパターンとアルゴリズムから学び、人間の幼児のように永続的に良くなることができます。 強化学習は、マシンが試行錯誤によって自分自身をトレーニングするプロセスです。

私たちは毎日 AI と遭遇しており、 テクノロジー 急速な進歩を遂げています。 これは、地球上の生命を根本的に変異させる可能性のある新たな進化となる可能性があります。 人工知能は日常生活のあらゆる側面に革命を起こす可能性を秘めています。 仕事、移動、医療、経済、コミュニケーション。

人類のチェックメイト?

考えてみてください。Facebookで動画を視聴したり、Instagramでリールを視聴したりすると、以前に視聴したのと同じカテゴリの新しい動画の提案が徐々に表示され始めます。 そして、何か恐ろしいことが起こり、自動化された提案のチェーンがフィードに届き始めます。そして今、あなたはそのサイクルに夢中になって、何時間もの時間を殺すという悪循環に陥っています。

あなたは、どこかに人工知能と、スクロールパターン、総再生時間を読み取って分析するアルゴリズムがあることに気付かずに、継続的に監視およびスクロールしています。その特定のアプリで。 ある意味で、インテリジェンスはユーザーに何を見るべきかを伝えています。 そして、これは常に起こります。 オンラインショッピングやYouTubeに行くと、提案が表示されます。 そして、規制されていない場合、これは人間の知性のチェックメイトになる可能性があります。

GPT-3(Generative Pre-Trained Transformer 3)は、シリコンバレー全体で震えを引き起こしています

何でも書くことができるAIを想像してみてください。 特定の詩人から詩を送り、同じリズムとジャンルで新しい詩を書きます。 または、ニュース記事を書くこともできます(保護者はすでにそれを行っています)。 記事を読んだり、記事内の情報から質問に答えたり、記事を要約したりすることができます。テキストから画像を生成できることは言うまでもありません。

GPT-3は、人間のようなテキストを生成する深層学習アルゴリズムです。 これは、イーロン・マスクが共同設立したサンフランシスコの新興企業「OpenAI」によって作成された第三世代言語予測モデルです。 このプログラムは、人間が書いた可能性のあるテキストを作成するという点で、これまでのどのプログラムよりも優れています。 これは、多くの企業にとって有用であり、タスクの自動化に大きな可能性を秘めているため、飛躍的な進歩です。

テキストの説明を入れるだけで、Javaコードを書くことができます。 または、説明付きのURLをコピーして貼り付けるだけで、モックアップWebサイトを作成するのはどうでしょうか。

それはすべてゲームから始まりました。

「Go」は間違いなく存在する中で最も複雑なゲームの2,500つであり、その目標は単純です。 対戦相手よりも多くの領土を囲みます。 このゲームは、過去XNUMX、XNUMX年間人間によってプレイされており、現在もプレイされている最古のボードゲームであると考えられています。 ゲームの複雑さのレベルは、宇宙にある原子よりも囲碁のゲームに多くの可能な動きがあるという事実をはるかに超えています。

しかし、今このゲームをプレイしているのは人間だけではありません。 2016年、Google Deep MindのAlphaGoは、18試合中XNUMX試合でXNUMX回の世界チャンピオンの李世ドルを破りました。 通常、チェスやチェッカーのようなゲームで人間を殴るコンピューターはそれほど印象的ではありませんが、Goは異なります。 中国、日本、韓国など、このゲームが非常に人気のある国では、それは単なるゲームではありません。 それはあなたが戦略を学ぶ方法のようなものです。 それはほとんど精神的な要素を持っています。

このゲームは予測の範囲をはるかに超えており、力ずくで解決することはできません。 ゲームには10から170以上の可能な動きがあります。 それを概観すると、観測可能な宇宙には10から80個の原子しかありません。 AlphaGoは、実際の人間のGoゲームのデータを使用してトレーニングされました。 それは何百万ものゲームを実行し、使用されたテクニックを学び、誰も見たことのない新しいものを作り上げました。

しかし、AlphaGoが李世ドルに勝利してから100年後、AlphaGoゼロと呼ばれる新しいAIが0対100のゲームで元のAlphaGoを打ち負かしました。 連続XNUMXゲーム。 そして、それが人間の相互作用なしで遊ぶ方法を学んだことについての最も印象的な部分。 ディープマインドとAIにとっては大きな勝利でした。 これは、あるタイプのインテリジェンスが他のタイプのインテリジェンスを打ち負かした典型的な例でした。

人工知能は、人間が処理できるものを超えて膨大な量のデータをマーシャリングし、それを使用して結果を予測する方法を自分自身に教えることができることを証明しました。 商業的な意味合いは計り知れません。

人間レベルのAIが間もなく登場するという議論は、通常、機械学習でこれまでに見た進歩に訴え、必然的に超知能につながると想定しています。 言い換えれば、現在のモデルをより大きくし、より多くのデータを提供し、AGIを無効にします。

高度なAIはターミネーターに変わり、人間の文明を引き継ぎますか?

1960年のフォード特別講演で、経済学者のハーバート・サイモンは、20年以内に機械が人間が達成できるあらゆるタスクを実行するのに匹敵するだろうと宣言しました。 1961年、情報理論の創設者であるクロードシャノンは、サイエンスフィクションスタイルのロボットが15年以内に登場すると予測しました。

数学者のIJグッドは、暴走する「知性の爆発」を考案しました。これは、人間よりも賢い機械が繰り返し自分の知性を向上させるプロセスです。 1965年に書いたグッドは、爆発は1993世紀の終わりまでに到着すると予測しました。 30年、ヴァーナーヴィンジはこの爆発の始まりを「特異点」と名付け、XNUMX年以内に到着すると述べました。

レイ・カーツワイルは後に歴史の法則、2045年までに特異点の到着を予測する収穫加速の法則を宣言しました。最近では、イーロン・マスクは超知能がXNUMX年以内にあると主張し、スティーブン・ホーキングからニック・ボストロムまでの学者が懸念を示しています不正なAIの危険性について。

誇大宣伝は一握りの公人に限定されていません。 数年ごとに、AI分野で働いている研究者の調査があり、人工知能(AGI)(汎用で、少なくとも人間と同じくらいインテリジェントな機械)をいつ達成するかについての予測を求めています。 これらの調査からの中央値の推定値は、10年代のある時点でAGIの2020%の確率、および2035年から2050年の間にAGIの2020分のXNUMXの確率を示します。この分野の主要な研究者も驚くべき予測を行いました。 OpenAIのCEOは、今後数十年で、コンピューターは「「すべて」の概念を拡張する新しい科学的発見を行うことを含め、ほぼすべてを行う」と述べ、GoogleDeepmindの共同創設者は「人間レベルのAIはXNUMX年代半ばに通過しました。」

これらの予測には結果があります。 AGIの到来を実存的脅威と呼び、大惨事を回避するために技術の進歩を止めるべきかどうか疑問に思う人もいます。 他の人々は、回避に向けて何百万もの慈善資金を注ぎ込んでいます AI 災害。

マヤンクヴァシシュト| サブエディター| ELEタイムズ