AI科学者でさえ超人的な知能という考えを恐れている

1993年、コンピューター科学者でSF作家のヴァーナー・ヴィンジは、30年以内に人間を超える知能を生み出す技術が生まれるだろうと予測した。「それから間もなく、人類の時代は終わるだろう」とヴィンジは語った。

30年後、人工的に作られた、人間の能力を超える、あるいは少なくともそれに匹敵する存在というアイデアは、もはや投機家や作家の領域ではありません。多くのAI研究者や技術投資家は、彼らが人工汎用知能（AGI）と呼ぶもの、つまりあらゆる種類の知的タスクで人間レベルのパフォーマンスを発揮できる存在を求めています。人間が優れたAGIを生み出せば、「人類の時代の終わり」はもはや漠然とした遠い可能性ではなくなると、一部の研究者は考えています。

[関連: いいえ、AI チャットボットはまだ知覚力がありません]

未来学者たちは、多くの評論家が「シンギュラリティ」と呼ぶものを普及させたのはヴィンジだとよく言う。彼は、技術の進歩によって、最終的には人間の脳を超える能力を持つ存在が生まれると信じていた。それが社会に導入されると、世界は認識できないほど歪んでしまうだろう。ヴィンジ自身の言葉を借りれば、「地球上の人類の誕生に匹敵する変化」だ。

おそらく、シンギュラリティを強力な AI として想像するのが最も簡単でしょうが、ヴィンジはそれを別の形で思い描いていました。バイオテクノロジーや電子工学の強化により、人間の脳はより速く、より賢くなるよう調整され、たとえば、人間の心の直感と創造性をコンピューターのプロセッサーと情報アクセスと組み合わせることで、超人的な偉業を成し遂げるかもしれません。あるいは、もっとありふれた例として、平均的なスマートフォン ユーザーが、1993 年から来たタイムトラベラーをも驚かせるような力を持っていることを考えてみてください。

「重要なのは、科学や工学のプロセスを機械が引き継ぐようになると、進歩があまりにも速く、追いつけなくなるということだ」とルイビル大学のコンピューター科学者、ローマン・ヤンポルスキー氏は言う。

ヤンポルスキー氏はすでに、AI 研究者が信じられないほどの量の論文を急速に発表している自身の分野に、その未来の縮図を見出している。「専門家としては、もはや最先端の​​技術が何なのかわかりません」と同氏は言う。「あまりにも急速に進化しているのです」

超人的な知能とは何でしょうか?

ヴィンジ氏はシンギュラリティへの道筋を一つも示していないが、AGI はコンピュータ サイエンスを通じてそこに到達する鍵だと考える専門家もいる。一方、この用語は意味のない流行語だと反論する人もいる。一般的に、AGI はあらゆる知的作業において人間のパフォーマンスに匹敵するシステムを表す。

AGI を開発すれば、超人的な知能を生み出す未来への扉が開かれるかもしれません。研究に応用すれば、その知能は猛烈なスピードで独自の新しい発見や新しい技術を生み出す可能性があります。たとえば、現実世界のコンピューター科学者よりも優れた仮想 AI システムを想像してみてください。次に、そのシステムに、より優れた AI システムの設計を任せてみましょう。その結果、AI の能力が飛躍的に加速する可能性があると、一部の研究者は考えています。

[関連: エンジニアがついにディープニューラルネットワークの内部を覗き見る]

これは問題となるかもしれない。なぜなら、多くの AI システムがなぜそのように動作するのか、私たちは完全には理解していないからだ。この問題は永遠に消えないかもしれない。ヤンポルスキー氏の研究は、AGI が何ができるかを確実に予測することは決してできないことを示唆している。ヤンポルスキー氏の考えでは、その能力がなければ、私たちはそれを確実に制御することはできない。その結果は悲惨なものになる可能性がある、と彼は言う。

しかし、未来を予測するのは難しく、世界中のAI研究者の意見はこの問題に関してまったく一致していない。2022年半ば、シンクタンクのAI Impactは、シンギュラリティのようなシナリオの可能性について738人の研究者の意見を調査した。その結果は分かれており、33％がそのような運命は「ありそう」または「かなりありそう」と回答したのに対し、47％が「ありそうにない」または「かなりありそうにない」と回答した。

カリフォルニア大学アーバイン校のコンピューター科学者サミール・シン氏は、AGI やシンギュラリティに一貫した定義がないため、概念を実証的に検証することが難しいと語る。「これらは学術的に考えるべき興味深い事柄です」と同氏は説明する。「しかし、影響の観点から見ると、この閾値を超えることだけに基づくのではなく、社会でもっと多くのことが起こる可能性があると思います。」

実際、シン氏は、起こりうる未来に焦点を当てると、AI の失敗や愚行がすでに及ぼしている非常に現実的な影響が見えにくくなると懸念している。「AGI に投入されるリソースやこうした長期的な影響について聞くと、本当に重要な問題から目をそらしているように感じます」と同氏は言う。AI モデルが人種差別的、性差別的、事実に反する成果を生み出す可能性があることはすでによく知られている。法的な観点から見ると、AI が生成したコンテンツは著作権法やデータ プライバシー法に抵触することが多い。一部のアナリストは、AI がレイオフを誘発し、職を奪っていると非難し始めている。

「物事の実際の現実について話すよりも、『SFの目標に到達した』と話すほうがずっとエキサイティングです」とシン氏は言う。「それが私の現状であり、私が一緒に働いているコミュニティの多くもそうだと感じています。」

AGI は必要でしょうか?

AI が牽引する未来に対する反応は、モデルの構築、微調整、拡張、監視を行うコミュニティにおける、より広範な分裂の 1 つを反映している。コンピューター サイエンスの先駆者であるジェフリー ヒントン氏とヨシュア ベンジオ氏は、制御不能に陥っているように見えるこの分野について、最近、後悔と方向性の喪失を表明した。一部の研究者は、GPT-4 よりも強力な AI システムの開発を 6 か月間停止するよう求めている。

ヤンポルスキー氏は一時停止の呼びかけを支持しているが、半年、1年、2年、あるいはどんな期間でも十分ではないと考えている。同氏は明確な判断を下している。「勝つ唯一の方法は、それをしないことだ」