技術的特異点/シンギュラリティ【総合】避難所14 - 1691930588

24：名無しさん (ﾜｯﾁｮｲ 3dbb-8ca3)：2023/08/17(木) 00:46:26 ID:BPSiB6XA00: “AIのゴッドファーザー”が提案する、未来のAIを友好的に保つ方法
https://wired.jp/article/plaintext-geoffrey-hinton-godfather-of-ai-future-ai/

「脳のほうがこうしたデジタルな存在よりも優れているという認識がここで一気に変わったのです」とヒントンは話す。「すでにこれらのモデルは、どんな人の脳よりも1,000倍以上のことを知っています。従って、大量の知識という点においては、AIは脳よりもはるかに優れています」

いまから5～20年の間にAIシステムが人類よりも賢くなる確率は50%だと、ヒントンは考えている。それが起きたときに知る方法はあるのかと、ヒントンに尋ねた。「よい質問です」とヒントンは言う。超知能のAIシステムが、その能力の高さを人間に悟られないようにしたとしても意外ではないと、ヒントンは話す。「おそらく人類のこれまでの行動から、教えないほうがよいと学んでいるでしょう」

この発言は、人工的なシステムを擬人化しているように聞こえる。それは一般の人やジャーナリストにしないように、と科学者たちが常々忠告していることだ。「科学者が擬人化しないようにと強く注意する理由は、たいていのものの擬人化はばかばかしいからです」とヒントンは同意する。「しかし、AIは人類から学んでいるので、言語面では人のように振る舞います。従って、AIを擬人化することは理にかなっています」と語る。強力なAIという存在は、オンライン上の大量の会話を含め、人間のデジタルな集合知を元に訓練されている。従って、それが人間のように振る舞わないと考えることのほうが無理があるのだ。

会話型AIは本当の意味で人間の行動を理解できないという意見についてはどう考えているのだろうか。こうした言葉を操るロボットはコンピュータチップ上のパルスに過ぎず、世界を直接体験しているわけではない。突き詰めると、AIシステムは質問に対して統計的に合理的な回答を出力するために、ある単語に続く最も適切な単語を予測しているだけなのである。

ヒントンはこれに対し、人類も実際には世界を直接体験しているわけではないと指摘する。「一部の人は、これこそが究極の違いだと主張しています。つまり、人類には主観的な体験があるのに対してロボットにはそれがないことから、人類は本当の意味で物事を理解できるけれど、ロボットにはできないという主張です」とヒントンは説明する。「しかし、そんなのは出鱈目です。なぜなら、次の言葉を予測するためには、質問の意味を理解しなければならないからです。理解せずに次の言葉を予測することはできません。そうでしょう？もちろん、AIは次の言葉を予測するよう訓練されていますが、次の言葉を予測することで世界を理解しているのです。それが質問に答える唯一の方法ですから」

それはつまりAIにも感覚があるということだろうか？ブレイク・レモインはそのように主張したが、ヒントンの口からそのような話は聞きたくないと思った。でも、どうやらヒントンの主張は、レモインのものとは違うようだ。「最近新しく始めた仕事である哲学者としてのわたしの説明を聞いてください」と、より深いな話を始める前にヒントンは冗談交じりに言った。

「感覚や意識についてはとりあえず脇に置いておくことにしましょう。わたしたちは実際には世界を直接知覚しているわけではありません。わたしが世界に存在していると感じているものは、実際にはそこにはないのです。何が起きているかというと、人は頭に思い浮かんだものを認識しているということです。デカルトはそう考えました。次に、頭にあるものが実際の世界とどのようにつながっているのか、そして人はどのように現実世界を理解しているのかという問題があります」とヒントンは話す。人の経験は主観的であることから、機械もそれと同じように実質的に主観的だと言える経験をしている可能性は排除できないとヒントンは続ける。「この観点から考えると、AIシステムがすでに主観的な体験をしていると言っても的外れではないでしょう」

ここで機械が本当の意味で世界を理解できること、人から欺瞞をはじめとする悪い行動を学ぶこと、巨大なAIシステムは脳が処理できる何千倍もの情報を処理することができることを考慮して、AIが今後どうなるかを想像してみてほしい。あなたもヒントンのように、AIがもたらす未来について不安を抱くようになったかもしれない。

先行きの見通しを楽観視する日もあるとヒントンは話す。「人々はとても独創的です。AIは人類よりもまだ賢くないし、人のように意地悪や軽薄なことをしたり、特定の人には非常に忠実だけどほかの人に対しては不実な対応をしたりするようには進化していません。AIのこうした性質から、それを制御下におきながら善良な存在へと導ける可能性はあります」。しかし、悲観的になる日もあるという。「人類はAIを制御できないだろうと思い、人類は知性の進化の一過程に過ぎないと感じることがあります」