各種イノベーション・新発明・新技術など - 1162819896

244：名無しさん：2015/06/27(土) 22:09:46: >>243

“人間の模倣”も根本レベルから必要
　自己複製や情報コピーという手段では、人類を滅亡させるような人工知能は存在しえないというのが松尾氏の考えのようだ。では、人工知能をもったロボットに、人間の行動を模倣させたらどうなるだろうか。人間には善良な者から凶悪な者までいる。凶悪なテロリストを人工知能ロボットが模倣したら、すぐに人類を殺戮しにかかるのではないか。

　「仮に、人間の体や頭脳を分子レベルで模倣できるとすれば、それはありうると思います。けれども、人工知能やロボットの形で、工学的に人間の行動を模倣するのであれば、やはり本能や感情を入れなければなりません。人間の行動を模倣するためには、ベースとなる感情や感覚もまた人間のそれと一緒であることが必要だと思います。そのベースがない、あるいは人間と異なるという場合、人工知能はどこまで人間を模倣できるか。私はむずかしいと思います」

　人工知能がみずからを少しでも超越する人工知能をつくるには、「そうしたい」あるいは「そうしなければならない」という欲をもつ必要があり、長い進化の歴史を通じて獲得しなければならない。それがとてつもなく実現困難なことだから、人類を滅亡するというシナリオはまずもってありえない――。松尾氏はそう考えていると理解した。

　松尾氏に「種の保存をしたいという本能をもっているかどうかが、人間と人工知能の唯一にして最大のちがいなのか」と質すと、「そう思います。唯一といってもよいのではないでしょうか」と答えた。

人間が人工知能をどう使うかは別問題
　人工知能などの技術について、松尾氏は「目的をどう設定するかと、手段としてどう使用するかはちがう話」と強調する。人間が人工知能に対して明確な目的を設定すれば、人工知能はそれを上手に達成するためのツールになるという。

　「人工知能そのものが人類を滅ぼす」というリスクとは別に、「人工知能を人間が駆使して人類に危害をあたえる」というリスクについては、従来の戦争兵器や武器の使用と同様に議論していかなければならない問題だろう。“科学・技術そのものは中立であるが、人間がどう使うかよって、人に幸福をもたらしうるものにも、不幸をもたらしうるものにもなる”という考え方がある。人工知能にも当てはまる話だ。「悪いことを考えた人間が人工知能を使うということは十分ありえると思います。ただし、人工知能が人間の上に立ってなにかをするという話ではないとは思いますが」と、松尾氏は言う。

　人工知能のリスクの側面だけを議論してきたが、研究開発者たちは逆に人工知能を社会の役に立てるということを研究目的の一つに据えている。いま「ディープラーニング」という技術の確立によって、人工知能の性能は飛躍的に向上しているという。ディープラーニングとは、人間でなくコンピュータがみずから高次の特徴量（概念をつくる上で抽出すべき特徴）を獲得するための多層的な作業のことだ。例えば、画像分析などでいままで必要だった人間の介在が不要となる。

　「例えば、機械が“目”をもつようになり、大きなものと小さなもののしわけなどをできるようになります。工場のラインなどの製造装置や、自動車の自動運転などに役立てられるものです」

　また、人工知能で人間や機械の動作の特徴などを分析する技術が高まるため、犯罪の抑制、機械の設備保守、情報システムのセキュリティ向上といった応用も考えられるという。「目的を定めると人工知能は上手くやってくれると思います」。