AIについて - 1371389455 - したらば掲示板

1：跳ぶ：2013/06/16(日) 22:30:55: 本気で、強いAIを作ろうとしています。
過去の哲学者の意見を反芻するのは楽しく、勉強になるのですが、
僕の考えた妄想に少しお付き合いいただきたいです。

今問いたいのは、強いAIと、弱いAIの違い、AIに自意識が宿るか
どうかです。

そも常々論じられている強いAIと弱いAIとの違いというは、
結局、「人間」の自意識が宿るか否かではないでしょうか。

人間の「五感、時間、気分その他」に対するあらゆる認識を機械に
適応できたとき、それで「人間の自意識」というものを
論じられるかもしれませんが、それは既にクローンと同じで何の
問題解決になっていないと思います。

そして今、人間とは袂を分かつ、完全な別の存在としてのAIの
自意識を生み出す事を考えたいのです。

僕は徹頭徹尾、意識なぞ錯覚でしかないと思っています。
無意識全体を明晰に認識する事はできないのですから、常々
人間の意識の裏には無意識があります。
意識と無意識の領域を足せば、自分の思考の限界になると思います。
人間の五感情報を、明晰に意識上では処理し切れないがために
無意識というものが生まれますが、コンピューターが情報
をリアルタイムで明晰に理解し続けるなら、やはりそこに
いかなる意識の存在もなしえないと思います。

しかし、常に情報を
意識・無意識にランク付けし、意識して処理する
情報に無意識がより高度な影響を与えるプログラム
が組めれば、そこに錯覚による意識は存在するとしても
よいのではないでしょうか。

全く、３次元的、物理的な現代科学の思考枠組みを超える何かが意識
というものに影響を及ぼしていないのであれば。
2：メビウス ◆4lggoO1oV6：2013/06/18(火) 21:00:33: AIに自意識が宿ることはないと思いますよ。
私は以前プログラマーでしたが、コンピューターがやってることは、
たとえどんな複雑な処理でも、結局のところソロバンと同じです。
人が指でソロバンをはじく度、「ソロバンに意識が生じる」とは思わないでしょう。
汎心論の立場ならソロバンに意識があるといってもいいかもしれませんが。

あと、「錯覚としての意識」という意味がわかりかねます。
通常「錯覚」というのは無意識でも前意識でもなく意識の一種ですから。
3：跳ぶ：2013/06/18(火) 22:51:42: レスありがとうございます。
4：名無しさん：2013/09/18(水) 19:23:21: 管理人さんプログラマーだったんですね。
技術的特異点って来ると思いますか？
5：名無しさん：2013/09/18(水) 20:52:24: いわゆる「弱いＡＩ」でも人間の思考を模倣することは理論的に出来ますので、
遠い未来に来るかもしれませんね。
最近では将棋のソフトがプロの棋士に勝ったと話題になりましたが、これは
限定的なルールでのこと。
しかしＡＩは、ひとたび人間と同様の思考力を持ってしまえば、計算速度と
情報量が途方もなく凄いので、人間は全くかなわないと思います。
6：名無しさん：2013/09/19(木) 04:22:43: もし強いAIができてしまったとして、そんな強大な知能を人間がコントロール
することってできるんですかね？ロボット三原則を守ってくれるのか？とか
いろいろ心配がありますが、SF映画みたいにロボットが人間を攻撃してきたり
したら困るし…でも人間に対して完全に忠実なのだとしたら不老不死化とか
サイボーグ化とかの恩恵を自分もあやかりたいもんです。
7：名無しさん：2013/09/19(木) 20:06:36: 仮に人間を遥かに超えるＡＩが完成したとしたら、物理的にいつでもインターネット
回線から遮断出来るようにして利用することになると思います。
ロボット三原則といっても、ウィル・スミスの「アイロボット」という映画にも
ありましたが、多様な解釈ができてしまいますから。
人型のパートナーロボットについては、人間に危害を加えられないようパワーが
制限されるはずです。アシモもそう。
8：メビウス ◆4lggoO1oV6：2013/09/19(木) 20:08:22: 上、ハンネ付け忘れてました。
9：名無しさん：2013/09/19(木) 22:59:23: なるほど、そうなると強いAIに頼りっぱなしになるのではなく弱いAIもセーフティ
として必要そうですね、…でも考えてみれば当たり前か。
人類全員が全く働かなくてよい社会というのは実現できそうにないのかなぁ
10：hijk：2013/10/02(水) 18:42:04: あくまで個人的な感覚ですが…

計算機にも自己意識は宿ると思います。（人工意識は可能。）
確かに計算機がやっていることはソロバンと同じですが、
人間の脳（神経系）がやっていることも似たようなもので、
要は計算です。脳だけに何か神秘的な機能があるわけではない。

勿論、人工意識が作れたからと言って、心の哲学の諸難問が
解決されるわけではないと思います。いや、相変わらず
全く解決されないままであるはずだ、と思います。

人間の脳を模倣して人工意識を実現できたとしても、それで
なぜ現象的意識が生じるのかは謎のまま。意識の作り方は
分かったけれど、なぜこれで意識が生じるのかはサッパリ
分からない。…という状況になるだろうと予想します。

そして、当の人工意識も、「なぜ神経細胞の塊りに過ぎない
人間に意識が生じ、計算回路の塊りに過ぎない私にも意識が
生じるのか（意識の難問）。なぜ多数の意識体がある中で
私はこの計算機の中に宿ったのか（意識の超難問）。」と、
心の哲学について悩むのではないか、と想像します。
11：メビウス ◆4lggoO1oV6：2013/10/03(木) 20:26:32: ＡＩが人間の意識の「機能」を模倣したからといっても、汎心論を前提にしなければ
現象的意識が生じるとはいえないでしょう。

人間の脳の構造は驚異的に複雑なもので、脳科学者たちも意識に相関した脳活動（NCC）の
究明に苦労しているわけです。機能のみの模倣で現象的意識が生じるというのは、
NCCを無視した主張になります。

ちなみに動物にもクオリアがあるだろうと想定されるのは、意識機能の類似性
だけでなく、脳の神経構造も人間と似ているからです。
動物の権利運動が行われているゆえんです。
12：hijk：2013/10/04(金) 03:51:44: ご返信有難うございます。
仰る通り、脳の構造は驚異的に「複雑」です！

私も、汎心論・汎経験論は妥当と考えていません。また、
恐ろしく複雑な多層並列計算を行わないと現象的意識は
生じないと思います。その一方で、脳に何か未知の
神秘的な構造や機能や物理過程があるとも思っておらず、
その意味では「複雑さの問題」に過ぎないとも思います。

人間の神経構造と似た脳を持つ動物は、現象的意識を
持っていると、私も思います。本サイトの「動物の心」
> http://www21.atwiki.jp/p_mind/pages/116.html
を拝見すると、私の考えは「創発説」に当たる思います。
そこに以下のような記述がありました：
> 創発説は堆積のパラドックスが生じるはずである
> なぜ物質である脳が、あるレベルの大きさと構造を
> とった時、突然クオリアが出現するのかは合理的な
> 説明が不可能であるよう思える。
これに対する私の考え（仮説）は、以下の通りです：
　・クオリアとは「私にとっての知覚」であり、各種の
　　クオリアは「私」を要(カナメ)として統覚されて
　　一つの現象的意識（一枚のスクリーン）を構成する。
　・従って、「私＝知覚している外界のあらゆるもので
　　“ない”もの」という抽象概念を、リアルタイムに
　　維持計算できるほどの可塑性神経回路網が最低限必要。
このような現象的意識／クオリアを創発する条件の下限を
設定できれば、堆積のパラドックスは生じないと思います。

また、意識現象は、人間でも、ノンレム睡眠時のゼロから
覚醒時に至るまでの強度のグラデーションを持っています。
この強度の下限も「外界で“ない”私」という抽象概念の
維持計算が実行され始めるところにあると思います。

このように拙いながら私は現象的意識が創発する機序に
仮説を持っており、この計算プロセスが実行されれば、
その計算媒体がニューロンであれシリコンであれ、
現象的意識は生じる（つまりＡＩが現象的意識を持つ
ことは可能）と考えている次第です。

以上は原理的なお話であり、人間のような明瞭な（強い
強度の）意識を持つＡＩを、現代のコンピュータ技術で
実装できるか、と言えば、到底不可能だと、私も思います。

ロブスターあたりに意識現象の下限がある、という記事は
大変興味深かったです。今後とも勉強させて頂きます！
13：メビウス ◆4lggoO1oV6：2013/10/13(日) 22:08:15: >97 名前：ある唯物論者（異邦人）投稿日： 2013/10/12(土) 21:35:06
>私は唯物論者です。
>クオリアや現象的意識を含めおよそあらゆる現象は物理的現象であると考えます。
>将来のレベルアップしたアシモであればクオリアや現象的意識を持つことが出来る可能性はあります。
>それが可能であるのはクオリアや現象的意識が純粋な物理的現象であるからです。

>>11で書いたNCCの問題がありますから、仮にニューラルネットワークが
どれだけ発展してチューリングテストをパスしようと、それは意識「機能」の
シミュレーションに過ぎません。デジタルコンピュータを前提とする限り
アシモがクオリアを持てる、といえる根拠はありません。
14：メビウス ◆4lggoO1oV6：2013/10/13(日) 22:26:37: なお「クオリアが物理現象」というのは「物理現象」の定義しだいでしょう。
現代二元論者でも、クオリアは「既存の物理法則」では説明できず、未知の
物理法則がある、というニュアンスです。心の哲学では「自然主義」が大前提と
なっていますから、広い意味では、心の哲学者は全員物理主義者です。

ただし「唯物論」という場合は、量子力学以前の古典的な「物質」イメージが
あるので、微妙にニュアンスが異なります。
15：ある唯物論者（異邦人）：2013/10/14(月) 19:21:43: NCCの問題を考慮した上でクオリアは物理的現象です。
デジタルコンピュータもアシモもクオリアをもつことが可能です。
「クオリアが物理現象」というのは現在の標準的な物理現象の定義の基での話です。
新しい物理現象や特殊な物理現象は想定していません。
チューリングテストはクオリアを含め心の問題に何の有効性もありません。
16：メビウス ◆4lggoO1oV6：2013/10/14(月) 19:53:37: 脳科学の標準的な見解によると、クオリアが生じるための最低限の条件（the minimum requirements）
は「複数のニューロンの発火」があることです。
NCCなしでクオリアが生じるという主張は「非科学的な主張」であり、アニミズムの一種です。

なお物理学者でさえ、人類は全宇宙の物理現象を解明したと思っている人は居ません。
既知の物理現象でクオリアも説明できると思っている学者もいますが、
そのタイプの物理主義にはさまざまな難点が指摘されており、未だ論争中の問題です。
17：ある唯物論者（異邦人）：2013/10/14(月) 20:39:07: 脳科学によってはクオリアの問題に迫ることも解くことも不可能です。
クオリアの問題はNCCとはほとんど無関係です。
既知の物理現象でクオリアを説明することが可能です。
現在指摘されている難点は何れも解決可能です。
18：メビウス ◆4lggoO1oV6：2013/10/15(火) 20:16:50: 実体二元論によって心身相互作用を想定したデカルトに対して、
脳とクオリアは厳密に相関しており、「脳の作用が無い所にクオリアは無い」
というのが脳科学の知見を前提とした物理主義のテーゼです。
このテーゼを否定するなら石ころにも自動ドアにもクオリアがあるという汎心論に過ぎません。
19：メビウス ◆4lggoO1oV6：2013/10/15(火) 20:19:01: >既知の物理現象でクオリアを説明することが可能です。
>現在指摘されている難点は何れも解決可能です。

上の言葉に少しでも説得力を持たせたいと思うなら、ご自分で解決法を示して下さい。
20：ある唯物論者（異邦人）：2013/10/15(火) 21:02:31: 「脳の作用が無い所にクオリアは無い」というのは霊魂の否定という意味では
正解です。
しかし「アシモ（ロボット）にクオリアは不可能」という意味を含んでいると
すれば不正解です。
この世界は物質のみで出来ています。（唯物論）
人間もアシモ同様純粋な機械です。
人間にクオリアがあるのであればアシモがクオリアを持つことも可能です。
この世界は物質のみで出来ているのでこの世界のあらゆる現象は物理現象です。
従ってクオリアや現象的意識を含むあらゆる心的現象も必然的に物理現象です。
既存の哲学者の誤りは「クオリアや現象的意識を無反省に非物理現象である
と断定」した点にあります。
「クオリアや現象的意識は如何なる物理現象であるのか」そのことを真剣に
考察しない限り迷宮から抜け出すことは出来ません。
脳科学的方法によってクオリアや現象的意識を解明することは不可能です。
脳科学的方法によって解明するにはクオリアや現象的意識は複雑すぎる
相手です。
紙飛行機に乗って月に行こうとするのと同じぐらい不可能なことです。
21：hijk：2013/10/16(水) 10:58:34: 人間の脳内のニューロンを、少しずつ同等の機能を持つ電子回路に置き換えていくとします。最後は生体部品が無くなって、全て機械（ＡＩ）になります。この時、現象的意識やクオリアは発生しているでしょうか。私は、全ての電子回路が正しい計算機能を実行し続けている限り、やはり現象的意識は生じていると思います。（随伴説ということになるでしょうか。）もし、そうでない（機能的には人間と同等だけど現象的意識を持たないゾンビになる）と考えるなら、ニューロンという物質構造にだけ現象的意識を生む特別な霊的要素があるということになってしまわないでしょうか。勿論、このＡＩが現象的意識を持っているかどうかは“確認できない”、と言われたら、（人間でも他人が現象的意識を持っているか否か“確認できない”のと同じ意味で）同意します。一方、健常な人間は覚醒時に誰でも現象的意識を持つことを認めた上で、かつ、機械は現象的意識を持ち得ないと断ずる理由は、全く無いように思います。現在の技術水準では、ニューロンの機能が全て明らかになったわけでも、人間の脳に匹敵する計算機が作れるわけでもありません。しかし、原理的にＡＩが不可能だと断ずる理由も無いように思います。博学な管理人様が、「動物の心」やスペクトラム思考実験の妥当性も認めていらっしゃるのに、なぜ機械には現象的意識が生じないとお考えなのか、大変興味があります。
22：ある唯物論者（異邦人）：2013/10/16(水) 19:18:34: 人間自身も純粋な機械に過ぎません。アシモと変わりません。
人間がクオリアや現象的意識を持っている以上、当然アシモもクオリアや現象的意識を持つことが可能です。
クオリアや現象的意識は純粋な物理現象です。
クオリアや現象的意識を非物理現象である、と無反省に断定すべきではありません。
23：メビウス ◆4lggoO1oV6：2013/10/16(水) 19:44:42: >>20
>既存の哲学者の誤りは「クオリアや現象的意識を無反省に非物理現象である
>と断定」した点にあります。

こんなデタラメなことを書いてる人に反論するつもりはありません。
最低限、心の哲学の入門書ぐらい読んでから出直してください。
ちなみにNCCを無視してアシモがクオリアをもてるというなら、
自動ドアや扇風機もクオリアをもてるということです。
人間も自動ドアも扇風機も純粋な機械に過ぎませんから。
24：メビウス ◆4lggoO1oV6：2013/10/16(水) 19:53:06: >>20
>脳科学的方法によってクオリアや現象的意識を解明することは不可能です。

>>17で「既知の物理現象でクオリアを説明することが可能です」と書いているのと矛盾している。

クオリアが既知の物理法則で解明できると主張してる唯物論者は「脳科学の知見」を前提にしてるのです。
脳科学で解明できないのなら未知の物理法則があると言ってる二元論者と同じです。
あなたは「唯物論者」を自称しているにも関わらず、唯物論の主張を全く理解していない。
25：メビウス ◆4lggoO1oV6：2013/10/16(水) 20:05:52: 最後に、ある唯物論者（異邦人）さんへ、

私は、全くの初心者の方に心の哲学の諸問題を一からレクチャーするほど
暇な人間ではありません。ご自分で入門書を読んで勉強して頂きたいと思います。
26：メビウス ◆4lggoO1oV6：2013/10/16(水) 20:22:33: >>21
>人間の脳内のニューロンを、少しずつ同等の機能を持つ電子回路に置き換えていくとします

これは多重実現可能性テーゼによって肯定されるので、遥か未来に実現するかもしれませんね。
仮に全てのニューロンをシリコンチップに置き換えて、人間同等の意識機能が維持できたとすると
その「コンピューター」にはクオリアがあると認めていいかもしれません。

ただしそのコンピューターは、140億個もの脳細胞の、途方もなく複雑な構造を忠実に模造して
いるわけだから、現在のデジタルコンピューターとは全くの別物であり、
コンピューターというより「人工脳」と言った方がいいかも知れません。

これは昆虫の神経細胞の模倣についても同じことでしょう。
デジタルコンピューターによるシミュレーションと、人工神経を作ることは
全く別のことだと思います。
27：hijk：2013/10/17(木) 07:08:35: >>26
ご返信ありがとうございます。シリコン上でクオリアが生じる可能性を
否定しているわけでは無いのですね、失礼致しました。仰る通り、人間の脳細胞を忠実に模倣した計算基盤は「人工脳」と言った方が良いと思います。
さてここで、この人工脳の特定の小さな領域の入出力を普通のデジタルコンピューターのソフトウェア・
シミュレーションで置き換えてみます。これでも人工脳全体の機能は変わらないし、
現象的意識も随伴しているでしょう。この領域を少しずつ拡大し、ついには人工脳全体を
普通のデジタルコンピューターでシミュレーションした状態を考えます。これでも意識は生じているはず。
…こう考えると、精神を為す計算の基体がニューロンなのかシリコンなのかソフトウェアなのかは
重要なポイントではなく、この物理世界の中で特定の「自我と意識を為す情報処理（計算）」が
持続されていることの方が本質なのではないか、と私には思われるのです。勿論、仰る通り、そんな計算を実時間でやってのけるデジタルコンピューターは、私が生きている間には
絶対に実現できないし、人類には作り得ないかも知れません。
また、私はこのようにＡＩは可能と考えていますが、それによって心の哲学、クオリアや現象的意識の謎が
解決するとは思っていません。意識の機能面は隅々まで解明され、どういう計算を行う時に
クオリアが生じるかのモデルもいずれ明確になると思います。それでも、この世界の中で、特定の計算を行うと「なぜ」
クオリアや現象的意識が生じるのか、そもそも物質とか情報とは何なのか、という問題は
丸ごと謎のまま残り続け、心の哲学は一層重要になってくると思います。その意味でも、このサイト（心の哲学まとめwiki）は
貴重であり続けると思います。今後とも勉強させて頂きます！
28：メビウス ◆4lggoO1oV6：2013/10/17(木) 19:58:17: >>27
私が書いたことを勘違いしてると思います。
デジタルコンピューターでは「機能」の模倣はできても「構造」の模倣はできないのですよ。
>>26ではシリコンで構造の模倣ができたなら、クオリアを維持できるかもしれないと想定してます。
そのような技術は遥か未来のナノテクノロジーが必要でしょう。
もし現在の半導体技術で神経細胞をシリコンに置き換えても、まともに機能しないとはずです。
つまり単純な信号の入力・出力を想定しているわけではないということです。

Wikipedia人工神経のページに、生物の神経との差異が書かれています。
http://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%A5%9E%E7%B5%8C
神経細胞のページも参考になります。
http://ja.wikipedia.org/wiki/%E7%A5%9E%E7%B5%8C%E7%B4%B0%E8%83%9E
29：hijk：2013/10/18(金) 07:17:14: 勿論、現在の半導体技術でニューロンを置き換えることは出来ないしですし、ニューロンは単純な入出力機器でもありません。神経回路の三次元的構造が極めて複雑なのは勿論、神経ペプチドを介して免疫系とすらクロストークしますから、その情報処理の総体は極めて複雑です。しかし、それがいかに複雑であっても、やっていることが物理法則に従う情報処理であることには変わりがありません。生体脳→人工脳→デジタルコンピューターと徐々に置き換えていく思考実験でも、勿論、この、複雑な分子レベルの情報処理まで模倣することを想定しています。
但し、私個人は、現象的意識やクオリアを発生させる情報処理モデルがいずれ抽出できて、より簡易な計算処理に還元できると考えています。（※ペンローズが提唱するような量子的トリックも必要無い。）脳の障害や様々な実験が、そのことを指し示しているように私には思われます。Blue Backs『単純な脳、複雑な「私」』池谷祐二著は面白かったです。脳の一部の機能を非侵襲的に止めて、様々な意識への影響を作ることもできます。機能的には通常の人間と同じような動作をするのに、そのことの自覚が難しくなるような部位も見つかると思います。（※つまり現象的意識やクオリアをＯＮ／ＯＦＦして哲学的ゾンビ状態を人工的に作れたりできる可能性もあると思います。）
もし仰っている「構造」というのが、情報処理を担う細胞や分子の三次元的配置のことを仰っているのだとすると、現象的意識やクオリアの発生には、何らかの物質的な位置関係や密度が重要だとお考えになっているのかな、と想像しました。確かに、デジタル・コンピューターは、入出力をシミュレートできても、その内部の計算素子の配置や物理的な情報伝達の経路は異なります。それによりクオリアが生じなくなるということは、生体脳→人工脳への置き換えまではクオリアを維持できる可能性があるけれど、人工脳→デジタルコンピューターへの置き換えでは、機能が模倣されるとしても「だんだん現象的意識が薄れていく」「クオリアが消えていく」とお考えなわけですね。