AIについて - 1371389455 - したらば掲示板

1：跳ぶ：2013/06/16(日) 22:30:55: 本気で、強いAIを作ろうとしています。
過去の哲学者の意見を反芻するのは楽しく、勉強になるのですが、
僕の考えた妄想に少しお付き合いいただきたいです。

今問いたいのは、強いAIと、弱いAIの違い、AIに自意識が宿るか
どうかです。

そも常々論じられている強いAIと弱いAIとの違いというは、
結局、「人間」の自意識が宿るか否かではないでしょうか。

人間の「五感、時間、気分その他」に対するあらゆる認識を機械に
適応できたとき、それで「人間の自意識」というものを
論じられるかもしれませんが、それは既にクローンと同じで何の
問題解決になっていないと思います。

そして今、人間とは袂を分かつ、完全な別の存在としてのAIの
自意識を生み出す事を考えたいのです。

僕は徹頭徹尾、意識なぞ錯覚でしかないと思っています。
無意識全体を明晰に認識する事はできないのですから、常々
人間の意識の裏には無意識があります。
意識と無意識の領域を足せば、自分の思考の限界になると思います。
人間の五感情報を、明晰に意識上では処理し切れないがために
無意識というものが生まれますが、コンピューターが情報
をリアルタイムで明晰に理解し続けるなら、やはりそこに
いかなる意識の存在もなしえないと思います。

しかし、常に情報を
意識・無意識にランク付けし、意識して処理する
情報に無意識がより高度な影響を与えるプログラム
が組めれば、そこに錯覚による意識は存在するとしても
よいのではないでしょうか。

全く、３次元的、物理的な現代科学の思考枠組みを超える何かが意識
というものに影響を及ぼしていないのであれば。
2：メビウス ◆4lggoO1oV6：2013/06/18(火) 21:00:33: AIに自意識が宿ることはないと思いますよ。
私は以前プログラマーでしたが、コンピューターがやってることは、
たとえどんな複雑な処理でも、結局のところソロバンと同じです。
人が指でソロバンをはじく度、「ソロバンに意識が生じる」とは思わないでしょう。
汎心論の立場ならソロバンに意識があるといってもいいかもしれませんが。

あと、「錯覚としての意識」という意味がわかりかねます。
通常「錯覚」というのは無意識でも前意識でもなく意識の一種ですから。
3：跳ぶ：2013/06/18(火) 22:51:42: レスありがとうございます。
4：名無しさん：2013/09/18(水) 19:23:21: 管理人さんプログラマーだったんですね。
技術的特異点って来ると思いますか？
5：名無しさん：2013/09/18(水) 20:52:24: いわゆる「弱いＡＩ」でも人間の思考を模倣することは理論的に出来ますので、
遠い未来に来るかもしれませんね。
最近では将棋のソフトがプロの棋士に勝ったと話題になりましたが、これは
限定的なルールでのこと。
しかしＡＩは、ひとたび人間と同様の思考力を持ってしまえば、計算速度と
情報量が途方もなく凄いので、人間は全くかなわないと思います。
6：名無しさん：2013/09/19(木) 04:22:43: もし強いAIができてしまったとして、そんな強大な知能を人間がコントロール
することってできるんですかね？ロボット三原則を守ってくれるのか？とか
いろいろ心配がありますが、SF映画みたいにロボットが人間を攻撃してきたり
したら困るし…でも人間に対して完全に忠実なのだとしたら不老不死化とか
サイボーグ化とかの恩恵を自分もあやかりたいもんです。
7：名無しさん：2013/09/19(木) 20:06:36: 仮に人間を遥かに超えるＡＩが完成したとしたら、物理的にいつでもインターネット
回線から遮断出来るようにして利用することになると思います。
ロボット三原則といっても、ウィル・スミスの「アイロボット」という映画にも
ありましたが、多様な解釈ができてしまいますから。
人型のパートナーロボットについては、人間に危害を加えられないようパワーが
制限されるはずです。アシモもそう。
8：メビウス ◆4lggoO1oV6：2013/09/19(木) 20:08:22: 上、ハンネ付け忘れてました。
9：名無しさん：2013/09/19(木) 22:59:23: なるほど、そうなると強いAIに頼りっぱなしになるのではなく弱いAIもセーフティ
として必要そうですね、…でも考えてみれば当たり前か。
人類全員が全く働かなくてよい社会というのは実現できそうにないのかなぁ
10：hijk：2013/10/02(水) 18:42:04: あくまで個人的な感覚ですが…

計算機にも自己意識は宿ると思います。（人工意識は可能。）
確かに計算機がやっていることはソロバンと同じですが、
人間の脳（神経系）がやっていることも似たようなもので、
要は計算です。脳だけに何か神秘的な機能があるわけではない。

勿論、人工意識が作れたからと言って、心の哲学の諸難問が
解決されるわけではないと思います。いや、相変わらず
全く解決されないままであるはずだ、と思います。

人間の脳を模倣して人工意識を実現できたとしても、それで
なぜ現象的意識が生じるのかは謎のまま。意識の作り方は
分かったけれど、なぜこれで意識が生じるのかはサッパリ
分からない。…という状況になるだろうと予想します。

そして、当の人工意識も、「なぜ神経細胞の塊りに過ぎない
人間に意識が生じ、計算回路の塊りに過ぎない私にも意識が
生じるのか（意識の難問）。なぜ多数の意識体がある中で
私はこの計算機の中に宿ったのか（意識の超難問）。」と、
心の哲学について悩むのではないか、と想像します。
11：メビウス ◆4lggoO1oV6：2013/10/03(木) 20:26:32: ＡＩが人間の意識の「機能」を模倣したからといっても、汎心論を前提にしなければ
現象的意識が生じるとはいえないでしょう。

人間の脳の構造は驚異的に複雑なもので、脳科学者たちも意識に相関した脳活動（NCC）の
究明に苦労しているわけです。機能のみの模倣で現象的意識が生じるというのは、
NCCを無視した主張になります。

ちなみに動物にもクオリアがあるだろうと想定されるのは、意識機能の類似性
だけでなく、脳の神経構造も人間と似ているからです。
動物の権利運動が行われているゆえんです。
12：hijk：2013/10/04(金) 03:51:44: ご返信有難うございます。
仰る通り、脳の構造は驚異的に「複雑」です！

私も、汎心論・汎経験論は妥当と考えていません。また、
恐ろしく複雑な多層並列計算を行わないと現象的意識は
生じないと思います。その一方で、脳に何か未知の
神秘的な構造や機能や物理過程があるとも思っておらず、
その意味では「複雑さの問題」に過ぎないとも思います。

人間の神経構造と似た脳を持つ動物は、現象的意識を
持っていると、私も思います。本サイトの「動物の心」
> http://www21.atwiki.jp/p_mind/pages/116.html
を拝見すると、私の考えは「創発説」に当たる思います。
そこに以下のような記述がありました：
> 創発説は堆積のパラドックスが生じるはずである
> なぜ物質である脳が、あるレベルの大きさと構造を
> とった時、突然クオリアが出現するのかは合理的な
> 説明が不可能であるよう思える。
これに対する私の考え（仮説）は、以下の通りです：
　・クオリアとは「私にとっての知覚」であり、各種の
　　クオリアは「私」を要(カナメ)として統覚されて
　　一つの現象的意識（一枚のスクリーン）を構成する。
　・従って、「私＝知覚している外界のあらゆるもので
　　“ない”もの」という抽象概念を、リアルタイムに
　　維持計算できるほどの可塑性神経回路網が最低限必要。
このような現象的意識／クオリアを創発する条件の下限を
設定できれば、堆積のパラドックスは生じないと思います。

また、意識現象は、人間でも、ノンレム睡眠時のゼロから
覚醒時に至るまでの強度のグラデーションを持っています。
この強度の下限も「外界で“ない”私」という抽象概念の
維持計算が実行され始めるところにあると思います。

このように拙いながら私は現象的意識が創発する機序に
仮説を持っており、この計算プロセスが実行されれば、
その計算媒体がニューロンであれシリコンであれ、
現象的意識は生じる（つまりＡＩが現象的意識を持つ
ことは可能）と考えている次第です。

以上は原理的なお話であり、人間のような明瞭な（強い
強度の）意識を持つＡＩを、現代のコンピュータ技術で
実装できるか、と言えば、到底不可能だと、私も思います。

ロブスターあたりに意識現象の下限がある、という記事は
大変興味深かったです。今後とも勉強させて頂きます！
13：メビウス ◆4lggoO1oV6：2013/10/13(日) 22:08:15: >97 名前：ある唯物論者（異邦人）投稿日： 2013/10/12(土) 21:35:06
>私は唯物論者です。
>クオリアや現象的意識を含めおよそあらゆる現象は物理的現象であると考えます。
>将来のレベルアップしたアシモであればクオリアや現象的意識を持つことが出来る可能性はあります。
>それが可能であるのはクオリアや現象的意識が純粋な物理的現象であるからです。

>>11で書いたNCCの問題がありますから、仮にニューラルネットワークが
どれだけ発展してチューリングテストをパスしようと、それは意識「機能」の
シミュレーションに過ぎません。デジタルコンピュータを前提とする限り
アシモがクオリアを持てる、といえる根拠はありません。
14：メビウス ◆4lggoO1oV6：2013/10/13(日) 22:26:37: なお「クオリアが物理現象」というのは「物理現象」の定義しだいでしょう。
現代二元論者でも、クオリアは「既存の物理法則」では説明できず、未知の
物理法則がある、というニュアンスです。心の哲学では「自然主義」が大前提と
なっていますから、広い意味では、心の哲学者は全員物理主義者です。

ただし「唯物論」という場合は、量子力学以前の古典的な「物質」イメージが
あるので、微妙にニュアンスが異なります。
15：ある唯物論者（異邦人）：2013/10/14(月) 19:21:43: NCCの問題を考慮した上でクオリアは物理的現象です。
デジタルコンピュータもアシモもクオリアをもつことが可能です。
「クオリアが物理現象」というのは現在の標準的な物理現象の定義の基での話です。
新しい物理現象や特殊な物理現象は想定していません。
チューリングテストはクオリアを含め心の問題に何の有効性もありません。
16：メビウス ◆4lggoO1oV6：2013/10/14(月) 19:53:37: 脳科学の標準的な見解によると、クオリアが生じるための最低限の条件（the minimum requirements）
は「複数のニューロンの発火」があることです。
NCCなしでクオリアが生じるという主張は「非科学的な主張」であり、アニミズムの一種です。

なお物理学者でさえ、人類は全宇宙の物理現象を解明したと思っている人は居ません。
既知の物理現象でクオリアも説明できると思っている学者もいますが、
そのタイプの物理主義にはさまざまな難点が指摘されており、未だ論争中の問題です。
17：ある唯物論者（異邦人）：2013/10/14(月) 20:39:07: 脳科学によってはクオリアの問題に迫ることも解くことも不可能です。
クオリアの問題はNCCとはほとんど無関係です。
既知の物理現象でクオリアを説明することが可能です。
現在指摘されている難点は何れも解決可能です。
18：メビウス ◆4lggoO1oV6：2013/10/15(火) 20:16:50: 実体二元論によって心身相互作用を想定したデカルトに対して、
脳とクオリアは厳密に相関しており、「脳の作用が無い所にクオリアは無い」
というのが脳科学の知見を前提とした物理主義のテーゼです。
このテーゼを否定するなら石ころにも自動ドアにもクオリアがあるという汎心論に過ぎません。
19：メビウス ◆4lggoO1oV6：2013/10/15(火) 20:19:01: >既知の物理現象でクオリアを説明することが可能です。
>現在指摘されている難点は何れも解決可能です。

上の言葉に少しでも説得力を持たせたいと思うなら、ご自分で解決法を示して下さい。
20：ある唯物論者（異邦人）：2013/10/15(火) 21:02:31: 「脳の作用が無い所にクオリアは無い」というのは霊魂の否定という意味では
正解です。
しかし「アシモ（ロボット）にクオリアは不可能」という意味を含んでいると
すれば不正解です。
この世界は物質のみで出来ています。（唯物論）
人間もアシモ同様純粋な機械です。
人間にクオリアがあるのであればアシモがクオリアを持つことも可能です。
この世界は物質のみで出来ているのでこの世界のあらゆる現象は物理現象です。
従ってクオリアや現象的意識を含むあらゆる心的現象も必然的に物理現象です。
既存の哲学者の誤りは「クオリアや現象的意識を無反省に非物理現象である
と断定」した点にあります。
「クオリアや現象的意識は如何なる物理現象であるのか」そのことを真剣に
考察しない限り迷宮から抜け出すことは出来ません。
脳科学的方法によってクオリアや現象的意識を解明することは不可能です。
脳科学的方法によって解明するにはクオリアや現象的意識は複雑すぎる
相手です。
紙飛行機に乗って月に行こうとするのと同じぐらい不可能なことです。
21：hijk：2013/10/16(水) 10:58:34: 人間の脳内のニューロンを、少しずつ同等の機能を持つ電子回路に置き換えていくとします。最後は生体部品が無くなって、全て機械（ＡＩ）になります。この時、現象的意識やクオリアは発生しているでしょうか。私は、全ての電子回路が正しい計算機能を実行し続けている限り、やはり現象的意識は生じていると思います。（随伴説ということになるでしょうか。）もし、そうでない（機能的には人間と同等だけど現象的意識を持たないゾンビになる）と考えるなら、ニューロンという物質構造にだけ現象的意識を生む特別な霊的要素があるということになってしまわないでしょうか。勿論、このＡＩが現象的意識を持っているかどうかは“確認できない”、と言われたら、（人間でも他人が現象的意識を持っているか否か“確認できない”のと同じ意味で）同意します。一方、健常な人間は覚醒時に誰でも現象的意識を持つことを認めた上で、かつ、機械は現象的意識を持ち得ないと断ずる理由は、全く無いように思います。現在の技術水準では、ニューロンの機能が全て明らかになったわけでも、人間の脳に匹敵する計算機が作れるわけでもありません。しかし、原理的にＡＩが不可能だと断ずる理由も無いように思います。博学な管理人様が、「動物の心」やスペクトラム思考実験の妥当性も認めていらっしゃるのに、なぜ機械には現象的意識が生じないとお考えなのか、大変興味があります。
22：ある唯物論者（異邦人）：2013/10/16(水) 19:18:34: 人間自身も純粋な機械に過ぎません。アシモと変わりません。
人間がクオリアや現象的意識を持っている以上、当然アシモもクオリアや現象的意識を持つことが可能です。
クオリアや現象的意識は純粋な物理現象です。
クオリアや現象的意識を非物理現象である、と無反省に断定すべきではありません。
23：メビウス ◆4lggoO1oV6：2013/10/16(水) 19:44:42: >>20
>既存の哲学者の誤りは「クオリアや現象的意識を無反省に非物理現象である
>と断定」した点にあります。

こんなデタラメなことを書いてる人に反論するつもりはありません。
最低限、心の哲学の入門書ぐらい読んでから出直してください。
ちなみにNCCを無視してアシモがクオリアをもてるというなら、
自動ドアや扇風機もクオリアをもてるということです。
人間も自動ドアも扇風機も純粋な機械に過ぎませんから。
24：メビウス ◆4lggoO1oV6：2013/10/16(水) 19:53:06: >>20
>脳科学的方法によってクオリアや現象的意識を解明することは不可能です。

>>17で「既知の物理現象でクオリアを説明することが可能です」と書いているのと矛盾している。

クオリアが既知の物理法則で解明できると主張してる唯物論者は「脳科学の知見」を前提にしてるのです。
脳科学で解明できないのなら未知の物理法則があると言ってる二元論者と同じです。
あなたは「唯物論者」を自称しているにも関わらず、唯物論の主張を全く理解していない。
25：メビウス ◆4lggoO1oV6：2013/10/16(水) 20:05:52: 最後に、ある唯物論者（異邦人）さんへ、

私は、全くの初心者の方に心の哲学の諸問題を一からレクチャーするほど
暇な人間ではありません。ご自分で入門書を読んで勉強して頂きたいと思います。
26：メビウス ◆4lggoO1oV6：2013/10/16(水) 20:22:33: >>21
>人間の脳内のニューロンを、少しずつ同等の機能を持つ電子回路に置き換えていくとします

これは多重実現可能性テーゼによって肯定されるので、遥か未来に実現するかもしれませんね。
仮に全てのニューロンをシリコンチップに置き換えて、人間同等の意識機能が維持できたとすると
その「コンピューター」にはクオリアがあると認めていいかもしれません。

ただしそのコンピューターは、140億個もの脳細胞の、途方もなく複雑な構造を忠実に模造して
いるわけだから、現在のデジタルコンピューターとは全くの別物であり、
コンピューターというより「人工脳」と言った方がいいかも知れません。

これは昆虫の神経細胞の模倣についても同じことでしょう。
デジタルコンピューターによるシミュレーションと、人工神経を作ることは
全く別のことだと思います。
27：hijk：2013/10/17(木) 07:08:35: >>26
ご返信ありがとうございます。シリコン上でクオリアが生じる可能性を
否定しているわけでは無いのですね、失礼致しました。仰る通り、人間の脳細胞を忠実に模倣した計算基盤は「人工脳」と言った方が良いと思います。
さてここで、この人工脳の特定の小さな領域の入出力を普通のデジタルコンピューターのソフトウェア・
シミュレーションで置き換えてみます。これでも人工脳全体の機能は変わらないし、
現象的意識も随伴しているでしょう。この領域を少しずつ拡大し、ついには人工脳全体を
普通のデジタルコンピューターでシミュレーションした状態を考えます。これでも意識は生じているはず。
…こう考えると、精神を為す計算の基体がニューロンなのかシリコンなのかソフトウェアなのかは
重要なポイントではなく、この物理世界の中で特定の「自我と意識を為す情報処理（計算）」が
持続されていることの方が本質なのではないか、と私には思われるのです。勿論、仰る通り、そんな計算を実時間でやってのけるデジタルコンピューターは、私が生きている間には
絶対に実現できないし、人類には作り得ないかも知れません。
また、私はこのようにＡＩは可能と考えていますが、それによって心の哲学、クオリアや現象的意識の謎が
解決するとは思っていません。意識の機能面は隅々まで解明され、どういう計算を行う時に
クオリアが生じるかのモデルもいずれ明確になると思います。それでも、この世界の中で、特定の計算を行うと「なぜ」
クオリアや現象的意識が生じるのか、そもそも物質とか情報とは何なのか、という問題は
丸ごと謎のまま残り続け、心の哲学は一層重要になってくると思います。その意味でも、このサイト（心の哲学まとめwiki）は
貴重であり続けると思います。今後とも勉強させて頂きます！
28：メビウス ◆4lggoO1oV6：2013/10/17(木) 19:58:17: >>27
私が書いたことを勘違いしてると思います。
デジタルコンピューターでは「機能」の模倣はできても「構造」の模倣はできないのですよ。
>>26ではシリコンで構造の模倣ができたなら、クオリアを維持できるかもしれないと想定してます。
そのような技術は遥か未来のナノテクノロジーが必要でしょう。
もし現在の半導体技術で神経細胞をシリコンに置き換えても、まともに機能しないとはずです。
つまり単純な信号の入力・出力を想定しているわけではないということです。

Wikipedia人工神経のページに、生物の神経との差異が書かれています。
http://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%A5%9E%E7%B5%8C
神経細胞のページも参考になります。
http://ja.wikipedia.org/wiki/%E7%A5%9E%E7%B5%8C%E7%B4%B0%E8%83%9E
29：hijk：2013/10/18(金) 07:17:14: 勿論、現在の半導体技術でニューロンを置き換えることは出来ないしですし、ニューロンは単純な入出力機器でもありません。神経回路の三次元的構造が極めて複雑なのは勿論、神経ペプチドを介して免疫系とすらクロストークしますから、その情報処理の総体は極めて複雑です。しかし、それがいかに複雑であっても、やっていることが物理法則に従う情報処理であることには変わりがありません。生体脳→人工脳→デジタルコンピューターと徐々に置き換えていく思考実験でも、勿論、この、複雑な分子レベルの情報処理まで模倣することを想定しています。
但し、私個人は、現象的意識やクオリアを発生させる情報処理モデルがいずれ抽出できて、より簡易な計算処理に還元できると考えています。（※ペンローズが提唱するような量子的トリックも必要無い。）脳の障害や様々な実験が、そのことを指し示しているように私には思われます。Blue Backs『単純な脳、複雑な「私」』池谷祐二著は面白かったです。脳の一部の機能を非侵襲的に止めて、様々な意識への影響を作ることもできます。機能的には通常の人間と同じような動作をするのに、そのことの自覚が難しくなるような部位も見つかると思います。（※つまり現象的意識やクオリアをＯＮ／ＯＦＦして哲学的ゾンビ状態を人工的に作れたりできる可能性もあると思います。）
もし仰っている「構造」というのが、情報処理を担う細胞や分子の三次元的配置のことを仰っているのだとすると、現象的意識やクオリアの発生には、何らかの物質的な位置関係や密度が重要だとお考えになっているのかな、と想像しました。確かに、デジタル・コンピューターは、入出力をシミュレートできても、その内部の計算素子の配置や物理的な情報伝達の経路は異なります。それによりクオリアが生じなくなるということは、生体脳→人工脳への置き換えまではクオリアを維持できる可能性があるけれど、人工脳→デジタルコンピューターへの置き換えでは、機能が模倣されるとしても「だんだん現象的意識が薄れていく」「クオリアが消えていく」とお考えなわけですね。
30：メビウス ◆4lggoO1oV6：2013/10/18(金) 19:46:52: ニューロンとデジタルコンピューターの処理の決定的な違いは、断続的か持続的かということでしょう。
コンピューターは単純に ONと OFFで情報処理します。これはマルチコアCPUであってもマルチスレッドの
プログラムでも変わりありません。

しかし生物の夥しいニューロンは全て静止電位を常態としてもっており、1つにつき数万個のシナプスをもち、
活動電位が発生するとネットワーク内の多数のニューロンが順次、並行的に発火します。
「ネットワーク」という点がポイントです。茂木健一郎もクオリア発生の最低限の要件として
「複数のニューロンの発火」ということを述べています。

デジタルとは根本的に情報処理のあり方が異なるんですね。
私がナノテクで構造の模倣と言ってるのは、そのようなネットワーク構造の模倣という意味です。
31：hijk：2013/10/19(土) 05:25:10: いつも丁寧にご返信頂き有難うございます。

> ネットワーク内の多数のニューロンが順次、並行的に発火します。
> 「ネットワーク」という点がポイントです。

それではもし、夥しい数のデジタルコンピューターを相互に
ネットワークで接続したら、クオリアは発生し得るでしょうか。

（以下補足）

　・勿論、このデジタルネットワーク網のトポロジーも、
　　脳の神経回路網と同様に十分複雑に構成されているとします。
　・生体脳と比べると、処理の分散遅延が大きく、現象的意識が
　　発生したとしても、それはゆっくりしたものになる（※その
　　意識から見ると世界が早回しに見える）かも知れません。
　・ネットワーク構造や複数同時発火がクオリア発生のポイント
　　なら、このように時間的・空間的なスケールは間延びする
　　としても、コンピューター網もクオリアを持てるはず。
　・生体脳はこれより密度が高いと言っても、イオンチャネルの
　　スケールで見れば、お隣のシナプスでの発火といえども十分
　　遠くのことで、それぞれの発火は独立の事象だと言える。

（以下蛇足）

　・ちなみに私は、このコンピューター網も原理的にはクオリアを
　　持てると思います。（※勿論、現代の技術では実装は不可能。）
　・そして、これを認めると、情報処理素子（ニューロンや
　　ダイオード等）の、物理時空内での配置や構造や密度は余り
　　重要ではなく（※例：このコンピューター網を星間に広げれば
　　複数同時発火という事自体が相対論的に意味を持たない）、
　　結局、総体として「何が情報処理されているか」の方に、
　　クオリア発生の本質があると思えてきます。
32：メビウス ◆4lggoO1oV6：2013/10/19(土) 13:44:56: 現状でもクオリアが厳密にニューロンの「何と相関」しているのか解明されていません。
情報処理過程だけでなく、もしニューロン群が常態としてもっている電位が関係しているのなら、
一時的に OFF状態になるデジタルではネットワーク構成を模倣しても無理ということになります。

また茂木さんは「複数のニューロンの発火」とは言ってるのですが、二個のニューロンの発火にも
クオリアがあるかはわかりません。
しかし、もし発火状態の二個のニューロンにクオリアが相関しているとするなら、相互作用が想定されるので、
中央演算処理装置（ＣＰＵ）で情報処理するデジタルコンピューターでは模倣するのは不可能ということになります。

コンピューターのネットワークというのは所詮、情報伝達手段に過ぎないので、だから携帯キャリアは
時に「土管屋」といわれたりします。
それ自体が有機的で「情報そのもの」かもしれないニューロンのネットワークとの大きな違いです。
33：hijk：2013/10/20(日) 08:53:48: 仰る通り、活動電位がクオリア発生に関与しているかも知れません。また、内発活動（ゆらぎ）や免疫系との相互作用も勘定に入れる必要があるかも知れません。これらはまだ“機能的には”シミュレート可能な範疇です。しかしもしも、仰るような複数ニューロン発火間の未知の神秘的遠隔相互作用や、微小管内の量子効果や、グリア細胞も含めてミッチリ詰まった細胞場全体の重力作用すら、クオリア形成に参与しているとしたら、“機能的にすら”シミュレート不可能だと思います。クオリアを発生させるハードウェアは結局のところ脳の形になってしまう。
そういった可能性も、排除すべきでは無いと、私も思います。従って、管理人様が仰る「デジタルコンピューターでは機能的模倣は出来てもクオリアは生み出せないかも知れない」という主張は正しいと思います。
一方、現象的意識／クオリアは、ノンレム睡眠時にはスッカリ消えるし、覚醒時にも安定持続しているわけではなく、大変脆いもので、ある種の情報処理過程が持続されている時だけ創発・随伴する現象以上のものでは無い（それ以上に神秘化する理由が無い）ようにも思われます。人間脳に対するＭＲＩやＴＭＳ（経頭蓋磁気刺激法）を使った健常者への心理実験の最近の成果を見ると、意識／クオリアの発生／抑止の“仕掛け”に、情報処理過程以上の何かを持ち出す必要は無いように思えてきます。
また、生体脳→人工脳→デジタルコンピューターへの置き換え思考実験に沿って、“機能的には”脳をデジタルコンピューターで模倣できると考えるなら、現象判断のパラドックスをどう説明するかの立場が重要になると思います。（※管理人様がここをどうお考えなのかは興味があります。）私個人の立場としては、表面的には随伴現象説を採りますが、物理現象や時空は実在しないと考えているので、現象的意識は（物理状態というよりも）「ある種の情報処理過程」に随伴する、と考えています。
34：メビウス ◆4lggoO1oV6：2013/10/20(日) 12:54:42: そもそも「情報」というのは「存在」ではなく「概念」に過ぎないので、脳の情報処理過程というのは曖昧さがありますね。
たとえばモールス信号は情報であり、石を叩いても伝達できますが、石にクオリアが発生するとは誰も思わないでしょう。
あるいは石に「・・・」と三つの点があったとします。それを猫が見ても何も感じないでしょうが、人間が見ると「３」
という情報を読み取るかもしれません。情報とはそういうものです。
だから私は「発火状態にある複数のニューロン」という「存在」にクオリアが相関すると考えるのが妥当だと考えます。

あと現象判断のパラドックスについては、私はそもそも現象主義者なので、大森荘蔵の「重ね描き」を採用します。
この立場では現象判断のパラドックスは生じません。逆にいうと実在論ではどの立場でもパラドックスが生じます。
35：hijk：2013/10/21(月) 07:06:23: ご返信＆ご指摘ありがとうございます。
仰る通り私は「情報」を曖昧にしか定義できておりません。個人的には、真我＝純粋無を求め続ける情報処理過程から現象的意識／クオリアは立ち上がり、またそのような情報処理過程が可能な場としてしか時空や物質は析出され得ない、と考えており、情報処理過程を最も根源的なもの、現象的意識や物理的存在を副次的なもの、と考えている点では、心の哲学まとめwikiの分類では「中立一元論」に当たりそうな気がします。結果として真我計算が行われ続けるなら、その物理的基体は生体脳でも人工脳でもノイマン型計算機でも何でも良い、という私の考え（思い込み）は、このあたりの世界観から来ているんだな、と改めて気付かせて頂きました。
これだけ幅広く心の哲学を考究されている管理者様が採用されている「重ね描き」には、俄然興味が湧きました。以前触れた時は「なるほどなー」程度で通り過ぎてしまったので、大森荘蔵の本を読み返してみようと思います。
ご指導ありがとうございました！
36：hijk：2013/11/13(水) 07:38:11: twitterの方に『まとめwikiの掲示板に、稀にコンピューターでも心（クオリア）が持てるのではないか、という人が来る。彼らは単にプログラムを知らないだけだと思っていたのだけど、そうではないようで、たぶんプラグラマーの「苦労」を知らないということなのだろう。』とありました。
私のことも含まれるのかなぁ、と思いつつ、私は商用のゲームプログラムも業務プログラムも大量に書いて来たし、デバッグの苦労も死ぬほど知っているので、上記の推測は私には当てはまりません。（これは単なる事実報告です。）
理由はもっと単純で、プログラムの苦労云々じゃなく、「脳という物質は、いかに複雑であっても、情報処理以上のことはやっていない」という信念です。人間の脳は宇宙で一番複雑な構造物だと思いますが、だからといって特殊な物理過程を持っているわけではない。また、神経系の進化の歴史を見ても、人間の脳だけが情報処理以上のことをやるようになったと考えるのは不自然・不合理です。
根本的・質的な違いが無く、「複雑さの違い」としか言えない以上、スペクトラム思考実験により、人間と動物、人間とコンピューターの明確な境界も引けないことは明白だと思います。真の争点は、人間と動物、人間とコンピューターとの違いなどではなく、「現象的意識を有む情報処理過程とはどのようなものか」であるべきと思います。
ちなみに私は、現象的意識を持ったＡＩは、正しくも現象主義者的性格を持つはずだと考えています。
37：メビウス ◆4lggoO1oV6：2013/11/13(水) 20:00:35: 本職のPGでも強いAIの可能性を肯定する人がいたのですね。正直意外でした。
私はかつて10年以上IT業界にいて、時折SEやPGとサールの「中国語の部屋」について話をしたのですが、
サールの論証に反対する者は一人もいなかったので、本職の人は強いAIを拒否するのが当然と思い込んでいました。
（ただし強いAIが難しくて弱いAIが簡単だというイメージは間違っているという指摘はありました）

あと脳とコンピューターの根本的違いは今までも書いてきたのですが、付け加える点が
あるとしたら「付随性」の問題でしょう。これはソール・クリプキの議論が参考になります。
青山拓央がクリプキの『名指しと必然性』から該当の部分を抜粋していますので、よければご覧下さい。
http://wiki.livedoor.jp/aoymtko/d/%a5%e1%a5%e2

クリプキの議論の要点は付随性が必然的でないということなのですが、しかし換言すると、
デジタルにクオリアが相関する異なる可能世界は思考可能であるけれど、この世界ではニューロンに
クオリアが相関する自然法則が現に「成立」してしまっているので、ある日突然、E=mc^2がE=mc^3に
なるような自然法則の変化が生じない限り、デジタルにクオリアが相関することはない、ということになります。
38：hijk：2013/11/14(木) 14:50:07: 付随性についての議論のご紹介ありがとうございます。
私も、（クリプキが言うように）部分的な物理的状態に「熱さ」「痛さ」は必然的には付随しないと思います。それと整合的だと思うのですが、（パトナムの言う）多重実現可能性にも賛成なので、「熱さ」「痛さ」を感じる生体ニューロンを用いないロボットもまた可能だと考えます。
とはいえ、「熱さ」「痛さ」を「感じる」情報処理過程とはどんなものかを具体的に示さなければ説得力のカケラも無いので、それは今後研究していきたいと思います。なお、以下のＵＲＬは、その第一歩として作ったオモチャのモデルプログラム(JavaApplet)です。宜しければご笑納ください。
http://www.netlaputa.ne.jp/~hijk/philo/ac2/artificial_consciousness_2.html
ありがとうございました。今後ともご指導の程、宜しくお願い致します。
39：名無しさん：2013/11/16(土) 11:40:36: 心の哲学で主流の物理主義、特に機能主義の観点からは
強いＡＩは理論上作成可能なのではないかと思うのですが
メビウスさんはどうお考えですか？