AIについて - 1371389455 - したらば掲示板

20：ある唯物論者（異邦人）：2013/10/15(火) 21:02:31: 「脳の作用が無い所にクオリアは無い」というのは霊魂の否定という意味では
正解です。
しかし「アシモ（ロボット）にクオリアは不可能」という意味を含んでいると
すれば不正解です。
この世界は物質のみで出来ています。（唯物論）
人間もアシモ同様純粋な機械です。
人間にクオリアがあるのであればアシモがクオリアを持つことも可能です。
この世界は物質のみで出来ているのでこの世界のあらゆる現象は物理現象です。
従ってクオリアや現象的意識を含むあらゆる心的現象も必然的に物理現象です。
既存の哲学者の誤りは「クオリアや現象的意識を無反省に非物理現象である
と断定」した点にあります。
「クオリアや現象的意識は如何なる物理現象であるのか」そのことを真剣に
考察しない限り迷宮から抜け出すことは出来ません。
脳科学的方法によってクオリアや現象的意識を解明することは不可能です。
脳科学的方法によって解明するにはクオリアや現象的意識は複雑すぎる
相手です。
紙飛行機に乗って月に行こうとするのと同じぐらい不可能なことです。
21：hijk：2013/10/16(水) 10:58:34: 人間の脳内のニューロンを、少しずつ同等の機能を持つ電子回路に置き換えていくとします。最後は生体部品が無くなって、全て機械（ＡＩ）になります。この時、現象的意識やクオリアは発生しているでしょうか。私は、全ての電子回路が正しい計算機能を実行し続けている限り、やはり現象的意識は生じていると思います。（随伴説ということになるでしょうか。）もし、そうでない（機能的には人間と同等だけど現象的意識を持たないゾンビになる）と考えるなら、ニューロンという物質構造にだけ現象的意識を生む特別な霊的要素があるということになってしまわないでしょうか。勿論、このＡＩが現象的意識を持っているかどうかは“確認できない”、と言われたら、（人間でも他人が現象的意識を持っているか否か“確認できない”のと同じ意味で）同意します。一方、健常な人間は覚醒時に誰でも現象的意識を持つことを認めた上で、かつ、機械は現象的意識を持ち得ないと断ずる理由は、全く無いように思います。現在の技術水準では、ニューロンの機能が全て明らかになったわけでも、人間の脳に匹敵する計算機が作れるわけでもありません。しかし、原理的にＡＩが不可能だと断ずる理由も無いように思います。博学な管理人様が、「動物の心」やスペクトラム思考実験の妥当性も認めていらっしゃるのに、なぜ機械には現象的意識が生じないとお考えなのか、大変興味があります。
22：ある唯物論者（異邦人）：2013/10/16(水) 19:18:34: 人間自身も純粋な機械に過ぎません。アシモと変わりません。
人間がクオリアや現象的意識を持っている以上、当然アシモもクオリアや現象的意識を持つことが可能です。
クオリアや現象的意識は純粋な物理現象です。
クオリアや現象的意識を非物理現象である、と無反省に断定すべきではありません。
23：メビウス ◆4lggoO1oV6：2013/10/16(水) 19:44:42: >>20
>既存の哲学者の誤りは「クオリアや現象的意識を無反省に非物理現象である
>と断定」した点にあります。

こんなデタラメなことを書いてる人に反論するつもりはありません。
最低限、心の哲学の入門書ぐらい読んでから出直してください。
ちなみにNCCを無視してアシモがクオリアをもてるというなら、
自動ドアや扇風機もクオリアをもてるということです。
人間も自動ドアも扇風機も純粋な機械に過ぎませんから。
24：メビウス ◆4lggoO1oV6：2013/10/16(水) 19:53:06: >>20
>脳科学的方法によってクオリアや現象的意識を解明することは不可能です。

>>17で「既知の物理現象でクオリアを説明することが可能です」と書いているのと矛盾している。

クオリアが既知の物理法則で解明できると主張してる唯物論者は「脳科学の知見」を前提にしてるのです。
脳科学で解明できないのなら未知の物理法則があると言ってる二元論者と同じです。
あなたは「唯物論者」を自称しているにも関わらず、唯物論の主張を全く理解していない。
25：メビウス ◆4lggoO1oV6：2013/10/16(水) 20:05:52: 最後に、ある唯物論者（異邦人）さんへ、

私は、全くの初心者の方に心の哲学の諸問題を一からレクチャーするほど
暇な人間ではありません。ご自分で入門書を読んで勉強して頂きたいと思います。
26：メビウス ◆4lggoO1oV6：2013/10/16(水) 20:22:33: >>21
>人間の脳内のニューロンを、少しずつ同等の機能を持つ電子回路に置き換えていくとします

これは多重実現可能性テーゼによって肯定されるので、遥か未来に実現するかもしれませんね。
仮に全てのニューロンをシリコンチップに置き換えて、人間同等の意識機能が維持できたとすると
その「コンピューター」にはクオリアがあると認めていいかもしれません。

ただしそのコンピューターは、140億個もの脳細胞の、途方もなく複雑な構造を忠実に模造して
いるわけだから、現在のデジタルコンピューターとは全くの別物であり、
コンピューターというより「人工脳」と言った方がいいかも知れません。

これは昆虫の神経細胞の模倣についても同じことでしょう。
デジタルコンピューターによるシミュレーションと、人工神経を作ることは
全く別のことだと思います。
27：hijk：2013/10/17(木) 07:08:35: >>26
ご返信ありがとうございます。シリコン上でクオリアが生じる可能性を
否定しているわけでは無いのですね、失礼致しました。仰る通り、人間の脳細胞を忠実に模倣した計算基盤は「人工脳」と言った方が良いと思います。
さてここで、この人工脳の特定の小さな領域の入出力を普通のデジタルコンピューターのソフトウェア・
シミュレーションで置き換えてみます。これでも人工脳全体の機能は変わらないし、
現象的意識も随伴しているでしょう。この領域を少しずつ拡大し、ついには人工脳全体を
普通のデジタルコンピューターでシミュレーションした状態を考えます。これでも意識は生じているはず。
…こう考えると、精神を為す計算の基体がニューロンなのかシリコンなのかソフトウェアなのかは
重要なポイントではなく、この物理世界の中で特定の「自我と意識を為す情報処理（計算）」が
持続されていることの方が本質なのではないか、と私には思われるのです。勿論、仰る通り、そんな計算を実時間でやってのけるデジタルコンピューターは、私が生きている間には
絶対に実現できないし、人類には作り得ないかも知れません。
また、私はこのようにＡＩは可能と考えていますが、それによって心の哲学、クオリアや現象的意識の謎が
解決するとは思っていません。意識の機能面は隅々まで解明され、どういう計算を行う時に
クオリアが生じるかのモデルもいずれ明確になると思います。それでも、この世界の中で、特定の計算を行うと「なぜ」
クオリアや現象的意識が生じるのか、そもそも物質とか情報とは何なのか、という問題は
丸ごと謎のまま残り続け、心の哲学は一層重要になってくると思います。その意味でも、このサイト（心の哲学まとめwiki）は
貴重であり続けると思います。今後とも勉強させて頂きます！
28：メビウス ◆4lggoO1oV6：2013/10/17(木) 19:58:17: >>27
私が書いたことを勘違いしてると思います。
デジタルコンピューターでは「機能」の模倣はできても「構造」の模倣はできないのですよ。
>>26ではシリコンで構造の模倣ができたなら、クオリアを維持できるかもしれないと想定してます。
そのような技術は遥か未来のナノテクノロジーが必要でしょう。
もし現在の半導体技術で神経細胞をシリコンに置き換えても、まともに機能しないとはずです。
つまり単純な信号の入力・出力を想定しているわけではないということです。

Wikipedia人工神経のページに、生物の神経との差異が書かれています。
http://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%A5%9E%E7%B5%8C
神経細胞のページも参考になります。
http://ja.wikipedia.org/wiki/%E7%A5%9E%E7%B5%8C%E7%B4%B0%E8%83%9E
29：hijk：2013/10/18(金) 07:17:14: 勿論、現在の半導体技術でニューロンを置き換えることは出来ないしですし、ニューロンは単純な入出力機器でもありません。神経回路の三次元的構造が極めて複雑なのは勿論、神経ペプチドを介して免疫系とすらクロストークしますから、その情報処理の総体は極めて複雑です。しかし、それがいかに複雑であっても、やっていることが物理法則に従う情報処理であることには変わりがありません。生体脳→人工脳→デジタルコンピューターと徐々に置き換えていく思考実験でも、勿論、この、複雑な分子レベルの情報処理まで模倣することを想定しています。
但し、私個人は、現象的意識やクオリアを発生させる情報処理モデルがいずれ抽出できて、より簡易な計算処理に還元できると考えています。（※ペンローズが提唱するような量子的トリックも必要無い。）脳の障害や様々な実験が、そのことを指し示しているように私には思われます。Blue Backs『単純な脳、複雑な「私」』池谷祐二著は面白かったです。脳の一部の機能を非侵襲的に止めて、様々な意識への影響を作ることもできます。機能的には通常の人間と同じような動作をするのに、そのことの自覚が難しくなるような部位も見つかると思います。（※つまり現象的意識やクオリアをＯＮ／ＯＦＦして哲学的ゾンビ状態を人工的に作れたりできる可能性もあると思います。）
もし仰っている「構造」というのが、情報処理を担う細胞や分子の三次元的配置のことを仰っているのだとすると、現象的意識やクオリアの発生には、何らかの物質的な位置関係や密度が重要だとお考えになっているのかな、と想像しました。確かに、デジタル・コンピューターは、入出力をシミュレートできても、その内部の計算素子の配置や物理的な情報伝達の経路は異なります。それによりクオリアが生じなくなるということは、生体脳→人工脳への置き換えまではクオリアを維持できる可能性があるけれど、人工脳→デジタルコンピューターへの置き換えでは、機能が模倣されるとしても「だんだん現象的意識が薄れていく」「クオリアが消えていく」とお考えなわけですね。
30：メビウス ◆4lggoO1oV6：2013/10/18(金) 19:46:52: ニューロンとデジタルコンピューターの処理の決定的な違いは、断続的か持続的かということでしょう。
コンピューターは単純に ONと OFFで情報処理します。これはマルチコアCPUであってもマルチスレッドの
プログラムでも変わりありません。

しかし生物の夥しいニューロンは全て静止電位を常態としてもっており、1つにつき数万個のシナプスをもち、
活動電位が発生するとネットワーク内の多数のニューロンが順次、並行的に発火します。
「ネットワーク」という点がポイントです。茂木健一郎もクオリア発生の最低限の要件として
「複数のニューロンの発火」ということを述べています。

デジタルとは根本的に情報処理のあり方が異なるんですね。
私がナノテクで構造の模倣と言ってるのは、そのようなネットワーク構造の模倣という意味です。
31：hijk：2013/10/19(土) 05:25:10: いつも丁寧にご返信頂き有難うございます。

> ネットワーク内の多数のニューロンが順次、並行的に発火します。
> 「ネットワーク」という点がポイントです。

それではもし、夥しい数のデジタルコンピューターを相互に
ネットワークで接続したら、クオリアは発生し得るでしょうか。

（以下補足）

　・勿論、このデジタルネットワーク網のトポロジーも、
　　脳の神経回路網と同様に十分複雑に構成されているとします。
　・生体脳と比べると、処理の分散遅延が大きく、現象的意識が
　　発生したとしても、それはゆっくりしたものになる（※その
　　意識から見ると世界が早回しに見える）かも知れません。
　・ネットワーク構造や複数同時発火がクオリア発生のポイント
　　なら、このように時間的・空間的なスケールは間延びする
　　としても、コンピューター網もクオリアを持てるはず。
　・生体脳はこれより密度が高いと言っても、イオンチャネルの
　　スケールで見れば、お隣のシナプスでの発火といえども十分
　　遠くのことで、それぞれの発火は独立の事象だと言える。

（以下蛇足）

　・ちなみに私は、このコンピューター網も原理的にはクオリアを
　　持てると思います。（※勿論、現代の技術では実装は不可能。）
　・そして、これを認めると、情報処理素子（ニューロンや
　　ダイオード等）の、物理時空内での配置や構造や密度は余り
　　重要ではなく（※例：このコンピューター網を星間に広げれば
　　複数同時発火という事自体が相対論的に意味を持たない）、
　　結局、総体として「何が情報処理されているか」の方に、
　　クオリア発生の本質があると思えてきます。
32：メビウス ◆4lggoO1oV6：2013/10/19(土) 13:44:56: 現状でもクオリアが厳密にニューロンの「何と相関」しているのか解明されていません。
情報処理過程だけでなく、もしニューロン群が常態としてもっている電位が関係しているのなら、
一時的に OFF状態になるデジタルではネットワーク構成を模倣しても無理ということになります。

また茂木さんは「複数のニューロンの発火」とは言ってるのですが、二個のニューロンの発火にも
クオリアがあるかはわかりません。
しかし、もし発火状態の二個のニューロンにクオリアが相関しているとするなら、相互作用が想定されるので、
中央演算処理装置（ＣＰＵ）で情報処理するデジタルコンピューターでは模倣するのは不可能ということになります。

コンピューターのネットワークというのは所詮、情報伝達手段に過ぎないので、だから携帯キャリアは
時に「土管屋」といわれたりします。
それ自体が有機的で「情報そのもの」かもしれないニューロンのネットワークとの大きな違いです。
33：hijk：2013/10/20(日) 08:53:48: 仰る通り、活動電位がクオリア発生に関与しているかも知れません。また、内発活動（ゆらぎ）や免疫系との相互作用も勘定に入れる必要があるかも知れません。これらはまだ“機能的には”シミュレート可能な範疇です。しかしもしも、仰るような複数ニューロン発火間の未知の神秘的遠隔相互作用や、微小管内の量子効果や、グリア細胞も含めてミッチリ詰まった細胞場全体の重力作用すら、クオリア形成に参与しているとしたら、“機能的にすら”シミュレート不可能だと思います。クオリアを発生させるハードウェアは結局のところ脳の形になってしまう。
そういった可能性も、排除すべきでは無いと、私も思います。従って、管理人様が仰る「デジタルコンピューターでは機能的模倣は出来てもクオリアは生み出せないかも知れない」という主張は正しいと思います。
一方、現象的意識／クオリアは、ノンレム睡眠時にはスッカリ消えるし、覚醒時にも安定持続しているわけではなく、大変脆いもので、ある種の情報処理過程が持続されている時だけ創発・随伴する現象以上のものでは無い（それ以上に神秘化する理由が無い）ようにも思われます。人間脳に対するＭＲＩやＴＭＳ（経頭蓋磁気刺激法）を使った健常者への心理実験の最近の成果を見ると、意識／クオリアの発生／抑止の“仕掛け”に、情報処理過程以上の何かを持ち出す必要は無いように思えてきます。
また、生体脳→人工脳→デジタルコンピューターへの置き換え思考実験に沿って、“機能的には”脳をデジタルコンピューターで模倣できると考えるなら、現象判断のパラドックスをどう説明するかの立場が重要になると思います。（※管理人様がここをどうお考えなのかは興味があります。）私個人の立場としては、表面的には随伴現象説を採りますが、物理現象や時空は実在しないと考えているので、現象的意識は（物理状態というよりも）「ある種の情報処理過程」に随伴する、と考えています。
34：メビウス ◆4lggoO1oV6：2013/10/20(日) 12:54:42: そもそも「情報」というのは「存在」ではなく「概念」に過ぎないので、脳の情報処理過程というのは曖昧さがありますね。
たとえばモールス信号は情報であり、石を叩いても伝達できますが、石にクオリアが発生するとは誰も思わないでしょう。
あるいは石に「・・・」と三つの点があったとします。それを猫が見ても何も感じないでしょうが、人間が見ると「３」
という情報を読み取るかもしれません。情報とはそういうものです。
だから私は「発火状態にある複数のニューロン」という「存在」にクオリアが相関すると考えるのが妥当だと考えます。

あと現象判断のパラドックスについては、私はそもそも現象主義者なので、大森荘蔵の「重ね描き」を採用します。
この立場では現象判断のパラドックスは生じません。逆にいうと実在論ではどの立場でもパラドックスが生じます。
35：hijk：2013/10/21(月) 07:06:23: ご返信＆ご指摘ありがとうございます。
仰る通り私は「情報」を曖昧にしか定義できておりません。個人的には、真我＝純粋無を求め続ける情報処理過程から現象的意識／クオリアは立ち上がり、またそのような情報処理過程が可能な場としてしか時空や物質は析出され得ない、と考えており、情報処理過程を最も根源的なもの、現象的意識や物理的存在を副次的なもの、と考えている点では、心の哲学まとめwikiの分類では「中立一元論」に当たりそうな気がします。結果として真我計算が行われ続けるなら、その物理的基体は生体脳でも人工脳でもノイマン型計算機でも何でも良い、という私の考え（思い込み）は、このあたりの世界観から来ているんだな、と改めて気付かせて頂きました。
これだけ幅広く心の哲学を考究されている管理者様が採用されている「重ね描き」には、俄然興味が湧きました。以前触れた時は「なるほどなー」程度で通り過ぎてしまったので、大森荘蔵の本を読み返してみようと思います。
ご指導ありがとうございました！
36：hijk：2013/11/13(水) 07:38:11: twitterの方に『まとめwikiの掲示板に、稀にコンピューターでも心（クオリア）が持てるのではないか、という人が来る。彼らは単にプログラムを知らないだけだと思っていたのだけど、そうではないようで、たぶんプラグラマーの「苦労」を知らないということなのだろう。』とありました。
私のことも含まれるのかなぁ、と思いつつ、私は商用のゲームプログラムも業務プログラムも大量に書いて来たし、デバッグの苦労も死ぬほど知っているので、上記の推測は私には当てはまりません。（これは単なる事実報告です。）
理由はもっと単純で、プログラムの苦労云々じゃなく、「脳という物質は、いかに複雑であっても、情報処理以上のことはやっていない」という信念です。人間の脳は宇宙で一番複雑な構造物だと思いますが、だからといって特殊な物理過程を持っているわけではない。また、神経系の進化の歴史を見ても、人間の脳だけが情報処理以上のことをやるようになったと考えるのは不自然・不合理です。
根本的・質的な違いが無く、「複雑さの違い」としか言えない以上、スペクトラム思考実験により、人間と動物、人間とコンピューターの明確な境界も引けないことは明白だと思います。真の争点は、人間と動物、人間とコンピューターとの違いなどではなく、「現象的意識を有む情報処理過程とはどのようなものか」であるべきと思います。
ちなみに私は、現象的意識を持ったＡＩは、正しくも現象主義者的性格を持つはずだと考えています。
37：メビウス ◆4lggoO1oV6：2013/11/13(水) 20:00:35: 本職のPGでも強いAIの可能性を肯定する人がいたのですね。正直意外でした。
私はかつて10年以上IT業界にいて、時折SEやPGとサールの「中国語の部屋」について話をしたのですが、
サールの論証に反対する者は一人もいなかったので、本職の人は強いAIを拒否するのが当然と思い込んでいました。
（ただし強いAIが難しくて弱いAIが簡単だというイメージは間違っているという指摘はありました）

あと脳とコンピューターの根本的違いは今までも書いてきたのですが、付け加える点が
あるとしたら「付随性」の問題でしょう。これはソール・クリプキの議論が参考になります。
青山拓央がクリプキの『名指しと必然性』から該当の部分を抜粋していますので、よければご覧下さい。
http://wiki.livedoor.jp/aoymtko/d/%a5%e1%a5%e2

クリプキの議論の要点は付随性が必然的でないということなのですが、しかし換言すると、
デジタルにクオリアが相関する異なる可能世界は思考可能であるけれど、この世界ではニューロンに
クオリアが相関する自然法則が現に「成立」してしまっているので、ある日突然、E=mc^2がE=mc^3に
なるような自然法則の変化が生じない限り、デジタルにクオリアが相関することはない、ということになります。
38：hijk：2013/11/14(木) 14:50:07: 付随性についての議論のご紹介ありがとうございます。
私も、（クリプキが言うように）部分的な物理的状態に「熱さ」「痛さ」は必然的には付随しないと思います。それと整合的だと思うのですが、（パトナムの言う）多重実現可能性にも賛成なので、「熱さ」「痛さ」を感じる生体ニューロンを用いないロボットもまた可能だと考えます。
とはいえ、「熱さ」「痛さ」を「感じる」情報処理過程とはどんなものかを具体的に示さなければ説得力のカケラも無いので、それは今後研究していきたいと思います。なお、以下のＵＲＬは、その第一歩として作ったオモチャのモデルプログラム(JavaApplet)です。宜しければご笑納ください。
http://www.netlaputa.ne.jp/~hijk/philo/ac2/artificial_consciousness_2.html
ありがとうございました。今後ともご指導の程、宜しくお願い致します。
39：名無しさん：2013/11/16(土) 11:40:36: 心の哲学で主流の物理主義、特に機能主義の観点からは
強いＡＩは理論上作成可能なのではないかと思うのですが
メビウスさんはどうお考えですか？
40：メビウス ◆4lggoO1oV6：2013/11/16(土) 19:47:52: >>39
心の哲学は自然主義、つまり自然科学（この場合は脳科学）の知見を前提にしているので、
機能主義や行動主義、また性質二元論でも強いＡＩの可能性は否定されます。

デネットはコンピューター機能主義を擁護して、人間の脳もコンピューターも似たような
ものだと考えていますが、そもそもデネットはクオリアの存在を否定します。
（ただしデネットとサールでは「意識」や「クオリア」という語の定義が異なる）

著名な学者でクオリアをもてる強いＡＩが可能だと考えているのはチャーマーズぐらいでしょう。
ただしチャーマーズは汎心論という形而上学を前提に主張していることに留意する必要があります。