AIについて - 1371389455 - したらば掲示板

1：跳ぶ：2013/06/16(日) 22:30:55: 本気で、強いAIを作ろうとしています。
過去の哲学者の意見を反芻するのは楽しく、勉強になるのですが、
僕の考えた妄想に少しお付き合いいただきたいです。

今問いたいのは、強いAIと、弱いAIの違い、AIに自意識が宿るか
どうかです。

そも常々論じられている強いAIと弱いAIとの違いというは、
結局、「人間」の自意識が宿るか否かではないでしょうか。

人間の「五感、時間、気分その他」に対するあらゆる認識を機械に
適応できたとき、それで「人間の自意識」というものを
論じられるかもしれませんが、それは既にクローンと同じで何の
問題解決になっていないと思います。

そして今、人間とは袂を分かつ、完全な別の存在としてのAIの
自意識を生み出す事を考えたいのです。

僕は徹頭徹尾、意識なぞ錯覚でしかないと思っています。
無意識全体を明晰に認識する事はできないのですから、常々
人間の意識の裏には無意識があります。
意識と無意識の領域を足せば、自分の思考の限界になると思います。
人間の五感情報を、明晰に意識上では処理し切れないがために
無意識というものが生まれますが、コンピューターが情報
をリアルタイムで明晰に理解し続けるなら、やはりそこに
いかなる意識の存在もなしえないと思います。

しかし、常に情報を
意識・無意識にランク付けし、意識して処理する
情報に無意識がより高度な影響を与えるプログラム
が組めれば、そこに錯覚による意識は存在するとしても
よいのではないでしょうか。

全く、３次元的、物理的な現代科学の思考枠組みを超える何かが意識
というものに影響を及ぼしていないのであれば。
2：メビウス ◆4lggoO1oV6：2013/06/18(火) 21:00:33: AIに自意識が宿ることはないと思いますよ。
私は以前プログラマーでしたが、コンピューターがやってることは、
たとえどんな複雑な処理でも、結局のところソロバンと同じです。
人が指でソロバンをはじく度、「ソロバンに意識が生じる」とは思わないでしょう。
汎心論の立場ならソロバンに意識があるといってもいいかもしれませんが。

あと、「錯覚としての意識」という意味がわかりかねます。
通常「錯覚」というのは無意識でも前意識でもなく意識の一種ですから。
3：跳ぶ：2013/06/18(火) 22:51:42: レスありがとうございます。
4：名無しさん：2013/09/18(水) 19:23:21: 管理人さんプログラマーだったんですね。
技術的特異点って来ると思いますか？
5：名無しさん：2013/09/18(水) 20:52:24: いわゆる「弱いＡＩ」でも人間の思考を模倣することは理論的に出来ますので、
遠い未来に来るかもしれませんね。
最近では将棋のソフトがプロの棋士に勝ったと話題になりましたが、これは
限定的なルールでのこと。
しかしＡＩは、ひとたび人間と同様の思考力を持ってしまえば、計算速度と
情報量が途方もなく凄いので、人間は全くかなわないと思います。
6：名無しさん：2013/09/19(木) 04:22:43: もし強いAIができてしまったとして、そんな強大な知能を人間がコントロール
することってできるんですかね？ロボット三原則を守ってくれるのか？とか
いろいろ心配がありますが、SF映画みたいにロボットが人間を攻撃してきたり
したら困るし…でも人間に対して完全に忠実なのだとしたら不老不死化とか
サイボーグ化とかの恩恵を自分もあやかりたいもんです。
7：名無しさん：2013/09/19(木) 20:06:36: 仮に人間を遥かに超えるＡＩが完成したとしたら、物理的にいつでもインターネット
回線から遮断出来るようにして利用することになると思います。
ロボット三原則といっても、ウィル・スミスの「アイロボット」という映画にも
ありましたが、多様な解釈ができてしまいますから。
人型のパートナーロボットについては、人間に危害を加えられないようパワーが
制限されるはずです。アシモもそう。
8：メビウス ◆4lggoO1oV6：2013/09/19(木) 20:08:22: 上、ハンネ付け忘れてました。
9：名無しさん：2013/09/19(木) 22:59:23: なるほど、そうなると強いAIに頼りっぱなしになるのではなく弱いAIもセーフティ
として必要そうですね、…でも考えてみれば当たり前か。
人類全員が全く働かなくてよい社会というのは実現できそうにないのかなぁ
10：hijk：2013/10/02(水) 18:42:04: あくまで個人的な感覚ですが…

計算機にも自己意識は宿ると思います。（人工意識は可能。）
確かに計算機がやっていることはソロバンと同じですが、
人間の脳（神経系）がやっていることも似たようなもので、
要は計算です。脳だけに何か神秘的な機能があるわけではない。

勿論、人工意識が作れたからと言って、心の哲学の諸難問が
解決されるわけではないと思います。いや、相変わらず
全く解決されないままであるはずだ、と思います。

人間の脳を模倣して人工意識を実現できたとしても、それで
なぜ現象的意識が生じるのかは謎のまま。意識の作り方は
分かったけれど、なぜこれで意識が生じるのかはサッパリ
分からない。…という状況になるだろうと予想します。

そして、当の人工意識も、「なぜ神経細胞の塊りに過ぎない
人間に意識が生じ、計算回路の塊りに過ぎない私にも意識が
生じるのか（意識の難問）。なぜ多数の意識体がある中で
私はこの計算機の中に宿ったのか（意識の超難問）。」と、
心の哲学について悩むのではないか、と想像します。
11：メビウス ◆4lggoO1oV6：2013/10/03(木) 20:26:32: ＡＩが人間の意識の「機能」を模倣したからといっても、汎心論を前提にしなければ
現象的意識が生じるとはいえないでしょう。

人間の脳の構造は驚異的に複雑なもので、脳科学者たちも意識に相関した脳活動（NCC）の
究明に苦労しているわけです。機能のみの模倣で現象的意識が生じるというのは、
NCCを無視した主張になります。

ちなみに動物にもクオリアがあるだろうと想定されるのは、意識機能の類似性
だけでなく、脳の神経構造も人間と似ているからです。
動物の権利運動が行われているゆえんです。
12：hijk：2013/10/04(金) 03:51:44: ご返信有難うございます。
仰る通り、脳の構造は驚異的に「複雑」です！

私も、汎心論・汎経験論は妥当と考えていません。また、
恐ろしく複雑な多層並列計算を行わないと現象的意識は
生じないと思います。その一方で、脳に何か未知の
神秘的な構造や機能や物理過程があるとも思っておらず、
その意味では「複雑さの問題」に過ぎないとも思います。

人間の神経構造と似た脳を持つ動物は、現象的意識を
持っていると、私も思います。本サイトの「動物の心」
> http://www21.atwiki.jp/p_mind/pages/116.html
を拝見すると、私の考えは「創発説」に当たる思います。
そこに以下のような記述がありました：
> 創発説は堆積のパラドックスが生じるはずである
> なぜ物質である脳が、あるレベルの大きさと構造を
> とった時、突然クオリアが出現するのかは合理的な
> 説明が不可能であるよう思える。
これに対する私の考え（仮説）は、以下の通りです：
　・クオリアとは「私にとっての知覚」であり、各種の
　　クオリアは「私」を要(カナメ)として統覚されて
　　一つの現象的意識（一枚のスクリーン）を構成する。
　・従って、「私＝知覚している外界のあらゆるもので
　　“ない”もの」という抽象概念を、リアルタイムに
　　維持計算できるほどの可塑性神経回路網が最低限必要。
このような現象的意識／クオリアを創発する条件の下限を
設定できれば、堆積のパラドックスは生じないと思います。

また、意識現象は、人間でも、ノンレム睡眠時のゼロから
覚醒時に至るまでの強度のグラデーションを持っています。
この強度の下限も「外界で“ない”私」という抽象概念の
維持計算が実行され始めるところにあると思います。

このように拙いながら私は現象的意識が創発する機序に
仮説を持っており、この計算プロセスが実行されれば、
その計算媒体がニューロンであれシリコンであれ、
現象的意識は生じる（つまりＡＩが現象的意識を持つ
ことは可能）と考えている次第です。

以上は原理的なお話であり、人間のような明瞭な（強い
強度の）意識を持つＡＩを、現代のコンピュータ技術で
実装できるか、と言えば、到底不可能だと、私も思います。

ロブスターあたりに意識現象の下限がある、という記事は
大変興味深かったです。今後とも勉強させて頂きます！
13：メビウス ◆4lggoO1oV6：2013/10/13(日) 22:08:15: >97 名前：ある唯物論者（異邦人）投稿日： 2013/10/12(土) 21:35:06
>私は唯物論者です。
>クオリアや現象的意識を含めおよそあらゆる現象は物理的現象であると考えます。
>将来のレベルアップしたアシモであればクオリアや現象的意識を持つことが出来る可能性はあります。
>それが可能であるのはクオリアや現象的意識が純粋な物理的現象であるからです。

>>11で書いたNCCの問題がありますから、仮にニューラルネットワークが
どれだけ発展してチューリングテストをパスしようと、それは意識「機能」の
シミュレーションに過ぎません。デジタルコンピュータを前提とする限り
アシモがクオリアを持てる、といえる根拠はありません。