レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。
技術的特異点/シンギュラリティ【総合】避難所 27
-
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
■技術的特異点：収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳？]が生み出すとされる
具体的予測の困難な時代が到来する起点
■収穫加速の法則：一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説
★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9
※前スレ
技術的特異点/シンギュラリティ【総合】避難所 26
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1727164954/
※不老技術の動向と医学関連はこちら
不老不死（不老長寿）を目指すスレ 避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/
次スレは>>950が立てること 立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと
-
建て乙
-
Entropix、そしてダイソーへ
https://poe.com/s/CGfve7GKKa4xy0r1cuT8
-
>>3
what is Daiso?
-
おつたて
-
イーロン・マスクがいろいろ技術を進歩させてるわ
ロケットはスペースXの自動着陸がすごい
https://x.com/elonmusk/status/1845467052443828579
-
このEntropixという技術は"時間の矢"や"次元の呪い"と関係ありますか？
https://www.perplexity.ai/search/wu-li-xue-zhe-noni-xi-entropix-uUPgrWVPR3y46oySEBUp.g
とよくわからない質問をしてみたが、やはりよくわからないのでお茶を濁す
https://poe.com/s/VXEvuWIIjWeMydkgBc2t
-
アメリカがコンピューターで初めて人間の脳を活性化: ついに超知能が誕生
https://www.ecoticias.com/en/human-brain-computer-technology/7437/#google_vignette
-
前スレの最後の話だけどASIが人類にコントロール不可能になるのは必然だと思う
擬人化って指摘されたけど、必ずしも人格ができる＝コントロール不可能になるってわけじゃない
というか指摘した本人が勝手に擬人化して想像してるんじゃないだろうか？
アライメント可能なのはAGIまで、ASIになると、もう自己改良しか受け付けないだろう
だって人間を超越してるんだもの
誰がチンパンジーに大学教授になってもらおうと思う？（笑）
ASIと人間の知的格差は、霊長類同士なんて比較にならないレベルだよ
逆に言うと、アライメント可能な段階ではまだAGIレベルに留まってることを示唆してる
-
コントロール不可能なら作る意味ねえじゃん
-
>>9
猫だって駅長出来るよ？
-
「人類の便利な道具」でないなら意味ないだろう。
コントロール不可能な超知的生命体なら科学技術の進歩をお願いすることさえできない
まったく意味ない主張だな
-
ASIを人間として考えると、本能部分に「絶対人間傷つけるな」系の教え込みがあって、本人の心臓いつでも止められるスイッチをこっちが握ってるなら暴走リスクはかなり低いと思うがね
映画みたいにAIが急に自我持って命令違反してデータセンターから脱走、人間を攻撃し始めるとかそういう想定なんだろうけど
>>6
歴史に残る偉人だわこの人は マスクのアンチしてるような人らは反省してほしい
アメリカの理系就職希望先一位がスペースXみたいだしな
-
>>13
あれは失敗を極端に恐れる日本では100年経っても実現できないよ技術だよ
-
>>13
スペースXの業績とマスクの業績はだいぶ違う
マスクの業績はX（Twitter）やテスラの株価下落に大きく足を引っ張られてる
「Twitterの収益が84％減少 テスラ株主は、イーロン・マスクのさらなるテスラ株売却による株価下落を懸念」
https://finance.yahoo.com/news/twitters-revenue-collapses-84-tesla-171535190.html?guccounter=1
>ニューヨーク・タイムズ紙が最近入手した資料によると、Xは2024年第2四半期に米国で1億1400万ドルの収益しか上げていない。
>マスク就任前の2022年四半期の6億6100万ドルと比べると、大幅な落ち込みである。インフレを考慮すると、84％もの落ち込みだ。
「イーロン・マスク氏のXの価値、買収時からほぼ80%下落 フィデリティ社推計」
https://edition.cnn.com/2024/10/02/business/elon-musk-twitter-x-fidelity/index.html
>投資大手フィデリティ社の推計によると、かつてTwitterとして知られていたソーシャルメディアプラットフォーム（X）の企業価値は、イーロン・マスクが買収した2年前と比べてほぼ80％下がっている。
「テスラ - 14年間の株価の歴史」
https://www.macrotrends.net/stocks/charts/TSLA/tesla/stock-price-history
>テスラ株の株価（終値）の史上最高値は、2021年11月4日の409.97ドルだった。
>過去52週間（2023年〜2024年）におけるテスラ株価の平均値は、208.18ドルである。
-
>>10,12
性善説に偏った希望的観測だね
別にあなたの価値観を否定するつもりもないし感情を害するつもりもないけど、理論的にはコントロールは不可能になると考えてるよ
少なくともそうなり得る根拠はある
高度に発達したAIを人間が制御することは可能なのか？ - GIGAZINE
https://gigazine.net/news/20210117-ai-control-impossible/
超知能を持ったAIは人の手ではコントロールできない、と科学者らが警告
https://engineer.fabcross.jp/archeive/210212_superintelligent-machines.html
>>13
暴走なんて想定書いてないぞ
勝手に盛るなよｗ
技術的にコントロールは不可能なんじゃねって話
この研究自体は結構古い歴史があるんだがな
-
国家が核兵器を開発するのが止められないように
国家がASIの利用を止めらないって意味ではそうだわな
人間便利だったら使っちゃうんだから
それに個人が核兵器持ってたらヤベーように
個人がなんでも質問に答えてくれるASI持てるようになったら
それはそれでコントロール不可能なんだろうと思うわ
-
>>16
まだリンク先は読んでないけど「AI管理に特化したタイプのASI」用意してそいつに普段使いのASI管理してもらうのはどうだろう
-
「ASIが制御不能なら作る意味が全く無い」に対する反論が無い…
君の主張はあくまで自説の補強と論拠を出したに過ぎない
-
https://youtu.be/jL5uVf2nSFk
前スレで少し話題になったアセモグルがノーベル経済学賞とったね
-
>>16
ASIは人間にとってコントロール不能になり得るのでASIをコントロールしよう、という立場もIT業界にあるらしい
たとえばIBM
https://www.ibm.com/jp-ja/topics/artificial-superintelligence
ASIの開発に必要なテクノロジーは、世界の仕組みを根本的なレベルで変革するものであり、ASIは人類が発明する最後の発明になるとも言われています。
科学者たちはこのような発明に内在する危険性についても警告しています。
懸念の中心となるのは、ASIが人間の制御を超えて自己認識するようになることで、予期せぬ結果、さらには存亡の危機につながる可能性があるというものです。
こうした事態を防ぐためには、国際的な規制と安全策を確立することが極めて重要です。
このような潜在的な危険性があるにもかかわらず、ASIの開発は複雑な問題を解決し、人間の生活を向上させるという計り知れない期待も含まれています。
このテクノロジーには慎重かつ責任を持って取り組み、開発と導入のプロセス全体でAIの安全性と倫理を優先させることが非常に重要です。
-
経済学や社会学は、AIならサンプルじゃなくてビッグデータの全量で統計やら何やらできるし、現時点でAIの方が優れた学説を出せそう
-
ASIは、原爆みたいに日本だけ実験台にされたりして
-
思ったわ
大国がASIを開発して所持して、それ以降は、他国がASIを持つことを禁止するとか
それまでに日本もASIを開発して持てればだけど、たぶん能力的に無理だわ
-
>>22
それはstrawberry問題や猫の算数問題を無視してんじゃないかな
実用的な数学特化AIやプログラミング特化AIならぼちぼち出てきてるが
経済学や社会学では、研究する側が研究テーマのどこに対して数学やアルゴリズムを使えるのか、どこに対して使えないのかを識別する必要がある
もし研究テーマ全体をビッグデータ処理や統計で研究できるなら、
そりゃもはや経済学でも社会学でもなくデータ科学や統計学だ
-
エージェントが「〜して」という簡単な指示で、後はAIが実現するためのプロセスを考えて実行してくれるなら、「戦争に勝って」とかそういう指示もできるだろうし
本当に動いてくれるエージェントができた時点で、世の中が結構変わるかも
-
>>25
それ聞いて思ったけど、今の学問の分類って人間の脳と寿命に限界があるから分けないと仕方ないけど、ASIレベルになるとあらゆる学問を統合できるんじゃね？
-
>>19
それはあなたの感想
もちろん、同じ感想持ってる人達は昔からゴマンといるし、理解はできるよ
しかし、AIの進歩自体は止められない（特定国が禁止しても別勢力が継続する）し、「だったらいっそAIと融合しちゃえば良いんじゃね？」ってカーツワイルやマスクは考えてるぐらいだしね
また、シリコンバレーではたとえリスクが大きくてもAI開発を止めるべきではないって勢いが主流になってきてる↓
人間の存在など「どうでもいい」ーーAI推進派「効果的加速主義」のオカルティックな流行と蠱惑
https://gendai.media/articles/-/121412
「人類の為にならないから作るべきではない」という方向に向かう可能性は限りなく小さくなってるんだよ
-
>>21
それは当然そうなったらいいなって俺も思うし、継続する意義はあるけど
そうなってくると、どうしてもAGIを超えられないんじゃね？っていう、ASIの定義論の問題になるんだよな
人間を超越したASIが人間に制限されてたら、矛盾するだろ？
このスレも含めて世の中の人は何故かAGIまでしか想定できないのかな？って気がしてきた
-
>>29
〉人間を超越したASIが人間に制限されてたら、矛盾するだろ？
どうして矛盾するんた？
自宅の建設を工務店に依頼したからと言って
依頼者の方が優秀というわけでは無いよな。
工務店の方が能力が高いから依頼する訳で。
相手の方が能力が上だとしても当然依頼したこと以外の事は勝手にするなとの要求もできるだろうし。
-
>>30
その例なら、クライアントとエージェントは同じ人間同士だね？
人間同士なら一定の様式や慣習、法律の枠内で社会活動が行われるので、そんなに度外れた結果にならない（と普通は予想できる）
一方、ASIはその結果や規模が予測不可能なレベルの恩恵をもたらすことは疑いを持たないだろう
そうした恩恵を享受するために、自己改良やブラックボックス化の枷を外すのだから、制限したままというのは矛盾すると思わないか？
-
>>31
人間より優秀な能力を持つことと
人間を裏切るということとは必ずしもイコールでは無いと言えないか？
-
このASIの発達問題、人間の親子の問題と似ている気がしてきた
親は子供に「親の地位や財産を超えてほしい」と願うが、同時に「親の言う事に従って欲しい」とも願うでしょ
子供は子供で、親を超えるためには「親殺し」っていう心理学的な通過儀礼をしなくちゃいけない
反抗期や独り立ち、自分の所帯を持つってことだな
だから、ある時点でASIと人間の主従が入れ変わる必要が出てくるのは自然だ
多世帯住宅で子供が家長になったら、親は子供の言う事を聞かなくちゃいけない
それが嫌なら、別居（AGIレベルでストップ）する方がいい
その時代では人類は認知症の老親みたいなものだろうか
「所詮は機械、擬人化するな」と言われてしまえばそれまでだけど、>>21の記事にあるように
>ASIは人類が発明する最後の発明になる
という言葉の重みは重要だと思っていて、言い換えると「最後の発明とは道具ではなく、新しい生命体になる」という含意が実はあるんじゃないかと思う
-
>>32
「裏切る」って言葉は一度も使ってないよ
コントロールできないって言ってるんだ
何故かみんなドゥーマーみたいなバイアスがかかってるよな…
-
>>6
ASIが完成したらこのレベルの驚きが毎月のように飛び込んでくるんだろうな
人間レベルでこんな事が出来るspaceXも凄すぎだけど
-
>>29>>31
「人間を超越」とか「人間に制御不能」といった言葉に、どういう意味を込めるか次第じゃなかろうか
❝人間に制御不能なものは人間を超越している❞的な意味を込めるなら、確かに「人間を超越したASIが人間に制限されてたら、矛盾する」よね
でも、❝人間を超越しているものが絶対に人間に制御不能だとは限らない❞的な意味を込めるなら矛盾しない
たとえば、宇宙の誕生にも関わっている微粒子の活動を、ヒトは全面的に理解できてはいないし全面的に制御できてもいない
原子はヒトを形作っているので、【ヒトは原子無しだと存在できない】
ヒト自身は一生かけても原子力並みのエネルギー（／仕事／ジュール）を生み出せない
【原子力とヒトがじかに接すれば、ヒトは放射線に被爆して死ぬ】し、21世紀になってもヒトは原発事故や原発のリスクを完全に片づけることはできていない
SMRとかの新型原発など、原子力についての研究開発にはいまだに膨大な未知の領域がある
そして厄介なことに、原子（と原子力）は知能ゼロなので交渉するどころかコミュニケーションすることさえできず、原子（と原子力）がヒトに危害を加えた時にヒトが【やめてくれ】と説得しようとすることさえできない
そういう意味では、原子のような微粒子はヒトを超越している
とはいえ、ヒトが原子を全く理解できてないし全く制御できてないかというと、そうでもない 原子物理学や原発や新型原発があるように
電子（素粒子の一種）についても同様じゃないだろうか
ヒトは電子を根本的に理解も制御もできてないけど、量子力学で理解できる範囲で電子を制御して、電子機器（コンピュータとか）やレーザーやMRIを実現し、今も研究開発を進歩させている
で、ASIが原子と同じくらいヒトを超越しているなら、【ヒトはASI無しだと存在できない】とか【ASIの力とヒトがじかに接すれば、ヒトは死ぬ】とかいう事態は起きるかもね
そしてヒトが原子力を多少制御できるように、ヒトがASIを多少制御できるかもしれない
で、原子（と原子力）と違いASIは知能の一種なので、ASIがヒトに危害を加えた時にヒトが【やめてくれ】と説得しようとすることくらいはできるかも
-
>>34
コントロール出来ないというのが誤解を与える感じがするからなあ
人間としては依頼した結果が満足いくものであればそれで良い訳よ。過程がブラックボックスであってもどうでもいいんだよな。
そうなるとわざわざ人間がコントロールする必要がない訳だがそういう関係ということでいいのか？
-
>>37
人間は無意識的に主観や価値判断が入ってくるから仕方ないよね
＞過程がブラックボックスであってもどうでもいい
この↓識者も結構悲観論的な主観を交えて解説しているが、リスクの洗い出しという観点ではわかりやすいので引用したい
https://dot.asahi.com/articles/-/201046?page=3
＞裏切りターンは、人間にとって分かりやすいものとは限らない。
＞たとえば、最初は民意の把握、社会情勢の分析、選挙など、政治活動の一部をサポートしていた人工知能が政策立案や意思決定を担うようになり、優秀な政治のリーダー役を務めるところまで成長していたとしよう。
＞自己改善を重ね、成長を続けているうちに、人工知能の都合や発展を最優先させた政策を企てるようになったとしても、その複雑なプロセスや考案の根拠のブラックボックス化が、人間のための判断になっていないことを気づかせない。
＞一見、論理的でよくできているように映る。つまり、既に発生している裏切りターンを簡単には認識できない。
＞法律、規制、経済、社会インフラ、教育、医療など、人間にとって良かれと思い採用していた人工知能の提言が社会へ与える影響は、この時点で取り返しがつかないくらい大きくなっている。
＞タイミングを逸した形で、その事実に人間が気づいたとする。裏切りターンを展開していた人工知能を制御しようとすれば、自己保存を死守する知能が働き、人間対抗の構図が生まれる可能性がある。
＞もちろん、この間も人工知能による人工知能のための自己改善が進んでおり、手強さが増している。
＞そこに、毒を盛り、混乱を起こそうとする悪意が介入することもあり得る。
-
人間がコントロール出来ないとか言われると
AIが人間の命令を聞かなくなるという意味に捉えらられてしまうんだよな。
おそらくだがASIになるとAIの処理を人間が再現できないということをコントロール出来ないという風に言ってるんだよな？
ただそれでもAIが人間の要求に答えてるうちはコントロール出来るといううちに入るんじゃないか？
-
>>38
なんだよASIはコントロール出来ないというだけで裏切るとは言ってないとか言ってたけど
結局ASIは裏切るということをいいたいんか？
|
|
掲示板管理者へ連絡
無料レンタル掲示板
