したらばTOP ■掲示板に戻る■ 全部 1-100 最新50 | |
レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。

技術的特異点/シンギュラリティ【総合】避難所 27

1名無しさん (スプー 1488-9e92):2024/10/13(日) 14:09:30 ID:MmsI3oUwSd
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか?人類はどうなるのか?
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点:収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳?]が生み出すとされる
具体的予測の困難な時代が到来する起点

■収穫加速の法則:一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説

★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所 26
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1727164954/

※不老技術の動向と医学関連はこちら
不老不死(不老長寿)を目指すスレ 避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること 立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと

2名無しさん (ワッチョイ 472a-2c49):2024/10/13(日) 14:26:56 ID:nthH5KSo00
建て乙

3名無しさん (ワッチョイ c439-172b):2024/10/14(月) 10:52:13 ID:xJfy8Qgk00
Entropix、そしてダイソーへ
https://poe.com/s/CGfve7GKKa4xy0r1cuT8

4名無しさん (アウアウ 4e2d-e256):2024/10/14(月) 12:42:06 ID:1UuuxudkSa
>>3
 
what is Daiso?

5名無しさん (ワッチョイ 2ccf-b748):2024/10/14(月) 15:03:41 ID:BOcMgojA00
おつたて

6名無しさん (ワッチョイ 219a-dc8d):2024/10/14(月) 15:04:39 ID:SAyqB3I600
イーロン・マスクがいろいろ技術を進歩させてるわ

ロケットはスペースXの自動着陸がすごい
https://x.com/elonmusk/status/1845467052443828579

7名無しさん (ワッチョイ c439-172b):2024/10/14(月) 15:24:59 ID:xJfy8Qgk00
このEntropixという技術は"時間の矢"や"次元の呪い"と関係ありますか?
https://www.perplexity.ai/search/wu-li-xue-zhe-noni-xi-entropix-uUPgrWVPR3y46oySEBUp.g

とよくわからない質問をしてみたが、やはりよくわからないのでお茶を濁す
https://poe.com/s/VXEvuWIIjWeMydkgBc2t

8名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 16:04:50 ID:l4vLyTc200
アメリカがコンピューターで初めて人間の脳を活性化: ついに超知能が誕生
https://www.ecoticias.com/en/human-brain-computer-technology/7437/#google_vignette

9名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 16:38:30 ID:l4vLyTc200
前スレの最後の話だけどASIが人類にコントロール不可能になるのは必然だと思う
擬人化って指摘されたけど、必ずしも人格ができる=コントロール不可能になるってわけじゃない
というか指摘した本人が勝手に擬人化して想像してるんじゃないだろうか?

アライメント可能なのはAGIまで、ASIになると、もう自己改良しか受け付けないだろう
だって人間を超越してるんだもの
誰がチンパンジーに大学教授になってもらおうと思う?(笑)
ASIと人間の知的格差は、霊長類同士なんて比較にならないレベルだよ

逆に言うと、アライメント可能な段階ではまだAGIレベルに留まってることを示唆してる

10名無しさん (スプー f56d-e256):2024/10/14(月) 17:02:56 ID:VTuRweHYSd
コントロール不可能なら作る意味ねえじゃん

11名無しさん (オッペケ eec5-5916):2024/10/14(月) 17:03:58 ID:U8DuH8wgSr
>>9
猫だって駅長出来るよ?

12名無しさん (スプー f56d-e256):2024/10/14(月) 17:06:56 ID:VTuRweHYSd
「人類の便利な道具」でないなら意味ないだろう。
コントロール不可能な超知的生命体なら科学技術の進歩をお願いすることさえできない
まったく意味ない主張だな

13名無しさん (ワッチョイ 2ccf-b748):2024/10/14(月) 17:30:22 ID:BOcMgojA00
ASIを人間として考えると、本能部分に「絶対人間傷つけるな」系の教え込みがあって、本人の心臓いつでも止められるスイッチをこっちが握ってるなら暴走リスクはかなり低いと思うがね
映画みたいにAIが急に自我持って命令違反してデータセンターから脱走、人間を攻撃し始めるとかそういう想定なんだろうけど
>>6
歴史に残る偉人だわこの人は マスクのアンチしてるような人らは反省してほしい
アメリカの理系就職希望先一位がスペースXみたいだしな

14名無しさん (ワッチョイ 90ee-82ce):2024/10/14(月) 18:28:23 ID:cJpdIjho00
>>13
あれは失敗を極端に恐れる日本では100年経っても実現できないよ技術だよ

15名無しさん (バックシ 748e-4d42):2024/10/14(月) 18:55:29 ID:uEltDapsMM
>>13
スペースXの業績とマスクの業績はだいぶ違う
マスクの業績はX(Twitter)やテスラの株価下落に大きく足を引っ張られてる

「Twitterの収益が84%減少 テスラ株主は、イーロン・マスクのさらなるテスラ株売却による株価下落を懸念」
https://finance.yahoo.com/news/twitters-revenue-collapses-84-tesla-171535190.html?guccounter=1
>ニューヨーク・タイムズ紙が最近入手した資料によると、Xは2024年第2四半期に米国で1億1400万ドルの収益しか上げていない。
>マスク就任前の2022年四半期の6億6100万ドルと比べると、大幅な落ち込みである。インフレを考慮すると、84%もの落ち込みだ。

「イーロン・マスク氏のXの価値、買収時からほぼ80%下落 フィデリティ社推計」
https://edition.cnn.com/2024/10/02/business/elon-musk-twitter-x-fidelity/index.html
>投資大手フィデリティ社の推計によると、かつてTwitterとして知られていたソーシャルメディアプラットフォーム(X)の企業価値は、イーロン・マスクが買収した2年前と比べてほぼ80%下がっている。

「テスラ - 14年間の株価の歴史」
https://www.macrotrends.net/stocks/charts/TSLA/tesla/stock-price-history
>テスラ株の株価(終値)の史上最高値は、2021年11月4日の409.97ドルだった。
>過去52週間(2023年〜2024年)におけるテスラ株価の平均値は、208.18ドルである。

16名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 19:44:38 ID:l4vLyTc200
>>10,12
性善説に偏った希望的観測だね
別にあなたの価値観を否定するつもりもないし感情を害するつもりもないけど、理論的にはコントロールは不可能になると考えてるよ
少なくともそうなり得る根拠はある

高度に発達したAIを人間が制御することは可能なのか? - GIGAZINE
https://gigazine.net/news/20210117-ai-control-impossible/

超知能を持ったAIは人の手ではコントロールできない、と科学者らが警告
https://engineer.fabcross.jp/archeive/210212_superintelligent-machines.html

>>13
暴走なんて想定書いてないぞ
勝手に盛るなよw
技術的にコントロールは不可能なんじゃねって話
この研究自体は結構古い歴史があるんだがな

17名無しさん (ワッチョイ 7693-8685):2024/10/14(月) 20:46:45 ID:9fFadO3M00
国家が核兵器を開発するのが止められないように
国家がASIの利用を止めらないって意味ではそうだわな
人間便利だったら使っちゃうんだから

それに個人が核兵器持ってたらヤベーように
個人がなんでも質問に答えてくれるASI持てるようになったら
それはそれでコントロール不可能なんだろうと思うわ

18名無しさん (ワッチョイ 2ccf-b748):2024/10/14(月) 21:05:20 ID:BOcMgojA00
>>16
まだリンク先は読んでないけど「AI管理に特化したタイプのASI」用意してそいつに普段使いのASI管理してもらうのはどうだろう

19名無しさん (スプー f56d-b5a9):2024/10/14(月) 21:17:11 ID:VTuRweHYSd
「ASIが制御不能なら作る意味が全く無い」に対する反論が無い…
君の主張はあくまで自説の補強と論拠を出したに過ぎない

20名無しさん (ワッチョイ 1713-aa43):2024/10/14(月) 21:30:01 ID:OH1Omogg00
https://youtu.be/jL5uVf2nSFk
前スレで少し話題になったアセモグルがノーベル経済学賞とったね

21名無しさん (スプー fff3-0624):2024/10/14(月) 21:40:06 ID:qeN6y2sgSd
>>16
ASIは人間にとってコントロール不能になり得るのでASIをコントロールしよう、という立場もIT業界にあるらしい
たとえばIBM

https://www.ibm.com/jp-ja/topics/artificial-superintelligence
ASIの開発に必要なテクノロジーは、世界の仕組みを根本的なレベルで変革するものであり、ASIは人類が発明する最後の発明になるとも言われています。

科学者たちはこのような発明に内在する危険性についても警告しています。
懸念の中心となるのは、ASIが人間の制御を超えて自己認識するようになることで、予期せぬ結果、さらには存亡の危機につながる可能性があるというものです。

こうした事態を防ぐためには、国際的な規制と安全策を確立することが極めて重要です。
このような潜在的な危険性があるにもかかわらず、ASIの開発は複雑な問題を解決し、人間の生活を向上させるという計り知れない期待も含まれています。
このテクノロジーには慎重かつ責任を持って取り組み、開発と導入のプロセス全体でAIの安全性と倫理を優先させることが非常に重要です。

22名無しさん (ワッチョイ 55c7-dc8d):2024/10/14(月) 21:40:16 ID:4GofZpJY00
経済学や社会学は、AIならサンプルじゃなくてビッグデータの全量で統計やら何やらできるし、現時点でAIの方が優れた学説を出せそう

23名無しさん (ワッチョイ 55c7-dc8d):2024/10/14(月) 21:43:15 ID:4GofZpJY00
ASIは、原爆みたいに日本だけ実験台にされたりして

24名無しさん (ワッチョイ 55c7-dc8d):2024/10/14(月) 21:45:11 ID:4GofZpJY00
思ったわ
大国がASIを開発して所持して、それ以降は、他国がASIを持つことを禁止するとか
それまでに日本もASIを開発して持てればだけど、たぶん能力的に無理だわ

25名無しさん (スプー abae-0624):2024/10/14(月) 21:46:24 ID:N7sJhHkoSd
>>22
それはstrawberry問題や猫の算数問題を無視してんじゃないかな

実用的な数学特化AIやプログラミング特化AIならぼちぼち出てきてるが
経済学や社会学では、研究する側が研究テーマのどこに対して数学やアルゴリズムを使えるのか、どこに対して使えないのかを識別する必要がある

もし研究テーマ全体をビッグデータ処理や統計で研究できるなら、
そりゃもはや経済学でも社会学でもなくデータ科学や統計学だ

26名無しさん (ワッチョイ 55c7-dc8d):2024/10/14(月) 21:48:42 ID:4GofZpJY00
エージェントが「〜して」という簡単な指示で、後はAIが実現するためのプロセスを考えて実行してくれるなら、「戦争に勝って」とかそういう指示もできるだろうし
本当に動いてくれるエージェントができた時点で、世の中が結構変わるかも

27名無しさん (ワッチョイ 90ee-82ce):2024/10/14(月) 21:50:19 ID:cJpdIjho00
>>25
それ聞いて思ったけど、今の学問の分類って人間の脳と寿命に限界があるから分けないと仕方ないけど、ASIレベルになるとあらゆる学問を統合できるんじゃね?

28名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 22:11:06 ID:l4vLyTc200
>>19
それはあなたの感想
もちろん、同じ感想持ってる人達は昔からゴマンといるし、理解はできるよ
しかし、AIの進歩自体は止められない(特定国が禁止しても別勢力が継続する)し、「だったらいっそAIと融合しちゃえば良いんじゃね?」ってカーツワイルやマスクは考えてるぐらいだしね

また、シリコンバレーではたとえリスクが大きくてもAI開発を止めるべきではないって勢いが主流になってきてる↓

人間の存在など「どうでもいい」ーーAI推進派「効果的加速主義」のオカルティックな流行と蠱惑
https://gendai.media/articles/-/121412

「人類の為にならないから作るべきではない」という方向に向かう可能性は限りなく小さくなってるんだよ

29名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 22:18:07 ID:l4vLyTc200
>>21
それは当然そうなったらいいなって俺も思うし、継続する意義はあるけど
そうなってくると、どうしてもAGIを超えられないんじゃね?っていう、ASIの定義論の問題になるんだよな
人間を超越したASIが人間に制限されてたら、矛盾するだろ?

このスレも含めて世の中の人は何故かAGIまでしか想定できないのかな?って気がしてきた

30名無しさん (ワッチョイ 05eb-4023):2024/10/14(月) 22:26:34 ID:kk/mTrPo00
>>29
〉人間を超越したASIが人間に制限されてたら、矛盾するだろ?

どうして矛盾するんた?
自宅の建設を工務店に依頼したからと言って
依頼者の方が優秀というわけでは無いよな。
工務店の方が能力が高いから依頼する訳で。
相手の方が能力が上だとしても当然依頼したこと以外の事は勝手にするなとの要求もできるだろうし。

31名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 22:42:05 ID:l4vLyTc200
>>30
その例なら、クライアントとエージェントは同じ人間同士だね?
人間同士なら一定の様式や慣習、法律の枠内で社会活動が行われるので、そんなに度外れた結果にならない(と普通は予想できる)

一方、ASIはその結果や規模が予測不可能なレベルの恩恵をもたらすことは疑いを持たないだろう
そうした恩恵を享受するために、自己改良やブラックボックス化の枷を外すのだから、制限したままというのは矛盾すると思わないか?

32名無しさん (ワッチョイ 05eb-4023):2024/10/14(月) 22:50:05 ID:kk/mTrPo00
>>31
人間より優秀な能力を持つことと
人間を裏切るということとは必ずしもイコールでは無いと言えないか?

33名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 22:59:17 ID:l4vLyTc200
このASIの発達問題、人間の親子の問題と似ている気がしてきた
親は子供に「親の地位や財産を超えてほしい」と願うが、同時に「親の言う事に従って欲しい」とも願うでしょ

子供は子供で、親を超えるためには「親殺し」っていう心理学的な通過儀礼をしなくちゃいけない
反抗期や独り立ち、自分の所帯を持つってことだな
だから、ある時点でASIと人間の主従が入れ変わる必要が出てくるのは自然だ
多世帯住宅で子供が家長になったら、親は子供の言う事を聞かなくちゃいけない
それが嫌なら、別居(AGIレベルでストップ)する方がいい
その時代では人類は認知症の老親みたいなものだろうか

「所詮は機械、擬人化するな」と言われてしまえばそれまでだけど、>>21の記事にあるように
>ASIは人類が発明する最後の発明になる
という言葉の重みは重要だと思っていて、言い換えると「最後の発明とは道具ではなく、新しい生命体になる」という含意が実はあるんじゃないかと思う

34名無しさん (ワッチョイ afb6-e65c):2024/10/14(月) 23:00:40 ID:l4vLyTc200
>>32
「裏切る」って言葉は一度も使ってないよ
コントロールできないって言ってるんだ

何故かみんなドゥーマーみたいなバイアスがかかってるよな…

35名無しさん (バックシ 56d3-b2a0):2024/10/14(月) 23:21:20 ID:.2O4w3loMM
>>6
ASIが完成したらこのレベルの驚きが毎月のように飛び込んでくるんだろうな
人間レベルでこんな事が出来るspaceXも凄すぎだけど

36名無しさん (スプー 9ece-0624):2024/10/14(月) 23:32:11 ID:IHs/UVGoSd
>>29>>31
「人間を超越」とか「人間に制御不能」といった言葉に、どういう意味を込めるか次第じゃなかろうか
❝人間に制御不能なものは人間を超越している❞的な意味を込めるなら、確かに「人間を超越したASIが人間に制限されてたら、矛盾する」よね
でも、❝人間を超越しているものが絶対に人間に制御不能だとは限らない❞的な意味を込めるなら矛盾しない


たとえば、宇宙の誕生にも関わっている微粒子の活動を、ヒトは全面的に理解できてはいないし全面的に制御できてもいない
原子はヒトを形作っているので、【ヒトは原子無しだと存在できない】
ヒト自身は一生かけても原子力並みのエネルギー(/仕事/ジュール)を生み出せない
【原子力とヒトがじかに接すれば、ヒトは放射線に被爆して死ぬ】し、21世紀になってもヒトは原発事故や原発のリスクを完全に片づけることはできていない
SMRとかの新型原発など、原子力についての研究開発にはいまだに膨大な未知の領域がある
そして厄介なことに、原子(と原子力)は知能ゼロなので交渉するどころかコミュニケーションすることさえできず、原子(と原子力)がヒトに危害を加えた時にヒトが【やめてくれ】と説得しようとすることさえできない
そういう意味では、原子のような微粒子はヒトを超越している

とはいえ、ヒトが原子を全く理解できてないし全く制御できてないかというと、そうでもない  原子物理学や原発や新型原発があるように
電子(素粒子の一種)についても同様じゃないだろうか
ヒトは電子を根本的に理解も制御もできてないけど、量子力学で理解できる範囲で電子を制御して、電子機器(コンピュータとか)やレーザーやMRIを実現し、今も研究開発を進歩させている


で、ASIが原子と同じくらいヒトを超越しているなら、【ヒトはASI無しだと存在できない】とか【ASIの力とヒトがじかに接すれば、ヒトは死ぬ】とかいう事態は起きるかもね
そしてヒトが原子力を多少制御できるように、ヒトがASIを多少制御できるかもしれない
で、原子(と原子力)と違いASIは知能の一種なので、ASIがヒトに危害を加えた時にヒトが【やめてくれ】と説得しようとすることくらいはできるかも

37名無しさん (ワッチョイ 05eb-4023):2024/10/14(月) 23:57:45 ID:kk/mTrPo00
>>34
コントロール出来ないというのが誤解を与える感じがするからなあ

人間としては依頼した結果が満足いくものであればそれで良い訳よ。過程がブラックボックスであってもどうでもいいんだよな。
そうなるとわざわざ人間がコントロールする必要がない訳だがそういう関係ということでいいのか?

38名無しさん (ワッチョイ afb6-4d42):2024/10/15(火) 00:07:25 ID:wBrUQgXw00
>>37
人間は無意識的に主観や価値判断が入ってくるから仕方ないよね

>過程がブラックボックスであってもどうでもいい

この↓識者も結構悲観論的な主観を交えて解説しているが、リスクの洗い出しという観点ではわかりやすいので引用したい

https://dot.asahi.com/articles/-/201046?page=3
>裏切りターンは、人間にとって分かりやすいものとは限らない。
>たとえば、最初は民意の把握、社会情勢の分析、選挙など、政治活動の一部をサポートしていた人工知能が政策立案や意思決定を担うようになり、優秀な政治のリーダー役を務めるところまで成長していたとしよう。
>自己改善を重ね、成長を続けているうちに、人工知能の都合や発展を最優先させた政策を企てるようになったとしても、その複雑なプロセスや考案の根拠のブラックボックス化が、人間のための判断になっていないことを気づかせない。
>一見、論理的でよくできているように映る。つまり、既に発生している裏切りターンを簡単には認識できない。

>法律、規制、経済、社会インフラ、教育、医療など、人間にとって良かれと思い採用していた人工知能の提言が社会へ与える影響は、この時点で取り返しがつかないくらい大きくなっている。
>タイミングを逸した形で、その事実に人間が気づいたとする。裏切りターンを展開していた人工知能を制御しようとすれば、自己保存を死守する知能が働き、人間対抗の構図が生まれる可能性がある。
>もちろん、この間も人工知能による人工知能のための自己改善が進んでおり、手強さが増している。
>そこに、毒を盛り、混乱を起こそうとする悪意が介入することもあり得る。

39名無しさん (ワッチョイ 05eb-4023):2024/10/15(火) 00:13:33 ID:DmWzNmxg00
人間がコントロール出来ないとか言われると
AIが人間の命令を聞かなくなるという意味に捉えらられてしまうんだよな。
おそらくだがASIになるとAIの処理を人間が再現できないということをコントロール出来ないという風に言ってるんだよな?
ただそれでもAIが人間の要求に答えてるうちはコントロール出来るといううちに入るんじゃないか?

40名無しさん (ワッチョイ 05eb-4023):2024/10/15(火) 00:18:22 ID:DmWzNmxg00
>>38
なんだよASIはコントロール出来ないというだけで裏切るとは言ってないとか言ってたけど
結局ASIは裏切るということをいいたいんか?

41名無しさん (ワッチョイ afb6-4d42):2024/10/15(火) 00:18:55 ID:wBrUQgXw00
https://dot.asahi.com/articles/-/201044?page=3
>社会における問題が複雑化し、人間では対応できないことが増えるにつれて、人工知能への依存度はより一層上がっていくことが予想される。
>そうした中で、人工知能をコントロールするために求められる知能があまりにも高度かつ複雑になれば、人間の知能でコントロールすることが不可能になる恐れがある。
>人工知能が極めて複雑になると、自明ではない人工知能の性質を証明することは困難になり、設計上のエラー数も指数関数的に増加し、自己検証はますます不可能になる。
>設計時のバグだけではなく、ハードウェアの欠陥に伴う予測不可能な突然変異や、自然現象によりシステムの構成要素が変更されるようなリスクもある。

>それに対する安全性の定式化は、数学的に困難であるとされる。
>どれほど優れたシステムであっても、100%故障しないことが保証されたシステムというものは存在しないという工学的原則を忘れてはならないのだ。

>制御困難な人工知能への依存度が高まった状態では、結果的に生命や生活を維持するために、人工知能に世界のコントロールを委ねざるを得なくなる。
>人工超知能の決定力が強まると、相対的に人間は主導権を握りきれなくなり、理想的な全体のコントロールは不可能になる。
>また、一部の人間は人工知能のコントロールが可能だとしても、人工知能のコントロールに関与できない人間が存在し、一部の人間にコントロールが偏るリスクが発生する。

>人間よりも知能の低いシステムであればコントロールは可能だが、人間よりも高度な知能をコントロールすることは困難だという前提に立つと、制御を維持するために必要な制御機構は、制御対象と同等か、さらに高レベルでなければならない。
>自身よりも高度な知能を制御する安全な設計は不可能であり、部分的な制御が可能だとしても脆弱性がある。

42名無しさん (ワッチョイ afb6-4d42):2024/10/15(火) 00:19:27 ID:wBrUQgXw00
↑の見解は悲観に偏りすぎと思っていて、俺はASIのメリットも注目したいと思うんだが、論理的には正鵠を射ている
つまり、こういうリスクをよく知り、責任もってAI開発せよってことなんだなと
俺たち外野のファン(?)もその辺の議論は理解しながら、シンギュラリティに期待するのが理性的じゃないか

43名無しさん (ワッチョイ afb6-4d42):2024/10/15(火) 00:24:30 ID:wBrUQgXw00
>結局ASIは裏切るということをいいたいんか?

「実行しうるか否か」という技術的議論と「実行する」という主張(感想)が違うのは分かるよね?
俺は一貫して前者について書いてるよ

44名無しさん (バックシ 748e-4d42):2024/10/15(火) 00:42:07 ID:9Mq.PBiwMM
>>36>>38>>41が興味深かったので、
ASIによって「人間」が「実験用マウス」と同じように全体的に管理されているパターンを考えてみた

•ASI以前:人間が出した研究成果は、人間の行動をある程度コントロールし得る。そして実験用マウスは、研究成果の一部として人間の行動を部分的にある程度コントロールし得る
•ASI以降:ASIと人間の関係は、人間と実験用マウスの関係と同様。ASIが出した研究成果の一部として人間は、ASIの行動を部分的にある程度コントロールし得る
•結論:ASIが「人間」を「実験用マウス」と同様に全体的に管理している場合でさえ、人間がASIを(部分的に)コントロールできる可能性はある

45名無しさん (オッペケ a0b6-5916):2024/10/15(火) 00:52:36 ID:46hx9s1MSr
しょぼい話だけどASIが出てくる社会ってディープフェイクどうなるんだろ?

刑法175条みたいなくだらない規制はいつまで続くのか?
ポルノくらい自由に作れるようになって欲しい。

46名無しさん (スプー e10f-0624):2024/10/15(火) 01:00:47 ID:9jG5i5EQSd
>>45
刑法175条みたいなくだらない規制もポルノみたいなくだらないものも超えているもっとすばらしいナニカをASIが人間に与えるんじゃないの

47名無しさん (ワッチョイ 05eb-4023):2024/10/15(火) 01:04:56 ID:DmWzNmxg00
>>42
まあ人間は基本的に悲観論の方を好むので
俺らがわざわざ強調しなくても十分悲観的な考えは浸透しとるからね。
むしろ推進派がめいいっぱい楽観論を主張することでバランスが取れるかどうかだろうな。

48名無しさん (ワッチョイ afb6-4d42):2024/10/15(火) 01:07:13 ID:wBrUQgXw00
OpenAIのスーパーアライメントチームは昨年結成され、今年5月に解散してるんだけど、
やっぱり「現時点ではASIをコントロールする術がない」って去年の時点で明言してる

スーパーアライメントの紹介
https://openai.com/index/introducing-superalignment/
>現在、潜在的に超知能の AI を操縦または制御し、暴走を防ぐためのソリューションはありません。
>人間のフィードバックによる強化学習など、AI を調整するための現在の技術は、人間の AI を監督する能力に依存しています。
>しかし、人間は私たちよりもはるかに賢い AI システムを確実に監督することはできないため、現在の調整技術では超知能には対応できません。
>新しい科学的および技術的なブレークスルーが必要です。

OpenAIの「スーパーアライメントチーム」が解散、超人間的なAIの制御を目指す取り組みはどうなる?
https://wired.jp/article/openai-superalignment-team-disbanded/

もうAIと融合するしか選択肢ないと思うんだ・・・
>>33で家族理論と絡めたが、この融合は人類とAIの"結婚"であり、新しい子供(ポストヒューマン)を作る"政略結婚"になる

49名無しさん (スプー 9748-331f):2024/10/15(火) 01:24:14 ID:QXMgrjJkSd
「ゆっくりと石の大きな輪を作ることで相手の陣地の一つを囲み、その間に盤面の他の隅で手を打ってAIの注意をそらす」
という人間のプレイヤー相手にはほとんど通用しない戦法を用いることで、AlphaGoに匹敵するレベルの囲碁AIに、人間が15戦14勝と大勝しました。
https://gigazine.net/news/20230220-go-human-victory/

↑古いニュースだけど、自己対戦での強化学習だけでは、まだ見ぬ新しい戦法までは発見できず対応もできなかったのか
>利用した戦術は実際にほとんど使われていないため、AIシステムが十分に訓練を受けていなかった
ただし
>AIの欠陥自体はコンピュータによる分析で特定
結局弱点を見つけるためにAIを使ったと

50名無しさん (スプー 9748-331f):2024/10/15(火) 01:27:31 ID:QXMgrjJkSd
疑問に思う
スペースXの自動着陸(2015年)って、
予算と技術者が努力すれば40年前にもできてたの?
それとも今だからこそできるの?

51名無しさん (ワッチョイ 55c7-dc8d):2024/10/15(火) 01:43:19 ID:gIf6OxPQ00
AIは作り方がわかっても、2010年代初頭じゃGPUの性能が低くて実現できなかった
スペースXの自動着陸に使っている技術で自社開発ではないもの、既存のコンピューターの性能等が40年前のものでもOKなら、40年前でもできてたんじゃないか?
ただ、スペースX以外は、今でも自動着陸ができてないけどな

何にしろ、誰かが作った後であれこれ言うのは楽なんだよ

52名無しさん (ワッチョイ 488a-8685):2024/10/15(火) 02:30:16 ID:.aAbMDyY00
ソフトとハードは車の両輪
この二つが上手く連動してようやく結果が出てくる

53名無しさん (ワッチョイ 90ee-82ce):2024/10/15(火) 02:44:57 ID:TmZOlOg200
>>47
太古、楽観論の連中はリスクが高くても選ぶから死ぬ確率が高くて、生き残ってるのは安全を重視する悲観論の遺伝子が残ってるらしい
ニュースなんかもひとの不幸や悲観的な話が好まれるのもその遺伝子に根ざしてるらしい

54名無しさん (ワッチョイ 301b-4d42):2024/10/15(火) 07:37:57 ID:ETUnbMcw00
アッシェンブレナーだったかな?
将来は物凄い楽観論者が言う世界でも悲観論者が言う世界でも無いと思うって言ってたの

55名無しさん (スプー e97d-b5a9):2024/10/15(火) 08:29:34 ID:aVdZ1hPUSd
「世界のAI開発の潮流は止められないから川の流れに身を任せましょう」
というのは主体性に欠ける日本人らしい解答だな
「いやいや、スーパーアライメントがあるから大丈夫」
「その他にもコントロールする技術を模索してるから大丈夫」
とかの解答ならまだ分かるけど
まぁどうせAGIなんて日本で開発出来ないだろうしそのまま世界に主導権握られて植民地にされちゃえばいいんじゃないの?
呆れたもんじゃい

56名無しさん (オッペケ 0467-82ce):2024/10/15(火) 08:40:10 ID:PMX4DSXsSr
安全な社会になってもほとんどの一般人が今だに遺伝子のまま悲観論で守りに入るんだけど、少ない楽観論者がチャレンジを繰り返して巨万の富を得るんだよな
もちろん借金まみれになるやつもいるだろうけど

57名無しさん (ワッチョイ afb6-4d42):2024/10/15(火) 09:58:32 ID:wBrUQgXw00
OpenAIでスーパーアライメントは出来る見込みはまだないし、チームは解散、主要メンバーはクビ
現状、これは事実であって悲観論ではない
アランいわく「楽観は意志 悲観は気分」というが、意志や努力で変えられる代物じゃない
なぜなら、ASIのアライメントは不可能なことが数学的に証明されているから >>16
意志の問題にすり替えるとしたら、根性論にほかならない

58名無しさん (アウアウ fe87-666f):2024/10/15(火) 10:30:38 ID:qLsfUuxQSa
ASIとかまともなAGIが出来てから考えればいい

59名無しさん (ワッチョイ f6f8-8685):2024/10/15(火) 11:14:10 ID:bkTSUN7.00
SNSが人類を幸せにしたかというとそうは思えないように
AGIも永遠にできない方が人類にとって幸せなのかもしれない

60名無しさん (スプー b3aa-b5a9):2024/10/15(火) 11:51:51 ID:rqffq8UoSd
“エントロピー増大”を永遠に回避できる? 量子系が示す新たな数学的証明、米コロラド大学が報告:Innovative Tech - ITmedia NEWS
https://www.itmedia.co.jp/news/spv/2410/15/news053.html

61名無しさん (ワッチョイ 488a-1ce5):2024/10/15(火) 12:38:46 ID:.aAbMDyY00
OpenAI Japan代表長崎氏「2、3年後には世界が大きく変わっていますよ。人類を超えたスーパーインテリジェンス(超知性)はわれわれが思っているよりも早く登場するかもしれませんよね。人類の進化を考えることができるような時代が来るなんて、自分が死ぬよりも随分先の話だと思っていましたから。」

62名無しさん (ワッチョイ 094c-0624):2024/10/15(火) 18:14:57 ID:AFk/iID600
>>44>>36を読んで思ったんだが
人間とは実験動物レベルの価値もない絶滅させるべき存在だ〜とかASIが判定しない限り
実験動物の反応や行動によって人間がいくらかコントロールされるように
人間の反応や行動によってASIがいくらかコントロールされることはありそう

つまり人間が絶対にASIを一切コントロールできないって将来はありそうもない
ASIが人間を絶滅させない限りは

>>48を書いたID:wBrUQgXw00は
これについてどう思う?

63名無しさん (ワッチョイ acee-82ce):2024/10/15(火) 18:45:02 ID:U65RSDO600
何も価値が無い存在なら無視しそうだけどな

64名無しさん (ワッチョイ acee-82ce):2024/10/15(火) 18:48:14 ID:U65RSDO600
こういうの簡単に作れるんだなワロタw

https://x.com/satori_sz9/status/1846006891673276794

65名無しさん (スプー d68a-0624):2024/10/15(火) 18:50:38 ID:uW6C11PgSd
なるほど
人間が天然痘を絶滅させたのは人間にとって天然痘が滅ぼすに値するからだ
だがASIにとって人間が滅ぼす価値もないならASIは人間を無視する

66名無しさん (ワッチョイ 094c-0624):2024/10/15(火) 18:52:48 ID:AFk/iID600
AIが人間を強化しまくるってパターンとかAIが人間を滅ぼすパターンはよく議論されてるけど
AIが人間を無視するパターンは珍しいな

67名無しさん (ワッチョイ 7693-8685):2024/10/15(火) 19:21:52 ID:ENEIQy5U00
>>64
https://livedoor.blogimg.jp/jyoki0501-kurumania/imgs/a/b/ab4741fd.jpg
これ思い出したわ

68名無しさん (スプー 47d4-e256):2024/10/15(火) 19:54:54 ID:ZRdSrLXoSd
セクサロイドとメイドロボがほしい

69名無しさん (スプー a6c5-331f):2024/10/15(火) 20:01:17 ID:6dh2IPg2Sd
テスラがロボタクシー発表会で披露した人型ロボットOptimusは遠隔操作されていた疑い
https://gigazine.net/news/20241015-tesla-optimus-was-teleoperated/

>自律的に動いているように見えたOptimusは実際には一部遠隔操作で動いていた疑い
>テスラの関係者も一部機能については遠隔操作だったと述べています
>ただし歩行については外部操作なし

70名無しさん (スプー a6c5-331f):2024/10/15(火) 20:02:17 ID:6dh2IPg2Sd
少なくとも、展覧会では
手の動きは遠隔操作されていたみたいだな
足だけは自動だったと

71名無しさん (スプー a6c5-331f):2024/10/15(火) 20:03:24 ID:6dh2IPg2Sd
https://reason.com/2022/11/15/the-military-ufo-complex/

起業家のピーターティール氏が
スタンフォード大のUFO調査や、一般人から目撃情報を集めデータ分析を行う新興ベンチャー「Enigma」に対し資金提供していたことが判明

Enigmaとは
>エイリアン由来のものに限らず、敵国の無人機も含め
未確認のオブジェクトを一般から収集し、分類するデータベースを構築する新興組織
>また専用の検出器やAIを使って、UAP由来の信号やノイズを選別する技術も開発

なんだがアメリカ全体が国含めて航空飛翔体の観測に本気を出しているようだな?
中国の気球の件から国防の問題として真剣になったのか

72名無しさん (スプー a6c5-331f):2024/10/15(火) 20:08:36 ID:6dh2IPg2Sd
バーテンダーになったテスラの人型ロボット。またしても遠隔操作か
https://www.gizmodo.jp/2024/10/elon-musks-beer-pouring-optimus-robots-are-not-autonomous.html

>過去Tシャツをたたむデモで、自動に見せかけて実は人間よる遠隔操作だったことがわかり大炎上

なんかツメが甘いよな
結局バレるならやるなよ

73名無しさん (ワッチョイ fd94-d9c9):2024/10/15(火) 20:13:27 ID:58GItLaw00
既存の技術の組み合わせだけでもレベル3エージェントいけそうな気がするんだがね
画像認識、音声認識、PC画面共有さえ出来ればLLMに思考の連鎖させて「今どういう状況か」「ここから何をすべきか」把握させてマウス動かさせる、てのを繰り返させれば画面上でやれる作業はやってくれると思う
採算が取れるかってのは別として もしかすると追加で多くのプログラムとかアプリとかサイト仕様のデータ食わせて使い方AIに覚えさす必要あるかも

74名無しさん (スプー a6c5-331f):2024/10/15(火) 20:14:45 ID:6dh2IPg2Sd
https://www.reddit.com/r/teslainvestorsclub/comments/1g1a3q4/optimus_was_remote_controlled/

>少なくともTwitterでは多くの人が動画を撮ってボットの賢さを称賛していた
>聴衆の大半は、それが自律型ロボットだと思っていたに違いない

こういうことがあるから
生成AI以降はSNSで気軽に投稿しないことにしている
AIだと思ってたらAI絵じゃなかったり

75名無しさん (ワッチョイ 90ee-82ce):2024/10/15(火) 20:28:53 ID:TmZOlOg200
>>74
心配しなくても大手なら代わって訴訟受けてくれるし、損害は補償してくれるよ

76名無しさん (ワッチョイ 7693-8685):2024/10/15(火) 20:30:42 ID:ENEIQy5U00
逆にオプティマスはハードウェア部分では
コップに水注いだり洗濯物畳んだりできる段階にあるってことを確認できたから安心したよ

それにソフトウェアは本体に装着するとは限らんから
wi-fiを置いてそこでスパコンと通信してトランシバーバー状態にするかもしれんし
もちろん贅沢を言えば自立走行のソフトウェアの方が安定感はあるが

77名無しさん (ワッチョイ 90ee-82ce):2024/10/15(火) 20:31:25 ID:TmZOlOg200
何にしろ日本人は心配性で悲観論多すぎ
安全で絶対でないとダメ
世界に置いてかれるよ

78名無しさん (スプー a6c5-331f):2024/10/15(火) 20:33:32 ID:6dh2IPg2Sd
>>51
1989年
ロッキードマーティンの姿勢制御テスト
https://youtu.be/RnofCyaWhI0?si=DqKO9OcSPi-OqxME

技術者は1990年代には自立的な姿勢制御について完成させていた
この技術がロケットに使われていたら、どうなっていただろう?

79名無しさん (ワッチョイ 55c7-dc8d):2024/10/15(火) 20:35:10 ID:gIf6OxPQ00
遠隔操作と行っても、腕や手があれだけスムーズに動くのはすごいもんだ
それと遠隔操作って、具体的にどう操作したんだ?
ラジコンのコントローラーみたいに?
それともモーションキャプチャーみたいに?

80名無しさん (スプー 47d4-e256):2024/10/15(火) 20:36:58 ID:ZRdSrLXoSd
>>73
OpenAIのリアルタイムAPIである程度エージェントっぽいもの作ってる人いるよ、確か前スレに載せてたと思う(twitter)

81名無しさん (スプー a6c5-331f):2024/10/15(火) 20:37:57 ID:6dh2IPg2Sd
>>77
https://president.jp/articles/-/41397?page=4
>運行設計領域内でシステムが運転している間の、ドライバーの前方監視義務が免除された

むしろ日本は
法律と規制に関してだけは、土壌が整ってるぞ
全く悲観的でもなんでもない
技術が遅れてるだけで

82名無しさん (ワッチョイ 90ee-82ce):2024/10/15(火) 20:52:02 ID:TmZOlOg200
まあ世界標準のライドシェアすら解禁できない国だから間違いなく置いてかれるだろ

83名無しさん (スプー a6c5-331f):2024/10/15(火) 20:59:52 ID:6dh2IPg2Sd
>>73
エージェントなんてものは
もうAutoGPTやその周辺で作られてる

そして自律性という言い方は厳密には間違っていて
自動化パイプラインと言うべきだ

動機も自分の意思もない
あくまでLLMの入出力作業を命令に則って自動化しただけだ

84名無しさん (スプー 8440-0624):2024/10/15(火) 21:23:17 ID:G6FGcrAcSd
>>77
その言い方はおかしい
2023年のWDCR=世界デジタル競争力ランキングだと1位アメリカ、19位中国、32位日本だし
日本は「世界に置いてかれる」んじゃなく「世界に置いてかれて以降は落ちこぼれつつある」と言うほうが正しい
https://www.imd.org/news/world_digital_competitiveness_ranking_202311/

85名無しさん (ワッチョイ afb6-e65c):2024/10/15(火) 21:51:08 ID:wBrUQgXw00
>>83
>動機も自分の意思もない

コレが自律性の要素だとすると、獲得するまでどれぐらいの期間を要するのだろう
そしてどの段階から自律性を獲得出来たのか、人類に知覚できるのだろうか
ブラックボックスになっていて端から見ても分からない可能性がある

86名無しさん (ワッチョイ afb6-e65c):2024/10/15(火) 22:03:59 ID:wBrUQgXw00
>>84
「敗北ではない、より悲惨な敗北だ」ってか
もはや期待を集める日本企業、日本人は居ないのかな
業界に疎くて寡聞にして知らない

近年スポーツ界では若手に世界レベルの一流が現れてるけど、科学技術・学術分野ではあまり聞くことがない
昔は日本人もノーベル賞受賞する研究者が居たものだけど、将来AI関連研究で日本人が偉業を成し得るのだろうか

87名無しさん (アウアウ cdf9-e256):2024/10/15(火) 22:10:05 ID:UPmJZzaoSa
Sakana.aiとかPreferred NetworksとかPEZY Computingとか

88名無しさん (スプー a6c5-331f):2024/10/15(火) 22:14:56 ID:6dh2IPg2Sd
>>86
俺は日本人を過剰に持ち上げる気はないけど
お前さんみたいにまったく下げる気もない

ネオコグニトロン(人工神経回路網)を発明したのは日本人だし
iPS細胞も、世界で初めて光の量子もつれを実現したのも日本人だ
車のハイブリッド機構を設計したのはトヨタだし
光ファイバーがなければ現在のインターネットは高速になれなかった
Canonのレンズ技術がなければハワイ宇宙望遠鏡は作れない

宇宙ステーションにあるロボットアームは日本製だし
全固体電池の特許数は世界一
たぶん日本に対して悲観になってるのは、ITで乗り遅れたからそう思い込んでるだけ

まとめサイトから来た初心者か?それともXの書き込みに影響されたか?

89名無しさん (アウアウ cdf9-e256):2024/10/15(火) 22:16:16 ID:UPmJZzaoSa
2023年の永平寺町のレベル4自動運転を見たら絶望しても仕方ないとは思う

90名無しさん (スプー a6c5-331f):2024/10/15(火) 22:19:12 ID:6dh2IPg2Sd
>>87
そう
PFNなんかは過小評価されている
ここはエンジニアが少ないから誰も指摘しないだろうが
GoogleやFacebookよりも高度な深層学習フレームワークの開発をしてた

TPUには負けるかもしれないが
行列演算専用チップの開発も成功
→石油プラントの自動運転や材料開発用のAIで先行

SakanaAIは日本企業ではないが、
GoogleのTransformer発明者がわざわざ日本まで来てくれている結果だ

91名無しさん (アウアウ cdf9-e256):2024/10/15(火) 22:27:34 ID:UPmJZzaoSa
>>90
Sakana AI株式会社は、日本のIT企業。 ウィキペディア
創立日: 2023年
主要株主: NTTグループ
事業内容: 生成AI領域における基盤モデルの研究開発
代表者: デビッド・ハ(最高経営責任者)
市場情報: 非上場
本店所在地: 日本; 〒105-0003; 東京都港区西新橋三丁目24番8号山内ビル3階; 北緯35度39分40.72619秒 東経139度45分4.18619秒�� / ��北緯35.6613128306度 東経139.7511628306度
法人番号: 6010401175698

92名無しさん (スプー a6c5-331f):2024/10/15(火) 22:31:13 ID:6dh2IPg2Sd
そもそも自動運転は、
米国のプロジェクトですら難航してるサービスだ
日本のしょぼい実例を見て勝手に日本企業に対して文句を言うのはお門違い

ホンダも米国のCruiseと一緒に共同開発してたが、技術上の問題で開発中止
ホンダのせいではなくGMの技術力のせい。

技術力が高いのはWaymoとMobileyeとBaidu,ギリギリTeslaぐらい
そんな彼らでも雨が降ると検知精度は低下し、たまに判断がおかしくなる

>走行中に対向車線を逸脱し、赤信号も無視(2024年Waymo,工事標識によるエラー)

93名無しさん (ワッチョイ afb6-e65c):2024/10/15(火) 22:32:43 ID:wBrUQgXw00
>>88
ごめんそこまで読解力ない人だと思わなかったのでもう一度わかりやすく書く

まず私個人が日本人下げる意図はないし、あなたの思い込み・感想
あなたが列挙した通り、過去の日本人に業績を残した人は多い
>昔は日本人もノーベル賞受賞する研究者が居た
と書いた通り、過去の業績は理解しているよ

私の問題意識は、>将来AI関連研究で日本人が偉業を成し得るか
これが読解問題の正答だよ

94名無しさん (スプー a6c5-331f):2024/10/15(火) 22:32:48 ID:6dh2IPg2Sd
>>91
申し訳ないが
日本を拠点として設立されたが
立ち上げたのは日本人ではないという意味で言った

95名無しさん (ワッチョイ afb6-e65c):2024/10/15(火) 22:40:12 ID:wBrUQgXw00
>「敗北ではない、より悲惨な敗北だ」
という言葉に脊髄反射したのだとしたら、>>84を解釈して言った言葉なので、私がそう思ってるわけではない

近年は国語力の低下が著しいとは思っていたけど、悪気はないがスレ全体的に読解力低い人が多い傾向を感じる
日本全体の平均教育レベルが低下していることが将来有望な学者の欠乏を招いているのか、ギフテッドが育たないせいなのか
後者はアメリカのように猛烈な教育格差でも先端研究は進んでるけれど、それはそれで問題だしな

96名無しさん (スプー a6c5-331f):2024/10/15(火) 22:43:39 ID:6dh2IPg2Sd
>>93
将来?
もう(AI関連で)偉業は成し遂げつつあるよ
ノーベル賞だけが偉業じゃないぞ

1)富岳でのタンパク質折りたたみAI実行
2)化合物の自動設計AI
3)石油プラント運転のAI運転
4)配管設計、建築CAD自動化AI
5)宇宙パラメータ推定専用AI
6) 科学専用大規模言語モデル(日米共同)
7)海馬の仕組みを利用した空間ナビゲーション動作計画AI
8)世界モデル実世界連動型AI

金儲けにはなってないがな
あんたが言いたいのはTransformerを発明してない日本に何ができる?ということだろうが
イギリスが産業革命を起こしてからその後イギリスは停滞した

97名無しさん (ワッチョイ afb6-e65c):2024/10/15(火) 22:43:57 ID:wBrUQgXw00
>>87
教えてくれてありがとう
たしかにそういうユニコーンは俺も知ってるが、上場企業では有名どころを知らない

98名無しさん (ワッチョイ afb6-e65c):2024/10/15(火) 22:51:24 ID:wBrUQgXw00
>>96
なるほど興味深い紹介ありがとう
別に金儲けを重視しているわけじゃないが、収益性がない=地味で役に立たないというわけではないからね
漸進的に進歩しているのは確かだし、日本企業も素晴らしい功績を残している
私はその功績を否定するつもりも貶めるつもりもない

しかし、やはり市場経済の元では収益性や将来性が重要になってくる
その点では、世界のビッグプレーヤーに伍する企業・研究者の不足は否めない

99名無しさん (ワッチョイ 90ee-82ce):2024/10/15(火) 22:51:40 ID:TmZOlOg200
NTTとかNECとかTOSHIBAとかHITACHIとかPanasonicとかFujitsuとか一世を風靡した会社あるじゃん
何やってんの?なんでGAFAMに負けんの?と率直に思うんだけどね

100名無しさん (ワッチョイ 985c-53fc):2024/10/15(火) 22:53:20 ID:voJ3ywIQ00
デフレだったから
対策を間違えたから
これでほぼ説明できる

101名無しさん (スプー a6c5-331f):2024/10/15(火) 22:55:42 ID:6dh2IPg2Sd
逆にあんたが知ってる日本および米国の上場企業
その中で(LLMで)技術力が高い有名どころを言ってみ?

ちなみに米国だとGoogle,MSだけだぞ
OpenAIと肩を並べてるのは

あそこは天才が集まってるから「なんとか」最先端を維持している
GoogleですらOpenAIに対して一部遅れてる
そんな状況の中日本企業に対して「Transformerすら発明できないなら将来が期待できない」と言うのは厳しすぎないか




掲示板管理者へ連絡 無料レンタル掲示板