技術的特異点/シンギュラリティ【総合】避難所 25 - 1724422340

1：名無しさん (ｽﾌﾟｰ 0f81-ab01)：2024/08/23(金) 23:12:20 ID:yoRXPTTsSd: 2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点：収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳？]が生み出すとされる
具体的予測の困難な時代が到来する起点

■収穫加速の法則：一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説

★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所 24
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1721642932/

※不老技術の動向と医学関連はこちら
不老不死（不老長寿）を目指すスレ避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること　立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと
951：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/23(月) 19:52:03 ID:6YWTEnPc00: Wes Rothが取り上げているこのリーク動画もimjustnewataiさんが情報源との事。
この動画はQ*絡みから始まるが「AGI目指してます」どころかASI実現が目的だと。Q*がAIの進化を推し進めた事がふれられ、エージェントのトレーニングの推移も取り上げている。

高度なAIの学習にはビデオゲームが使われていることが話題になった時期の動画ですね。
もう仮想的な物理世界での繰り返し学習になっているという話。Q* Strawberryの全貌はいまだ不明だが、AIの進歩における役割は予想以上に大きいようですね。
952：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/23(月) 19:52:44 ID:6YWTEnPc00: どんどん内情が暴露されてますね。AGI2025年、ASI2027年は本当に実現しそうですね。
953：名無しさん (ｽﾌﾟｰ 5af3-f977)：2024/09/23(月) 20:24:23 ID:.037ORwkSd: 今年9月中にGPT5公開って話はどうなったんだ
954：名無しさん (ﾜｯﾁｮｲ 37d4-82b8)：2024/09/23(月) 21:08:31 ID:txdFDjDE00: GPT5ことオリオンはいつ来るか分からん　25年初頭って噂もあるけどそんな早く来るかね
955：名無しさん (ﾜｯﾁｮｲ bab2-5c74)：2024/09/23(月) 21:24:00 ID:6YWTEnPc00: サム・アルトマンとジョナサン・アイヴの会社はブロック全体の土地を買い占めている模様。事業計画は着々と進んでいるようですね。
956：名無しさん (ﾜｯﾁｮｲ bab2-5c74)：2024/09/23(月) 21:26:44 ID:6YWTEnPc00: いよいよ数字としてAIによる代替が露呈してきました。

GAFAMレベルのIT関連職で90%は影響を受けると見ており、特に新入社員×AIが初級～中級レベルの従業員に匹敵する可能性も示しています。

2024年で本当に色々な事が目前まで進んだなと感じてます。

2025年は多分色々な所でAIが人を本格的に抜いていって、2026~2027年でもう全て追い越される、そんな時間軸かなぁと。

現時点まではそこそこ情報見てきましたが、正直未来がどうなるか全くわかってないです。

BI間に合うかな。
957：名無しさん (ﾜｯﾁｮｲ f031-b6b4)：2024/09/23(月) 21:48:36 ID:V8z45X4U00: 間に合うわけねーだろ
混乱期を経てやっと福祉が回るんだよ
今までの産業革命でこれなんだからAIの進化速度に政治の対応なんて無いに等しい
まずは自助。
958：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/23(月) 22:15:55 ID:6YWTEnPc00: OpenAIが常に他モデルよりも僅かに1歩リードするように調整出来ているのは、既にAGI(完全体o1)を所持しているからでは?という説です。

まあ、真偽はさておき私も薄々そうなんじゃないかなぁと思ってます。

他LLMアップデート、イベントに被せたり、アリーナも僅差で上回ったり。

既に手のひらでは?
959：名無しさん (ﾜｯﾁｮｲ 37d4-82b8)：2024/09/23(月) 22:49:37 ID:txdFDjDE00: o1を完全体にしたくらいでAGIに到達するかというのはちょっと疑問なんだが　てかo1無印は早めに公開するようだし
推論のスケーリング進めたら因果関係とか自己認識とか長期計画もついてくるのか？
960：名無しさん (ﾜｯﾁｮｲ 3fa5-cde4)：2024/09/23(月) 23:11:51 ID:W7qhWaDs00: >>957
いざとなったら食い逃げしてわざと刑務所に入ってもいい
飢え死にするよりはマシでしょ、緊急ならコンビニで食料ある棚から
直接食べて警察に通報されて事情話せばいいでしょ

気狂い行動だけど、貧困が全部悪いんだから仕方がない
行政だって動き遅いだろうし
961：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/23(月) 23:47:45 ID:.bg22ouM00: >>959
OpenAIはかなり自信持ってるから、恐らく完全体を持ってるんだろ
社会を混乱させないようにリーク＆ちょい出し続けてるだけ
962：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/24(火) 00:10:06 ID:1Rvm9C8g00: オープンAIは既にAGIを手中に収め、ASIに向けて全力疾走中なのか
963：名無しさん (ﾊﾞｯｸｼ be94-f977)：2024/09/24(火) 02:17:41 ID:DAPRHgbwMM: >>953
それってダニエル・ココタジロとかのAI業界有名人の予測だろ
今のAI展開のペースを見るに、外れた予測になりつつあるってことでいいんじゃないの
964：名無しさん (ﾊﾞｯｸｼ fdce-3b93)：2024/09/24(火) 02:35:11 ID:sjGjvYHwMM: ネトフリでゲイツの番組見たんだけど
openAIから呼ばれて頻繁にプレゼン受けてるみたいね
openAIの職場チラッと映ってたわ
965：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 03:12:48 ID:H/s6jCU.00: NVIDIA CEO の Jensen Huang 氏は、OpenAI o1 モデルの高速化に Blackwell GPU を使用することを発表しました

「Blackwell の新しい GPU は推論パフォーマンスを 50 倍向上させます。
このアップグレードにより、新しい OpenAI O1 推論モデルが強化され、応答時間が数分から数秒に短縮されます」

https://x.com/slow_developer/status/1838243025425777013
966：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 03:14:07 ID:H/s6jCU.00: ソフトに目が行きがちだが、ハードの進化も速すぎる
967：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/24(火) 05:52:15 ID:1Rvm9C8g00: @OpenAI / @samaからの公式ブログ投稿: ASI はおそらく数千日以内にリリースされるでしょう。これはすごい

以下に、OpenAI のブログ投稿から最も重要な文章を要約しました。他に言いようがありません。彼らは私たちを準備してくれています。彼らは私たちを ASI に向けて準備してくれています。文字通り、ASI は手の届くところにあると言っています。彼らは、ASI が私たちの生活、社会、富に与える大きな影響について語っています。私たちはもうすぐそこにいます。Ilya が ASI を研究しているのも不思議ではありません。私たちはここにいます。
結論: ASI は手の届く範囲にありますが、さらに多くのエネルギーが必要です。非常に速いです。

「 (...)最終的には、私たち一人ひとりが、さまざまな分野の仮想専門家で構成された個人の AI チームを持ち、協力して想像できるほとんどすべてのものを作り出すことができるようになります。 (...)これらの新しい能力により、今日では想像もできないほどの繁栄を共有することができます。将来、すべての人の生活が今よりも良くなる可能性があります。 (...)数千年にわたる科学的発見と技術の進歩の積み重ねにより、私たちは砂を溶かし、不純物を加え、それを驚くほどの精度で非常に小さなスケールでコンピューターチップに配置し、エネルギーを流し、ますます有能な人工知能を作成できるシステムを完成させる方法を見つけました。

これは、これまでの歴史全体の中で最も重要な事実となるかもしれません。数千日以内に超知能が誕生する可能性はあります(!)もっと時間がかかるかもしれませんが、私たちはそこに到達できると確信しています。

私たちはどのようにして繁栄の次の飛躍の入り口にたどり着いたのでしょうか?

一言で言えば、ディープラーニングは機能したということです。

15 語で言うと、ディープラーニングは機能し、規模に応じて予想どおりに改善され、私たちはそれに割り当てるリソースを増やしました。

まさにその通りです。人類は、あらゆるデータ分布 (または、あらゆるデータ分布を生み出す根本的な「ルール」) を本当に学習できるアルゴリズムを発見しました。驚くほどの精度で、利用できる計算量とデータが増えるほど、人々が難しい問題を解決するのを助ける能力が向上します。このことについてどれだけ時間をかけて考えても、それがいかに重要であるかを本当に理解することはできないと思います。 (...)
次に何が起こるかについては多くのことが言えますが、最も重要なのは、AI は規模が拡大するにつれてさらに向上し、世界中の人々の生活に意味のある改善をもたらすだろうということです。
AI モデルは、近い将来、私たちに代わって医療を調整するなど、特定のタスクを実行する自律的なパーソナルアシスタントとして機能するようになります。将来的には、AI システムが非常に優れたものになり、より優れた次世代システムの開発や、科学全般の進歩に貢献するようになるはずです。
AI をできるだけ多くの人の手に届けたいなら、コンピューティングのコストを下げ、それを豊富にする必要があります (これには大量のエネルギーとチップが必要です)。十分なインフラストラクチャを構築しなければ、AI は非常に限られたリソースとなり、それをめぐって戦争が起こり、ほとんどが金持ちの道具になってしまいます。 (...)

未来は非常に明るいものになるだろうと私は信じており、今それについて書こうとしても誰もそれを正しく伝えることはできない。インテリジェンス時代の特徴は、大規模な繁栄となるだろう。 (...)

一例として、このテクノロジーは今後数年間で労働市場に大きな変化（良い意味でも悪い意味でも）をもたらすと予想されますが、ほとんどの仕事はほとんどの人が考えるよりもゆっくりと変化し、たとえ今日の私たちにとって「本当の仕事」のようには見えなくても、やることがなくなるのではないかと心配することはありません。 do (

今日私たちが行っている仕事の多くは、数百年前の人々にとっては取るに足らない時間の無駄に見えたでしょう。しかし、過去を振り返って、自分はランプ点灯夫だったらよかったのにと思う人はいません。ランプ点灯夫が今日の世界を見たら、自分の周りの繁栄は想像を絶するものだと思うでしょう。そして、今日から100年早送りできたら、私たちの周りの繁栄は同じように想像を絶するものに感じるでしょう。」

さあ行こう
968：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 06:46:07 ID:H/s6jCU.00: サム・アルトマンは、スーパーインテリジェンスは5年から10年以内に開発される可能性があると見積もっています。

最初のブレークスルーは3年弱で起こるかもしれません。

https://x.com/slow_developer/status/1838271391730131116
969：名無しさん (ﾜｯﾁｮｲ 56ba-004a)：2024/09/24(火) 07:03:44 ID:C/6et.yo00: 何度も言ってるけど、ダニエルココタジロが９月に５が出るとは一度も言ってないよ
24年に5が出る予想はしてるけど
9月9月言ってる人はオレがちょっと前に書いた予想を勘違いしてる可能性高いわｗ
970：名無しさん (ﾜｯﾁｮｲ 56ba-004a)：2024/09/24(火) 07:14:08 ID:C/6et.yo00: >>967
>>968
30年までにASIの可能性

＞私たちは今日では想像もできないほどの繁栄を共有することができます。
将来、すべての人の生活が今よりも良くなる可能性があります。繁栄だけでは必ずしも人々を幸せにすることはできません。
貧しい金持ちもたくさんいます。しかし、繁栄は世界中の人々の生活を有意義に改善するでしょう。

未来は非常に明るいものになるだろうと私は信じており、今それについて書こうとしても誰もそれを正しく表現することはできない。
インテリジェンス時代の決定的な特徴は、莫大な繁栄となるだろう。

徐々にではあるが、気候の修復、宇宙コロニーの建設、物理学のあらゆる発見といった驚くべき成果が、やがて当たり前のものとなるだろう。
私たちは多くのことを成し遂げることができる。
971：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 07:25:23 ID:H/s6jCU.00: >>969
5よりstrawberry優先したはずだけど
972：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/24(火) 07:27:42 ID:1Rvm9C8g00: 宗旨替えしたみたい

World Economic Forumのライブ配信から。
あのヤン・ルカンですら「人類の知能に匹敵するAIが間もなく登場」と発言したと。
973：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 07:30:35 ID:H/s6jCU.00: 力ずくで５を出すより、strawberryで推論ベースのスケーリングへのパラダイムシフトを起こしといてから５～６への流れだと思うよ
974：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 07:36:32 ID:H/s6jCU.00: OpenAIは今までの便利でちょっと役に立つチャットボットという位置づけから、AGIからASIへの道へ気づきにくいように軌道修正させたんだよ
975：名無しさん (ﾜｯﾁｮｲ 56ba-004a)：2024/09/24(火) 07:48:45 ID:C/6et.yo00: ＞今後数年間で労働市場に大きな変化 (良い面も悪い面も) をもたらすと予想されますが、ほとんどの仕事はほとんどの人が考えるよりもゆっくりと変化し、
やることがなくなるのではないかと心配することはありません (たとえそれが今日の私たちにとって「本当の仕事」に見えなくても)。
人間には、創造し、お互いに役立ちたいという生来の欲求があり、AI によって私たちはかつてないほど自分の能力を高めることができます。

「たとえそれが今日の私たちにとって「本当の仕事」に見えなくても」ってのは
プロゲーマー、ユーチューバー、ホストとか？
976：名無しさん (ﾜｯﾁｮｲ 5b34-28d4)：2024/09/24(火) 07:55:42 ID:QfRuHqXA00: samのブログは結構前に投稿した「未来への心得」を踏襲した上での
現時点での展望みたいな内容だね。本当に最近また大きなブレークスルーが
あったんだろうね。ヤン・ルカンまで「色んなAIがあっていい」になったのは面白い。
977：名無しさん (ｵｯﾍﾟｹ 0c80-6899)：2024/09/24(火) 09:08:09 ID:BAkwXzI6Sr: もう人間と変わらんやん

Googleの「私はロボットではありません」を100％突破するCAPTCHA解きAI登場。もう人間とボットを区別できない？
https://news.yahoo.co.jp/articles/ad9b02430bb8631d735eac0965e6ba986ddee69f
978：名無しさん (ﾜｯﾁｮｲ bab2-5c74)：2024/09/24(火) 09:09:09 ID:1Rvm9C8g00: 2025年AGI、2027年ASIの可能性が十分ありえる展開になるとは驚いた
979：名無しさん (ｱｳｱｳ c96e-d49e)：2024/09/24(火) 10:26:41 ID:GKtbickASa: 徐々に労働奪うほうがAIを使う人と使わない人で貧富の差がエライ事になるな
980：名無しさん (ﾜｯﾁｮｲ a66f-ec32)：2024/09/24(火) 11:52:11 ID:i2CTmyBg00: ロボットに働かせられたら巨大建築物の工事とか余裕なんだろう
工事ロボ24時間稼働で工事期間は短時間になるし
材料の配送も自動運転の工事車両が運んでくる
しかも人件費は電気代しかかからない
こんなの無敵だろ
981：名無しさん (ｵｯﾍﾟｹ df7e-6899)：2024/09/24(火) 12:04:55 ID:1CNzuINcSr: >>980
それどころか建設計画から設計から資材発注から役所との協議や許可や価格交渉などあらゆることをAIが判断してやってくれる
982：名無しさん (ｵｯﾍﾟｹ d743-6899)：2024/09/24(火) 12:14:22 ID:L77peL.2Sr: 結講反響大きいみたいだね
そら心の準備ができてないもんな

人間超えるAI、“数千日”以内に誕生か　OpenAIサム・アルトマン氏が言及
https://news.yahoo.co.jp/articles/3faadf850c6e70447fe6e689a6836bb5a6bea18d

アルトマン氏のこの発言は、AIの急速な進歩と社会への影響の大きさを示唆するものとして、業界内外で大きな反響を呼んでいる。
983：名無しさん (ｱｳｱｳ 32fc-d49e)：2024/09/24(火) 12:28:05 ID:0m0pk90kSa: 千日以内にしてくれ
984：名無しさん (ｵｯﾍﾟｹ d743-6899)：2024/09/24(火) 12:44:38 ID:L77peL.2Sr: AGIじゃなくてASIだからな
985：名無しさん (ｽﾌﾟｰ 600f-56c0)：2024/09/24(火) 12:45:51 ID:gcbSlC5ESd: 数千日って幅ありすぎだろ
9,999日かかるとしたら、今から27年後、2051年になっちゃうよ…
986：名無しさん (ﾜｯﾁｮｲ 8068-cde4)：2024/09/24(火) 12:55:57 ID:AC51Wjc600: 1000日を3年くらいとすれば数千日だから5000日くらいだとして15年以内
2030年代には人間の能力を超えるAIが出来る

それを開発した企業とか開発人がどう悪用するのか
政治家はどう規制描けるのか、心臓の握り合いがこれから始まるな
987：名無しさん (ﾜｯﾁｮｲ 56ba-004a)：2024/09/24(火) 13:16:31 ID:C/6et.yo00: 　＞OpenAIは以前から超知能が10年以内に実現すると信じているとしている。
今回の個人ブログの目的は、“超知能の時代”のビジョンを披露することのようだ。
988：名無しさん (ｵｯﾍﾟｹ 2f02-6899)：2024/09/24(火) 13:59:40 ID:GfwPsNfcSr: >>985
原文は「a few」って書いてあるから、僅かだよ
989：名無しさん (ｵｯﾍﾟｹ 2f02-6899)：2024/09/24(火) 15:09:40 ID:GfwPsNfcSr: 辞書を見るとa few=2～3らしいので2000日～3000日
大体5年～8年でASIだね
早ければ1で3年弱
990：名無しさん (ｵｯﾍﾟｹ da94-b0fb)：2024/09/24(火) 15:36:06 ID:puVmecfcSr: 今のAIは一部の作業は賢いけどハルシネーションとか常識の欠如問題でまだ天才とは言い難い。
それでもゲームやアプリに組み込んだら面白いことは間違いないから盛り上がってる
991：名無しさん (ｵｯﾍﾟｹ da94-b0fb)：2024/09/24(火) 15:39:32 ID:puVmecfcSr: 文句なしに常識も備え合わせて知識分野にも隙がなく全方位の天才を負かせるだけの超知能が完成したとして、物量はどうなるんだろう？

それを一つ複製するだけで多大な費用がかかるとかありそう。逆にその費用を押さえる方法すらその超知能が提案してきて本当に実現可能だったらターミネータールートも心配しないといけなくなる。
992：名無しさん (ﾜｯﾁｮｲ 37d4-82b8)：2024/09/24(火) 17:00:36 ID:g2RvSTa200: >>972
今まで「今のAIは猫の知能すらない、AGIまではまだ遠い」って意見だったからredditでアンチ扱いされて叩かれてたのに
その発言したせいで皆困惑して「ヤンルカンは何を見たのか？」とか言われてて笑うわ
o1見てあの推論スケーリングの有望さに気付いたとしか思えん
993：名無しさん (ﾜｯﾁｮｲ d470-4e3c)：2024/09/24(火) 17:22:31 ID:ZdU0r3fw00: 「人類の叡智を10倍上回ると言われる「AGI（汎用人工知能）」」
孫正義のAGIの認識が間違ってるな

人工超知能「ASI」の実現がソフトバンクグループの使命－ソフトバンクグループ株式会社第44回定時株主総会 - ITをもっと身近に。ソフトバンクニュース
https://www.softbank.jp/sbnews/entry/20240620_01
「ASI」とは何か。人類の叡智を10倍上回ると言われる「AGI（汎用人工知能）」に対し、ASIは「人類の叡智を1万倍上回るもの」と孫は説明。AGIが天才的な頭脳を持つ人間だとすると、ASIはAGIが脳の神経細胞のようにつながることで、AGIの1万倍の賢さを持つものと説明し、「本気でASIの実現を目指す」と明言。これからの10年間で、人類が人工知能に追い抜かれる転換期が訪れ、全ての常識が変わると予測しました。
994：名無しさん (ﾜｯﾁｮｲ b005-cde4)：2024/09/24(火) 17:26:25 ID:haNdV9yo00: 孫さんって日本の中でベスト10に入る金持ちらしいけど
そんなに金持って何がやりたいんだろうな？

AGIにつながる日本法人を立ててシンギュラリティ後の世界でも
超大金持ちでありたいんだろうか？
995：名無しさん (ﾜｯﾁｮｲ d470-4e3c)：2024/09/24(火) 17:40:04 ID:ZdU0r3fw00: >>991
どういう意図で書いたのかわからないけど、複製する必要はないのでは？
バックアップとして？
996：名無しさん (ﾜｯﾁｮｲ d470-4e3c)：2024/09/24(火) 17:41:32 ID:ZdU0r3fw00: >>994
お金持ちになることが目的なら、とっくに引退してるよ
わざわざ財産失うかもしれない事業に挑戦しないでしょ
イーロン・マスクもそうだけど
997：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/24(火) 18:08:49 ID:JzDm0haI00: >>990
ハルシネーションは今は問題になっているけど、推論能力が上がれば上がるほど、与えられたデータを自分で考えられるようになるから自身で間違いに気づき内容を修正できるようになるよ
998：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/24(火) 18:11:55 ID:JzDm0haI00: >>996
イーロン・マスクは24時間働いて、仮眠はなぜかデスクの上に寝るらしい
999：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/24(火) 19:59:14 ID:1Rvm9C8g00: ヤンルカンは間違いだと以前から断言していた松田先生またまた的中🎯😳❣️
1000：名無しさん (ﾜｯﾁｮｲ e1d4-6899)：2024/09/24(火) 20:12:53 ID:H/s6jCU.00: これでAI開発してるメタ、google、OpenAI、xAI、Anthropicが早期のAGI、ASI実現予測でほぼ同じ内容で出揃った
奇しくも松田先生の予測どおりのタイムラインと同じになった