技術的特異点/シンギュラリティ【総合】避難所 29 - 1733790731

1：名無しさん (ｵｯﾍﾟｹ 01a5-7835)：2024/12/10(火) 09:32:11 ID:iiM0r5TQSr: 2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点：収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳？]が生み出すとされる
具体的予測の困難な時代が到来する起点

■収穫加速の法則：一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説

★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所27
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1728796170/
技術的特異点/シンギュラリティ【総合】避難所 28
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1731033677/

※不老技術の動向と医学関連はこちら
不老不死（不老長寿）を目指すスレ避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること　立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと
951：名無しさん (ﾜｯﾁｮｲ 5647-9331)：2025/01/05(日) 12:13:58 ID:llJvUN/E00: 次スレ

技術的特異点/シンギュラリティ【総合】避難所 30
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1736046780/
952：名無しさん (ﾜｯﾁｮｲ 5647-9331)：2025/01/05(日) 12:17:42 ID:llJvUN/E00: >>948
「どちら側かは不明」という言及は、この技術的進歩によって人類が恩恵を受けるのか、それとも苦しむのかに関する哲学的または実存的な曖昧さを示唆しており、AI が人類に与える影響についての継続的な議論を反映しています。

https://x.com/drew24004851/status/1875603571061719545
953：名無しさん (ﾜｯﾁｮｲ dd7c-094f)：2025/01/05(日) 12:30:56 ID:E3fJTDuo00: >>952
成る程、サンキュー。
6語の物語が何なのかは解らないが、作りたかった物が出来たのなら、目指してきたAGIが出来たのかも知れないな。
954：名無しさん (ﾜｯﾁｮｲ 1172-bff3)：2025/01/05(日) 12:47:34 ID:1KaJgZ5600: 「シンギュラリティが近い」って発言だから
それなりのものができたっぽいよね
955：名無しさん (ﾜｯﾁｮｲ af89-b737)：2025/01/05(日) 13:16:14 ID:X287CT5k00: 「どちらの側かは不明」ってのは、これから特異点に入るのか、既に越えてしまっているのか不明ってことだと思った
特異点を越えたんじゃないかと疑うくらいインパクトのある何かが起きてるってことなんじゃないかなと
956：名無しさん (ｽﾌﾟｰ c4a7-af08)：2025/01/05(日) 13:55:29 ID:.aM8WofISd: near the singularity; unclear which side.

俺はハードテイクオフ・シナリオ（急速に汎用人工知能が発達して社会が混乱に陥るシナリオ）
とソフトテイクオフ・シナリオ（徐々に汎用人工知能が発達して円満に社会に浸透していくシナリオ）かと思った。
957：名無しさん (ｽﾌﾟｰ c4a7-af08)：2025/01/05(日) 14:01:12 ID:.aM8WofISd: 因みにこのツイートのサムの補足
(it's supposed to either be about 1. the simulation hypothesis or 2. the impossibility of knowing when the critical moment in the takeoff actually happens, but i like that it works in a lot of other ways too.)
(これは、1. シミュレーション仮説、または 2. 離陸の重要な瞬間が実際にいつ起こるかを知ることが不可能であることのいずれかに関するものであるはずですが、他の多くの方法でも機能する点が気に入っています。)
https://x.com/sama/status/1875605258971582745
958：名無しさん (ﾜｯﾁｮｲ c28b-b3a2)：2025/01/05(日) 14:02:09 ID:QvDLk3SU00: ６語の物語はヘミングウェイの有名な逸話
"For sale: baby shoes, never worn"（売ります。赤ん坊の靴。未使用。）
959：名無しさん (ｱｳｱｳ a77a-ef19)：2025/01/05(日) 14:11:06 ID:xAFsAeBMSa: >>957
なるほど。全くわからん
960：名無しさん (ﾜｯﾁｮｲ 7459-b3a2)：2025/01/05(日) 14:47:03 ID:vkXityo.00: とにかくシンギュラリティは近いみたいなことを言ってるらしい
961：名無しさん (ﾜｯﾁｮｲ c28b-b3a2)：2025/01/05(日) 15:15:58 ID:QvDLk3SU00: 俺らは英語ネイティブじゃないから、機械翻訳で全部理解できるわけじゃないんだよね。
「6語の物語」は、単純に赤ちゃんの靴を売るってことだけじゃなくて、赤ちゃんを亡くした人が売る靴の話だって考えられる。
一つの言葉からいろんな想像が膨らむのが面白いところ。

だから、「シンギュラリティが近い」だけじゃなくて、もっと深い意味があるんじゃないかな。
962：名無しさん (ﾜｯﾁｮｲ 5647-9331)：2025/01/05(日) 15:21:22 ID:llJvUN/E00: >>953
6語（6単語）の物語は原文の
「near the singularity; unclear which side.」
だよ
963：名無しさん (ﾜｯﾁｮｲ 418c-1eb9)：2025/01/05(日) 18:59:05 ID:t58vhg9U00: 遠回しな表現はまどろっこしいからやめて欲しいな
964：名無しさん (ｽﾌﾟｰ c4a7-3266)：2025/01/05(日) 21:48:08 ID:.aM8WofISd: イーロンといいサムといいトランプといい
外国人は遠回しな表現が好きだな
965：名無しさん (ﾜｯﾁｮｲ 418c-8408)：2025/01/05(日) 22:02:46 ID:t58vhg9U00: https://x.com/Dr_Singularity/status/1875606593544343749

AGI/ASI の開発は、私たちが知る文明を再定義する大きな転換点となるまであと数年 (おそらく 12 か月程度) ですが、人々はいまだに H1B ビザや外国人に職を奪われる可能性について心配しています。この対照はこれ以上ないほど鮮明です。全世界が驚異的な進歩を遂げる寸前にいる一方で、多くの人々は、まもなく完全に無関係になる時代遅れの偏狭な懸念にとらわれています。
966：名無しさん (ﾜｯﾁｮｲ 418c-8408)：2025/01/05(日) 22:04:36 ID:t58vhg9U00: >AGI/ASI の開発は、私たちが知る文明を再定義する大きな転換点となるまであと数年 (おそらく 12 か月程度) です

2026年前半には飛躍的な進歩があるってか
967：名無しさん (ｵｯﾍﾟｹ 0fb1-e7a5)：2025/01/05(日) 22:11:31 ID:XctLcYSQSr: >>965
今の日本の価値観じゃあ人型ロボットがあらゆる労働をこなすなんて想定の範囲外でしょ。

それ言ったらSF映画見過ぎた狂人扱いされる。

それでも人型ロボットが実用的になれば、そういう便利な機械を開発した会社が大儲けする気がする。
無関係な会社はシェアを奪われると思う。
大失業時代は来てもベーシックインカムは今の日本人の自己責任教をなんとかしないと。
968：名無しさん (ﾜｯﾁｮｲ c28b-b3a2)：2025/01/05(日) 23:41:34 ID:QvDLk3SU00: >>967
その会社が一時的に莫大な利益を上げたとしても、その資金をどのように活用するのか、興味深いなｗ
誰もが働かずに生活できる社会においては、お金の流通量が大幅に減少するから、結果として貨幣価値が低下するよね。

共産主義の理想である「能力に応じて働き、必要に応じて受け取る」という概念をさらに推し進めた、
「受け取る」ことだけに特化した社会が実現した場合、ベーシックインカムすら一時的な対策に過ぎなく、
（だってお金を介してやり取り必要が無い）どのような社会が生まれるのかは未知だな。

まあここまでドラスティックな変異は後数年では起きないと思うけどね（100年単位だと思う）
969：名無しさん (ﾜｯﾁｮｲ 7ad7-7e2b)：2025/01/06(月) 00:37:36 ID:guuWhYwE00: AI開発はもはや戦争

DeepMindで働いてたフェリックス氏というAI研究者が亡くなられたらしい。RIP。そして彼は２ヶ月前に悲鳴のようなブログを書いていた。ビッグテックでAI研究開発する事はもはや比喩ではなく戦争そのものだと。好きな研究して稼いでて気楽でいいじゃんと思うかもしれんけど、内実はそれどころじゃない。自分の研究結果次第で数千億円の株価が上がったり下がったりしてしまう。その重圧は想像を絶する。しかも研究を公開しちゃったら他社にパクられて大損するかもしれんから、自分の研究論文を出せるかどうかの生殺与奪も会社次第。このアンコントローラブルな感じがこれまたキツいという。う～ん、Geminiとかが開発されてる裏ではこのような苦しみが起きていたとは、今まで想像してませんでした。Googleイエーイ、Gemini2.0Flash無料～とかいって何も考えずに遊んでた。AI戦争は遊びじゃねんだな

https://x.com/umiyuki_ai/status/1875602329405419619
970：名無しさん (ﾜｯﾁｮｲ 48bf-db07)：2025/01/06(月) 01:37:31 ID:xFOhWSvw00: 100年単位が10年単位に短縮化するのがAGI、ASI時代
971：名無しさん (ﾜｯﾁｮｲ 7ad7-7e2b)：2025/01/06(月) 02:35:50 ID:guuWhYwE00: 近い将来、恐らく2030年迄にAI研究者が数十億人に達する可能性があります。その開発レベルに到達した時の進歩の速度を想像してみてください。

もしそうなれば、人類が20世紀全体で成し遂げた以上の進歩を1日で成し遂げることができるでしょう。変化のスピードはまさに異常なものとなるでしょう。

https://x.com/singularity2023/status/1875512949781229646
972：名無しさん (ﾜｯﾁｮｲ f3bb-4346)：2025/01/06(月) 09:10:57 ID:QTUbQDfs00: 向こう5年で最低限実現してほしいリスト
①完全自動運転
②電気代半額
③寿命及び健康寿命延長＋5年分
④週当たり労働時間40時間→30時間
⑤一家に一台、家事が全部できるロボット
973：名無しさん (ﾜｯﾁｮｲ 6459-1edc)：2025/01/06(月) 09:50:13 ID:yqzqdj6s00: 出来たら良いな、出来てくれ！
974：名無しさん (ﾜｯﾁｮｲ 0bce-6f00)：2025/01/06(月) 10:23:35 ID:kwZ2mgW.00: >>972
家事が全部代替できるなら仕事駆逐されるだろw
975：名無しさん (ﾜｯﾁｮｲ 48bf-da5e)：2025/01/06(月) 11:17:43 ID:xFOhWSvw00: BioShockさん

新年サム・アルトマンがブログを投稿し、AGIの構築方法を把握できたと確信しているという発言がなされた。今でもインタビューでそのようなことを示唆していたが、今回ブログ記事で明確にそう書いているのはとても大きなことだ。
「私たちは、従来の理解に基づく汎用人工知能（AGI）の構築方法を把握できたと、今や確信しています。2025年には、初のAIエージェントが「労働力に加わり」、企業の成果に実質的な変化をもたらす可能性があると考えています。私たちは引き続き、優れたツールを人々の手に段階的に提供することで、広く分散された素晴らしい成果が生まれると信じています。」
976：名無しさん (ﾜｯﾁｮｲ 219e-c781)：2025/01/06(月) 12:14:27 ID:fmkJjvUg00: 本当だ。しっかりブログにしたんだね。

「ChatGPTの2回目の誕生日はほんの1ヶ月ちょっと前に過ぎず、
今は複雑な推論ができるモデルの次のパラダイムに移行しています。」
977：名無しさん (ﾜｯﾁｮｲ 8e70-57eb)：2025/01/06(月) 12:40:51 ID:4agI3LiM00: サムアルトマン
「いつか私は引退して、牧場で植物の成長を見ながら、少し退屈しながら、子供の頃から夢見ていた仕事に就けたことがどんなに素晴らしいことだったかを思い出すでしょう。」

カッコよすぎる
978：名無しさん (ﾜｯﾁｮｲ 6459-1edc)：2025/01/06(月) 13:14:02 ID:yqzqdj6s00: 自分の仕事が消滅する可能がどんどん高まっているのをはっきりと感じるのだけど、失業の恐怖よりもワクワクする気持ちの方が大きい。
979：名無しさん (ﾜｯﾁｮｲ 7eb6-cd16)：2025/01/06(月) 13:20:12 ID:xQ3xNNVA00: 昨日のシンギュラリティは近いというツイートから、ついにAGIができてしまったんだろう
980：名無しさん (ﾜｯﾁｮｲ 51d2-0c9b)：2025/01/06(月) 13:25:29 ID:3S1Lgn3c00: AGIの構築方法が分かったと明言されたか
常識、因果関係、長期計画、創造性あたりをどうクリアする気なのか知りたいな～
981：名無しさん (ﾜｯﾁｮｲ f3bb-4346)：2025/01/06(月) 13:42:16 ID:QTUbQDfs00: >>974
「働かざる者食うべからず」の精神を5年でひっくり返せるかが怪しいからね
最低限、労働時間の短縮はしてほしいってところ

フランス生活保護（RSA）の改革 2025年から週15時間の労働義務化へ各国の制度比較
https://coki.jp/article/column/43468/
982：名無しさん (ﾜｯﾁｮｲ f3bb-4346)：2025/01/06(月) 13:48:31 ID:QTUbQDfs00: 日本だと満員電車に揺られながら職業訓練と生活保護を受ける人が大半になってる未来がありそうで怖いわ
ガチの仕事をするよりかは無駄なスキルを習ってるほうが遥かに楽だけどね
983：名無しさん (ﾜｯﾁｮｲ 6459-1edc)：2025/01/06(月) 14:12:14 ID:yqzqdj6s00: >>982
怖いね
社会保障費が足りるとは思えない
ワールドコインに期待
984：名無しさん (ｵｯﾍﾟｹ 1c16-7e2b)：2025/01/06(月) 15:10:46 ID:5uAID4M.Sr: サム・アルトマンは大きくなく小さくなく結構誠実に内部の実情をいち早く伝えてくれるよね
985：名無しさん (ｽﾌﾟｰ 93aa-6f00)：2025/01/06(月) 15:53:10 ID:jy8qrku.Sd: 本当に「誠実」かどうかは分からん
誇大広告してるだけかも知らんしな。製品触れるまで話半分よ。
986：名無しさん (ﾜｯﾁｮｲ db28-0c9b)：2025/01/06(月) 16:02:16 ID:4psp7Ccw00: アルトマンは誇大宣伝してると言われたのちo1が出て賞賛、また誇大宣伝してると言われつつo3で絶賛してきた経緯がある
相変わらず業界トップ走ってるしなChatGPT以降ずっと
987：名無しさん (ﾜｯﾁｮｲ 8e70-57eb)：2025/01/06(月) 17:06:32 ID:4agI3LiM00: サムの考え

＞多くの人々が考えているよりも早くAGIが実現。
安全上の懸念のほとんどは、AGIの段階では生じない。
AGIが実現しても世界は大きく変わることはなく、経済成長が少し加速する程度。
AGIの先にある「人工超知能（ASI）」までは、長い道のりが続く。

AGIを凌ぐASIが普及した際には、最初の2～3年間は大きな変化が現れなかったとしても、
長い期間、大きな経済的混乱になる可能性。経済のあり方は変わる。

AIによる大失業時代が来るとは信じていない。人間は常に何かやることを見つけ出す。
技術革新が起こるたびに多くの仕事がなくなったが、新たな仕事も生まれた。
しかし、ASIの到来時には過去にはなかった速度で仕事の入れ替わりが起きる。
988：名無しさん (ﾜｯﾁｮｲ 3b0a-9430)：2025/01/06(月) 17:32:50 ID:6Sg2dDW600: 個人の時代になるのかやはり資本家の強者時代が続くのか　後者の気がするな
規模の経済がより効きやすくなる気がする
989：名無しさん (ﾜｯﾁｮｲ c205-7e2b)：2025/01/06(月) 18:08:02 ID:jfc9vrNo00: >>987
仕事の入れ替わりはないな
何をやってもASIには必ず負けるんだから
まあでも人間がやること自体に意味があるスポーツだとか囲碁だとか芸能とかのエンタメ系は残る
990：名無しさん (ﾜｯﾁｮｲ c205-7e2b)：2025/01/06(月) 18:25:02 ID:jfc9vrNo00: 成果や結果を求められる仕事は全て淘汰され尽くすだろ
一時的に生まれたとしても即淘汰されるだけ
人間より遥かに効率よく結果を出せるのだから
新しい仕事が生まれるとしたらエンタメ系以外はあり得ない
まあ穴掘って埋めるようなブルシット・ジョブが公共事業として大量に生まれるかも知れんけどw
991：名無しさん (ﾜｯﾁｮｲ 6459-1edc)：2025/01/06(月) 18:31:58 ID:yqzqdj6s00: ＞AGIの先にある「人工超知能（ASI）」までは、長い道のりが続く

これが意外だな
10億人のAGIのAI研究者が24時間働き始めるから直ぐ出来る、って誰かが言ってた記憶がある
992：名無しさん (ﾜｯﾁｮｲ f3bb-4346)：2025/01/06(月) 18:36:37 ID:QTUbQDfs00: AGI程度では知能爆発は起こらんってことか
AGIの定義が不明瞭だが、自己改良はできないってことか？
自己改良し始めたら知能爆発するよな？
993：名無しさん (ﾜｯﾁｮｲ 48bf-da5e)：2025/01/06(月) 18:40:45 ID:xFOhWSvw00: 長いって言っても２～３年なんじゃないの？
AI業界だと長い部類だろ
994：名無しさん (ﾜｯﾁｮｲ c205-7e2b)：2025/01/06(月) 18:40:49 ID:jfc9vrNo00: 俺から見れば今のIQ157でも十分超知能だが、アルトマンが言ってる超知能って人類全体の知能より賢い知能なんだろうな
995：名無しさん (ｵｯﾍﾟｹ c22b-7e2b)：2025/01/06(月) 18:47:44 ID:tTMJRCu.Sr: ASIで世界が一気に崩壊するより、AGIから徐々に崩壊してソフトランディングしてくれよと個人的には思う
996：名無しさん (ｱｳｱｳ 255c-d0c7)：2025/01/06(月) 20:00:53 ID:q/b3dpAUSa: o1 proは月額3万円だけど想定より多く使われるせいで赤字だとサムが投稿してる
997：名無しさん (ﾜｯﾁｮｲ 6459-1edc)：2025/01/06(月) 20:14:15 ID:yqzqdj6s00: 仮にAGIが完成したとすると、OpenAIはそれを公開するよりも前に、自社で活用して何百もの企業を作り上げるのでは無いだろうか？
998：名無しさん (ﾜｯﾁｮｲ db28-8507)：2025/01/06(月) 20:17:30 ID:4psp7Ccw00: AGIの性能自体があっても計算資源と電力が足りず10億人分の働きはさせられない状態になると思う、最初のうちは
人型ロボの普及はAGI完成より後になりそうだしデータセンターの建設とか時間かかるからな
999：名無しさん (ｵｯﾍﾟｹ 4a04-7f56)：2025/01/06(月) 20:23:56 ID:ZnmxLJ6cSr: ロボットってどのくらいログ取るかな？
起動する度になのか、起動場所含めてなのか
どんな動作取ったのかとか
1000：名無しさん (ｽﾌﾟｰ 5253-6f00)：2025/01/07(火) 01:51:02 ID:UCArfUNoSd: 汎用人工知能は人間の機械的な動きを代替するのに留まらず、知能そのものを代替するので、あらゆる労働プロセスに人間が不要になる。
労働が自動化し、移動が自動化し、家事が自動化し、農業が自動化し、介護が自動化し…etc
人類は最終的に哲学的な岐路に立たされるだろう。