技術的特異点/シンギュラリティ【総合】避難所 36 - 1750375557

1：名無しさん (ｽﾌﾟｰ 6f86-8b2c)：2025/06/20(金) 08:25:57 ID:KUvKXBA6Sd: 2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点：収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳？]が生み出すとされる
具体的予測の困難な時代が到来する起点

■収穫加速の法則：一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説

★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所 35
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1748512611/

※不老技術の動向と医学関連はこちら
不老不死（不老長寿）を目指すスレ避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること　立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと
951：名無しさん (ﾜｯﾁｮｲ 3ce2-9db6)：2025/07/13(日) 12:36:21 ID:SkcU7Jgw00: まあ生成AIに自動車の運転を任せるのは無理やろね
ハルシネーションで事故を起こされたらたまったもんじゃないｗ
音声案内程度なら間違っても笑って許されるだろうけど
952：名無しさん (ｵｯﾍﾟｹ 232d-b83b)：2025/07/13(日) 13:11:46 ID:xxUfuSpMSr: イーロン・マスク、テスラ車におけるGrok AI統合を発表
https://share.google/np6GqrqBeN7twxedz

どのような形で統合していくかは俺はテスラの技術者じゃないから知らんけど、アメリカの車両OSを逆コンパイルしている人間がいろいろと報告している
953：名無しさん (ｵｯﾍﾟｹ 6153-b83b)：2025/07/13(日) 13:17:29 ID:ayGSrUO.Sr: ちなみにイーロン・マスクは以前テスラで使ってた30万行のルールベースのプログラムを全て破棄して、AIベースに全て書き換えた実績がある
常識はずれのどんな無茶なことでもやるのがこの男
954：名無しさん (ｱｳｱｳ 2f71-0cec)：2025/07/13(日) 13:44:59 ID:FNJoMaEcSa: >>951
自己回帰トランスフォーマーでは無いがニューラルネットワークモデルは使われているぞ？
955：名無しさん (ｵｯﾍﾟｹ 6b34-b83b)：2025/07/13(日) 14:01:18 ID:Bgn4/hhASr: 日本とかがやってるルールベースのOSを全て破棄して一からニューラルネットワーク用に書き直したんだよ

AI自動運転に変革の波、Tesla・中国推進の「E2E」には反論も | 日経クロステック
https://share.google/UATbfN327PFkkEIM8

AI（人工知能）技術の進化に伴い、クルマの自動運転に変革の波が押し寄せている。脚光を浴びているのが、車両周囲の認識から操作までを全面的にAIが担う「E2E（End to End）」の自動運転技術だ。米Tesla（テスラ）や中国勢などが推進している。
956：名無しさん (ｵｯﾍﾟｹ d511-b83b)：2025/07/13(日) 15:26:28 ID:mxa4GDZESr: Grok4についてイーロン・マスクはGrok4が他のAIと違うところは現実世界とやり取りをして仮説を検証することで、そのことが知能爆発に繋がると言っている。

「他のAIとの最も大きな違いはオプティマスのようなヒューマノイドロボットを通して現実世界とやり取りして仮説を検証できることです。私たちは本当はどこに位置しているのかを考えてみましょう。つまり私たちは巨大な知能爆発の始まりにいるということです」
https://x.com/DGetback47618/status/1944256940181516546
957：名無しさん (ﾜｯﾁｮｲ 3ce2-9db6)：2025/07/13(日) 16:41:33 ID:SkcU7Jgw00: 生成AIに『ポチョムキン理解』のような現象があるならば、たとえ現実世界とのやり取りを通じて仮説を検証したとしても、
そもそもAIが本質的に理解していない以上、その検証自体が意味をなさないでないかい。
958：名無しさん (ﾜｯﾁｮｲ 6001-da39)：2025/07/13(日) 16:54:22 ID:j0ui5NZ600: イーロンタイムだから
959：名無しさん (ﾜｯﾁｮｲ 9fc4-f7cc)：2025/07/13(日) 19:11:45 ID:gJ5vu8eA00: >>957
「ポチョムキン理解」って用語がキャッチーなだけで、人間にも普通にある現象でしょ

説明できても実践できない、みたいなことは人間にも結構多い
純粋な計算問題でも、練習した例題から少し数字や式の形が変わるだけで
途端に解けなくなるとかよくある話で、それだって結局は反復練習が足りないだけ
本質的に理解してないから練習しても無駄、なんて話ではない

つまりAIはもっと学習するべきだし、したら成果は上がるだろう
960：名無しさん (ｵｯﾍﾟｹ feaf-b83b)：2025/07/13(日) 19:37:30 ID:mdMF6IT2Sr: 何回も言ってるけど、あのポチョムキン理解とか言うテストは学習型で生じてるだけだろ
それも前から知られてたことを言い回してるだけで用語を流行らしたいだけじゃん
Xでも誰も相手にしてないよ
961：名無しさん (ｵｯﾍﾟｹ 1b3d-bda0)：2025/07/13(日) 20:01:54 ID:HapoBP2oSr: そもそも「知ってる」とはどのレベルなのかな？
「単語を知ってる」、「それのカテゴリや取り巻く環境を知ってる」、「それを他の知識や日常に取り入れられるレベルで知ってる」

まぁAIなら有名な単語であればカテゴリや取り巻く環境くらいなら知ってるだろうな、ただ知識の化学反応を起こせるレベルのものはまだ無いんじゃないかな？
962：名無しさん (ｵｯﾍﾟｹ 9dd5-b83b)：2025/07/13(日) 20:11:12 ID:QqdN9OSISr: だからxAIの開発チームは推論モデルで再帰的自己改善と知能爆発を開発ツールとして組み込んだことを明言したんだろ？
この話毎回ループしてるだろ？
963：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 20:16:28 ID:O/opyVFcSd: >>961
論文によると、概念について訊かれると「正確に説明できる」が、
概念の適用段階になると「人間ではあり得ない概念適用ミスを犯す」とされている。

Potemkin理解の定義
“Potemkin villages”の比喩から，「Potemkin理解」とは，人間の誤解とは矛盾するパターンで正解を返すことで“見せかけ”の理解を作り出す現象を指す。
具体例：GPT-4oがABAB韻律を「正しく説明」できても，自身のルールで文章を生成・評価できない事例が示される（図1)
https://arxiv.org/html/2506.21521v1/x1.png

Potemkin Understanding in Large Language Models
https://arxiv.org/html/2506.21521v1
964：名無しさん (ｵｯﾍﾟｹ 4024-4b02)：2025/07/13(日) 20:33:21 ID:pjQ1wb9ISr: ヤンニョムチキンみたいな用語が真新しいかと言うと別にそんなことはない
LLMが人間並の理解力をまだ持ってないのはGPT3.5の頃からとっくに把握されてるし、それを焼き直しただけに見える
最先端AI開発組織の人らはそんなの当然分かっててじゃあどう性能上げるかってのを日々考えてると思うし大丈夫だよ
965：名無しさん (ｵｯﾍﾟｹ 1b3d-bda0)：2025/07/13(日) 20:36:43 ID:HapoBP2oSr: 知ってる単語量なら昭和の頃のコンピュータやAIでも人間を抜いてたんだよな。翻訳機とかもあったし。
今のAIも大規模言語モデルで知ってる単語や語彙の量はとっくに賢い人間すら抜き去ってるんだけど応用しようとする際に間違いが起きるから今それを研究者がなんとかしようとしてる段階。
968：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 20:56:04 ID:O/opyVFcSd: >>909
少なくともGrok4のライブストリームでは「イーロン・マスクとGrokのエンジニアはGrok4で再帰的自己改善と知能爆発を開発ツールとして組み込んだことを明言」なんて言ってないけど

これ普通に嘘情報じゃね？フェイクニュースだろ。

AI StudioでGemini 2.0 Flashに聞き取らせたけど「明確な言及は見当たらなかった」と言ってるぞ。
これの具体的な情報ソースってどこ？

Grok 4 Demo Livestream / X
https://x.com/i/broadcasts/1lDGLzplWnyxm
972：名無しさん (ｵｯﾍﾟｹ 9dd5-b83b)：2025/07/13(日) 20:59:00 ID:QqdN9OSISr: それがTransformer型の弱点で何年も前から指摘されていること
それを改善するために組み込まれたのが推論型で次期バージョンGPT-5で一体化する予定
そしてxAIは組み込んだって言ってるわけ
それが出る直前に、またTransformer型の弱点を掘り起こして騒いでるだけだから誰も反応しないんだよ
978：名無しさん (ｵｯﾍﾟｹ 1b3d-bda0)：2025/07/13(日) 21:04:40 ID:HapoBP2oSr: 別にAIだけでなく人間もハルシネーションするんだよな
悪質な罵りとかまさにそれ
982：名無しさん (ｵｯﾍﾟｹ 9dd5-b83b)：2025/07/13(日) 21:12:37 ID:QqdN9OSISr: >>968
ここで詳しく説明してるよ
https://x.com/DGetback47618/status/1944256253267722721
983：名無しさん (ｵｯﾍﾟｹ 9dd5-b83b)：2025/07/13(日) 21:16:33 ID:QqdN9OSISr: >>979
お前管理人だったんかw
984：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 21:24:43 ID:O/opyVFcSd: >>982
「RLを10倍投入した」とライブストリームでは言ってるだけで
RILなんて言ってないんだよなぁ
聞き間違いじゃね？RLをRILと聞き間違えて拡大解釈してるだろこれ。
985：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 21:30:07 ID:O/opyVFcSd: 書き起こし:

司会者:
"It's important to realize there are two types of training compute. One is the pre-training compute, that's from Grok-2 to Grok-3. Um, but from Grok-3 to Grok-4, we actually putting a lot of compute in reasoning, in RL."
別の話者:
"Yeah, and just like you said, this is literally the fastest moving field, and Grok-2 is like the high school student by today's standard. (...) By training Grok-2, that was the first time we scaled up like the pre-training. We realized that if you actually do the data ablation really carefully, and the infra, and also the algorithm, we can actually push the pre-training quite a lot by amount of 10x to make the model the best pre-trained based model. And that's why we built Colossus, the world's supercomputer with 100,000 H100s. And then with the best pre-trained model, and we realized if you can collect these verifiable outcome reward, you can actually train this model to start thinking from the first principle, start to reason, correct its own mistakes, and that's where the Grok-3 reasoning comes from. And today we ask the question, what happens if you take expansion of Colossus with all 200,000 GPUs, put all these into RL, 10x more compute than any of the models out there on reinforcement learning, unprecedented scale, what's gonna happen?"

説明:

事前学習とRL: Grok4の開発において、事前学習だけでなく、強化学習(RL)による推論能力の向上に重点を置いたことが述べられています。

Grok2との比較: Grok2はGrok4と比較すると、高校生レベルの能力であると表現されています。これはAIの進化の速さを強調しています。

Colossusスパコン: 大量のGPU（H100を10万台、その後20万台に拡張）を搭載したColossusというスーパーコンピュータを構築し、Grokの学習に使用したことが語られています。

自己修正能力: 強化学習によって、Grokが第一原理から考え、推論し、自らの間違いを修正する能力を獲得したことが説明されています。

RLスケールの拡大: Colossusの拡張により、既存のモデルよりも桁違いに大きな規模で強化学習を実施したことが述べられています。
986：名無しさん (ｵｯﾍﾟｹ ede0-b83b)：2025/07/13(日) 21:44:17 ID:qgDT6EOYSr: compute in reasoning, in RL.ってとこだな
俺もネイティブじゃないから分からんわw

まあでも一番大事なのはここだと思うけどな
　　　↓
自己修正能力: 強化学習によって、Grokが第一原理から考え、推論し、自らの間違いを修正する能力を獲得したことが説明されています。
987：名無しさん (ｵｯﾍﾟｹ 5f1b-b83b)：2025/07/13(日) 21:46:13 ID:WCysTP4kSr: シンギュラリティサロンの解説を待とう
988：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 21:59:32 ID:O/opyVFcSd: >>986
DeepSeek R1のahaモーメントと同じでGrok4が特別という訳じゃない
989：名無しさん (ﾜｯﾁｮｲ 5b12-81ab)：2025/07/13(日) 22:05:27 ID:.ybObO.I00: なんか人間の理解って間違えないようにした結果正解にたどり着くって感じだけど
AIの理解って最初から正解にたどり着いているから間違えた時わけわかんなくなるって感じな気がするんだよな
個人的な感覚だけど
990：名無しさん (ﾜｯﾁｮｲ d6d5-9db6)：2025/07/13(日) 22:17:51 ID:f2bd5Icc00: Haider.さんのX

＞イーロン・マスクは

「時々不安になることがあります。私たちは、人間よりもはるかに優れた知性を生み出しているからです。
これは人類にとって良いことでしょうか、悪いことでしょうか？私は良いことだと思います。
もし良いことでなかったとしても、少なくとも私は生きている間にそれが起こるのを見たいです。」

と語った。
991：名無しさん (ｵｯﾍﾟｹ 4493-b83b)：2025/07/13(日) 22:21:20 ID:fryEoQB.Sr: >>988
DeepSeekと大きく違うのは最先端の設備をふんだんに使えるところだな
992：名無しさん (ﾜｯﾁｮｲ 3ce2-9db6)：2025/07/13(日) 22:32:26 ID:SkcU7Jgw00: 『ポチョムキン理解』の現象は、生成AIにおける記号接地問題が未解決であることが原因ぽいよね
だとすると、これは根が深いぞ
993：名無しさん (ﾜｯﾁｮｲ 7c70-b7a2)：2025/07/13(日) 22:41:53 ID:doWlkDUo00: アナログ時計もまともに読めない時点で現状のLLMに本質的な知性なんて欠片も持ち合わせてないのは自明
994：名無しさん (ｵｯﾍﾟｹ 1958-b83b)：2025/07/13(日) 22:59:32 ID:IMc6zld.Sr: 逆にアナログ時計が読めたら知性があるのかよw
995：名無しさん (ｵｯﾍﾟｹ 2c13-b83b)：2025/07/13(日) 23:17:20 ID:kr7z1ZUQSr: 小学生でもアナログ時計は読み方を習わないと読めないし、そんなことウジウジ言ってても仕方ないだろ
996：名無しさん (ｵｯﾍﾟｹ 43c9-b83b)：2025/07/13(日) 23:24:59 ID:wzZ1l54sSr: あくまでもリーク情報なので真偽は自分で判断してください

さあ本当か嘘かGPT5のリークしたベンチマーク。
まああくまで指標ですが、楽しみさは本心なので、こうであってくれたら嬉しいですね。

Grok4は超えていこう！
https://x.com/yugen_matuni/status/1944377981163503930
997：名無しさん (ｵｯﾍﾟｹ 6903-b83b)：2025/07/13(日) 23:29:43 ID:RwtqArVkSr: 中国では工場労働者にAIメガネを装着させて動作の学習データを集め、それらを元に労働者をロボットに置き換えようとしている...。物凄い光景であるし、労働者はどんな気持ちなのだろうか。
https://x.com/sutoroveli/status/1943988220603379765
998：名無しさん (ﾜｯﾁｮｲ 3ce2-9db6)：2025/07/13(日) 23:30:41 ID:SkcU7Jgw00: 試しにGeminiにアナログ時計の絵を書かせて、「その時計は何時何分を指してるか？」と聞いてみたら、
しっかり間違えてたｗ
999：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 23:58:44 ID:O/opyVFcSd: アナログ時計も指五本の画像を答えさせるやつも
トレーニング次第でどうにでもなるだろうけど
根本原因を除いてない感じがするな
1000：名無しさん (ｽﾌﾟｰ 7d0d-0cec)：2025/07/13(日) 23:59:44 ID:O/opyVFcSd: 2029年