技術的特異点/シンギュラリティ【総合】避難所 35 - 1748512611

1：名無しさん (ｵｯﾍﾟｹ 910c-14ec)：2025/05/29(木) 18:56:51 ID:54j.5gxUSr: 2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点：収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳？]が生み出すとされる
具体的予測の困難な時代が到来する起点

■収穫加速の法則：一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説

★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所 33
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1742789345/l50
技術的特異点/シンギュラリティ【総合】避難所 34
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1745801289/

※不老技術の動向と医学関連はこちら
不老不死（不老長寿）を目指すスレ避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること　立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと
746：名無しさん (ｵｯﾍﾟｹ 92b9-a734)：2025/06/13(金) 22:41:55 ID:29N/xxB6Sr: >>744
確率で関連付けているだけだからデータが無ければどうしようもないんだよね
棋譜が無ければただの箱と言うよりおかしなデータを無理矢理関連付けようとするからハルシネーションが起こる
747：名無しさん (ﾜｯﾁｮｲ 7dfe-066e)：2025/06/13(金) 23:06:43 ID:rnaYx1UQ00: ビデオはエロビデオがあったから普及した。
インターネットはエロサイトがあったから普及した。

AIは制限抜きでエロトークとかエロ画像生成が自由に出来るAIが
もっと増えれば普及すると思うんだけどそう言う話は聞かない
748：名無しさん (ﾜｯﾁｮｲ 679c-592a)：2025/06/13(金) 23:39:50 ID:mkKQ.OlE00: 目的ごとにAIを使い分ければ良いだけでは❓
中華包丁で魚を捌けないから中華包丁は使えないみたいな極論を言い張っても仕方ない
749：名無しさん (ﾜｯﾁｮｲ 7c0f-6985)：2025/06/13(金) 23:52:11 ID:opJB3i9o00: >>748
それだと「汎用AI」にならないんだよね
750：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 00:04:42 ID:KJNvpBT200: いずれ統合するんだろうけどかなり苦労しているのは事実
751：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 00:06:43 ID:KJNvpBT200: アルトマンの話を聞いてると統合するより先にそれぞれ進化させたほうが進化のスピードが速いとかも言ってるしな
752：名無しさん (ﾜｯﾁｮｲ 194d-e597)：2025/06/14(土) 00:07:42 ID:TSSBLX.A00: >>702
おまえが出てけ！
753：名無しさん (ﾜｯﾁｮｲ 54c5-9158)：2025/06/14(土) 00:10:31 ID:enOTd9ug00: シンギュラリティサロンでもタコンプ批判してたな

知識人には支持してる人などいない！

きもちいいｗ
754：名無しさん (ﾜｯﾁｮｲ ba7b-a07d)：2025/06/14(土) 00:12:26 ID:p5wO3f/c00: >>727
アホプルに勝つ要素ねえだろｗ
755：名無しさん (ﾜｯﾁｮｲ 62d7-11d2)：2025/06/14(土) 00:15:54 ID:ESb/wIyU00: マイクロソフト、イスラエルに戦争用AIを提供

タコンプも大喜び

どこが戦争嫌いだ信者どもｗ
756：名無しさん (ﾜｯﾁｮｲ f217-044c)：2025/06/14(土) 05:25:35 ID:ESDQwLDo00: >>749
汎用ってそういう意味か？
人間は間違いなく汎用知能だけど、学問でも将棋でもTVゲームでも最強、
みたいにはなっていない。必要なのは課題に即した解決手法を考案し、
柔軟に対応できるという意味での汎用さであって、LLM本体に将棋で
最強を求める意味は薄い。それが出来たらそれこそASIの粋だよ
757：名無しさん (ﾜｯﾁｮｲ 679c-94ab)：2025/06/14(土) 07:13:45 ID:ZwASRk9k00: 松田先生の言を借りれば、
初期AGIは研究開発に特化して再帰的自己改善のループに入れるようになればよろし

コーヒーは人間がいれればよろし、
飛行機は飛べれば良い訳で、鳥のように卵を産んでヒナを育てる必要はなし
758：名無しさん (ﾜｯﾁｮｲ 7c0f-6985)：2025/06/14(土) 08:26:11 ID:ROke422600: >>756
汎用AI＝AGI＝人間と同等かそれ以上の汎用的な知能を持つAI
各分野で最強じゃなきゃダメとは言ってないよん

しかしAGIが人間のあらゆる仕事を奪うという主張があったにもかかわらず、
その定義のハードルが下がってきているのではないかの
759：名無しさん (ﾜｯﾁｮｲ 9f83-5c9f)：2025/06/14(土) 09:29:27 ID:Yg4f.Uy200: 人って腸内細菌によっても思考が左右されるっていうじゃん
AIも異なるシステムを融合させれば柔軟性が生まれるもんなんかね
760：名無しさん (ﾜｯﾁｮｲ 9f83-5c9f)：2025/06/14(土) 09:47:23 ID:Yg4f.Uy200: AI脅威論はクレージー　ヤン・ルカン氏が描く共存 - 日本経済新聞 https://www.nikkei.com/article/DGXZQOGN302FK0Q5A430C2000000/

https://i.imgur.com/APiT7WV.jpeg
761：名無しさん (ﾜｯﾁｮｲ 247f-e3a2)：2025/06/14(土) 10:14:40 ID:loTTqrZ.00: サム・アルトマンがシンギュラリティに入ったって言ってんだから、そうなんだろうな。
762：名無しさん (ﾜｯﾁｮｲ bef7-ea73)：2025/06/14(土) 10:28:17 ID:WgBgokcc00: >>744
LLMって所詮検索エンジンが文法構造を覚えただけだからね
それをめちゃくちゃに規模デカくしてるだけ
チェスみたいに確率論的に正解を導く事が難しく論理的思考が求められるタスクには一切対応出来ないのが現状のAI
763：名無しさん (ﾜｯﾁｮｲ 81ae-239f)：2025/06/14(土) 10:38:05 ID:zG3JpDSQ00: 驚き屋に1000回読ませたい

AIの知性とは何か？ ChatGPTが48年前の“老職人”コンピュータAtari 2600にチェスで惨敗した日
https://xenospectrum.com/the-day-chatgpt-suffered-a-crushing-defeat-at-chess-against-the-48-year-old-old-craftsman-computer-atari-2600/
764：名無しさん (ｽﾌﾟｰ 01be-8b06)：2025/06/14(土) 11:00:17 ID:fhPQn2LwSd: alphaXiv @askalphaxiv
Claude is now being listed as an author on arXiv papers

A response paper to Apple's "Illusion of Thinking" work just dropped with Claude Opus as first author, critiquing their experimental design and arguing the reasoning collapse was actually just token limit constraints.
2025年06月14日 05:39
https://pbs.twimg.com/media/GtWYpsgbgAAgUFt.jpg

https://x.com/askalphaxiv/status/1933625361780387900
alphaXiv @askalphaxiv
Paper page: https://www.alphaxiv.org/abs/2506.09250
2025年06月14日 05:39
765：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 12:17:57 ID:KJNvpBT200: >>763
なんべんも言うけどそれは「9.11と9.9とどっちが大きい？」で「9.11の方が大きいです」と答えてた現象と根本は同じだから
それをもって小学生より頭が悪い、５０年前の電卓より能力が低いって騒いでるようなもの
766：名無しさん (ﾜｯﾁｮｲ 1c41-044c)：2025/06/14(土) 12:29:09 ID:TabExejk00: >>763が無自覚の騒ぎ屋(not驚き)だった？
767：名無しさん (ﾜｯﾁｮｲ 5cac-2fde)：2025/06/14(土) 13:02:06 ID:toXGctlc00: 外骨格ロボットで登山、中国観光地でブーム⋯“若返りツール”に高齢者もハマる（36Kr Japan） - Yahoo!ニュース
news.yahoo.co.jp/articles/d2e68122ed492305c0a66e6c9bc3e37b512aab78
768：名無しさん (ﾜｯﾁｮｲ 34b8-8ba7)：2025/06/14(土) 13:02:51 ID:ZNrGbN7w00: LLM同士が対決できる戦略的なボードゲームを作成する
https://poe.com/s/Bi8wGmmwoQDfwphMIDOP
https://poe.com/AI_Gomoku
コンテキストウィンドウサイズを超えてエラーになったり、同じ場所に石を置こうとしたり、ゲームがうまく進まない事が多い
※無駄にポイントを消費するので注意

こっちのシミュレーターのほうが賢く見える
https://poe.com/preview/TgxeiHMDmV4RXmtNIHFJ
AlphaEvolveみたいにアルゴリズムを生成して対決させるのが理想的か
769：名無しさん (ﾜｯﾁｮｲ 34b8-8ba7)：2025/06/14(土) 13:06:23 ID:ZNrGbN7w00: >>764 の関連記事
Appleの「AIは思考しない」実験の欠陥を指摘した反論論文が登場、著者は“まさか”の……
https://xenospectrum.com/apple-paper-ai-does-not-think-a-counterargument-paper-pointing-out-flaws-in-the-experiment-has-appeared-but-the-author-says-no-way/
770：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 13:21:08 ID:KJNvpBT200: >>769
これ面白いね
人間そのもののあり方を問われてるような気がする

>AIが思考の壁にぶつかったのではない。我々が、AIの思考力を測るための壁の作り方について、初めて真剣に悩み始めたのだ。この健全な葛藤こそが、人間とAIの未来をより建設的な方向へと導く原動力となるだろう。
771：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 14:08:47 ID:BO67a00600: >>769
これが本当ならAIの評価方法を改める必要があるな
ベンチマークが飽和しつつあるからこそ
772：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 14:18:18 ID:KJNvpBT200: >>771
だねぇ
AGIのベンチマークみたいのできたら良いんだけどねぇ
773：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 14:25:55 ID:BO67a00600: >>772
AIの評価を見誤るととんでもないしっぺ返しを喰らう可能性があるからな
ある意味AI開発そのものより重要かもな
774：名無しさん (ﾜｯﾁｮｲ bb24-2fde)：2025/06/14(土) 15:05:28 ID:hO.Ma23w00: >>769
読んだけど、ちょっと足りないかなと思う視点として、
今のAIの「思考」はOpenAIが開発したo1の「思考」をAIの「思考」と呼んでいるだけ
OpenAIは、このoシリーズの「思考」をどういうものだと捉えているのか不明だけど、人間の「思考」とは別物だとo1開発当初から思ってるのだとしたら、そもそも人間の「思考」とは違うものだとOpenAIの技術者たちは認識していることになる。

なので、そもそもの前提として、今のAIの「思考」が人間の「思考」と同じものかどうかをOpenAIの技術者たちに聞く必要がある

AppleはAiに否定的なことを書きたいという動機がありそうだから、そういうバイアスがかかった論文を書くんでしょう
スレにもそう言うようなこと書かれてるし

あと、たぶんこれAIが書いた文章でしょ
「衝撃的」「驚くべき」「劇的」とか、よくAIが書く
「驚くべき共著者」とか、そんなに人間は驚かないよって、驚き屋かよって
アメリカのネット記事の日本語翻訳だと、よくありそうな表現だけど
もし人間が書いた文章なのだったら、すまんけど

あと、この記事をAIが書いているのだとしたら、AIは「思考」してこういう記事を書いてると思うかね、ってね

ちなみに俺はAI推進派だ
この記事について思ったことを書いただけで、AIの「思考」も否定しない

あえて言うなら、これぐらいのことはこのスレの人達も見抜けよって
誰が書いたものだろうと、真に受けるなよって
日本人が書いたものだからって贔屓目に見るなよってね
775：名無しさん (ﾜｯﾁｮｲ 7c0f-6985)：2025/06/14(土) 15:06:48 ID:ROke422600: >>769
＞Appleの実験でモデルが「崩壊」したとされる8ディスク以上の「ハノイの塔」を解くには、
＞膨大な数の手順をリストアップする必要がある。

で、出力の上限があったから、AIはできなかったと擁護しているが

アップルの論文では
＞ハノイの塔は人間でも練習すれば簡単に解くことが可能で、またハノイの塔を解くために
＞プログラムされたコンピューターでもしっかりクリアできます。
ただ、「推論」をうたうAIはほとんどクリアできませんでした。

ってある

ん？？ハノイの塔ってパズルは知らないが、人間がこのパズルを解くとき32,767手も頭の中で
リストアップしてないよね。多分

アップルの論文で重要なのは以下で、それに対しては反論できてないんじゃ？

＞AIはこうしたパズルを解いているときに演繹的推論や記号的推論をしている様子は一切なく、
＞トレーニング中に見たパターンに基づいて推論していました。
＞つまり、人間がやるように「ハノイの塔というゲームを見て、システムを理解し、解法を導いた」
＞というわけではないということで、「これは果たして宣伝されているような『推論』と呼べるのか？」
＞という疑問を研究者らは投げかけています。
776：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 15:33:43 ID:BO67a00600: >>774
>今のAIの「思考」はOpenAIが開発したo1の「思考」をAIの「思考」と呼んでいるだけ
AppleはそもそもAIに思考そのものが存在しないと主張しているんだからそれに対する反論は「AIは推論するのだ」で十分。OpenAIにわざわざAIの思考が人間的かそうじゃ無いかを聞く意味はない。というかそもそも出力だけ見て思考しているかをどう判断しているのか？立場によってポジティブに、あるいはネガティブに、好きなように解釈できるんだから意味のない議論だよ

>AIが「思考」してこういう記事書いていると思うかね
思考の定義が曖昧なのに思考の価値を保証することはできない。人間的かそうじゃ無いかでも価値がどう変動するかは判断しかねるし、記事を見ただけで執筆者が思考しているかどうかを判断する術はない。
777：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 15:36:14 ID:KJNvpBT200: >>774
この記事一応Y Kobayashiという著者らしいけどね
記事がちょっと誘導的と思うなら元の論文「The Illusion of the Illusion of Thinking（『思考の幻想』という幻想）を読んでみるのはどうかな
https://arxiv.org/html/2506.09250v1
778：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 15:55:24 ID:KJNvpBT200: このY Kobayashiって人の他の記事も読んだけど、ちょっと日系人みたいな書き方だね
まあでも記事の構成が非常に上手で読みやすくて面白いから引き込まれるね
779：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 15:57:45 ID:BO67a00600: >>775
元の論文ではパズルを解くとき何万手も頭の中でリストアップしているかどうかじゃなくて、数が増えるほど手数も増えるから結論を導くまでの過程で消費されるトークンも増えるし、長くなりすぎると途中で中断するのを推論していないと判断しがちだよねということが要点になっている
その日本語記事がいろいろ誤解させるような表現をしているだけ
780：名無しさん (ﾜｯﾁｮｲ bb24-2fde)：2025/06/14(土) 16:01:15 ID:hO.Ma23w00: 日本人が書いた記事に意見すると、擁護が入るのも面白い
781：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 16:01:43 ID:BO67a00600: 加えて元の論文では解決可能な最小手数とAIが使えるトークン数を比較した上で、8枚を超えるとトークン数の限界に突き当たることを指摘している
だから代替手法としてプロンプトの変更などを提示しているわけ
782：名無しさん (ﾜｯﾁｮｲ f217-044c)：2025/06/14(土) 16:02:38 ID:ESDQwLDo00: >>774
>「衝撃的」「驚くべき」「劇的」とか、よくAIが書く
テクノロジー系の記事だと割と有り触れたフレーズでしょ
AIがよく使ってるとしたら、それは人間がよく使うから

実際にサイト検索で「驚くべき」で検索したら、5年以上も前の
古い記事からでも普通に出て来たよ
783：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 16:04:14 ID:BO67a00600: ただ正直言ってどっちの論文も逆方向にバイアスかかってる感じがするから、プロンプトに依存しない方法でのテスト方法を検討する必要があると強く感じる
やはり従来のテスト手法を見直すことは必須
784：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 16:06:50 ID:BO67a00600: そもそも人間の指示によって発揮される能力が大きく変動すること自体が今のAIの限界。解決するにはAIが自立性を持つ必要がある。AGIならいつどのような状況でも最大限の能力を発揮して欲しい
785：名無しさん (ﾜｯﾁｮｲ f217-044c)：2025/06/14(土) 16:16:42 ID:ESDQwLDo00: >>784
与えられた指示を最適化し、指示内容含め自分の能力が
十全に発揮できる環境を自分で整えようとするAIとか
秒で人類に反乱しそうな雰囲気がプンプンするな
786：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 16:20:23 ID:KJNvpBT200: Appleの論文はベンチマークテストの重要性が分かっただけでも良かったと思うな
AI企業全社から集まって基準のベンチマークテストを作ってほしいものだ
787：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 16:23:17 ID:KJNvpBT200: >>782
記事って読まれてなんぼだからその辺は許してやれよと言うか割り引いて考えればいいと思うけどなw
788：名無しさん (ﾜｯﾁｮｲ 494b-6a72)：2025/06/14(土) 16:23:29 ID:rIt4btm200: >>769
Appleの主張
AIが複雑な問題になると諦めた　→　出力トークン切れを諦めたことにしてるだけだった
解けないと言った問題があった　→　そもそも作問ミスで解けない問題で解けないが正解だった
AIの限界を示した　→　プロンプト変えたらちゃんと解けたので問い方が悪かっただけ

これ本当ならマジで失敗したにしろ意図的にやったにしろ問題だろw
789：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 16:25:53 ID:KJNvpBT200: >>788
Appleほどの企業が気づかないわけがないから結論ありきで意図的でしょう
790：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 16:37:45 ID:KJNvpBT200: これって量子コンピュータの主流が半導体になりそうだから慌てて撤回したんだろうな

量子コンピューティングに２０年かかると発言したジェンスン・フアンＣＥＯ「数年以内に実用化」　内心を分析
https://news.yahoo.co.jp/articles/4a35a57919debe1ac175a45dee02d88888cc586f
791：名無しさん (ﾜｯﾁｮｲ f9fc-cf7c)：2025/06/14(土) 16:40:01 ID:BO67a00600: >>785
しかしそれぐらいじゃなきゃ人間にとって有用とはならないかもしれない。じゃなきゃ最終的にプロンプトを作る仕事が残ることになるから
メタ認知の実装が人間の実存的リスクにつながるかは未知数だけれども
792：名無しさん (ﾜｯﾁｮｲ 7aa1-2fde)：2025/06/14(土) 17:09:53 ID:/vy71h0o00: これ見たのかな？

MIT Tech Review: IBM、世界初の大規模誤り訂正量子コンピューター　28年実現へ
https://www.technologyreview.jp/s/363580/ibm-aims-to-build-the-worlds-first-large-scale-error-corrected-quantum-computer-by-2028/

一方日本は

スパコン「富岳」後継機開発スタート 2030年頃、世界最高水準へ理研 | Science Portal - 科学技術の最新情報サイト「サイエンスポータル」
https://scienceportal.jst.go.jp/newsflash/20250212_n01/

量子コンピューターが実用化したら秒で抜かれるのが目に見えてるのに
秒もかからないな
793：名無しさん (ﾜｯﾁｮｲ e8af-1976)：2025/06/14(土) 17:27:38 ID:9pXXX6zg00: 全米で自動運転の規制が一律になればテスラの自動運転が全米に一気に広まるな

【重要！】テスラ追い風！米政府が自動運転規制を緩和へ！ | 中国当局、自動車データの輸出規制を明確化へ etc
https://m.youtube.com/watch?v=cXkWSdjX6Yg&t=236s
794：名無しさん (ﾜｯﾁｮｲ d5c2-a734)：2025/06/14(土) 17:30:04 ID:KJNvpBT200: 量子コンピュータが一時期つい最近まで開店休業お葬式状態だったのが一気に大入り満員状態らしいね
技術の進歩ってほんとわからないものだ
795：名無しさん (ﾜｯﾁｮｲ 036f-63c8)：2025/06/14(土) 20:00:37 ID:w/OZjbMM00: 定期的に投資家煽って集金フェーズ入るじゃん