技術的特異点/シンギュラリティ【総合】避難所 25 - 1724422340

1：名無しさん (ｽﾌﾟｰ 0f81-ab01)：2024/08/23(金) 23:12:20 ID:yoRXPTTsSd: 2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

■技術的特異点：収穫加速の法則と半導体微細化の進歩曲線に基づいて予測された、
生物的制約から開放された知能[機械ベース or 拡張脳？]が生み出すとされる
具体的予測の困難な時代が到来する起点

■収穫加速の法則：一つの発見が新たな技術を生み出し、その技術が他の発明を生み出すという連鎖的な反応が、科学技術全体を進歩させるという仮説

★関連書籍・リンク・テンプレ集(必修)
https://singularity-2ch.memo.wiki/
★特異点アンケート
https://forms.gle/c6ZLjnheCEZftYgg9

※前スレ
技術的特異点/シンギュラリティ【総合】避難所 24
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1721642932/

※不老技術の動向と医学関連はこちら
不老不死（不老長寿）を目指すスレ避難所
https://jbbs.shitaraba.net/bbs/read.cgi/study/13463/1669450079/

次スレは>>950が立てること　立てられない場合は早急に他者に依頼するか951以後の者が早急に立てること
誰も次スレを立てずに議論に没頭して落としたり次スレにフライングレスしないこと
未来技術板のURLは書かないし、あちらから誘導もしないこと
775：名無しさん (ﾜｯﾁｮｲ fbd0-cde4)：2024/09/18(水) 09:11:24 ID:QTkeZXf200: むしろAIがこの動画はこういう点で間違ってます。
とか指摘できる未来が来るかも。
776：名無しさん (ﾜｯﾁｮｲ 56ba-8646)：2024/09/18(水) 10:11:50 ID:M2PHx88A00: サムアルトマンの２時間前のXが凄い、AGIもう出来るのか？
＞時間はかかったものの、ゴール3では信じられないほどのパフォーマンスを見せた。

ゴール３とは
目標3: 有用な自然言語理解機能を備えたエージェントを構築する
私たちは、言語で指定された複雑なタスクを実行し、タスクが曖昧な場合はタスクの明確化を求めることができるエージェントを構築する予定です。
現在、教師あり言語タスクには、質問などの有望なアルゴリズムがあります。答える、統語的、解析、機械、翻訳
しかし、会話を続ける能力、文書を完全に理解する能力、自然言語で複雑な指示に従う能力など、より高度な言語目標に対応するものはありません。
これらの問題に取り組むために、新しい学習アルゴリズムとパラダイムが開発されることを期待しています。
777：名無しさん (ﾜｯﾁｮｲ 56ba-8646)：2024/09/18(水) 10:14:26 ID:M2PHx88A00: >>776
ジミーアップルズがこれに
「気分はどう？」とリプしている
778：名無しさん (ｱｳｱｳ b290-d49e)：2024/09/18(水) 10:42:06 ID:QqCECOOoSa: サムはイーロンとかと違って大ボラ吹かないからこれはガチだな
779：名無しさん (ﾜｯﾁｮｲ faba-28d4)：2024/09/18(水) 10:48:09 ID:ph7h3roU00: ポジショントークはあれどハッタリだったことはないんだよね。
780：名無しさん (ﾜｯﾁｮｲ bab2-9d88)：2024/09/18(水) 10:51:52 ID:MCyT4m1U00: アルファ碁から10年でAGIかあ
思えば遠くへ来たもんだ
781：名無しさん (ﾊﾞｯｸｼ fdce-3b93)：2024/09/18(水) 13:04:32 ID:f3jqgE6MMM: これって何？
オリオン？
782：名無しさん (ﾜｯﾁｮｲ 76bd-28d4)：2024/09/18(水) 21:07:03 ID:sqAw85iU00: https://x.com/tsarnick/status/1836243598213550355?utm_source=yjrealtime&utm_medium=search
「元OpenAI理事のヘレン・トナー氏は、米国上院のAIに関する公聴会で、
人間レベルのAIや人工汎用知能が1～3年以内に実現する可能性があると述べ、
国民がこれに対してどの程度準備ができているかというギャップがあると語った。」

もう本当にAGI間近なんだろうね。良くも悪くも大混乱がありそう
783：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/18(水) 22:14:16 ID:MCyT4m1U00: AIが新たなAIを開発する段階に突入し、ムーアの法則の2乗の速度で進化が進んでいると。今後1、2年の進歩は、壮大で驚異的になる事をNVIDIAのジェンセン・ファンが発言している。

2025年と2026年の時点で驚異的な進歩が来る。
つまりレオポルド・アッシェンブレナー論文の2027年想定よりも事態は加速している。
784：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/18(水) 22:15:28 ID:MCyT4m1U00: 新井センセと西垣センセは、焼き土下座だな(´-ω-)ｳﾑ
785：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/18(水) 23:02:47 ID:cJAPl1Tc00: >>782
何かにつけポジショントークだとかペテンだとか言うやついたけど、さすがにもうOpenAI辞めてるし公聴会という公の場でいい加減なことや盛ったこと言うはずがない
786：名無しさん (ﾜｯﾁｮｲ eb70-8736)：2024/09/18(水) 23:34:19 ID:BQD.OEwM00: 新井とかまじでどうでもいいからここで名前出さんでええよ
ねちっこいんだよ
787：名無しさん (ﾜｯﾁｮｲ 4fc8-d49e)：2024/09/18(水) 23:41:52 ID:92ALSm8200: >>783
ほんとかよまた期待だけで終わらせんなよ
788：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 00:00:13 ID:5LlCrdfA00: 人類 VS AGI
AGIの反乱まで想定してるのね

ウィリアム・サンダース:
OpenAI 元技術スタッフ（証言書）

3年以内に壊滅的な危険をもたらす可能性が少なくとも10％あると思いました。それに備えるための規制を考え出す必要があると思います。なぜなら、3年でなければ、5年や10年で物事が起こり、何らかのガードレールを用意する必要があると思うからです。
789：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 00:12:44 ID:5LlCrdfA00: >>787
公聴会見てると、元OpenAIの社員たちは期待より口を揃えてあまりの進歩の速さに制御が効かなくなる恐怖を覚えてるような感じだな
790：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 00:31:24 ID:5LlCrdfA00: Neuralinkの開発も進んできた
人類とAGIの融合もそう遠くないな

イーロン・マスクのNeuralinkが視神経を失った人でも視力を取り戻すことができるインプラント「Blindsight」でFDAから「画期的デバイス」認定を取得
https://gigazine.net/news/20240918-elon-musk-neuralink-fda-breakthrough-device-tag-blindsight/
791：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 00:35:36 ID:5LlCrdfA00: >>783
これだな

ジェンセン・フアン（NVIDIA社長）によれば、テクノロジーは現在、AIが新たなAIを設計するという正のフィードバックループに達しており、「ムーアの法則の2乗」のペースで進歩している。

https://x.com/tsarnick/status/1836276445586538658
792：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 00:45:30 ID:5LlCrdfA00: まだ上がるんかーいw

AIがドットコム・バブルの流れをたどるなら、エヌビディアの株価は倍増
https://www.businessinsider.jp/post-293369
793：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 00:54:25 ID:5LlCrdfA00: 人間もワールドモデルを脳内に作り出すことで、意識が発生している説もある

ChatGPTからロボットへ　AIに新たな“爆発的進化”が訪れる可能性
https://ascii.jp/elem/000/004/222/4222316/

1XはNEO Betaの開発に際し、ワールドモデルと呼ばれる先進的な技術を活用している。

ワールドモデルとは、ロボットが現実世界をシミュレートし理解するための高度なAI技術だ。環境の変化を学習し適応できるため、多様な状況下でのロボットの性能を正確に予測できる。

ワールドモデルのスケーリング則が確立されれば、ロボットの能力は急速に進化する可能性がある。このビジョンは、OpenAIが1Xに出資した理由の一つと考えられ、ワールドモデルを通じてロボット工学がLLMのような技術的ブレークスルーを迎えることへの期待が高まっている。
794：名無しさん (ｽﾌﾟｰ 535e-f977)：2024/09/19(木) 00:58:04 ID:2ojil4KASd: >>790
遺伝子改造によって病気の根絶や不老化は間近だとか言われてたぞ
遺伝子治療が実用化された1990年ごろには

つまるところ技術が一般人の人生を変えるかどうかは
技術が一般社会に広まるかどうかで決まる
795：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 01:40:04 ID:5LlCrdfA00: >>794
技術を広めるためには世間で何言われようが、金と信念を持ってガシガシ進めるイーロン・マスクみたいな人間が必要なんじゃないかな
796：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 01:57:04 ID:5LlCrdfA00: AIに14兆円て、Microsoft本気やね

ブラックロック、MicrosoftとAIファンド　4兆円規模：日本経済新聞
https://www.nikkei.com/article/DGXZQOGN1802V0Y4A910C2000000/

その他の企業からの参画も受け入れていく予定で、最終的には負債も含めて1000億ドル（14兆円）規模の投資実行額を目指す。
797：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/19(木) 03:32:47 ID:VaR/gkHQ00: OpenAI o1によって「状況認識」は変わったと思う。
イーロン・マスクの「2年でAGI」発言や、レオポルド・アッシェンブレナー論文の2027年AGI予測が「保守的予想」になるとは、、

o1はまだpreviewでこのインパクトだが、エージェントAIとo1シリーズの進化によるGPT-5が続くことを考えると、事態は急激に加速していると感じざるを得ない。
798：名無しさん (ﾜｯﾁｮｲ 0a45-a448)：2024/09/19(木) 05:43:18 ID:D/QtG/HI00: >>783>>796
AI絡みは技術面も金銭面も理想的と言わざるを得ない状況
他の組織がどう追随してくるかは分からないが、OpenAIがo1の技術使ってこのまま進むなら1-3年、つまり2027年までに人間クラスの思考能力持つやつ出てくるのは自然に思える
マルチモーダル化とか人型ロボとの統合とか他にもやること多いとはいえ
799：名無しさん (ﾜｯﾁｮｲ 558b-007b)：2024/09/19(木) 07:01:14 ID:rKpwYInw00: >>791
2倍じゃなくて2乗か・・・
正に指数関数、グラフはほぼ垂直になりつつあるな
800：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 07:04:34 ID:5LlCrdfA00: sakanaAIがNVIDIAが大株主になったから、国内企業から一斉に投資が来たみたい
しかし、日本企業は安心しないと投資しないのは最悪の最悪だわ
https://youtu.be/zqTHBMgiDhU

動画最後
sakanaAI「残念ながらまだ話せないが、さらにワクワクすることも進めている」
801：名無しさん (ﾜｯﾁｮｲ 9ef9-28d4)：2024/09/19(木) 07:37:44 ID:/5oa1ZJI00: しかしAGIに対し「世間の準備ができていない」とよく言われるけど逆に
「準備ができた状態」てどんな状況ですかと問いたくなる。
出てみないことには対応もしようがないのではないか
802：名無しさん (ｵｯﾍﾟｹ 5fe1-6899)：2024/09/19(木) 08:37:22 ID:S6XMmvi6Sr: 生成AI入りのRPAが「超・自動化」ツールに進化、ローコードで開発可能に
https://xtech.nikkei.com/atcl/nxt/column/18/02942/091200002/

生成AI（人工知能）の登場によって、手作業を撲滅する「ハイパーオートメーション」が注目されている。ハイパーオートメーションは生成AIをはじめ、複数の技術を利用しながら手作業を自動化し、業務全体の効率化を目指す考え方だ。
803：名無しさん (ｵｯﾍﾟｹ 5fe1-6899)：2024/09/19(木) 08:42:39 ID:S6XMmvi6Sr: うわぁ　o1-previewとo1-mini が正式にチャットボットアリーナで評価されたらしいが、圧倒的すぎるなぁ

o1-preview
全般的に1位、特に数学、ハードプロンプト、コーディング。技術的な性能が大幅に向上

o1-mini
技術分野で1位、全体で第2位

https://x.com/jaguring1/status/1836457287566921752
804：名無しさん (ﾜｯﾁｮｲ f845-0f26)：2024/09/19(木) 11:11:59 ID:1Svv6cok00: >>801
そうだよ。
準備が出来てから導入された発明は今まで存在しない。
805：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/19(木) 11:15:39 ID:VaR/gkHQ00: (7)ChatGPT 4oの時点で、専門研究者を凌駕！
・GPT-4oの時点で、LLM によって生成されたアイデアが、熟練した人間の研究者によって書かれたアイデアよりも斬新だったのが統計的に有意だった
・科学論文の「レビュー」でも専門家に勝利（4o世代で）
・前のモデルでこのレベルなので、o1だとさらに伸びる可能性がある
・知能爆発が近いかも
　
(8)ポイントは小型原子炉3基！Oracleが1GW超えのデータセンター建設を予定
・AI需要の急増に向けて電力がボトルネックになっていたが、米国では原発推進に舵を切り、結果として小型モジュール式原子炉（SMR）を3基使用したデータセンター計画を発表
・世界最大級のAIコンピューティング能力を持つデータセンターを目指す
806：名無しさん (ｵｯﾍﾟｹ dda4-6899)：2024/09/19(木) 11:57:43 ID:rbVc3Il2Sr: サム・アルトマン
もうゴール３まで行ったてよ
　　　　　　↓
incredible outperformance on goal 3, even though it took awhile:

ちょっと時間かかったけど、ゴール3では驚異的なパフォーマンスを見せた

https://x.com/sama/status/1836178378673786923
807：名無しさん (ｵｯﾍﾟｹ dda4-6899)：2024/09/19(木) 11:59:27 ID:rbVc3Il2Sr: もう目と鼻の先
808：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/19(木) 12:00:27 ID:VaR/gkHQ00: 素人考えですが、これってレベル3まで実現すれば、レベル4と5は特に新しいことをしなくても、性能の改善だけで到達するような気も。
809：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/19(木) 12:02:22 ID:VaR/gkHQ00: 一度AGIが実現すれば、自己進化によって人類の知能を超越する超知能に進化するのは時間の問題だ。
そうなれば人間のイデオロギーが社会を統治する時代はいずれ終わり、
機械的なアルゴリズムの判断に従うデータ至上主義の社会になる。

「ヒューマノイドロボット産業は急速に拡大しています。
なぜ今なのか。
AI技術、ハードウェアの進歩、そしてバッテリー技術の発展がすべて融合しているからです」
適切な時期が来れば、
不思議なことに、まるで誰かが導いたかのように必要な技術が出揃うのですね。
810：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/19(木) 12:03:37 ID:VaR/gkHQ00: フアン「私たちは今、ムーアの法則をはるかに超えるスピードで進んでいる時代に突入しており、もしかするとムーアの法則の二乗の速度で進んでいるかもしれません」
「その理由は、コンピュータがCPUからGPUへ、人間が設計したソフトウェアから機械学習ソフトウェアへと移行し、さらに今では新しいAIを創出するフィードバックループが形成され、新しいAIが新しいコンピュータシステムを作成し、その新しいコンピュータシステムが驚異的な速度で進化し、さらに優れたAIを創り出す、という循環が加速しているためです。そのフィードバックのループ、いわばフライホイールが今、本当に回り始めています。したがって、これから1年か2年の間に、エージェントに関して見られる進歩は、非常に素晴らしく、驚くべきものになるでしょう」
811：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/19(木) 12:06:49 ID:VaR/gkHQ00: 知能爆発、来ちゃった！？

とにかく、level2到達すればlevel3,4,5はドミノ倒しのようにスケーリングで到達するのではないかと僕は推測しているので、level2がある意味のAIトレンドの臨界点。それに到達したという言及はとてつもなく重い意味を持つ。大袈裟に聞こえるかもしれないが、人類史の終わりの始まりとさえ言っていいほどの重みだと私は感じる。それに関する言及がSam Altmanからあった。これは大きいことだ。
812：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/19(木) 12:09:23 ID:VaR/gkHQ00: NSA元長官「「o1には推論能力があります。これは急速に進歩し続けるでしょう。」
o1リリースにはNSA元長官で現OpenAI 取締役のPaul Nakasoneが深く関わっていると情報。o1推論過程を公表しないのは国家安全保障上の問題(合成データを敵に提供してはまずい)が大きいと私は推測している。今のAIスケーリングのMoatは合成データの作り方だと思われるため、それを盗まれたら敵対国に対するアメリカの優位性がすぐに失われる可能性がある。勿論ビジネス優位性のためという理由もあるだろうが、国家安全保障という意味合いも強くなっていると思われる。もはやAIトレンドはビジネス競合のニュアンスから、国家の存続に関わるトレンドになりつつあると感じる。
813：名無しさん (ﾜｯﾁｮｲ 9d04-f977)：2024/09/19(木) 12:29:03 ID:a29a4rQw00: >>795
だいたい同意見だが、「イーロンですらまだ？」って感覚もある
814：名無しさん (ﾜｯﾁｮｲ 3627-cde4)：2024/09/19(木) 13:12:41 ID:1WfPVmkk00: >>808
素人だな、レベル３実現で苦労してるんだから
レベル４はもっと難しいに決まってるだろ
レベル５なんて夢のまた夢
815：名無しさん (ｽﾌﾟｰ ccf4-f977)：2024/09/19(木) 13:14:45 ID:u9cXuGdwSd: >>52
歴史は単なる情報のログと違って取捨選択をしているから、一般人が歴史に名を残すのは相変わらずムズいと思うわ
人類文明が長く続けば続くほど、人類文明がどう続いてきたかという情報量が莫大に増えて、
歴史が個々人について書くことは難しくなっていく

たとえば旧約聖書の人物たちのほとんどは、古代で書かれた歴史で「歴史的な重要人物」だったけど
現代で書かれた歴史では「ユダヤ系宗教史上の重要人物」でしかない

古代ギリシャで書かれた歴史では、哲学者たちは歴史の重要人物だったけど
現代で書かれる歴史は極端に長大化していて、「ギリシャ哲学者と言えばソクラテス、プラトン、アリストテレス」というような扱いになっている
「靴屋のシモン」のような哲学者たちは歴史の端っこに置かれて、一般的にはほぼ注目されてない

つまり歴史の根幹には、歴史的に人類への影響力がより大きい人物が書かれる
人類への影響力がより小さい人物は、歴史の枝葉に書かれる
816：名無しさん (ﾜｯﾁｮｲ 56ba-8646)：2024/09/19(木) 14:49:42 ID:mkqjwMc.00: >>814
レベル３はレベル１～２までかかる時間より早く出来るってサムが言ったらしいが
しかももうかなり出来てそうな口ぶりらしい
817：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/19(木) 18:01:30 ID:ybSM0ymA00: >>816
>>806
818：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/19(木) 18:12:05 ID:ybSM0ymA00: メタもAIがAIを進化させる方式を採用

アンドリュー・ングによれば、メタ社はエージェント型ワークフローで合成データを生成し、新しいモデルを訓練するために既存のAIモデルを使用したという。

https://x.com/tsarnick/status/1836615720689635782
819：名無しさん (ﾜｯﾁｮｲ 0a45-82b8)：2024/09/19(木) 18:13:51 ID:D/QtG/HI00: 早くAI進化進むのは大歓迎だが、そのアルトマンのセリフは「2016年ごろのGPT無印も無い頃に目標にしたパート3に今はo1で到達してるが、当時から見てすごいレベルまで来た」的なニュアンスじゃないか？
o1の先のモデル示してるとは限らんような
820：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/19(木) 18:15:30 ID:ybSM0ymA00: AI開発はパラダイムシフトに突入

サム・アルトマンは、AIの推論はまだGPT-2の段階にあるが、改善曲線は急であり、新しいo1モデルは、能力の急速な進歩を可能にするAI開発の新しいパラダイムを表していると言う。

https://x.com/tsarnick/status/1836505567378182270
821：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/19(木) 18:22:58 ID:ybSM0ymA00: >>819
中西部の家が大好きだ。

夜空はとても美しい。

もうすぐ冬の星座が昇ってくるのが楽しみだ。
https://x.com/sama/status/1834795291406483684
　　　　　　↓
冬の星座→次世代モデルorion
昇る→冬にローンチ
822：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/19(木) 18:30:36 ID:VaR/gkHQ00: >>814
玄人のバイオショック氏は、3~5は早いという見立て
823：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/19(木) 18:36:43 ID:ybSM0ymA00: OpenAIのCEOサム・アルトマン、レベル3エージェントの登場を明言

" レベル2への移行には時間がかかったが、レベル3の開発を加速させる。
これによって、テクノロジーの進歩に大きな影響を与える、インパクトのあるエージェントベースの体験が可能になる "

https://x.com/slow_developer/status/1836647241358143534
824：名無しさん (ﾜｯﾁｮｲ 0f14-6899)：2024/09/19(木) 18:43:59 ID:ybSM0ymA00: >>822
レベル３～５は、AI自身が自律して自己改良しだすから遥かに早くなるはず
825：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 19:58:11 ID:5LlCrdfA00: このままハードの進歩もなく直線で上がって行ったとしても2029年には到達するよな
826：名無しさん (ｱｳｱｳ a52e-d49e)：2024/09/19(木) 20:05:08 ID:q7mDeEHwSa: ハードの進化もヤバいけどなブラックウェルはまだこれからだし
827：名無しさん (ﾜｯﾁｮｲ a5e5-07e4)：2024/09/19(木) 20:06:05 ID:2V6IySnE00: これは面白い
o1は飛躍的な進化なのに世間的にあまり騒がれていないのはアルトマンの戦略だという話
色々と納得できるものがある
https://youtu.be/s4OVr54T06s?si=FbTEN7A3Cy0kYHze
828：名無しさん (ｽﾌﾟｰ 3e03-245c)：2024/09/19(木) 20:19:19 ID:9GTUjnw.Sd: 冷静に今のモデルを見ると、
動作計画知能や自己反省能力、仮説を立てられるほどの想像力がないだけで

数学能力だけ見ればすでに(俺が想定してた)AGIと同じレベルに達している
まったく解いたことがない問題に対処するにはもっと進化が必要だろうが
それがなくても十分賢すぎる
829：名無しさん (ｽﾌﾟｰ 3e03-245c)：2024/09/19(木) 20:19:56 ID:9GTUjnw.Sd: https://i.imgur.com/Sbh2cUU.png
さすがSakana AIの創業者
トランスフォーマーを発明した第一人者(元Google)は言うことが違う

LLMはその素晴らしい功績にもかかわらず、未だトレーニングデータの奴隷のままだ。
LLMは、既存の情報を整理して再結合することに長けており、おなじみのトラックをリミックスするDJに似ている
そしてDJが全く新しい曲を作るほど才能があるかというと、そこまでではない

情報が少なくても発想力や結論を出せる、もしくは自分から情報を出すAIこそが
真のAGIだろう
830：名無しさん (ﾜｯﾁｮｲ 56ba-8646)：2024/09/19(木) 20:21:34 ID:mkqjwMc.00: 凄すぎる時代が来るかもしれんぞ、マジで

ExaのCEO、Will Bryk氏
「o1 はトランスフォーマー以来最大の AI アップデートであり、AGI への明確な道を切り開きます。
これが Ilya が見たものです。これが Sam が何兆ドルもの計算を望んだ理由です。これが Leopold が警告していたことです。
AGI への道は今や明確です。彼らはこれを 10 倍、100 倍、1000 倍にスケールアップしていきます。
私はとても興奮しています。私はSFの未来を夢見て育ちました--あなたもそうではありませんか？--そしてこれがそこに到達する方法です。
アイアンマンスーツ、きれいな都市、27歳の気分を味わえる1000年、1時間で行けるヨーロッパ旅行、1年かかるエウロパ旅行が欲しいです。
人間は自力でこの未来に到達するには遅すぎ、怠惰すぎ、政治的すぎます。
豊富な知性こそが、この未来に安全に到達する方法です。」
831：名無しさん (ｽﾌﾟｰ 3e03-245c)：2024/09/19(木) 20:21:48 ID:9GTUjnw.Sd: https://www.youtube.com/watch?v=iF2la6FxVQc
社会科学、気候科学などがそうです。奇妙なのはコンピューター科学です。
私がスタンフォード大学の学部生だった頃、工学や数学が得意でない人々がコンピューター科学に行きました。
他の工学分野よりもはるかに入学しやすかったのです。
そのため、この分野には劣等感があり「科学」というラベルにしがみついたのです。
───PayPalマフィア　”インターネットなんて大した産業じゃない”

ただし
＞LLM、ChatGPTなどはおそらくインターネット自体に匹敵するブレークスルーだと私は評価します。
＞そのためコンピューターの世界では、進歩が続いていると言えます。
＞逆に他のものがはるかに遅くなっており投資が難しくなっています
我々の文化に何か変化があったのです。我々はリスク回避的になりすぎ、官僚化しすぎています。(特に医学が)
初期のNASAを考えても、多くの人々が亡くなりました。そこから安全性を重視しすぎるようになった。

そうはいっても250年前と比べれば、物事は良くなっている。生活の質の多くの面で戻りたくないでしょう。木製の入れ歯を持っていた時代に。
だけど過去50年についてはよくわかりません。
832：名無しさん (ｽﾌﾟｰ 3e03-245c)：2024/09/19(木) 20:38:37 ID:9GTUjnw.Sd: レイカーツワイルは技術全般に対して楽観視しすぎ
対してピーターティールは現実重視で悲観しすぎ

どちらもシンギュラリティ信者ではあるが
両者ともバランスが取れていない
833：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/19(木) 20:39:22 ID:5LlCrdfA00: >>829
名前からして凄いけど、一気に大動乱の群雄割拠の時代に突入した感あるよな
834：名無しさん (ｽﾌﾟｰ 3e03-245c)：2024/09/19(木) 20:52:54 ID:9GTUjnw.Sd: 「現状のAIは猫の知能にさえ達していない」英国の討論会でデミスハサビス氏が発言
https://i.imgur.com/PGNO0CY.png

たぶん知識に基づく推論は、人間の平均を超えるぐらいなんだろう
ただし猫やネズミですら持っている「世界を見て予測しつつ行動を行い、失敗したら修正する」「仮説を立てる」
この2つの能力がLLMには無いのだろうな
https://i.imgur.com/XbG7OM1.gif

これを受けてハサビス氏のチームは、より強力なエピソード記憶と報酬システムと(映像ベース)世界モデルをLLMに合体する方向性を試すとインタビューで言及

OpenAIがやっていることは他でもできるが
DeepMindが持っている研究成果はOpenAIには無いものが多い
835：名無しさん (ﾜｯﾁｮｲ 81c8-82b8)：2024/09/19(木) 21:21:26 ID:rcQ6fmJw00: 言い方だよな
AIは猫のように家の中を歩き回り飼い主の呼びかけに返事をし知らないものに毛を逆立てて威嚇することはできない
しかし猫が絶対にできない莫大な知識と高速な思考と画像の分析と…猫より遥かに多くのことが出来るし役にたつ
単にまだ足りて無い部分も補うべきってだけの話だな
>>830
ワクワクするいい文章だ
o1シリーズの仕組みを利用した次世代がどんなペースで出るか、どんな性能かにかかってるな
オリオンもその一種のようだ
836：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/19(木) 22:12:41 ID:VaR/gkHQ00: 技術的失業も始まったようだ

IBMで数千人規模のレイオフがあったそうで、内容の是非もそうですが、主に対象が「上級レベルのプログラマー、販売およびサポートに携わる従業員」なのが色々考えさせられます。

果たして何起因なのでしょうか..

o1もチラついて、うーむな感じです。
837：名無しさん (ｽﾌﾟｰ 598d-245c)：2024/09/19(木) 22:30:43 ID:JnbiG0awSd: うーん
技術的失業というよりも
単に業績が悪化してるから
あと人がそもそも多すぎたからじゃないのか？(事務職や営業)

ガチの研究エンジニアは解雇してないだろう
戦闘機に搭載する脳型チップを開発してるのはIBMだしな
838：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/20(金) 00:30:54 ID:ZVPTzYsU00: OpenAI の Noam Brown 氏は、AI モデルのパフォーマンスはトレーニングや推論の計算量にほぼ比例するが、推論のコストは将来 1,000 億倍安くなると述べています。

https://x.com/tsarnick/status/1836215965912289306
　　　　　　　　↓
推論の進歩のおかげで、AIモデルのコストパフォーマンスは近い将来1000億倍改善される
839：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/20(金) 00:42:03 ID:ZVPTzYsU00: 自律エージェントがもうすぐ登場

これはすごいことです。サム・アルトマンは、o1 でレベル 2 に到達したことを認め、同時にレベル 3、つまり自律エージェントが間もなく登場すると述べています。正直なところ、私たちは実際に AGI の瀬戸際にいるのかもしれません。唯一の疑問は、最初のエージェントが今年登場するのか、それとも 2025 年の初めに GPT-5 で登場するのかということです。

https://x.com/kimmonismus/status/1836666788534276534
840：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/20(金) 02:15:42 ID:ZVPTzYsU00: 動画生成AIで誰でも簡単にyoutuberになれる時代到来

YouTube、動画AIで制作支援　「誰でもユーチューバー」 - 日本経済新聞 https://www.nikkei.com/article/DGXZQOGN1771R0X10C24A9000000/

米グーグル傘下の米ユーチューブは18日、動画生成AI（人工知能）を使って動画制作を支援するソフトを発表した。ユーチューブは幅広いクリエーターの参入を促すことで25億人が利用する巨大配信基盤を生み出したが、生成AIで動画投稿の垣根をさらに下げ、「誰でもユーチューバーになれる」ことを目指す。
841：名無しさん (ﾜｯﾁｮｲ 4247-6899)：2024/09/20(金) 02:19:31 ID:ZVPTzYsU00: 誰でも簡単にイラストレーターになれる時代到来

1時間ほどで漫画風の絵コンテ生成アプリを制作してみた～そして来るべき未来を予感した - 生成AIストリーム https://forest.watch.impress.co.jp/docs/serial/aistream/1624508.html

画像生成AIが誰でも使えるようになってだいぶ時間が経過し、一般化、産業化が進んでいます。先日はAmazon Web Service（AWS）のAIフルマネージドAPIホスティングサービス「Amazon Bedrock」で、Stability AIの画像生成AIモデル「Stable Image Ultra」、「Stable Diffusion 3 Large」、「Stable Image Core」が利用できるようになりました。時代はAI活用の方向へ加速しています。
842：名無しさん (ﾜｯﾁｮｲ ea30-cde4)：2024/09/20(金) 07:47:15 ID:mcCHXnVQ00: >>841
好きな女優さんとか隣のお姉さんやお嬢さんのエロ漫画を誰でも自由に描ける時代が来るんですね分かります
843：名無しさん (ｵｯﾍﾟｹ c520-6899)：2024/09/20(金) 07:53:48 ID:WnpFyTHoSr: このイベントでグーグルがo1を超えられるか気になってる

「エキサイティングな新しいAIイノベーションを発表し、Geminiの可能性を最大化するためのベストプラクティスを共有し、Geminiの動作をデモンストレーションします」

https://x.com/jaguring1/status/1836605084026994913
844：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 10:39:06 ID:je6nIbAg00: OpenAIの投資ラウンド、投資希望者が多くて
「投資する権利を奪い合う」状態になったっぽいなｗ

画像の日本語訳

OpenAIの最新の資金調達は完了間近で、関係者によると、投資家たちは金曜日に自分たちがその取引に参加できるかどうかを知ることになります。

この人工知能スタートアップの資金調達ラウンドは65億ドルに達しており、需要超過の状態です。つまり、投資家たちは会社が受け入れる準備ができていた額よりも多くの資金を投じることを希望していたと、関係者が語っています。彼らは個人情報を公開しないことを条件に話しており、そのうちの1人は、過剰な需要が数十億ドルに達していたことを明らかにしました。一部の投資家は、金曜日に自分たちが選ばれなかったことを知ることになると述べています。
845：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 10:55:59 ID:je6nIbAg00: サム・アルトマンがT-Mobileで対話した際の言及。
「OpenAIにはAGIとそれ以上の道筋がある」
AGI以上の道筋ですよ。つまりAGIは通過点でしかないという事ですね。
OpenAIの内部での開発はどこまで進んでいるのだろうか。
846：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 11:39:12 ID:je6nIbAg00: 昨日のサムアルトマンの公演で、今はまだGPT-2だって言う発言ありましたが、やはり海外勢の認識としても「推論」レベルがGPT-2で、今後この強さが増していくっていう感じですね。

しかも「自分で学習している」とあるので、既に自分で推論方法や誤りの蓄積も始めてそうな..

やはりセミAGIなのでは?
847：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/20(金) 12:04:13 ID:je6nIbAg00: 5～6万ドル(700～900万円)の人型ロボットより年収300万の人間を雇った方がいいな、と考えるのは少し待って。

まず一般労働者の年間の労働時間は平均2000時間弱。
ロボットはメンテナンス時間や充電時間以外、年間の7割稼働すると仮定すると6000時間強で人間の3倍働かせる事ができる。
しかも10年程度稼動すると仮定すると、1年で減価償却が終わり2年目からは電気代とメンテナンスコスト以外は費用がかからないので人間より圧倒的にコスパが良くなる。

もう一つ考慮すべきなのは、コイツが「テスラ」のメカである事。
イーロン・マスクは規模の経済の効能を熟知した経営者だから、実用段階に入ると信じられない数(年間数千万台とかいうレベル)でコイツを量産するだろうから、その効果で劇的にコストは下がっていくだろうと予想される。

ソフトウェアのアップデートがどの程度の進捗で進むかにもよるけど、相当なペースで人間の仕事を奪っていくんじゃないかな。
848：名無しさん (ﾜｯﾁｮｲ bab2-ec32)：2024/09/20(金) 12:05:34 ID:je6nIbAg00: AIが技術革新を加速させるフェーズ、つまりは指数関数的な収穫加速にフェーズに突入したというNVIDIAのファンCEOの分析。

ビジネストークの側面はあるのだろうが、事実なら恐るべき事。

労働が喪失された後の経済、つまりUBIについて具体的な検討の時期に入ったのではないだろうか。
政策決定者は手遅れになる前にインパクトに備える必要がある。

問題は社会システムの再構築な気がしますね。仕事が奪われても、働かないで食っていける社会が構築されれば問題ない。ただ技術的には可能でも、そこに気を遣ってくれる人(為政者？企業家？)がいないのが問題な気がする。

社会変革史、受容史の1ページなんだろうけど、移行期間が問題なんだろうなあ。
849：名無しさん (ﾜｯﾁｮｲ 1401-b6b4)：2024/09/20(金) 13:00:41 ID:nGwqJNS200: 実生活に入り込んでくるのはいつになるのだろうバッテリーやエネルギー革命は早々に起こしてほしいが
850：名無しさん (ﾜｯﾁｮｲ b186-4e3c)：2024/09/20(金) 13:15:25 ID:U46tMPV600: >>847
10年使えると見積もっても、たぶん毎年新型ロボットが出る
ので、買い切り以外にも月額レンタルで普及させていくと思う
851：名無しさん (ｵｯﾍﾟｹ d867-6899)：2024/09/20(金) 13:28:48 ID:czQ82A7USr: テスラ車の重量が2000kg、オプティマスが70kg　大体1/28
テスラ車が年間200万台ほど作ってるから、本気になればオプティマスは年間5000万台は余裕で作れるはず
852：名無しさん (ﾜｯﾁｮｲ 558b-007b)：2024/09/20(金) 13:56:27 ID:c0ckvhV200: 車より安価になる可能性があるな
853：名無しさん (ｵｯﾍﾟｹ 46a1-b0fb)：2024/09/20(金) 14:44:49 ID:G2VbBkcESr: ロボットいっぱい作りすぎて鉄とかシリコンとか、その他機械に必要なレアメタルが足りなくならないかな？
854：名無しさん (ｵｯﾍﾟｹ 8389-6899)：2024/09/20(金) 16:07:23 ID:IdURqQicSr: >>853
>>851にも書いたけど乗用車の重量比で1/28だからね
今世界の車の台数が15億台くらいだから同じ資源で420億台は作れるよ
855：名無しさん (ﾜｯﾁｮｲ 56ba-8646)：2024/09/20(金) 16:11:25 ID:42kiXCOU00: ノンビリうなぎ食ってられるのもあと数年って事だわな
「自由になったらやりたいことリスト」を作っておかなきゃ
856：名無しさん (ｵｯﾍﾟｹ bba8-a448)：2024/09/20(金) 16:23:56 ID:Aa4UOx2sSr: 「オプティマス、掃除洗濯皿洗い整頓よろしく。」の命令で安定してこなしてくれるようになったら、もう充分売り物になるな
857：名無しさん (ｱｳｱｳ 6481-d49e)：2024/09/20(金) 16:43:42 ID:rNmGAMiESa: 専業主婦いらんやん
858：名無しさん (ｵｯﾍﾟｹ 46a1-b0fb)：2024/09/20(金) 16:45:34 ID:G2VbBkcESr: ハッキングされて部屋をメチャクチャにされるオチ
859：名無しさん (ｵｯﾍﾟｹ 46a1-b0fb)：2024/09/20(金) 16:46:25 ID:G2VbBkcESr: >>855
うなぎの養殖はロボットですら難しいからな
860：名無しさん (ﾜｯﾁｮｲ a88b-28d4)：2024/09/20(金) 17:00:05 ID:MmSLpk6o00: キッチンに備え付けの、腕二本だけのロボとかでもいい気がする。
861：名無しさん (ｵｯﾍﾟｹ 0dcc-6899)：2024/09/20(金) 17:06:50 ID:py0Gh0q6Sr: >>857
労働者もいらんわな
862：名無しさん (ｱｳｱｳ 09ed-d49e)：2024/09/20(金) 18:13:36 ID:4xI4JnlUSa: >>858
それならまだマシワンチャン包丁振り回す
863：名無しさん (ﾜｯﾁｮｲ f031-b6b4)：2024/09/20(金) 18:19:41 ID:pexv6UWI00: イスラエルなら殲滅に使うだろうな
864：名無しさん (ﾜｯﾁｮｲ ca5f-007b)：2024/09/20(金) 18:35:01 ID:GX.ez53g00: ロボソルジャー怖えええ
865：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 18:51:22 ID:je6nIbAg00: 初期モデルのテスラBOTでさえ250万円だっけ⁉️
これは軽自動車1台分程度までは確実に下がるだろうから、
もう街中botだらけなのが日常になるんだろうな
866：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 18:59:58 ID:je6nIbAg00: OpenAI内部でのASI到達予測がどうなっているのか聞いたら返信してくれた！

ASI到達は2027年

レオポルド・アッシェンブレナー予測が「保守的」にすら見える事態だ。
867：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 19:12:06 ID:je6nIbAg00: 1000 件のいいねを獲得すれば、スーパーインテリジェンスがどのように作られているかを完全に明らかにします。

OpenAIのASIがどのように作られているか、メカニズムを明らかにする用意があると予告。
868：名無しさん (ﾜｯﾁｮｲ bab2-7219)：2024/09/20(金) 19:46:14 ID:je6nIbAg00: AGIリリース以降の問題は、高度なAGIを一般利用できるかどうか。OpenAIは高度なAGIの一般利用を認める方針との事。

OpenAIがAGIをリリースする力を持っているのは確実だろう。OpenAI幹部たちがo1のリリースを「AGIへの道」と行っているのだから。
そこで問題になるのは科学や数学の新発見を行い、人類の知能をはるかに上回るような高度過ぎるAGIへの一般人のアクセスが防がれるのではという点だった。
その質問にはgeneral public useと回答を得ました！
869：名無しさん (ﾜｯﾁｮｲ b186-4e3c)：2024/09/20(金) 19:54:34 ID:U46tMPV600: ネコ型配膳ロボットのPudu、初のセミヒューマノイドロボット
https://www.watch.impress.co.jp/docs/news/1625208.html
Pudu Robotics Japanは、同社初の汎用具現化インテリジェントセミヒューマノイドロボット「PUDU D7」を発表した。飲食店、宿泊施設から倉庫や工場での作業に対応し、本格的な商品化は2025年を予定している。
870：名無しさん (ﾜｯﾁｮｲ 5de1-82b8)：2024/09/20(金) 20:16:24 ID:S6wZZILc00: >>866-868
ツイッターあたりの投稿？これ
引用元urlとかあると分かりやすい
871：名無しさん (ﾜｯﾁｮｲ f2bf-004a)：2024/09/20(金) 20:37:14 ID:XT7/4mNA00: OpenaiのアライメントチームのメンバーがやたらとASIに関しての危機感を抱いたり
イリヤが安全重視のAIのために独立したり、一般人の視点からはギャップを感じてたんだけど
今にして思えば内部にいた人間だからこそAGIが近づいてることへの実感が強かったんだなと思う
872：名無しさん (ﾜｯﾁｮｲ 119b-56c0)：2024/09/20(金) 22:03:24 ID:MxZ/P9..00: >>848
幸いサム・アルトマンはベーシック・インカム賛成派だし良心的な企業家でよかったわ
873：名無しさん (ｵｯﾍﾟｹ 46a1-b0fb)：2024/09/20(金) 22:07:47 ID:G2VbBkcESr: >>872
本当に？

金持ちは欲張りだから世の中の全てを手に入れようとしてる。
健康も、豪邸も高級車も綺麗な服も美味い飯も、そして全ての美女すらも。
874：名無しさん (ｵｯﾍﾟｹ 46a1-b0fb)：2024/09/20(金) 22:08:36 ID:G2VbBkcESr: サムアルトマンほどの金持ちなら女の何人か囲ってるんじゃないかな？