技術的特異点/シンギュラリティ【総合】避難所 24 - 1721642932

726：名無しさん (ﾜｯﾁｮｲ 3674-ed6f)：2024/08/12(月) 11:47:16 ID:iKHz0rRU00: こまじ？？Strawberryとgpt4oのlarge verは来週木曜発表され、GPT next/X/5？という前例のない規模で容易に世界を混乱させるgpt1から4への飛躍に匹敵するモデル（エージェント、Sora、音声、ビデオ、目を見張るような能力）の準備が整っている？？　
以下全文
「少し急ぎましたが、もし人気が出れば、与えられた情報をさらに洗練し、追加します。

- プロジェクトストロベリー / Qstar

AI Explainedは、しばらくこれに近いものでした。より明確な理解を得たい場合は、彼らを見守ることをお勧めします。これがイリヤが見たものです。数学のベンチマークを破ったものです。これは、問題に計算力を投入するというよりは、RLHFに近いものです。susカラムrは、ストロベリーを使用した非常に小さなOpenAIモデルです。より大きなモデルでのストロベリーは木曜日に登場します。人間のように推論するようにファインチューニングされたLLMと考えてください。だからこそ、サムはレベル2のコメントを気に入り、それについて良い感触を持ちました。イリヤはそうではありませんでした。ここに私たちはいます。

- 巨大なモデル、Sora、音声、ビデオ、安全性。

MetaとClaudeが小さな8B、中程度の72B、大きな405Bを持っていることに基づいて、いくつかのモデルサイズについて私は言及しました。これはフレーミングの簡単な方法であり、何も意味しません。4oのはるかに大きなバージョンが登場する、ということを除けばですが。それを試すと、GPT-3からGPT-4に移行したときに見られた最初の顕著な飛躍になるでしょう。元のGPT-4からSonnet 3.5への飛躍は、比較的小さく感じられるでしょう。ストロベリーとともに来週登場します。

- GPT Nextなど。

そこで、GPT Next（内部ではGPT Xと呼ばれていますが、GPT-5と呼んでもよいでしょう）も準備が整っています。ここでの多くのことは、安全性と、Googleが次に何をするかに依存しています。競争が安全性を上回るかどうかを言うのは難しいですが、レッドチーミングは終了し、ポストトレーニングも完了しています。このモデルは、能力において非常に大きな飛躍を遂げているため、モデルを安全にすることがほとんど不可能になりつつあります。このモデルのロックを解除すれば、前例のない規模で容易に世界を混乱させることができるでしょう。音声、ビデオ、Sora、エージェント、そして目を見張るような能力が組み合わさると、状況は一気に加熱します。彼らは安全性を適切に調整し、モデルを展開すると私は確信しています。これが、私たちが「死なないで」や「すべてが永遠に変わろうとしている」といった曖昧な投稿をする理由です。そうなのです。私たちはモデルを試しました。それは狂気の沙汰です。私は直接的なエージェントではありませんが、アカウントを乗っ取り、この分野の大物たちに影響を与えて、私のために2、3のことを実行させるために、5つの早期ベンチマークにアクセスしました。GitHubは、モデルを使用して数人を説得し、起動させた事例の1つでした。

- SoraとVoiceの展開

それらは高価です。特にSoraはそうです。安全にすることが非常に困難であることが判明しています。ガードレールを作らないと(安全性を担保する工夫をしないと)、例えばシンプルなプロンプトを使用することで、世界の指導者が自分のスタイルと声で何かを言っているビデオを作成したりできるし、また大規模な国家機密にも簡単にハッキングできます。状況認識について読んでいない場合は、これらの多くが説明されています。

- 来週、私たちはステップチェンジを得るでしょう。

それは”GPT-5”という(名前がふさわしい)感じではない。GPT-5 / Next / X / は、GPT-1からGPT-4への飛躍に匹敵するものです。だからこそ、サムは良い気分なのです。イリヤは正しかった。ストロベリーの有無に関わらず、スケーリングによってデジタルの神に到達できます。しかし、ストロベリー+スケールは一夜にして世界の諸問題を解決するでしょう。サム。明らかに、私がOpenAIの現旧従業員やジミーとしばらく付き合っていることは偶然ではありません。

要約すると、私たちはストロベリーをローンチします。私たちは少しのhype(高揚)を作りたかったのです。それができました。

読んだ後は焼却してください。」