レス数が1スレッドの最大レス数(1000件)を超えています。残念ながら投稿することができません。
技術的特異点/シンギュラリティ【総合】避難所 37
-
Sam Altman @sama
今日、私たちはChatGPT Agentという新しい製品を発売しました。
Agentは、AIシステムの新たな能力のレベルを表し、独自のコンピュータを使用して、驚くべき複雑なタスクをあなたのために遂行することができます。これは、Deep ResearchとOperatorの精神を組み合わせたものですが、それ以上に強力です—長時間考えることができ、ツールを使用し、さらに考え、行動を起こし、さらに考える、といった具合です。たとえば、発売時に行ったデモでは、友人の結婚式の準備として、服の購入、旅行の予約、ギフトの選択などを示しました。また、データの分析や仕事用のプレゼンテーション作成の例も示しました。
その有用性は大きいですが、潜在的なリスクも同様に大きいです。
私たちは多くの安全装置や警告を組み込み、これまで以上に広範な緩和策を講じてきました。堅牢なトレーニングからシステムの安全装置、ユーザー制御までありますが、すべてを予測することはできません。反復的な展開の精神に基づき、ユーザーに強く警告し、慎重にアクションを取る自由を与えるつもりです。
私は自分の家族には、これが最先端かつ実験的なものだと説明します。未来を試すチャンスではありますが、高リスクな用途や個人情報を多く扱う場合には、まだ十分に研究し、実際の現場で改善する機会が得られるまでは使用しない方が良いでしょう。
具体的な影響は正確にはわかりませんが、悪意のある者がユーザーのAIエージェントを「騙して」、公開すべきでない個人情報を引き出したり、すべきでない行動を取らせたりする可能性があります。その方法は予測できません。プライバシーやセキュリティのリスクを減らすために、エージェントにはタスクを完了するために必要な最小限のアクセス権を与えることをお勧めします。
たとえば、エージェントにカレンダーへのアクセスを許可して、グループディナーの都合の良い時間を見つけることができます。しかし、服を買うように頼むだけなら、アクセス権を与える必要はありません。
「夜間に届いたメールを見て、必要な対応をすべて行い、フォローアップの質問はしない」といったタスクには、より大きなリスクがあります。悪意のあるメールからの信頼できないコンテンツが、モデルを騙してあなたのデータを漏洩させる可能性があります。
私たちは、現実との接触から学び始めることが重要だと考えています。そして、潜在的なリスクをより良く定量化し、軽減するにつれて、人々がこれらのツールを慎重かつゆっくりと採用することを推奨します。他の新たな能力のレベルと同様に、社会、技術、リスク軽減戦略は共に進化する必要があります。
2025年07月18日 02:36
https://x.com/sama/status/1945900345378697650
|
|
掲示板管理者へ連絡
無料レンタル掲示板
