スーパーアライメントの紹介 https://openai.com/index/introducing-superalignment/
＞現在、潜在的に超知能の AI を操縦または制御し、暴走を防ぐためのソリューションはありません。
＞人間のフィードバックによる強化学習など、AI を調整するための現在の技術は、人間の AI を監督する能力に依存しています。
＞しかし、人間は私たちよりもはるかに賢い AI システムを確実に監督することはできないため、現在の調整技術では超知能には対応できません。
＞新しい科学的および技術的なブレークスルーが必要です。
