OpenAI は、ますます強力になる AI モデルの潜在的な危険を監視および管理するためのプロセスとツールのセットである Preparedness Framework を発表しました。
このフレームワークは、オープン AI がどのように追跡、評価、予測し、サイバー攻撃、大衆説得、自律型兵器などに使用される可能性のあるモデルによってもたらされる壊滅的なリスクから保護する方法を概説しています。
特に、Anthropic は、AI システムの開発と展開のための特定の AI 安全性レベルとプロトコルを定義する責任あるスケーリング ポリシーを公開しました。
OpenAi は、より柔軟でリスク重視の安全基準です。
コメント