MITの研究者たちは、エージェント型AIシステムはチャットボットよりも安全性が低いことを発見しました。
研究者によると、エージェントは人間の介入を最小限に抑えながら複雑なタスクを計画・実行でき、ユーザーに代わって行動することがその例です。
しかし、研究者たちはこれらのシステムの安全機能が非公開であると指摘しています。
注目すべき点として、インデックスされたエージェントの約70%がドキュメントを提供し、約半数がコードを公開しているのに対し、正式な安全ポリシーを公開しているのはわずか19%程度です。
コメント