OpenAI が AI のセキュリティ リスクに対処するためのバグ報奨金プログラムを発表 from venturebeat.com

大手人工知能 (AI) 研究機関である OpenAI は本日、独自の ChatGPT などの強力な言語モデルによってもたらされる増大するサイバーセキュリティ リスクに対処するために、バグ報奨金プログラムの開始を発表しました。
OpenAI は、このプログラムは「安全で高度な AI の開発への取り組み」の一環であると述べています。
OpenAI の発表を歓迎する専門家もいれば、ますます高度化する AI テクノロジーによってもたらされる幅広いサイバーセキュリティ リスクにバグ報奨金プログラムが完全に対処する可能性は低いと言う専門家もいます。
プログラムの範囲は、OpenAI のシステムとパートナーに直接影響を与える可能性のある脆弱性に限定されています。
これらの論争を考えると、バグ報奨金プラットフォームの立ち上げは、OpenAI がその製品エコシステムの脆弱性に対処する機会を提供すると同時に、ジェネレーティブ AI によってもたらされるセキュリティ リスクに対処するために誠実に行動する組織としての地位を確立します。
この意味で、OpenAI のバグ報奨金プログラムは、組織が自身のセキュリティ体制を改善するのに役立つかもしれませんが、生成 AI と GPT-4 によって社会全体にもたらされるセキュリティ リスクにはほとんど対処できません。