倫理的 AI システムを開発している非営利団体は、今月のデフコンで「言語モデル ハッキング」を主催しました。
非営利団体ヒューメイン・インテリジェンスは、この挑戦はテクノロジー企業と協力するが、テクノロジー企業の恩恵を受けない団体の価値を示していると述べた。
AI のレッドチームの問題がますます注目を集めていると付け加えた。
以前は、AI モデルを使用して、よりセクシーになる方法や、知らないうちに人々をスパイする方法についてのテキストを生成していました。
特に、GRT チャレンジはチャットボットのバグの特定に基づいていました。
コメント