新しいAIは、楽しい画像とそれほど楽しい画像を描画しません

見たいものを書き留めるだけで、AIがそれを描画します。
AIシステムで一般的であるように、DALL-E 2は、それをトレーニングするために使用されるデータのコーパスからバイアスを継承しています。
OpenAIの研究者は、バイアスと公平性の問題を解決するためにいくつかの試みを行いました。
2月、DALL-E 2がリリースされる前に、OpenAIは23人の外部研究者を「レッドチーム」に招待しました。
OpenAIのBrundageによると、限られたグループのユーザーにAIモデルを試してもらうことで、研究者は現実の世界で発生する問題についてさらに学ぶことができます。
OpenAIがDALL-E2に対して行ったように、モデルのリスクを文書化する「モデルカード」を公開するなど、近年AIコミュニティ内でいくつかの優れた新しい規範が自主的に採用されていますが、コミュニティはそれを実現する反復可能な標準をまだ作成していません。