AIサインフェルドは、トランスであることを病気と呼ぶまではシュールな楽しみでした from engadget.com

Twitch は、トランスフォビアおよび同性愛嫌悪の爆発に続いて、AI が生成したとなりのサインフェルドストリーム「Nothing, Forever」を少なくとも 14 日間禁止しました。
これは、AI チャットボットが適切なモデレーションなしに攻撃的なコンテンツでトレーニングされた場合の「ヘイトイン、ヘイトアウト」の最新の例です。
Twitchは「冗談」が禁止の理由であることを確認していませんが、問題のあるセグメントが放映された直後にストリームが削除されました.プログラムの作成者は、モデレーションツールを使用せずに誤ってストリームを離れたモデル変更のせいで、人を傷つけるような暴言を吐いたと非難しています。
「私たちは、OpenAI のコンテンツモデレーションシステムをテキスト生成モデルに利用していると誤解していました。現在、OpenAI のコンテンツモデレーション API (コンテンツの安全性を検証するために使用できるツール) の実装を再開する前に取り組んでおり、冗長性として二次コンテンツ管理システムを調査する」