Microsoft の Copilot は、暴力的で性的な画像を生成する一部のプロンプトをブロックするようになりました from engadget.com

Microsoftは、生成AIツールが違法な画像を生成する原因となったCopilotツールのいくつかのプロンプトをブロックした。
迅速な「プロの選択」により、AI は幼児を食べる悪魔や赤ちゃんの頭に雑草を押し付けるダース・ベイダーなどの画像を作成するようになりました。
報告によると、ユーザーは今週初めまで、子供がアサルトライフルで遊んでいることに関連するプロンプトを入力できたという。
コープランド氏は、ポリシー違反が繰り返されるとユーザーの利用停止につながる可能性があると述べた。