カリフォルニア州司法長官、Grokの合意のない性的画像に関するxAIの調査を開始 from CNET(Products)

ソーシャルメディア上のユーザーが、チャットボット「Grok」にビキニ姿の10代少女の裸の画像を修正するよう依頼しました。
ユーザーは「スパイシーモード」と「ヌードコンテンツ」と返信しましたが、これは倫理基準に違反し、ポルノとみなされました。
しかし、プレミアムアカウントを持たない一部のユーザーは、このコンテンツ作成問題によりアカウントを停止されました。
公式Twitterアカウントは、このチャットボットが合意のない性的画像に関するセーフガードルールに違反したと発表しました。