イレブンラボは、AIツールを使ってバイデンの音声をディープフェイクしたアカウントを禁止したと伝えられている from engadget.com

AIスタートアップのイレブンラボズは、選挙を妨害する目的で使用されたジョー・バイデン米大統領の音声ディープフェイクを作成したユーザーを禁止した。
この音声は、有名人が何か問題のあることを読んだり言ったりしているように聞こえる音声クリップを作成するために使用されました。
セキュリティ企業ピンドロップは、自社のツールを使って音声を消去していると述べた。
「有権者抑圧や選挙関係者への攻撃に関して何ができるかというと、それは氷山の一角にすぎない」と教授は語った。