新しい AI 音声ツールは、有名人の音声クリップをディープフェイクするためにすでに悪用されています from engadget.com

数日前、音声 AI のスタートアップである ElevenLabs は、そのプラットフォームのベータ版を発表しました。
まあ、インターネットが後者を卑劣な目的で使い始めるのに数日しかかかりませんでした.同社はTwitterで、「音声複製の誤用事例が増加している」ことを明らかにしており、「追加の保護手段を実装する」ことで問題に対処する方法を考えていることを明らかにしました。
ElevenLabs は「誤用事例」の意味について詳しく説明していませんが、Motherboard は、有名人が何か疑わしいことを読んだり言ったりしているように聞こえる生成された音声を特徴とするクリップを含む 4chan の投稿を見つけました。
すべてのクリップが ElevenLab の技術を使用しているかどうかは完全には明らかではありませんが、4chan の幅広い音声ファイル コレクションの投稿には、スタートアップのプラットフォームへのリンクが含まれていました。