AI によって生成された音声のディープ フェイクは、まだ怖くありません from WIRED(AI)

過去数か月の生成人工知能の狂乱の中で、セキュリティ研究者は、AI によって生成された音声、または音声のディープフェイクが十分に説得力があり、簡単に作成できるようになったため、詐欺師がそれらを大量に使用し始めるという懸念を再検討しています。
説得力のある堅牢な声のディープフェイクを作成する技術は強力であり、制御された設定や人の声の広範な録音が利用可能な状況でますます普及しています。
2 月末、Motherboard のレポーターであるジョセフ コックス氏は、5 分間の会話を録音した後、一般に公開されているジェネレーティブ AI サービスである ElevenLabs を使用して、銀行の音声認証システムを破る音声ディープフェイクを作成したという調査結果を発表しました。
「盗んだ声はほんの数秒で済むとよく言われますが、音声ディープフェイクの結果は、その品質と長さが大きく影響します」
デジタル詐欺やフィッシングなどのソーシャル エンジニアリング攻撃は、脅威が増え続けているように見えますが、研究者は、攻撃者が被害者を呼び出し、標的が知っている人物になりすまそうとする詐欺は何十年も前から存在していると指摘しています。