包囲下での SOC の防御: 敵対的な AI 攻撃との戦い from venturebeat.com

Gartner のレポートによると、AI セキュリティ チームは将来の攻撃に備える必要があります。
モデル反転およびリバース エンジニアリング攻撃: 攻撃者は、トレーニング データに特定のトリガーを埋め込むことでモデルをターゲットにし、モデル出力に入力されたときにモデルが誤った動作をするようにします。
このレポートはさらに、モデルの出力を操作するために偽のアイデンティティが使用されるリスクを強調しています。
今年は特により高度な攻撃が予想されます。