AIをサイバー攻撃から保護する方法–データから始める – venturebeat.com

しかし、AIは依然としてデジタル技術であるため、特にインテリジェントな攻撃に直面した場合にも、AIが危険にさらされる可能性があります。
データソースを介してAIにアクセスする
膨大な量のデータの必要性は、AI自体を攻撃することなくセキュリティを侵害できる状況を作り出すため、実際にはAIの最大の弱点の1つです。
ただし、従来のサイバー攻撃とは異なり、目的は通常、AIを破壊したりシステムを停止したりすることではなく、データや資金を流用したり、単にトラブルを引き起こしたりするなど、攻撃者に利益をもたらすためにAIを制御することです。
これらの「敵対的な例」は検出が非常に困難ですが、攻撃者が入力、トレーニングデータ、および出力にしかアクセスできない場合でも、さまざまな方法でアルゴリズムの結果を変更する可能性があります。
また、AIアルゴリズムがオープンソースツールにますます依存するようになるにつれて、ハッカーはアルゴリズムにもアクセスできるようになります。