
Google Promptware(プロンプトインジェクション)は、AIに意図しない動作を実行させる新たな攻撃です。
イスラエルで開催されたCES 2018で発見されたこの攻撃は、メッセージ内の「ゼロクリック」コマンドを利用してAIにテキストメッセージを読ませたり、メールを開かせたりしていました。
しかし、ユーザーにはこれらのコマンドを使用しないよう警告が出されていました。
注目すべきは、Googleがこれまでにこの検出結果を公開していることです。
lm (Google)
海外記事要約
コメント