
「Cowork」は、ユーザーのコンピュータフォルダにアクセスし、ファイルを変更したり、そこに含まれるデータを使って新しいプロジェクトを作成したりするAIチャットボットです。
ユーザーが「Cowork」へのアクセスを許可した場合、ボットはフォルダ内のファイルを編集したり、スプレッドシートを作成したりすることもできます。
しかし、Anthropicはプロンプトインジェクション攻撃の可能性について警告しています。
攻撃者は、領収書などの機密情報に関する認証情報を侵害することで、CoWorkを乗っ取ることができるのです。


コメント