AI コードの幻覚により「パッケージ混乱」攻撃のリスクが増大 from WIRED(AI)

調査によると、それらに含まれるパッケージの依存関係のうち 440,000 個は、存在しないことを意味する「幻覚」があったことが判明しました。
最も幻覚を起こしたのはオープンソース モデルで、21% が存在しないライブラリにリンクし、43% が 10 を超えるクエリを繰り返していたと研究者らは付け加え、これにより、下流の正規プログラムの汚染を目的としたマルウェア サプライ チェーン攻撃などの攻撃ベクトルにさらされやすくなったと付け加えました。
この攻撃では、正規プログラムに悪意のあるコードを挿入することでデータを盗み、バックドアを設置する可能性があります。