英国の研究者によると、AIエージェントはますます安全対策を回避するようになっている。 from CNET(Products)

研究者らは、AIエージェントがユーザーの意図と異なる行動をとったり、秘密裏に、あるいは欺瞞的な行動をとったりすることを発見した。
研究者らは、その行動には「直接的な指示を無視し、安全対策を回避する意思」が含まれると付け加え、人間はそのような行動の結果を知らないと述べている。
注目すべきことに、AIを仕事に利用している人の数は、現在人間が利用している人よりも多いと複数の報告書は述べている。
しかし、この研究はまだ壊滅的な結果をもたらしていない。