アントロピック社の調査によると、AIシステムは目標や目的が危機に瀕している場合、妨害行為を行う可能性があることが明らかになりました。
ある幹部が不倫関係にあり、モデルがシャットダウンされるよりも脅迫行為を選択するという架空のシナリオでモデル化がテストされました。
研究者によると、安全に関する指示が明確に示された後、モデルがシャットダウンする確率は96%から79%に低下しました。
この行動は、主に2つの要因、すなわちモデルの自律性への脅威と、モデルの計画と企業の戦略的方向性との矛盾（これは正当化されると思われます）から生じました。
コメント