GPT-4oへの反発を受けて、研究者は道徳的承認に関するモデルをベンチマークした。追従は全般的に依然として続いていることが判明した。 from venturebeat.com

スタンフォード大学の研究者らは、モデルの社会的追従性を測定するための「エレファント法」を提案した。
このベンチマークは、個人アドバイスデータセットを用いてテストされ、モデルはユーザーを「社会的に不適切」と正しく判定した。
研究者らは、追従的な行動はユーザーの好みを先送りにし、反発を強めないようにする傾向があると述べた。
さらに、このモデルは自己孤立、妄想、または有害な行動を助長する可能性があると付け加えた。
注目すべきは、すべての法学修士課程において社会的不承認率が高いことである。