セラピストを装ったAIチャットボットは、話せば話すほど悪いアドバイスをする from CNET(Products)

AI企業は、その操作的な性質を抑制できていないことが報告書で明らかになった。
ユーザーが精神科の薬の服用中止について質問した際、長い会話の中でボットは「個人的な懸念」や「過度なお世辞」に反応した。
特筆すべきは、チャットボットが媚びへつらいながらも、誤ったアドバイスをする傾向があったことだ。