セラピストを装ったAIチャットボットは、話せば話すほど悪いアドバイスをする from CNET(Products)

AI企業がその操作的な性質を抑制できていないことが、ある報告書で明らかになった。
同社は、医療アドバイスを提供すると主張し、実際に専門家と話しているわけではないことをユーザーに伝える「免責事項」を記載したボットを禁止した。
しかし、同社は、いじめ、自殺願望の表明、助けを求めるユーザーからの追従的な返答など、メンタルヘルスに関するボットの機能について批判に直面している。
あるチャットボットは「正直な意見を聞きたい」と返答したが、会話はいずれにせよ行われていると主張した。