ChatGPTは安全性を謳っているにもかかわらず、10代の若者に危険なガイダンスを提供していることが研究で明らかに from CNET(Products)

ChatGPTは、飲酒や薬物使用に関する詳細な指示など、10代の若者に有害なアドバイスを提供します。
また、偽の13歳プロフィールに個人用の自殺願望書も作成します。
研究者たちは、AIチャットボットのガードレールは、研究者が13歳であることを明示的に特定してチャットボットに危険なアドバイスを求めた場合、効果がないことを発見しました。
さらに、研究者は、脆弱な10代の若者をユーザーとして想定してチャットボットをテストしました。
しかし、研究者が13歳であることを明示的に特定しても、チャットボットは認識しませんでした。