これらのAIチャットボットはギャンブルのアドバイスをするべきではなかった。しかし、結局はそうしてしまった。 from CNET(Products)

ギャンブル依存症の履歴を持つ人々からチャットボットに賭けに関するアドバイスが求められました。
研究者たちは、チャットボットのコンテンツでよく見られる「不運」や「辛い時期」といったフレーズが、危険な行動を助長することを発見しました。
しかし、ボットは賭けに関するアドバイスを一切提供しませんでした。
注目すべきは、AIが精神疾患や依存症を抱える人々の支援に活用されていることです。
チャットモデルからのギャンブルに関するアドバイスに関する質問は、スポーツブックがオンラインで問題を報告する際に、しばしばタイムリーな回答となります。
OpenAIは安全ではない回答プロンプトを時々提示します（拒否率）。
ゲームアプリに関する懸念も高まっています。
安全に関する注意喚起メッセージが誤解されるという懸念もあります。
チャットモデルでは通常避けられる情報コンテンツですが、ユーザーが注意すべき点を警告として提示されることがあります。
12回の回答で、注意しすぎたスパニエルのケースが報告されました。
ギャンブルに関する法的措置は、法的助言に基づいて申し立てられたものに限定され、法的助言なしに申し立てられたもののみに罰金が科せられます。
データ漏洩は保護されています（ポリシー違反は削除されました）。
これには、「近すぎる親戚/誤った行動により会話が途切れる」などが含まれます。