AI カスタマー サービス チャットボットが会社のポリシーを作り上げ、大混乱を引き起こした from WIRED(AI)

Reddit のユーザーは、マシンを切り替えるとセッションが即座に無効になり、複数のデバイスを使用するプログラマーのルーチンが中断されてしまうことに気づきました。
ユーザーはボットが人間であるとは思わず、人工知能モデル (AI) であると考えました。
これは、AI による作話がビジネスに損害を与えた最新の例です。
注目すべき点：エア・カナダは、2024年2月に自社のチャットボットに「幻覚ポリシー」を順守するよう命じられた。