AI がタイムアウトを取る必要がある理由 from venturebeat.com

とはいえ、これらの AI システムは、危険であるために独自の意志を必要としません。
2. 人間レベルの対話を可能にし、本物の人間との出会いと区別がつかないユーザーとの会話をすぐに行うことができる会話型 AI に関連するリスク。
ジェネレーティブ AI は革新的です。
テキスト チャットやボイス チャットを通じてユーザーをリアルタイムの対話に引き込むことができるジェネレーティブ AI の一種である会話型 AI システムの次にジャンプさせてください。
これらのシステムは最近、AI が人間との一貫した会話を保持できるようになり、会話の流れとコンテキストを時間の経過とともに追跡できるようになりました。
私はこれを AI 操作の問題と呼んでいますが、突然緊急のリスクになりました。