ジェネレーティブ AI の危険を回避する from venturebeat.com

ジェネレーティブ AI は人工知能の一種で、トレーニング データセットが与えられると、それに基づいて画像、音声、チャットボットの場合はテキストなどの新しいデータを生成できます。
ただし、ジェネレーティブ AI がすべての状況や業界に対応できるわけではありません。
AI が生成するアウトプットの危険性
モデルがデータから学習した関係と内部表現を理解できないため、またはモデルにとって最も重要なデータの特徴を確認できないため、モデルが特定の予測を行っている理由を理解できません。
AI 技術が向上するにつれて、自信を持って AI チャットボットが正しいと思われる回答を生成し、違いがわからない世界に入ることができると考えられます。
ジェネレーティブ AI モデルのトレーニング方法に焦点を当てるのではなく、ホワイトボックスや説明可能な ML などのモデルを使用できます。