コンピューター サイエンスの教授が解説する、Gen AI を使用する際に賢さを保つ 5 つの方法 from CNET(Products)

カーネギーメロン大学のシェリー・ウー氏は、大規模な言語モデルで訓練されたAIチャットボットは完全に間違っているにもかかわらず、自信を持って答えているように見えると述べた。
「モデルがとても自信があると言っているのを信じてはいけません」と彼女は付け加えた。
チャットボットベースの推論は危険であり、誤った信頼につながる可能性があると研究者らは付け加えた。
人間は、自分たちが思っている以上に、自分たちの人間らしさや意識を人工知能システムに依存する可能性が高いのです。