私、チャットボット：会話型AIにおける意識の認識 from venturebeat.com

テストは、どの回答者が人間であるかを事前に知らずに、人間の質問者が回答者の身元を区別できないマシンによって合格します。
人間の参加者との会話交換におけるチャットボットの成功、および達成される人間の模倣のレベルは、アルゴリズムの開発に使用されるトレーニングデータと、複数の会話を通じて得られる強化学習に依存します。
皮肉なことに、これはLaMDAのトレーニングに使用されるトレーニングデータのコーパスと、潜在的な人間の質問と考えられるマシンの応答との関連性によるものです。
さまざまな有用なAIシステムの基盤である複雑な人工ニューラルネットワークは、人間の能力を超えた機能を計算することができます。
これは「ブラックボックス」問題と呼ばれるようになり、人間のユーザーまたはAI開発者は、AIシステムがなぜそのように動作するのかを判断できません。
AIシステムがどのようにトレーニングされているかについて十分な精査と理解がなく、AIシステムが提供された入力データから出力を生成する理由についての十分な知識がないと、専門家のユーザーでさえ、マシンが応答する理由を確信できない可能性があります。