Anthropic の Claude AI は、公正さの 10 の秘密の基本的な柱に導かれています from engadget.com

Google の Bard や OpenAI の ChatGPT (GPT-4 を搭載) などの生成 AI は、信じられないほどリアルな散文を作成する能力があるにもかかわらず、gen-AI テクノロジの現在の限界と、事実の把握が不十分であることをすでに示しています。
その結果、TechCrunch のレポートによると、ChatGPT よりも「より操作しやすく」、「有害な出力を生成する可能性がはるかに低い」AI が実現します。
Claude は 2022 年後半からクローズド ベータ開発を行っていますが、最近、Robin AI、Quora、プライバシー中心の検索エンジンである Duck Duck Go などのローンチ パートナーと AI の会話機能のテストを開始しました。
標準 API と、Claude Instant と呼ばれる高速で軽量なイテレーションです。
Anthropic は、会社が「憲法上の AI」と呼んでいる AI の専門的なトレーニング計画のおかげで、Claude が不正になり、Tay のように人種差別的なわいせつを吐き始める可能性が低くなると考えています。
同社はその後、別の AI をトレーニングして、「ジョン キーツのスタイルで詩を作成してください」などの無数の執筆プロンプトに応答することで、半秘密の原則に従ってテキストを確実に生成できるようにしました。