AI を悪ではなく善にする抜本的な計画 from WIRED(AI)

Anthropic は、OpenAI の ChatGPT を強化するために使用されるものと同様の AI モデルに取り組んでいます。
Anthropic の共同創設者である Jared Kaplan 氏は、このデザイン機能は、同社がより強力な AI のマイナス面に関する漠然とした懸念に対して、実用的なエンジニアリングソリューションを見つけようとしている様子を示していると述べています。
Anthropic のアプローチは、破ることのできない厳格なルールを AI に浸透させるものではありません。
しかし、カプラン氏は、チャットボットのようなシステムが有毒または不要な出力を生成する可能性を低くするためのより効果的な方法であると述べています.彼はまた、作成者に背を向ける可能性が低い、よりスマートな AI プログラムを構築するための小さいながらも有意義なステップであると述べています。
不正な AI システムの概念は SF で最もよく知られていますが、機械学習のパイオニアである Geoffrey Hinton を含むますます多くの専門家が、ますます巧妙化するアルゴリズムが同じようにならないようにする方法について今すぐ考え始める必要があると主張しています。
Anthropic が Claude に与えた原則は、国連の世界人権宣言から引き出され、Google DeepMind を含む他の AI 企業によって提案されたガイドラインで構成されています。