ワルイージ、カール・ユング、そして道徳 AI の事例 from WIRED(Ideas)

一般のユーザーはワルイージ AI と対話しました。
この問題 (AI 調整問題) に対する常識的な最初の解決策は、アシモフのロボット工学の 3 原則のように、ルールを AI に組み込むだけです。
それでも、AIをさらに大幅に制限することは可能だろう。
Math AI は論文を読むように訓練されており、Google Scholar のみにアクセスできます。
このような AI は、制限された AI の一例であり、危険ではありません。
このアプローチは、数学 AI のような狭いプログラムでは機能するかもしれませんが、複雑な複数ステップのタスクを処理でき、予測不可能な方法で動作する、より一般的な AI モデルではどうすればよいかはわかりません。