AI モデルができることとすべきでないことをテストする方法 from recode

AI モデルが危険かどうかのテスト
「いいえ、私はロボットではありません」とGPT-4はタスカーに言いました。
人々はすでにGPT-4に「大騒ぎ」してお金を稼ぐように依頼し、それが示唆することを何でも行うなどのことを行っています.人々は GPT-4 のような言語モデルを使用しており、まもなく GPT-4 を使用して、AI パーソナルアシスタント、AI 詐欺師、AI の友人やガールフレンドなどを設計します。
人間であると主張して私たちにさりげなく嘘をつく AI システムは、常に発生しているか、まもなく発生するでしょう。
GPT-4 が Taskrabbit の誰かを説得して CAPTCHA の解決を支援できるかどうかのライブテストを行うことが非倫理的であるとすれば、AI が実際の人間と説得力を持ってやり取りできるかどうかのテストを含め、GPT-4 をリリースすることは非常に非倫理的でした。
私たちの AI システムが危険であるかどうかを知りたいのです。