突然のアラームで、Tech Doyens が ChatGPT の一時停止を要求 from WIRED(AI)

何百人もの著名な人工知能の専門家、技術起業家、科学者が署名した公開書簡は、OpenAI の言語モデル GPT-4 よりも強力な AI 技術の開発とテストを一時停止して、それがもたらす可能性のあるリスクを適切に研究できるようにすることを求めています。
「私たちはすべての AI ラボに対し、GPT-4 (現在訓練中の GPT-5 を含む) よりも強力な AI システムの訓練を少なくとも 6 か月間直ちに一時停止するよう呼びかけます」モントリオール大学の教授は、現代の AI のパイオニアと見なされ、歴史家のユヴァル ノア ハラリ、Skype の共同創設者であるジャーン タリン、Twitter の CEO であるイーロン マスクです。
署名者には、Microsoft や Google など、高度な言語モデルを構築している多数のテクノロジー企業の人々が含まれているようです。
OpenAI の人気チャットボットである ChatGPT を介して利用できる言語モデルは、多くのアカデミック テストで高いスコアを獲得し、AI システムが以前に示したよりも高度なインテリジェンスが必要であると一般に考えられているトリッキーな質問を正しく解決できます。
書簡の署名者が表明した懸念の一部は、OpenAI、Microsoft、および Google が、新しい AI モデルをできるだけ早く開発およびリリースするための利益主導の競争を開始したことです。
Google は GPT-4 を構築するために必要な AI の一部を開発し、以前は独自の強力な言語モデルを作成していましたが、倫理的な懸念から今年までそれらをリリースしないことを選択しました。