AI のリスクが高まる中、Anthropic は NIST への資金援助を呼びかける:「今年は野心的な年になる」 from venturebeat.com

AI イノベーションの速度と規模、およびそれに関連するリスクが増大するにつれて、AI 研究会社の Anthropic は、AI の測定と標準化の取り組みをサポートするために、国立標準技術研究所 (NIST) に 1,500 万ドルの資金提供を求めています。
米国商務省の機関である NIST は、AI システムの測定と、顔認識ベンダー テストや最近の AI リスク管理フレームワークなどの技術基準の開発に長年取り組んできました。
最近では他にも野心的な提案がありました — 人工知能のための「国際機関」の呼びかけ、AI の「規制体制」に関する立法提案、そしてもちろん AI 開発を一時的に「一時停止」するための公開書簡 — Anthropic のメモによると、 NIST への資金提供の呼びかけは、政策立案者が利用できる、より単純な「すぐに使える」アイデアです。
AIにおける「産業捕獲」のマイナス面
クラーク氏は全体として、「社会全体の巨大な会話」としてAIの重要性が高まっていることを認識したため、AI政策の仕事に就いたと語った。
「問題は、『AI システムに関して米国は中国とどの程度の差があるか』や『生成 AI テキスト システムの文脈における公平性とは何か』などです」と彼は言いました。