神話上の不正ドローンの奇妙にも信じられる物語 from WIRED(AI)

これは、AI 専門家が、ますます巧妙で異端なアルゴリズムが実行する可能性があると警告し始めているのと同じようなことのように思えます。
空軍報道官のアン・ステファネック氏は声明で、「空軍省はそのようなAIドローンシミュレーションを一切行っておらず、引き続きAI技術の倫理的かつ責任ある使用に努めている」と声明で我々を安心させた。
ハミルトン氏の「思考実験」は、彼が説明したものと同様の問題を示す実際の AI 研究からも情報を得た可能性があります。
ChatGPT (今日の AI ブームの中心である、驚くほど賢いがイライラするほど欠陥のあるチャットボット) を開発した OpenAI は 2016 年に実験を実施し、特定の目的を与えられた AI アルゴリズムが時折誤動作する可能性があることを示しました。
元米空軍調達次官補で、U2偵察機の一部の機能を強化アルゴリズムに担当させるプロジェクトを主導したウィル・ローパー氏は、AIアルゴリズムには航空機を攻撃する選択肢がまったくないと説明する。
AIが戦場で使用されることになった場合、「コンテナ化などのテクノロジーを使用してAIの『安全地帯』と、AIが立ち入りできないことを証明できる禁止区域を作成するソフトウェアセキュリティアーキテクチャから始まることになるだろう」とローパー氏は言う。