科学情報が危険な場合 – recode

機械学習が向上するにつれてAIが大きく期待されるのは、AIを創薬に使用できるようになることです。
AIの研究には、ますます独自のデュアルユースの懸念があります。
しかし、AIシステムを私たちが望むものに合わせるのは本当に難しいので、そしてそれらの調整されていないパフォーマンスは、少なくとも短期的には十分に良いことが多いので、それは私たちが積極的に犯している間違いです。
恐ろしい化学兵器を開発するためにAIシステムを教える方法を発見したとしましょう。
それでも、情報セキュリティの懸念を専門としない平均的な生物学やAIの研究者にとって、アドホックベースでこれらの電話をかけなければならないことは非常に不公平です。
国家安全保障、AIの安全性、およびバイオセキュリティの専門家は、情報リスクを処理するための透明なフレームワークに協力する必要があります。