ChatGPT のハッキングは始まったばかりです from WIRED(AI)

その結果、ジェイルブレイクの作成者はより創造的になりました。
今日までに、人々は DAN の約 12 の異なるバージョンを作成しました。
Albert 氏は、ChatGPT を強化する以前のバージョンのモデルよりも、GPT-4 の脱獄を作成するのが困難になったと述べています。
2 月に発表され、Vice の Motherboard によって報告されたある研究論文で、研究者は、攻撃者が Web ページに悪意のある命令を仕掛けることができることを示すことができました。
後で彼がシステムをテストしたときにそうしました。
しかし、テクノロジーの開発者は、より多くの人々がこれらのシステムにアクセスできるようになるにつれて、ジェイルブレイクや迅速なインジェクションがもたらすリスクを認識しています。