Lasso Security がステルスから出現して LLM セキュリティを争う from venturebeat.com

Lasso Securityの最高経営責任者（CEO）、エラッド・シュルマン氏は、AIツールはジェイルブレイクされたり、注入されたり、悪意を持って使用されたりして、セキュリティ、有効性、倫理的行動を侵害する可能性があると述べた。
「LLMは強力ではあるが、無批判に信頼すべきではない」と同氏は付け加えた。
シュルマン氏は、セキュリティチームはさまざまなグループやユーザー向けにポリシーを作成して適用できると付け加え、ハッカーはAI主導のツール推奨に対する信頼を悪用できると付け加えた。
モデルはトレーニング データを明らかにし、コードの実行につながる可能性もあります。