ファイアウォールで AI を「保護」する時が来ましたか?アーサーAIはそう思う from venturebeat.com

現在、AI データのリスクから保護するための技術を構築しているそのような組織の 1 つが、ニューヨーク市に本拠を置く Arthur AI です。
Arthur AI は、本質的に AI データのファイアウォールである Arthur Shield の本日のローンチにより、AI の可観測性をさらに一歩進めています。
Arthur Shield を使用すると、組織は大規模言語モデル (LLM) の前にファイアウォールを配置して、出入りするデータの潜在的なリスクやポリシー違反をチェックできます。
組織には AI ガードレールまたは AI ファイアウォールが必要ですか
対照的に、Arthur AI が Arthur Shield との差別化を目指しているのは、組織が実際の攻撃を防ぐのに役立つように設計されたツールを具体的に提供することだと彼は言いました。
これは、Arthur Shield が取っているのと同じ基本的なアプローチですが、プロンプトが LLM に入り、データが出てきます。