WhyLabs が大規模な言語モデルを安全かつ責任のあるものにするために LangKit を発表 from venturebeat.com

AI およびデータ アプリケーションの監視ツールを提供するシアトルに本拠を置く新興企業 WhyLabs は本日、企業の大規模言語モデル (LLM) の監視と保護を支援するオープンソース テクノロジである LangKit のリリースを発表しました。
LangKit を使用すると、ユーザーは、有害な言語、データ漏洩、幻覚、脱獄など、LLM のリスクや問題を検出して防止できます。
「LangKit は、LLM モデルを監視するために重要な種類のメトリクスの集大成です」と彼女は言いました。
ユーザーは、特定のユースケースに合わせて独自のモデルとメトリクスを使用して LangKit をカスタマイズおよび拡張することもできます。
一方、Symbl.AI は、実稼働環境で LLM を利用したアプリケーションを監視するために LangKit を使用している典型的な顧客です。
LangKit は WhyLabs の AI 可観測性プラットフォームに統合され、エンベディング、モデルのパフォーマンス、非構造化データ ドリフトなど、他のタイプの AI アプリケーションを監視するソリューションも提供します。