Weights and Biases が迅速なエンジニアをサポートする LLMOps ツールをデビュー from venturebeat.com

生成型 AI と大規模言語モデル (LLM) の時代は、ユーザーのニーズをサポートするために、LLMOps として知られる新しいカテゴリのツールを生み出しています。
LLM ベースの操作では、通常、組織とユーザーは完全に新しいモデルを構築するわけではありません。
この新機能には、最適化された出力につながる一連の連鎖プロンプトを使用して、ユーザーが LLM ベースのアプリケーションを迅速に構築するのに役立つ機能が含まれています。
「多くのトレーニングを必要とせずに、誰もが機械学習モデルを実際のアプリケーションに使用できます」
OpenAI ベースの LLM の場合、W&B は、OpenAI Evals フレームワークを使用して有効性に関するプロンプトをスコアリングするための統合サポートを提供します。
「さまざまなモデルがどれだけうまく機能しているかを調べることができます。プロンプトを変更すると、モデルが改善されているか低下しているかを知ることができれば幸いです」と Biewald 氏は述べています。