LLM の中身は何ですか? Ai2 OLMoTrace はソースを「トレース」します from venturebeat.com

Allen Institute for AI (Ai2) によるオープンソースの取り組みは、言語モデルの出力をトレーニング入力データに直接追跡することを目的としています。
このテクノロジーはモデルの学習ソースの直接的な証拠を提供し、ユーザーが意思決定を行う際の精度と信頼性について情報に基づいた判断を下せるように支援します。
「目的は、言語モデルがなぜそのような応答を生成するのかをユーザーが理解できるようにすることです」と、信頼構築に関する研究プロジェクトで最近このツールを使用した Ai2 研究者は述べました。
dulmoTrace\”[r]e[反応 [model_modeller ベースのインテリジェンス システム * トレーナーのトレーニングの結果、一部のモデルはしばしば不正確であることが判明しました…信頼スコアは過信レベルになる可能性があります)。
しかし、これにより、ユーザビリティ研究では信頼スコア (x) 機能的動作が示されている]。
も報告している。