Chain-of-Experts (CoE): 効率と精度を向上させる低コストの LLM フレームワーク from venturebeat.com

Chain-of-experts (CoE): A lower-cost LLM framework that increases efficiency and accuracy - venturebeat.com

専門家が協力して中間結果を伝達できる新しいフレームワークが開発され、複雑な推論タスクに必要なメモリが削減されました。
研究者らは、同等のリソースを使用した場合、CoE モデルは、異なる専門家の組み合わせ (64 人の専門家) を使用した数学的ベンチマークや論理分析などの複雑なタスクのパフォーマンスと効率の点で、高密度 LLM および MoE システムよりも優れていることを発見しました。
また、共同開発アプローチにより「フリーランチ」の高速化が実現し、高度な AI 機能をより迅速に拡張したいと考えている企業にとって有益であることもわかりました。