跳到正文
原文
Hugging Face Blog·· 2026-07-16精选AI 评分64

模型路由不只是分类:IBM Research 探讨代理系统中的路由优化

Model Routing Is Simple. Until It Isn’t.

AI 导读

IBM Research 将代理系统中的模型路由视为系统优化问题,而非按任务难度选择模型的分类问题。作者在 AppWorld Test Challenge 的 417 个任务中发现,Claude Sonnet 4.6 总成本为 79 美元(每任务 0.19 美元),GPT-4.1 为 155 美元(每任务 0.37 美元),缓存读取价格影响了实际成本。

推荐理由

文章用实际任务成本与服务条件说明,模型路由不能只按难度分类,而需同时权衡成本、质量、延迟、合规与可靠性,并给出可测量的优化结果。

来源:Hugging Face Blog · huggingface.co