Reddit · r/SaaS· Adi__4518·· 12 天前精选AI 评分41
RouterPlus 联创反驳 LLM 路由无用论：改为离线按工作负载选路
What would it take to make LLM routing not suck?
AI 导读
RouterPlus 联创回应此前有人关停 LLM 路由器的四点理由（提示词隐藏复杂度、缓存比路由更省钱、路由破坏一致性、行为不稳定有代价），认为这些问题源于实时从提示词猜测的路由方式。
推荐理由
作者针对 LLM 路由的常见质疑提出离线按工作负载决策的替代方案，并给出对比数据，便于读者评估该技术路线。
来源：Reddit · r/SaaS · reddit.com