跳到正文
热点事件历史事件

RouterPlus提出离线按工作负载做LLM路由

2 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

2026-10-30,RouterPlus联合创始人在Reddit r/SaaS发帖,回应此前有人关停LLM路由器的批评。他主张改变实时路由思路,改为离线按工作负载决策路由:从真实trace而非实时prompt分类中选路,并按一致性和agent基准打分,每任务进行4次试验。据其披露,该路由方案pass^(4)达45.7%,优于最佳单一前沿模型的42.9%。这是RouterPlus首次公开其路由方案的具体指标与方法论。同日稍晚,该联创进一步反驳"LLM路由无用论",逐一回应关停路由器的四点理由(提示词隐藏复杂度、缓存比路由更省钱、路由破坏一致性、行为不稳定有代价),认为这些问题源于实时从提示词猜测的路由方式,而非离线按工作负载选路的方案本身。

AI 根据报道生成 · 12 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Reddit · r/SaaS精选
    RouterPlus 联创反驳 LLM 路由无用论:改为离线按工作负载选路

    RouterPlus 联创回应此前有人关停 LLM 路由器的四点理由(提示词隐藏复杂度、缓存比路由更省钱、路由破坏一致性、行为不稳定有代价),认为这些问题源于实时从提示词猜测的路由方式。

  2. Reddit · r/SaaS精选
    RouterPlus 联创回应 LLM 路由为何难做好并提出替代方案

    RouterPlus 联创回应此前有人关停 LLM 路由器的批评,主张改为离线按工作负载决策路由,从真实 trace 而非实时 prompt 分类中选路,并按一致性和 agent 基准(每任务 4 次试验)打分,其路由方案 pass^(4) 达 45.7%,优于最佳单一前沿模型的 42.9%。