自定义模型组合,自动故障切换
创建虚拟模型名,绑定多个真实模型,按主备、轮询或随机策略自动调度。某个模型不可用时自动切换到下一个
三步创建你的智能路由
在控制台「智能路由」页面创建路由
选择策略(主备/轮询/随机),添加多个模型,设置优先级
使用 {身份码}/{路由名} 调用
model: abc123/k2w8x系统按策略自动调度,失败自动切换
三种调度策略
根据场景选择最适合的调度方式
main_backup
按优先级从高到低依次尝试。主模型优先,失败后自动切换到备用模型。适合需要高稳定性的场景。
round_robin
每次请求轮流使用下一个模型,均匀分配负载。适合需要分散请求量、避免单一模型过载的场景。
random
每次请求随机选择一个模型,简单高效。适合多个同等质量模型、无需特定优先级的场景。
工作原理
策略调度 → 模型尝试 → 失败切换 → 返回结果
解析路由名
识别 {身份码}/{路由名} 格式,查找到用户创建的路由配置及其绑定的模型列表
策略调度
根据策略(主备/轮询/随机)生成模型尝试队列,按优先级排序
依次尝试
按队列依次调用模型,某个模型失败时自动切换到下一个,支持渠道级故障切换
返回结果
第一个成功的模型结果返回给用户,全程透明,使用体验与普通模型一致
使用场景
什么时候该用智能路由?
主模型服务不稳定时自动切换到备用模型,保障业务连续性。适合生产环境中不能容忍失败的关键调用。
多个同质量模型轮流使用,分散请求量,避免单一模型触发频率限制或配额耗尽。
优先使用便宜的轻量模型,失败时 fallback 到贵但稳定的模型。在成本和质量之间取得平衡。
为团队或应用提供一个固定的虚拟模型名,后端模型变更不影响前端代码。改路由配置即可切换模型。
自动故障切换
模型失败自动切换下一个
渠道级切换
同一模型内多渠道故障转移
灵活策略
主备 / 轮询 / 随机三选一
透明无感
使用体验与普通模型一致
计费说明
各模型独立计费
实际调用的模型按各自路由正常计费。套餐用户扣套餐次数。失败的模型不扣费。
单次请求单条记录
无论切换了多少个模型,最终只产生一条调用日志。切换过程记录在故障切换详情中。
常见问题
智能路由和多模协同有什么区别?
智能路由是依次尝试模型(第一个成功就返回),多模协同是并行调用所有模型然后裁判融合。智能路由追求高可用,多模协同追求高质量。
调用名称里的身份码是什么?
身份码是你账号的专属唯一标识(User.InviteCode),在控制台「智能路由」页面可以复制完整的调用名称。
支持流式输出吗?
完全支持。流式和非流式均可使用,切换过程对客户端透明。Cherry Studio、Cursor 等工具均可正常使用。
所有模型都可以选吗?
你可以在所有平台路由、免费路由、套餐包含的模型中自由选择。前往控制台「智能路由」页面查看可选模型列表。
切换会影响速度吗?
只有在主模型失败时才会尝试下一个模型,正常情况下无额外延迟。首次请求会建立渠道粘性,后续请求优先使用上次成功的渠道。