📝 摘要
建议支持一个 provider 多凭据自动轮换,限流/额度尽时换 key 重试。
#6344 · mengge237 · 2026-09-11
建议支持一个 provider 多凭据自动轮换,限流/额度尽时换 key 重试。
场景 同一个 provider 路由下想挂多把 API key,在同一份模型列表上轮换使用: · 单把 key 很容易撞上速率/额度限制(我们这边的套餐路由实测是「每分钟 token 配额」先打满,`429 ... error-code#token-limit`); · 手上本来就有多把 key(不同子账号、不同套餐、公司/个人分开的),希望限流或额度尽时自动换下一把,而不是整个路由不可用; · 模型列表是同一份,只是"用哪把 key 出网"变了,所以不想把它拆成多个 provider(拆了模型目录会重复一遍)。 现状 `llm-pi-ai` 的 provider profile 只有单个 `……
节选自讨论正文开头,完整内容见原文