功能 · 源自讨论 #12657 · 更新于 2026-11-14 23:44
长会话每轮重建请求体首字节延迟3.9s
每轮把整个surface历史重新序列化为Messages body,即使prompt缓存全命中,10.9MiB请求体仍耗时
社区暂未给出明确方案
长会话定期新建会话或压缩历史,减小请求体体积
原始讨论:#12657 ↗(内容整理自社区讨论,仅供参考)
同类问题:
← 返回问题库 · 查看全部热门讨论