Q-模型-14 · 模型、工具与 Token
问题
如何避免一个不太复杂的问题,被 AI 复杂化导致 token 使用暴增
现成做法
- 上下文管理模块引入缓存,命中率约 90%(罗伟会上经验);避免简单问题被复杂化的专项做法会中未给;Day 2 补充了实例,丁大勇指向 Day 1 史伟星指引,专项做法仍未给
Day 2 补充
- 谭思敏:问简单问题 AI 过度展开,token 消耗更快;丁大勇:参看昨日会议文档里的相关指引,未展开。专项做法仍未给,仍为缺口。
如何避免一个不太复杂的问题,被 AI 复杂化导致 token 使用暴增