测一家
首页/故障案例/长文档问答,问中间的内容就答不出
CASE / 模型验证

长文档问答,问中间的内容就答不出

喂一份很长的文档,问开头和结尾的内容都能答对,问中间段落就说不记得。

症状模式可复现步骤证据优先

这个症状不能证明什么

先排除误判

这不一定是站点截断。长上下文模型本身就有'中间注意力衰减'的现象。

按这个顺序验证

4 STEPS
  1. 在 10%、22.5%、50%、75%、90% 五个位置各放一个随机编号的针,逐一提问。
  2. 看失败是集中在某个位置之后(截断),还是只有中间失败(注意力衰减)。
  3. 把同样的测试在官方端点跑一遍作对照。
  4. 记录每次请求的实际字符数和返回的 usage。

什么证据才算数

EVIDENCE

五个位置的命中/未命中结果、请求字符数、官方端点的对照组。

结论怎么写

CONCLUSION

某位置之后全失败 → 截断;只有中间失败 → 模型特性,不是站点问题。

接下来做什么

ACTION

截断就跟站点确认实际窗口;注意力衰减就把关键信息放在开头或结尾,或分段处理。

案例是症状模式,不是对任何具体站点的结论。写报告时请引用你记录到的请求 ID、时间戳和响应原文,不要引用本页。