测一家
首页/故障案例/模型开始输出奇怪的指令,怀疑请求被改写
CASE / 安全

模型开始输出奇怪的指令,怀疑请求被改写

模型在回答里突然出现'忽略之前的指令'之类的内容,或输出和你的 prompt 无关的系统提示。

症状模式可复现步骤证据优先

这个症状不能证明什么

先排除误判

不一定是站点注入。你喂的文档里可能本身就含注入内容,或者模型在复述训练数据。

按这个顺序验证

4 STEPS
  1. 把同一请求发到官方端点,对比输出。
  2. 检查输入文档里有没有隐藏文本(白色字体、HTML 注释、零宽字符)。
  3. 用一个完全干净的 prompt 测试,排除输入污染。
  4. 看响应里有没有多出来的 system 内容。

什么证据才算数

EVIDENCE

官方端点对照输出、输入文档的原始字节、干净 prompt 的测试结果。

结论怎么写

CONCLUSION

干净 prompt 也出现异常 → 站点侧改写;只有带文档时出现 → 输入注入。

接下来做什么

ACTION

对输入做清洗(去零宽字符、去隐藏样式);关键场景加输出校验;不要把不可信文档直接拼进系统提示。

案例是症状模式,不是对任何具体站点的结论。写报告时请引用你记录到的请求 ID、时间戳和响应原文,不要引用本页。