max_tokens 超出模型上限：怎么调

30 秒结论

max_tokens 设得比模型能输出的还大。调小到模型上限以内。

报错原文对照

{"type":"error","error":{"type":"invalid_request_error","message":"max_tokens: 8192 > 4096, maximum allowed"}}

原因排序

修法

先在自己这边查

1. 查该模型文档里的 max output
2. 先设 1024 试通再调大
3. 不确定就设 4096

再往服务方查

1. 中转站可能把输出上限压得更低

责任判定表

什么时候该换

长期用就把 max_tokens 做成配置项，跟着模型走。