GPT-4o 20240806

gpt-4o-2024-08-06 在目录中与 gpt-4o、gpt-4o-2024-05-13、gpt-4.1-nano 属于同一梯队。建议比较会影响账单与用户体验的维度：在你自己提示上的任务质量、预期并发下的延迟、context 与输出上限，以及每完成一个任务的成本，而不是单纯比较每 token 单价。

对于标准输入，在 gpt-4o-2024-08-06 上启用提示缓存后，缓存的输入数据会存储在 $1.25／100 万 Token 而不是 $2.50／100 万 Token。这种节省仅适用于缓存的前缀部分；请求的其余部分仍按正常方式计费。

对 gpt-4o-2024-08-06 的缓存命中要求所有请求的提示符前缀必须相同。请将稳定的指令和参考资料放在提示符的开头，保持字节一致，并将可变部分放在后面。这样，缓存读取操作将按缓存速率计费，而不是按输入速率计费。

GPT-4o 按使用量计费，记录中未公布任何免费额度。当前公布的费率为：输入每 1M 个 Token $2.5000，输出每 1M 个 Token $10.0000。试用额度或促销配额与您的帐户绑定，而非与模型绑定，因此在规划免费额度之前，请务必查看控制台。

gpt-4o-2024-08-06 单次请求最多输出 16,384 个 token，context window 为 128,000。用 max_tokens 设上限，避免单次调用超出预算。

将 gpt-4o-2024-08-06 的 max_tokens 设置为任务实际需要的最长响应长度，而不是 16,384 的 Token 上限。严格控制上限可以降低最坏情况下的开销并缩短尾延迟。仅当任务明显需要更长的输出时才提高此值。