模型详情
GPT-4 Turbo 20240409
最新版 GPT-4 Turbo 模型具备视觉功能。视觉请求现在可以使用 JSON 模式和函数调用。 训练数据：截至 12 月 2023。
模型规格
- 模型 ID
-
gpt-4-turbo-2024-04-09
- 上下文长度
- 128K
- 最大输出
- 4.096K
- 输入/输出模态
- 发布日期
- 2024-04
02
API 端点
单一 MixRoute 网关，OpenAI 兼容
-
OpenAI-compatible
/v1/chat/completionsPOST
03
价格
固定费率，单位：/1M Tokens
输入
$10.0000 /1M Tokens
补全
$30.0000 /1M Tokens
05
选型摘要
快速判断是否适合你的工作负载
这个模型适合什么？
多模态模型；输入：文本、图像；输出：文本
GPT-4 Turbo 是多模态模型。规格上，context window 为 128,000 个 Token，单次最多输出 4,096 个 Token。
使用前应检查什么？
128,000 context，输出上限 4,096
采用 GPT-4 Turbo 前，标准输入费率为 $10.00／100 万 Token；已声明支持工具调用、结构化输出、流式输出、视觉输入、OpenAI SDK 兼容；知识库截止时间为 2023-12-01；发布于 2024-04-09。建议先以具有代表性的流量试跑，确认质量与延迟。
为什么通过 MixRoute 使用？
通过兼容端点以模型 ID 调用
MixRoute 以 OpenAI 兼容端点 /v1/chat/completions 提供 gpt-4-turbo-2024-04-09；既有客户端只需指向 https://api.mixroute.ai/v1 并把模型 ID 换成 gpt-4-turbo-2024-04-09，再跑一次集成测试即可。
07
能力与兼容性
未确认的能力保持“Unknown”，不做猜测
工具调用
gpt-4-turbo-2024-04-09 支持函数调用与工具调用。
tools 定义；响应会返回 tool_calls，执行后再把结果送回模型。
结构化输出
gpt-4-turbo-2024-04-09 可以按需生成 JSON 格式的输出。
response_format: { type: "json_schema" } 可强制输出有效的 JSON。
流式输出
gpt-4-turbo-2024-04-09 支持流式响应。
stream: true 会逐步流式返回 Token，聊天界面可以边接收边渲染。
视觉输入
gpt-4-turbo-2024-04-09 可以同时处理图像与文本输入。
image_url 内容块中传入 base64 编码的图片，与文本消息一起发送。
OpenAI SDK
通过 MixRoute 的 OpenAI 兼容端点调用 gpt-4-turbo-2024-04-09。
base_url 改为 https://api.mixroute.ai/v1；其余部分遵循 OpenAI 风格。
08
Token 成本估算
基于本页价格的实时估算，非实际账单
此模型没有缓存读取价格，不计算缓存费用
09
FAQ
GPT-4 Turbo 是 GPT-4 的下一代版本，具备视觉功能、JSON 模式和函数调用。其训练数据截至 2023. 年 12 月。
单一端点，可验证的决策
使用相同的请求格式测试此模型和备用路由
从真实工作负载开始，再由质量、总成本和故障条件决定是否接入生产流量。