模型详情
GPT-4 Turbo 1106
最新版 GPT-4 Turbo 模型具备视觉功能。视觉请求现在可以使用 JSON 模式和函数调用。 训练数据：截至 4 月 2023。
模型规格
- 模型 ID
-
gpt-4-1106-preview
- 上下文长度
- 128K
- 最大输出
- –
- 输入/输出模态
- 发布日期
- 2023-11
02
API 端点
单一 MixRoute 网关，OpenAI 兼容
-
OpenAI-compatible
/v1/chat/completionsPOST
03
价格
固定费率，单位：/1M Tokens
输入
$10.0000 /1M Tokens
补全
$20.0000 /1M Tokens
05
选型摘要
快速判断是否适合你的工作负载
这个模型适合什么？
文本生成模型；输入：文本；输出：文本
GPT-4 Turbo 是文本生成模型。规格上，context window 为 128,000 个 Token。
使用前应检查什么？
128,000 context，输出上限未公布
采用 GPT-4 Turbo 前，标准输入费率为 $10／100 万 Token；已声明支持工具调用、结构化输出、流式输出、OpenAI SDK 兼容；知识库截止时间为 2023-04；发布于 2023-11-06。建议先以具有代表性的流量试跑，确认质量与延迟。
为什么通过 MixRoute 使用？
通过兼容端点以模型 ID 调用
MixRoute 以 OpenAI 兼容端点 /v1/chat/completions 提供 gpt-4-1106-preview；既有客户端只需指向 https://api.mixroute.ai/v1 并把模型 ID 换成 gpt-4-1106-preview，再跑一次集成测试即可。
07
能力与兼容性
未确认的能力保持“Unknown”，不做猜测
工具调用
gpt-4-1106-preview 支持函数调用与工具调用。
tools 定义；响应会返回 tool_calls，执行后再把结果送回模型。
结构化输出
gpt-4-1106-preview 可以按需生成 JSON 格式的输出。
response_format: { type: "json_schema" } 可强制输出有效的 JSON。
流式输出
gpt-4-1106-preview 支持流式响应。
stream: true 会逐步流式返回 Token，聊天界面可以边接收边渲染。
OpenAI SDK
通过 MixRoute 的 OpenAI 兼容端点调用 gpt-4-1106-preview。
base_url 改为 https://api.mixroute.ai/v1；其余部分遵循 OpenAI 风格。
08
Token 成本估算
基于本页价格的实时估算，非实际账单
此模型没有缓存读取价格，不计算缓存费用
09
FAQ
gpt-4-1106-preview 支持即时缓存，因此重复的前缀仅对命中的部分按较低的缓存费率计费。请查看最新的定价页面，了解具体的折扣和缓存写入费用。
单一端点，可验证的决策
使用相同的请求格式测试此模型和备用路由
从真实工作负载开始，再由质量、总成本和故障条件决定是否接入生产流量。