跳至内容

模型详情

GPT-3.5 Turbo 1106

由 OpenAI 提供
已下架 按量付费

较早的 GPT-3.5 Turbo 模型,改进了指令遵循、JSON 模式、可复现输出、并行函数调用等功能。训练数据:截至 9 月 2021。

模型规格

模型 ID
gpt-3.5-turbo-1106
上下文长度
16.384K
最大输出
16.384K
输入/输出模态
发布日期
2023-11

02

API 端点

单一 MixRoute 网关,OpenAI 兼容

  • OpenAI-compatible /v1/chat/completions POST

03

价格

固定费率,单位:/1M Tokens

价格更新日期

输入

$1.0000 /1M Tokens

补全

$2.0000 /1M Tokens

05

选型摘要

快速判断是否适合你的工作负载

这个模型适合什么?

文本生成

GPT-3.5 Turbo 1106 适合一般文本生成。支持输入文本,输出文本。能力详见下方的能力区块。先拿你自己工作里的一个提示跑一次,再决定采用。

使用前应检查什么?

16,384 context、输出上限 16,384

GPT-3.5 Turbo 1106 单次请求最多接受 16,384 Token 的 context,并输出最多 16,384 Token。请确认你最长的提示与预期答案都落在这两个上限内,再估算正式流量。

为什么通过 MixRoute 使用?

只换 base URL,GPT-3.5 Turbo 1106 客户端照用

沿用既有的 OpenAI 客户端,只换 base URL 即可。MixRoute 支持通过 OpenAI 兼容端点调用 GPT-3.5 Turbo 1106;把客户端指向 https://api.mixroute.ai/v1 并使用模型 ID gpt-3.5-turbo-1106,即可复用现有调用。

07

能力与兼容性

未确认的能力保持“Unknown”,不做猜测

可用:

工具调用

gpt-3.5-turbo-1106 支持函数调用与工具调用。

示例 发送 tools 定义;响应会返回 tool_calls,执行后再把结果送回模型。
可用:

结构化输出

gpt-3.5-turbo-1106 可以按需生成 JSON 格式的输出。

示例 response_format: { type: "json_schema" } 可强制输出有效的 JSON。
可用:

流式输出

gpt-3.5-turbo-1106 支持流式响应。

示例 stream: true 会逐步流式返回 Token,聊天界面可以边接收边渲染。
可用:

OpenAI SDK

通过 MixRoute 的 OpenAI 兼容端点调用 gpt-3.5-turbo-1106。

示例 将 base_url 改为 https://api.mixroute.ai/v1;其余部分遵循 OpenAI 风格。

08

Token 成本估算

基于本页价格的实时估算,非实际账单

此模型没有缓存读取价格,不计算缓存费用

09

FAQ

通过兼容 OpenAI 的聊天补全端点使用模型 ID gpt-3.5-turbo-1106。它支持 JSON 模式和函数调用。

单一端点,可验证的决策

使用相同的请求格式测试此模型和备用路由

从真实工作负载开始,再由质量、总成本和故障条件决定是否接入生产流量。