模型详情
GPT-3.5 Turbo 1106
较早的 GPT-3.5 Turbo 模型,改进了指令遵循、JSON 模式、可复现输出、并行函数调用等功能。训练数据:截至 9 月 2021。
模型规格
- 模型 ID
-
gpt-3.5-turbo-1106
- 上下文长度
- 16.384K
- 最大输出
- 16.384K
- 输入/输出模态
- 发布日期
- 2023-11
02
API 端点
单一 MixRoute 网关,OpenAI 兼容
-
OpenAI-compatible
/v1/chat/completionsPOST
03
价格
固定费率,单位:/1M Tokens
价格更新日期
输入
$1.0000 /1M Tokens
补全
$2.0000 /1M Tokens
05
选型摘要
快速判断是否适合你的工作负载
这个模型适合什么?
文本生成
GPT-3.5 Turbo 1106 适合一般文本生成。支持输入文本,输出文本。能力详见下方的能力区块。先拿你自己工作里的一个提示跑一次,再决定采用。
使用前应检查什么?
16,384 context、输出上限 16,384
GPT-3.5 Turbo 1106 单次请求最多接受 16,384 Token 的 context,并输出最多 16,384 Token。请确认你最长的提示与预期答案都落在这两个上限内,再估算正式流量。
为什么通过 MixRoute 使用?
只换 base URL,GPT-3.5 Turbo 1106 客户端照用
沿用既有的 OpenAI 客户端,只换 base URL 即可。MixRoute 支持通过 OpenAI 兼容端点调用 GPT-3.5 Turbo 1106;把客户端指向 https://api.mixroute.ai/v1 并使用模型 ID gpt-3.5-turbo-1106,即可复用现有调用。
07
能力与兼容性
未确认的能力保持“Unknown”,不做猜测
工具调用
gpt-3.5-turbo-1106 支持函数调用与工具调用。
tools 定义;响应会返回 tool_calls,执行后再把结果送回模型。
结构化输出
gpt-3.5-turbo-1106 可以按需生成 JSON 格式的输出。
response_format: { type: "json_schema" } 可强制输出有效的 JSON。
流式输出
gpt-3.5-turbo-1106 支持流式响应。
stream: true 会逐步流式返回 Token,聊天界面可以边接收边渲染。
OpenAI SDK
通过 MixRoute 的 OpenAI 兼容端点调用 gpt-3.5-turbo-1106。
base_url 改为 https://api.mixroute.ai/v1;其余部分遵循 OpenAI 风格。
08
Token 成本估算
基于本页价格的实时估算,非实际账单
此模型没有缓存读取价格,不计算缓存费用
09
FAQ
通过兼容 OpenAI 的聊天补全端点使用模型 ID gpt-3.5-turbo-1106。它支持 JSON 模式和函数调用。
更多 OpenAI 模型
所有 OpenAI 模型单一端点,可验证的决策
使用相同的请求格式测试此模型和备用路由
从真实工作负载开始,再由质量、总成本和故障条件决定是否接入生产流量。