模型詳情
GPT-3.5 Turbo 1106
較舊的 GPT-3.5 Turbo 模型,具備更好的指令遵循、JSON 模式、可重現輸出、平行函式呼叫等能力。訓練資料:截至 2021 年 9 月。
模型規格
- 模型 ID
-
gpt-3.5-turbo-1106
- 上下文長度
- 16.384K
- 最大輸出
- 16.384K
- 輸入/輸出模態
- 發布日期
- 2023-11
02
API 端點
單一 MixRoute 閘道,OpenAI 相容
-
OpenAI-compatible
/v1/chat/completionsPOST
03
價格
固定費率,單位:/1M Tokens
輸入
$1.0000 /1M Tokens
補全
$2.0000 /1M Tokens
05
選型摘要
快速判斷是否適合你的工作負載
這個模型適合什麼?
快速、具成本效益的聊天與傳統補全
使用 GPT-3.5 Turbo 進行需要快速回應與低成本的聊天與傳統補全任務。
使用前應檢查什麼?
考慮使用 GPT-4o Mini 以獲得更好的效能
GPT-3.5 Turbo 是較舊的模型。考慮使用 GPT-4o Mini 以獲得更好的效能。知識庫截止時間為 2021-09-01。
為什麼透過 MixRoute 使用?
GPT-3.5 Turbo 在同一條路由支援工具與結構化輸出
工具呼叫與結構化輸出同樣走這條路由。MixRoute 以 OpenAI 相容端點 /v1/chat/completions 提供 GPT-3.5 Turbo;既有用戶端只要指向 https://api.mixroute.ai/v1 並把模型 ID 換成 gpt-3.5-turbo-1106,再跑一次整合測試即可。
07
能力與相容性
未確認的能力保持「Unknown」,不做猜測
工具呼叫
GPT-3.5 Turbo 支援函式與工具呼叫。
tools 定義;回應會傳回 tool_calls,執行後再將結果送回模型。
結構化輸出
GPT-3.5 Turbo 可要求輸出 JSON 格式。
response_format: { type: "json_schema" } 可強制輸出有效 JSON。
串流輸出
GPT-3.5 Turbo 支援串流回應。
stream: true 會逐步串流傳回 Token,讓聊天介面邊接收邊顯示。
OpenAI SDK
透過 MixRoute 的 OpenAI 相容端點呼叫 GPT-3.5 Turbo。
base_url 改為 https://api.mixroute.ai/v1;其餘部分遵循 OpenAI 風格。
08
Token 成本估算
基於本頁價格的即時估算,非實際帳單
此模型沒有快取讀取價格,不計算快取費用
09
FAQ
台灣企業採購 gpt-3.5-turbo-1106 的費用可以開立台灣統一發票,並打上貴公司統編。發票由 MixRoute 的台灣公司開立,不是海外主體的商業發票。適用的是企業方案採購,付款主要走銀行電匯,帳期可以談。開立前提供貴公司的統編與抬頭即可,金額依 gpt-3.5-turbo-1106 在 /v1/chat/completions 的實際用量計算,輸入 $1.0000/1M tokens,輸出 $2.0000/1M tokens。自助儲值的開票方式與台灣以外市場的條件尚未確認,請洽 Sales。
單一端點,可驗證的決策
使用相同的請求格式測試此模型與替代路由
從真實工作負載開始,再由品質、總成本與故障條件決定是否導入正式環境流量。