GPT-3.5 Turbo 16k

MixRoute 在台灣支援銀行電匯（TT）作為主要企業方案付款方式，可開立台灣統一發票並打上貴公司統編。企業方案採購可洽談彈性帳期，發票金額依 gpt-3.5-turbo-16k 的實際用量計算。目前自助儲值與信用卡支付尚未支援台灣本地金流，請聯繫 Sales 了解最新付款選項與適用地區。

台灣團隊可以透過 MixRoute 的相容 API 端點使用 gpt-3.5-turbo-16k。使用您現有的 OpenAI SDK，將 base URL 改為 MixRoute 端點，model 參數設為 gpt-3.5-turbo-16k，並使用您的 MixRoute API key 即可開始調用。具體接入步驟與費率請參考 MixRoute 開發者文件與模型頁面。

gpt-3.5-turbo-16k 是 GPT-3.5 Turbo 的變體，上下文長度為其四倍，單次請求約可處理 20 頁文字。

透過 OpenAI 相容的 chat completions 端點使用模型 ID gpt-3.5-turbo-16k，支援最多 16K tokens 的上下文。

GPT-3.5 Turbo 16k 目前的目錄資料沒有列出快取讀取價，計費中不含快取前綴的折扣。估算成本時請把重複的前綴視為一般輸入；設計快取節省前先向供應商確認。

把 GPT-3.5 Turbo 16k 的 max_tokens 設成任務實際需要的最長回覆，而不是 4,096 的上限。上限收緊可降低最壞情況的支出並縮短尾端延遲；只有確實需要長輸出的任務再放寬。

GPT-3.5 Turbo 16k 於 2023-08-28 發布，目前在目錄中的狀態為 stable。若要做長期整合，請先看模型頁是否有下線公告。

支援。GPT-3.5 Turbo 16k 提供工具呼叫與結構化輸出，可透過 tools 定義與 response_format 等參數使用。實際行為仍建議用自己的工具定義測過再上線。

目前的模型資料未公布 gpt-3.5-turbo-16k 的數值化速率上限。請先在 console 確認你所屬方案的額度，再以預期的併發量做一次短程壓測，確認實際上線後的可用上限。

GPT-3.5 Turbo 16k 的比較對象依你的用途而定。建議比較會影響帳單與使用者體驗的維度：在你自己的提示上的任務品質、預期併發下的延遲、context 與輸出上限，以及每完成一個任務的成本，而不是單純比每 token 單價。