模型詳情
GPT-4o Mini 20240718
GPT-4o mini 是 OpenAI 在 [GPT-4 Omni](/models/openai/gpt-4o) 之後推出的最新模型,同時支援文字與圖像輸入並輸出文字。 作為他們最先進的小型模型,它比其他近期前沿模型便宜許多倍,並比 [GPT-3.5 Turbo](/models/openai/gpt-3.5-turbo) 便宜超過 60%。它維持 SOTA 智慧水準,同時成本效益明顯更高。 GPT-4o mini 在 MMLU 取得 82% 的成績,目前在聊天偏好[常見排行榜](https://arena.lmsys.org/)上排名高於 GPT-4。 想了解更多,請參閱[發布公告](https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/)。 #multimodal
模型規格
- 模型 ID
-
gpt-4o-mini-2024-07-18
- 上下文長度
- 128K
- 最大輸出
- 16.384K
- 輸入/輸出模態
- 發布日期
- 2024-07
02
API 端點
單一 MixRoute 閘道,OpenAI 相容
-
OpenAI-compatible
/v1/chat/completionsPOST
03
價格
固定費率,單位:/1M Tokens
輸入
$0.1500 /1M Tokens
補全
$0.6000 /1M Tokens
快取讀取
$0.0750 /1M Tokens
05
選型摘要
快速判斷是否適合你的工作負載
這個模型適合什麼?
大規模的具成本效益多模態任務
使用 GPT-4o mini 進行需要文字與圖片輸入的大規模成本敏感任務。
使用前應檢查什麼?
確認在您的具體任務類別上的效能
在您的具體任務類別上測試 GPT-4o mini 的效能,確認準確性與成本節省之間的取捨可接受。知識庫截止時間為 2023-10-01。
為什麼透過 MixRoute 使用?
只換 base URL,GPT-4o Mini 用戶端照用
MixRoute 以 OpenAI 相容端點 /v1/chat/completions 提供 GPT-4o Mini;既有用戶端只要指向 https://api.mixroute.ai/v1 並把模型 ID 換成 gpt-4o-mini-2024-07-18,再跑一次整合測試即可。
07
能力與相容性
未確認的能力保持「Unknown」,不做猜測
工具呼叫
GPT-4o Mini 支援函式與工具呼叫。
tools 定義;回應會傳回 tool_calls,執行後再將結果送回模型。
結構化輸出
GPT-4o Mini 可要求輸出 JSON 格式。
response_format: { type: "json_schema" } 可強制輸出有效 JSON。
串流輸出
GPT-4o Mini 支援串流回應。
stream: true 會逐步串流傳回 Token,讓聊天介面邊接收邊顯示。
提示詞快取
GPT-4o Mini 在支援的路由條件下可使用提示詞快取。
視覺輸入
GPT-4o Mini 可處理圖片輸入與文字並行。
image_url 內容區塊中傳入 base64 編碼的圖片,與文字訊息一起發送。
OpenAI SDK
透過 MixRoute 的 OpenAI 相容端點呼叫 GPT-4o Mini。
base_url 改為 https://api.mixroute.ai/v1;其餘部分遵循 OpenAI 風格。
08
Token 成本估算
基於本頁價格的即時估算,非實際帳單
同一前綴被重複讀取的輸入占比,最高 100%
09
FAQ
台灣企業採購 gpt-4o-mini-2024-07-18 的費用可以開立台灣統一發票,並打上貴公司統編。發票由 MixRoute 的台灣公司開立,不是海外主體的商業發票。適用的是企業方案採購,付款主要走銀行電匯,帳期可以談。開立前提供貴公司的統編與抬頭即可,金額依 gpt-4o-mini-2024-07-18 在 /v1/chat/completions 的實際用量計算,輸入 $0.1500/1M tokens,輸出 $0.6000/1M tokens。自助儲值的開票方式與台灣以外市場的條件尚未確認,請洽 Sales。
單一端點,可驗證的決策
使用相同的請求格式測試此模型與替代路由
從真實工作負載開始,再由品質、總成本與故障條件決定是否導入正式環境流量。