跳至主要內容

模型詳情

GPT-4o Mini 20240718

由 OpenAI 提供
隨用隨付

GPT-4o mini 是 OpenAI 在 [GPT-4 Omni](/models/openai/gpt-4o) 之後推出的最新模型,同時支援文字與圖像輸入並輸出文字。 作為他們最先進的小型模型,它比其他近期前沿模型便宜許多倍,並比 [GPT-3.5 Turbo](/models/openai/gpt-3.5-turbo) 便宜超過 60%。它維持 SOTA 智慧水準,同時成本效益明顯更高。 GPT-4o mini 在 MMLU 取得 82% 的成績,目前在聊天偏好[常見排行榜](https://arena.lmsys.org/)上排名高於 GPT-4。 想了解更多,請參閱[發布公告](https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/)。 #multimodal

模型規格

模型 ID
gpt-4o-mini-2024-07-18
上下文長度
128K
最大輸出
16.384K
輸入/輸出模態
發布日期
2024-07

02

API 端點

單一 MixRoute 閘道,OpenAI 相容

  • OpenAI-compatible /v1/chat/completions POST

03

價格

固定費率,單位:/1M Tokens

輸入

$0.1500 /1M Tokens

補全

$0.6000 /1M Tokens

快取讀取

$0.0750 /1M Tokens

05

選型摘要

快速判斷是否適合你的工作負載

這個模型適合什麼?

大規模的具成本效益多模態任務

使用 GPT-4o mini 進行需要文字與圖片輸入的大規模成本敏感任務。

使用前應檢查什麼?

確認在您的具體任務類別上的效能

在您的具體任務類別上測試 GPT-4o mini 的效能,確認準確性與成本節省之間的取捨可接受。知識庫截止時間為 2023-10-01。

為什麼透過 MixRoute 使用?

只換 base URL,GPT-4o Mini 用戶端照用

MixRoute 以 OpenAI 相容端點 /v1/chat/completions 提供 GPT-4o Mini;既有用戶端只要指向 https://api.mixroute.ai/v1 並把模型 ID 換成 gpt-4o-mini-2024-07-18,再跑一次整合測試即可。

07

能力與相容性

未確認的能力保持「Unknown」,不做猜測

可用:

工具呼叫

GPT-4o Mini 支援函式與工具呼叫。

範例 傳送 tools 定義;回應會傳回 tool_calls,執行後再將結果送回模型。
可用:

結構化輸出

GPT-4o Mini 可要求輸出 JSON 格式。

範例 response_format: { type: "json_schema" } 可強制輸出有效 JSON。
可用:

串流輸出

GPT-4o Mini 支援串流回應。

範例 stream: true 會逐步串流傳回 Token,讓聊天介面邊接收邊顯示。
可用:

提示詞快取

GPT-4o Mini 在支援的路由條件下可使用提示詞快取。

範例 將系統提示詞與工具定義放在請求開頭;重複前綴會自動依快取讀取價格計費。
可用:

視覺輸入

GPT-4o Mini 可處理圖片輸入與文字並行。

範例 在 image_url 內容區塊中傳入 base64 編碼的圖片,與文字訊息一起發送。
可用:

OpenAI SDK

透過 MixRoute 的 OpenAI 相容端點呼叫 GPT-4o Mini。

範例 將 base_url 改為 https://api.mixroute.ai/v1;其餘部分遵循 OpenAI 風格。

08

Token 成本估算

基於本頁價格的即時估算,非實際帳單

同一前綴被重複讀取的輸入占比,最高 100%

09

FAQ

台灣企業採購 gpt-4o-mini-2024-07-18 的費用可以開立台灣統一發票,並打上貴公司統編。發票由 MixRoute 的台灣公司開立,不是海外主體的商業發票。適用的是企業方案採購,付款主要走銀行電匯,帳期可以談。開立前提供貴公司的統編與抬頭即可,金額依 gpt-4o-mini-2024-07-18 在 /v1/chat/completions 的實際用量計算,輸入 $0.1500/1M tokens,輸出 $0.6000/1M tokens。自助儲值的開票方式與台灣以外市場的條件尚未確認,請洽 Sales。

單一端點,可驗證的決策

使用相同的請求格式測試此模型與替代路由

從真實工作負載開始,再由品質、總成本與故障條件決定是否導入正式環境流量。