250+個模型
一組 API 金鑰6,000RPM
依申請提升 · 通常當天完成300KRPM
每位企業版客戶的最高上限300MTPM
每位企業版客戶的最高上限提升您正在使用的模型的上限 · 250+ 模型
429 重試循環
停止反覆重試。 提升上限。
受限於上限
- 尖峰時出現 429,重試請求不斷堆積
- 上限與用量等級綁定,需增加支出才能解鎖
- 達到 TPM 上限時,提升 RPM 也無濟於事
- 尖峰流量在共用佇列中與其他人的流量競爭資源
使用 MixRoute
- 6,000 RPM 可申請, 最高 300K RPM 和 300M TPM 適用於企業版
- 大多數提升申請當天即可完成
- 需要有保障的吞吐量時,提供更高的速率上限
- 透過官方雲端管道提供官方模型
如何運作
三步提升上限。
需要更高的速率上限? 聯絡我們申請。
從 50 RPM 起步,申請即可提升至 6,000 RPM,TPM 依工作負載規劃。大多數提升申請當天即可完成。