GPT-4

OpenAI互換のチャット完了エンドポイントを介してモデルID gpt-4を使用してください。テキスト入力がサポートされています。

gpt-4 レート制限は、MixRoute のサブスクリプション プランによって異なります。コンソールでプランの詳細を確認し、1 分あたりのリクエスト数 (RPM) と 1 分あたりのトークン数 (TPM) の制限を確認してください。本番環境で使用する前に、小規模な負荷テストを実行して、実際の割り当て量を確認してください。

本番環境のトラフィックをgpt-4に切り替える前に、トラフィックの代表的な部分でパイロットテストを実行し、出力品質、同時接続ピーク時のレイテンシ、リクエストあたりのコストを確認してください。エラーと再試行の動作を確認し、依存するリクエスト制限がプランと一致していることを確認してください。

gpt-4はカタログステータスstableで登録されています。記録されているリリース日は2023-05-28です。長期的な統合を構築する前に、モデルページで非推奨に関する通知を確認してください。

gpt-4 のキャッシュヒットには、リクエスト間で同一のプロンプトプレフィックスが必要です。安定した命令と参照資料をプロンプトの先頭に配置し、バイト単位で同一に保ち、変更される部分をその後に記述してください。こうすることで、キャッシュされた読み取りは入力レートではなくキャッシュレートで課金されます。

gpt-4はカタログ上でgpt-4-0613、gpt-5.1-codex-mini、qwen3.6-35b-a3bと並んで表示されます。請求額とユーザーエクスペリエンスに影響を与える要素、つまり、独自のプロンプトでのタスク品質、同時実行時のレイテンシ、コンテキストと出力の制限、トークン単位ではなく完了したタスク単位のコストについて比較してください。

gpt-4 の max_tokens を、タスクが実際に必要とする最長の応答時間に設定してください。8,192 のトークン上限値に設定しないでください。上限値を低く抑えることで、最悪の場合のコストを削減し、テールレイテンシを短縮できます。明らかに長い出力が必要なタスクの場合にのみ、上限値を上げてください。