GPT-5 nano

gpt-5-nano のキャッシュヒットには、リクエスト間で同一のプロンプトプレフィックスが必要です。安定した命令と参照資料をプロンプトの先頭に配置し、バイト単位で同一に保ち、変更される部分をその後に記述してください。こうすることで、キャッシュされた読み取りは入力レートではなくキャッシュレートで課金されます。

はい。gpt-5-nanoはOpenAI互換エンドポイント経由でアクセスできるため、既存のOpenAI SDKクライアントは、ベースURLをMixRouteに設定し、モデルパラメータをgpt-5-nanoに設定することで動作します。現在のリクエストおよびレスポンス処理はそのまま維持してください。

本番環境のトラフィックをgpt-5-nanoに切り替える前に、トラフィックの代表的な部分でパイロットテストを実行し、出力品質、同時接続ピーク時のレイテンシ、リクエストあたりのコストを確認してください。エラーと再試行の動作を確認し、依存するリクエスト制限がプランと一致していることを確認してください。

gpt-5-nano のプロンプトキャッシュでは、標準入力の場合、$0.05／100万トークン ではなく $0.005／100万トークン でキャッシュされた入力が課金されます。この節約はキャッシュされたプレフィックスのみに適用され、リクエストの残りの部分は通常どおり課金されます。

gpt-5-nano の max_tokens を、タスクが実際に必要とする最長の応答時間に設定してください。128,000 のトークン上限値に設定しないでください。上限値を低く抑えることで、最悪の場合のコストを削減し、テールレイテンシを短縮できます。明らかに長い出力が必要なタスクの場合にのみ、上限値を上げてください。

gpt-5-nano レート制限は、MixRoute のサブスクリプション プランによって異なります。コンソールでプランの詳細を確認し、1 分あたりのリクエスト数 (RPM) と 1 分あたりのトークン数 (TPM) の制限を確認してください。本番環境で使用する前に、小規模な負荷テストを実行して、実際の割り当て量を確認してください。