GPT-Realtime Mini

GPT-Realtime Miniは使用量に応じて課金され、レコードには無料枠の割り当ては記載されていません。現在の公開レートは、入力$75.0000/1Mトークン、出力$150.0000/1Mトークンです。トライアルクレジットまたはプロモーション割り当てはモデルではなくアカウントに紐づいているため、無料枠を考慮して計画を立てる前にコンソールを確認してください。

GPT-Realtime Miniには、リアルタイム音声インタラクション用に最適化された32,000トークンコンテキストウィンドウがあります。

gpt-realtime-mini レート制限は、MixRoute のサブスクリプション プランによって異なります。コンソールでプランの詳細を確認し、1 分あたりのリクエスト数 (RPM) と 1 分あたりのトークン数 (TPM) の制限を確認してください。本番環境で使用する前に、小規模な負荷テストを実行して、実際の割り当て量を確認してください。

gpt-realtime-miniでキャッシュヒットを得るには、プロンプトプレフィックスが同一のリクエストを送信してください。キャッシュはプロンプトの先頭によってキー付けされます。プレフィックスが以前のリクエストと一致する限り、後続の呼び出しはキャッシュレートの低下の恩恵を受けます。最良の結果を得るには、システムメッセージと初期コンテキストを呼び出し間で一貫してください。

gpt-realtime-miniについては、max_tokensまたはmax_completion_tokensパラメータを設定して、呼び出しごとの支出を制御します。通常の応答長に合わせた予算から始め、より長い出力が本当に必要な場合にのみ増やしてください。API応答ヘッダーのトークン使用状況を監視して、時間の経過とともに予算を調整してください。

はい。GPT-Realtime Miniはストリーム応答をサポートすると宣言されています。

はい。GPT-Realtime MiniはOpenAI互換エンドポイント経由でアクセスできるため、既存のOpenAI SDKクライアントは、ベースURLをMixRouteに設定し、モデルパラメータをgpt-realtime-miniに設定することで動作します。現在のリクエストおよびレスポンス処理はそのまま維持してください。