whisper-1

リクエストには正確なモデルID `whisper-1`を使用してください。ルーティングテスト間で結果を比較する場合は、IDを変更しないでください。

モデルレコードには、モデルID whisper-1を使用してPOST /v1/chat/completions経由でOpenAI互換アクセスがリストされています。

実際のワークロードで、同様の機能と価格帯のモデルとwhisper-1を比較してください。レイテンシ、出力品質、命令追従性、タスクあたりのコストを評価します。独自のプロンプトを使用して並行テストを実行してください。最適なモデルは、ベンチマークスコアだけでなく、特定のユースケースによって異なります。

whisper-1はカタログステータスstableで登録されています。記録されているリリース日は2022-09-21です。長期的な統合を構築する前に、モデルページで非推奨に関する通知を確認してください。

本番トラフィックを移行する前に、`whisper-1`を使用して代表的な品質、遅延、およびコストのテストを実行します。

現在のWhisperリストにはキャッシュ読み取りレートが公開されていないため、キャッシュされたプレフィックスの課金は料金に含まれていません。ワークロードのサイズを決定する際は、繰り返されるプレフィックスを新しい入力として扱い、キャッシュ節約を設計する前にプロバイダに確認してください。

はい。whisper-1はOpenAI互換エンドポイント経由でアクセスできるため、既存のOpenAI SDKクライアントは、ベースURLをMixRouteに設定し、モデルパラメータをwhisper-1に設定することで動作します。現在のリクエストおよびレスポンス処理はそのまま維持してください。