GLM-4-0520

現在のモデルレコードでは、GLM-4-0520の数値レート制限は公開されていません。コンソールでプランのクォータを確認し、本番環境に移行する前に、想定される同時接続数で短い負荷テストを実行して、実効上限を確立してください。

glm-4-0520 のキャッシュヒットには、リクエスト間で同一のプロンプトプレフィックスが必要です。安定した命令と参照資料をプロンプトの先頭に配置し、バイト単位で同一に保ち、変更される部分をその後に記述してください。こうすることで、キャッシュされた読み取りは入力レートではなくキャッシュレートで課金されます。

glm-4-0520の記録結果：arena_text 57.8。ベンチマーク順位はあくまで大まかな目安です。タスクの形状やプロンプトのスタイルによって順位が変動するため、確定する前に候補モデルに対して独自のプロンプトを実行してください。

はい。glm-4-0520はOpenAI互換エンドポイント経由でアクセスできるため、既存のOpenAI SDKクライアントは、ベースURLをMixRouteに設定し、モデルパラメータをglm-4-0520に設定することで動作します。現在のリクエストおよびレスポンス処理はそのまま維持してください。

本番環境のトラフィックをglm-4-0520に切り替える前に、トラフィックの代表的な部分でパイロットテストを実行し、出力品質、同時接続ピーク時のレイテンシ、リクエストあたりのコストを確認してください。エラーと再試行の動作を確認し、依存するリクエスト制限がプランと一致していることを確認してください。