Llama-4-Scout-17B-16E-Instruct

llama-4-scout-17b-16e-instructは、10,000,000トークンのコンテキストウィンドウ内で、リクエストごとに最大8,192個の出力トークンを返します。max_tokensパラメータを使用してレスポンスを制限し、単一の呼び出しが予算を超えないようにしてください。

llama-4-scout-17b-16e-instruct の max_tokens を、タスクが実際に必要とする最長の応答時間に設定してください。8,192 のトークン上限値に設定しないでください。上限値を低く抑えることで、最悪の場合のコストを削減し、テールレイテンシを短縮できます。明らかに長い出力が必要なタスクの場合にのみ、上限値を上げてください。

本番環境のトラフィックをllama-4-scout-17b-16e-instructに切り替える前に、トラフィックの代表的な部分でパイロットテストを実行し、出力品質、同時接続ピーク時のレイテンシ、リクエストあたりのコストを確認してください。エラーと再試行の動作を確認し、依存するリクエスト制限がプランと一致していることを確認してください。

現在のモデルレコードでは、Llama-4-Scout-17B-16E-Instructの数値レート制限は公開されていません。コンソールでプランのクォータを確認し、本番環境に移行する前に、想定される同時接続数で短い負荷テストを実行して、実効上限を確立してください。

llama-4-scout-17b-16e-instructはカタログ上でgpt-5.1、gpt-5.1-2025-11-13、glm-4-plusと並んで表示されます。請求額とユーザーエクスペリエンスに影響を与える要素、つまり、独自のプロンプトでのタスク品質、同時実行時のレイテンシ、コンテキストと出力の制限、トークン単位ではなく完了したタスク単位のコストについて比較してください。