Skip to Content

モデルの自動選択

リクエストの model に auto を指定すると、候補のモデルを優先順位の順に試し、応答できたモデルの結果を返します。 使うモデルをアプリケーションに書かずにコンソールの設定で切り替えられ、1つのモデルが使えないときも、ほかのモデルで応答を返せます。

請求されるのは応答したモデルの利用額だけで、auto を使うことによる追加の料金はありません。

候補と優先順位を設定する

候補と優先順位は、APIキーごと、またはルールで設定します。

項目内容
リクエストするモデルauto のときに試すモデルです。選ばない場合は、APIキーで利用できるモデルすべてが候補になります
優先順位「並べた順」または「料金が安い順」です。「料金が安い順」では、入力と出力の単価の合計が低いモデルが先になります。「リクエストするモデル」を選ばない場合は「料金が安い順」になります
モデル名の指定を禁止する有効にすると、auto 以外を指定したリクエストには 403 が返ります

モデルが切り替わる条件

auto のリクエストは、候補を優先順位の順に並べ、先頭のモデルから送ります。 リクエストの内容によって選ばれるモデルが変わることはなく、次のモデルに切り替わるのは、以下のいずれかのときです。

  • モデルに接続できない、またはタイムアウトしたとき
  • プロバイダーが一時的なエラー(502、503、504 など)を返したとき
  • プロバイダーのレート制限を超えたとき

「フォールバックするモデル」を選んでいる場合は、そのほかのエラーが返ったときにも次のモデルを試します。

リクエストを送って、応答したモデルを確認する

model に auto を指定してリクエストを送ります。

Shell
curl -i "https://ai-gateway.lolipop.jp/v1/chat/completions" \ -H "Authorization: Bearer $AI_GATEWAY_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "auto", "messages": [ { "role": "user", "content": "こんにちは。" } ] }'

応答したモデルは、レスポンスの model と、次のヘッダーで確認できます。

HTTP
X-AIGateway-Requested-Model: auto X-AIGateway-Served-Model: claude-sonnet-4-6 X-AIGateway-Fallback-Count: 0
ヘッダー内容
X-AIGateway-Requested-Modelリクエストの model に指定した値
X-AIGateway-Served-Model応答したモデル
X-AIGateway-Fallback-Count最初の候補から切り替えた回数

制限事項

  • 候補になるのは、リクエストの種類(テキスト、画像、動画、型付き確率的判断)に対応したモデルだけです。対応したモデルが候補にない場合は、400(auto_resolution_failed)が返ります。
  • 動画生成では、最初の候補だけが使われます。
  • GET /v1/models が auto を返さない場合は、候補になるモデルがありません。ルールやAPIキーの「利用するモデル」と「リクエストするモデル」の設定を確認してください。

関連項目