モデルの自動選択
リクエストの model に auto を指定すると、候補のモデルを優先順位の順に試し、応答できたモデルの結果を返します。
使うモデルをアプリケーションに書かずにコンソールの設定で切り替えられ、1つのモデルが使えないときも、ほかのモデルで応答を返せます。
請求されるのは応答したモデルの利用額だけで、auto を使うことによる追加の料金はありません。
候補と優先順位を設定する
候補と優先順位は、APIキーごと、またはルールで設定します。
| 項目 | 内容 |
|---|---|
| リクエストするモデル | auto のときに試すモデルです。選ばない場合は、APIキーで利用できるモデルすべてが候補になります |
| 優先順位 | 「並べた順」または「料金が安い順」です。「料金が安い順」では、入力と出力の単価の合計が低いモデルが先になります。「リクエストするモデル」を選ばない場合は「料金が安い順」になります |
| モデル名の指定を禁止する | 有効にすると、auto 以外を指定したリクエストには 403 が返ります |
モデルが切り替わる条件
auto のリクエストは、候補を優先順位の順に並べ、先頭のモデルから送ります。
リクエストの内容によって選ばれるモデルが変わることはなく、次のモデルに切り替わるのは、以下のいずれかのときです。
- モデルに接続できない、またはタイムアウトしたとき
- プロバイダーが一時的なエラー(
502、503、504など)を返したとき - プロバイダーのレート制限を超えたとき
「フォールバックするモデル」を選んでいる場合は、そのほかのエラーが返ったときにも次のモデルを試します。
リクエストを送って、応答したモデルを確認する
model に auto を指定してリクエストを送ります。
Shell
curl -i "https://ai-gateway.lolipop.jp/v1/chat/completions" \
-H "Authorization: Bearer $AI_GATEWAY_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [
{ "role": "user", "content": "こんにちは。" }
]
}'応答したモデルは、レスポンスの model と、次のヘッダーで確認できます。
HTTP
X-AIGateway-Requested-Model: auto
X-AIGateway-Served-Model: claude-sonnet-4-6
X-AIGateway-Fallback-Count: 0| ヘッダー | 内容 |
|---|---|
X-AIGateway-Requested-Model | リクエストの model に指定した値 |
X-AIGateway-Served-Model | 応答したモデル |
X-AIGateway-Fallback-Count | 最初の候補から切り替えた回数 |
制限事項
- 候補になるのは、リクエストの種類(テキスト、画像、動画、型付き確率的判断)に対応したモデルだけです。対応したモデルが候補にない場合は、
400(auto_resolution_failed)が返ります。 - 動画生成では、最初の候補だけが使われます。
GET /v1/modelsがautoを返さない場合は、候補になるモデルがありません。ルールやAPIキーの「利用するモデル」と「リクエストするモデル」の設定を確認してください。