ルール
ルール:プロジェクト内の複数のAPIキーへ共通の設定をまとめて適用する仕組みです。 選択中プロジェクトの「ルール」から作成します。
ルールに含められる項目
| 項目 | 内容 |
|---|---|
| 予算上限(円) | ルールを適用したAPIキーに共通の予算。リセット周期も設定する |
| RPM上限、TPM上限 | 1分間のリクエスト数とトークン数 |
| 利用するモデル | このルールで使えるモデル |
| 自動選択の戦略 | 「選択した順」または「料金が安い順」 |
| 自動選択の候補 | auto を指定したときに評価するモデル。選んだ順序が評価順になる |
| フォールバックモデル | 最初の候補を実行できないときに順番に試すモデル |
| 自動選択を必須にする | 個別のモデルIDの指定を禁止し、auto だけを使えるようにする |
| PIIをマスクする | ガードレール |
| プロンプトインジェクションを検出して拒否する | ガードレール |
APIキーとの関係
ルールが持つ項目はAPIキー側で上書きできません。 ルールに含めなかった項目だけを、APIキーごとに設定できます。
一覧では、それぞれのルールが何件のAPIキーに適用されているか確認できます。 適用中のAPIキーがあるルールは削除できません。 先にAPIキー側で別のルールへ変更するか、割り当てを外してください。
適用結果を確認する
ルールをAPIキーへ割り当てたあと、そのキーでモデル一覧を取得します。
利用するモデルや「自動選択を必須にする」の設定は、レスポンスの data に反映されます。
Shell
curl "$AI_GATEWAY_BASE_URL/v1/models" \
-H "Authorization: Bearer $AI_GATEWAY_API_KEY"予算、RPM、TPM、ガードレールは、テスト用のリクエストと使用状況で確認します。 既存のルールを変更すると、そのルールを割り当てているすべてのAPIキーに反映されます。