ゲートウェイの考え方
ロリポップ！AIゲートウェイは、モデルの選択と利用条件をアプリケーションから分けて管理します。 アプリケーションは公開されたモデルIDとAPI形式だけを扱い、利用できるモデル、予算、レート制限、ガードレールはダッシュボードで設定します。
アプリケーションとゲートウェイの分担
- アプリケーション：入力、会話履歴、ツール、応答の利用方法を決める
- ロリポップ！AIゲートウェイ：APIキーを認証し、設定に従ってモデルを選び、利用制限と使用状況を管理する
この分担により、利用モデルや制限を変更するときに、アプリケーションへプロバイダーの認証情報や接続先を追加する必要がありません。
モデルは GET /v1/models が返す公開名で指定し、プロバイダー固有の接続先は指定しません。
設定を適用する単位
利用条件は、組織、プロジェクト、APIキーの順に絞り込まれます。 組織で許可されていないモデルを、プロジェクトのルールやAPIキーから追加することはできません。
- 組織：利用可能モデルと、組織全体のRPMおよびTPMを管理する
- プロジェクト：用途ごとに予算、RPM、TPM、メンバーを分ける
- ルール：複数のAPIキーへ共通のモデル設定、利用制限、ガードレールを適用する
- APIキー：アプリケーションごとの認証情報と利用条件を持つ
API互換性の範囲
同じAPIキーで、OpenAI互換APIとAnthropic互換APIを呼び出せます。 ただし、「互換API」は各社APIのすべてのフィールドを受け付けることを意味しません。 受け付けるフィールドと扱いはエンドポイントごとに異なるため、APIリファレンスに記載された範囲を利用してください。
モデルの違いを扱う
モデルを切り替えてもリクエストの形式は保てますが、生成結果、対応するパラメーター、コンテキスト長、料金はモデルごとに異なります。
特定モデルの性質に依存するアプリケーションではモデルIDを明示し、複数モデルを許容できる場合は自動選択やフォールバックを設定します。
実際に応答したモデルはレスポンスの model と X-AIGateway-Served-Model ヘッダーで確認できます。