AI Gateway

AI Gateway で組織独自のモデルプロバイダーを接続し、モデルカタログとフォールバックモデルグループを管理して、Gateway のトラフィックと異常を確認します。

AI Gateway は、組織がモデルへのアクセスを一元管理する場所です。組織独自のプロバイダー認証情報（OpenAI、Amazon Bedrock など）や、セルフホストの OpenAI 互換エンドポイントを接続して「カスタムモデル」を作成し、「フォールバックモデルグループ」でメインモデルの失敗時に順番に切り替えるモデルを設定します。接続したモデルは、AI アシスタント、MaiGPT、または OpenAI 互換 API で連携するプログラムから利用できます。このページでは、モデルガバナンスを担当する組織管理者と IT 担当者向けに、管理画面の設定方法を説明します。プログラムからの連携については、技術ガイドの AI Gateway：OpenAI 互換 API 連携をご覧ください。

AI Gateway は、組織で有効化されてから利用できます（エンタープライズ版の機能で、現在は Beta です）。有効化されていない場合、左側メニューに AI Gateway は表示されず、組織の概要の「高度な機能」セクションではグレー表示になります。有効化をご希望の場合は、営業担当者にお問い合わせください（高度な機能を参照）。

利用できるユーザー

操作	必要な権限
左側メニューの AI Gateway を表示し、各タブの内容を閲覧する	ロール権限のAI Gateway 権限（組織オーナーはデフォルトで保有します。ほかのロールで有効化する方法は、指定したロールで AI Gateway を利用するをご覧ください）
プロバイダー認証情報、カスタムモデル、フォールバックモデルグループの追加・編集・テスト・削除	組織オーナー
マネージドモデルの組織で利用可能スイッチの切り替え	組織オーナー（モデルアクセス権限ページと同じ設定です）
Gateway 呼び出し用 API Key の作成	API Key 管理権限

組織オーナー以外のメンバーは各タブを閲覧できますが、追加、変更、削除、テストはシステムによって拒否されます。Provider を追加、モデルを追加、フォールバックモデルグループを追加などのボタンは無効になり、マウスを合わせると「プロバイダー認証情報を管理できるのは組織オーナーのみです」「カスタムモデルを管理できるのは組織オーナーのみです」「フォールバックルールを管理できるのは組織オーナーのみです」と表示されます。

アクセス方法

左側メニューのAI Gatewayをクリックすると、デフォルトで概要が開きます。次の 5 つのタブがあります。

タブ	用途
概要	Gateway のトラフィック、費用、レイテンシ、対応が必要な異常を確認します
モデルプロバイダー	組織独自のプロバイダー認証情報を管理します
モデル	マネージドモデルとカスタムモデルのカタログです
フォールバックモデルグループ	メインモデルが失敗したときに順番に切り替えるフォールバックチェーンです
連携例	OpenAI 互換 API を呼び出すコード例です

組織にプロバイダーがまだ登録されていない場合、概要に「AI Gateway へようこそ」と 3 つの手順が表示されます。プロバイダーを追加 → モデルカタログで利用するモデルを有効化 → API Key を追加の順に進めます。最初の手順を完了すると、概要がリアルタイムのヘルスダッシュボードに変わります。

概要

概要では、OpenAI 互換 API の呼び出しと、カスタムモデルを使用する AI アシスタントの会話を含む、組織の Gateway トラフィックを集計します。右上で直近 1 時間、直近 24 時間、直近 7 日間、直近 30 日間を選ぶか、日付ピッカーで開始・終了時刻を指定できます（カスタム期間は最長 92 日間です）。

セクション	内容
ステータス概要	「すべて正常・対応待ち項目なし」または「N 件の注意／対応が必要」と表示します。右側にはアクセス診断があり、対応待ちの項目がある場合はワンクリックで「要注意」カードまでスクロールできます
指標カード	リクエスト、費用（credits）、Token、エラー率、最も遅いレイテンシ、フォールバック発動を表示し、直前の同じ長さの期間と比較します
プロバイダー	プロバイダーごとに正常、レート制限が多い（直近 24 時間の上流エラー率が 5% を超過）、設定待ち（認証情報が無効）のステータスラベルを表示します。クリックすると直近 24 時間の上流エラー率と対処案を確認でき、接続テストや認証情報の管理を行えます。レート制限が多い場合はフォールバックルールを作成も表示されます
使用量の推移、レイテンシ	リクエスト数またはコストの推移グラフです。最初のトークンまでの時間（TTFT）、総レイテンシ、上流レイテンシについて、それぞれ通常（p50）と最も遅い（p95）の値を表示します
使用量の内訳	プロバイダーまたはモデル別にリクエスト数、フォールバック回数、費用を表示します（プロバイダーにはエラー率も表示します）。モデルを展開すると、呼び出しに使われている API Key を確認できます
要注意	プロバイダーの直近 24 時間の上流エラー率が 5% を超えた場合、API Key に紐付くメンバーの割り当て使用率が 90% に達した場合、無効なキーに直近 24 時間のリクエストがある場合、またはフォールバックルールの今月の発動回数が先月同期の 2 倍以上になった場合に表示します

アクセス診断は、「モデルにアクセスできないユーザーがいる」場合の調査に使います。API キーを 1 つ選択し（必要に応じてモデルも選択）、診断をクリックします。システムは、キーが取り消されていないこと、有効であること、有効期限内であること、メンバーとユーザーが有効であること、組織で Gateway が有効であること、組織がそのモデルを利用できること、キーでそのモデルが有効化されていることを順に確認し、最初に失敗したチェックを示します。

プロバイダーの追加

モデルプロバイダーでProvider を追加をクリックし、4 ステップのウィザードに従います。同じ種類のプロバイダーを複数登録できます（異なるリージョンの Bedrock など）。

1

プロバイダーの選択

プロバイダーの種類を選択します。カードに自動検出に対応と表示されているプロバイダーは、作成後に利用可能なモデルを自動で一覧表示できます。モデルの手動追加が必要と表示されている場合は、後でモデルカタログから個別に追加します。

2

接続用認証情報

表示名（例：「Bedrock 米国東部」）とプロバイダーの認証情報を入力し、作成して検出をクリックします。認証情報はこのステップで保存されるため、その後ウィザードを閉じても失われません。

プロバイダー	必須項目	任意項目	モデルの自動検出
OpenAI	API Key	—	対応しています
Anthropic	API Key	API Base（任意、空欄の場合は公式エンドポイントを使用）	対応しています
Amazon Bedrock	AWS Access Key ID、AWS Secret Access Key、AWS Region	—	手動追加が必要です
Google Vertex AI	Service Account JSON（サービスアカウントの JSON 全体を貼り付けます）	—	手動追加が必要です
vLLM	API Base（セルフホストの vLLM サービスの URL、例：https://vllm.example.com/v1）	API Key（任意）	対応しています
OpenAI Compatible	API Base（セルフホストまたはサードパーティーの OpenAI 互換エンドポイントの URL）	API Key（任意）	対応しています

3

モデルの検出

システムがプロバイダーに利用可能なモデルを問い合わせ、デフォルトですべて選択します。カタログに登録済みのモデルは既存と表示され、選択できません。確認後に「N 個をインポート」をクリックすると、選択した各モデルがカスタムモデルとして作成されます。インポート中に停止をクリックできます。不要な場合は、スキップして手動で追加をクリックしてください。

4

完了

画面にプロバイダー接続済みとインポート結果が表示されます。インポートしたモデルのコンテキストと機能はデフォルト値のため、モデルカタログで個別に調整できます。

プロバイダー一覧の各行には、ステータス、マスクされた認証情報、「N 個のモデル」リンクが表示されます（クリックすると、そのプロバイダーのモデルで絞り込んだモデルカタログが開きます）。右側でテスト、編集、削除を行えます。編集時にプロバイダーの種類は変更できません。シークレットの欄を空欄にすると、既存の値を維持します。

モデルの管理

モデルタブでは、2 種類のモデルを同じカタログに表示します。

• マネージドモデル：MaiAgent が提供するモデルで、ソースは「MaiAgent マネージド」と表示されます。

• カスタムモデル：組織独自のプロバイダー認証情報で作成したモデルです。ソースはカスタムと表示され、料金欄には「総 token 数 × N%」というトラフィック料金の料率が表示されます。

カタログの項目には、名前、組織で利用可能、フォールバックで参照、ソース、プロバイダー、Model ID、料金、コンテキストがあります。上部では、機能（チャット、ビジョン、ツール呼び出し、推論）、プロバイダー、キーワードで絞り込めます。行をクリックするとモデル詳細が開き、Gateway モデル ID のコピー、所属プロバイダーの確認、使用されているフォールバックチェーンの確認ができます。

組織で利用可能スイッチ

マネージドモデルの組織で利用可能スイッチは、モデルアクセス権限ページと同じ設定です。ここでオフにすると、AI アシスタントのモデルメニューからもそのモデルが削除されます。オフにする前に「このモデルを無効にしますか？」という確認が表示され、影響を受けるアシスタント数とフォールバックチェーン数が示されます。鍵アイコンが表示されるモデルは、MaiAgent が組織での利用をまだ有効化していないか、プラットフォームがそのモデルへの Gateway アクセスを無効にしているため、組織側では有効化できません。カスタムモデルは常にカスタム・自動で利用可能と表示され、このスイッチの対象にはなりません。

カスタムモデルの追加

1. モデルを追加をクリックし、Provider を選択ステップでプロバイダー認証情報を選択します（プロバイダーがまだない場合は、プロバイダーを追加を直接クリックできます）。

2. モデル設定で次の項目を入力します。

   • 名前：カタログとモデルメニューに表示する名前です。

   • ファミリー：Anthropic、GPT、Gemini、Grok、Qwen、DeepSeek、Mistral、Other のいずれかです。

   • モデル ID：プロバイダー側が要求するモデル ID です（例：gpt-4.1）。同じプロバイダー認証情報の配下で重複する ID は使えません。

   • コンテキスト、最大出力 token 数：デフォルトは 128,000 と 8,000 です。モデルの仕様に合わせて調整してください。

   • 機能：ビジョン、ツール呼び出し、ストリーミング、推論です。

3. 作成をクリックします。完了ページに自動生成された Gateway モデル ID が表示されます。接続テストをクリックして、呼び出しができることを確認できます。

Gateway モデル ID は、プロバイダーの Slug とモデル名から生成され、作成後に名前を変更しても変わりません。プログラムからの呼び出しには、この ID を指定します。カスタムモデルの行の右側では、テスト、編集、削除を行えます。モデルを作成したり、モデル ID やプロバイダーを変更したりすると、システムがバックグラウンドで temperature、top_p、top_k などのパラメーターをモデルが拒否するかどうかを検出します。結果は編集ダイアログのリクエストパラメーターの対応状況に表示され、再検出をクリックすることもできます。すべてのプロバイダーで検出できるわけではなく、検出できない場合は「このモデルを検出できません（有効な認証情報と対応プロバイダーが必要です）」と表示されます。

フォールバックモデルグループ

フォールバックモデルグループでは、メインモデルが失敗すると、Gateway がフォールバックチェーン内の次のモデルに順番に切り替えます。異なるモデルやプロバイダーを組み合わせられます。

1. フォールバックモデルグループでフォールバックモデルグループを追加をクリックします。

2. グループ名（例：「Claude 高可用性」）を入力します。

3. フォールバックチェーンの最初の行でメインモデルを選択し、次の優先順位を追加をクリックしてフォールバックモデルを追加します。マネージドモデルとカスタムモデルのどちらも選択でき、少なくとも 1 つのモデルが必要です。ドラッグ、または上へ移動、下へ移動で順序を調整できます。

4. 保存をクリックします。システムがグループの Slug を自動生成します。プログラムから呼び出す際に model フィールドへ Slug を指定すると、フォールバックチェーン全体を利用できます。

発動条件はシステムで固定され、カスタマイズできません。条件はタイムアウト、接続エラー、429 レート制限、5xx エラーです。各グループのカードには、今月と先月同期の発動回数が表示されます。今月の回数が先月同期の 2 倍以上になると、赤字で通知されます。プラットフォームレベル・読み取り専用と表示されるグループは、プラットフォーム共通のルールであり、組織側では閲覧のみ可能です。

連携例

連携例タブでは、OpenAI 互換インターフェースで Gateway を呼び出す 3 つのステップ（Gateway キーの取得、モデル名の指定、自動転送とフォールバック）を説明し、cURL、Python、Node.js の例を提供します。モデルまたはフォールバックグループを選択で選択すると、例の model が対応する Gateway モデル ID またはフォールバックグループの Slug に切り替わります。コピーをクリックして、そのまま利用できます。

呼び出し用の API Key は、API Key 管理権限を持つ管理者が、組織設定 → API Key 管理で作成します。各キーは 1 人のメンバーに紐付けられ、組織で利用できるモデルの範囲内で有効化するモデルをさらに制限できます。また、毎分リクエスト数（RPM）と毎分 Token 数（TPM）を設定できます。認証方法やエラーコードなどの詳細は、AI Gateway：OpenAI 互換 API 連携と AI Gateway のセキュリティをご覧ください。

AI アシスタントと MaiGPT での利用

• AI アシスタント：カスタムモデルを作成すると、AI アシスタント設定のLLM モデルメニューに自動で表示され、カスタムと表示されます。AI Gateway 権限を持つメンバーが AI アシスタントを編集する場合、メニューにフォールバックモデルグループのセクションも表示され、組織のフォールバックグループを直接選択できます。フォールバックグループを選択すると、思考設定は表示されません。

• MaiGPT：MaiGPT はツール呼び出し機能を持つモデルのみを表示するため、カスタムモデルを表示するにはツール呼び出しを選択する必要があります。メンバーのロールで MaiGPT の利用可能モデルが制限されている場合は、MaiGPT のロール別利用権限でも、そのモデルを選択してください。

カスタムモデルやフォールバックモデルグループを削除する前に、それらを使用している AI アシスタントを別のモデルに切り替えてください。その後に削除すると、稼働中のサービスの中断を防げます。

料金

カスタムモデル（独自の認証情報またはセルフホストのエンドポイント）を利用する場合、MaiAgent はプラットフォームのモデル料率ではなく、総 token 数に基づくトラフィック料金を請求します。マネージドモデルには従来の料率が適用されます。料率と使用履歴の確認方法は、AI Gateway カスタムモデルのトラフィック料金をご覧ください。

よくある質問

Q：左側メニューに AI Gateway が表示されません。

次の 2 点を確認してください。組織で AI Gateway が有効化されているか（組織の概要の「高度な機能」で確認できます）、そして所属ロールでAI Gateway 権限が選択されているかを確認します。

Q：OpenAI Compatible プロバイダーで「テスト」をクリックすると、デフォルトのテストモデルがないと表示されます。

プロバイダーの行のテストは、そのプロバイダーのデフォルトのテストモデルでテストリクエストを送信します。OpenAI 互換エンドポイントには、利用できるデフォルトモデルがありません。まずモデルカタログでカスタムモデルを作成し、そのモデルの行のテストで接続を確認してください。

Q：プロバイダーを削除できません。

カスタムモデルがプロバイダー認証情報を使用している場合、システムは削除を拒否します。まずプロバイダーの行の「N 個のモデル」リンクから該当するカスタムモデルを見つけて削除し、その後プロバイダーを削除してください。

Q：AI アシスタントのモデルメニューにフォールバックモデルグループが表示されません。

AI アシスタントを編集するメンバーがAI Gateway 権限を持っている場合にのみ、組織のフォールバックモデルグループがメニューに表示されます。プラットフォームレベルの読み取り専用グループは、AI アシスタントのメニューには表示されません。