For the complete documentation index, see llms.txt. This page is also available as Markdown.

デプロイアーキテクチャ

MaiAgent は拡張性を備えた生成 AI プラットフォームであり、多様なアプリケーションシナリオに対応します。さまざまなビジネス要件やリソース構成方式に適応するため、本プラットフォームは主に 2 つのデプロイモードを提供しています。一体型デプロイ分散型デプロイ です。

本章では、この 2 つのアーキテクチャの違い、適用シーン、それぞれのメリット・デメリットを説明するとともに、実際のデプロイ参考例を紹介します。

一体型デプロイ

アーキテクチャ説明

一体型デプロイモードでは、MaiAgent のすべてのコアコンポーネント(例:メインサービス、タスクスケジューリングサービス、データストレージ、データベース、フロントエンドサービスなど)が同一のサーバー上にインストールされ、稼働します。特徴は集中管理であり、デプロイが容易なため、迅速なリリースやテスト環境に適しています。

MaiAgent プラットフォームは GPU がなくても稼働でき、一般的な CPU 環境でもスムーズにデプロイ・実行できます。ただし、GPU リソースを備えたマシン上であれば、プラットフォームをモデルと同一環境にデプロイし、ハードウェアアクセラレーション性能を十分に活用することも可能です。以下に、よく利用される 2 つのアーキテクチャ図を参考として示します。

アーキテクチャ図

  1. GPU を搭載したサーバーへのデプロイ:

MaiAgent プラットフォームとモデルサービスを同一マシンに併設します。プラットフォームは内部 API の形でリクエストの調整とトラフィック制御を担い、モデルは GPU を利用して高効率な推論能力を提供します。プラットフォームとモデルサービスを同じ場所に配置する場合、プラットフォームのみを稼働させる一般サーバーを別途購入する必要がなく、全体のハードウェアコストを抑えられます。

  1. GPU を搭載しないサーバーへのデプロイ:

MaiAgent を GPU を搭載しないサーバーにデプロイする場合でも、モデルサービスは依然として必要となるため、API を介して GPU サーバーまたはクラウド API 推論サービスと連携する必要があります。プラットフォームとモデルサービスを分離した場合、独立してスケールでき、必要に応じて柔軟に演算リソースを増減できるため、アーキテクチャの柔軟性と保守性が向上します。

分散型デプロイ

アーキテクチャ説明

分散型デプロイモードでは、MaiAgent の各コアモジュールが独立したサービスに分割され、複数のサーバーに分散配置されます。各モジュールは必要に応じて水平スケーリングが可能であり、高可用性と大規模処理能力を実現します。

  • クラウドプラットフォーム(Cloud PaaS)環境 パブリッククラウドまたはプライベートクラウド環境では、Kubernetes、AWS ECS/EKS、GCP Cloud Run、Azure App Service などのプラットフォーム・アズ・ア・サービス(PaaS)の機能を直接活用できます。これらのサービスはコンテナオーケストレーション、ロードバランシング、オートスケーリング(auto-scaling)、監視機構を提供し、分散モジュールの迅速なデプロイとリソースの動的な調整を可能にすることで、インフラ運用の負担を軽減します。

  • オンプレミス(On-Premise VM)環境 オンプレミス VM の状況でも、仮想マシンやベアメタルサーバー上にコンテナプラットフォームやアプリケーションサービスフレームワークを構築することで、クラウドと同様の分散管理・拡張能力を実現できます。クラスタリソース、監視、冗長化機構は自前で計画する必要がありますが、同様に高可用性と柔軟なスケーリングを達成できます。

アーキテクチャ図

デプロイモード比較表

特性
一体型デプロイ
分散型デプロイ

アーキテクチャ設計

すべてのコンポーネントを単一のサーバー/コンテナに集約

各コンポーネントを独立サービスに分割し、複数ノードに分散

インフラコスト

低い。サーバー 1 台で対応可能

高い。複数のサーバーまたはクラウドリソースが必要

デプロイコスト

低い

高い。デプロイが難しく、DevOps チームが必要

保守コスト

低い。集中管理

高い。サーバー横断・サービス横断での保守と監視が必要

拡張性

なし。単一マシンのリソースに制約される

あり。ボトルネックとなるモジュールを個別に増強可能

高可用性

なし。単一障害点によりシステム全体が停止

あり。単一サービスの障害がシステム全体に影響しない

適用シーン

PoC、開発テスト、小規模アプリケーション

本番リリース、大規模、複数部門

Last updated

Was this helpful?