概要
MaiAgent プラットフォームは SaaS サービスの提供に加え、プラットフォームを自社構築する方式(プライベートクラウド、オンプレミス)にも対応しています。MaiAgent プラットフォーム本体に必要なのは一般的なコンピューティングリソースのみであり、GPU サービスは不要です。MaiAgent が使用するモデルサービス(LLM, Embedding Model, Reranker Model)には演算能力が必要であり、クラウド API 推論サービスまたはオンプレミスに自社構築した GPU を利用できます。\
ハイブリッドクラウドアーキテクチャを採用することもできます。MaiAgent はオンプレミス(プライベートクラウド、オンプレミス)に配置し、モデルサービス(LLM, Embedding Model, Reranker Model)はクラウドに配置する構成です。MaiAgent は、すべてのクラウドサービスプロバイダー(CSP)が提供する LLM, Embedding model, Reranker model に対応しています。将来、データセキュリティ上の理由やオンプレミスのコスト低下によりオンプレミスの演算リソースを利用したくなった場合も、すぐに切り替えられます。
MaiAgent プラットフォーム概要
MaiAgent は、システムのバックエンドからユーザーのフロントエンドまで、包括的なサービスを提供する完全な生成 AI プラットフォームです。拡張可能なマイクロサービスアーキテクチャを採用し、主要なクラウド環境(AWS, GCP, Azure, Oracle)とオンプレミスの自社構築環境(Docker、K8s)に対応しているため、企業のニーズに応じて柔軟にデプロイできます。
プラットフォームの中核は Docker を基盤とし、多様なサービスモジュールを組み合わせて、API、タスクスケジューリング、データ保存、キャッシュ管理、管理画面およびユーザー向けアプリケーションをカバーしています。全体設計により、高可用性、柔軟な拡張性、クラウド横断の統合能力を確保しながら、セキュリティと運用保守性も両立しています。
MaiAgent Server
MaiAgent のコア、API、システム管理画面
EKS(Fargate)
GKE
AKS
Django on Docker
MaiAgent Worker Server
MaiAgent のキュー処理と非同期サービスを担う Worker。特にメッセージのストリーミング出力を処理
EKS(Fargate)
GKE
AKS
Django on Docker
MaiAgent Worker Server (Low-Priority)
MaiAgent のキュー処理と非同期サービスを担う Worker。特に文書のベクトル化を処理
EKS(Fargate)
GKE
AKS
Django on Docker
MaiAgent Admin フロントエンド
MaiAgent 管理プラットフォーム
S3 + CloudFront
GCS+Google Cloud CDN
Azure Blob Storage + Azure CDN
Nginx + Static Files on Docker
MaiAgent Web Chat フロントエンド
MaiAgent ウェブチャット画面
S3 + CloudFront
GCS+Google Cloud CDN
Azure Blob Storage + Azure CDN
Nginx + Static Files on Docker
リレーショナルデータベース(RDB)- PostgreSQL
MaiAgent の各種データを保存
RDS
Cloud SQL
Azure Database
PostgreSQL on Docker
ベクトルデータベース(Vector DB)- Elasticsearch
RAG とメモリ機能に必要なベクトルを保存
Elasticsearch
Elasticsearch
Elasticsearch
Elasticsearch on Docker
静的ストレージ(Storage)
静的ファイルと静的ウェブページを保存
S3
GCS
Azure Blob Storage
MinIO on Docker
メモリキャッシュ(Memory Cache)- Redis
API キャッシュ、キューイング・スケジューリングサービスのキュー
ElastiCache
Memorystore
Azure Cache
Redis on Docker
モデルサービス
MaiAgent プラットフォームは設計上、クラウド API 推論サービスと自社構築 GPU 環境の両方に対応しています。
クラウド API 推論サービスでは、MaiAgent は各種 LLM、Embedding、Reranker API に直接接続でき、迅速にスケールアウトして動的なトラフィック需要に対応できるため、実験や迅速なリリースに適しています。
自社構築 GPU モードでは、MaiAgent はローカルまたはプライベートデータセンターにデプロイされたモデルサービスに接続し、GPU リソースを最大限に活用して推論を最適化しながら、データのプライバシーとコンプライアンスを確保できます。
ユーザーはニーズに応じて、柔軟性とコストのバランスを考慮しながら自由に切り替えられます。両方の方式を組み合わせることもでき、MaiAgent を統一された推論およびサービス管理レイヤーとして利用できます。
クラウド API 推論サービス
自社構築 GPU
MaiAgent プラットフォームの対応状況
AWS Bedrock Google Vertex AI Azure AI Oracle OCI
HPE(ヒューレット・パッカード エンタープライズ) Advantech(アドバンテック) Cisco(シスコ) Dell(デル)
モデル性能
クローズドソースモデル:高 オープンソースモデル:自社構築 GPU と同等
オープンソースモデルのリリース状況に依存
速度
比較的速い
Claude 4 Sonnet: 80 token/s
Gemini 2.5 Pro: 156 token/s
中程度
Llama3.3 70B - A100: 22.92 token/s - RTX PRO 6000 Blackwell: 73.54 token/s - H200: 145.40 token/s
導入コスト
Token API 費用 (pay-as-you-go)
マシン費用
データセンター費用
マシンとモデルの運用保守人件費
マシンの減価償却
同時リクエスト数
クラウドサービスプロバイダーのサポート状況に依存
GPU の仕様と GPU の枚数に依存 - A100: 1.15 件/枚 - RTX PRO 6000 Blackwell: 3.67 件/枚 H200: 7.27 件/枚
データセキュリティ
データを学習に使用しないことを確約するクラウドサービスプロバイダー(AWS, GCP, Azure, Oracle)を利用
高い機密性と最高水準の安全性
個人情報の問題
DLP Server またはサービスを利用して個人情報を除去
なし
プラットフォームのデプロイ環境
開発、テスト、本番リリースの各段階におけるお客様ごとのニーズに対応するため、当社のソフトウェアプラットフォームでは複数の階層化された環境を提供しています。これらの環境を整備することで、開発段階から本番リリースまでのすべてのプロセスを適切に検証・管理できます。
環境アーキテクチャ
当社のプラットフォーム構築は業界のベストプラクティスに従い、お客様のニーズに応じて以下の環境を柔軟に提供します。
PROD
銀行内
本番環境
正式に外部向けサービスを提供し、実データを使用します。高い安定性とセキュリティが求められます。
UAT
銀行内
ユーザー受入テスト
お客様や事業部門が受入テストを行い、システム機能が要件を満たすことを確認します。本番環境に近い構成です。
SIT
銀行内(内部システムとの連携が必要になる可能性があるため)
システム統合テスト
異なるモジュールやサービス間の統合性と互換性を、実環境に近いテストデータを使用して検証します。
DEV
付加機能を銀行外で開発してスピードを向上
開発テスト環境
開発者がプログラム開発と単体テストを行います。モックデータを使用し、更新頻度が高く、エラーを許容します。
環境の組み合わせ
お客様はプロジェクトの要件に応じて、適切な環境の組み合わせを選択できます。例えば、次のような構成があります。
PROD のみ:小規模なプロジェクトや単純な本番リリース要件に適しており、本番環境へ直接デプロイします。
PROD + UAT:受入テストが必要なプロジェクトに適しており、機能が要件を満たすことを確認してから本番リリースします。
完全な環境構成(DEV + SIT + UAT + PROD):大規模または複雑なプロジェクトに適しており、開発、統合テスト、受入の一連のプロセスを実施します。
当社はお客様のニーズに応じて柔軟に構成し、コストと品質の最適なバランスを確保します。
最終更新
役に立ちましたか?