For the complete documentation index, see llms.txt. This page is also available as Markdown.

概要

MaiAgent プラットフォームは SaaS サービスの提供に加え、プラットフォームを自社構築する方式(プライベートクラウド、オンプレミス)にも対応しています。MaiAgent プラットフォーム本体に必要なのは一般的なコンピューティングリソースのみであり、GPU サービスは不要です。MaiAgent が使用するモデルサービス(LLM, Embedding Model, Reranker Model)には演算能力が必要であり、クラウド API 推論サービスまたはオンプレミスに自社構築した GPU を利用できます。\

ハイブリッドクラウドアーキテクチャを採用することもできます。MaiAgent はオンプレミス(プライベートクラウド、オンプレミス)に配置し、モデルサービス(LLM, Embedding Model, Reranker Model)はクラウドに配置する構成です。MaiAgent は、すべてのクラウドサービスプロバイダー(CSP)が提供する LLM, Embedding model, Reranker model に対応しています。将来、データセキュリティ上の理由やオンプレミスのコスト低下によりオンプレミスの演算リソースを利用したくなった場合も、すぐに切り替えられます。

MaiAgent プラットフォーム概要

MaiAgent は、システムのバックエンドからユーザーのフロントエンドまで、包括的なサービスを提供する完全な生成 AI プラットフォームです。拡張可能なマイクロサービスアーキテクチャを採用し、主要なクラウド環境(AWS, GCP, Azure, Oracle)とオンプレミスの自社構築環境(Docker、K8s)に対応しているため、企業のニーズに応じて柔軟にデプロイできます。

プラットフォームの中核は Docker を基盤とし、多様なサービスモジュールを組み合わせて、API、タスクスケジューリング、データ保存、キャッシュ管理、管理画面およびユーザー向けアプリケーションをカバーしています。全体設計により、高可用性、柔軟な拡張性、クラウド横断の統合能力を確保しながら、セキュリティと運用保守性も両立しています。

サービス項目
用途
AWS
GCP
Azure
VMs

MaiAgent Server

MaiAgent のコア、API、システム管理画面

EKS(Fargate)

GKE

AKS

Django on Docker

MaiAgent Worker Server

MaiAgent のキュー処理と非同期サービスを担う Worker。特にメッセージのストリーミング出力を処理

EKS(Fargate)

GKE

AKS

Django on Docker

MaiAgent Worker Server (Low-Priority)

MaiAgent のキュー処理と非同期サービスを担う Worker。特に文書のベクトル化を処理

EKS(Fargate)

GKE

AKS

Django on Docker

MaiAgent Admin フロントエンド

MaiAgent 管理プラットフォーム

S3 + CloudFront

GCS+Google Cloud CDN

Azure Blob Storage + Azure CDN

Nginx + Static Files on Docker

MaiAgent Web Chat フロントエンド

MaiAgent ウェブチャット画面

S3 + CloudFront

GCS+Google Cloud CDN

Azure Blob Storage + Azure CDN

Nginx + Static Files on Docker

リレーショナルデータベース(RDB)- PostgreSQL

MaiAgent の各種データを保存

RDS

Cloud SQL

Azure Database

PostgreSQL on Docker

ベクトルデータベース(Vector DB)- Elasticsearch

RAG とメモリ機能に必要なベクトルを保存

Elasticsearch

Elasticsearch

Elasticsearch

Elasticsearch on Docker

静的ストレージ(Storage)

静的ファイルと静的ウェブページを保存

S3

GCS

Azure Blob Storage

MinIO on Docker

メモリキャッシュ(Memory Cache)- Redis

API キャッシュ、キューイング・スケジューリングサービスのキュー

ElastiCache

Memorystore

Azure Cache

Redis on Docker

モデルサービス

MaiAgent プラットフォームは設計上、クラウド API 推論サービスと自社構築 GPU 環境の両方に対応しています。

  • クラウド API 推論サービスでは、MaiAgent は各種 LLM、Embedding、Reranker API に直接接続でき、迅速にスケールアウトして動的なトラフィック需要に対応できるため、実験や迅速なリリースに適しています。

  • 自社構築 GPU モードでは、MaiAgent はローカルまたはプライベートデータセンターにデプロイされたモデルサービスに接続し、GPU リソースを最大限に活用して推論を最適化しながら、データのプライバシーとコンプライアンスを確保できます。

ユーザーはニーズに応じて、柔軟性とコストのバランスを考慮しながら自由に切り替えられます。両方の方式を組み合わせることもでき、MaiAgent を統一された推論およびサービス管理レイヤーとして利用できます。

クラウド API 推論サービス

自社構築 GPU

MaiAgent プラットフォームの対応状況

AWS Bedrock Google Vertex AI Azure AI Oracle OCI

HPE(ヒューレット・パッカード エンタープライズ) Advantech(アドバンテック) Cisco(シスコ) Dell(デル)

モデル性能

クローズドソースモデル:高 オープンソースモデル:自社構築 GPU と同等

オープンソースモデルのリリース状況に依存

速度

比較的速い

Claude 4 Sonnet: 80 token/s

Gemini 2.5 Pro: 156 token/s

中程度

Llama3.3 70B - A100: 22.92 token/s - RTX PRO 6000 Blackwell: 73.54 token/s - H200: 145.40 token/s

導入コスト

Token API 費用 (pay-as-you-go)

マシン費用

データセンター費用

マシンとモデルの運用保守人件費

マシンの減価償却

同時リクエスト数

クラウドサービスプロバイダーのサポート状況に依存

GPU の仕様と GPU の枚数に依存 - A100: 1.15 件/枚 - RTX PRO 6000 Blackwell: 3.67 件/枚 H200: 7.27 件/枚

データセキュリティ

データを学習に使用しないことを確約するクラウドサービスプロバイダー(AWS, GCP, Azure, Oracle)を利用

高い機密性と最高水準の安全性

個人情報の問題

DLP Server またはサービスを利用して個人情報を除去

なし

プラットフォームのデプロイ環境

開発、テスト、本番リリースの各段階におけるお客様ごとのニーズに対応するため、当社のソフトウェアプラットフォームでは複数の階層化された環境を提供しています。これらの環境を整備することで、開発段階から本番リリースまでのすべてのプロセスを適切に検証・管理できます。

環境アーキテクチャ

当社のプラットフォーム構築は業界のベストプラクティスに従い、お客様のニーズに応じて以下の環境を柔軟に提供します。

環境名
備考
主な用途
特徴

PROD

銀行内

本番環境

正式に外部向けサービスを提供し、実データを使用します。高い安定性とセキュリティが求められます。

UAT

銀行内

ユーザー受入テスト

お客様や事業部門が受入テストを行い、システム機能が要件を満たすことを確認します。本番環境に近い構成です。

SIT

銀行内(内部システムとの連携が必要になる可能性があるため)

システム統合テスト

異なるモジュールやサービス間の統合性と互換性を、実環境に近いテストデータを使用して検証します。

DEV

付加機能を銀行外で開発してスピードを向上

開発テスト環境

開発者がプログラム開発と単体テストを行います。モックデータを使用し、更新頻度が高く、エラーを許容します。

環境の組み合わせ

お客様はプロジェクトの要件に応じて、適切な環境の組み合わせを選択できます。例えば、次のような構成があります。

  • PROD のみ:小規模なプロジェクトや単純な本番リリース要件に適しており、本番環境へ直接デプロイします。

  • PROD + UAT:受入テストが必要なプロジェクトに適しており、機能が要件を満たすことを確認してから本番リリースします。

  • 完全な環境構成(DEV + SIT + UAT + PROD):大規模または複雑なプロジェクトに適しており、開発、統合テスト、受入の一連のプロセスを実施します。

当社はお客様のニーズに応じて柔軟に構成し、コストと品質の最適なバランスを確保します。

最終更新

役に立ちましたか?