For the complete documentation index, see llms.txt. This page is also available as Markdown.

概要

MaiAgent プラットフォームは SaaS サービスの提供に加え、プラットフォームの自社構築方式(プライベートクラウド、オンプレミス)にも対応しています。MaiAgent プラットフォーム本体は一般的な演算リソースのみを必要とし、GPU サービスは不要です。MaiAgent が利用するモデルサービス(LLM, Embedding Model, Reranker Model)には演算能力が必要となり、クラウド API 推論サービスを利用することも、オンプレミスで GPU を自社構築することも可能です。\

ハイブリッドクラウドのアーキテクチャを採用することもできます。MaiAgent をオンプレミス(プライベートクラウド、オンプレミス)に、モデルサービス(LLM, Embedding Model, Reranker Model)をクラウドに配置する構成です。MaiAgent はすべてのクラウドサービスプロバイダー(CSP)が提供する LLM, Embedding model, Reranker model に対応しています。将来、データセキュリティの観点やオンプレミスコストの低下により、オンプレミスの演算能力を利用したくなった場合も、即座に切り替えることができます。

MaiAgent プラットフォーム総覧

MaiAgent は、システムのバックエンドからユーザーのフロントエンドまで、あらゆる面をカバーするサービスを提供する完全な生成 AI プラットフォームです。本プラットフォームは拡張可能なマイクロサービスアーキテクチャを採用し、主要なクラウド環境(AWS, GCP, Azure, Oracle)およびオンプレミスの自社構築環境(Docker、K8s)に対応しているため、企業のニーズに応じて柔軟にデプロイできます。

プラットフォームの中核は Docker を基盤とし、多様なサービスモジュールを組み合わせて、API、タスクスケジューリング、データ保存、キャッシュ管理、そして管理画面・フロントエンドのアプリケーションまでをカバーしています。その全体設計により、高可用性、柔軟な拡張性、クラウド横断の統合能力 を確保するとともに、セキュリティと運用保守性も両立しています。

サービス項目
用途
AWS
GCP
Azure
VMs

MaiAgent Server

MaiAgent のコア、API、システム管理画面

EKS(Fargate)

GKE

AKS

Django on Docker

MaiAgent Worker Server

MaiAgent のキュー処理・非同期サービスを担う Worker。特にメッセージのストリーミング出力

EKS(Fargate)

GKE

AKS

Django on Docker

MaiAgent Worker Server (Low-Priority)

MaiAgent のキュー処理・非同期サービスを担う Worker。特に文書のベクトル化

EKS(Fargate)

GKE

AKS

Django on Docker

MaiAgent Admin フロントエンド

MaiAgent 管理プラットフォーム

S3 + CloudFront

GCS+Google Cloud CDN

Azure Blob Storage + Azure CDN

Nginx + Static Files on Docker

MaiAgent Web Chat フロントエンド

MaiAgent ウェブ対話フロントエンド

S3 + CloudFront

GCS+Google Cloud CDN

Azure Blob Storage + Azure CDN

Nginx + Static Files on Docker

リレーショナルデータベース(RDB) - PostgreSQL

MaiAgent の各種データを保存

RDS

Cloud SQL

Azure Database

PostgreSQL on Docker

ベクトルデータベース(Vector DB) - Elasticsearch

RAG・記憶機能に必要なベクトルを保存

Elasticsearch

Elasticsearch

Elasticsearch

Elasticsearch on Docker

静的ストレージ(Storage)

静的ファイル、静的ウェブページを保存

S3

GCS

Azure Blob Storage

MinIO on Docker

メモリキャッシュ(Memory Cache) - Redis

API キャッシュ、キューイング・スケジューリングサービスのキュー

ElastiCache

Memorystore

Azure Cache

Redis on Docker

モデルサービス

MaiAgent プラットフォームは設計上、「クラウド API 推論サービス」と「自社構築 GPU 環境」の両方に対応しています。

  • クラウド API 推論サービス では、MaiAgent は各種 LLM、Embedding、Reranker API に直接接続でき、迅速なスケールアウトと動的なトラフィック需要への対応が可能で、実験や迅速なリリースに便利です。

  • 自社構築 GPU モード では、MaiAgent はローカルまたはプライベートデータセンターにデプロイされたモデルサービスに接続でき、GPU リソースを最大限に活用して推論を最適化しつつ、データのプライバシーとコンプライアンスを確保します。

ユーザーはニーズに応じて、柔軟性とコストの間を自由に切り替えることができ、さらに両方の方式を併用することも可能です。これにより MaiAgent は、推論とサービス管理を統一する基盤となります。

クラウド API 推論サービス

自社構築 GPU

MaiAgent プラットフォーム対応

AWS Bedrock Google Vertex AI Azure AI Oracle OCI

HPE(Hewlett Packard Enterprise) Advantech(アドバンテック) Cisco(シスコ) Dell(デル)

モデル性能

クローズドソースモデル:高 オープンソースモデル:自社構築 GPU と同等

オープンソースモデルのリリース状況に依存

速度

比較的速い

Claude 4 Sonnet: 80 token/s

Gemini 2.5 Pro: 156 token/s

中程度

Llama3.3 70B - A100: 22.92 token/s - RTX PRO 6000 Blackwell: 73.54 token/s - H200: 145.40 token/s

投入コスト

Token API 費用 (pay-as-you-go)

マシン費用

サーバールーム費用

マシンとモデルの運用保守人件費

マシンの減価償却

Concurrent リクエスト数

クラウドサービスプロバイダーのサポートに依存

GPU のスペックと GPU の枚数に依存 - A100: 1.15 個/枚 - RTX PRO 6000 Blackwell: 3.67 個/枚 H200: 7.27 個/枚

データセキュリティ

データを学習に使用しないことを約束したクラウドサービスプロバイダー(AWS, GCP, Azure, Oracle)を利用

高い機密性、最も安全

個人情報の問題

DLP Server またはサービスを利用して個人情報を除去

なし

プラットフォームのデプロイ環境

開発、テスト、本番リリースの各段階における、お客様ごとに異なるニーズを満たすため、当社のソフトウェアプラットフォームは複数の階層化された環境を提供しています。これらの環境を整備することで、開発段階から本番リリースまでのすべてのプロセスを適切に検証・管理できるようにしています。

環境アーキテクチャ

当社のプラットフォーム構築は業界のベストプラクティスに従い、お客様のニーズに応じて以下の環境を柔軟に提供します。

環境名
備考
主な用途
特徴

PROD

行内

本番環境

正式に対外サービスを提供し、実データを使用。高度な安定性とセキュリティが求められる。

UAT

行内

ユーザー受入テスト

お客様や事業部門による受入を行い、システム機能が要件を満たしているか確認。本番環境に近い構成。

SIT

行内(内部システムとの連携が必要となる可能性があるため)

システム統合テスト

異なるモジュールやサービス間の統合性・互換性を検証。実環境に近いテストデータを使用。

DEV

付加機能を行外で開発しスピードを上げる

開発テスト環境

開発者がプログラム開発と単体テストを行う。モックデータを使用し、更新頻度が高く、エラーを許容する。

環境の組み合わせ

お客様はプロジェクトの要件に応じて、適切な環境の組み合わせを選択できます。例えば次のとおりです。

  • PROD のみ:小規模なプロジェクトや、単純にリリースするだけのニーズに適しており、本番環境に直接デプロイします。

  • PROD + UAT:受入テストが必要なプロジェクトに適しており、機能が要件を満たしていることを確認してからリリースします。

  • フル環境の組み合わせ(DEV + SIT + UAT + PROD):大規模または複雑なプロジェクトに適しており、開発、統合テスト、受入の一連のプロセスを経る必要があります。

当社はお客様のニーズに応じて柔軟に構成し、コストと品質の間で最適なバランスを確保します。

Last updated

Was this helpful?