> For the complete documentation index, see [llms.txt](https://docs.maiagent.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.maiagent.ai/tech/ja/quickstart/llm.md).

# 大規模言語モデル（LLM）

大規模言語モデル（LLM）の選び方：環境、データの機密性、コスト、能力に応じたクラウドまたはオンプレミスモデルの選択、MaiAgent が対応するモデルファミリー、Fine-tune の必要性。

## **選択のポイント**

大規模言語モデルを選択する際は、以下の重要な要素を考慮してください。

1. **環境（Environment）**：利用環境がインターネットに接続できるかどうかに応じて、クラウドまたはオンプレミスモデルを選択します。
2. **品質（Quality）**：モデルの回答生成能力と、指示に従う能力です。
3. **速度（Speed）**：適切な応答速度を確保するため、テキスト生成速度と遅延の要件を考慮します。
4. **価格（Pricing）**：モデルごとに Credits の料金が異なります。利用要件と予算に応じて選択してください。料金体系は [Credits の課金制度](https://docs.maiagent.ai/others/credits)をご覧ください。
5. **その他**：マルチモーダルや Function calling に対応しているかどうかです。

モデルの品質、速度、価格の比較については、[Artificial Analysis](https://artificialanalysis.ai/) など、継続的に更新される第三者の評価を参考にしてください。

***

## MaiAgent で対応する大規模言語モデル

MaiAgent で提供するモデルは、プロバイダーによるリリースや提供終了に応じて継続的に更新されます。このページでは、具体的なモデル名ではなく、プロバイダーとモデルファミリーのみを掲載しています。組織で実際に選択できるモデルは、管理画面の「[モデル呼び出し権限](https://docs.maiagent.ai/org/model-access)」ページをご確認ください。このページには MaiAgent が組織向けに利用可能にしたモデルが表示され、組織オーナーはその範囲内でモデルを有効または無効にできます。

### クローズドソースモデル

| モデルプロバイダー | モデルファミリー       | 推論サービス                       |
| --------- | -------------- | ---------------------------- |
| OpenAI    | GPT、o シリーズ     | OpenAI、Azure、AWS Bedrock     |
| Anthropic | Claude         | AWS Bedrock、Google Vertex AI |
| Google    | Gemini         | Google Vertex AI             |
| xAI       | Grok           | OpenAI 互換 API                |
| Alibaba   | Qwen（Max、Plus） | OpenAI 互換 API                |
| Amazon    | Nova           | AWS Bedrock                  |

### オープンソースモデル

オープンウェイト（open-weight）モデルは、MaiAgent SaaS 上でクラウド推論サービスを通じて利用できるほか、プライベートクラウドやオンプレミスで自前の GPU にデプロイすることもできます。必要なハードウェアは [GPU](/tech/ja/platform-development/gpu.md) の章をご覧ください。

| モデルプロバイダー   | モデルファミリー     | SaaS 上の推論サービス     |
| ----------- | ------------ | ----------------- |
| OpenAI      | GPT-OSS      | OpenAI 互換 API     |
| Google      | Gemma        | OpenAI 互換 API     |
| Alibaba     | Qwen、Qwen-VL | OpenAI 互換 API     |
| DeepSeek    | DeepSeek     | AWS Bedrock、Azure |
| Mistral AI  | Mistral      | OpenAI 互換 API     |
| Moonshot AI | Kimi         | OpenAI 互換 API     |
| IBM         | Granite      | OpenAI 互換 API     |

オンプレミスで自前の環境にデプロイできるモデルは、MaiAgent デプロイパッケージのモデルカタログに準拠します。現在は GPT-OSS、Gemma、Qwen、Qwen-VL などのファミリーが含まれています。デプロイ計画については MaiAgent の担当窓口にご相談ください。

{% hint style="info" %}
プロバイダーの種類によって、対応する LLM、Embedding、Reranker の範囲が異なります。詳しくは[モデル API 推論サービス](/tech/ja/platform-development/cloud-model-inference-api-service.md)をご覧ください。
{% endhint %}

## モデルには必ず Fine-tune が必要ですか？

AI 技術の急速な発展により、言語モデルは優れた言語理解・生成能力を備え、多くの分野で広く活用されています。たとえば、事前学習済みの言語モデルは、日常会話、文章生成、簡単な質問応答に容易に対応できます。

一方、医療、法律、テクニカルサポートなど、専門分野のより難しいタスクでは、事前学習済みモデルだけに頼ると最適な性能を得られない場合があります。そのため、特定分野の追加学習によってモデルの専門知識を向上させる **Fine-tuning** を選択する開発者もいます。

ただし、Fine-tuning だけが解決策ではありません。同じ目的を達成できる有効な方法として、**Prompt Engineering** と **RAG (Retrieval-Augmented Generation)** もあります。

### 1. Prompt Engineering：正確なプロンプトでモデルの性能を最適化します

Prompt Engineering は、正確なプロンプトを設計し、モデルが望ましい結果を生成するように導く方法です。タスクの要件に応じて詳細な指示を設計し、回答の範囲を絞り、文脈と必要な出力形式をモデルが理解できるようにすることが中心となります。

たとえば、ユーザーの要望に基づいて適切な製品を推薦する言語モデルがあるとします。「高性能なスマートフォンを買いたい」と伝えるだけでは、十分に正確な回答が得られない場合があります。「高性能」には処理速度、カメラ性能、バッテリーの持続時間など、さまざまな解釈があるためです。

推薦の精度を高めるには、**Prompt Engineering** によって、より具体的な質問や追加の文脈を用意し、モデルがユーザーの要望をよりよく理解できるようにします。たとえば、次のプロンプトに変更できます。

> "**バッテリーが長持ち**し、**効率の良いプロセッサー**を搭載したスマートフォンが必要です。価格は **500 米ドルから 800 米ドル**の範囲で、条件を満たす機種をいくつか推薦してください。"

### 2. RAG：外部知識を組み合わせて生成能力を向上させます

**RAG** は、外部知識の検索と生成プロセスを組み合わせることで、モデルの性能を向上させます。

従来の生成タスクでは、モデルは事前学習で得た知識のみに依存します。一方 RAG は、検索システムで外部データをリアルタイムに取得し、それを生成モデルと組み合わせることで、より正確な回答やテキストを生成します。

たとえば医療分野で、ある希少疾患についてモデルが質問された場合、RAG はまず専門の医療データベースから関連情報を検索し、その情報に基づいてより正確な回答を生成できます。この方法では、モデルが学習時に見たことのない情報でも、既存の知識を検索することで質の高い回答を提供できます。特に、知識のリアルタイムな更新が必要な場面に適しており、モデルが扱える知識の範囲を大きく広げられます。

{% hint style="success" %}
RAG の詳しい紹介は、次の章の [「RAG ナレッジベース検索システムの説明」](/tech/ja/quickstart/rag.md)をご覧ください。
{% endhint %}

Fine-tuning、Prompt Engineering、RAG には、それぞれ長所と適用範囲があります。Fine-tuning だけに頼らず、利用シーンと要件に応じて最適な戦略を選択できます。

**Prompt Engineering** は、正確なプロンプトを設計してモデルを質の高い結果へ導く、低コストで柔軟な方法です。

**RAG** は、外部知識と生成能力を組み合わせ、知識を動的に取得する必要がある場合に、より正確な回答を提供する方法です。

**Fine-tuning** は、特定分野でのモデルの性能を大幅に向上させられますが、大量の専門データと追加のリソースが必要です。**Prompt Engineering** と **RAG** の両方で目的を達成できない場合の最終手段として検討できます。

{% hint style="info" %}
**MaiAgent プラットフォームはモデルのファインチューニング機能を提供していません**：管理画面にはモデルの学習やファインチューニングを行うインターフェースがなく、プラットフォームがお客様のデータをモデルの学習に使用することもありません。上記の Fine-tuning は、モデルプロバイダーや自前のモデルを構築するチームが、プラットフォームの外部で行うものです。ファインチューニング済みのモデルは、次の方法で接続できます。クラウドプロバイダーがホストするモデルは、お客様自身の API キーで接続します（[AI Gateway：OpenAI 互換 API 接続](/tech/ja/ai-gateway/ai-gateway-openai-compatible.md)をご覧ください）。自前で学習したオープンウェイトモデルは、プライベートクラウドやオンプレミスで OpenAI 互換のモデルサービスとしてデプロイしてから接続します。[オンプレミスモデルサービスの接続](/tech/ja/platform-development/onprem-model-services.md#external-openai-compatible)をご覧ください。Agent に専門知識を持たせるには、まず[ロール指示](/tech/ja/advanced-genai-tech/system-prompt.md)と [RAG ナレッジベース](/tech/ja/quickstart/rag.md)を利用してください。
{% endhint %}


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation by asking a question.

Perform an HTTP GET request on the following URL with the `ask` and `goal` query parameters:

```
GET https://docs.maiagent.ai/tech/ja/quickstart/llm.md?ask=<question>&goal=<user_goal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is what the user is ultimately trying to achieve, the reason they need the answer. Sharing it helps GitBook give you a better, more relevant answer. A goal is most helpful when it describes the outcome the user wants rather than restating the question. For example, with `ask=how do I create an API token`, a goal like `automate deployments from our CI pipeline` lets GitBook tailor the answer to that use case.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.
