> For the complete documentation index, see [llms.txt](https://docs.maiagent.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.maiagent.ai/maiagent-user-guide/ja/agent-ops/agent-ops.md). # AgentOps 総覧 AgentOps は AI アシスタントの運用管理と品質コントロールを行う包括的なツールを提供します ## AgentOps とは? AgentOps (Agent Operations) は、MaiAgent プラットフォームが提供する AI アシスタントの運用管理モジュールであり、AI アシスタントの実際のパフォーマンスをテスト・評価・監視することに重点を置いています。AgentOps を活用することで、AI アシスタントの品質を体系的に管理し、常に優れたサービス体験を提供し続けることができます。 ## なぜ AgentOps が必要なのか? AI アシスタントを構築するのは第一歩にすぎません。長期的な成功を実現するには、継続的な監視と最適化が欠かせません。AgentOps は次のことを支援します。 **品質の安定を確保** * 標準化されたテストの仕組みを構築 * AI アシスタントのパフォーマンスの変化傾向を追跡 * 品質上の問題を早期に発見し修正 **運用効率の向上** * テストプロセスを自動化し、人的リソースを節約 * パフォーマンスのボトルネックを迅速に特定 * システムリソースとコストを最適化 **データドリブンな意思決定** * AI アシスタントのパフォーマンス指標を定量化 * 異なる設定やモデルの効果を比較 * 実際のデータに基づいて最適化戦略を策定 ## AgentOps の主要機能 ### 1. テストデータセット管理テストケースのコレクションを作成・管理し、AI アシスタントの応答品質を検証します。 **主な機能:** * 複数のテストデータセットを作成 * テストケースと期待される応答を管理 * 検索と分類に対応 * チームでテストケースを共同メンテナンス **活用シーン:** * ナレッジベース更新後の応答精度の検証 * 標準的なテストプロセスの構築 * よくある質問を収集してテスト基準として活用 > 詳細な説明: [テストデータセット管理](/maiagent-user-guide/ja/agent-ops/test-datasets.md) ### 2. 自動評価テストデータセットを使用して評価を自動実行し、詳細な品質レポートを生成します。 **主な機能:** * ワンクリックで一括テストを実行 * 成功率と応答時間を算出 * 詳細な合格/不合格レポートを生成 * 異なる時期や AI アシスタントのパフォーマンスを比較 **活用シーン:** * 定期的な品質チェック * 更新前後のリグレッションテスト * 異なる AI アシスタントやモデルの効果を比較 > 詳細な説明: [自動評価](/maiagent-user-guide/ja/agent-ops/evaluations.md#auto-evaluation) ### 3. AI アシスタント監視 AI アシスタントの稼働状況をリアルタイムで監視し、一つひとつの対話の詳細を深く分析します。 **主な機能:** * 入力/出力メッセージの内容を確認 * 返信時間と処理時間を追跡 * Token 使用量とコストを監視 * 品質スコアとユーザーからのフィードバックを分析 **活用シーン:** * システムの稼働状況をリアルタイムで監視 * パフォーマンスの問題や異常を特定 * コストと使用量を追跡 * 個別の対話を深く分析 > 詳細な説明: [AI アシスタント監視](/maiagent-user-guide/ja/agent-ops/evaluations.md#ai-agent-monitoring) ### 4. 評価インサイトレポート一括テストが完了すると、システムが自動的に結果を分析し、改善提案レポートを生成します。人手で一つずつスコアデータを読み解く必要はありません。 **主な機能:** * テスト結果の中から問題パターンを自動的に特定 * 深刻度と影響範囲に基づいて対応の優先順位を提案 * スコアだけでなく、具体的な改善方向を提示 * 多言語レポートに対応 **活用シーン:** * 成功率が期待に届かず、問題がどこにあるのか知りたいとき * 一度のテストで多くの失敗ケースが発生し、どれから修正すべきか判断が必要なとき * チームや上司に品質の現状と改善計画を説明する必要があるとき > 詳細な説明: [評価インサイトレポート](/maiagent-user-guide/ja/agent-ops/evaluation-insights.md) ### 5. ツール実行記録 AI アシスタントが外部ツールを呼び出した完全な履歴を追跡し、ツール実行失敗の原因を迅速に特定します。 **主な機能:** * ツール呼び出しごとの入力パラメータ、実行結果、所要時間、成功/失敗ステータスを記録 * 詳細なエラーメッセージを保持し、失敗原因の特定を支援 * 各ツールの使用回数と成功率を集計 * API ツール、Text-to-SQL ツール、クローラーツール、カスタムツールを網羅 **活用シーン:** * AI アシスタントが外部システムへの問い合わせが必要な質問に回答できないとき * ツールが断続的に失敗し、タイムアウト・認証・パラメータのいずれが原因か切り分けが必要なとき * あるツールの設定を調整するべきか、または入れ替えるべきかを評価するとき > 詳細な説明: [ツール実行記録](/maiagent-user-guide/ja/agent-ops/tool-execution-records.md) ## AgentOps のワークフロー ### サブ機能の関係図 AgentOps の 5 つのサブ機能は 2 つのラインに分かれます。**リリース前**はテストデータセットと自動評価で品質基準を確立し、**リリース後**は監視とツール記録で実際の運用を観察します。2 つのラインは「本番で発見した問題をテストデータセットにフィードバックする」ことで 1 つのサイクルを形成します。


1. テストデータセット管理	再利用可能なテストケースのコレクションを作成します。テストチェーン全体の出発点です。	テストデータセットの管理
2. 自動評価	テストデータセットで AI アシスタントを一括テストし、成功率と平均応答時間を算出します。	自動評価と AI アシスタントの監視
3. 評価インサイトレポート	評価結果を自動分析し、問題パターンと改善提案を優先順位付きで提示します。	評価インサイトレポート
4. AI アシスタント監視	リリース後に実際の対話を 1 件ずつ確認します。入出力、所要時間、Token、スコアが対象です。	自動評価と AI アシスタントの監視
5. ツール実行記録	AI アシスタントが呼び出した外部ツールのパラメータ、結果、失敗原因を追跡します。	ツール実行記録

各サブ機能の順序と依存関係: | サブ機能 | 使用する段階 | 前提条件 | アウトプット | 次のステップ | | --------------- | ------ | -------------------------- | ------------------------------ | ----------------------------- | | **テストデータセット管理** | リリース前 | よくある質問と期待される応答 | 再利用可能なテストケースのコレクション | 自動評価に引き渡す | | **自動評価** | リリース前 | テストデータセット、テスト対象の AI アシスタント | 成功率、平均応答時間、ケースごとの合格/不合格 | 評価インサイトレポートに引き渡して分析 | | **評価インサイトレポート** | リリース前 | 完了済みの自動評価 1 回分 | 問題パターン、優先順位、具体的な改善方向 | 提案に基づいてナレッジベースやロール指示を調整し、再テスト | | **AI アシスタント監視** | リリース後 | リリース済み AI アシスタントの実際の対話 | 対話ごとの入出力、所要時間、Token 使用量、スコア | 発見した問題をテストデータセットにフィードバック | | **ツール実行記録** | リリース後 | ツールが設定済みの AI アシスタント | ツール呼び出しのパラメータ、結果、所要時間、エラーメッセージ | ツール設定を修正するか、テストケースを追加 | {% hint style="info" %} **混同されやすい 2 つのポイント:** * 「自動評価」がテストするのは**テストデータセット内の問題**であり、「AI アシスタント監視」が確認するのは**ユーザーが実際に行った対話**です。前者はリリース前の品質ゲート、後者はリリース後の観察です。 * 「評価インサイトレポート」は独立した機能ではありません。自動評価の延長であり、一括テストを 1 回完了しないとインサイトレポートは閲覧できません。 {% endhint %} ### 標準的な品質管理フロー ``` 1. テストデータセットを作成 ↓ よくある質問と期待される応答を収集構造化されたテストケースを構築 2. 自動評価を実行 ↓ 定期的に、または更新後にテストを実行成功率と品質レポートを生成 3. 評価結果を分析 ↓ 失敗したケースを特定改善が必要な問題を洗い出す 4. AI アシスタントを最適化 ↓ ナレッジベースの内容を更新 AI 設定とプロンプトを調整 5. 実際の運用を監視 ↓ AI アシスタント監視で実際の対話を追跡品質の安定を継続的に確保 6. 継続的に改善 ↓ 監視データから新たな問題を発見テストデータセットを更新評価と最適化のサイクルを繰り返す ``` ### クイックスタートの手順 **1 週目: 基礎テストの構築** 1. よくある質問を 20〜30 個収集する 2. 最初のテストデータセットを作成する 3. 初回の自動評価を実行する 4. 現在の成功率をベースラインとして記録する **2 週目: 継続的な最適化** 1. 失敗したテストケースを分析する 2. ナレッジベースを更新するか AI 設定を調整する 3. 評価を再実行して改善効果を検証する 4. AI アシスタント監視を使い始めて実際の対話を観察する **3 週目: 習慣の確立** 1. 週に 1 回、自動評価を実行する 2. 毎日、監視データを確認して異常を特定する 3. より多くのシーンをカバーするためテストケースを継続的に追加する 4. 品質レポートを作成して長期的な傾向を追跡する ## AgentOps と他機能との統合 ### AgentOps + ナレッジベース管理 **統合活用:** * ナレッジベースを更新したら、すぐに自動評価を実行して検証 * 監視データが知識不足を示している場合、ナレッジベースの内容を補充 * 実際の対話からテストケースを作成し、逆にナレッジベースを最適化 > 関連ドキュメント: [企業ナレッジベースの構築](/maiagent-user-guide/ja/km/km.md) ### AgentOps + 利用分析 **相互補完の分析:** * **利用分析**: 全体的な傾向と統計を提供 (対話量、満足度など) * **AgentOps**: 深い品質分析と個別の対話の詳細を提供組み合わせて使用することで、次のことが可能になります。 * 全体的な傾向から異常を発見する * 監視の詳細から根本原因を突き止める * AI アシスタントのパフォーマンスを総合的に評価する > 関連ドキュメント: [利用分析](/maiagent-user-guide/ja/org/usage.md) ### AgentOps + 返信品質コントロール **統合活用:** * AgentOps は技術面の品質監視を提供 * 返信品質コントロールは人手によるレビューとラベル付けを提供 * 両者を組み合わせることで、完全な品質保証体制を構築できます > 関連ドキュメント: [返信品質コントロール](https://github.com/Playma-Co-Ltd/maiagent-user-guide-gitbook/tree/main/ja/channels/quality.md) ## ベストプラクティスの提案 ### 1. 定期的な評価の仕組みを構築する **毎日のチェック (5 分):** * AI アシスタント監視を確認して異常を特定 **毎週の評価 (30 分):** * 中核となるテストデータセットを実行 * 成功率が安定して維持されているか確認 * テストケースを更新または追加 **毎月の分析 (2 時間):** * 完全な評価を実行 * 監視データをエクスポートして深く分析 * 品質レポートを作成 * 翌月の最適化目標を計画 ### 2. 品質のベースラインを設定するお使いの AI アシスタントに合理的な品質目標を設定しましょう。 | 指標 | ベースライン | 目標 | 説明 | | --------- | ------ | ----- | --------------- | | 自動評価の成功率 | ≥ 85% | ≥ 95% | 標準テストケースの合格率 | | 平均返信時間 | < 5 秒 | < 3 秒 | ユーザーが体感する応答速度 | | ユーザー満足度 | ≥ 80% | ≥ 90% | 高評価/総フィードバックの比率 | | Token 使用量 | - | - | 予算に応じて上限を設定 | ### 3. 問題追跡のフローを構築する品質上の問題を発見したとき: ``` 問題の発見 ↓ テストデータセットに記録 (再発を防止) ↓ 根本原因を分析 (ナレッジベース/AI 設定/モデル能力) ↓ 改善策を実施 ↓ 評価を実行して効果を検証 ↓ 継続的に監視して安定を確認 ``` ### 4. チームでの協働 AgentOps の責任分担を構築しましょう。 **AI 管理者:** * 全体的な品質監視 * 最適化戦略の策定 * 定期的な評価とレポート **ナレッジベース管理者:** * 評価結果に基づいてナレッジベースを更新 * 不足している知識内容を補充 **技術担当者:** * パフォーマンスの問題を分析 * システム設定を最適化 * 技術的な異常に対応 ### 5. 継続的改善のサイクル AgentOps の中核は継続的な改善です。 1. **測定**: 評価と監視を通じてデータを取得する 2. **分析**: 問題と改善の機会を特定する 3. **行動**: 最適化策を実施する 4. **検証**: 改善効果を確認する 5. **標準化**: 成功した経験をプロセスに組み込む ## よくある質問 ### Q1: AgentOps と「利用分析」は何が違うのですか? **利用分析:** * 全体的な傾向と統計 (対話量、文字数、満足度) * AI アシスタントの利用概況を把握するのに適している * ビジネス指標に注目 **AgentOps:** * 深い品質分析と個別の対話の詳細 * 技術面の品質管理に適している * 技術指標に注目 (成功率、応答時間、コスト) 両者は補完関係にあるため、組み合わせて使用することをおすすめします。 ### Q2: 評価はどのくらいの頻度で実行すればよいですか? 推奨頻度: * **中核機能**: 週に 1 回 * **完全テスト**: 月に 1 回 * **大規模な更新後**: ただちに実行 * **問題を発見したとき**: 随時テストして検証 AI アシスタントの重要度や変更の頻度に応じて調整できます。 ### Q3: テストデータセットにはどのくらいのテストケースを含めるべきですか? 推奨数: * **最小**: 20 個のテストケース (中核機能をカバー) * **推奨**: 50〜100 個のテストケース (カバー率と効率のバランス) * **完全**: 200 個以上のテストケース (大規模または重要なシステム) 中核機能から始めて、段階的に拡充しましょう。 ### Q4: 成功率はどのくらいで合格といえますか? AI アシスタントの用途によって異なります。 * **高リスクな用途** (金融、医療): ≥ 95% * **カスタマーサポート**: ≥ 90% * **汎用的な対話**: ≥ 85% * **試験的な機能**: ≥ 80% 重要なのは、ベースラインを設定して継続的に改善することです。 ### Q5: AgentOps は実際のユーザーに影響しますか? 影響しません。AgentOps のテストと監視はいずれも独立した環境またはバックグラウンドで実行されるため、実際のユーザーの利用体験を妨げることはありません。 ### Q6: 業務ごとに複数のテストを作成できますか? できます。業務や機能ごとに複数のテストデータセットを作成することをおすすめします。 * 製品照会テストセット * 注文処理テストセット * テクニカルサポートテストセット * ……などこのようにすることで、各領域の品質パフォーマンスを個別に追跡できます。 *** ## AgentOps を使い始める AgentOps を使い始める準備はできましたか? 次の順序で進めることをおすすめします。 1. [**テストデータセットの作成**](/maiagent-user-guide/ja/agent-ops/test-datasets.md): よくある質問を収集し、最初のテストセットを作成する 2. [**自動評価の実行**](/maiagent-user-guide/ja/agent-ops/evaluations.md#auto-evaluation): AI アシスタントをテストして成功率と応答時間を確認する 3. [**評価インサイトレポートを読む**](/maiagent-user-guide/ja/agent-ops/evaluation-insights.md): 問題がどこにあるのか、何を優先すべきかを把握する 4. [**AI アシスタント監視の利用**](/maiagent-user-guide/ja/agent-ops/evaluations.md#ai-agent-monitoring): リリース後の実際の稼働状況を深く把握する 5. [**ツール実行記録の確認**](/maiagent-user-guide/ja/agent-ops/tool-execution-records.md): AI アシスタントにツールが設定されている場合、ツール呼び出しが正常に動作しているかを追跡する AgentOps を活用することで、体系的な品質管理プロセスを構築し、AI アシスタントが常に優れたサービスを提供し続けられるようにします。 --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.maiagent.ai/maiagent-user-guide/ja/agent-ops/agent-ops.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.