chart-column對話平台分析

針對單一對話平台的對話資料,使用 AI 自動分析主題分群、解決率與改善建議

對話平台分析(Inbox Analysis)能針對特定對話平台、指定日期範圍內的真實對話,透過 AI 自動歸納主題、判斷解決狀況,並整理出具體改善建議,協助您持續優化 AI 助理的對話品質。

什麼是對話平台分析?

在客服對話累積到一定量體後,光看總量或滿意度並不夠——您更想知道:

  • 使用者實際在問什麼? 最常被問的主題有哪些?

  • 有多少對話真正被解決了? 哪些類型的問題解決率偏低?

  • 沒解決的原因是什麼? 是知識庫缺內容、指令太限制,還是工具失敗?

  • 回覆速度與成本分佈如何? 哪些主題耗時長、Token 用量高?

對話平台分析就是為了回答這些問題而設計。系統會:

  1. 擷取指定時間範圍內的對話

  2. 使用嵌入模型做主題分群

  3. 使用 LLM 逐筆分析對話的意圖、解決狀況、失敗原因

  4. 綜合產出分析摘要(含改善建議)

circle-info

與類似功能的差別

功能
觸發時機
用途

即時統計

AI 助理層級量化 KPI(對話字數、次數、滿意度)

對話平台「對話分析」設定(每個對話平台設定中的分頁)

即時,每筆新訊息進來時

用 LLM 自動為對話打標籤,幫助分流與管理

本頁說明的「對話平台分析」

手動觸發、批次回顧

針對指定日期範圍做主題分群、解決率分析、改善建議


如何使用

1

進入對話平台分析頁面

  1. 點選左側選單「客服對話」→「對話平台

  2. 在對話平台列表中,找到目標對話平台

  3. 點選該列右側操作區的📊 圖示(hover 顯示「對話平台分析」),進入分析頁面

頁面會顯示此對話平台過去建立的所有分析報告,包含日期範圍、狀態、對話數、處理時間等資訊。

對話平台分析列表頁
對話平台分析列表頁:顯示過去建立的分析報告
2

新增分析

點選右上角的「新增分析」按鈕,填寫以下必填欄位:

  • 日期範圍:選擇要分析的對話區間(不可選未來日期)

  • 分析用 LLM:用來逐筆分析對話的大型語言模型

  • 嵌入模型:用來做主題分群的嵌入模型

  • 報告語言:分析摘要的輸出語言(繁體中文、簡體中文、英文、日文、韓文)

新增分析 Modal
新增分析 Modal:填寫必填欄位

展開「進階設定」可調整取樣策略(詳見下方「進階設定說明」)。

進階設定展開後
進階設定:調整取樣與並行參數

按下「確定」後,系統會在背景非同步執行分析,狀態會從「等待中」→「處理中」→「已完成」。

3

查看報告

待狀態變為「已完成」後,點擊該報告的「查看報告」圖示(👁),即可進入報告詳情頁面。

報告內容依對話資料豐富程度呈現,包含數據概覽、解決狀況、主題分群、熱門問題、效能指標、分析摘要與逐筆對話分析。

分析報告詳情頁
分析報告詳情頁:儀表板呈現指標、分群、失敗原因與效能分佈

報告內容說明

1. 數據概覽

指標
說明

總對話數

日期範圍內該對話平台的總對話數

已分析

實際被 LLM 分析的對話數量(受「最大取樣數」限制)

抽樣率

已分析 / 總對話數(百分比)

處理時間

本次分析任務從開始到完成所花費的秒數

circle-info

當總對話數超過「最大取樣數」時,系統會以分群後的取樣策略選擇代表性對話進行分析,以控制成本與時間。

2. 解決狀況

核心指標「解決率」計算公式:

  • 已解決(綠):AI 助理完整回答使用者問題

  • 部分解決(橘):回答部分內容或方向正確但不完整

  • 未解決(紅):無法回答或回答錯誤

解決率高於 50% 以綠色顯示,低於 50% 以紅色顯示,作為即時健康度提醒。

3. 效能指標

呈現 AI 助理在這段時間的運算表現:

  • Token 總用量:Input + Output Token 合計

  • 每輪平均 Token:平均每次對話輪次消耗的 Token 數

  • 平均回覆時間:從收到訊息到完整回覆的總耗時

  • 平均首 Token 時間(TTFT):從收到訊息到開始輸出第一個 Token 的時間

4. 主題分群分佈

將所有對話依「語意相似度」分群,以水平長條圖呈現各主題的出現次數與佔比。離群對話會歸類為「Noise / Outliers」。

透過此視圖可快速辨識使用者最常詢問的主題。

5. 解決 / 失敗原因分佈

系統會為每筆分析的對話標記狀態或失敗原因,彙總如下:

原因
說明

已解決

AI 助理成功回答

部分解決

回答方向正確但不完整

知識庫缺口

知識庫缺少相關內容

指令過於限制

角色指令阻擋了合理回覆

工具失敗

工具執行錯誤或未觸發

用戶不明確

使用者訊息模糊、無法判斷意圖

離題

使用者問的內容不在助理範圍內

幻覺回應

AI 生成了不存在或錯誤的資訊

未知

無法歸類到上述類別

此分佈可以直接引導後續改善動作:知識庫缺口多 → 補內容;指令過於限制多 → 調整角色指令;幻覺多 → 加強知識庫與指令約束。

6. 熱門問題排行

以「次數」排序的主題列表,顯示每個主題的出現次數解決率。展開任一列可看到該主題的範例意圖,幫助您快速確認分群是否符合預期。

7. 按主題效能分佈

針對每個主題拆解 Token 與耗時,找出「貴」或「慢」的主題:

  • 平均 Input / Output / Total Token

  • 平均回覆時間

  • 平均首 Token 時間

若某主題 Token 異常高,可考慮優化角色指令或知識庫召回;若某主題耗時長,可能是工具呼叫次數多或內容過長。

8. 分析摘要

由 LLM 綜合所有分析結果生成的 Markdown 報告,通常包含:

  • 整體表現摘要

  • 主要問題模式

  • 優先改善建議

  • 具體調整方向

預設以摺疊區塊顯示,點擊標題即可展開閱讀。

9. 逐筆對話分析

展開後可逐筆檢視每個被分析的對話,每筆包含:

  • 意圖(User Intent):使用者真正想問什麼

  • 主題(Topic):歸屬的主題分群

  • 說明(Resolution Detail):解決狀況的詳細描述

  • 改善建議(Suggestions):針對該筆對話的具體優化方向


進階設定說明

進階設定控制取樣與執行策略,建議先以預設值執行,再依需求調整:

參數
預設值
說明

每群集取樣數

10

每個主題分群最多取幾筆對話進 LLM 分析

最大取樣數

150

整份報告最多分析幾筆對話(控制成本上限)

並行數

8

LLM 分析的並行處理數,數字越高越快但瞬時資源消耗越高

最大擷取對話數

從資料庫撈取的對話總量上限

最少對話訊息數

訊息數少於此值的對話會被過濾(避免分析無意義的短對話)

circle-exclamation

應用情境

情境一:季度品質回顧

需求:主管想知道上一季 Web Chat 對話平台的對話品質與主要問題。

操作

  1. 日期範圍選擇上一季

  2. 最大取樣數設為 300(擴大樣本)

  3. 執行分析,聚焦「解決/失敗原因分佈」與「熱門問題排行」

  4. 針對知識庫缺口、指令過於限制等高頻原因排定改善任務

情境二:版本更新後影響評估

需求:上週調整了角色指令,想知道是否改善對話品質。

操作

  1. 分別針對「調整前一週」與「調整後一週」建立兩份分析報告

  2. 對比兩份報告的解決率與失敗原因分佈

  3. 確認特定失敗類型是否下降

情境三:主題分群做知識庫補全

需求:發現使用者常問的問題,想系統性補充知識庫。

操作

  1. 分析近一個月對話

  2. 從「熱門問題排行」挑出高頻、低解決率的主題

  3. 展開「範例意圖」確認實際問法

  4. 回到知識庫補上對應 FAQ 或文件


常見問題

Q:為什麼有些對話沒被分析?

系統會依「最大取樣數」與「最少對話訊息數」做過濾,並在分群後做代表性取樣。若總對話數龐大,會只取代表性樣本以控制成本。

Q:解決率是如何判斷的?

分析用 LLM 會對每個被分析的對話直接歸類為 9 種狀態之一:已解決、部分解決、知識庫缺口、指令過於限制、工具失敗、用戶不明確、離題、幻覺回應、未知。

解決率公式:

「已解決」與「部分解決」皆計入解決率分子,其餘 7 種狀態都視為未解決。

Q:可以同時對同一對話平台建立多份分析嗎?

可以,但日期範圍不能與進行中的分析重疊。若出現「此對話平台已有進行中的分析,日期範圍重疊」錯誤,請等待該分析完成或選擇不同的日期範圍。

Q:分析要跑多久?

視對話量、最大取樣數、並行數與所選模型而定。一般而言 150 筆取樣約數分鐘到十餘分鐘。系統預設處理時限為 110 分鐘,超過會自動標記為失敗。

Q:分析失敗了怎麼辦?

若狀態顯示「失敗」,可從報告列表查看「錯誤訊息」欄位。常見訊息與處理方式:

  • 「Analysis timed out — the worker may have crashed during processing.」處理超過時限:建議調降「最大取樣數」減少分析量後重試

  • 「Analysis task was never picked up by a worker.」任務未被分派:稍後再試一次即可

  • 其他訊息:可截圖回報給 MaiAgent 服務窗口協助排查

circle-info

若是額度不足,會在建立分析時就直接被擋下並提示,不會出現在「失敗」狀態的報告中。

Q:為什麼我的帳號看不到「對話平台分析」?

「對話平台分析」是「客服對話」存取權限的子項。預設只要 MaiAgent 角色具備「客服對話」存取權限,就會包含此功能。

如果看不到,可能是:

  • 您的 MaiAgent 角色沒有「客服對話」存取權限

  • 組織管理員針對您的角色關閉了「對話平台分析」子權限

請聯絡組織管理員,到角色權限管理頁面檢查並調整。


注意事項

circle-info

權限說明

  • 「對話平台分析」是「客服對話」存取權限的子項,預設包含在所有具備「客服對話」權限的 MaiAgent 角色內

  • 組織管理員可至角色權限管理頁面調整此功能對不同角色的開放

  • 具備此權限的成員可建立與檢視所屬組織內的所有分析報告

circle-exclamation
triangle-exclamation

circle-info

延伸閱讀

Last updated

Was this helpful?