For the complete documentation index, see llms.txt. This page is also available as Markdown.

跨對話檢索

讓 Agent 在同一位聯絡人的近期對話中搜尋相關內容

跨對話檢索讓 Agent 在回覆時,搜尋同一位聯絡人在同一個收件匣中的近期對話。適合需要延續服務紀錄,但使用者可能經常開啟新對話的情境。

此功能預設關閉。開啟後只會放寬 Agent 的搜尋範圍,不會把不同聯絡人或不同收件匣的內容混在一起。

1

在左側選單點選「AI 助理」。

2

選擇要設定的 Agent,進入「設定」。

3

開啟「進階設定」。

4

在對話記憶設定中開啟「跨對話檢索」。

5

在「可回溯天數」輸入 1 至 365 天。預設為 90 天。

進階設定中的跨對話檢索開關與對話記憶設定
在進階設定中開啟跨對話檢索,並設定近期對話的搜尋範圍
6

點選「儲存」。

對話記憶設定裡的其他選項

「跨對話檢索」 所在的 對話記憶設定 區塊還有下列選項:

選項
畫面說明
什麼時候調整

向量記憶

啟用時,歸檔的對話訊息會進行向量化和事實提取,用於語義檢索。關閉時,僅使用當前對話歷史視窗。

對話很長、需要讓 Agent 找回較早訊息時開啟;只處理短對話、想省向量化成本時關閉

Embedding 模型

用於將對話內容轉換為向量,影響對話記憶檢索與上下文理解的準確度

這裡選的是「對話記憶」用的模型,與知識庫設定頁的 Embedding 模型是兩回事;標示 預設 的由平台設定,一般不需更換

Reranker 模型

用於重新排序檢索結果,提升檢索精準度

同上,影響的是對話記憶的重排序

工具結果截斷

自動截斷過大的工具回傳結果,避免記憶膨脹

長期保存事實與偏好的 持久記憶 是另一個區塊,見 持久記憶。

使用情境

小麥科技的客服助理負責追蹤售後案件。顧客在上週的對話中提供訂單狀況,今天另開新對話詢問進度。管理者為客服助理開啟跨對話檢索,並把可回溯天數設為 30 天;儲存後,Agent 便可透過對話歷史工具找到同一位顧客近期對話中的相關內容,再依找到的紀錄回覆。

功能範圍

跨對話檢索的範圍包括:

  • 同一位聯絡人

  • 同一個收件匣

  • 未刪除的一般聊天對話

  • 最後一則訊息落在設定天數內的對話

符合回溯範圍的對話會納入整段訊息,而不只納入回溯期間內的訊息。系統最多選取最近有活動的 200 段對話;目前這一段對話則不受回溯天數限制,永遠會納入搜尋範圍。

關閉功能後,Agent 只會搜尋目前這一段對話。跨對話檢索與「向量記憶」是兩個獨立設定,可以分別開啟或關閉。

最後更新於

這有幫助嗎?