“在生成式AI革命的兩年后，研究領域從‘快速思維’——快速反應的預訓練回答，向著‘慢速思維’——推理時的深度思考發(fā)展。這一轉變正在催生一批全新的智能應用”

——Sequoia
《生成式 AI 第一幕，智能體推理時代開啟》

2024年各領域 AI Agent 集中爆發(fā)，生成式AI在企業(yè)應用層價值迅速放大，全球 AI 應用層公司將通過提供具有自主推理能力的場景服務工具，逐步占據(jù)市場。

在本期內容中我們將立足客戶服務場景，對 AI Agent 定義、工作原理、技術演進結合美洽 AI Agent 研發(fā)實踐探討 AI Agent 發(fā)展趨勢。

定義與工作原理

AI Agent，也就是人工智能體，通俗的講，是一個高度擬人計算程序，借助“大模型”大腦，它能完全理解所處環(huán)境發(fā)生的事情，自己思考問題、做決定、自主執(zhí)行完成任務。從技術層面看，AI Agent 基礎架構是由4個關鍵部分組成：規(guī)劃Planning、記憶Memory、工具Tools、行動Action。

規(guī)劃 Planning
LLM 可以賦予智能體“規(guī)劃”的思維模式，對復雜的任務進行拆解，拆分為多個步驟，一步步思考和解決，借助RAG等技術工具使輸出結果更加準確。

記憶 Memory
類似于人類的“記憶”機制，智能體擁有短期記憶與長期記憶，單次會話的上下文記憶會被短暫的儲存，以用于多輪會話，在任務完結后被清空；長期記憶如用戶的特征信息、業(yè)務信息等通常用向量數(shù)據(jù)庫來存儲和快速檢索。

工具 Tools
智能體具備使用各種“工具”的能力。比如通過調用軟件系統(tǒng)不同應用模塊的 API，獲取到指定的業(yè)務信息，以及執(zhí)行業(yè)務的操作權限。通過調用外部的插件工具，來獲取原本 LLM 并不具備的能力。

行動 Action
智能體基于規(guī)劃和記憶來執(zhí)行具體的“行動”，完成特定任務。

AI Agent 與大模型 、RAG 的關系

LLM大模型、RAG 檢索增強常與 AI Agent 一同出現(xiàn)，他們之間在實際場景應用中究竟有什么樣的聯(lián)系呢？

LLM可以被看作是 Agent 的“思考中樞”。Agent 利用 LLM 的推理能力，將復雜問題細化為多個小問題，并確定它們的解決順序，即哪些問題需要優(yōu)先處理。隨后，AI Agent 會依據(jù)這個順序，依次調用 LLM、RAG 技術或外部工具來逐一解決這些小問題。在這一過程中 RAG 可以實現(xiàn)加入本地知識庫、實時數(shù)據(jù)等來增強大模型的檢索和生成能力，提高信息查詢和生成質量。

同樣是對話，為什么 AI Agent 如此不同？

在大模型技術廣泛應用之前，客戶服務自動化主要依靠聊天機器人/Chatbot 來實現(xiàn)。聊天機器人按照預先編寫的對話流程工作，通常會重復固定的回復，而 AI Agent 能夠進行智能推理。

與 AI Agent 對話的體驗更像是與一位聰明的客服人員交流，而與聊天機器人的對話則像是在選項菜單中挑選答案。傳統(tǒng)聊天機器人需要創(chuàng)建常見問題列表，并為每個問題準備腳本化的回答，這一過程既耗時又難以擴展。相比之下，AI Agent 如同一名具有巨大潛力的數(shù)字員工，能夠迅速接入現(xiàn)有的信息源，快速學習并提供個性化的解決方案，幫助客戶解決問題。

對于企業(yè)來說
客戶服務 AI Agent 有哪些立竿見影的應用價值？

在營銷客服領域，AI Agent 的應用正迅速革新傳統(tǒng)模式。技術成熟的 AI Agent 可以高效執(zhí)行營銷及客服場景中標準化重復任務，并通過人機協(xié)作的方式處理一些復雜場景。

更智能的售前接待與線索獲取：
7X24小時在線，意圖識別，情緒分析，快速精準的響應，可高度還原真人售前人員，提升售前對話線索獲取效率。

點擊了解相關產(chǎn)品

更高效的售后服務與客戶支持：
自動化標準任務、智能路由、人機協(xié)同，提升服務效率、解放更多人力，提升客戶體驗。

點擊了解相關產(chǎn)品

無障礙出海營銷與客戶服務：
多語言自動翻譯切換，跨時區(qū)服務，直接為企業(yè)出海業(yè)務、全球獲客提供最實用的工具。

點擊了解相關產(chǎn)品

客戶服務AI Agent技術難點

有了大模型，為什么還會衍生出種類繁多的 Agent？這是因為現(xiàn)實世界是復雜的，在企業(yè)活動中的每個場景也是復雜的，現(xiàn)實場景需要大量特定的應用推理，這些推理無法有效地被納入到一個通用模型中。這就是《生成式 AI 第一幕：智能體推理時代開啟》一文中提到的 AI 應用層正在不斷自定義的特定場景的“認知架構”。

以客戶服務領域為例，無論是售前還是售后場景中的 AI Agent 構建，并不是給基礎的 AI 模型加個操作界面那么簡單，這是一種十分復雜的開發(fā)系統(tǒng)，面對不同的AI模型，就像面對一個多才多藝的團隊，每個成員都有自己的特長，需要通過一種高效的協(xié)調方式，也就是路由機制來集成。除此之外，還會用到特殊的數(shù)據(jù)庫來存儲和管理信息（RAG 向量/圖形數(shù)據(jù)庫），確保數(shù)據(jù)安全和合規(guī)。最重要的是，Agent 需要實現(xiàn)模仿人類的思考方式，幫助解決復雜問題。

本章節(jié)內容來自美洽 AI 研究中心負責人訪談實錄

根據(jù)產(chǎn)品發(fā)展的普遍規(guī)律，產(chǎn)品演進通常遵循三個階段：

起步階段：在這一階段，產(chǎn)品的核心功能得以實現(xiàn)，以滿足用戶的基本需求。
成熟階段：隨著功能的不斷豐富和完善，產(chǎn)品開始支持更高層次的用戶交互，包括人工干預和調整，以提升用戶體驗。
創(chuàng)新階段：在這一高級階段，產(chǎn)品通過智能化技術實現(xiàn)自主學習和適應，以提供更加個性化和高效的服務。

美洽各產(chǎn)品線正是遵循這一演進路徑，緊跟前沿技術，從最初的基礎功能實現(xiàn)，逐步過渡到功能豐富和用戶友好的優(yōu)化，到目前全線擁抱AI，重新定義場景需求，推動產(chǎn)品下一層級的發(fā)展。

第一代：RASA 時代

Rasa Open Source，一個誕生于2019年的開源機器學習框架。2022年初，Rasa 3.x 的發(fā)布，這個機器學習框架迅速在智能客服領域得到廣泛應用，美洽也在當時推出了基于 Rasa 的客服機器人商業(yè)化產(chǎn)品，覆蓋服務售前營銷和售后問答場景。

這個階段的AI客服主要依賴于意圖識別和實體提取技術，能夠處理結構化的對話流程。但在處理復雜、多輪對話時不夠智能。例如，它難以精確理解上下文語境，無法處理復雜的用戶詢問，應對不在預設范圍內的問題時候缺乏靈活性，當需要優(yōu)化識別和調整話術時，需要補充語料后重新訓練。

第二代：SOP + LLM Agent

OpenAI 的 GPT-3 模型的問世標志著一個新紀元的開啟，基于這一代技術，美洽針對客服領域開發(fā)了一套可控、可調節(jié)的場景化 SOP，集成了大型語言模型 Agent 能力。自2024年4月起，產(chǎn)品形態(tài)從單一Agent 到多 Agent協(xié)同、Workflow 管理，再到現(xiàn)在的 Agent 組合工具+ SOP + Agent Workflow 集成解決方案。

在技術探索的旅程中，我們對多個主流大模型平臺進行廣泛的調研測試，包括 Dify、扣子、阿里云百煉、火山云方舟、FastGPT、Flowise、RagFlow，希望從中找到最適合的客服場景落地的 ToB 解決方案。當前美洽已與行業(yè)內領先廠商建立了深度合作關系，包括通義千問、豆包、Azure OpenAI、Claude、DeepSeek、Llama 等。

技術更新的速度比我們預想的還要快，在9月份30天時間里，我們連續(xù)推出了3個版本的 RAG 知識庫方案。在 2.0 版本尚未完全開發(fā)完成時，我們發(fā)現(xiàn)了更先進的方案，于是果斷決定放棄 2.0 版本，直接轉向 3.0 版本的開發(fā)，以實現(xiàn)技術的快速演進。

截止目前，美洽全產(chǎn)品線 AI 功能均向新老客戶開放試用了，美洽 AI Agent 能力已經(jīng)在部分客戶一線業(yè)務場景中發(fā)揮作用，老用戶可以原地升級到最新 AI 版本，新用戶可以免費體驗我們新版本 AI 客服功能，感受技術革新帶來的便捷與效率。

在 Open AI 的構畫中，Agent 是AI系統(tǒng)發(fā)展的一個階段：

它隨著AI技術的發(fā)展而進化，未來可見的是 AI Agent 將通過融合自然語言處理、計算機視覺和語音識別等技術，在多模態(tài)交互上實現(xiàn)突破，提供更自然高效的互動，關于 AI Agent 的演化路線，我們引用一副圖表來展示：

在 Agent 未來更高的發(fā)展階段中，它是能夠自我組織，自我決策、自我調度來完成復雜的任務，這一層級能力將最直接地反映在客戶服務場景中。

傳統(tǒng)人工客服中的技能組：售前咨詢、產(chǎn)品推薦、成交促進、訂單處理、售后服務、投訴管理、技術支持、反饋收集等等對應著不同的 Agent 能力，所有這一切環(huán)節(jié)，AI能夠7*24小時自我組織不同技能的 Agent 來完成接待工作，這應該是所有客戶理想中的智能客服的狀態(tài)，這也是美洽前進的方向，“我們不確定這樣的未來還有多遠，我們只知道每往前一步，就離這個未來更近。”

END