以 GPT-4、ChatGTP、Bard 等為代表的大語言模型在全球各界引起了廣泛關注。結合 ChatGPT 的底層技術邏輯，未來中短期內 ChatGPT 產業化的方向大致有四類：即智能客服、文字模態的 AIGC 應用、代碼開發相關工作以及圖像生成。其中，最適合直接落地的項目就是智能客服類的工作。

基于大模型技術所構建的智能客服正在從根本上改變傳統的人機交互過程，大模型自動生成對話流程讓運營智能客服更高效，可以提升復雜纏繞問題解決率、人機交互感知程度，以及意圖理解、流程構建、知識生成等運營內容的效率。

如果單從產品滲透率層面來看，智能客服早在過去的七八年里就已經在電商、金融等等領域慢慢普及開來了。大模型帶來的兩個核心改變，一個是開發智能客服產品的成本大幅度下降，另一個就是用戶體驗的提升。

在 2016 年左右，做一個智能客服的原型產品要一個七八人的小團隊耗時幾個月的時間才能完成。有了大模型之后，現在可能一個工程師兩到三天就做出來了。

雖然將原型產品進行產品化需要更長的時間，但是和以前投入的人力和時間成本來比也是數量級層面的下降。

此外，過去的智能客服產品雖然也稱之為“智能”但回答問題時會給用戶留下“呆板”的印象，基本上回答內容都是預先寫好的模版，能夠回答的問題也有限。現在大語言模型能夠根據用戶的問題和對應的標準答案，給出個性化的答案，用戶體驗上已經不太容易分辨出是人工客戶還是機器客服了，這一點上是很明顯的提升。

隨著新一代智能技術的突破，尤其是大模型可以為智能客服提供強大的自然語言生成能力，勢必將智能客服推向更加智能化、高效化和個性化的新局面。

但不得不注意的是，盡管大語言模型在智能客服領域的應用前景看起來非常樂觀，但在現階段它的應?場景仍不成熟：主要表現在其?成結果不夠穩定，且可信度也不夠高。從實際應?場景來說，成熟穩定、經過市場驗證的產品如果貿然引?達模型可能會給產品帶來巨?的變化，甚?影響客戶體驗、浪費?量??物?。

那么，想要將 LLM 大語言模型與智能客服產品進行結合，或者將前者落地于 ToB SaaS 應用軟件領域，該如何著手搭建技術棧？大模型產品將如何賦能智能客服產品？帶著這些問題，我們采訪了華院計算技術總監兼數字人事業部聯合負責人賈皓文和中關村科金智能交互研發總監、中關村科金智能客服技術團隊負責人王素文，探討 AIGC 在智能客服產品中的落地及未來發展趨勢。

可以看到，目前 AIGC 智能客服的優勢?常明顯，隨著 AIGC 智能客服技術的不斷升級和完善，其在?融、電商、物流等領域的應用前景也是十分樂觀的。

但在大模型掀起一場“新革命”革命之前，我們還需要為其鋪好每一段路，不能操之過急。比如在智能客服產品領域中，對話通常是限定于特定業務領域和任務驅動的需求。但客戶并不希望訪客進來只是為了尋找?個超級智能、善解?意、會寫會畫的聊天機器?。對話內容必須在企業業務范疇內收斂，服務于客服和營銷場景，解決和處理問題，不要浪費寶貴的資源。直接將 ChatGPT 這類大模型引?客服領域?不加控制，其結果難免會讓人失望。

構建一款能夠實際應用于業務中的大模型并非容易事，通常需要完成多項步驟，包括大模型選型、數據采集清洗、模型訓練、模型測試與評估、模型微調、部署應用等。具體鏈路：

選擇開源的通用大模型

收集領域數據，用領域數據繼續訓練開源大模型（學術上叫知識注入），得到領域大模型

整理領域任務的指令集合（可以半自動生成），用這些指令數據對領域大模型進行指令微調

篩選優質的真實場景的客服多輪對話數據，繼續微調領域大模型（使領域大模型的對話能力增強）

收集一些安全相關的問題（例如涉及到政治、敏感話題、歧視等），人工給出符合安全要求的答案，繼續微調大模型（對齊到人類的價值觀、規范）

模型部署，對接智能客服系統進行應用

數據準備

對話模型的訓練數據應該具有足夠的質量和多樣性，以提高模型的泛化能力。對話數據可以通過爬蟲、問答社區、對話記錄等多種方式獲得。在獲得數據后，需要進行數據清洗和預處理，使得數據格式規范、數據質量高。

模型訓練

在準備好訓練數據后，就可以開始訓練大模型了。在訓練過程中，需要選擇合適的超參數，如學習率、批量大小、訓練輪數等，以達到最佳的效果。另外，在訓練過程中，可以使用分布式訓練技術，以加速訓練過程。

模型優化

在模型訓練完成后，需要對模型進行評估和優化，以提高模型的泛化能力和效果。常見的優化方法包括調整超參數、增加訓練數據、使用正則化技術、剪枝模型等。另外，也可以通過模型蒸餾等技術，將大模型的知識轉移給小模型，以提高小模型的效果。

對話生成

在模型訓練和優化完成后，就可以進行對話生成了。對話生成可以通過兩種方式實現：一種是使用單個模型進行對話生成，另一種是使用多個模型進行對話生成。在使用單個模型進行對話生成時，需要對話模型具備記憶能力，即模型可以通過上下文信息，生成更加合理、連貫的對話回復。在使用多個模型進行對話生成時，可以利用模型的多樣性，生成更加豐富、多樣的對話文本。

在智能客服產品中，最需要內容?產能?的地?，莫過于知識庫。?般??，智能客服產品都具備這樣?類知識庫：內部知識庫、機器?知識庫和外部知識庫。

對于內部知識庫，?般將其定義成需要實時定位查詢使?的知識庫。由于企業的業務變化頻繁，知識庫的調整需要及時到位。傳統的上傳、編輯、整理等流程?常耗費?作量。引?大模型，可以協助?效智能的協助員?歸類、?成知識庫的類?及明細。同時，還可以增加對外部數據源的引?，并減少知識庫的同步操作。?戶在實際應?時，還可以給對知識點給出反饋，幫助知識庫?動調節權重。

機器?知識庫是?本和語?機器?能夠回答訪客問題的核?所在。機器?知識庫的有效內容對于機器?的表現?關重要。對于未知問題的整理，需要智能客服使?者?量投??作量。借助?戶反饋對未知問題進??動整理和關聯，能節省很多知識庫維護者的?作。同時，通過多機器?組合的?式，在?通會話中接?棒?般服務于客戶的不同場景，大模型專屬機器?也可以在特定的場合發揮能?，并逐步替代?些以往模式僵化的問答型機器?。

而外部知識庫需要整合在智能客服產品中，將已整理的知識內容轉化為輸出產物，更?便?成知識?章、圖?、甚??視頻。基于 ChatGPT 的多模態的 AIGC 能?，可以快速?成?個個性化的知識空間。

總的來說，還是利?大模型??的?成能?，基于向量數據庫、可信內容審核等技術，為智能客服提供優質的內容補充。

盡管大模型在智能客服領域的構建流程和鏈路已經基本清晰，但在實際落地過程中仍然面臨著多種挑戰。

據受訪專家透露，這些挑戰主要來自數據層面，以及和實際客戶的系統場景對接層面，產品本身反而是比較容易的。例如，新要上的系統的客戶數據本身是原始的數據，需要清理出高質量的結構化的數據才能夠有一個比較好的效果，但這一步是十分困難的。

第二個是當實際深入到業務中去的時候，會出現各種信息散落在客戶內部的各種系統里的情況，只有把這些信息打通才能有一個好的效果和體驗。這些都是未來需要重點攻破的難題。

做 Demo 很容易，但是要深入場景的成本，其實主要不在有一個模型上，其實沒法給一個具體的數字。

目前，以 ChatGPT 為代表的大模型已經在許多企業中用于智能客服應用。它可以通過自動回答常見問題、解決簡單問題和提供基本支持，減輕人工客服的負擔。大語言模型通過深度學習和大量的語言數據訓練，能夠理解和生成人類語言，使得用戶能夠以自然的方式與它交互。在一些常見的客戶查詢和問題解答方面，這類大模型已經取得了相當不錯的效果。

然而，當前的大語言模型在實際應用于智能客服場景中時仍存在一些挑戰——它可能會生成錯誤或不準確的回答，尤其是對于復雜的問題或領域特定的知識，這就對智能化程度提出了更高的要求。未來的在線客服系不僅需要更高級的算法和機器學習技術，還需要更多精準的自然語言處理能力。這將對在技術上不太強大的企業形成巨大的壓力。

此外，隨著用戶數量和訪客量的增多，未來智能客服將需要處理超大規模的并發請求。這需要系統在多種方面都擁有特殊的設計，如負載均衡、高可擴展性和高可用性等。

現在市面上的很多對話機器人，回答是單一固定的，變化比較少，與真實的人與人對話還有差距，未來的智能客服系統將需要進一步加強對用戶行為的自適應性和個性化服務。這就需要系統學習更多的用戶數據和信息，并適應不同的用戶行為，為他們提供更好的服務和體驗。如何提升用戶體驗就成為了智能客服供應商主攻的方向。

具體來講，主要應從人性化服務、個性化服務和擬人化的對話交互方面進行改進。

首先是人性化服務。

在場景和意圖理解精準的基礎上，附加更有溫度的對話語境，可以讓機器人在擬人化上，再進一步。多模態情感計算是實現這一步的有效方法。目前，我們正在推進虛擬數字人客服進行人機交互對話，在此過程中結合情感計算，可識別用戶通過視頻、語音、文本所傳遞的情感表達，讓智能客服在應對是作出相應情感反饋，打造具有情感理解、有溫度的人機交互。這種多模態情感計算技術的實現方法主要是通過基于專家規則和基于機器學習兩種。其中，基于機器學習的方法通過訓練模型來自動學習情感狀態的分類標準，可以更好地適應不同領域、不同語境下的情感表達，效果相對更優些。

其次是擬人化的對話型交互。

通過場景化設計優化，比如問題拆解、主題繼承、多輪對話、上下文理解等等，機器人能夠帶來一種更加貼近自然對話場景的對話型交互模式。

第三是個性化服務。

’根據客戶畫像千人千面提供個性化服務，從多角度出發進行語義理解，此外還要附加語音情緒判別。

大模型誕生后，無疑為智能客服領域注入了新的“營養劑”。這種“革新”體現在多個方面，包括座席輔助和座席提效、閑聊寒暄、話術優化建議、提供語料擴寫等。

座席輔助和座席提效：過去的智能輔助更多局限于按單輪對話來完成，基于大模型的能力能夠快速分析并生成面向客戶側的系統支撐策略，這種處理效率和結果，遠超出依附純規則或者純知識庫所能達到的效果；

閑聊寒暄：是智能客服非常關鍵的基礎能力，能夠幫助企業對任意進線客戶進行即時響應。過去的智能客服閑聊主要是將各類非業務相關的語料堆到素材庫，并通過調取數據庫已有的關鍵詞進行內容的回復。如今可以充分借助大模型能力提供閑聊，在非業務領域上為座席和客服提供更多決策依據和參考；

話術優化建議：話術往往決定了客服的效果，話術回復不精準將直接導致用戶的流失。通過大模型強大的內容生成能力，智能客服能夠對話術進行不斷地迭代和與優化，提升客戶滿意度；

提供語料擴寫：在智能客服冷啟動階段，往往需要足夠多的語料來豐富知識庫的相似問法，以保證上線初期智能客服有足夠高的解決率和場景覆蓋率。以往的語料生成模型很難覆蓋眾多垂直行業和領域，大模型在通用領域中積累了足夠的數據和語料，可以很好的彌補語料生成模型的不足，快速生成相似問法，解決智能客服冷啟動語料不足，場景覆蓋率低等問題。

歸根結底，提高對話質量的核心還是理解客戶和用戶的場景，以及能夠搭建出衡量得失的數據框架。這兩個組合之下，會有一個循環反饋的過程，就能夠通過正常的產品迭代達到好的效果，并且能夠衡量出來 ROI 和對實際業務的共享。

隨著全社會點數智化進程步入深水區，越來越多的企業開始使用數字化工具——智能客服系統來做好客戶服務，打造極致體驗，進而提升企業核心競爭力。

無論是垂直領域還是通用型職能客服廠商，都希望憑借 AIGC 技術的成熟讓企業更上一個臺階。但要想把夢境變為現實，仍然任重?道遠。?如需要衡量成本與收益之間的投?產出?、需要保證?戶的數據隱私安全并遵守相關的法律法規、需要保證產品在不同?業場景的通?性及靈活度。

就客服行業而言，傳統人工客服向智能客服升級是必然趨勢，但在可預見的未來內，智能客服還無法完全替代人工客服。它們分別有不同的特點和定位，在處理復雜問題以及對高潛客戶跟進的服務場景中，人工客服仍然處于不可或缺的地位。因此，企業需要根據自身實際情況，綜合考慮人工客服和智能客服的優勢，從而制定最佳的客戶服務策略。

整體來看，AIGC 未來有較廣闊的發展空間，未來兩三年 AIGC 和類 ChatGPT 產業將高速發展，帶來互聯網和企服產業的進一步升級和變化。

不過目前在內容質量、投入成本、數據安全、隱私規范、版權歸屬等方面仍存諸多問題。另外，在長文本生成、視頻生成、融入世界知識等方面，還需更好的建模方法；通過加大模型參數增強 AI 能力，其訓練和推理成本高昂，需要探索更經濟、有效的性能改進途徑。

采訪嘉賓 ：

賈皓文，華院計算技術總監兼數字人事業部聯合負責人，原阿里巴巴集團架構師，也是一位連續創業者。

王素文，中關村科金智能交互研發總監、中關村科金智能客服技術團隊負責人。

本文來自微信公眾號“AI前線”（ID：ai-front），作者：冬梅，36氪經授權發布。