,,

最近一段時間，以 ChatGPT 為代表的大語言模型在互聯(lián)網(wǎng)平臺上引發(fā)了大量用戶的討論，那么如果想將 LLM 大語言模型與智能客服產(chǎn)品進(jìn)行結(jié)合，或者將前者落地于 ToB SaaS 應(yīng)用軟件領(lǐng)域，可以遵循什么樣的搭建策略呢？

就聊聊當(dāng)下熱門話題：ChatGPT 在智能客服產(chǎn)品中該如何落地？

關(guān)于 ChatGPT 為代表的大語言模型，每個人的朋友圈都被刷爆了，不再水字?jǐn)?shù)。咱們直接來做一道真題：如果在智能客服這樣一個 ToB SaaS 應(yīng)用軟件領(lǐng)域，想要落地 LLM 大語言模型，如何實(shí)現(xiàn)？

【資料圖】

首先，先來解決一個值不值得做的問題：智能客服領(lǐng)域，值得用 LLM 大語言模型進(jìn)行智能化產(chǎn)品改造嘛？

產(chǎn)品的幾個典型特征匯總下：

人力密集：

智能客服，是一個高度依賴人工操作的系統(tǒng)，有解放生產(chǎn)力的內(nèi)在需求。

數(shù)據(jù)密集：

智能客服產(chǎn)品可沉淀大量過程性數(shù)據(jù)，如會話信息，通話記錄，錄音，操作日志。有數(shù)據(jù)，就有了人工智能應(yīng)用滋生的沃土。

流程可定義：

這類產(chǎn)品，往往都可以有典型的業(yè)務(wù)流程抽象：如 IVR 語音交互、外呼任務(wù)、工單流轉(zhuǎn)等。

有智能化應(yīng)用基礎(chǔ)：

智能客服是很早邁入 AI 人工智能技術(shù)的賽道之一：文本機(jī)器人，語音機(jī)器人，智能質(zhì)檢的應(yīng)用已經(jīng)非常成熟。客戶和用戶的心智已得到教育。

結(jié)論：一個行業(yè)，有相對落后的生產(chǎn)工具、有比較標(biāo)準(zhǔn)的生產(chǎn)流程，有大量未充分處理的數(shù)據(jù)，且對人工智能無抵觸，那么肯定是一個值得 LLM 落地生根發(fā)芽的沃土。

只不過。這片田地在現(xiàn)階段 LLM 們眼中看來，還是小了一點(diǎn)而已。

如果值得做，那么如何做？

這就是一個見仁見智的問題了，大家的產(chǎn)品架構(gòu)不同，目標(biāo)客群不同、業(yè)務(wù)規(guī)模不同、主打產(chǎn)品各異。

我們可以假設(shè)，已經(jīng)有了一套得到驗(yàn)證，穩(wěn)定運(yùn)營的成熟產(chǎn)品，不希望引入 LLM 帶來現(xiàn)有產(chǎn)品的巨大變化，進(jìn)而影響客戶體驗(yàn)。如何搞？

提倡擁抱變化，嘴上鼓吹 AGI 通用人工智能帶來行業(yè)巨變，這些都沒問題，真要不破不立，付出真金白銀的代價來決策，去執(zhí)行，還是一個很難抉擇的命題。

1. 架構(gòu)設(shè)計問題

審視本身產(chǎn)品架構(gòu)，是否具備 LLM 大語言模型落地基礎(chǔ)。

可以理解、由于歷史原因，當(dāng)前主打產(chǎn)品架構(gòu)陳舊，模塊化解耦不完善，性能瓶頸無法解決，但因?yàn)榕苤芏嗌a(chǎn)客戶，輕易無法改動。這種情況下，再塞入 ChatGPT 到整個架構(gòu)中，將帶來更多沉重壓力。

那么第一步先想清楚，是打算好好優(yōu)化下，還是另辟蹊徑，單獨(dú)做一個外圍 LLM 應(yīng)用。

好比老房子改造，是不是要打算做做基礎(chǔ)施工，還是簡單刷刷墻、做下軟裝得了。

歷史包袱較重的話，也不妨另起爐灶，聚攏有心氣的一支精銳之師沖一下。也算是給原有池塘中投入一只鯰魚。

2. 工具設(shè)計問題

做頂層應(yīng)用設(shè)計之前，我們需要先梳理工具。如 AI 引擎管理、數(shù)據(jù)建模工具、意圖管理管理、標(biāo)簽標(biāo)注和管理，流程生成工具，業(yè)務(wù)構(gòu)建工具等等……

ChatGPT 能力的引入，相較于以前智能客服產(chǎn)品所沉淀的基于自然語言處理、語義理解、意圖識別，關(guān)鍵字和正則處理等方式，帶來顛覆性的改變。借助其能力涌現(xiàn)，上下文關(guān)聯(lián)，邏輯鏈提示處理等方式，原有的手把手定義流程，字詞句填槽的舊模式，勢必得到極大改變。

如果以前構(gòu)建復(fù)雜 AI 應(yīng)用，需要是半編程化的方式，用 ChatGPT 們來實(shí)現(xiàn)，打個比方更像是 RPG 游戲編程工具，以場景搭建、角色扮演，提示格式化、邏輯化，輔以人工反饋監(jiān)督的模式去進(jìn)行。

為什么不能是呢。如果我們做的足夠好用，是不是也可以直接邀請用戶參與到 " 游戲 " 開發(fā)中來？

另外，很多工具本身，更可借助 ChatGPT 進(jìn)行智能化的改造。以更高效和智能的方式來處理數(shù)據(jù)、生成數(shù)據(jù)。

如進(jìn)行自動訓(xùn)練和標(biāo)注、知識庫的自動化擴(kuò)充、來代替語料手工標(biāo)注，代替?zhèn)鹘y(tǒng)問答對的低效人力處理，給出標(biāo)準(zhǔn)問，自動擴(kuò)展相似問等等。

3. 應(yīng)用設(shè)計問題

最后說說智能客服應(yīng)用層面的設(shè)計，這里是用戶可感知的界面和內(nèi)容。

我們來根據(jù)智能客服的一些典型場景，看看 ChatGPT 們的優(yōu)勢能力，可帶來哪些富有想象力的改變。

1）增強(qiáng)型對話能力

不可否認(rèn)，ChatGPT 帶來了極其強(qiáng)大的對話能力，我們?nèi)f分期待，甚至開始腦補(bǔ)其進(jìn)入智能客服對話中的效果。

但是很遺憾，智能客服產(chǎn)品領(lǐng)域內(nèi)的對話，是一個非常典型的限定業(yè)務(wù)領(lǐng)域、任務(wù)驅(qū)動的對話需求，我們客戶肯定不希望訪客進(jìn)來，是尋找一個超高智能、善解人意、能寫會畫的陪聊機(jī)器人。

會話內(nèi)容必須收斂于企業(yè)業(yè)務(wù)范疇內(nèi)，服務(wù)于客服和營銷場景下，解決和處理問題，不要浪費(fèi)寶貴的資源。

不加控制的直接引入 ChatGPT 到客服領(lǐng)域，那感覺就好比你回家撞見掃地機(jī)器人不干活，和隔壁的智能吸塵器聊的你儂我儂，是不是恨不得一棒子打死了事！

所以，構(gòu)建增強(qiáng)型對話能力，一方面我們借助 ChatGPT 簡化了對話流程設(shè)計：以前需要設(shè)定 N 多個意圖，關(guān)聯(lián)無數(shù)個上下文才能實(shí)現(xiàn)的方式，現(xiàn)在開箱即用，自然語言對話獲取、格式化提示完成限定任務(wù)、收集訪客數(shù)據(jù)和意向。另外，通過私有化訓(xùn)練和公共文本數(shù)據(jù)的結(jié)合，對訪客提供不僵化、更優(yōu)質(zhì)的回答體驗(yàn)。

ChatGPT 和傳統(tǒng)文本，語音機(jī)器人能力的結(jié)合，會給智能客服的機(jī)器人服務(wù)能力帶來質(zhì)的飛躍。

2）智能質(zhì)檢

傳統(tǒng)智能質(zhì)檢已經(jīng)是非常成熟的解決方案，但如果通過 ChatGPT，投入預(yù)訓(xùn)練和一定的業(yè)務(wù)規(guī)則定義，可以實(shí)現(xiàn)無需復(fù)雜設(shè)定，更智能的質(zhì)檢結(jié)果輸出。

我們向模型內(nèi)投入一定數(shù)量的優(yōu)質(zhì)錄音、文本，然后告知 ChatGPT 都有哪些加分因子、讓他自動判別生產(chǎn)數(shù)據(jù)的質(zhì)檢情況，然后不斷通過手工質(zhì)檢的對齊調(diào)優(yōu)，讓 ChatGPT 持續(xù)不斷學(xué)習(xí)和改進(jìn)。

3）智能化輔助

同理，對于座席側(cè)智能輔助功能，也是可以通過對優(yōu)質(zhì)樣本的投喂，正確流程和加分因子的定義，不斷的讓 ChatGPT 在數(shù)據(jù)滋養(yǎng)下，實(shí)時對座席給出更好的輔助能力。原有的輔助功能框架可以保留，但是內(nèi)里是一個不斷進(jìn)化，自動學(xué)習(xí)的 " 業(yè)務(wù)助理 "

4）內(nèi)訓(xùn)機(jī)器人

基于智能質(zhì)檢和智能輔助的基本能力，針對使用場景是企業(yè)內(nèi)訓(xùn)的機(jī)器人，也完全可以基于現(xiàn)有數(shù)據(jù)樣本，更自動化的生成內(nèi)訓(xùn) " 教官 "，我們業(yè)務(wù)管理人員，可以針對崗前培訓(xùn)、業(yè)務(wù)流程、服務(wù)過程設(shè)定不同內(nèi)訓(xùn)主題，一定量標(biāo)準(zhǔn)語料訓(xùn)練后，讓內(nèi)訓(xùn)機(jī)器人指導(dǎo)座席進(jìn)行自我訓(xùn)練，這種對于強(qiáng)調(diào)學(xué)習(xí)能力和管理能力的運(yùn)營型客戶，很有吸引力。

5）智能填單類

智能客服應(yīng)用中，有大量需要手工輸入的表單：客戶資料、跟進(jìn)記錄、服務(wù)工單，目前市面上 CRM 領(lǐng)域已經(jīng)出現(xiàn)借助 ChatGPT 進(jìn)行智能填單的實(shí)驗(yàn)性應(yīng)用。按以往的實(shí)現(xiàn)方式，必須有復(fù)雜的工程化設(shè)計，將會話文本實(shí)時匹配，借助詞性分析，語義分析和關(guān)鍵字查找等方式，使用表現(xiàn)往往不盡如人意。我們可以期待 LLM 大語言模型的超強(qiáng)能力可以有效提升這類型產(chǎn)品的實(shí)用度。

6）從幫助中心到座席助理

全功能的智能客服產(chǎn)品已經(jīng)是一個非常龐大的產(chǎn)品體系，功能多如牛毛，上手難度很高。

很多產(chǎn)品的設(shè)計，需要操作者進(jìn)行到處跳轉(zhuǎn)去查找、配置、調(diào)整。以往的幫助形式，除了簡單的頁面的功能提示，就是如 wiki 一般厚重的在線幫助頁面，對使用者說不上友好，對開發(fā)者也有持續(xù)更新維護(hù)的沉重負(fù)擔(dān)。

而使用智能助理模式的在線幫助，不同角色的人員可以通過對話式的簡單體驗(yàn)，來獲取使用上的實(shí)時協(xié)助，甚至一些功能型的配置和要求，聰明的助理也可以準(zhǔn)確理解使用者的對話，直接進(jìn)行配置和改變。

比如：系統(tǒng)管理員喚起智能配置助理：

" 小 C 小 C，幫我查找一個近半個月名字叫做 *** 的客戶所有訪問和對話記錄 "

這個對小 C 的能力來說，就是小 case 了。

" 小 C 小 C，我需要設(shè)置一個清明節(jié)的 IVR 語音導(dǎo)航，所有清明節(jié)時間呼入的電話，都提示這樣一句話：***"

這個要求嘛，還是有一定風(fēng)險，出于謹(jǐn)慎目的，小 C 還需要和你反復(fù)確認(rèn)一些關(guān)鍵配置要素，確認(rèn)無誤才去執(zhí)行。

7）AIGC 知識庫

智能客服產(chǎn)品中，最需要內(nèi)容生產(chǎn)能力的地方，莫過于知識庫。

產(chǎn)品必備的知識庫通常分幾類：內(nèi)部知識庫、機(jī)器人知識庫和外部知識庫。

① 內(nèi)部知識庫

是提供給座席使用者，會話中實(shí)時定位查詢使用。企業(yè)的業(yè)務(wù)變化多端，知識庫的調(diào)整要及時到位。對于內(nèi)部知識庫的整理。一般需要專人進(jìn)行上傳、編輯、整理，用過的都知道這是一個非常耗費(fèi)工作量的事情。

ChatGPT 的引入，能協(xié)助高效智能的歸類，自動生成知識庫類目、明細(xì)。如果增加對外部數(shù)據(jù)源的引用，知識庫還可以自動關(guān)聯(lián)，減少知識庫同步的操作。使用者在應(yīng)用中，可給與知識點(diǎn)反饋，能幫助知識庫進(jìn)行權(quán)重自動調(diào)節(jié)。

② 機(jī)器人知識庫

文本和語音機(jī)器人能夠回答訪客問題，依賴機(jī)器人知識庫的有效內(nèi)容。一旦無法命中，機(jī)器人只能回避或者推薦其他知識點(diǎn)。對于未知問題的整理，是需要智能客服使用者大量投入工作量的一個地方。

同樣，對于調(diào)用量遠(yuǎn)大于內(nèi)部知識庫的機(jī)器人知識庫來說，借助用戶反饋來對未知問題進(jìn)行自動整理和關(guān)聯(lián)，能節(jié)省很多知識庫維護(hù)者的工作。我們也可以通過多機(jī)器人組合的方式，在一通會話中接力棒一般服務(wù)于客戶的不同場景，那么被訓(xùn)練好的 ChatGPT 專屬機(jī)器人，也可以在特定的場合發(fā)揮能力，并可以逐步替代一些以往模式僵化的問答型機(jī)器人。

③ 外部知識庫

如果企業(yè)有知識門戶的需求，需要整合在智能客服產(chǎn)品中，如果不把這類產(chǎn)品算作一個獨(dú)立品類的話，基于 ChatGPT 的多模態(tài)的 AIGC 能力，可以更方便的將已整理的知識內(nèi)容轉(zhuǎn)化為輸出產(chǎn)物，更方便的生成知識文章、圖片、甚至音視頻，快速生成一個個性化的知識空間。

充分發(fā)揮 ChatGPT 創(chuàng)造性的工作，這里還有很多的想象空間。

④ 數(shù)據(jù)預(yù)測類應(yīng)用

最后我想到的一個品類，是基于對智能客服數(shù)據(jù)的預(yù)測分析。作為以往智能客服類產(chǎn)品的一個 " 短板 "，建設(shè)數(shù)據(jù)預(yù)測類產(chǎn)品可能需要很重的 CDP 數(shù)據(jù)平臺建設(shè)，CEM 客戶體驗(yàn)管理等方式，如果 ChatGPT 可以更高效精準(zhǔn)的進(jìn)行銷售意向，行為，成交概率的預(yù)測，對利潤中心導(dǎo)向的智能客服產(chǎn)品，將具有很大價值。

4. 商業(yè)化前景

以上，完全只是構(gòu)想，甚至算是空想，想要做出真正落地的應(yīng)用，我們更應(yīng)該同步關(guān)注這些問題：

投入產(chǎn)出比？

可衡量的客戶認(rèn)可和價值體現(xiàn)？

通用性與行業(yè)性？

數(shù)據(jù)風(fēng)險和監(jiān)管安全？

這樣的問題繼續(xù)深入下去，將有很多的擴(kuò)展，也不是我這一篇短文就能聊清楚。后續(xù)我會隨著思考和實(shí)踐，再單獨(dú)分類整理。

ChatGPT 們的到來，首先讓我們震驚，然后是思考，更重要是發(fā)現(xiàn)全新的機(jī)會。

所知有限，期待與大家的深入交流。

最后的最后，來看看 ChatGPT 和文心一言對這個問題的解答吧

公眾號：通信產(chǎn)品的那些事

本文由 @通信產(chǎn)品的那些事原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。