混元加持 騰訊企點(diǎn)智能客服“由里向外”全面升級(jí)
作者:郝俊慧 來(lái)源:IT時(shí)報(bào)
“全面擁抱大模型”的騰訊,9月7日正式發(fā)布通用大模型混元。騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生在當(dāng)日舉行的騰訊數(shù)字生態(tài)大會(huì)上透露,作為騰訊云MaaS服務(wù)的底座,超過(guò)50個(gè)騰訊業(yè)務(wù)和產(chǎn)品,都已接入混元測(cè)試,其中首批服務(wù)已對(duì)外開放內(nèi)測(cè)。
騰訊企點(diǎn)在首批之列。早在今年6月19日,騰訊企點(diǎn)便在騰訊云行業(yè)大模型及智能應(yīng)用技術(shù)峰會(huì)上公布,正在研發(fā)騰訊企點(diǎn)智能客服、騰訊企點(diǎn)分析·AI助手兩款智能產(chǎn)品。如今,兩個(gè)多月過(guò)去,騰訊企點(diǎn)再度迭代,智能客服管理端效率及用戶端體驗(yàn)大幅提升,復(fù)雜問(wèn)題解決率提升30%,“企點(diǎn)營(yíng)銷與分析產(chǎn)品方案”升級(jí)至6.0版本,并開放企點(diǎn)分析·AI助手內(nèi)測(cè)申請(qǐng)。
消除智能客服“幻覺(jué)”
這波由大規(guī)模語(yǔ)言模型引起的AI浪潮,從一開始便被作為生產(chǎn)工具投入產(chǎn)業(yè)發(fā)展中,智能客服將成為第一批被改變的行業(yè),幾乎成為業(yè)內(nèi)共識(shí)。
然而,當(dāng)大模型真正投入客服場(chǎng)景時(shí),一個(gè)新的悖論出現(xiàn):如何讓大模型訓(xùn)練出的客服實(shí)現(xiàn)“零幻覺(jué)”?
究其原因,傳統(tǒng)智能客服只能依賴知識(shí)庫(kù)提供解答服務(wù),對(duì)于非知識(shí)庫(kù)中的問(wèn)題,便無(wú)法提供擬人化的交互體驗(yàn),而且龐大的知識(shí)維護(hù)量也為企業(yè)客服運(yùn)營(yíng)帶來(lái)負(fù)擔(dān)。
盡管大規(guī)模語(yǔ)言模型(LLM)可以順暢地完成多輪對(duì)話,但作為企業(yè)與用戶的第一觸點(diǎn),“客戶要求仍然是,寧愿不回答不要亂回答?!彬v訊云副總裁、騰訊云智能研發(fā)負(fù)責(zé)人、騰訊企點(diǎn)研發(fā)負(fù)責(zé)人吳永堅(jiān)告訴《IT時(shí)報(bào)》記者,為了減少甚至杜絕幻覺(jué),企點(diǎn)新一代智能客服在為客戶提供服務(wù)時(shí),采用循序漸進(jìn)的策略,“一開始,訓(xùn)練數(shù)據(jù)完全來(lái)自知識(shí)庫(kù),非知識(shí)庫(kù)內(nèi)容可以直接拒絕回答,隨著更多相關(guān)知識(shí)文檔被‘投喂’,再根據(jù)反饋機(jī)制對(duì)大模型逐步調(diào)優(yōu)后,幻覺(jué)出現(xiàn)的概率會(huì)越來(lái)越低?!?/p>
據(jù)了解,在知識(shí)構(gòu)建層面,新一代智能客服通過(guò)企業(yè)專屬知識(shí)“導(dǎo)入-校驗(yàn)-調(diào)優(yōu)”閉環(huán),提升復(fù)雜文檔讀取、理解效果,增加了對(duì)圖文混排、多列排版等復(fù)雜文檔接入,通過(guò)語(yǔ)義切塊,生成向量,以高可用、可擴(kuò)展向量數(shù)據(jù)庫(kù)方案豐富問(wèn)答組合及內(nèi)容。此外,通過(guò)快速生成問(wèn)答,以及對(duì)問(wèn)答原文的回溯,提高問(wèn)答校驗(yàn)的效率,借助對(duì)話測(cè)試和運(yùn)營(yíng)工具,可快速實(shí)現(xiàn)調(diào)優(yōu),提升問(wèn)答準(zhǔn)確率。
當(dāng)然,作為騰訊云MaaS服務(wù)底座的混元,本身亦在花大力氣“消除幻覺(jué)”。據(jù)騰訊集團(tuán)副總裁蔣杰介紹,混元的“探真”技術(shù),可以在預(yù)訓(xùn)練階段便優(yōu)化目標(biāo)函數(shù)。與目前市場(chǎng)上常見(jiàn)的開源大模型相比,能有效降低幻覺(jué)30%~50%。

有效降低“轉(zhuǎn)人工率”
傳統(tǒng)人工智能客服發(fā)展多年,用戶滿意度指標(biāo)并不令人滿意。
一份iiMedia Research(艾媒咨詢)調(diào)查數(shù)據(jù)顯示,在2022年中國(guó)用戶對(duì)智能客服不同維度滿意度評(píng)價(jià)中,16.9%消費(fèi)者對(duì)反饋內(nèi)容合理性感到不滿意,12.1%消費(fèi)者對(duì)服務(wù)效率感到不滿意,整體滿意率在60%~70%之間。中國(guó)青年報(bào)的一份調(diào)查也顯示,近6成受訪者對(duì)市場(chǎng)現(xiàn)有的智能客服不滿意。

“轉(zhuǎn)人工率”是人工智能客服有效性的重要指標(biāo)之一,但在傳統(tǒng)人工智能客服服務(wù)場(chǎng)景中,機(jī)械式的回答往往很難解決客戶實(shí)際問(wèn)題,而一旦“轉(zhuǎn)人工率”上升,便失去了AI客服降本增效的目的。
吳永堅(jiān)認(rèn)為,大模型加持后的新一代智能客服,恰恰是希望使智能客服體驗(yàn)更接近“真人客服”,“當(dāng)你感覺(jué)不出對(duì)面是一個(gè)真人還是機(jī)器人時(shí),自然不會(huì)提出轉(zhuǎn)人工。”
比如,新一代智能客服可以更準(zhǔn)確地識(shí)別用戶情緒,及時(shí)給出安撫;當(dāng)用戶提出需求時(shí),可以分辨任務(wù)型、知識(shí)型,還是閑聊型話題,用聊天的語(yǔ)氣、方式解決任務(wù)需求,即使在業(yè)務(wù)辦理過(guò)程中,用戶插入了“閑聊”話題,也不會(huì)導(dǎo)致任務(wù)中斷。傳統(tǒng)客服無(wú)法支持“操作步驟講解”的復(fù)雜需求,大模型智能客服可以通過(guò)上下文信息補(bǔ)全,基于企業(yè)知識(shí)庫(kù)進(jìn)行問(wèn)答推理,從而將復(fù)雜問(wèn)題解決率提高30%。

吳永堅(jiān)透露,目前,大模型智能客服的成本的確高于傳統(tǒng)智能客服,但經(jīng)過(guò)優(yōu)化,成本差距已經(jīng)控制在十倍以內(nèi),今后,隨著技術(shù)的演進(jìn),人機(jī)交互體驗(yàn)的增強(qiáng),成本和效率之間的比例會(huì)越來(lái)越合理,“從騰訊內(nèi)部測(cè)試結(jié)果來(lái)看,用戶對(duì)新一代智能客服給出答案的采納率提升了好幾倍?!?/p>
人人都有“數(shù)據(jù)分析助手”
相較于希望在“第一觸點(diǎn)”百分百滿足用戶需求的智能客服,騰訊企點(diǎn)分析·AI助手更像是在完成一項(xiàng)填空任務(wù),填補(bǔ)整個(gè)業(yè)務(wù)流程中空缺的專業(yè)分析判斷角色。
高速變化的市場(chǎng)營(yíng)銷環(huán)境,正在向企業(yè)不斷提出新課題,如實(shí)現(xiàn)覆蓋全渠道、全旅程的“全域營(yíng)銷”,落地精細(xì)化、定制化的“個(gè)性營(yíng)銷”,提供數(shù)據(jù)驅(qū)動(dòng)、智能化的“數(shù)智營(yíng)銷”,打通新零售線上線下的“融合營(yíng)銷”等。營(yíng)銷方式多元化的出現(xiàn),使能夠快速應(yīng)對(duì)市場(chǎng)市場(chǎng)變化、實(shí)現(xiàn)營(yíng)銷目標(biāo)的人才,出現(xiàn)大量短缺。
騰訊企點(diǎn)營(yíng)銷與分析負(fù)責(zé)人曾煒告訴《IT時(shí)報(bào)》記者,一些基層業(yè)務(wù)決策者可能沒(méi)有很高的職級(jí),不可能配備專業(yè)的營(yíng)銷分析助手,而市場(chǎng)環(huán)境又要求他們快速?zèng)Q策,此時(shí),就可以由大模型來(lái)?yè)?dān)任“助手”角色,給出專業(yè)的Know-how(訣竅),“在整個(gè)業(yè)務(wù)流中銜接和填補(bǔ)專業(yè)分析的空缺位置?!?/p>
大模型的加持,讓“人人擁有數(shù)據(jù)分析助手”成為現(xiàn)實(shí)。
一個(gè)關(guān)于“最近銷量情況”的提問(wèn),可能并不僅僅是單純的數(shù)據(jù)需求,甚至包括對(duì)數(shù)據(jù)背后原因的分析以及下一步營(yíng)銷對(duì)策的建議。為了回答這個(gè)問(wèn)題,騰訊分析大模型將深入解析過(guò)程分為三層。
據(jù)曾煒介紹,首先大模型會(huì)先分解問(wèn)題,將問(wèn)題拆解為對(duì)應(yīng)的指標(biāo),比如“最近銷量情況”中銷量這個(gè)詞匯會(huì)被關(guān)聯(lián)為“銷售額”、“訂單數(shù)”,“最近”被關(guān)聯(lián)為“近7天”,訂單數(shù)可能包括門店、電商、小程序等各個(gè)渠道;拆解完成后,開始做量化分析,大模型會(huì)將這些數(shù)據(jù)與業(yè)務(wù)框架進(jìn)行關(guān)聯(lián),比如銷量等于單筆訂單額*訂單數(shù)量,最終形成指標(biāo)和業(yè)務(wù)維度一一對(duì)應(yīng)的網(wǎng)絡(luò)框架;第三步,也是最重要的一步,結(jié)合業(yè)務(wù)特征、行業(yè)特點(diǎn),進(jìn)行業(yè)務(wù)診斷推理。
“以往這些結(jié)論往往通過(guò)分析員大腦思考后得出,而有了分析大模型,AI在對(duì)郵件、PPT、分析指標(biāo)體系、數(shù)據(jù)分析知識(shí)等等內(nèi)容分析學(xué)習(xí)后,進(jìn)行意圖理解、思路拆解、數(shù)據(jù)推理,進(jìn)而從分析師視角生成結(jié)論?!痹鵁樛嘎?,目前騰訊分析大模型針對(duì)模糊問(wèn)題的準(zhǔn)確性已經(jīng)達(dá)到80%,此前業(yè)界的測(cè)試數(shù)值大多在50%~60%數(shù)據(jù)之間。
基于分析大模型,騰訊升級(jí)推出騰訊企點(diǎn)分析AI助手,已經(jīng)在零售等行業(yè)的多個(gè)頭部客戶中進(jìn)行落地驗(yàn)證,并正式開啟面向全客戶開放內(nèi)測(cè)申請(qǐng)。
“今后,我們將AI大模型能力應(yīng)用到更廣泛的PaaS、SaaS產(chǎn)品。一方面,驗(yàn)證我們MaaS服務(wù)的可用性、易用性。另一方面,也將更多開箱即用的產(chǎn)品、服務(wù),向客戶開放,推動(dòng)大模型在實(shí)際生產(chǎn)、運(yùn)營(yíng)場(chǎng)景發(fā)揮效用?!眳怯缊?jiān)表示。