智能客服行業(yè)掀起了一股大模型熱

　　智能客服行業(yè)掀起了一股大模型熱。

　　文|徐鑫

　　編|任曉漁

　　“現(xiàn)在客戶上來就問能用大模型打電話嗎?如果沒有大模型能力，客戶就不跟你聊了”，云蝠智能CEO魏佳星告訴數(shù)智前線，市場對大模型客服的認(rèn)知度在加速。

　　行業(yè)內(nèi)也把智能客服視作大模型率先落地的典型場景之一。大模型能更好地理解用戶問題，生成與用戶需求匹配的回復(fù)，甚至預(yù)測用戶行為、提供個性化推薦。這極大提高了客服效率和質(zhì)量，還為企業(yè)節(jié)省了大量人力和時間成本。

　　IDC中國研究經(jīng)理程蔭告訴數(shù)智前線，這一領(lǐng)域，企業(yè)投資大模型預(yù)期是做到替代人，而不是輔助人。而很多客服以外的場景落地成熟度不高，一個極大原因在大模型只能輔助人，不能很好地測算ROI。

　　技術(shù)的快速進步和大模型推理成本急劇降低，無疑是大模型落地智能客服的加速劑。“去年年初ChatGPT的一次調(diào)用成本還在幾美分，一通客服電話對客戶的報價1.2毛，當(dāng)時商業(yè)模式根本跑不通。現(xiàn)在推理成本急劇下降，一次外呼調(diào)用大模型只需要0.2分”，商業(yè)應(yīng)用一下子加速。魏佳星提到，目前這股技術(shù)升級和成本下降的趨勢還在持續(xù)。

　　熱潮下，市場上正呈現(xiàn)出兩種應(yīng)用路徑，老牌的智能客服企業(yè)積極疊加大模型能力，而大模型企業(yè)也快速切進智能客服賽道。

　　但還處于發(fā)展初期的大模型智能客服仍要攻克一系列難題。比如文本客服如何克服幻覺以及語音客服面臨的時延及擬人度的挑戰(zhàn)。一些企業(yè)正采取漸進策略，在一些要求不高的場景率先讓產(chǎn)品落地。

　　不再智障的智能客服可能正在到來。

　　01

　　推理成本下降，大模型進智能客服提速

　　魏佳星進入智能客服市場已有七年，他看到，去年以來大模型技術(shù)快速演進，越來越多智能客服領(lǐng)域的商機、需求與大模型相關(guān)。“就跟汽車的智駕功能一樣，不管客戶最后用不用，但是沒有它就不行。”

　　蓬勃的市場需求，從央國企的大模型招投標(biāo)數(shù)據(jù)中也能窺見一些端倪。數(shù)智前線此前統(tǒng)計，今年Q3的大模型相關(guān)項目的招投標(biāo)，僅項目名稱中與智能客服相關(guān)的項目就有9個。雖然在總量超360的大盤里占比不算很高，但大模型智能客服的需求已經(jīng)浮出水面，并形成了一定規(guī)模。

　　一家關(guān)乎國計民生領(lǐng)域的央企相關(guān)人士此前也告訴數(shù)智前線，他們正為旗下某超級應(yīng)用里的大模型智能客服尋找合作供應(yīng)商，預(yù)計項目規(guī)模在千萬元級別。他們已經(jīng)摸排了市面上包括阿里、訊飛等多個廠商的智能客服產(chǎn)品能力，當(dāng)下正在產(chǎn)品選型階段。

　　IDC今年八月的報告數(shù)據(jù)里能看到市場空間正在加速打開。2023年智能客服解決方案整體市場規(guī)模達到了30.8億人民幣，較2022年增長了近36.9%。

　　業(yè)界觀察，蓬勃的需求，首先與過去近兩年，大模型技術(shù)快速進步，對智能客服能力帶來了明顯的升級有關(guān)。

　　“大模型驅(qū)動的智能客服，企業(yè)不需要非常多的NLP小模型，靠大模型能解決NLP的關(guān)鍵性任務(wù)，同時機器人的理解力、語言生成能力都有很大的躍遷。”百度智能云智能客服與智能內(nèi)容產(chǎn)品部總經(jīng)理張紅光在今年9月的一場媒體溝通會上說。

　　當(dāng)下，大模型改善客服體驗，場景并不局限在直接跟用戶溝通場景里的語音機器人和文本機器人上。比如在智能質(zhì)檢和分析的場景里，大模型可以用于確認(rèn)人工客服或者機器人客服的服務(wù)是否符合企業(yè)定義的SOP，還能給對話打結(jié)構(gòu)化標(biāo)簽，去改善客服服務(wù)。

　　程蔭告訴數(shù)智前線，除了文本/語音機器人、智能質(zhì)檢、坐席輔助、數(shù)字人客服、視頻客服、智能分析、座席培訓(xùn)等傳統(tǒng)智能客服場景外，和客服強相關(guān)的其他領(lǐng)域，如營銷、培訓(xùn)、運營、決策等存在用戶交互需求的里，對大模型智能客服的需求也在提升。

　　魏佳星觀察到，技術(shù)進步使得語音機器人在解鎖一些原來做不了的場景，比如云蝠智能就在開拓基于大模型的智能體去做電話面試業(yè)務(wù)。這個新場景，對機器人的理解能力、語言表達自然程度都要有求，服務(wù)的報價也相比傳統(tǒng)場景有倍數(shù)級的提升。

　　智能客服與大模型快速結(jié)合，還與模型的調(diào)用成本快速下降密切相關(guān)。

　　去年年初，GPT3.5的接口調(diào)用成本一次還在幾美分的水平，當(dāng)時魏佳星判斷它只有單次調(diào)用成本下降到1分錢左右，行業(yè)里的成本賬才能算得過來。現(xiàn)在，差不多18個月過后，語音機器人單次調(diào)用大模型接口的成本早已跌破了這個數(shù)字。

　　這不只發(fā)生在海外，國內(nèi)的模型廠商們在今年上半年也開啟了激烈的降價行動。阿里CEO吳泳銘今年9月提到，模型推理成本指數(shù)級下降，已經(jīng)遠(yuǎn)遠(yuǎn)超過摩爾定律。零一萬物CEO李開復(fù)幾天前參加活動時提到了一個很激進的數(shù)字，過去一年半的時間內(nèi)，大模型推理成本的價格差了500倍，同時模型能力還有很大程度的提升。

　　其他大模型廠商也有各種降價動作。推理成本明顯的下降趨勢，使得今年智能客服行業(yè)服務(wù)商們應(yīng)用大模型的進程在提速。

　　02

　　可測算ROI VS仍待克服的障礙

　　去年以來，頭部企業(yè)都把智能客服領(lǐng)域視作大模型落地的先行場景。

　　阿里云在去年云棲大會上首次發(fā)布的8款基于通義打造的行業(yè)大模型里就有智能客服通義曉蜜，它能基于企業(yè)需求定制客服對話機器人。網(wǎng)易數(shù)智則在去年9月推出了面向客戶服務(wù)的商和大模型，用于智能質(zhì)檢、客服機器人、智能外呼、精準(zhǔn)洞察等客服場景。

　　今年百度智能云從3月開始對外推出，并持續(xù)在升級的三款標(biāo)桿應(yīng)用里，就有基于大模型重構(gòu)、升級的智能客服產(chǎn)品客悅。

　　騰訊集團副總裁、政企業(yè)務(wù)總裁李強也在今年騰訊數(shù)字生態(tài)大會的媒體溝通環(huán)節(jié)提到，相比應(yīng)用到生產(chǎn)研發(fā)等復(fù)雜場景，在容錯率相對高一些的場景，比如智能客服領(lǐng)域，大模型的落地應(yīng)用進展會更快。

　　基于客服領(lǐng)域去落地及探索大模型應(yīng)用的企業(yè)還有很多，技術(shù)服務(wù)商們紛紛進場，與這一場景里大模型帶來的降本增效效果比較明顯有關(guān)。

　　IDC程蔭介紹，他們通過很多深度訪談發(fā)現(xiàn)，引入智能客服確實極大地提高了客戶服務(wù)的效率和質(zhì)量，還為企業(yè)節(jié)省了大量的人力和時間成本，帶來的收益是能測算的。

　　百度集團執(zhí)行副總裁、百度智能云總裁沈抖在云智大會上提到，客悅在客服自助解決率上有大幅提升。這是客服服務(wù)領(lǐng)域里的一個重要指標(biāo)，“業(yè)界自助解決率普遍在80%左右，大模型重構(gòu)升級后，客悅自助解決率突破了92%，客服變得更聰明、更擬人、更懂用戶。”

　　快遞物流信息服務(wù)商快遞100，今年將大模型技術(shù)應(yīng)用到客服場景。該公司CEO陳登坤告訴數(shù)智前線，“大模型與客戶反饋及系統(tǒng)規(guī)則的協(xié)同效應(yīng)顯著增強，共同解決了高達90%的工單問題，僅10%的問題需人工干預(yù)，客訴一次性解決率高達99.4%。”

　　容聯(lián)云大模型產(chǎn)品人士則提到，他們在保險服務(wù)場景里，基于大模型，實現(xiàn)了對400電銷電話大量錄音內(nèi)容的洞察和挖掘。應(yīng)用后，降低潛在客訴量達到10%左右。

　　電銷電話以前只能圍繞電話數(shù)量和時長去分析，但實際上電話內(nèi)容里蘊含很多用戶的潛在需求。有了大模型后，大模型能提取到用戶的潛在需求，還能從電話內(nèi)容里挖掘出資深服務(wù)人員的優(yōu)質(zhì)回復(fù)，為后續(xù)服務(wù)提供話術(shù)建議和參考。

　　這些都是大模型提升智能客服體驗的進展。但硬幣的另一面，依然還有很多難題需要解決。

　　IDC告訴數(shù)智前線，從2023年以來，頭部的技術(shù)供應(yīng)商還在進行一些產(chǎn)品化，商業(yè)化進展還不是很顯著，市場還是以AI傳統(tǒng)客服為主。大模型賦能的客服產(chǎn)品在行業(yè)的普遍應(yīng)用中還存在與原有系統(tǒng)的耦合、理解能力有限、缺乏上下文感知、交互性和靈活性不足、個性化服務(wù)不足等挑戰(zhàn)，需要根據(jù)具體場景持續(xù)的訓(xùn)練調(diào)優(yōu)，投入數(shù)據(jù)、算力資源。

　　一位企服行業(yè)資深人士就感慨，在驚嘆于技術(shù)的突破時，行業(yè)也切實需要去解決許多問題，比如真實溝通場景的幻覺控制，新技術(shù)融入到企業(yè)業(yè)務(wù)流程里的改造和管理成本等。

　　以語音場景里大模型驅(qū)動的智能體為例，當(dāng)下語音的擬人度不夠，客戶很容易能聽出來實時生成的聲音不是真人。同時由于電話場景對時延要求高，幻覺問題也很難解決。

　　一些大型的項目，還涉及到后續(xù)建設(shè)和運維的成本。前文提及的某央企千萬級智能客服項目，相關(guān)人士提到他們產(chǎn)品選型十分慎重，原因在于項目的后續(xù)建設(shè)和運維成本高。因此，他們雖然對各家廠商的能力特點如數(shù)家珍，卻遲遲沒有敲定合作對象。

　　另外，一位智能客服行業(yè)資深人士提到，除了技術(shù)層面的各種限制，她也看到一些場景并不鼓勵完全“去人化”的客服。“現(xiàn)在AI可能解語文題的能力提升了，可能也能解數(shù)學(xué)題。但是客服場景里很多是客訴，它可能是法律題、心理題和社會題，很多時候用戶還是更愿意接聽電話的是真人。”

　　03

　　漸進式路線：在能落地的場景里先用起來

　　基于大模型去升級產(chǎn)品有一大特性，基礎(chǔ)模型能力的躍升，會帶來產(chǎn)品性能和體驗的提升。但在能力更強的模型到來之前，技術(shù)服務(wù)商們需要基于當(dāng)下的技術(shù)局限，找到產(chǎn)品化、商業(yè)化的合適節(jié)奏。

　　魏佳星提到，他們的策略是，在時延和擬人度問題沒有理想的解決方案前，先找對這些指標(biāo)要求比較低的業(yè)務(wù)場景先用起來，“比如400電話，你能接受它的時延問題，可以接受它的擬人度不夠，聽起來像機器人，現(xiàn)在這些場景里用起來。”

　　一家服務(wù)汽配行業(yè)的軟件服務(wù)商用智能體來服務(wù)車廠及終端車主的特殊車型維修零配件報價，目前有80%的客服詢價由智能體完成。

　　針對智能體有一些幻覺等不可控因素，他們也采取了智能體加上真人監(jiān)管結(jié)合的服務(wù)模式，來更好服務(wù)客戶。“詢報價智能體在客戶群里溝通，但是這個里面群里還是有銷售在做一些監(jiān)管的動作”，該服務(wù)商說。

　　容聯(lián)云產(chǎn)業(yè)數(shù)字云VP孔淼則提到，針對大模型全面替代帶來的算力成本及幻覺等問題，可以先用大模型解決局部問題。

　　“比如用它解決前端的泛化問題，轉(zhuǎn)化成具體的任務(wù)后，再用高效的小模型來解決，采取大小模型結(jié)合的策略。”孔淼在幾個月前的一場產(chǎn)業(yè)論壇中提到。

　　正如IDC所說，大模型賦能的智能客服發(fā)展還在初始階段，商業(yè)化仍有待推進。不過，一些企業(yè)也看到了當(dāng)下市場偏好的一些特征，并嘗試找到一些商業(yè)化的策略。

　　魏佳星發(fā)現(xiàn)，許多企業(yè)雖然對大模型功能有認(rèn)知，但相比大模型原生的智能體產(chǎn)品，他們更偏好上一代的具備可解釋性的產(chǎn)品，“短期里大模型是一個銷售型功能”。

　　而大模型原生的Agent類型產(chǎn)品探索價值在于，一方面這是未來的發(fā)展方向，另外，它可以解耦出一部分能力，用于升級上一代產(chǎn)品，從而提升用戶體驗和留存，最終實現(xiàn)間接的商業(yè)轉(zhuǎn)化。

　　以電話面試場景為例，這里面可能涉及到N個智能體協(xié)同工作。比如第一個AI對非結(jié)構(gòu)化簡歷進行讀取，讓簡歷變成標(biāo)準(zhǔn)的小字段便于其后的AI閱讀。第二個AI要調(diào)取GPT級別的最高級模型，教打電話的AI去訓(xùn)練它的緩存體系。第三個AI負(fù)責(zé)打電話，發(fā)起呼叫。第四個AI把通話記錄抽取成標(biāo)準(zhǔn)的結(jié)論。

　　這個過程里四個AI能力可以被解耦，其中的一部分技術(shù)方案賦能給上一代產(chǎn)品，“目前商業(yè)化收入里很多來自技術(shù)方案復(fù)用給上一代之后帶來的收入增長。”魏佳星說。

　　當(dāng)下，無論是AI傳統(tǒng)客服企業(yè)帶著場景接入大模型能力，還是大模型企業(yè)帶著錘子進入智能客服賽道，這一領(lǐng)域的熱度正在提升。

　　“以云服務(wù)為代表的平臺級公司在底層大模型、新一代智能客服產(chǎn)品上有研發(fā)優(yōu)勢，且有的云廠商旗下有一部分業(yè)務(wù)和客服強相關(guān)。它們有一定的品牌知名度和用戶基數(shù)，需要加強的是中小企業(yè)的定制化服務(wù)。而較早進入市場的傳統(tǒng)客服企業(yè)也有市場認(rèn)知度，積攢了一定量客戶，這些企業(yè)需要加強的則是大模型技術(shù)底層研發(fā)能力。”IDC程蔭說。

　　一位AI客服領(lǐng)域的創(chuàng)業(yè)企業(yè)則認(rèn)為，它們和巨頭在定價能力及服務(wù)能力上有差異，小公司有靈活性，而大廠由于人力成本，涉及到交付團隊后它很難服務(wù)報價低于五十萬元的項目。

　　不管怎么樣，競爭正變得激烈起來。不過市場也并非存量競爭。

　　上個月初，OpenAI的GPT-4o Realtime API公開測試版上線，魏佳星馬上在內(nèi)部推進基于這一接口開發(fā)新一代智能客服產(chǎn)品。

　　對語音場景的智能客服而言，這是一次重要的模型能力升級，它能大大解決語音機器人的時延問題。之前的模型要將語音轉(zhuǎn)文本和文本轉(zhuǎn)語音功能拼接在一起，而Realtime API是端到端模型，在語音交互時，表現(xiàn)會更自然。

　　這也是大模型賦能的智能客服產(chǎn)品的一大利好，長期來看，技術(shù)的進步和成本的下降，將會給產(chǎn)品帶來質(zhì)的突破，而新的市場空間也將進一步打開。