用友發(fā)布大模型，企業(yè)服務(wù)市場(chǎng)有了新引擎

　　在企業(yè)服務(wù)領(lǐng)域深耕35年的用友，如何應(yīng)對(duì)人工智能新范式帶來(lái)的機(jī)遇和挑戰(zhàn)。

　　文|游勇 徐鑫

　　編|周路平

　　所有行業(yè)都值得基于人工智能技術(shù)重做一遍。類似的判斷已經(jīng)司空見(jiàn)慣，大模型帶來(lái)的技術(shù)新范式正在加速這一進(jìn)程。“人工智能已是我們這個(gè)時(shí)代最前沿和普適的科學(xué)技術(shù)之一。”用友網(wǎng)絡(luò)董事長(zhǎng)兼CEO王文京說(shuō)。

　　7月27日，用友發(fā)布了業(yè)內(nèi)首個(gè)企業(yè)服務(wù)大模型YonGPT。在企業(yè)服務(wù)領(lǐng)域深耕了35年的用友，在一些開源或者閉源的通用大語(yǔ)言模型之上，結(jié)合海量的行業(yè)知識(shí)和真實(shí)的行業(yè)場(chǎng)景，訓(xùn)練出了企業(yè)服務(wù)大模型。

　　目前YonGPT還處于1.0版本，本次發(fā)布的是基于這個(gè)大模型的首批智能化場(chǎng)景服務(wù)。王文京表示，后面大模型會(huì)持續(xù)迭代訓(xùn)練，并不斷豐富基于這個(gè)大模型的各類企業(yè)服務(wù)。

　　過(guò)去幾十年，用友的核心產(chǎn)品完成了從財(cái)務(wù)軟件到企業(yè)管理軟件，再到現(xiàn)在商業(yè)創(chuàng)新平臺(tái)用友BIP的升級(jí)。而隨著YonGPT的發(fā)布，大模型在自然語(yǔ)言上的交互表現(xiàn)和內(nèi)容生成上的強(qiáng)大能力，將給用友BIP打開巨大的想象空間。

　　“企業(yè)服務(wù)已進(jìn)入AI創(chuàng)新時(shí)代，商業(yè)創(chuàng)新也進(jìn)入到全面數(shù)智商業(yè)創(chuàng)新的新時(shí)代。”用友網(wǎng)絡(luò)執(zhí)行副總裁兼CTO樊冠軍說(shuō)，YonGPT是用友BIP產(chǎn)品智能化的一部分，實(shí)際上也是用友為客戶提供的一個(gè)商業(yè)基礎(chǔ)設(shè)施。

　　01

　　企業(yè)服務(wù)正在被大模型重構(gòu)

　　先來(lái)看幾個(gè)企業(yè)服務(wù)的具體場(chǎng)景：

　　張總是一家消費(fèi)品企業(yè)的財(cái)務(wù)高管，面對(duì)瞬息萬(wàn)變的商業(yè)環(huán)境，他希望能了解公司實(shí)時(shí)的財(cái)務(wù)數(shù)據(jù)。他通過(guò)基于用友YonGPT打造的AI經(jīng)營(yíng)助手“智友”發(fā)出查詢指令：分析今年截止7月份的盈利情況。YonGPT很快生成了利潤(rùn)總額、同比增長(zhǎng)率，做出了低于年初3.65%增長(zhǎng)目標(biāo)的洞察分析，并繪制了直觀豐富的圖表，可以看到每個(gè)月累計(jì)利潤(rùn)雖有所增長(zhǎng)，但是同比增長(zhǎng)率卻在逐月下降。

　　光有這些數(shù)據(jù)是不夠的，“看一下詳細(xì)數(shù)據(jù)”，YonGPT又給出了更詳細(xì)的經(jīng)營(yíng)數(shù)據(jù)，包括盈利總額、產(chǎn)量、銷量和預(yù)算執(zhí)行情況、各類產(chǎn)品利潤(rùn)情況等實(shí)時(shí)信息。

　　而后大模型又分析了華北分公司的情況，分析利潤(rùn)不及預(yù)期的原因，然后基于產(chǎn)銷計(jì)劃數(shù)據(jù)預(yù)測(cè)下個(gè)月的利潤(rùn)情況，并自動(dòng)總結(jié)推理出測(cè)算后的總體利潤(rùn)以及與年初目標(biāo)的對(duì)比情況。讓管理層隨時(shí)隨地進(jìn)行盈利分析、經(jīng)營(yíng)預(yù)測(cè)、歸因洞察、行業(yè)對(duì)標(biāo)等一體化決策。

　　業(yè)務(wù)員小林正在與客戶進(jìn)行RFQ(報(bào)價(jià)請(qǐng)求)的溝通。以前都是在微信、QQ等社交軟件上完成，白天與客戶交流，晚上再打開公司系統(tǒng)，手動(dòng)一行一行錄入，不僅辛苦，也很割裂。

　　現(xiàn)在在大模型的加持之后，一邊聊天溝通，系統(tǒng)會(huì)摘錄和提取聊天記錄的關(guān)鍵信息，自動(dòng)生成訂單摘要，如有信息缺失，經(jīng)過(guò)預(yù)訓(xùn)練的YonGPT也會(huì)給出相應(yīng)的提示，如送貨日期未提供。業(yè)務(wù)員可再次發(fā)起與客戶的溝通，進(jìn)行信息補(bǔ)全。“聊天式地完成了原來(lái)軟件的系統(tǒng)化的工作。”

　　這是用友企業(yè)服務(wù)大模型正在給企業(yè)服務(wù)場(chǎng)景帶來(lái)的真實(shí)改變。在7月27日的發(fā)布現(xiàn)場(chǎng)，樊冠軍介紹到，基于大模型的人工智能在企業(yè)服務(wù)領(lǐng)域的應(yīng)用主要集中在4個(gè)方向上：智能化的業(yè)務(wù)運(yùn)營(yíng)、自然化的人機(jī)交互、智慧化的知識(shí)生成、語(yǔ)義化的應(yīng)用生成。用友企業(yè)服務(wù)大模型YonGPT圍繞這四個(gè)方向推進(jìn)模型訓(xùn)練和產(chǎn)品效果優(yōu)化。

　　不難發(fā)現(xiàn)，這四大方向都有幾個(gè)共同特點(diǎn)：一是全程都是通過(guò)自然語(yǔ)言的交互完成，“實(shí)際上已經(jīng)沒(méi)有菜單的概念了”。

　　以前，企業(yè)的痛點(diǎn)在于，數(shù)據(jù)藏得很深。功能都很全，但大部分企業(yè)只能用到里面很小的一部分，數(shù)據(jù)潛力挖掘得遠(yuǎn)遠(yuǎn)不夠。

　　比如公司管理層想要看到具體數(shù)據(jù)，還需要中間有人幫忙整理，中間來(lái)回調(diào)整，不僅麻煩，而且影響效率。現(xiàn)在管理層可以直接跟系統(tǒng)對(duì)話，自己就能調(diào)整，實(shí)時(shí)掌握最新經(jīng)營(yíng)情況。

　　二是實(shí)現(xiàn)基于上下文的多輪對(duì)話，通過(guò)一步步輸入提示詞，不斷獲得更加深入的分析結(jié)果。從最簡(jiǎn)單的信息展示，到最終的商業(yè)決策，都在大模型的輔助之下，變得高效且有依據(jù)。

　　三是強(qiáng)大的內(nèi)容生成能力。一方面是知識(shí)的生成，比如歸納總結(jié)文檔的內(nèi)容，提煉對(duì)話要點(diǎn)等。另一方面是應(yīng)用生成，低代碼在企業(yè)應(yīng)用的搭建上非常流行，但低代碼并非完全沒(méi)有門檻，依然需要業(yè)務(wù)人員有一定的代碼能力和邏輯能力。而大模型讓低代碼的搭建可以基于自然語(yǔ)言進(jìn)行。

　　大模型的推出給企業(yè)服務(wù)帶來(lái)了極大的變革。一方面是極大降低了數(shù)據(jù)使用門檻，管理層用數(shù)的需求不需要經(jīng)過(guò)重重轉(zhuǎn)包，可以用自然語(yǔ)言直接從系統(tǒng)中獲得信息。從戰(zhàn)略層面，企業(yè)內(nèi)數(shù)據(jù)應(yīng)用變得更以人為本。

　　另外，大模型也極大推動(dòng)了企業(yè)內(nèi)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的融合。此前用友BIP系統(tǒng)里大量的結(jié)構(gòu)化數(shù)據(jù)可以直接被系統(tǒng)識(shí)別和分析。但許多非結(jié)構(gòu)化數(shù)據(jù)，比如視頻、圖片、圖譜等，使用時(shí)需要人去檢索和識(shí)別，不易被充分利用。

　　大模型技術(shù)應(yīng)用后，系統(tǒng)能夠輕松跨越結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)數(shù)據(jù)，實(shí)現(xiàn)即搜即問(wèn)即答。這種融合還能極大簡(jiǎn)化產(chǎn)品的界面，比如原來(lái)分散在不同界面的人力知識(shí)系統(tǒng)、財(cái)務(wù)知識(shí)系統(tǒng)和業(yè)務(wù)知識(shí)管理系統(tǒng)能實(shí)現(xiàn)合并，形成一個(gè)7*24小時(shí)的助手為企業(yè)用戶服務(wù)。

　　樊冠軍認(rèn)為，通用大語(yǔ)言模型與用友企業(yè)服務(wù)大模型、用友BIP系統(tǒng)及企業(yè)內(nèi)私域數(shù)據(jù)的結(jié)合，正在推動(dòng)企業(yè)服務(wù)領(lǐng)域里智能應(yīng)用服務(wù)時(shí)代的到來(lái)。

　　02

　　YonGPT背后的三層架構(gòu)

　　用友很明確的一點(diǎn)是，不做通用大語(yǔ)言模型，而是選擇在閉源或開源的通用大模型之上，來(lái)構(gòu)建自己的企業(yè)服務(wù)大模型YonGPT，實(shí)現(xiàn)跨模型適配。

　　YonGPT的整體架構(gòu)分了三層，L0層是通用大模型底座，L1層是YonGPT企業(yè)服務(wù)大模型，L2層是領(lǐng)域或行業(yè)模型精調(diào)的智能化場(chǎng)景服務(wù)。

　　樊冠軍認(rèn)為，在云原生時(shí)代人們常說(shuō)跨云適配，在大語(yǔ)言模型時(shí)代，企業(yè)服務(wù)也需要跨模型進(jìn)行適配。目前，YonGPT在最底層的通用大模型底座上，可以適配業(yè)界主流的大語(yǔ)言模型，既包括包括百度的文心一言等閉源模型，也支持智源悟道、質(zhì)譜ChatGLM以及LLaMA等開源大模型。在國(guó)外，YonGPT還可基于ChatGPT來(lái)提供服務(wù)。

　　無(wú)論哪一種方式，行業(yè)大模型都離不開大量的精調(diào)和提示工程，用友在這個(gè)環(huán)節(jié)做了細(xì)致的工作。YonGPT通過(guò)上下文記憶、知識(shí)/庫(kù)表索引、Prompt工程、Agent執(zhí)行、通用工具集等擴(kuò)充大模型的存儲(chǔ)記憶、適配應(yīng)用和調(diào)度執(zhí)行能力。除此之外，用友也考慮到了插件建設(shè)。涉及到與外部系統(tǒng)的互動(dòng)以及調(diào)用，可以用插件服務(wù)來(lái)完成。

　　YonGPT內(nèi)置了一個(gè)Agent執(zhí)行層，作為整體的指揮調(diào)度中心，對(duì)企業(yè)用戶的需求進(jìn)行區(qū)分。一些需要返回確定性結(jié)果，并且對(duì)可靠性要求高的任務(wù)，系統(tǒng)會(huì)自動(dòng)交回用友BIP或小模型，由企業(yè)服務(wù)領(lǐng)域原有的功能來(lái)完成。對(duì)一些需要推理判定，有不確定性或模糊性的任務(wù)，交給大模型去開發(fā)。

　　最上面的L2層是場(chǎng)景化的智能應(yīng)用。目前發(fā)布的YonGPT1.0版，用友推出了包括企業(yè)經(jīng)營(yíng)洞察、智能訂單生成、供應(yīng)商風(fēng)控、動(dòng)態(tài)庫(kù)存優(yōu)化、智能人才發(fā)現(xiàn)、智能招聘、智能預(yù)算分析、智能商旅費(fèi)控、代碼生成等在內(nèi)的數(shù)十種基于企業(yè)服務(wù)大模型賦能的智能應(yīng)用。樊冠軍介紹，未來(lái)用友會(huì)進(jìn)一步豐富場(chǎng)景，將更多的功能場(chǎng)景開放出來(lái)，比如智能保修檢修等服務(wù)已經(jīng)在開發(fā)中。

　　眾所周知，通用大語(yǔ)言模型有時(shí)會(huì)一本正經(jīng)的胡說(shuō)八道，而在企業(yè)生產(chǎn)和經(jīng)營(yíng)場(chǎng)景，互動(dòng)的結(jié)果需要可信、可靠。樊冠軍介紹，YonGPT能夠真正在企業(yè)服務(wù)領(lǐng)域應(yīng)用，本質(zhì)上依靠三大技術(shù)來(lái)實(shí)現(xiàn)：

　　首先是交互式數(shù)據(jù)查詢與指令執(zhí)行。此前的智能人機(jī)交互經(jīng)常被吐槽不夠聰明的原因在于，稍有語(yǔ)義改動(dòng)和問(wèn)法變化，系統(tǒng)就不能正確識(shí)別 ，同時(shí)這些軟件也不能很好理解上下文內(nèi)容。經(jīng)過(guò)專門訓(xùn)練后，YonGPT能夠準(zhǔn)確識(shí)別用戶的提問(wèn)，判斷用戶提問(wèn)的意圖及與之相關(guān)聯(lián)的意圖，保證交互準(zhǔn)確。

　　其次是業(yè)務(wù)知識(shí)查詢問(wèn)答。大模型技術(shù)可以解決多模態(tài)數(shù)據(jù)的問(wèn)題。多模態(tài)的視頻、圖片和表格數(shù)據(jù)，通過(guò)切片，倒排索引和向量索引等技術(shù)處理，各類數(shù)據(jù)口徑對(duì)齊，形成企業(yè)內(nèi)的多路索引庫(kù)。這些索引庫(kù)都在私域內(nèi)，L0層和L1層的模型學(xué)習(xí)、訓(xùn)練和調(diào)用都在私域內(nèi)，保證了數(shù)據(jù)的安全性，同時(shí)得到了企業(yè)內(nèi)知識(shí)的“可搜可問(wèn)答” 。

　　第三是復(fù)雜任務(wù)執(zhí)行系統(tǒng)。通過(guò)大模型的任務(wù)鏈技術(shù)將復(fù)雜任務(wù)分解一系列微服務(wù)執(zhí)行，把確定性交給已有系統(tǒng)或者小模型，不確定性和系統(tǒng)調(diào)度交給大模型。

　　另外，YonGPT還優(yōu)化了企業(yè)服務(wù)大模型的訓(xùn)練效率和成本，集成了豐富的開發(fā)工具和優(yōu)化算法，通過(guò)自有的數(shù)據(jù)管理、大模型精調(diào)、大模型評(píng)估優(yōu)化、大模型推理和插件服務(wù)等功能，為大模型的構(gòu)建和服務(wù)提供穩(wěn)定且有效的支撐。后續(xù)YonGPT將會(huì)對(duì)用友整體產(chǎn)品體系進(jìn)行全面的能力覆蓋。

　　03

　　用友的優(yōu)勢(shì)在哪里?

　　今年4月，用友BIP技術(shù)大會(huì)上，用友透露已經(jīng)開始啟動(dòng)企業(yè)服務(wù)大模型的訓(xùn)練。在外界看來(lái)，從啟動(dòng)訓(xùn)練到現(xiàn)在發(fā)布，YonGPT籌備的時(shí)間也不到半年時(shí)間。但事實(shí)上，用友在智能化應(yīng)用和服務(wù)方面已布局多年，相關(guān)技術(shù)也有很深的積累。

　　“用友BIP從研發(fā)伊始就堅(jiān)持把數(shù)字化和智能化作為兩個(gè)最核心和基本的特性，在數(shù)字化基礎(chǔ)上，結(jié)合IPA(智能流程自動(dòng)化)、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、知識(shí)圖譜等智能技術(shù)，研發(fā)提供了一批智能化的應(yīng)用與服務(wù)，已在一批企業(yè)中得到應(yīng)用。”王文京說(shuō)。

　　比如用友開發(fā)的智多星RPA(機(jī)器人流程自動(dòng)化)，匯聚了上千個(gè)場(chǎng)景用例，在銀行回單下載、對(duì)賬、開票、稽核等業(yè)務(wù)場(chǎng)景中，代替人完成高重復(fù)、標(biāo)準(zhǔn)化、規(guī)則明確、大批量的日常事務(wù)性操作。

　　在工業(yè)領(lǐng)域，用友的人工智能技術(shù)被用于廢鋼定級(jí)、礦山巡檢、供水監(jiān)測(cè)等場(chǎng)景。用友BIP的廢鋼智能判級(jí)系統(tǒng)的準(zhǔn)確率達(dá)95%以上，已服務(wù)包括鞍鋼集團(tuán)、濟(jì)源鋼鐵在內(nèi)的20余家鋼鐵行業(yè)領(lǐng)軍企業(yè)。

　　一位大模型領(lǐng)域的業(yè)內(nèi)人士告訴數(shù)智前線，大模型作為人工智能領(lǐng)域一種新的技術(shù)范式，背后的技術(shù)和算法并不是新的發(fā)明，但如何調(diào)優(yōu)、如何工程化落地，還是一個(gè)很有門檻的事情，需要有足夠的人才和技術(shù)儲(chǔ)備。

　　用友此前在人工智能領(lǐng)域的積累，給大模型的訓(xùn)練和應(yīng)用打下了很好的基礎(chǔ)。比如用友花了7年時(shí)間組織數(shù)千人研發(fā)的用友商業(yè)創(chuàng)新平臺(tái)-用友BIP，其數(shù)智化底座就包含了智能中臺(tái)。它提供了圖片、文本、視頻處理的AI接口、智能搜索、知識(shí)圖譜等AI基礎(chǔ)能力，以及數(shù)智員工、VPA、RPA、AI工作坊等AI開發(fā)工具。如今相當(dāng)于在基礎(chǔ)設(shè)施層增加了大模型，讓數(shù)智化底座變得更為扎實(shí)。

　　而且，用友BIP本身也是基于云原生的技術(shù)理念開發(fā)，做到了微服務(wù)化和API化。隨著智原生(AI Native)時(shí)代的到來(lái)，大模型的能力通過(guò)API與各類軟件打通，實(shí)現(xiàn)了AI的普及和應(yīng)用。

　　高質(zhì)量的領(lǐng)域數(shù)據(jù)語(yǔ)料的投喂是大模型變得更專業(yè)的重要保障。通用大語(yǔ)言模型有很強(qiáng)的泛化能力和內(nèi)容生成能力，但準(zhǔn)確性不夠，所以在解決行業(yè)具體問(wèn)題時(shí)，往往需要行業(yè)數(shù)據(jù)進(jìn)行精調(diào)。

　　這是用友深耕企業(yè)服務(wù)多年積累的優(yōu)勢(shì)，用友的人工智能團(tuán)隊(duì)結(jié)合企業(yè)應(yīng)用場(chǎng)景和領(lǐng)域經(jīng)驗(yàn)，標(biāo)記了大量的企業(yè)服務(wù)語(yǔ)料數(shù)據(jù)，形成豐富的企業(yè)服務(wù)大模型訓(xùn)練素材，并將業(yè)務(wù)知識(shí)與領(lǐng)域經(jīng)驗(yàn)融入企業(yè)服務(wù)大模型，比如財(cái)務(wù)、人力、供應(yīng)鏈、采購(gòu)和營(yíng)銷等領(lǐng)域的知識(shí)，確保了大模型的專業(yè)性和實(shí)用性。

　　據(jù)數(shù)智前線獲悉，用友也會(huì)收集一些行業(yè)的公共數(shù)據(jù)，包括政策法規(guī)等。同時(shí)，用友也將自身在研發(fā)領(lǐng)域的知識(shí)用于模型訓(xùn)練。在基礎(chǔ)大模型之上，訓(xùn)練成了企業(yè)服務(wù)領(lǐng)域通用的大模型，然后提供給整個(gè)智能化的場(chǎng)景服務(wù)。