廣州熱線

過去的一年里,OpenAI開發(fā)的ChatGPT掀起了大模型的熱潮,使人工智能在多個領(lǐng)域取得了驚人的突破和變革。然而我們發(fā)現(xiàn),市場上的通用大模型雖功能強大,但似乎并不能完全滿足不同企業(yè)的個性化需求。

十年來,云問科技在企業(yè)知識管理方面積累了豐富的經(jīng)驗,深知企業(yè)對于知識管理的需求。因此我們提出了企業(yè)私有化知識大模型的概念,旨在為企業(yè)提供更貼近自身業(yè)務(wù)需求的人工智能解決方案。

我們深入研究了國內(nèi)外的基線大模型,結(jié)合企業(yè)業(yè)務(wù)數(shù)據(jù)進行了大量的微調(diào)訓(xùn)練,推出了「云中問道」企業(yè)私有化知識大模型。解決了本地知識庫結(jié)合大模型可能出現(xiàn)的難點問題。

同時,針對生成式模型的合規(guī)與幻覺問題,進行了大量的優(yōu)化,并在生成之前對輸入數(shù)據(jù)進行過濾篩選,生成之后對輸出數(shù)據(jù)進行合規(guī)與事實性的檢測,基本實現(xiàn)了全流程的可控生成。

同時在大模型國產(chǎn)化方面,云問科技與華為西安未來人工智能計算中心一起,在基于華為NPU的LLaMA適配開源項目中實現(xiàn)了從模型到應(yīng)用,從軟件到硬件全方案國產(chǎn)化,讓企業(yè)用起來更加安心。

如何讓大模型真正在企業(yè)中落地?是我們一直深刻思考的問題。所以很長時間以來,云問都在研究如何將大模型與企業(yè)現(xiàn)有的產(chǎn)品結(jié)合,為企業(yè)提供更高效、智能的知識管理和服務(wù)解決方案。

我們設(shè)計了一整套大模型產(chǎn)品矩陣——Y-ASK云問,包括ChatYun-云中問道企業(yè)私有化知識大模型、AIgalaxy-AIGC應(yīng)用、ServiceAI-智慧營服以及Know+-知識智能。

我們希望能夠帶給用戶像天上的繁星一般多樣化的應(yīng)用,可供用戶在有需求時,及時選用這些根據(jù)其企業(yè)自身場景設(shè)計的應(yīng)用,并且諸多應(yīng)用之間有鏈接和呼應(yīng),能夠最大限度在企業(yè)各類場景中發(fā)揮價值。

但傳統(tǒng)大模型坐落地應(yīng)用,需要的開發(fā)和部署都涉及十分復(fù)雜的技術(shù)要求,需要對深度學(xué)習(xí)、自然語言處理等領(lǐng)域有深入的專業(yè)知識。普通用戶或非技術(shù)背景的用戶難以玩轉(zhuǎn),從數(shù)據(jù)預(yù)處理、模型訓(xùn)練到部署等環(huán)節(jié)都是非常耗時的過程,需要耗費大量的時間和人力。

另外,傳統(tǒng)通用模型往往無法滿足用戶在不同應(yīng)用場景上的特定需求和靈活性。

針對這個情況,云問將專屬的行業(yè)數(shù)據(jù)微調(diào)大模型和針對性的AIGC應(yīng)用融合提供?；谶@套系統(tǒng),每個人可分分鐘手搓一個大模型快速應(yīng)用,不需任何開發(fā)過程和繁瑣的配置,通過簡單的配置即可上線使用,大大節(jié)省了應(yīng)用創(chuàng)建的時間,快速實現(xiàn)落地。

我們將AIGC應(yīng)用平臺的應(yīng)用分為簡單應(yīng)用與綜合應(yīng)用。簡單應(yīng)用主要面向不依賴大模型以外的數(shù)據(jù)即可完成的單任務(wù)應(yīng)用,綜合應(yīng)用面向需要綜合多個外部系統(tǒng)或者應(yīng)用的復(fù)雜類任務(wù)。

目前該平臺已經(jīng)提前在多個客戶落地試運行。如某客服中心可利用該平臺,根據(jù)管理者表達(dá)的重點訴求,直接調(diào)用多個客服中心系統(tǒng)數(shù)據(jù),自動生成綜合運營報告。

Part.1問答效果upupup!

基于大模型發(fā)布,本次問答系統(tǒng)在許多方面都有升級改進。云問利用私有化知識大模型對原來的客服機器人進行系統(tǒng)升級,引入改寫式問答、文檔生成式問答功能,這將極大地提升問答體驗。

改寫式問答能夠?qū)⒂脩籼岢龅膹?fù)雜問題拆分成多個知識點,然后從已有的知識庫中匯總相關(guān)信息,通過大模型進行融合,以簡潔明了的方式回答用戶。這種問答方式不僅適用于場景問題,還可以根據(jù)用戶的不同需求提供多種角色選擇,使回答更加貼切和易于接受。同時,還優(yōu)化了上下文理解能力,支持更豐富的獲取方式。

針對沒有 FAQ庫的企業(yè),云問提供了基于私有化知識大模型的文檔生成式問答,用戶提問后,可從提供的產(chǎn)品或政策文檔中定位相關(guān)內(nèi)容,并通過大模型加工,找到合適的回答。這種方法不僅可以從單篇文檔中找到答案,還能支持跨文檔的知識點。

此外,還可以實現(xiàn)雙語問答以及多模態(tài)問答,無論是圖片還是表格,都可以從文檔中找到相關(guān)內(nèi)容,并為用戶提供豐富多樣的問答體驗。

Part.2客服知識構(gòu)建,輔助人工提升服務(wù)客戶滿意度!

如果一個企業(yè)能夠把知識加工得更加精細(xì),那么其消費者的問答體驗肯定會更好。

因此在ServiceAI智慧營服這塊,我們也有知識的構(gòu)建功能,通過FAQ抽取、相似問的生成及場景的搭建三大方式構(gòu)建客服的話術(shù)庫。例如在FAQ抽取方面,大模型自動生成問題答案,隨后人工審核入庫,提高話術(shù)庫的準(zhǔn)確度。

構(gòu)建好的知識能夠為客服的工作帶來許多方面的提升。

首先是畫像抽取,通過大模型實時從用戶以往的服務(wù)記錄中提取出用戶關(guān)注的重點,為客服提供巨大的幫助。此外,我們發(fā)現(xiàn)在客服和銷售中心中常常存在類似專家角色的人員,他們的服務(wù)記錄和話術(shù)都是企業(yè)寶貴的資產(chǎn)。通過大模型分析,可以幫助生成這些優(yōu)秀話術(shù),用于未來培訓(xùn)和其他人的話術(shù)輔助。

其次云問開發(fā)了流程話術(shù)抽取工具,能夠快速根據(jù)服務(wù)記錄生成企業(yè)的歷史服務(wù)記錄流程話術(shù)。在實踐中,我們對不同類型的客戶進行了分析,包括技術(shù)工程和化妝品消費,提取出不同領(lǐng)域的流程話術(shù)。這些流程話術(shù)可以引導(dǎo)不同角色用戶參加我們的活動,顯著提高效果。

第三是工單抽取功能,可以通過大模型快速提取客服在服務(wù)過程中所需填寫的信息,比如用戶年齡、地址等,可以用于快速總結(jié)服務(wù)事件。

最后客服人員在提供服務(wù)后通常需要進行總結(jié)。通過大模型快速生成服務(wù)小結(jié),并抓取用戶關(guān)鍵信息節(jié)點,可以有效避免信息丟失或不專業(yè)的情況。這樣,客戶不再需要重復(fù)說明,提高了服務(wù)效率。

以上工具能夠大幅提高客服人員的服務(wù)效率,節(jié)省時間,讓一個人的服務(wù)量從100個增加到150個。同時每個服務(wù)的時長縮短,大大提升了整體服務(wù)量。

Part.3一對N人機耦合,快速打造銷冠團隊!

在與客服行業(yè)從業(yè)者交流時,我們發(fā)現(xiàn)他們希望機器人在客戶服務(wù)中起主導(dǎo)作用,當(dāng)機器人無法解決問題時,再轉(zhuǎn)接給人工客服。

每個客服代表或銷售代表都像團隊主管,雇傭不同的機器人。在這種情況下,我們可以實時展示三通電話的進程,并在判斷客戶有投訴、消費或買單可能時接管服務(wù)。

然而,由于過去的問答和交互體驗不夠流暢,實現(xiàn)人機耦合相當(dāng)困難。但現(xiàn)在,AI實時生產(chǎn)和實時問答體驗已顯著提升,使得在不太復(fù)雜的場景下,客服人員可以實現(xiàn)真正的人機耦合。

通常情況下,由于不能讓新員工直接面對真實客戶,因此難以通過真實情景進行客服培訓(xùn)。

現(xiàn)在可以使用大模型進行對練,學(xué)習(xí)以前的服務(wù)記錄,快速構(gòu)建用戶真實場景,讓客服應(yīng)對各種難題和刁鉆問題?？赡馨ㄍ对V處理、購買流程等。

在此過程中,我們可以實時提供質(zhì)檢,以便客服快速發(fā)現(xiàn)問題并做出總結(jié)。

此外,還可以進行隨練隨評,在整通隊列完成后,機器會自動完成畫像評分,評估崗位技能矩陣,幫助客戶了解自己的問題所在并針對性地解決。

知識管理是企業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵。知識是企業(yè)重要的智力資產(chǎn),通過構(gòu)建知識中心,企業(yè)可以更好地賦能業(yè)務(wù)創(chuàng)新。而大模型的出現(xiàn),為知識管理帶來了新的機遇。

云問知識工程通過對知識進行分類、加工、消費,助力企業(yè)實現(xiàn)知識體系的完善和科學(xué)化。十年來,我們在知識工程領(lǐng)域積累了豐富的經(jīng)驗,提供了從自動化知識構(gòu)建到統(tǒng)一知識體系的解決方案,適用于知識密集型行業(yè),如研究院、飛機制造、汽車制造和建筑設(shè)計等。通過知識工程,企業(yè)可以在數(shù)字化轉(zhuǎn)型道路上走得更扎實,創(chuàng)新更有基礎(chǔ)。

云問知識工程涉及到不同類型的知識,包括FAQ、SPO、關(guān)系、流程等。對于不同的企業(yè)或場景,知識最終呈現(xiàn)的形式和方式也不同。因此,我們將知識區(qū)分為不同類型,以便在知識加工過程中明確不同對象的知識類比。

在知識工程的能力層,我們會進行文件預(yù)處理、多模態(tài)識別或視覺定位等操作,以了解知識所在的位置。此外,由于企業(yè)可能已經(jīng)使用了許多不同的系統(tǒng),此時需要進行知識中間態(tài)接口和任務(wù)能力的開發(fā)。

我們的知識工程平臺集標(biāo)注、訓(xùn)練、審核和抽取于一體,使企業(yè)在一個平臺上完成所有工作,便于知識復(fù)用。在知識加工完成后,可以無縫對接到企業(yè)的知識中心,最后通過檢索、問答、決策、支撐和推薦等多種形式進行知識消費。

Part.1大模型加持,最快速全面的知識構(gòu)建!

在大模型知識構(gòu)建方面,云問將知識構(gòu)建拆分為FAQ構(gòu)建、圖譜構(gòu)建、多模態(tài)構(gòu)建和關(guān)鍵信息構(gòu)建等環(huán)節(jié)。

首先,在FAQ構(gòu)建方面,我們從不同數(shù)據(jù)文檔中生成 QA和問題相似問,然后生成答案相似問,接著進行人工審核,最后供機器人消費。

在圖譜構(gòu)建方面,我們堅持將大模型與知識圖譜相結(jié)合,使用知識圖譜讓大模型在生成時更具可控性和精準(zhǔn)性。同時,我們也利用大模型來構(gòu)建圖譜能力,例如標(biāo)簽標(biāo)注提取、摘要生成、文檔分類等。此外,我們還可以進行主題抽取、屬性抽取和關(guān)聯(lián)關(guān)系抽取,從而實現(xiàn)文檔的多維度調(diào)用。

在多模態(tài)知識構(gòu)建方面,云問實現(xiàn)了文檔段落抽取、圖片抽取和公式提取等功能。用戶可以通過圖片識別定位、標(biāo)題判斷、人工審核標(biāo)注等操作,將圖片數(shù)據(jù)轉(zhuǎn)化為可編輯的公式類型知識。對于復(fù)雜的公式,用戶只需提供數(shù)據(jù),機器即可給出結(jié)果。

Part.2搜得更快,答案直給!

知識消費場景的重要部分就是搜索。我們提出了聚合搜索的概念,認(rèn)為不能單純依賴大模型來定位知識,而是需要保留原有的搜索形式,但通過優(yōu)化語義適配和推薦算法來提高搜索的準(zhǔn)確性。

當(dāng)用戶提問時,系統(tǒng)會在后臺找到所有相關(guān)的知識點,并根據(jù)優(yōu)先級和訪問熱度進行排序。對于能夠通過MRC機器閱讀理解找到答案的問題,系統(tǒng)會直接給出答案,并標(biāo)明知識來源。同時,系統(tǒng)還會通過圖譜推薦相關(guān)的知識,幫助用戶更好地理解知識體系。

除了聚合搜索,當(dāng)用戶已經(jīng)定位到某一篇文檔時,系統(tǒng)還提供了文內(nèi)問答功能。對于篇幅較長的文檔,用戶可以通過提問來獲取文檔中的關(guān)鍵信息。系統(tǒng)通過長文檔拆解技術(shù)對文檔進行預(yù)處理,然后根據(jù)用戶的問題在文檔中找到相應(yīng)的答案。此外,系統(tǒng)還會采用證據(jù)定位技術(shù),標(biāo)明回答內(nèi)容的來源,方便用戶追溯。

除了能夠主動搜索知識,在應(yīng)急災(zāi)害發(fā)生后,通過結(jié)合處置圖譜和大模型,系統(tǒng)還可以針對不同情況為用戶提供處置分析。

例如,當(dāng)用戶提問如何處理機動車在道路上撞人后逃逸的事故后,系統(tǒng)會分析事發(fā)情況、區(qū)域政策、傷亡情況等因素,給出處置建議和相關(guān)知識點。整個處置分析過程實際上是大模型和知識圖譜相結(jié)合的結(jié)果。

Part.3幫你寫最貼合業(yè)務(wù)的報告!

在知識消費領(lǐng)域,除了前面提到的對于知識的搜索、處置建議的生成,云中問道大模型還可以進行智能撰寫。

在撰寫過程中,根據(jù)以往同類型的文檔進行強化訓(xùn)練,例如設(shè)計一些類型、樣式變更、續(xù)寫或流程干預(yù)等。這些操作都可以在整套知識編輯輔助平臺上實現(xiàn),我們已經(jīng)在右側(cè)插入了一些插件,如WPS等,以便在撰寫文檔時提供輔助。同時能夠判斷文檔是否符合當(dāng)前的流程和規(guī)范,并且從某個地方找到一些信息來支撐和輔助撰寫。

對于事件報告,可以通過事件立方來完成對事件的分析、篩選和預(yù)測。通過對大模型的事件閱讀,我們可以發(fā)現(xiàn)每一類事件都有一個可梳理的發(fā)展路線,以及接下來的可能趨勢。

由于人類受限于對知識的閱讀量,無法在短時間內(nèi)快速獲取大量信息。因此,大模型的優(yōu)勢就體現(xiàn)出來了,如果將人工經(jīng)驗與大模型相結(jié)合,可以快速產(chǎn)出高質(zhì)量的事件報告,幫助我們對事件進行預(yù)測。

Part.4智能培訓(xùn),讓新員工更快上崗!

云問能夠通過圖像識別的技術(shù)、關(guān)鍵詞生成技術(shù)以及字幕生成技術(shù)來自動生成培訓(xùn)視頻和課件,同時還能自動生成考題,當(dāng)考試完成后,機器能夠自動判卷,并根據(jù)考試成績定制推送新的學(xué)習(xí)內(nèi)容和考卷。

這將大大提升培訓(xùn)效率,同時降低培訓(xùn)投資成本。

最后,我們認(rèn)為大模型在企業(yè)落地時,必須結(jié)合不同行業(yè)的場景。例如,在方志的數(shù)字宣傳平臺上,云問匯總了傳統(tǒng)的地方志內(nèi)容,方便用戶在搜索和撰寫時使用大模型能力。在出版社的知識管理中,我們將不同類型的知識匯總,利用大模型進行學(xué)習(xí)。這使得搜索推薦和快速問答功能在平臺上得以實現(xiàn),甚至可以指導(dǎo)工程領(lǐng)域的工作。

在政務(wù)應(yīng)用中,云問快速學(xué)習(xí)了政務(wù)服務(wù)事項,形成了政務(wù)知識中心。用戶可以在這里獲取服務(wù)辦理幫助,甚至可以在聊天過程中完成事件辦理。在工業(yè)領(lǐng)域,我們管理設(shè)備的全生命周期知識,包括故障定位、預(yù)測、案例生成和檢修單智能填寫等功能。這大大提高了設(shè)備管理的效率。

此外,云問還實現(xiàn)了技術(shù)標(biāo)準(zhǔn)的消費和應(yīng)用,提高了研發(fā)效率。在汽車經(jīng)銷體系中,能夠讓銷售人員快速掌握汽車知識,維修人員能夠定位并解決故障。這些應(yīng)用都需要一個知識中心來驅(qū)動。

除了上述案例,云問還在公共服務(wù)體系、智能黨建、消費服務(wù)等場景中實現(xiàn)了大模型的行業(yè)落地。大模型在多個行業(yè)和場景中發(fā)揮著重要作用,為企業(yè)提供了強大的支持賦能。

在未來,云問將繼續(xù)推動技術(shù)創(chuàng)新,不斷拓展AI對各領(lǐng)域的智能化升級。我們堅信,智慧源于專屬,讓每家企業(yè)都能擁有個性化的智能化解決方案,讓每個人的生活都因智慧而更加美好!

欲了解或者獲得更多信息,請關(guān)注公眾號:云問科技。