模型規(guī)模并非越大越好？組合式AI加速領(lǐng)域大模型應(yīng)用落地

2018 年，預(yù)訓(xùn)練模型開始興起，2022 年，ChatGPT 的火爆出圈讓人們看到通過大規(guī)模預(yù)訓(xùn)練范式接近 AGI 的曙光。根據(jù) 2024 年政府工作報(bào)告，深化大數(shù)據(jù)、AI 等研發(fā)應(yīng)用，開展“人工智能+”行動，打造具有國際競爭力的數(shù)字產(chǎn)業(yè)集群。值得關(guān)注的是，這是 AI 第一次被寫進(jìn)政府工作報(bào)告，也意味著 AI 邁入受到廣泛認(rèn)可、全力加速的新時(shí)期。

隨著 AI 技術(shù)的不斷發(fā)展，大語言模型逐漸突顯出語言能力強(qiáng)和處理非結(jié)構(gòu)化數(shù)據(jù)準(zhǔn)確率高、成本低的優(yōu)勢。近年來，企業(yè)普遍數(shù)字化轉(zhuǎn)型過程中，通常面臨建立數(shù)據(jù)中臺或知識圖譜成本過高的實(shí)際難題。而領(lǐng)域大模型為企業(yè)構(gòu)建知識體系，推動數(shù)字化轉(zhuǎn)型和促進(jìn)新質(zhì)生產(chǎn)力發(fā)展提供了新的解決方案。

政策和技術(shù)的發(fā)展，讓人們對大模型高度關(guān)注，實(shí)際上早在 2014 年，中關(guān)村科金就已經(jīng)聚焦?fàn)I銷服務(wù)、運(yùn)營培訓(xùn)、陪練、質(zhì)檢等企業(yè)服務(wù)賽道，并為其提供 AI 對話場景服務(wù)，目前已在百余種對話場景中積累 PB 級數(shù)據(jù)。2023 年底，這家對話式 AI 技術(shù)解決方案提供商推出大模型系列產(chǎn)品服務(wù)，且領(lǐng)域大模型技術(shù)成功通過了國家網(wǎng)信部算法備案。

中關(guān)村科金技術(shù)副總裁張杰表示：“大模型面臨著通用性、專業(yè)性、經(jīng)濟(jì)性的不可能三角，國內(nèi)通用大模型賽道已初見端倪，領(lǐng)域大模型賽道上大家仍都處于起步階段。領(lǐng)域大模型作為 AI 服務(wù)的‘最后一公里’，會長期存在。我們結(jié)合領(lǐng)域大模型的語言能力和領(lǐng)域知識庫的事實(shí)知識能力，幫助高知識密度企業(yè)應(yīng)用大模型技術(shù)，構(gòu)建統(tǒng)一的知識中臺，高效打造全媒體交互應(yīng)用。 ”

通過為客戶交付高性能的領(lǐng)域大模型和場景共創(chuàng)等形式，中關(guān)村科金助力企業(yè)實(shí)現(xiàn)數(shù)智化轉(zhuǎn)型升級和顯著的降本增效。此外，其還通過組合式 AI、持續(xù)學(xué)習(xí)、模型安全可信、平臺化服務(wù)（MaaS）等核心技術(shù)能力，解決當(dāng)前大模型普遍存在的專業(yè)性不足、合規(guī)性存疑、經(jīng)濟(jì)性偏低等局限性問題。

隨著大模型技術(shù)的發(fā)展和應(yīng)用的深入，中關(guān)村科金逐漸形成全新的大模型應(yīng)用理念：圍繞知識平權(quán)、決策平權(quán)和體驗(yàn)平權(quán)“三大方向”，布局大模型+的“八大應(yīng)用”，即大模型知識助手、大模型平臺、大模型+人機(jī)交互、大模型+BI 智能決策、大模型+洞察分析、大模型+防偽安全、大模型+消保合規(guī)以及大模型+智能辦公和管理數(shù)字化。并已在多家頭部金融機(jī)構(gòu)、央國企、政務(wù)服務(wù)部門、多省市公安機(jī)關(guān)等機(jī)構(gòu)的業(yè)務(wù)場景中落地多種大模型應(yīng)用。

推動 AI 在企業(yè)“最后一公里”落地

作為新質(zhì)生產(chǎn)力的代表，AI 有望通過為企業(yè)各場景賦能實(shí)現(xiàn)生產(chǎn)力的飛躍。2023 年，國內(nèi)涌現(xiàn)出兩百多個(gè)大模型，被稱為大模型元年，一時(shí)間掀起“百模大戰(zhàn)”。大模型的火爆也打開了生成式 AI 的市場，除文本外，語音、視頻等多模態(tài)交互能力已逐漸成為 AI 廠商競爭的關(guān)鍵。

“中關(guān)村科金從發(fā)展初期就具有清晰的定位：做領(lǐng)域大模型而不是基礎(chǔ)大模型，融合多種技術(shù)能力，推動組合式 AI 在企業(yè)場景的‘最后一公里’落地。我們的領(lǐng)域大模型具備廣泛的兼容性，可以靈活適配不同的基礎(chǔ)大模型。這其中的關(guān)鍵在于高質(zhì)量領(lǐng)域數(shù)據(jù)的積累和高效微調(diào)技術(shù)，基礎(chǔ)大模型可以靈活替換?！睆埥鼙硎?，之所以能夠在技術(shù)浪潮到來之前進(jìn)行布局，與中關(guān)村科金多年來的資源優(yōu)勢和技術(shù)累積密不可分。

他提到，早在 ChatGPT 出現(xiàn)之前，中關(guān)村科金便已建立起全棧自研的技術(shù)體系，包括自然語言處理、語音識別、多模態(tài)生物防偽、OCR 等多項(xiàng) AI 原子能力，以及實(shí)時(shí)音視頻通信、大數(shù)據(jù)等技術(shù)能力。

此外，在領(lǐng)域大模型微調(diào)技術(shù)方面，中關(guān)村科金擁有“獨(dú)家絕活”。首先對不同任務(wù)做分區(qū)定位，然后找到不同任務(wù)間的協(xié)同增益關(guān)系，最后再對具體任務(wù)做分層微調(diào)。最終可實(shí)現(xiàn)數(shù)據(jù)量依賴更小、算力消耗更低、推理性能更高。需要了解的是，大模型在執(zhí)行不同的自然語言處理任務(wù)時(shí)，會利用到不同的工作區(qū)域，這與人類大腦存在不同的腦區(qū)類似。

中關(guān)村科金能夠用分區(qū)定位技術(shù)和分層微調(diào)技術(shù)對任務(wù)進(jìn)行不同工作區(qū)域的“CT 掃描”，以實(shí)現(xiàn)定制化快速增強(qiáng)效果。通過對評測數(shù)據(jù)集的積累，評測模型擅長抽取、生成、多語言等，把領(lǐng)域知識快速、低成本地注入到通用大模型，進(jìn)而為客戶交付高性能的領(lǐng)域大模型。

張杰解釋說道：“微調(diào)領(lǐng)域大模型是一件技術(shù)活，并不是簡單地套個(gè)殼、灌些數(shù)據(jù)微調(diào)那么簡單。需要打開大模型的‘黑箱’，我們獨(dú)創(chuàng)的分層微調(diào)技術(shù)可對意圖識別、情感分類或指代消解等 100 多項(xiàng)不同的 NLP 任務(wù)做精準(zhǔn)增強(qiáng)。其中，在實(shí)現(xiàn)同等提升效果的前提下，領(lǐng)域標(biāo)注數(shù)據(jù)可以降低到原來的 1/6?！?/span>

據(jù)悉，中關(guān)村科金通過歷時(shí)半年的研究和開發(fā)，耗費(fèi) 10 萬卡天算力，整理出原子任務(wù)間的協(xié)同增益關(guān)系圖，用于摻混數(shù)據(jù)，提升模型訓(xùn)練效果效率，實(shí)現(xiàn)單卡推理、單周迭代，單周完成模型微調(diào)，且能避免模型的災(zāi)難性遺忘。該技術(shù)使得通用大模型能夠高效地被訓(xùn)練成領(lǐng)域大模型，并且結(jié)合領(lǐng)域知識庫，滿足企業(yè)具體場景的需求。

以金融行業(yè)企業(yè)知識庫為例，在與某頭部財(cái)富管理公司合作的客服場景下，中關(guān)村科金融合自研的企業(yè)知識大模型、智能客服等人工智能技術(shù)，為客戶打造了智能知識庫，具備多模態(tài)文檔分析、QA 問答對自動抽取、知識內(nèi)容自動標(biāo)簽化處理等能力。通過集成客戶的企業(yè)微信和展業(yè) APP 應(yīng)用，幫助客戶大幅提升客服系統(tǒng)問答意圖識別和回復(fù)的準(zhǔn)確率，減少文本客服 70% 以上的運(yùn)營工作量，回答效果提升 50%+。

在積累資源與技術(shù)的同時(shí)，中關(guān)村科金的多項(xiàng)技術(shù)能力也逐漸得到了行業(yè)認(rèn)可，并參與行業(yè)的標(biāo)準(zhǔn)認(rèn)定。具體來說，其模型能力獲中國信通院權(quán)威機(jī)構(gòu)認(rèn)證，具備全面的語義、語音、視覺等基礎(chǔ)能力，在 5 個(gè)能力域、46 個(gè)能力項(xiàng)評測中準(zhǔn)確度達(dá) 95%+，已達(dá)到當(dāng)前國產(chǎn)大模型最高能力級別 4+，加速領(lǐng)域大模型高效商業(yè)化落地。

此外，中關(guān)村科金還參與多個(gè)行業(yè)首個(gè)大模型權(quán)威認(rèn)證標(biāo)準(zhǔn)的制定，并且全面參與其他產(chǎn)品技術(shù)能力行業(yè)標(biāo)準(zhǔn)的制定，包括國內(nèi)首個(gè)智能營銷產(chǎn)品權(quán)威認(rèn)證標(biāo)準(zhǔn)、中國信通院“可信人臉識別守護(hù)計(jì)劃”、智能雙錄系統(tǒng)基礎(chǔ)能力要求、實(shí)時(shí)音視頻服務(wù)基礎(chǔ)能力要求及評估方法等。

截至目前，中關(guān)村科金已累計(jì)申請受理 438 項(xiàng)專利，獲得 329 項(xiàng)軟著及 CMMI5 國際認(rèn)證。數(shù)據(jù)資源方面，中關(guān)村科金服務(wù) 1600 多家企業(yè)的 200 多個(gè)場景數(shù)智化轉(zhuǎn)型，累計(jì)服務(wù)超過 5 億用戶，積累了各領(lǐng)域大量的行業(yè) Know How 和高質(zhì)量數(shù)據(jù)。

授人以魚，不如授人以漁：提升企業(yè)的大模型自主運(yùn)維能力

大模型技術(shù)可見十年應(yīng)用紅利。但是，當(dāng)前不少企業(yè)對大模型的認(rèn)知還存在一些誤區(qū)，特別是認(rèn)為模型規(guī)模越大效果越好。事實(shí)上，盡管擁有更強(qiáng)大人機(jī)交互能力的大模型在性能上更加卓越，但它們并不是傳統(tǒng)模型的替代品。

實(shí)際上，大小模型的創(chuàng)新組合式 AI 才是未來發(fā)展趨勢。這種組合能夠基于認(rèn)知推理對復(fù)雜任務(wù)進(jìn)行拆解、精密規(guī)劃，并調(diào)用各類模型。通過這種方式，可以實(shí)現(xiàn)更為精準(zhǔn)的風(fēng)險(xiǎn)分析、預(yù)測與決策。例如，大模型加小模型、決策引擎、關(guān)鍵詞、規(guī)則設(shè)置等。

另一方面，從技術(shù)角度來看，雖然近年來大模型發(fā)展速度快，但它更像是一個(gè)成長中的孩子，因此大模型并不是一步到位，而是需要持續(xù)學(xué)習(xí)。

此外，不容忽視的是，當(dāng)前大模型具有專業(yè)性不足、合規(guī)性存疑、經(jīng)濟(jì)性偏低等局限性。唯有攻克了這些問題，才能解決大模型“最后一公里”。

為解決上述難題，中關(guān)村科金構(gòu)建了組合式 AI、持續(xù)學(xué)習(xí)、模型安全可信、平臺化服務(wù)（MaaS）四大核心技術(shù)能力。

張杰表示，大模型本質(zhì)是語言和世界常識的知識庫，中關(guān)村科金通過知識注入與外掛知識庫“雙管齊下”的技術(shù)手段，讓企業(yè)形成一套實(shí)用的“技術(shù)+制度”，不僅能夠保障人類員工的行為數(shù)據(jù)或業(yè)績數(shù)據(jù)形成閉環(huán)，還可以讓大模型越用越“聰明”。

據(jù)介紹，為降低用戶的產(chǎn)品運(yùn)維成本，中關(guān)村科金在交付產(chǎn)品時(shí)，還會提供一套易操作的工具包，讓用戶可自主運(yùn)維，從而進(jìn)一步提升產(chǎn)品使用體驗(yàn)和效率。與此同時(shí)，應(yīng)用開發(fā)平臺可通過零代碼的方式開發(fā)大模型應(yīng)用，全面滿足企業(yè)需求，有效降低企業(yè)內(nèi)部應(yīng)用的創(chuàng)新成本、縮短試錯(cuò)周期。

在產(chǎn)品安全性和隱私保護(hù)方面，中關(guān)村科技采取了全面而細(xì)致的措施。在事前階段，實(shí)施精準(zhǔn)的數(shù)據(jù)篩選和嚴(yán)格的數(shù)據(jù)凈化，以確保數(shù)據(jù)的純凈性、安全性和全面性。在事中階段，累積了豐富的法律法規(guī)和行政案例知識，可進(jìn)行合規(guī)加訓(xùn)。在事后階段，通過“幻覺檢測”等后處理技術(shù)，進(jìn)行深入的安全性檢測和風(fēng)險(xiǎn)評估，從而確保產(chǎn)品的穩(wěn)定性和用戶的隱私安全。

需要了解的是，由于大模型是一場新的技術(shù)革命，因此完全在企業(yè)各場景落地應(yīng)用還需要一定的周期。

短期來看，可發(fā)揮其記性好、理解能力強(qiáng)，能讀懂非結(jié)構(gòu)化文檔等語言能力強(qiáng)的優(yōu)勢，作為助手類應(yīng)用，如知識助手、寫作助手、陪練助手賦能企業(yè)內(nèi)部員工。

目前，很多企業(yè)存在海量的非結(jié)構(gòu)化文檔，過去想將它們利用起來，需要訓(xùn)練小模型或人工標(biāo)注數(shù)據(jù)，再加工成知識圖譜，因此解析的成本非常高。

在知識密集型的行業(yè)領(lǐng)域里，企業(yè)員工每天都要與海量的文檔和信息打交道，包括不同類型的研報(bào)、報(bào)告、通知、公文等。張杰認(rèn)為，定向?qū)懽髦钟型蔀榻诒l(fā)的商業(yè)需求。

中期來看，在已建好的統(tǒng)一知識庫基礎(chǔ)上，結(jié)合更多的領(lǐng)域知識用在對話場景。比如，打電話進(jìn)行老用戶召回、自動回訪已成交用戶、為客服坐席賦能等。

從 2024 年上半年開始，中關(guān)村科金已經(jīng)陸續(xù)與多家頭部券商共創(chuàng)，在智能投研和智能投顧領(lǐng)域進(jìn)行嘗試。由于大模型撰寫的文案內(nèi)容更具針對性和多樣性，復(fù)雜金融產(chǎn)品銷售比例提升至 30%。與此同時(shí)，與某銀行在合規(guī)場景進(jìn)行大模型應(yīng)用共創(chuàng)，深挖內(nèi)規(guī)、外規(guī)和法律法規(guī)相關(guān)的領(lǐng)域知識，賦能金融業(yè)務(wù)各環(huán)節(jié)的合規(guī)把控。

中關(guān)村科金在公安領(lǐng)域反詐警情的場景與某省公安廳進(jìn)行共創(chuàng)?；诜丛p知識庫數(shù)據(jù)領(lǐng)域微調(diào)，打造反詐智腦并取得了顯著成效。大大提高了警務(wù)人員的工作效率，并減輕了警務(wù)人員的工作負(fù)擔(dān)，大幅減少人民群眾的財(cái)產(chǎn)損失。此外，中關(guān)村科金還在工業(yè)運(yùn)檢領(lǐng)域研發(fā)出運(yùn)檢助手，為運(yùn)檢人員提供最佳實(shí)踐指引，單筆工單的檢修效率提升 30%，降低了人工運(yùn)營成本。

長期來看，大模型需要在基礎(chǔ)語言能力上，通過有效集成事實(shí)性知識和流程性知識，逐漸增強(qiáng)推理決策能力，例如運(yùn)維檢測、金融風(fēng)控等。

張杰表示，希望未來可通過生成式 AI 技術(shù)構(gòu)建人機(jī)協(xié)同的新型生產(chǎn)關(guān)系，以幫助企業(yè)打造“超級員工”，實(shí)現(xiàn)具有分析決策能力的強(qiáng) AI 應(yīng)用。

結(jié)語

隨著大模型技術(shù)的快速、持續(xù)發(fā)展，賽道將會變得越來越擁擠，大模型領(lǐng)域也面臨著技術(shù)洗牌的變革趨勢。

因此，對于領(lǐng)域大模型產(chǎn)品應(yīng)用服務(wù)商來說，一方面，既需要具有強(qiáng)大的技術(shù)能力，實(shí)現(xiàn)快速、低成本地微調(diào)領(lǐng)域大模型；另一方面，也需要在 AGI 的發(fā)展道路上，基于現(xiàn)有語言能力和豐富的行業(yè) Know How 積累，增強(qiáng)大模型對事實(shí)判斷和價(jià)值判斷的能力。

對于解決行業(yè)/企業(yè)的更多問題、在更多場景應(yīng)用以及實(shí)現(xiàn)生產(chǎn)力變革方面，領(lǐng)域大模型的未來值得期待。