歡迎體驗得助產(chǎn)品
手機號碼
歡迎注冊得助智能
注冊尚未完成
現(xiàn)在離開將導致注冊失敗確定要退出嗎?
填寫時間過長
頁面已停止響應
請在30分鐘內(nèi)完成填寫
登錄成功
請選擇您感興趣的產(chǎn)品
得助大模型平臺
一站式服務簡化大模型訓推評全流程
高效、低成本構(gòu)建大模型企業(yè)級應用
知識管理
為財富顧問提供一站式智能問答服務
組合式AI打造大模型企業(yè)知識助手
智能客服
全渠道全媒體、一站式AI+呼叫中心
外呼大模型加持,聽得準確說得自然
即時文本對話,自研知識引擎
大模型擬真,千人千面沉浸式AI對練
智能運營
全場景自研AI+RTC實時音視頻服務
高精度、高安全的圖文檢測識別服務
AI+RPA深度融合,賦能企業(yè)自動化
全鏈路生物數(shù)據(jù)核驗,守衛(wèi)安全防線
大模型賦能合規(guī),金融級多模態(tài)質(zhì)檢
自然語言交互,可視化智能分析數(shù)據(jù)
企業(yè)出海
企業(yè)跨語種無界溝通,贏占國際市場
多語言國際服務,跨時區(qū)溝通無障礙
多語言智能交互助力全球營銷與服務
大模型賦能國際企業(yè)多模態(tài)質(zhì)檢服務
智能營銷
智能營銷服引擎,高效轉(zhuǎn)化私域流量
打通營銷全鏈路,賦能企業(yè)增速業(yè)務
打造超低延遲、超穩(wěn)定的直播平臺
其他
為企業(yè)提供多場景、高質(zhì)量專業(yè)服務
安全穩(wěn)定、應用多場景的線路服務
描述具體需求(選填)
歡迎微信掃碼咨詢
中關(guān)村科金得助智能-小得
市場活動
2024-01-22 21:06:20
作者:科技藍
閱讀量:1743
文章目錄
2023年11月23日,中關(guān)村科金在北京舉行“重構(gòu)未來,產(chǎn)業(yè)智能躍遷”2023大模型產(chǎn)業(yè)前沿論壇,正式發(fā)布國內(nèi)首個企業(yè)知識大模型、AgentGraph應用開發(fā)平臺,以及“超級員工”助手系列AIGC應用,為企業(yè)提供開箱即用、系統(tǒng)無縫銜接、成本可負擔的專屬領域大模型服務。
在以《大模型加速智能時代到來,企業(yè)如何抓住新機遇》為議題的圓桌對話環(huán)節(jié),主持人中國信通院南京新一代人工智能研究院高級業(yè)務主管張學強,與清華大學計算機科學與技術(shù)系教授、清華大學人工智能研究院常務副院長、歐洲科學院外籍院士孫茂松,中關(guān)村科金技術(shù)副總裁張杰,諾亞控股數(shù)據(jù)管理部總經(jīng)理孫甜,智譜AI總裁王紹蘭,圍繞自身視角下對大模型時代機遇與挑戰(zhàn)的認識,以及對應的發(fā)展路徑展開探討。 本文對圓桌對話分享內(nèi)容進行了編輯整理。 中國信通院南京新一代人工智能研究院高級業(yè)務主管 張學強 主持人:各位好,我是中國信通院的張學強。很榮幸今天邀請到了產(chǎn)學研用各方學者和專家,跟我們一起談談大模型是如何加速智能時代的到來,以及企業(yè)如何抓住這一重要機遇。為此我準備了幾個問題,話題一,現(xiàn)在“百模大戰(zhàn)”已經(jīng)過了上半場,大家在上半場是怎樣圍繞大模型進行業(yè)務布局或開展產(chǎn)業(yè)研究的?大模型對企業(yè)的業(yè)務創(chuàng)新與發(fā)展究竟有哪些價值? 清華大學計算機科學與技術(shù)系教授、清華大學人工智能研究院常務副院長、歐洲科學院外籍院士 孫茂松 孫茂松:大模型是一個新的信息處理基礎軟設施,企業(yè)過去的業(yè)務都應該在新的平臺上重新打造一遍,效果肯定比過去好,但好多少是未知數(shù)。大模型提供了企業(yè)業(yè)務升級換代的可能性,而且可能性的空間很大,值得一試,對行業(yè)頭部企業(yè)更為重要,因為如果主線產(chǎn)品不是基于新的平臺,若干年后頭部地位可能會被改變。 中關(guān)村科金技術(shù)副總裁 張杰 張杰:大模型是一種技術(shù),技術(shù)就是工具,沒有改變工具性的本質(zhì)。對于企業(yè)來講,企業(yè)始終關(guān)心成本、效率和用戶體驗問題,只不過大模型技術(shù)更進一步把技術(shù)降本增效的工具性發(fā)揮到了極致。原本基于大數(shù)據(jù)和AI的產(chǎn)品都值得用大模型重新考慮一遍,大模型是一種大趨勢,每個企業(yè)中的每位員工,或多或少、或早或晚都會涉足其中,所以盡早考慮比晚點考慮要好。 諾亞控股數(shù)據(jù)管理部總經(jīng)理 孫甜 孫甜:大模型在諾亞控股最大的價值是“諾Chat”的上線,節(jié)約了70%的人工問答工作量。大模型火熱之時我問工程師團隊,為什么提的需求排期還是這么靠后?有了大模型后排期是否應該縮減一半?后來我發(fā)現(xiàn),大模型工程提效雖然是一個大方向,但此時此刻還沒有達到這么高的降本增效效果。不過有了大模型代碼輔助能力后,工程師學習新東西的速度變得非???,比如AI交互式新模型的開發(fā)等。 智譜AI總裁 王紹蘭 王紹蘭:從整個產(chǎn)業(yè)來說,當前大模型競爭的是基礎能力的提升,下一步重點是在行業(yè)、產(chǎn)業(yè)的落地,不僅涉及到IT產(chǎn)業(yè),也會擴展到非IT產(chǎn)業(yè)。據(jù)麥肯錫預測,生成式人工智能每年可為全球經(jīng)濟增加 2.6 萬億至 4.4 萬億美元,所以大模型未來在產(chǎn)業(yè)中的落地是必然的。作為產(chǎn)業(yè)應用,尤其是對于中小企業(yè)和創(chuàng)新企業(yè),大模型是一個巨大的機會,大企業(yè)往往會看方向、看發(fā)展,有成熟應用再跟進。恰恰是中小企業(yè),大模型是一個非常成功的上位機會。 主持人:正如王總所說大模型是機遇也是挑戰(zhàn)。第二個話題,大模型產(chǎn)業(yè)發(fā)展競爭逐漸白熱化,企業(yè)該如何建立競爭壁壘以及找到新的增長點呢?請各位專家做一個簡單的分享。 王紹蘭:分成兩類,大模型企業(yè)建議提升基礎模型和多模態(tài)能力,下一步的挑戰(zhàn)是多模態(tài)更強的推理以及Agent能力;應用模型企業(yè)的核心競爭力在于行業(yè)Know-How,包括企業(yè)對行業(yè)業(yè)務的理解和行業(yè)數(shù)據(jù)的沉淀,缺一不可。人工智能是由數(shù)據(jù)算力、算法決定的,所以行業(yè)數(shù)據(jù)的沉淀是核心競爭力的一部分,另一部分是對行業(yè)業(yè)務的理解。 我們希望有既理解大數(shù)據(jù)又理解人工智能的服務團隊。中關(guān)村科金深耕金融行業(yè)多年,熟悉金融業(yè)務流程中的各種問題,具備核心競爭力的重要兩點。同時下一個獨角獸應該出現(xiàn)在為實體經(jīng)濟、為金融行業(yè)提供服務的公司,下一個投資熱點應該在生產(chǎn)服務業(yè)中,并且是生產(chǎn)服務業(yè)中為第一、第二產(chǎn)業(yè)提供服務的科技公司。 孫甜:諾亞控股的核心是為企業(yè)帶來業(yè)務價值。過去數(shù)據(jù)偏小的企業(yè)發(fā)展機會不大,因為大數(shù)據(jù)賦能的企業(yè)會發(fā)展得比較好,但是在大模型時代,反倒有很大的希望。在大數(shù)據(jù)時代,大數(shù)據(jù)等同于知識經(jīng)驗的沉淀,因模型理解力不夠需要海量的數(shù)據(jù)訓練,現(xiàn)在諾亞控股反倒強在行業(yè)的Know-How。過去Know-How的載體等同于大數(shù)據(jù),現(xiàn)在的載體則非常多,對我們來講PaLM工廠也是很好的載體,至于如何把Know-How變成更高的智能,還需要突破傳統(tǒng)。 張杰:科技公司在大模型時代要建立競爭優(yōu)勢有三點,一是數(shù)據(jù)、二是知識、三是經(jīng)驗。無論基礎大模型還是領域大模型,一定的數(shù)據(jù)量是起碼的。中關(guān)村科金過去幾年在各式各樣的對話式場景下,積攢了大量數(shù)據(jù),服務了九百多家客戶,兩百多個場景,每天人工撥打的電話大概有兩百萬,積累了大量的數(shù)據(jù)。 但僅有海量數(shù)據(jù)仍然不夠,因為數(shù)據(jù)相當于鐵礦石,喂到模型里的需要是精煉知識,所以知識是更寶貴的一類數(shù)據(jù)。打個比方,如果原始數(shù)據(jù)是過去一百年太陽系九大行星的運行軌跡,這個數(shù)據(jù)量的價值不夠直接給一個牛頓萬有引力這樣的知識。 現(xiàn)在的大模型時代和原來的AI手段也不一樣。原來的AI手段各種各樣,有基于數(shù)、矩陣、神經(jīng)網(wǎng)絡的,現(xiàn)在的大模型時代,數(shù)據(jù)、算法都趨同,把一個高級凝練的知識灌進去之后,提升會更加明顯。這種知識是指行業(yè)提煉出來的高純度的、高知識密度的Know-How,而且還避免了數(shù)據(jù)泄露、安全、隱私方面的問題。 第三是經(jīng)驗,包括場景經(jīng)驗、微調(diào)領域的經(jīng)驗,有了知識和數(shù)據(jù)也不能保證一定能有一個更好的領域大模型。算法工程師知道怎么微調(diào)領域大模型,也知道不同層級的NLP任務如何拆解,這種微調(diào)經(jīng)驗是非常寶貴的。所以算法工程師在核心壁壘里是非常寶貴的一類資產(chǎn),只不過現(xiàn)在我們的資產(chǎn)負債表沒有把算法工程師加到里面。 孫茂松:知識密集型企業(yè)樹立大模型的意識非常重要。大模型不是萬能的,但沒有大模型對知識密集型企業(yè)是萬萬不能的。大模型是一個有力的工具,在工具的支撐下,過去所有的東西可能都要重新設計。比如冷兵器時代,即使神勇如關(guān)云長到熱兵器時代也不堪一擊。大模型就是最銳利的工具,工具會重構(gòu)生產(chǎn)關(guān)系,這點值得企業(yè)重視。不要太指望這個工具一出來就有奇跡發(fā)生,但如果跟競爭企業(yè)相比,效率永遠比對方低20%,可能就沒有機會了。所以企業(yè)要樹立大模型意識,是或不是,結(jié)果可能差得很遠。 主持人:好的,接下來聊第三個話題,目前大模型的參數(shù)越來越高,隨之而來的訓練成本也越來越貴,那么低成本這件事情還成立嗎?或者說在當今的大模型時代需要如何重新定義什么是低成本? 孫茂松:構(gòu)造通用基礎大模型的成本是比較重的,但一般企業(yè)不用操心,這是少數(shù)大模型頭部企業(yè)操心的事?;A大模型訓練之后,現(xiàn)在有一套辦法,叫真流程、小模型。小模型對企業(yè)來講壓力不是特別大,完全可以承受,另外相對頭部企業(yè)發(fā)展,成本不是最重要的考量因素,小型企業(yè)更重要的是可能性,跟頭部企業(yè)相比是否占據(jù)優(yōu)勢。成本有摩爾定律,很快會降下來,所以成本不會是太大的問題。 張杰:完全贊同孫院士的說法。其實企業(yè),尤其是甲方,完全沒必要從零到一訓練一個基礎大模型,這樣成本確實非常高,而且很多場景也完全沒必要用到千億級參數(shù)的大模型。只要場景需求確定,這種任務交給中關(guān)村科金去做就可以了,我們提供一個成本完全可以負擔的微調(diào)領域小模型就可以,所謂小模型有個幾十億B、上百億數(shù)據(jù)就可以了。 孫甜:我跟前面嘉賓的觀點一樣。為什么我們不買GPU?因為這不是甲方企業(yè)考慮的事。一開始我們就決定能找到專業(yè)團隊就不自研,規(guī)避了大模型最重要的成本。對于甲方企業(yè)來說,最大的成本有兩個,第一機會成本,我們自己落地成本不高,但如果喪失了機會,對我們是重大的打擊,所以大模型出來后我們一直在跟進這個方向。第二是落地和應用成本,也就是怕反復試錯以后企業(yè)用不起來,為了規(guī)避這個成本,我們緊抓企業(yè)場景。 目前在智能客服方面是有一些確定性的應用,但遠遠不夠,還要在其他領域快速試。試的過程中要發(fā)動一線員工不停地應用,從一線員工的角度找一些場景。如果視汽車為更快的馬,認知就局限在了落地場景的挖掘上;如果視汽車為汽車,那落地場景會有很多。找不到場景的一個原因是終端用戶對大模型的認知不夠,所以我們的策略是不停推廣,讓大家無論如何先用起來。 王紹蘭:同意孫老師的觀點。大家對成本是有誤解的,大模型一出來大家就說模型很大、很花錢,其實指的是訓練。智譜AI研發(fā)130B大模型的時候,就有做普惠大模型的目標。什么叫普惠大模型?分享幾個數(shù)字。訓練130B的千億級參數(shù)大模型需要什么成本?四張3090顯卡;60B的大模型需要1張3090的顯卡,家用就可以跑起來;15B參數(shù)的模型手機就可以跑,所以成本其實很低。 從應用的角度看,企業(yè)使用大模型需要生產(chǎn)服務業(yè)的企業(yè)一起努力才可以。企業(yè)面對的其實不是成本的問題,是投入產(chǎn)出比的問題。簡單說一個數(shù)字,我們現(xiàn)在用CodeGeeX編碼模型幫助軟件開發(fā)企業(yè)單人提升50%的效率,團隊提升30%的效率,投入產(chǎn)出比大概是十幾倍。大模型真正帶來的是生產(chǎn)力的提升,生產(chǎn)力的提升會改變生產(chǎn)關(guān)系。如果這兩件事都做到,真正智能帶來的是工業(yè)革命。所以成本不是問題,真正的賦能和提效才是大模型未來看到的東西、生產(chǎn)力的東西。 主持人:是的,真正的賦能和提效才是生產(chǎn)力最后的要求。最后一個問題,請各位嘉賓用一句話總結(jié)下對智能時代的前景展望、商業(yè)機遇或企業(yè)發(fā)展建議。 孫茂松:第一不用去研發(fā)大模型,第二琢磨怎么用好大模型。 張杰:大模型怎么應用不只是一個技術(shù)問題,也是管理和組織能力問題。 孫甜:想要用好大模型,請考慮一下中關(guān)村科金。 王紹蘭:用好大模型,每天少工作一小時。 主持人:至此,2023大模型產(chǎn)業(yè)前沿論壇的所有環(huán)節(jié)已經(jīng)結(jié)束,感謝參會嘉賓的支持。中國信通院、中關(guān)村科金愿與各位專家、企業(yè)代表們攜手共推大模型工程化落地、共筑大模型可信生態(tài),謝謝各位!
點擊免費試用,助力企業(yè)服務營銷數(shù)字化升級>>
一場匯聚全球智慧的高端盛宴即將拉開帷幕!3月5日下午,由Google Ads傾力打造的高端論壇《解碼...
最近deepseek可是超級火熱,眾多企業(yè)紛紛宣布接入deepseek大模型,當然得助智能客服系統(tǒng)也...
在數(shù)智化浪潮下,企業(yè)服務質(zhì)檢正經(jīng)歷從“人工抽檢”到“全量AI質(zhì)檢”的跨越式升級。日前,得助智能質(zhì)檢系...
得助智能大模型平臺一體機,作為企業(yè)級大模型的軟硬一體解決方案,2月份迎來了重大升級。這款大模型一體機...
咱都知道DeePSeeK那可是“香餑餑”,誰能把DeePSeeK大模型用好,誰就能在市場競爭里搶占先...
大模型訓推一體機公司哪家強?中關(guān)村科金得助智能,作為大模型訓推一體機領域的佼佼者,以其先進的技術(shù)、豐...