主辦方:媒體管家合作
官方網(wǎng)站:http://www.lzzqv.com
巨大技術(shù)投入的盡頭仍是如何創(chuàng)造商業(yè)價(jià)值。
隨著大模型進(jìn)入規(guī)?;涞貞?yīng)用階段,近期,一波行業(yè)大模型密集扎堆發(fā)布。2024年12月底,百川智能推出全鏈路領(lǐng)域增強(qiáng)金融大模型Baichuan4-Finance,同期,中關(guān)村科金推出的助大模型平臺(tái)2.0,更早前,奇富科技披露已將大模型引入小微金融場(chǎng)景……
相比巨頭在通用大模型領(lǐng)域的算力與技術(shù)廝殺,特定場(chǎng)景的行業(yè)大模型無疑“更接地氣”。
“2024年有很多云廠商來找到我們。因?yàn)槲覀冊(cè)谝痪€,有業(yè)務(wù)場(chǎng)景,可以直接去構(gòu)建大模型產(chǎn)品得到用戶反饋?!币晃唤鹑诳萍脊靖吖芟蛴浾咄嘎丁?/p>
中國工程院院士、清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授鄭緯民近期在接受記者采訪時(shí)就表示,通用大模型不需要太多,我認(rèn)為全國有三四個(gè)就夠了。大模型下一步發(fā)展還是如何有更好的應(yīng)用,并構(gòu)建更好的軟件生態(tài)。
技術(shù)大投入難持續(xù)
算力、算法、數(shù)據(jù)是大模型發(fā)展的關(guān)鍵三要素。其中,算力和數(shù)據(jù)被行業(yè)普遍認(rèn)為是現(xiàn)階段企業(yè)間的最大壁壘。行業(yè)大模型追求落地效果的呼聲漸盛,首先來自算力和數(shù)據(jù)的高投入。
在算力上,隨著大語言模型規(guī)模越來越大,參數(shù)甚至高達(dá)萬億級(jí)別,動(dòng)用一次訓(xùn)練所需要的資金、人力和穩(wěn)定性能源愈發(fā)昂貴。
鄭緯民在接受記者采訪時(shí)表示,基礎(chǔ)大模型需要極大的計(jì)算量,需要很大規(guī)模的顯卡,需要計(jì)算也需要存儲(chǔ),而具體場(chǎng)景上的行業(yè)模型則不需要這樣的計(jì)算量。
他以一家知名大模型創(chuàng)業(yè)公司為例透露:該公司產(chǎn)品邏輯在于數(shù)據(jù)更多、模型更大、更長的上下文窗口,帶來更好的輸出效果。但更高的推理負(fù)載意味著更多的推理卡,卡多了存儲(chǔ)器超負(fù)荷,使用流量一旦激增,就有可能帶來宕機(jī)風(fēng)險(xiǎn)。據(jù)其透露:這家大模型公司此前連續(xù)買了五次算力卡都沒有解決這個(gè)問題。
這一成本顯然絕大多數(shù)機(jī)構(gòu)“燒不起”。據(jù)記者向業(yè)內(nèi)了解,大模型的環(huán)節(jié)分為訓(xùn)練和推理,如果是從訓(xùn)練開始,整個(gè)成本確實(shí)很大。也有機(jī)構(gòu)人士向記者透露,推理成本上2023年仍然較高,但隨著技術(shù)迭代,2024年推理的成本其實(shí)已經(jīng)無限低了。
數(shù)據(jù)問題則是另一大瓶頸。根據(jù)Epoch AI Research研究預(yù)測(cè),到2026年,現(xiàn)存的用于AI模型訓(xùn)練的高質(zhì)量語言數(shù)據(jù)將耗盡。信息技術(shù)分析公司Gartner的一份研究報(bào)告也提到,到2030年合成數(shù)據(jù)(即制造數(shù)據(jù)),將成為AI模型的主要訓(xùn)練數(shù)據(jù)來源。
市場(chǎng)共識(shí)在于,大模型行業(yè)的發(fā)展已不再是狂飆狀態(tài),而是真正進(jìn)入精細(xì)化落地的進(jìn)程中。
鄭緯民認(rèn)為,人工智能進(jìn)入大模型時(shí)代的兩大特點(diǎn)是AI基礎(chǔ)大模型從單模態(tài)向多模態(tài)發(fā)展,以及大模型加速行業(yè)智能化升級(jí)。在他看來,大模型時(shí)代有三類企業(yè)將會(huì)脫穎而出:研發(fā)大模型的企業(yè)、推動(dòng)大模型應(yīng)用落地的企業(yè),以及支持大模型計(jì)算系統(tǒng)的企業(yè)。
其中,行業(yè)大模型公司則屬于第二類。
中關(guān)村科金總裁喻友平在接受記者采訪時(shí)表示,市場(chǎng)真正需要的是能夠回歸商業(yè)本質(zhì)的實(shí)用工具。行業(yè)大模型必須提供端到端的解決方案,能夠幫助企業(yè)解決實(shí)際問題,并具備全鏈條的服務(wù)能力。
場(chǎng)景應(yīng)用呼喚商業(yè)價(jià)值
2024年11月,央行、國家發(fā)展改革委等聯(lián)合印發(fā)《推動(dòng)數(shù)字金融高質(zhì)量發(fā)展行動(dòng)方案》,既提到“強(qiáng)化數(shù)字技術(shù)支撐能力”以助力金融業(yè)數(shù)字化轉(zhuǎn)型,也突出要“運(yùn)用數(shù)字技術(shù)提升重點(diǎn)領(lǐng)域金融服務(wù)質(zhì)效”。這也使金融機(jī)構(gòu)在推動(dòng)AI落地上有了強(qiáng)烈動(dòng)力。
從領(lǐng)域來看,金融無疑當(dāng)前大模型落地的一個(gè)重要領(lǐng)域。恒生研究院市場(chǎng)調(diào)研數(shù)據(jù)顯示,2024年前三季度,我國公開披露的大模型項(xiàng)目中標(biāo)總額達(dá)到20.75億元,較2023年全年增長163%。金融行業(yè)的大模型中標(biāo)項(xiàng)目數(shù)量為66個(gè),項(xiàng)目金額達(dá)1億元,占比4.9%。2024年1月至11月,金融行業(yè)的大模型中標(biāo)項(xiàng)目數(shù)量達(dá)到103個(gè),項(xiàng)目金額增至2億元。
雖然從絕對(duì)占比來看,金融行業(yè)在全行業(yè)并不算高。但由于金融較之其他行業(yè)對(duì)于技術(shù)和安全的標(biāo)準(zhǔn)更高,因此能夠在金融領(lǐng)域應(yīng)用的大模型能力,往往具備向其他領(lǐng)域遷移的條件,即“向下兼容”。
前述金融科技公司高管就透露:2023年制定OKR時(shí),公司管理層明確指出要找到大模型在金融科技領(lǐng)域最佳的應(yīng)用。
企業(yè)側(cè)對(duì)于場(chǎng)景的價(jià)值已有相當(dāng)共識(shí)。奇富科技首席算法科學(xué)家費(fèi)浩峻就表示,如果技術(shù)對(duì)于大模型的權(quán)重是40%,對(duì)于業(yè)務(wù)場(chǎng)景的理解和深耕則要達(dá)到60%。應(yīng)用場(chǎng)景、數(shù)據(jù)飛輪、智能體是大模型產(chǎn)品三個(gè)必要條件。
在喻友平看來,“平臺(tái)+應(yīng)用+服務(wù)”的模式是企業(yè)大模型落地的最佳路徑。他指出,大模型平臺(tái)之間的差異主要體現(xiàn)在三個(gè)方面:算力的大小、模型的響應(yīng)速度,以及以智能體為代表的應(yīng)用構(gòu)建能力。在智能體應(yīng)用構(gòu)建中,場(chǎng)景模板是最關(guān)鍵的因素之一。
怎么理解這種場(chǎng)景價(jià)值?喻友平告訴記者,對(duì)于場(chǎng)景價(jià)值和知識(shí)能力的理解,雖然方法論是通用的,但數(shù)據(jù)和行業(yè)場(chǎng)景并不通用。例如,保險(xiǎn)銷售和財(cái)富產(chǎn)品銷售的外呼場(chǎng)景就不能通用,因?yàn)樗鼈兊牧鞒滩煌?,即使是營銷外呼也可以衍生出多種場(chǎng)景,每個(gè)行業(yè)的需求也各不相同。
在一定條件下,這種場(chǎng)景能力有可能實(shí)現(xiàn)遷移,尤其是在營銷獲客方面。喻友平舉例說,只要將某個(gè)行業(yè)的垂直場(chǎng)景數(shù)據(jù)和知識(shí)提取出來,并注入相關(guān)行業(yè)大模型中,一旦模型訓(xùn)練完成,就可以在另一個(gè)領(lǐng)域繼續(xù)使用,從而實(shí)現(xiàn)標(biāo)準(zhǔn)化。這種能力遷移和標(biāo)準(zhǔn)化的可能性,為大模型在不同行業(yè)中的應(yīng)用提供了廣闊的前景。
目前來看,大模型在金融行業(yè)實(shí)際生產(chǎn)中的主要用途為內(nèi)部賦能以及客服、外呼、獲客等業(yè)務(wù)環(huán)節(jié)。據(jù)喻友平透露,以智能營銷場(chǎng)景的大模型外呼為例,公司在某家裝平臺(tái)活動(dòng)營銷轉(zhuǎn)化率達(dá)到了3.5%,對(duì)比傳統(tǒng)AI外呼大幅提升130%,與人工座席相比僅有17%的差距;在智能運(yùn)營環(huán)節(jié)在金融場(chǎng)景業(yè)務(wù)中,可以實(shí)現(xiàn)綜合線索留資率提升19.8%……
如何從降本增效逐步升級(jí)到高效提升業(yè)務(wù)核心收益是關(guān)鍵。費(fèi)浩峻也透露:目前已經(jīng)將AI能力和金融大模型集成到新的信貸業(yè)務(wù)系統(tǒng)Focuspro2.0當(dāng)中,既可以支持消費(fèi)貸業(yè)務(wù),也可以支持小微金融的業(yè)務(wù),做到較好識(shí)別欺詐風(fēng)險(xiǎn)。
不過也有業(yè)內(nèi)人士透露,一些大模型在金融業(yè)務(wù)里使用后剛開始的效果還是不錯(cuò)的,但是隨著整個(gè)迭代變多以后效果出現(xiàn)了不穩(wěn)定。就要深入一線和業(yè)務(wù)團(tuán)隊(duì)不斷溝通,這些都是需要持續(xù)強(qiáng)化的領(lǐng)域。