圖片來源@視覺中國
生成式AI為產(chǎn)業(yè)帶來了機(jī)會和挑戰(zhàn),隨著摩爾定律的持續(xù)放緩,算力已經(jīng)遠(yuǎn)遠(yuǎn)跟不上數(shù)據(jù)的激增和算法的突破。
11月29日,浪潮信息聯(lián)合IDC共同發(fā)布《2023-2024年中國人工智能計算力發(fā)展評估報告》。報告對人工智能(AI)產(chǎn)業(yè)、算力及應(yīng)用進(jìn)行了整體闡述和分析,從地域和行業(yè)維度對中國AI計算力發(fā)展進(jìn)行評估,并對行業(yè)用戶和技術(shù)供應(yīng)商給出可行性行動建議。
IDC中國副總裁周震剛與鈦媒體等交流中指出,“從算力角度,中國相較于美國整體上還是會有一些差距。中國廠商在系統(tǒng)級方面的能力并不弱,如芯片集成方面,通過堆卡堆片,讓系統(tǒng)發(fā)揮更大更有效的計算,同時進(jìn)行能耗方面的控制,不一定需要付出特別大的代價。”
“服務(wù)商需要盡快構(gòu)建核心競爭力,構(gòu)建開放、多元的算力平臺生態(tài),以系統(tǒng)化方法應(yīng)對智算需求。一是提供智算的基礎(chǔ)架構(gòu),幫助客戶提供智算加速,目前絕大部分的云廠商都有這個能力,但它們更多是在集中大量資源去訓(xùn)練自己的模型,釋放出來的資源并不多,反倒是有些拿到了算力卻沒有自己做模型的企業(yè)會釋放額外算力。其次是模型即服務(wù),模型開源或以付費(fèi)形式,提供給行業(yè)或企業(yè)客戶進(jìn)行模型微調(diào)。此外還有面向生態(tài)伙伴ISV,開放模型API,或者直接基于模型開發(fā)出的SaaS應(yīng)用,提供給客戶使用。”周震剛告訴鈦媒體。
報告首先指出,在中國,芯片市場機(jī)遇與挑戰(zhàn)并存。算力需求的提升給本土芯片廠商的發(fā)展提供了較大的空間,帶來新的機(jī)遇。IDC預(yù)計,2023年中國AI芯片出貨量將達(dá)到133.5萬片,同比增長22.5%。
但中國芯片產(chǎn)業(yè)發(fā)展也面臨著一些挑戰(zhàn),其中以技術(shù)突破、人才培養(yǎng)、知識產(chǎn)權(quán)保護(hù)等是方面的問題尤為突出。以封裝技術(shù)為例,3D封裝等技術(shù)的出現(xiàn)意味著高端芯片賽道上的競爭無須再僅圍繞摩爾定律下的晶體管工藝能力展開,而是可以從新的角度切入,達(dá)成電路密度提升的目標(biāo),進(jìn)而實現(xiàn)性能的升級,封裝工藝突破正在成為中國芯片制造的新課題。
報告還指出,本土AI芯片仍需在發(fā)展、繼承和競爭中成長。芯片產(chǎn)業(yè)發(fā)展不僅依賴硬件能力,還需要構(gòu)建與硬件匹配的軟件生態(tài),包括操作系統(tǒng)、中間件和工具鏈等,當(dāng)下諸多本土芯片技術(shù)儲備和生態(tài)能力仍圍繞小模型時代的識別式AI展開,難以匹配大模型和生成式AI發(fā)展所需的軟件生態(tài)、模型框架、性能需求。
而在服務(wù)器方面,由于大模型對計算能力和數(shù)據(jù)的高需求,其所需要的服務(wù)器設(shè)施將在AI基礎(chǔ)設(shè)施市場中占據(jù)越來越大的份額。IDC預(yù)計,全球AI硬件市場(服務(wù)器),將從2022年的195億美元增長到2026年的347億美元,五年年復(fù)合增長率達(dá)17.3%;其中,用于運(yùn)行生成式AI的服務(wù)器市場規(guī)模在整體AI服務(wù)器市場的占比將從2023年的11.9%增長至2026年的31.7%。IDC還預(yù)計,2023年中國AI服務(wù)器市場規(guī)模將達(dá)91億美元,同比增長82.5%,2027年將達(dá)到134億美元,五年年復(fù)合增長率為21.8%。
整體來看,面對單芯片性能受限等局面,中國市場對于算力供給能力的評估指標(biāo)將從硬件性能向應(yīng)用效果轉(zhuǎn)變,企業(yè)在獲得算力服務(wù)的過程中,會更加以應(yīng)用為導(dǎo)向進(jìn)行綜合考量,增加對于諸如單位時間可處理Token數(shù)量、可靠性、時延、訓(xùn)練時間和資金成本、數(shù)據(jù)集質(zhì)量等指標(biāo)的關(guān)注。
針對這一轉(zhuǎn)變,報告建議,算力服務(wù)商需要“以應(yīng)用為導(dǎo)向、系統(tǒng)為核心”,構(gòu)建算力基礎(chǔ)設(shè)施,提高算力利用率,提升諸如卡間互聯(lián)、多節(jié)點間互聯(lián)等水平,通過靈活可擴(kuò)展的集群滿足市場的需求。
同時,鑒于大模型訓(xùn)練,需要消耗大量計算資源,而且對算力的速度、精度、性能也提出更高要求,大模型的本地訓(xùn)練成本不菲,企業(yè)將更多地使用AI就緒的數(shù)據(jù)中心設(shè)施和AI服務(wù)器集群。未來算力服務(wù)需要能夠提供定制化的、優(yōu)化的基礎(chǔ)設(shè)施服務(wù)能力,滿足單個用戶對訓(xùn)練和推理資源的獨(dú)占式、大規(guī)模、長時間使用的訴求,從而縮短部署時間,幫助企業(yè)實現(xiàn)成本的控制。
在此背景下,中國AI產(chǎn)業(yè)實踐和應(yīng)用投入具備自身的特征趨勢。
地域性方面,可以看到,北京、杭州、上海、深圳、廣州、合肥、蘇州、重慶等城市在AI領(lǐng)域具有較為突出的表現(xiàn)。其中,北京,擁有大量的人才和成熟的企業(yè),同時政策扶持也非常有力,一直穩(wěn)居AI算力發(fā)展城市排名前列,上海、深圳、杭州等城市不斷加速技術(shù)積累,拓展應(yīng)用場景,構(gòu)建具有特色的AI發(fā)展路線。目前,北京在大模型領(lǐng)域表現(xiàn)突出,聚集了大批大模型企業(yè),推出諸多具有代表性的大模型及應(yīng)用產(chǎn)品。
報告指出,排名靠前的城市因具有更好的政策、資金和技術(shù)支持,穩(wěn)定吸引更多的人才和企業(yè)聚集,形成更強(qiáng)的AI產(chǎn)業(yè)集群,排名相對靠后的城市保持著對AI產(chǎn)業(yè)的熱忱,挖掘具有地方特色的發(fā)展路徑。另外,智算中心的建設(shè)是拉動地區(qū)實現(xiàn)AI發(fā)展的重要驅(qū)動力,如南京、天津、西安等城市對智算中心的建設(shè)也已走到前列。
行業(yè)性方面,互聯(lián)網(wǎng)、電信、政府、金融、制造行業(yè)對AI的探索和應(yīng)用在過去五年一直處于高位。其中,在電信行業(yè),運(yùn)營商加速云數(shù)據(jù)中心建設(shè),積極部署云上智能化能力,同時也在加速基礎(chǔ)設(shè)施的智能化建設(shè),支持電信網(wǎng)絡(luò)的建設(shè)和優(yōu)化。
從企業(yè)和行業(yè)應(yīng)用價值角度,IDC調(diào)研顯示,企業(yè)在未來三年由AI所產(chǎn)生的價值將大幅提升,尤其在提高資產(chǎn)利用率、降低人力成本、提升洞察力、提升決策速度和優(yōu)化用戶體驗等。
結(jié)合IDC最新調(diào)研數(shù)據(jù),在企業(yè)對AI的單點技術(shù)應(yīng)用方面,計算機(jī)視覺仍為最主要的應(yīng)用技術(shù)類型,以生物識別和圖像技術(shù)為主,語音技術(shù)應(yīng)用程度緊隨其后,自然語言處理仍處在相對早期的發(fā)展階段。同時,調(diào)研還發(fā)現(xiàn),自然語言處理對企業(yè)IT資源占用最大,未來隨著這一應(yīng)用普及度的提高,該特征將更為顯著。除此之外,圖像技術(shù)、知識圖譜和AR/VR是參與調(diào)研樣本企業(yè)中另外三個高算力消耗的單點技術(shù)。
![]()
《2023-2024年中國人工智能計算力發(fā)展評估報告》
2023年,生成式AI應(yīng)用的行業(yè)落地正快速發(fā)展。并且由于它對實際應(yīng)用注入了增強(qiáng)功能,也得到商業(yè)領(lǐng)域的廣泛關(guān)注。通過把大模型能力和應(yīng)用需求結(jié)合,結(jié)合場景或業(yè)務(wù)數(shù)據(jù),可加速生成式AI向行業(yè)領(lǐng)域的滲透。IDC認(rèn)為,知識管理、對話式應(yīng)用、銷售和營銷、代碼生成等是企業(yè)應(yīng)用生成式AI的主要領(lǐng)域。
例如,通過將一個模型(或多個模型)與企業(yè)數(shù)據(jù)集成,可供特定業(yè)務(wù)部門或職能部門(營銷、銷售、采購等)使用,滿足職能場景的業(yè)務(wù)需求;通過具體工作任務(wù)設(shè)計,如生成文案、圖片、視頻等內(nèi)容,加速軟件開發(fā),可將生成式AI功能注入現(xiàn)有應(yīng)用,提高生產(chǎn)力;基于足夠大的訓(xùn)練數(shù)據(jù)集或與行業(yè)生態(tài)伙伴合作,共享數(shù)據(jù),圍繞具體模型,以定制化方式構(gòu)建特定集成架構(gòu),滿足行業(yè)需求。
報告指出,相較于其他行業(yè),金融和制造業(yè)對生成式AI的投入和使用階段更靠前。
在金融行業(yè),IDC全球一項調(diào)研結(jié)果顯示,樣本中超過半數(shù)的金融機(jī)構(gòu)計劃在2023年在生成式AI技術(shù)上進(jìn)行投入,只有10%的金融機(jī)構(gòu)表示,他們目前沒有試驗計劃,或者目前沒有使用生成式AI的計劃。在金融行業(yè)脫穎而出并最容易實現(xiàn)的用例多數(shù)圍繞用戶體驗、知識管理和應(yīng)用開發(fā),如智能投顧、自動化客服(如聊天機(jī)器人和語音機(jī)器人)、風(fēng)險評估、報告自動化生成、代碼生成應(yīng)用等。
生成式AI在金融行業(yè)有著巨大的前景,但金融作為監(jiān)管最為嚴(yán)格的行業(yè)之一,對數(shù)據(jù)安全和隱私有極高的要求,本次參與調(diào)研的金融機(jī)構(gòu)表示,對數(shù)據(jù)安全和隱私的顧慮是他們采用生成式AI時的最大阻礙,如何解決這一問題,對未來技術(shù)的應(yīng)用發(fā)展至關(guān)重要。
在制造業(yè),盡管生成式AI處于應(yīng)用早期,但由于其能夠為客戶生成個性化內(nèi)容和營銷體驗,在改善客戶體驗方面具有巨大潛力。目前主要用例涉及潛在客戶開發(fā)、生產(chǎn)流程優(yōu)化、產(chǎn)品設(shè)計輔助、設(shè)備預(yù)測性維護(hù)、供應(yīng)鏈管理等。在制造行業(yè)應(yīng)用過程中,生成式AI需要解決的關(guān)鍵挑戰(zhàn)包括:數(shù)據(jù)的可用性和質(zhì)量,客戶對銷售人員參與度的期望,以及數(shù)據(jù)和隱私法的要求。
此外,在醫(yī)療(臨床文檔和數(shù)據(jù)管理、患者服務(wù)、工作流程和資源優(yōu)化、員工支持、醫(yī)療保健)、能源(能源消費(fèi)趨勢預(yù)測、能源存儲和分發(fā)、環(huán)境監(jiān)測)、零售(庫存管理和預(yù)測、個性化推薦、客戶行為)、教育(語言學(xué)習(xí)、教學(xué)輔助、學(xué)習(xí)評估)等領(lǐng)域,生成式AI與大模型也在實現(xiàn)推進(jìn)。
最后,報告建議行業(yè)用戶應(yīng)及早從生成式AI潮流中受益,如何實現(xiàn)這一過程,需要根據(jù)自身條件進(jìn)行:其中包括評估企業(yè)生成式AI的基礎(chǔ)準(zhǔn)備情況,根據(jù)業(yè)務(wù)轉(zhuǎn)型需求、技術(shù)能力以及預(yù)算等調(diào)整AI投資組合,對技術(shù)棧各層的能力評估,數(shù)據(jù)準(zhǔn)備工作等。
(本文首發(fā)鈦媒體APP,作者 | 楊麗)
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求,請綁定手機(jī)號后發(fā)表評論
算力資源和電力資源一樣,在我國也是分布極不均勻
對于即將迎來的第四次工業(yè)革命,算力是核心驅(qū)動力,未來我國對算力的需求巨大