“2024年，將是大模型應(yīng)用年。不要高估新技術(shù)的短期影響，也不要低估新技術(shù)的長(zhǎng)期影響，尤其是大模型。”浪潮通軟副總經(jīng)理兼CTO鄭偉波對(duì)鈦媒體App表示。
浪潮通軟的判斷與行業(yè)一致，但目前大模型落地還存在可見(jiàn)的難題與掣肘，人人都在談?wù)摯竽Ｐ?，無(wú)論是使用者還是布道者，反觀之，“千模大戰(zhàn)”重點(diǎn)還在基礎(chǔ)大模型，在行業(yè)領(lǐng)域場(chǎng)景的應(yīng)用落地不夠，缺乏與業(yè)務(wù)場(chǎng)景深度融合的垂域大模型。
B端企業(yè)客戶比C端消費(fèi)者更加務(wù)實(shí)，僅僅靠對(duì)話無(wú)法讓企業(yè)客戶為之買單，過(guò)去一年，行業(yè)集體都處于試錯(cuò)和探索階段，評(píng)估大模型是否值得投入，該怎么投入才能產(chǎn)生更高價(jià)值，大模型廠商都在渲染革命性，而企業(yè)客戶都在看重可行性。
首先是成本，大模型訓(xùn)練和部署成本相對(duì)較高，千億級(jí)大模型在企業(yè)中的應(yīng)用僅推理設(shè)備就是一筆較大的投入，且大模型帶來(lái)的收益評(píng)價(jià)難點(diǎn)也較高，因此如何降低使用成本，如何把控大模型的投入產(chǎn)出平衡，是未來(lái)大模型在企業(yè)軟件中應(yīng)用所要持續(xù)考慮的。
其次，適用性是關(guān)鍵，知識(shí)是核心，通用大模型在企業(yè)中的適用場(chǎng)景有限，基于大模型設(shè)想的場(chǎng)景往往比較多，但是真正能夠落地，真正能夠解決真問(wèn)題，利用大模型的能力做出符合企業(yè)需求的應(yīng)用，核心要看企業(yè)的“知識(shí)”。對(duì)特定行業(yè)的深入理解，找到真場(chǎng)景，形成有價(jià)值的行業(yè)、領(lǐng)域知識(shí)，是大模型在企業(yè)應(yīng)用軟件落地所面臨的一大挑戰(zhàn)。
再次是數(shù)據(jù)準(zhǔn)確性、可信性，保證數(shù)據(jù)、知識(shí)來(lái)源的正確性是前提，大模型輸出信息內(nèi)容的可信、準(zhǔn)確是根本目標(biāo)。此外，企業(yè)的知識(shí)、數(shù)據(jù)往往是分散的，隱性的，如何梳理，如何管理也是難題。
此外，生態(tài)也是亟待補(bǔ)充，對(duì)話問(wèn)答只是大語(yǔ)言模型應(yīng)用的一個(gè)方面，與系統(tǒng)服務(wù)融合，完成各種任務(wù)才是關(guān)鍵。企業(yè)應(yīng)用環(huán)境復(fù)雜，涉及多廠商軟件，大模型和軟件的融合需要協(xié)同廠商建立生態(tài)，豐富大模型應(yīng)用插件庫(kù)。與模型伙伴、行業(yè)ISV及應(yīng)用企業(yè)多層次全方面的合作共贏，是未來(lái)大模型發(fā)展趨勢(shì)。
最后也是最重要的，數(shù)據(jù)與隱私安全，大模型的研發(fā)和應(yīng)用過(guò)程中，存在數(shù)據(jù)泄露和價(jià)值觀等多方面的安全風(fēng)險(xiǎn)，特別是調(diào)用一些大模型公網(wǎng)API服務(wù)時(shí)，企業(yè)用戶更有顧慮。即便是私有部署的模型，仍然面臨著難以確定大模型返回的數(shù)據(jù)是否根據(jù)使用者的角色進(jìn)行了數(shù)據(jù)內(nèi)容限制的挑戰(zhàn)。
“五個(gè)挑戰(zhàn)誰(shuí)先突破，誰(shuí)就能占得先機(jī)。這里面又有兩點(diǎn)有為關(guān)鍵，第一是自身大模型能力，第二則是生態(tài)。”鄭偉波說(shuō)，
能力方面，大模型生成的質(zhì)量、理解推理的準(zhǔn)確性、思維鏈的可控性等等，都要達(dá)到一定臨界值才能得到廣泛持續(xù)應(yīng)用。
在生態(tài)方面，要想打造真正好用的大模型，就需要去和各種場(chǎng)景結(jié)合，實(shí)現(xiàn)各種場(chǎng)景下大模型的應(yīng)用落地，并持續(xù)深度優(yōu)化，要有更為廣泛的開(kāi)發(fā)者在大模型之上構(gòu)建豐富的應(yīng)用生態(tài)，豐富大模型應(yīng)用插件庫(kù)，以開(kāi)放的姿態(tài)推動(dòng)大模型生態(tài)建設(shè)。
浪潮通軟于2023年9月份發(fā)布了浪潮海岳大模型inGPT，定位于企業(yè)服務(wù)垂域大模型，并和海岳PaaS平臺(tái)、智能ERP、工業(yè)軟件相結(jié)合。
鄭偉波表示，自海岳大模型發(fā)布之后，我們發(fā)現(xiàn)，融合領(lǐng)域知識(shí)非常重要。大模型的知識(shí)分三層：通用知識(shí)、垂域知識(shí)和企業(yè)知識(shí)。
浪潮通軟在垂域知識(shí)的梳理和沉淀上做了很多工作，這得益于其在大型集團(tuán)企業(yè)經(jīng)營(yíng)管理領(lǐng)域30多年的行業(yè)深耕，尤其在財(cái)務(wù)、人力、司庫(kù)等業(yè)務(wù)領(lǐng)域，以及智能制造、糧食倉(cāng)儲(chǔ)、智慧水務(wù)、智慧礦山等垂域行業(yè)也有深厚的積累，基于這些領(lǐng)域?qū)嵺`，沉淀下來(lái)了大量領(lǐng)域?qū)Ｓ兄R(shí)，作為大模型訓(xùn)練數(shù)據(jù)來(lái)源，進(jìn)而打造深度結(jié)合業(yè)務(wù)的垂域大模型。
在企業(yè)應(yīng)用方面，私有化是重要場(chǎng)景，企業(yè)知識(shí)出于安全考慮，一定要放在企業(yè)本地，需要在企業(yè)端對(duì)知識(shí)進(jìn)行管理，對(duì)此，浪潮通軟也為企業(yè)打造了配套的知識(shí)化工具，提供模型“精調(diào)”能力。
大模型和應(yīng)用深度結(jié)合也是大模型發(fā)展的重要路徑之一，海岳大模型和海岳PaaS平臺(tái)、智能ERP相結(jié)合形成了對(duì)話式智能商業(yè)分析、智能搜索、智能問(wèn)答、智能化軟件開(kāi)發(fā)、智能流程自動(dòng)化等智能化應(yīng)用，賦能企業(yè)智能場(chǎng)景落地。
大模型在企業(yè)端落地也需要工程化的支撐，海岳大模型提供企業(yè)大模型應(yīng)用開(kāi)發(fā)平臺(tái)，封裝了一系列知識(shí)管理工具集、大模型微調(diào)框架、大模型應(yīng)用插件庫(kù)、服務(wù)編排組件等工具，為企業(yè)提供覆蓋基礎(chǔ)大模型納管、知識(shí)治理、模型管理、服務(wù)編排、部署交付、運(yùn)營(yíng)維護(hù)的全生命周期服務(wù)，以自動(dòng)化的流程和智能化的交互，提高企業(yè)的服務(wù)質(zhì)量和效率。
鄭偉波認(rèn)為，浪潮通軟在大模型領(lǐng)域的差異化優(yōu)勢(shì)，主要還是體現(xiàn)在采取和應(yīng)用相結(jié)合的策略上，實(shí)現(xiàn)垂域大模型+智能應(yīng)用一體化。
“大模型與應(yīng)用的融合需要兩邊都做出改變，大模型要為應(yīng)用做出改變，應(yīng)用也要為大模型能更好的理解、推理、生成，進(jìn)行架構(gòu)上的調(diào)整，一體化的研發(fā)設(shè)計(jì)是關(guān)鍵優(yōu)勢(shì)。例如，我們的API為了更好地被大模型識(shí)別、編排，在描述和調(diào)用方式上都進(jìn)行了優(yōu)化。”他說(shuō)。
通用大模型的早期熱度有多喧囂，結(jié)束得就有多潦草，甚至不起一絲漣漪，一些基礎(chǔ)大模型沒(méi)有調(diào)用量，自然消失在市面上。
鄭偉波表示，未來(lái)大模型的發(fā)展還是要以應(yīng)用為中心，在基礎(chǔ)大模型之上，要衍生出更多面向不同領(lǐng)域、行業(yè)和場(chǎng)景的垂域大模型，實(shí)現(xiàn)垂域大模型的百花齊放，進(jìn)而支撐上層成千上萬(wàn)甚至數(shù)以百萬(wàn)計(jì)的 AI原生應(yīng)用。
“最后能夠‘跑’出來(lái)的大模型要分情況，通用大模型最后能‘跑’出來(lái)的，應(yīng)該是少數(shù)頭部大模型，而垂域大模型由于面向多樣的領(lǐng)域、場(chǎng)景和應(yīng)用，能‘跑’出來(lái)大模型會(huì)更多。”他補(bǔ)充道
與此同時(shí)，大模型應(yīng)用正在朝AI原生化重構(gòu)方向發(fā)展，OpenAI推出了可以自定義的GPTs, 讓大家看到了AI原生應(yīng)用雛形， 2024年1月11日上線的GPTStore應(yīng)用市場(chǎng)，更確認(rèn)大模型正成為AI操作系統(tǒng)。
基于思維鏈編排的自主智能體將改變未來(lái)軟件形態(tài)，成為未來(lái)軟件架構(gòu)的重要發(fā)展趨勢(shì)。未來(lái)每個(gè)人將擁有更多大模型主動(dòng)權(quán)。隨著AI Agent與大模型的逐漸演化，自主智能代理越來(lái)越強(qiáng)大，AI原生應(yīng)用也將助力打造人機(jī)融合演進(jìn)的數(shù)字世界和生活。
大模型推動(dòng)了軟件在開(kāi)發(fā)、交互、運(yùn)行、運(yùn)維模式上的變革，軟件產(chǎn)品的智能化程度也隨之越來(lái)越高。
開(kāi)發(fā)方面，基于大模型，能實(shí)現(xiàn)代碼自動(dòng)補(bǔ)全、解釋代碼并優(yōu)化、生成單元測(cè)試用例、回答編碼問(wèn)題等一系列能力。
交互方面，大模型驅(qū)動(dòng)軟件交互模式從菜單驅(qū)動(dòng)的GUI發(fā)展到對(duì)話驅(qū)動(dòng)的CUI，開(kāi)啟了軟件智能對(duì)話時(shí)代。
運(yùn)行方面，隨著大模型與企業(yè)應(yīng)用的融合梯次深化，軟件產(chǎn)品從嵌入智能發(fā)展到原生智能，基于思維鏈編排的自主智能體成為未來(lái)軟件架構(gòu)的重要發(fā)展趨勢(shì)。
運(yùn)維方面，大模型也為企業(yè)IT管理打造了智能化的自動(dòng)駕駛系統(tǒng)。
“大模型發(fā)展才剛剛開(kāi)始，基礎(chǔ)大模型會(huì)逐漸向頭部聚集，垂域大模型和應(yīng)用創(chuàng)新百花齊放，在垂域大模型之上打造與各行業(yè)、領(lǐng)域深度融合的AI 原生應(yīng)用，才能將大模型的價(jià)值有效釋放。”鄭偉波總結(jié)表示。
（本文首發(fā)鈦媒體APP 作者｜張帥，歡迎添加作者mr3right爆料、交流）
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論