當“生成式人工智能”成為行業(yè)熱詞，在關(guān)注各類新興應(yīng)用的同時，作為提供應(yīng)用底層支撐的“算力”也開始成為關(guān)注的焦點之一。
對于傳統(tǒng)的高算力終端而言，通過增加額外的GPU硬件即可填補大模型訓(xùn)練與AI生成所需的“算力鴻溝”，但像移動智能終端，受限于集成度、功耗限制等方面，想要擺脫聯(lián)網(wǎng)需求，實現(xiàn)端側(cè)部署生成式人工智能則具備更高的難度。
近兩個月，聯(lián)發(fā)科與高通先后發(fā)布了新一代旗艦級SoC芯片，兩者不約而同地提到了端側(cè)部署AI能力的提升。
以聯(lián)發(fā)科為例，此前發(fā)布的天璣9300芯片內(nèi)部集成聯(lián)發(fā)科第七代AI處理器APU 790，為生成式AI而設(shè)計，整數(shù)運算和浮點運算的性能是前一代的2倍，功耗降低了45%。APU 790內(nèi)置了硬件級的生成式AI引擎，可實現(xiàn)更加高速且安全的邊緣AI計算，深度適配Transformer模型進行子加速。
根據(jù)官方公布的數(shù)據(jù)，其處理速度是上一代的8倍，1秒內(nèi)可生成圖片，同時，基于億級參數(shù)大語言模型特性，聯(lián)發(fā)科開發(fā)了混合精度 INT4 量化技術(shù)，結(jié)合內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression，可以更高效地利用內(nèi)存帶寬，減少AI大模型對終端內(nèi)存的占用，支持終端運行最高可達330億參數(shù)的AI大語言模型。
新一代智能手機芯片的發(fā)布，讓生成式人工智能獲得了硬件端的支持，不過搭載旗艦級SoC芯片的產(chǎn)品，市場定位基本也都局限在高端市場。根據(jù)IDC的數(shù)據(jù)，2023年第三季度，國內(nèi)智能手機高端市場（3500元以上）的出貨占比為33%。
換句話說，即便所有高端手機都開始支持端側(cè)生成式AI，在用戶層面也僅僅做到了每10個人中3個人有機會接觸到該功能。而定位更低的中端機市場，則暫時無法享受到大模型帶來的體驗升級，要知道，2500~3499元區(qū)間的手機銷量市場占比也達到了19%，并且處于不斷增長的趨勢當中。
如何擴大應(yīng)用落地范圍，讓生成式人工智能不止是高端產(chǎn)品的“綁定產(chǎn)物”，是擺在各個終端廠商、上游芯片供應(yīng)商面前的首要問題。高通面向下一代中高端產(chǎn)品推出的第三代驍龍7，并沒有提及AI功能上的進步，主要提升依然是面向傳統(tǒng)使用場景的CPU、GPU性能以及能耗。
反觀聯(lián)發(fā)科，從天璣8000系列發(fā)布開始，在旗艦機之外的中、高端機型已經(jīng)成為了其加速移動芯片市場滲透率的“基本盤”，芯片的迭代速度更快，同時也加深了與終端手機品牌的合作。最新發(fā)布的天璣8300，也在同級產(chǎn)品中率先支持生成式AI，至高支持100億參數(shù)AI大語言模型。
該芯片集成聯(lián)發(fā)科 AI 處理器 APU 780，搭載生成式AI引擎，整數(shù)運算和浮點運算的性能是上一代的 2 倍，支持Transformer算子加速和混合精度INT4量化技術(shù)，AI綜合性能是上一代的3.3倍，可流暢運行終端側(cè)生成式AI的創(chuàng)新應(yīng)用。
據(jù)聯(lián)發(fā)科無線通信事業(yè)部副總經(jīng)理李彥輯透露，小米成為首個借助其芯片能力實現(xiàn)端側(cè)生成式AI應(yīng)用的手機廠商。
而小米集團總裁、Redmi品牌總經(jīng)理盧偉冰則表示：“Redmi手機將會全球首發(fā)搭載天璣8300-Ultra芯片，該機在性能調(diào)度、系統(tǒng)應(yīng)用和硬件底層能力開發(fā)方面，均會應(yīng)用到新一代人功智能技術(shù)。”剛剛發(fā)布的Redmi K70E就是盧偉冰所說的首款支持端側(cè)生成式人工智能的手機產(chǎn)品。
雖然產(chǎn)品有了、應(yīng)用也有了，但是提到大模型這項技術(shù)，似乎距離普通用戶還是很遠，究其原因就在于具體場景落地的匱乏，對于大眾消費者而言，根本感知不到大模型帶來的體驗差異。
值得慶幸的是，手機端的大模型應(yīng)用正在加速普及，目前，包括華為、小米、vivo等手機廠商都已經(jīng)將大模型手機端的應(yīng)用提上了日程，其中諸如語音助手與大模型的結(jié)合很多都已經(jīng)到了內(nèi)測甚至公測階段。
一位業(yè)內(nèi)人士告訴鈦媒體App：“大模型的加入可以讓智能語音助手跳出既有的算法‘機械問答’模式，對用戶指令的理解能力以及解決問題的能力都將增強，而這也只是第一步而已，下一步在端側(cè)生成式人智能落地后，像目前還屬于小眾技能的‘圖生文’‘文生圖’‘圖生圖’等進階應(yīng)用，都有望在手機端實現(xiàn)，從而讓語音助手開始顯現(xiàn)出創(chuàng)造力。”
從長遠來看，大模型與端側(cè)生成式人工智能，的確有可能為智能手機等終端硬件帶來更多或有趣、或?qū)嵱玫耐娣ā５伱襟wApp在體驗了現(xiàn)階段手機端大模型應(yīng)用后，只能說是“未來可期”而非“即刻革新”。
毫不客氣的說，當前手機內(nèi)的大模型應(yīng)用更多只是個噱頭而已，能夠感知到的“智能升級”非常有限，雖然語音助手能聽懂、回答的問題更多了，甚至可以具備一些簡答的前后聯(lián)系的邏輯思考，但與賽道內(nèi)領(lǐng)先的Chat GPT仍有很大差距。
如果從AI繪圖應(yīng)用來說，移動端面臨的挑戰(zhàn)也不少，像算力層面，目前業(yè)界主流的Stable Diffusion經(jīng)過實測，最起碼需要RTX 3070以上級別的顯卡才能獲得比較流暢的應(yīng)用體驗，同時其上手門檻也并不低，因為AI繪畫往往需要對調(diào)用學習模型進行選擇，同時在繪畫中不斷提出新要求并對畫面進行調(diào)整，才能最終獲得一張質(zhì)量還不錯的圖片。
Stable Diffusion這樣從AI繪圖應(yīng)用興起就開始不斷改良的工具尚且如此，移動端的部署就會是更大的問題，如果只是通過文字描述可以生成圖片而已，那對于普通消費者來說，最多是上手嘗鮮一下，新鮮勁兒一過，立馬就變成了冷門技能，大模型應(yīng)用就會走上當年智能語音助手一樣的老路，爆火之后市場便慢慢冷卻下來。
因此，端側(cè)大模型應(yīng)用，也需要找到高頻場景進行適配，李彥輯認為，“性能調(diào)度”將是一個很好的落腳點。“大模型不光可以學習傳統(tǒng)的文字、圖片資料，它也可以去學習用戶習慣，進而具備應(yīng)用場景的自適應(yīng)切換能力，”他提到。
具體來說，就是擺脫傳統(tǒng)的固定算法調(diào)度邏輯，讓AI更多地參與其中，比如用戶日常使用手機的時候，其處理社交信息、游戲、刷短視頻時，對手機性能的需求都是不同的，過去手機系統(tǒng)往往是依靠應(yīng)用來做反向適配，打游戲調(diào)用高頻率大核心提高性能、文字聊天和待機使用小核心保持續(xù)航，這種調(diào)度能力是非常固化的。
智能手機具備端側(cè)AI能力后，就能將性能調(diào)度這件事變得更加主動，可以根據(jù)當前的場景需求進行實時優(yōu)化，而非照本宣科的進行軟件和策略層面的適配。
鈦媒體App分析認為，與聊天、AI繪圖等看似創(chuàng)新的應(yīng)用體驗相比，能夠?qū)扔械母哳l場景進行精準賦能，才是端側(cè)大模型短期內(nèi)能夠創(chuàng)造體驗價值的關(guān)鍵所在，無論是影像、性能表現(xiàn)上的優(yōu)化亦或是對屏幕、揚聲器等硬件的實時智能調(diào)節(jié)，都是更能帶給用戶體驗感知升級的維度。
假設(shè)有一天，通過端側(cè)大模型結(jié)合用戶習慣、應(yīng)用感知得到的數(shù)據(jù)進行學習，利用對軟硬件層面的綜合調(diào)度，讓智能手機的續(xù)航可以再提升20%甚至50%，誰還會說它只是個“噱頭”呢？（本文首發(fā)鈦媒體App 作者/鄧劍云 編輯/鐘毅）
快報
根據(jù)《網(wǎng)絡(luò)安全法》實名制要求，請綁定手機號后發(fā)表評論
端側(cè)大模型的發(fā)展將對智能手機產(chǎn)業(yè)帶來重大影響
隨著硬件性能的提升和算法的不斷優(yōu)化，期待看到更多創(chuàng)新的應(yīng)用場景和更高效的使用體驗