燧原科技發(fā)布的邃思2.0實(shí)物圖
鈦媒體7月8日消息，在2021世界人工智能大會(WAIC 2021）期間，上海燧原科技推出第二代人工智能（AI）訓(xùn)練產(chǎn)品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”訓(xùn)練加速卡和“云燧T21”訓(xùn)練OAM模組，全面升級的“馭算TopsRider”軟件平臺以及全新的“云燧集群”。
燧原科技成立于2018年3月，專注研發(fā)針對云端數(shù)據(jù)中心的深度學(xué)習(xí)高端芯片，定位于AI訓(xùn)練及推理解決方案，是國內(nèi)第一家同時(shí)擁有高性能云端訓(xùn)練和云端推理產(chǎn)品的創(chuàng)業(yè)公司。經(jīng)過三年多的飛速發(fā)展，截止今年5月，燧原科技員工人數(shù)已超500人，其中90%為研發(fā)人員。
據(jù)介紹，燧原科技發(fā)布的邃思2.0是迄今中國最大的AI計(jì)算芯片，尺寸為57.5毫米×57.5毫米（面積為3306mm2），達(dá)到了日月光2.5D封裝的極限，與上代產(chǎn)品一樣采用格羅方德12nm FinFET工藝，內(nèi)部共整合9顆芯片，單精度FP32算力為40TFLOPS，單精度張量TF32算力為160TFLOPS，整數(shù)精度INT8算力為320TOPS。相比之下，英偉達(dá)基于Ampere架構(gòu)的A100 GPU的單精度浮點(diǎn)計(jì)算能力僅為19.5TFLOPS。
同時(shí)，邃思2.0也是首個(gè)支持最先進(jìn)內(nèi)存HBM2E的產(chǎn)品。云燧T20/T21則是基于邃思2.0而打造，預(yù)計(jì)“邃思2.0”將于今年底量產(chǎn)。
在新品發(fā)布會上，中國科學(xué)院院士陳國良致辭祝賀，稱非?？春们页浞掷斫忪菰萍际且患抑铝ψ龃笮酒⑵从部萍紴樽谥嫉墓?。當(dāng)下因中美問題使得針對中國計(jì)算機(jī)工業(yè)的制裁接踵而來，中國希望與世界一起發(fā)展，但發(fā)展也要“打鐵自身硬”。在這種背景下，發(fā)展自主可控的計(jì)算機(jī)工業(yè)系統(tǒng)是當(dāng)務(wù)之急。“這個(gè)過程中，中國未來需要燧原科技這樣一群有建設(shè)性的公司，把自主可控這件事落到實(shí)處。”
燧原科技CEO趙立東則表示，第二代AI訓(xùn)練產(chǎn)品的發(fā)布，是燧原科技開發(fā)原始創(chuàng)新的算力產(chǎn)品和構(gòu)建自主生態(tài)又一重要的里程碑。
具體而言，2019年底，燧原科技發(fā)布了從啟動項(xiàng)目研發(fā)到發(fā)布用時(shí)僅18個(gè)月的云端訓(xùn)練芯片邃思1.0，基于邃思1.0的云燧T10加速卡單精度算力高達(dá)20TFLOPS，以及AI推理加速卡云燧i10和配套的“馭算”軟件平臺。
而在兩年后的今天，燧原科技在第二代新品系列中進(jìn)行了四大核心的全新升級迭代，其計(jì)算能力、存儲和帶寬、互聯(lián)能力較第一代訓(xùn)練產(chǎn)品有巨大提升，對超大規(guī)模的模型支持能力獲得顯著增強(qiáng)：
1、架構(gòu)升級實(shí)現(xiàn)算力飛躍。邃思2.0進(jìn)行了大規(guī)模的架構(gòu)升級，新一代全自研的GCU-CARA全域計(jì)算架構(gòu)，針對AI計(jì)算的特性進(jìn)行深度優(yōu)化，夯實(shí)了支持通用異構(gòu)計(jì)算的基礎(chǔ)；支持全面的計(jì)算精度，涵蓋從FP32、TF32、FP16、BF16到INT8，并成為中國首款支持單精度張量TF32數(shù)據(jù)精度的AI芯片。
2、HBM2E存儲帶來海量吞吐。邃思2.0的中心是主芯片，在邊緣有4顆三星最先進(jìn)的存儲芯片HBM2E，高配支持64GB內(nèi)存，最大帶寬達(dá)1.8TB/s。據(jù)悉，這是中國第一個(gè)支持世界最先進(jìn)存儲HBM2E和單芯片64GB內(nèi)存的產(chǎn)品。
3、高速互聯(lián)支撐算力擴(kuò)展。新的計(jì)算架構(gòu)帶來了全新GCU-LARE全域互聯(lián)技術(shù)——這是燧原專為人工智能訓(xùn)練集群研發(fā)的互聯(lián)技術(shù)，提供雙向300 GB/s互聯(lián)帶寬，支持?jǐn)?shù)千張?jiān)旗軨loudBlazer加速卡互聯(lián)，實(shí)現(xiàn)優(yōu)異的線性加速比。
4、不止是芯片，燧原也進(jìn)行了全新軟件調(diào)配，推出燧原科技自主知識產(chǎn)權(quán)的計(jì)算及編程平臺馭算TopsRider。通過軟硬件協(xié)同架構(gòu)設(shè)計(jì)，充分發(fā)揮邃思2.0的性能；基于算子泛化技術(shù)及圖優(yōu)化策略，支持主流深度學(xué)習(xí)框架下的各類模型訓(xùn)練；利用Horovod分布式訓(xùn)練框架與GCU-LARE互聯(lián)技術(shù)相互配合，為超大規(guī)模集群的高效運(yùn)行提供解決方案。
另外，燧原科技推出與了合作伙伴（浪潮等）共同打造的全新產(chǎn)品品牌云燧智算集群CloudBlazer Matrix 2.0，集合8192張?jiān)旗萦?xùn)練卡，可實(shí)現(xiàn)最高1.3E（130000T）的單精度智能算力集群。據(jù)悉，E（Exascale）級計(jì)算就是百萬兆級的計(jì)算，是目前全球頂尖超算系統(tǒng)新的追逐目標(biāo)。
在發(fā)布會上，燧原科技COO張亞林展示了T20與友商（英偉達(dá)V100、A100）的Benchmark對比跑分。
由圖可見，云燧T20 TF32精度性能平均2.5倍于友商次旗艦。而在多類模型測試中，云燧T20與友商旗艦性能幾乎不分伯仲，即6種測試項(xiàng)目中有4個(gè)超越了友商旗艦的性能表現(xiàn)。
張亞林強(qiáng)調(diào)，邃思2.0大幅提升了算力指標(biāo)，升級后的馭算軟件平臺更加便捷易用和客戶友好，燧原科技也可針對客戶的場景和業(yè)務(wù)模型提供軟件定制化服務(wù)和優(yōu)化，打造差異化解決方案；而基于云燧T20和T21訓(xùn)練產(chǎn)品、GCU-LARE互聯(lián)技術(shù)和新一代馭算，燧原科技可以打造超大規(guī)模的集群產(chǎn)品CloudBlazer Matrix，可有效降低AI超算集群的整體復(fù)雜度和成本。
燧原科技CEO趙立東（左）與 燧原科技COO張亞林（右）共同發(fā)布“云燧T20”訓(xùn)練加速卡和“邃思2.0”芯片
據(jù)介紹，燧原科技的產(chǎn)品重點(diǎn)落地在泛互聯(lián)網(wǎng)、傳統(tǒng)行業(yè)（金融、交通、電力、醫(yī)療、工業(yè)等）以及新基建三大業(yè)務(wù)方向。
在本次發(fā)布會上，趙立東宣布了燧原的異構(gòu)計(jì)算生態(tài)——“燎原”計(jì)劃，目標(biāo)是以AI為起點(diǎn)構(gòu)建通用異構(gòu)計(jì)算生態(tài)，構(gòu)建標(biāo)準(zhǔn)化技術(shù)體系，共建完整生態(tài)服務(wù)數(shù)字中國。另外，燧原通過與之江實(shí)驗(yàn)室、上海交通大學(xué)、西安交通大學(xué)等高校的合作，構(gòu)建生態(tài)的同時(shí)培養(yǎng)人才。當(dāng)日，燧原科技還和上海銀行、浪潮等生態(tài)合作伙伴進(jìn)行了戰(zhàn)略合作框架簽約。
在融資方面，成立至今，燧原科技連續(xù)獲得過5輪融資，累計(jì)融資額近32億元人民幣。投資方包括騰訊、武岳峰資本、紅點(diǎn)中國、真格基金、亦合資本、中信產(chǎn)業(yè)基金、中金資本旗下基金、春華資本等明星基金公司。
鈦媒體了解到，燧原科技計(jì)劃到2023年打造3款云端訓(xùn)練計(jì)算產(chǎn)品、3款云端推理計(jì)算產(chǎn)品，將性能功耗比提升至初代的14倍，并同步升級Matrix集群，有望全面“國產(chǎn)替代”美國半導(dǎo)體公司的相關(guān)AI芯片產(chǎn)品。
（本文首發(fā)鈦媒體App，作者｜林志佳）
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請綁定手機(jī)號后發(fā)表評論