text":"百度智能云新一代高性能AI計(jì)算集群落地 , 提供EFLOPS級(jí)算力支持 , 并發(fā)布新一代GPU服務(wù)器實(shí)例GPU-H5-8NA100-IB01 。 該集群基于NVIDIA A100-80GB GPU和NVIDIA InfiniBand網(wǎng)絡(luò)構(gòu)建 , 成為領(lǐng)先的AI原生云算力底座 。
研究人員可基于全新發(fā)布的實(shí)例組建上千節(jié)點(diǎn)規(guī)模的超高性能計(jì)算集群 , 成倍縮短超大AI模型的訓(xùn)練時(shí)間 , 激發(fā)AI業(yè)務(wù)創(chuàng)新想象力 。
新的GPU服務(wù)器實(shí)例采用百度自研的X-MAN架構(gòu)的超級(jí)AI計(jì)算機(jī)為硬件平臺(tái) 。
X-MAN自2016年推出以來 , 已在鳳巢、自動(dòng)駕駛、自然語言處理等百度內(nèi)部業(yè)務(wù)進(jìn)行大規(guī)模應(yīng)用多年 , 申請(qǐng)六項(xiàng)專利 , 包括PCie Fabric架構(gòu)、液冷技術(shù)、最大支持64GPU卡擴(kuò)展等 , 是百度AI業(yè)務(wù)快速落地的重要基礎(chǔ)設(shè)施 。
目前 , X-MAN已經(jīng)全面升級(jí)到第四代X-MAN 4.0 , 為AI和HPC等計(jì)算場景進(jìn)行了新的優(yōu)化設(shè)計(jì) 。
配置方面 , 每臺(tái)X-MAN 4.0包含8張NVIDIA A100-80GB GPU , 并可支持8張200Gb/s 的InfiniBand網(wǎng)卡 , 實(shí)現(xiàn)了高速存儲(chǔ)、高速無阻網(wǎng)絡(luò)、高性能計(jì)算于一體的超級(jí)AI計(jì)算機(jī) 。
架構(gòu)方面 , X-MAN 4.0全新設(shè)計(jì)的架構(gòu)縮短了數(shù)據(jù)傳輸延遲 , 提高了數(shù)據(jù)傳輸帶寬 , 有效解決本地?cái)?shù)據(jù)傳輸?shù)耐ㄐ牌款i , 降低AI作業(yè)中GPU的閑置時(shí)間 。 在MLCommons 1.1榜單中 , X-MAN 4.0在同配置單機(jī)硬件性能名列TOP2 。
為了實(shí)現(xiàn)更高的集群運(yùn)行性能 , 百度智能云專門設(shè)計(jì)了適用于超大規(guī)模集群的InfiniBand網(wǎng)絡(luò)架構(gòu) 。 這個(gè)架構(gòu)優(yōu)化了網(wǎng)絡(luò)收斂比 , 提升了網(wǎng)絡(luò)吞吐能力 。 并結(jié)合容錯(cuò)、交換機(jī)親和 , 拓?fù)溆成涞仁侄?, 得以將EFLOPS級(jí)算力的計(jì)算集群性能發(fā)揮到極致 。
經(jīng)過內(nèi)部NLP研究團(tuán)隊(duì)的驗(yàn)證 , 在這個(gè)網(wǎng)絡(luò)環(huán)境下的超大規(guī)模集群上提交千億模型訓(xùn)練作業(yè)時(shí) , 同等機(jī)器規(guī)模下整體訓(xùn)練效率是普通GPU集群的3.87倍 。
百度副總裁謝廣軍先生表示:“AI原生云是推動(dòng)企業(yè)智能化升級(jí)的核心驅(qū)動(dòng)力 。 作為中國AI公有云服務(wù)市場領(lǐng)跑企業(yè) , 百度智能云一直在優(yōu)化提升智能計(jì)算的核心能力 。 X-MAN 4.0助力百度內(nèi)部業(yè)務(wù)發(fā)展的同時(shí) , 我們也愿意將這一領(lǐng)先的架構(gòu)開放給百度智能云的眾多客戶 , 幫助大家一起更高效地進(jìn)行AI研發(fā)與探索 , 驅(qū)動(dòng)業(yè)務(wù)創(chuàng)新 , 邁向AI原生 。 ”
為了幫助客戶更深入地了解新的GPU服務(wù)器實(shí)例 , 以及超大規(guī)模的高性能集群構(gòu)建的技術(shù)細(xì)節(jié) , 百度智能云將與NVIDIA 于3月16日晚19:00舉辦在線研討會(huì)進(jìn)行詳細(xì)分享 , 解答客戶的問題 。 直播平臺(tái)在B站(百度智能云的朋友們)、視頻號(hào)(百度智能云) 。
【idc|建設(shè)領(lǐng)先的AI原生云,百度智能云落地新一代高性能AI計(jì)算集群】來源:信息新報(bào)
"
相關(guān)經(jīng)驗(yàn)推薦
- 5G|中國科技井噴式發(fā)展,又一尖端技術(shù)領(lǐng)先全球,比5G還讓美國頭疼
- 3d打印機(jī)|中國實(shí)現(xiàn)彎道超車,3D打印機(jī)床技術(shù)領(lǐng)先全球,重要性不亞于光刻機(jī)
- mac|老機(jī)iQOO Z1測評(píng):領(lǐng)先的不止是性能
- Mini LED|TCL75C12問鼎GfK2021年度彩電十大現(xiàn)象級(jí)產(chǎn)品:Mini LED領(lǐng)先
- OPPO|領(lǐng)先三星、拿下24%份額還不夠,OPPO海外布局又有新動(dòng)作
- 蘇寧易購|大新風(fēng)量新風(fēng)空調(diào)先行者,TCL空調(diào)“國際領(lǐng)先”新風(fēng)技術(shù)引領(lǐng)新風(fēng)尚
- 英特爾|“3nm”工藝超越AMD+臺(tái)積電 Intel放言2年后全面領(lǐng)先
- idc|有沒有蘋果AirPods的平替?AirPods平替藍(lán)牙耳機(jī)推薦
- 智能機(jī)器人|全球領(lǐng)先!關(guān)于智能機(jī)器人,國內(nèi)科技巨頭傳來消息
- 紫光|中國科技企業(yè)閃耀西班牙巴展,這些技術(shù)領(lǐng)先全球
