7芯合體 NVIDIA推出Vera Rubin系統:性能提升4000萬倍

7芯合體 NVIDIA推出Vera Rubin系統:性能提升4000萬倍

文章圖片

7芯合體 NVIDIA推出Vera Rubin系統:性能提升4000萬倍
快科技3月17日消息 , 今天的GTC大會上 , NVIDIA有多款重磅產品發布 , 其中Vera Rubin會是今年出貨的重點 , 也是當前最強大的AI平臺 。
Vera Rubin實際上也不是第一次在GTC大會上發布了 , 去年的GTC就有了 , 但之前的說法是6種芯片集成 , 它已經不是簡單的AI顯卡那么簡單 , 是一套復雜的AI整機系統 , 由7種芯片、5個機架組成 。
芯片主要是Rubin GPU、Vera CPU、NVLink 6.0互聯、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6網絡交換機 , 以及這次加入的Groq 3 LPU , 后者是NVIDIA去年底花了200億美元收購獲得的LPU技術授權 , 主要面向推理AI應用 。
這7款芯片要搭配5種機架——Vera Rubin NVL72 機架、Vera CPU 機架、Groq 3 LPX 機架、BlueField-4 STX 存儲機架、Spectrum-6 SPX 以太網機架 , 最終才能形成完整體 。

最終Vera Rubin平臺實現了高達3.6ExaFlops(1E就是100億億次)的性能 , 260TB/s的全網絡帶寬 , 100%水冷散熱 , Token生成速度每秒7億個 。
這個性能到底有多夸張 , 黃仁勛在現場提出了一個對比——相比10年前的計算系統 , Vera Rubin的性能提升了4000萬倍——仔細對著后面的一堆零數了幾次才確定沒看錯 , 不過這個數據是對比的10年前什么系統就不得而知了 。

考慮到黃氏對比法也不是第一次出現了 , 4000萬倍的提升也沒必要較真 , 因為10年前的計算系統沒有什么AI性能的概念 , FP4之類的算法更是不會支持 , Vera Rubin隨便秒殺之前的頂級系統都沒啥意外的 。
【7芯合體 NVIDIA推出Vera Rubin系統:性能提升4000萬倍】Vera Rubin還不會是NVIDIA最強的AI系統 , 接下來還會有Vera Rubin Ultra , GPU數量從當前的72個提升到144個 , 性能再次翻倍都沒問題 。
再往后就是下一代的GPU架構費曼Feynman , 首發臺積電的A16 , 也就是1.6nm級的工藝 , 還有3D堆棧封裝 , 定制的HBM內存 , 搭配的是新一代的LP40 LPU芯片 , 還有NVLink 8.0、CX10等全新一代芯片 , 預計2028年問世 。

    推薦閱讀