文章圖片
文章圖片
AI基礎設施企業TensorWave宣布 ， 已經完成了北美地區最大AI訓練基地的建設與部署 ， 采用了多達8192塊AMD Instinct MI325X AI加速卡 。
同時 ， 這也是全球首個已公開的采用直觸液冷散熱的大型AI數據中心 。
AMD MI325X是去年剛剛發布的 ， 采用5nm制造工藝 ， 擁有304個計算單元(19456個核心)、1530億個晶體管 ， FP8精度算力2.6千萬億次計算每秒 ， 搭配256GB HBM3E高帶寬內存(顯存) ， 帶寬6TB/s 。
雖然AMD最新發布了MI350X、MI355X ， 但部署尚需時日 ， MI325X仍然是已落地的最先進的AMD AI加速卡 。
8192塊放在一個系統內 ， 總的核心數就到了幾乎1.6億個 ， FP8性能達到恐怖的2100億億次浮點每秒 。
同時 ， 顯存總容量多達2048TB ， 總帶寬超過2PB/s！
單卡功耗就有1000W ， 滿載情況下一個小時就是8000多度電 ， 確實需要配液冷 ， 所有節點的GPU都使用了TensorWave自有的芯片直觸液冷循環系統 ， 確保高效帶走熱量 。
這套系統將以云服務的方式 ， 對外提供租賃服務 。
這還只是TensorWave更宏大工程的第一階段 ， 預計今年晚些時候引入AMD MI350X ， 支持FP4/FP6格式 ， 性能和帶寬更猛 ， 但功耗也將最高達到1400W 。
【全球首個直觸液冷！北美最大AI基地配8192塊AMD加速卡 2048TB顯存】
推薦閱讀
- IDC發Q2全球報告，各家日子都不算好過，三星稍強點
- 深夜開源首個萬億模型K2，壓力給到OpenAI，Kimi時刻要來了？
- Q2全球PC市場報告出爐，聯想依然稱霸，蘋果增速最快
- 全球首款自毀SSD！一鍵毀滅全部數據 斷電也不怕
- 參與LPDDR6芯片標準制定：中國企業最強，拿下全球50%+份額
- 全球露面第二款三折疊，傳音展示了自己的三折疊概念設計。
- 全球霸唱！華為頂流旗艦在迪拜發布，野性逐漸瘋狂
- 首個旅游行業超級智能體馬蜂窩“AI路書”全面開放，玩轉出境自由行
- IDC發Q2全球PC報告，聯想還是冠軍，蘋果第四
- 新增14種語言 高德地圖推出國內首個面向海外用戶的多語言地圖