1. 首頁 > 生活百科 > >

亞馬遜云科技與Anthropic完成超大規模AI超算集群項目

人工智能ai芯片亞馬遜anthropic

亞馬遜云科技與Anthropic完成超大規模AI超算集群項目

亞馬遜云科技（AWS）周三宣布 ， 代號為\"Project Rainier\"的超大規模數據中心互聯項目和史無前例的自研AI芯片部署已經完成 ， 該項目旨在支持Anthropic的Claude大語言模型 。
該項目在美國多個數據中心部署了超過50萬顆AWS Trainium 2芯片 ， 標志著大規模高效模型訓練部署的重要里程碑 。 AWS計劃在今年年底前將Trainium芯片數量增加到100萬顆 。 位于印第安納州的一個站點將擁有30個20萬平方英尺的數據中心 ， 內置互聯的Trainium 2服務器 。
除印第安納州站點外 ， AWS尚未詳細說明參與Project Rainier的其他美國數據中心位置 。 不過 ， 該公司在美國四個地區運營著數百個數據中心 ， 并有更多項目正在規劃或建設中 ， 僅今年就在北卡羅來納州和賓夕法尼亞州宣布了數十億美元的投資計劃 。
對于企業客戶而言 ， AWS表示龐大的Project Rainier基礎設施在成本效率、更快更大規模的AI訓練和推理 ， 以及運營韌性方面帶來諸多優勢 。 AWS已在與Anthropic的合作中投資80億美元 ， Anthropic將在Project Rainier生態系統中使用Trainium 2芯片以及Graviton和Inferentia芯片 。
AWS Trainium副總裁兼首席工程師Ron Diamant在接受《數據中心知識》采訪時表示：\"當我們構建自己的設備時 ， 我們可以優化整個技術棧 ， 真正壓縮工程時間和達到大規模的時間 。 這是Anthropic用于訓練和推理其最先進模型的大規模集群...現在已經準備好部署并完全投入運營 。 \"
實現超算可持續性
AWS表示其超級集群將提供更好的可持續性和能效 。
Diamant說：\"從設計階段開始 ， 我們就非常關注能效 。 這讓我們找到了幾個優化點 。 首先是圍繞歷史陣列架構構建芯片 ， 這種架構對于矩陣運算極其節能 ， 而矩陣運算在現代機器學習工作負載中占主導地位 。 其次是從橫向供電轉向縱向供電 。 這將電壓調節器放置在芯片下方 ， 使我們能夠以更高效率運行設備 。 \"
AWS采用空氣冷卻和液體冷卻相結合的方式 ， 優先考慮效率和水資源保護 。 AWS表示其方法將傳統冷卻與針對AI硬件的閉環直接芯片液體系統相結合 。 這種設置使AWS能夠在較冷的月份使用外部空氣來減少整體水消耗 。
Diamant表示：\"我們利用這些能效提升將成本節約回饋給客戶 。 這也讓我們能夠盡快從實驗室中的幾臺設備擴展到50萬臺設備的大規模運營 。 它實現了最大的數據中心部署靈活性 。 \"
他補充說：\"Rainier的每個方面都融入了電力、冷卻和材料方面的進步——從將能耗降低46%的機械組件到減少35%隱含碳的混凝土 。 \"
企業優勢與戰略
Forrester首席基礎設施、私有云和基礎設施自動化分析師Naveen Chhabra表示 ， 隨著AI熱潮推動工作負載增長 ， 客戶企業正在尋求更高效率 。
他在采訪中說：\"Project Rainier的好處是 ， 如果你有特定的應用程序或工作負載可以在特定芯片組上得到更好的調優 ， 你就選擇那個 。 組織正在找出哪種芯片組能給他們帶來最好的能力——不僅僅是原始性能容量 ， 還有效率 。 效率變得重要 ， 因為它可能決定你的投資回報率 。 \"
Q&A
Q1：Project Rainier是什么項目？
A：Project Rainier是亞馬遜云科技與Anthropic合作的超大規模AI超算集群項目 ， 在美國多個數據中心部署了超過50萬顆AWS Trainium 2芯片 ， 用于支持Anthropic的Claude大語言模型訓練和推理 。
Q2：AWS計劃部署多少Trainium芯片？
A：目前Project Rainier已部署超過50萬顆AWS Trainium 2芯片 ， AWS計劃在今年年底前將Trainium芯片數量增加到100萬顆 。
Q3：Project Rainier在節能方面有什么特點？
A：Project Rainier采用高能效的歷史陣列架構芯片 ， 使用縱向供電技術 ， 結合空氣和液體冷卻系統 ， 機械組件能耗降低46% ， 混凝土隱含碳減少35% ， 并在較冷月份利用外部空氣減少水消耗 。
【亞馬遜云科技與Anthropic完成超大規模AI超算集群項目】

    推薦閱讀