1. 首頁 > 生活百科 > >

亞馬遜下一代AI芯片，將采用英偉達關鍵技術

人工智能亞馬遜英偉達it芯片ai芯片anthropic

亞馬遜下一代AI芯片，將采用英偉達關鍵技術

【亞馬遜下一代AI芯片，將采用英偉達關鍵技術】亞馬遜旗下的AWS云計算部門周二表示 ， 將在其未來幾代人工智能計算芯片中采用關鍵的英偉達技術 ， 因為該公司正加大力度吸引主要AI客戶使用其服務 。
AWS表示 ， 將在名為Trainium4的未來芯片中采用NVLink Fusion技術 。 它沒有具體說明發布日期 。 NVLink技術可在不同類型的芯片之間建立高速連接 ， 是英偉達的王牌技術之一 。
兩家公司是在拉斯維加斯舉行的AWS年度為期一周的云計算會議上宣布這一消息的 ， 該會議吸引了約60000人參加 。
英偉達一直在推動其他芯片公司采用其NVLink技術 ， 英特爾、高通以及現在的AWS都已加入 。
該技術將幫助AWS構建更大的AI服務器 ， 這些服務器可以更快地相互識別和通信 ， 這是訓練大型AI模型的關鍵因素 ， 在訓練中必須將數千臺機器連接在一起 。 作為與英偉達合作的一部分 ， 客戶將能夠訪問AWS所謂的“AI工廠” ， 這是位于其自有數據中心內的專屬AI基礎設施 ， 以實現更快的速度和就緒狀態 。
英偉達CEO黃仁勛在一份聲明中表示：“英偉達和AWS正在共同為AI工業革命創造計算架構——將先進的AI帶給每個國家的每家公司 ， 并加速世界通往智能的道路 。 ”
另外 ， 亞馬遜表示正在推出基于名為Trainium3芯片的新服務器 。 AWS計算和機器學習服務副總裁Dave Brown表示 ， 這些周二上市的新服務器每臺包含144個芯片 ， 其算力是AWS上一代AI產品的四倍多 ， 同時功耗降低了40% 。
Brown沒有給出功耗或性能的絕對數字 ， 但表示AWS旨在通過價格與包括英偉達在內的競爭對手展開競爭 。
“我們要向他們證明 ， 我們有一款產品能提供他們所需的性能 ， 并且價格合適 ， 這樣他們就能獲得性價比優勢 ， ”Brown說 。 “這意味著他們可以說 ， ‘嘿 ， 是的 ， 那就是我想去用的芯片 。 ’”
該公司周二還推出了其名為Nova的AI模型的新版本 。 亞馬遜表示 ， Nova 2速度更快、響應更靈敏 ， 并且包含一個名為Nova的版本 ， 可以響應圖像或文本到文本、圖像、語音或視頻提示 。 另一個名為Sonic的版本可以用語音輸出來響應語音提示 ， AWS CEO Matt Garman在其主題演講中稱其為“類人”的 。
在與OpenAI的ChatGPT、Anthropic的Claude和谷歌的Gemini等競爭對手的較量中 ， 亞馬遜一直難以讓Nova獲得廣泛認可 。 盡管如此 ， 亞馬遜在最近一個季度的AWS銷售額仍增長了20% ， 這主要歸功于其云計算和AI基礎設施服務 。
在AWS拉斯維加斯會議上 ， 亞馬遜還推出了一項名為Nova Forge的服務 ， 以幫助公司使用其輸入的數據創建自己的AI模型 。 Garman說：“這允許你生成一個深刻理解你信息的模型 ， 同時又不會忘記該模型所訓練的核心信息 。 ”
周二中午 ， 亞馬遜股價上漲0.9% ， 至235.98美元 。
亞馬遜啟動Rainier數據中心 ， 以支持Anthropic訓練AI模型亞馬遜云服務(AWS)已啟用其位于美國印第安納州的Rainier數據中心 ， 旨在使用亞馬遜的自研Trainium芯片加速Anthropic公司大型語言模型(LLM)Claude的訓練 。 Rainier設施是亞馬遜在該州的最大投資項目 ， 獲得了110億美元的資金支持 。
該數據中心占地1200英畝 ， 計劃共建設30棟建筑 ， 電力容量超過2.2GW ， 足以為約160萬戶家庭供電 。 目前 ， 已有七棟建筑投入運營 ， 容納了約50萬顆Trainium2芯片 。 AWS計劃在今年年底前將這一數字翻倍至100萬顆 。
亞馬遜云服務首席執行官Matt Garman表示 ， Rainier項目是專為Anthropic設計的 ， 這使亞馬遜能夠通過垂直整合（結合定制硬件和優化軟件）在AI訓練市場占據更大份額 。 此前 ， 亞馬遜承諾向Anthropic提供約80億美元的支持 ， 包括用于模型訓練和部署的Trainium AI芯片及AWS云基礎設施 。
亞馬遜和Anthropic正在合作開發AI芯片 。 亞馬遜透露 ， 它與Anthropic聯合開發Trainium 3芯片 。 Anthropic的首席產品官Mike Krieger強調 ， 他的公司在芯片設計階段提供的反饋有助于提高其能源效率、訓練速度并降低延遲 。
亞馬遜云服務副總裁Prasad Kalyanaraman解釋說 ， 管理從硬件設計到云軟件平臺的整個技術堆棧 ， 對于滿足大型AI模型嚴苛的計算需求至關重要 。 亞馬遜對Rainier數據中心的快速部署受到了Anthropic的稱贊 ， 稱其遠快于競爭對手 ， 這凸顯了速度和規模在AI基礎設施競賽中的重要性 。
想要獲取半導體產業的前沿洞見、技術速遞、趨勢解析 ， 關注我們！

    推薦閱讀