韓國芯片初創公司FuriosaAI推出服務器產品挑戰GPU霸主地位

【韓國芯片初創公司FuriosaAI推出服務器產品挑戰GPU霸主地位】韓國芯片初創公司FuriosaAI推出服務器產品挑戰GPU霸主地位

韓國芯片初創公司FuriosaAI推出了一款新的服務器產品 , 用于搭載該公司的AI推理半導體芯片 。
NXT RNGD(讀音為\"renegade\")服務器將搭載該公司的神經處理RNGD芯片 。 該公司表示 , 與GPU解決方案相比 , 其服務器在本地數據中心環境和私有云中將提供更高的效率和更低的成本 。
在接受Data Center Knowledge采訪時 , FuriosaAI首席執行官June Paik表示 , 該公司希望通過開創一種結合開源和內部軟件選項的一體化解決方案 , 在推理處理領域開辟一個細分市場 。 他說 , 該公司的目標客戶是銀行、金融、教育和電子商務行業 , 以及其他企業客戶 。
\"目前市場被一家公司主導 , \"Paik說 。 \"Nvidia相當占主導地位 。 有AMD和Intel等少數公司在努力追趕......有很多企業需要AI , 我們需要一種新的方式來做這件事 。 我們的雄心是成為全球下一個領先的計算公司 。 \"
**挑戰巨頭**
挑戰Nvidia是一個艱難的任務 。 這家圣克拉拉硬件公司目前在AI訓練和推理方面占據主導地位 , 盡管在推理方面面臨更多競爭 。 FuriosaAI、xAI和Cerebras等初創公司正在通過專用硬件和定制芯片在推理空間取得進展 。
Nvidia在推理方面也面臨來自大型科技公司的競爭——Google正在使用定制的v4i TPU芯片 , Amazon有其內部的Inferentia芯片 。 Intel、AMD和Qualcomm也在瞄準推理計算市場份額 。
\"推理有如此多的部署場景 , 我毫不懷疑FuriosaAI及其RNGD服務器將在市場中找到一席之地 , \"Moor Insights & Strategy副總裁兼首席分析師Matthew Kimball在郵件中表示 。
Kimball說他期待看到來自這些服務器的更多基準測試結果 。
該公司表示 , NXT RNGD將提供384GB的HBM3內存 , 以12TB/s的內存帶寬運行 , 總功耗為3kW , 而高性能GPU服務器的功耗為10kW或更多 。 該設備搭載八塊RNGD卡 , 提供4 petaflops的FP8(或4 petaflops的INT8)計算能力 。
該公司聲稱 , 標準的15kW數據中心機架可以容納多達五臺NXT RNGD服務器 , 而Nvidia DGX服務器只能容納一臺 。
**挑戰CUDA霸主地位**
盡管成本較低 , FuriosaAI和其他潛在的Nvidia競爭對手仍面臨一個巨大的障礙 。 Nvidia的CUDA軟件已經無處不在 , 為開發者提供了可靠且得到良好支持的解決方案 。
Paik說 , 客戶可能在訓練工作負載上對CUDA產生了依賴 , 但在推理方面 , \"依賴性較小\" , 他看到了FuriosaAI的機會 。 \"我們的挑戰是用我們自己的軟件棧來替換這個CUDA引擎 , \"他說 。 \"我們現在用自己的引擎做得相當好 。 \"
FuriosaAI在7月宣布贏得了LG AI Research這一重要客戶 , 后者將向企業客戶提供RNGD驅動的服務器 。 今年早些時候 , 據報道FuriosaAI拒絕了Meta的8億美元收購提議 。 Paik拒絕對這一報道進行評論 。
該公司的全球客戶目前正在對NXT RNGD服務器進行樣品測試 , 該設備將于2026年初開始接受訂購 。
Q&A
Q1:FuriosaAI的NXT RNGD服務器有什么特點?
A:NXT RNGD服務器搭載FuriosaAI的神經處理RNGD芯片 , 提供384GB的HBM3內存 , 內存帶寬12TB/s , 總功耗僅3kW , 遠低于GPU服務器的10kW以上功耗 。 設備搭載八塊RNGD卡 , 提供4 petaflops的計算能力 , 一個15kW機架可容納五臺該服務器 。
Q2:FuriosaAI如何與Nvidia競爭?
A:FuriosaAI主要在AI推理領域挑戰Nvidia , 通過提供更高效率、更低成本的解決方案來開辟細分市場 。 雖然訓練領域CUDA依賴性強 , 但在推理方面依賴性較小 , 為FuriosaAI提供了機會 。 該公司開發了自己的軟件棧來替代CUDA引擎 。
Q3:FuriosaAI的目標客戶和市場前景如何?
A:該公司主要針對銀行、金融、教育、電子商務等行業的企業客戶 。 已贏得LG AI Research等重要客戶 , 后者將向企業提供RNGD服務器 。 全球客戶正在進行樣品測試 , 產品將于2026年初正式接受訂購 。


    推薦閱讀