1. 首頁 > 生活百科 > >

AI內存新秀，SOCAMM2登場

芯片人工智能英偉達ai

AI內存新秀，SOCAMM2登場

文章圖片




據報道 ， 英偉達已取消其第一代SOCAMM內存模塊的推廣 ， 并將開發重點轉向名為SOCAMM2的新版本 。
不久前 ， 英偉達曾表示計劃今年為其AI產品部署60-80萬個SOCAMM內存模塊 ， 但據稱隨后發現了技術問題 ， 項目兩次擱置 ， 并未能下達任何實際的大規模訂單 。 目前開發重點已經轉移到SOCAMM 2 ， 英偉達已開始與三星電子、SK海力士和美光合作對SOCAMM 2進行樣品測試 。
01SOCAMM2是什么？有何優勢？
SOCAMM技術定位為面向AI服務器的新型高帶寬、低功耗內存解決方案 ， 其設計目標是在提供與HBM（高帶寬內存）相近性能的同時 ， 有效降低成本 。 通過將LPDRAM與壓縮連接內存模塊 (CAMM)搭配使用 ， 以革命性的全新外形尺寸提供卓越的性能和能效 ， 相比傳統的DDR5 RDIMM配置更節省空間 ， 且功耗低三分之一 。
此前 ， 英偉達在產品文檔中已明確列入SOCAMM相關信息 ， 其中GB300 NVL72規格表顯示 ， 該產品可支持最高18TB基于LPDDR5X的SOCAMM ， 帶寬可達14.3TB/s 。 但由于英偉達GB300 \"Blackwell Ultra\"的主板設計變動 ， SOCAMM模組不會立即進入商業化 ， 但該技術仍有望成為Vera Rubin平臺的一部分 ， 為Vera CPU提供更靈活、更易維護的非板載內存選擇 。

需要指出的是 ， SOCAMM與HBM二者并非直接競爭關系 ， 而是互補存在 ， SOCAMM解決靈活性問題 ， 而HBM通過與GPU的先進封裝集成解決極致性能需求 。
SOCAMM 2或將支持LPDDR6內存規格
【AI內存新秀，SOCAMM2登場】從技術層面深入剖析 ， SOCAMM 2 在硬件架構上延續了 SOCAMM 1 的 694 個輸入 / 輸出（I/O）端口設計 ， 這一穩定的底層架構為其性能升級奠定了基礎 。 值得關注的是 ， SOCAMM 2 的數據傳輸速度大幅躍升至 9600MT/s ， 相較于 SOCAMM 1 的 8533MT/s ， 實現了約 12.5% 的顯著提升 。 這一速率提升意味著在相同時間內 ， SOCAMM 2 能夠傳輸更多的數據 ， 為 AI 服務器的高速運算提供了更強大的數據吞吐能力 。
更具前瞻性的是 ， SOCAMM 2 極有可能支持下一代低功耗內存 LPDDR6 。 作為 LPDDR5X 的繼任者 ， LPDDR6 在諸多關鍵性能指標上實現了質的飛躍 。 在通道架構上 ， LPDDR6 摒棄了 LPDDR5 的 16 位單通道設計 ， 創新性地采用 24 位寬通道（兩個 12 位子通道）架構 ， 每個子通道配備獨立的 4-bit CA 總線 ， 并行處理能力大幅提升 。 其突發長度設定為 24（BL24） ， 形成 288 位數據包 ， 其中 256 位承載有效數據 ， 另外 32 位則被賦予特殊功能 ， 用于錯誤檢查、內存標記或實施數據總線反轉（DBI）技術 ， 在保障數據準確性的同時 ， 顯著降低了寫入操作時的功耗 。
從性能表現來看 ， LPDDR6 的內存帶寬高達 38.4GB / 秒 ， 相比 LPDDR5 有了極大提升 ， 且 JEDEC 確認其功耗將比 LPDDR5 降低約 20% 。 在輕負載場景下 ， LPDDR6 引入的效率模式（Efficiency Mode）運行機制可僅啟用一條子通道訪問全部 16 個存儲區 ， 另一條子通道進入待機或深度睡眠狀態 ， 靈活的資源配置進一步優化了能耗 。 同時 ， LPDDR6 新增的 ALERT 信號線使 DRAM 顆粒能主動向處理器報告錯誤 ， 支持 15 種不同類型故障的實時上報 ， 極大增強了數據完整性保障能力 。
若SOCAMM 2 成功集成 LPDDR6 技術 ， 二者將形成強大的協同效應 。 一方面 ， LPDDR6 的高性能特性將助力 SOCAMM 2 在帶寬、能效比以及數據處理的穩定性上實現再次突破 ， 進一步拉開與傳統內存方案的差距 ， 更好地滿足 AI 服務器對海量數據高速、穩定處理的嚴苛需求；另一方面 ， SOCAMM 2 的模塊化設計也將為 LPDDR6 的應用拓展新的空間 ， 使其能夠更便捷地應用于 AI 服務器領域 ， 加速 LPDDR6 的商業化進程 。 不過 ， 目前 LPDDR6 仍處于技術驗證階段 ， 其與現有平臺的兼容性、量產成本以及大規模應用后的穩定性等方面均存在一定不確定性 ， 這也是相關供應商尚未正式確認該功能的重要原因 。
02AI 服務器生態怎么融
SOCAMM2 并非孤立存在的內存產品 ， 其價值的充分發揮離不開與 AI 服務器生態的深度協同適配 。 從硬件層面來看 ， AI 服務器的主板設計、CPU 與內存控制器的兼容性 ， 以及散熱系統的布局 ， 都需與 SOCAMM2 的特性相匹配 。 以英偉達 Vera Rubin 平臺為例 ， 該平臺作為面向下一代 AI 計算的核心架構 ， 對內存的靈活性和可維護性提出了更高要求 。
SOCAMM2 的非板載內存設計 ， 恰好滿足了 Vera Rubin 平臺對內存模塊獨立升級、更換的需求 ， 無需整體更換主板 ， 大幅降低了服務器的維護成本與升級周期 。
在軟件層面 ， 操作系統、AI 框架以及驅動程序的優化 ， 同樣是 SOCAMM2 發揮性能的關鍵 。 例如 ， 在 AI 訓練場景中 ， TensorFlow、PyTorch 等主流框架需要針對 SOCAMM2 的內存帶寬特性進行算法調整 ， 以實現數據的高效調度與緩存管理 ， 避免因內存性能未充分利用而導致的計算資源浪費 。 同時 ， 內存管理驅動程序需支持 SOCAMM2 的多通道并行傳輸模式 ， 確保在多任務并發處理時 ， 內存資源能夠被合理分配 ， 減少數據延遲與沖突 。
此外 ， SOCAMM2 與 AI 加速芯片的協同也尤為重要 。 當前 ， 英偉達 GB300 系列芯片、AMD MI300 系列芯片等主流 AI 加速芯片 ， 在設計之初便需考慮與新型內存的適配性 。 以英偉達 GB300 NVL72 為例 ， 其規格表明確支持最高 18TB 基于 LPDDR5X 的 SOCAMM ， 帶寬可達 14.3TB/s ， 這一參數設定正是芯片廠商與內存廠商提前協同研發的結果 。 通過芯片與內存的深度適配 ， 能夠實現數據傳輸鏈路的優化 ， 減少信號干擾與傳輸損耗 ， 進一步提升 AI 服務器的整體運算效率 。
03內存大廠 ， 競爭升溫
隨著AI應用的爆發 ， 高帶寬、低延遲的內存需求急劇增長 ， 傳統DDR內存難以滿足AI服務器對海量數據快速讀寫的要求 。 HBM雖性能卓越 ， 但因成本高昂、產能受限 ， 無法全面普及 。 SOCAMM2的出現恰逢其時 ， 其融合LPDDR技術的優勢 ， 有望以更親民的成本提供接近HBM的性能 ， 填補市場空白 。
在這一背景下 ， 不少內存大廠紛紛押注SOCAMM2賽道 。
美光憑借技術積累與市場響應速度 ， 在SOCAMM 領域率先行動 ， 今年 3 月宣布向客戶交付基于 LPDDR5X 的 SOCAMM 模塊 ， 成為行業內較早實現該類產品交付的廠商 。 此舉使其積累了市場應用經驗 ， 與部分AI 服務器制造商建立合作關系 ， 為后續 SOCAMM2 的推廣奠定基礎 ， 但先發優勢能否持續需看后續產品迭代與成本控制能力 。
三星與SK 海力士作為內存行業頭部企業 ， 雖在 SOCAMM 產品推出進度上稍晚于美光 ， 但憑借技術儲備與產業鏈整合能力 ， 在 SOCAMM2 研發與量產準備中持續發力 。
三星展示的SOCAMM2 設計方案側重產品緊湊性與散熱管理優化 ， 通過封裝技術改進與散熱材料應用 ， 提升產品在高密度服務器環境下的穩定性與可靠性 ， 以適應長時間高負載運行需求；SK 海力士則將研發重點放在內存速率提升與穩定性優化上 ， 通過改進內存顆粒制造工藝、優化電路設計 ， 提升 SOCAMM2 在數據傳輸速率、延遲控制及多模塊協同工作的穩定性 。 目前 ， 兩家企業均與英偉達保持技術合作 ， 參與 SOCAMM2 樣品測試 ， 并根據測試反饋優化產品設計 ， 計劃在明年初推進量產 。
國產存儲廠商也積極參與SOCAMM2 的市場競爭 ， 江波龍作為國內存儲行業代表企業 ， 基于自身在存儲芯片設計、主控芯片開發、封裝測試及生產制造等環節的技術積累 ， 推出自研 SOCAMM2 產品 。 該產品在保留SOCAMM 技術通用優勢的基礎上 ， 針對國內服務器市場特點進行優化 ， 例如去除 LPCAMM2 頂部凸出的梯形結構以降低整體高度 ， 提升與國內常見服務器安裝環境及液體冷卻系統的適配性 。 這種本土化優化策略或為其爭取國內 AI 服務器制造商的合作機會 ， 助力拓展企業級存儲市場份額 ， 同時推動國產存儲技術在 AI 內存領域的突破 。 隨著國內 AI 產業發展及對自主可控存儲產品需求的增長 ， 國產廠商或憑借本土市場優勢縮小與國際大廠的技術差距 。
04商業化 ， 還有多遠？
SOCAMM2 在商業化推進過程中 ， 面臨技術、成本、生態等多方面挑戰 ， 同時也具備一定的市場發展機遇 ， 其發展走向將對 AI 內存行業格局產生影響 。
技術兼容性是SOCAMM2 商業化的首要挑戰 。 作為新型內存模塊 ， SOCAMM2 需與現有 AI 服務器的硬件架構、操作系統及 AI 應用框架實現兼容 。 目前 ， 部分老舊服務器的內存控制器可能無法支持 SOCAMM2 的高傳輸速率與特殊指令集 ， 企業若要適配 SOCAMM2 需進行硬件升級或更換 ， 這將增加初期投入成本 ， 可能導致對成本敏感的中小企業暫緩采用；同時 ， 操作系統與 AI 框架的適配優化需投入時間與資源 ， 若軟件適配進度滯后于硬件產品上市 ， 將導致 SOCAMM2 性能無法充分釋放 ， 影響市場接受度 。
成本控制對SOCAMM2 的商業化推廣也至關重要 。 盡管SOCAMM2 定位為 “低成本替代 HBM” 的方案 ， 但與傳統 DDR5 內存相比 ， 其采用的 LPDDR5X/LPDDR6 顆粒及模塊化設計 ， 在研發與制造成本上仍有差距 。 尤其是LPDDR6 顆粒處于技術驗證階段 ， 量產初期成本較高 ， 將直接影響 SOCAMM2 的定價策略：若定價過高 ， 將失去與DDR5 內存的成本競爭優勢；若定價過低 ， 可能壓縮內存廠商利潤空間 ， 影響研發投入積極性 。 此外 ， SOCAMM2 的生產良率也將影響單位產品成本 ， 良率偏低將進一步推高成本 ， 制約大規模商業化 。
從市場機遇來看 ， AI 產業的持續擴張將帶動高帶寬內存需求增長 。
根據TrendForce 的最新研究 ， 2025 年由于需求持續旺盛且產品平均售價較高 ， 預計AI 服務器細分市場的價值將升至 2980 億美元 ， AI 服務器將占整個服務器行業總價值的 70% 以上 。 內存作為核心組件 ， 需求將同步提升 。 SOCAMM2 具備 “高帶寬、低功耗、低成本” 特性 ， 與中高端 AI 服務器需求相契合 ， 在 AI 訓練、推理、云計算等場景中存在應用空間 。
此外 ， SOCAMM2 的發展或推動內存行業技術迭代 。 面對 SOCAMM2 帶來的競爭壓力 ， HBM、DDR5 等內存產品或將加快技術升級 ， 進一步提升性能、降低成本 ， 形成行業良性競爭格局 。 這種競爭態勢可能促使內存行業突破技術瓶頸 ， 為 AI 產業提供更優質的內存解決方案 ， 推動 AI 計算性能整體提升 。
想要獲取半導體產業的前沿洞見、技術速遞、趨勢解析 ， 關注我們！

    推薦閱讀