比爾·蓋茨支持的創業公司用光學晶體管復興摩爾定律

比爾·蓋茨支持的創業公司用光學晶體管復興摩爾定律

隨著摩爾定律放緩 , 實現性能提升所需的能耗不斷增長 , 一些芯片設計者開始尋求替代架構解決方案 。

Neurophos正是試圖顛覆摩爾定律并實現模擬計算長期承諾但尚未開發潛力的公司之一 。
這家位于德克薩斯州奧斯汀的AI芯片初創公司表示 , 他們正在開發一種光學處理單元(OPU) , 理論上能夠提供470千萬億次浮點運算的FP4/INT4計算能力——約為英偉達最新發布的Rubin GPU的10倍 , 但功耗大致相同 。
微米級超材料光學調制器的突破
Neurophos首席執行官帕特里克·鮑文表示 , 這種性能突破部分源于該公司過去幾年開發的微米級超材料光學調制器 , 本質上就是光子晶體管 。
\"現在硅光子工廠生產的光學晶體管等效器件非常龐大 , 長達2毫米 。 你無法在芯片上放置足夠多的晶體管來獲得與當今數字CMOS競爭的計算密度 , \"他解釋道 。
鮑文表示 , Neurophos的光學晶體管大約小1萬倍 。 \"我們在5月份收到了第一批硅片 , 證明我們可以用標準CMOS工藝實現這一點 , 這意味著它與現有代工廠技術兼容 。 \"
利用這些晶體管 , Neurophos聲稱已開發出光學版本的張量核心 。 \"在芯片上 , 有一個1000×1000處理單元大小的單一光子張量核心 , \"他說 。
這比大多數AI加速器和GPU中看到的要大得多 , 后者采用的矩陣乘法引擎最多為256×256處理單元大小 。
然而 , 與英偉達GPU中擁有數十甚至數百個張量核心不同 , Neurophos只需要一個 。 鮑文告訴我們 , 第一代加速器上的張量核心將占據約25平方毫米 。
芯片其余部分是\"支撐這個瘋狂張量核心所需的復雜系統\" , 鮑文說 。
具體來說 , Neurophos需要大量向量處理單元和SRAM來保證張量核心不會出現數據匱乏 。 這是因為張量核心本身——是的 , 整個掩模版大小的芯片上只有一個——運行頻率約為56千兆赫茲 。
但由于矩陣乘法是光學完成的 , 鮑文指出 , 張量核心消耗的唯一功率是驅動從數字到模擬再返回的光電轉換所需的功率 。
產品規格與時間表
Neurophos表示 , 其首款OPU代號為Tulkas T100 , 將采用雙掩模版設計 , 配備768GB HBM內存 , 能夠在1-2千瓦負載功耗下提供470千萬億次運算 。
雖然這些數據聽起來令人印象深刻 , 但重要的是要記住 , 這些數字目前更像是目標 。 該芯片仍在積極開發中 , 預計要到2028年中期才開始全面生產 。 即便如此 , 鮑文也不期望大量出貨 。 \"我們說的是數千片芯片 , 而不是數萬片 。 \"
雖然Neurophos相信其光學張量核心可以處理廣泛的AI推理工作負載 , 但預計第一款芯片主要用作預填充處理器 。
如前所述 , 大語言模型推理可以分為兩個階段:計算密集型預填充階段(處理輸入Token)和內存帶寬受限階段(生成輸出Token) 。
在過去一年左右 , 我們看到像英偉達這樣的芯片設計者將預填充和解碼分解到單獨的GPU池中 。 對于最新一代GPU , 英偉達開發了專用預填充加速器Rubin CPX 。
鮑文設想Tulkas T100發揮與Rubin CPX類似的作用 。 \"當前的愿景是 , 我們放置一個包含256片芯片的機架 , 與NVL576機架等產品配對 , \"他說 。
長期來看 , 鮑文也計劃解決解碼階段問題 , 但指出需要開發包括協同封裝光學在內的各種技術 , 才能準備好處理Token生成 。
資金支持與概念驗證
雖然Tulkas T100要到至少2028年才能出貨 , 但鮑文表示公司正在積極開發概念驗證芯片來驗證其聲稱的計算和功率密度 。
本周 , Neurophos完成了由Gates Frontier領投、微軟風險投資基金等參與的1.1億美元A輪融資 , 鮑文表示這將資助概念驗證的開發 。
Q&A
Q1:Neurophos的光學處理單元有什么特殊之處?
A:Neurophos開發的OPU使用微米級光學晶體管 , 比傳統硅光子晶體管小1萬倍 , 理論上能提供470千萬億次浮點運算 , 是英偉達Rubin GPU的10倍性能 , 但功耗相同 。
Q2:Neurophos芯片什么時候能投入使用?
A:該公司的首款芯片Tulkas T100預計2028年中期開始生產 , 初期產量為數千片而非數萬片 , 主要用作大語言模型推理的預填充處理器 。
Q3:Neurophos獲得了多少投資資金?
【比爾·蓋茨支持的創業公司用光學晶體管復興摩爾定律】A:本周Neurophos完成了1.1億美元A輪融資 , 由Gates Frontier領投 , 微軟風險投資基金等參與 , 資金將用于開發概念驗證芯片來驗證技術可行性 。

    推薦閱讀