1. 首頁 > 生活百科 > >

請想象，博通給OpenAI打造的芯片

芯片it芯片openai博通

請想象，博通給OpenAI打造的芯片

OpenAI很可能會使用博通的3.5D XDSiP封裝技術 。
據稱 ， OpenAI正在博通的幫助下開發一款定制AI加速器 ， 此舉顯然是為了減少對英偉達的依賴 ， 并降低其GPT系列模型的成本 。
【請想象，博通給OpenAI打造的芯片】報道稱 ， 博通首席執行官Hock Tan在周四的財報電話會議上提到的那個價值100億美元的神秘客戶 ， 正是Sam Altman的人工智能公司OpenAI 。
雖然博通沒有透露其客戶的習慣 ， 但一個公開的秘密是 ， 該公司的知識產權構成了市面上許多定制云芯片的基礎 。
Tan在周四的電話會議上對分析師表示 ， 博通目前正在為三家XPU客戶提供服務 ， 第四家也即將加入 。
“上個季度 ， 其中一位潛在客戶向博通下達了生產訂單 ， 因此我們已將其定性為合格的XPU客戶 ， 并且實際上 ， 我們已經獲得了基于我們XPU的、價值超過100億美元的AI機架訂單 ， ”他說 。 “反映在這一點上 ， 我們現在預計2026財年的AI收入前景將比我們上個季度所預示的有顯著改善 。 ”
一段時間以來 ， 一直有傳言稱OpenAI正在開發一款自研芯片 ， 以替代英偉達和AMD的GPU 。 消息人士表示 ， 該芯片現在預計將于明年某個時候首次亮相 ， 但將主要用于內部 ， 而不會向外部客戶提供 。
這是否意味著該芯片將用于訓練而非推理 ， 或者僅僅是它將為OpenAI的推理和API服務器提供動力 ， 而不是像谷歌和AWS對其TPU和Trainium加速器那樣 ， 用于基于該加速器的虛擬機 ， 這仍然是一個懸而未決的問題 。
它會是什么樣子雖然我們不確切知道OpenAI打算如何使用其第一代芯片 ， 但博通的參與為我們提供了一些關于其最終形態的線索 。
博通生產多種構建大規模AI計算系統所需的基礎技術 。 這些技術范圍廣泛 ， 從用于在芯片間傳輸數據的串行器-解串器（SerDes） ， 到將單個芯片擴展至數千個所需的網絡交換機和共封裝光學互連 ， 再到構建多裸片加速器所需的3D封裝技術 。
OpenAI很可能會使用博通的3.5D XDSiP（eXtreme Dimension System in Package）封裝技術 ， 并結合上述所有技術中的一部分 ， 而XDSiP本身很可能就是加速器的封裝方案 。
該架構在許多方面都讓人聯想到AMD的MI300系列加速器 ， 比我們目前從英偉達看到的任何產品都更相似 。 它涉及將先進的計算單元（compute tile）堆疊在包含芯片底層邏輯和內存控制器的基礎裸片之上 。 同時 ， 封裝間的通信通過獨立的I/O裸片進行 。 這種模塊化的方法意味著客戶可以根據自己的需求 ， 或多或少地將自己的知識產權融入設計中 ， 并讓博通來填補其余的空白 。
博通最大的3.5D XDSiP設計將在一個6000平方毫米的封裝上支持一對3D堆棧、兩個I/O裸片和多達12個HBM堆棧 。 首批產品預計將于明年開始出貨 ， 這恰好與傳聞中OpenAI推出其首款芯片的時間相符 。
除了博通的XDSiP技術 ， 如果OpenAI利用博通的Tomahawk 6系列交換機和共封裝光學小芯片來進行縱向和橫向擴展網絡 ， 我們也不會感到驚訝 。 然而 ， 博通在這兩種網絡范式中都專注于將以太網作為首選協議 ， 這意味著他們不必在所有方面都使用博通的產品 。
缺失的MAC單元雖然博通的3.5D XDSiP似乎是OpenAI首款自研芯片的有力候選方案 ， 但它本身并不是一個完整的解決方案 。 這家AI初創公司仍然需要提供 ， 或者至少是授權一個配備了性能極高的矩陣乘法累加（MAC）單元的計算架構 ， 這種單元有時也被稱為MME或張量核心（Tensor core） 。
這些計算單元還需要一些其他的控制邏輯 ， 理想情況下還需要一些向量單元 ， 但對于AI來說 ， 最主要的是一個足夠強大的矩陣單元 ， 并能接觸到充足的高帶寬內存 。
因為博通將負責提供幾乎所有其他部分 ， OpenAI的芯片團隊可以完全專注于為其內部工作負載優化其計算架構 ， 這使得整個過程遠沒有那么艱巨 。
這就是為什么云服務提供商和超大規模數據中心運營商傾向于從商用芯片銷售商那里授權其大部分加速器設計的原因 。 當你本可以把資源再投資于你的核心競爭力時 ， 沒有必要浪費資源去重復發明輪子 。
也有可能是蘋果？考慮到Altman計劃將主要來自他人的數百億美元資金投入到其“星際之門”（Stargate）計劃下的AI基礎設施中 ， 博通新增的這個價值100億美元的客戶是OpenAI并不令人意外 。
然而 ， 這家初創公司并非唯一一家傳聞與博通合作開發定制AI加速器的公司 。 去年年底 ， 曾有報道稱 ， 蘋果將成為博通的下一個重要XPU客戶 ， 其芯片代號為“Baltra” ， 預計于2026年推出 。
自那時以來 ， 蘋果已承諾投資5000億美元并雇傭2萬人來增強其國內制造能力 。 在這些投資中 ， 包括一個位于德克薩斯州的制造廠 ， 該廠將生產基于其自研芯片的、具備AI加速功能的服務器 。
*聲明：本文系原作者創作 。 文章內容系其個人觀點 ， 我方轉載僅為分享與討論 ， 不代表我方贊成或認同 ， 如有異議 ， 請聯系后臺 。
想要獲取半導體產業的前沿洞見、技術速遞、趨勢解析 ， 關注我們！

    推薦閱讀