NVIDIA再快也不行!科學家警示AI算力已接近物理極限

NVIDIA再快也不行!科學家警示AI算力已接近物理極限
艾倫人工智能研究所(Allen Institute for AI)的研究科學家、卡內基梅隆大學助理教授Tim Dettmers在博客文章中指出:
【NVIDIA再快也不行!科學家警示AI算力已接近物理極限】現階段的計算處理器技術已接近物理極限 , 有限的硬件擴展能力將成為實現通用人工智能(AGI)和超級智能的最大障礙 。
他指出 , 關于AGI的討論往往停留在哲學層面 , 但其最終實現必須依賴實際的運算能力支撐 , 現有硬件的擴展空間可能只剩下一到兩年 , 此后任何性能提升都將面臨物理上不可行性 。
他強調 , 自2018年以來 , GPU性能的提升已逐步趨于瓶頸 , 后續的改進主要依靠低精度數據類型和張量核心的優化 , 但這些新技術帶來的效果并非如業界所宣傳的那般大 。
雖然單個GPU的性能已接近極限 , 但Dettmers認為 , 通過硬體整合創新仍可延長其使用壽命 。
例如 , NVIDIA最新的GB200 NVL72系統能夠將加速器數量從8個提升至72個 , 從而實現了約30倍的推理性能提升 。

    推薦閱讀