【中國電信智算網絡突破：跨數據中心無損推理，為企業算力部署開新篇】近日 ， 中國電信廣東公司攜手中國電信研究院 ， 在智算網絡領域取得重大技術突破 。 他們成功完成了Deepseek-671B滿血版長距跨數據中心分布式無損智算推理網絡的技術驗證 。 這一成果為企業按需擴容算力及推理數據本地化存儲提供了創新解決方案 ， 標志著中國電信在智算網絡技術創新上邁出關鍵一步 。
實驗中 ， 推理任務被合理分配到邊緣節點和云端 ， 云、邊之間通過KV Cache協同 ， 有效降低成本 ， 提升體驗 。 基于昇騰PD分離的大EP推理架構 ， 對DeepSeek 671B模型進行壓力驗證 ， 結果顯示 ， 即使在長距低帶寬場景下 ， 關鍵指標仍能達標 ， 滿足企業AI推理需求和安全要求 。
這一技術突破將變革企業算力部署模式 。 企業只需在園區部署少量算力服務器 ， 結合云端資源靈活調用 ， 降低成本 ， 突破空間限制 。 PD分離架構保障數據安全 。
推薦閱讀
- IDC最新報告：2024中國AI基礎設施市場份額，阿里云第一
- 繞過ASML的封鎖，中國EUV光刻機要來了，采用LDP技術？
- “中國英偉達”們，開始圍攻美國英偉達
- “中國英偉達”，終于被這個男人熬出來了
- 美國科技顧問：中國芯片設計不輸美國，但芯片制造落后2-3代
- 不是模仿國外，是中國人在改寫剃須刀標準
- 499 美元！特朗普 T1 手機被爆：由中國公司生產
- 中國專利金獎：每小時數萬顆芯片“微米級極速取放”
- 中國最大AI開源社區，在北京辦了第一場開發者大會
- 年出貨112億顆，全球最大汽車CIS芯片廠商，在中國