日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁 > 生活百科 > >

從預(yù)訓(xùn)練到推理：DeepSeek時(shí)代，智算中心的轉(zhuǎn)型之路在哪里？

ai聯(lián)想華創(chuàng)deepseek

從預(yù)訓(xùn)練到推理：DeepSeek時(shí)代，智算中心的轉(zhuǎn)型之路在哪里？

文章圖片


人工智能浪潮席卷全球 ， 智算中心作為支撐人工智能發(fā)展的關(guān)鍵基礎(chǔ)設(shè)施 ， 迎來了前所未有的發(fā)展機(jī)遇 。

高昂的建設(shè)成本和算力利用率低的問題 ， 也讓這些“吞金獸”面臨著巨大的挑戰(zhàn) 。
尤其是在DeepSeek引發(fā)AI拐點(diǎn)之后 ， 智算中心的轉(zhuǎn)型之路變得更加迫切 。
DeepSeek的出現(xiàn) ， 將市場(chǎng)對(duì)算力的需求從預(yù)訓(xùn)練轉(zhuǎn)向了后訓(xùn)練和推理 。
過去 ， 智算中心的主要客戶是那些進(jìn)行大模型預(yù)訓(xùn)練的大型互聯(lián)網(wǎng)公司和AI企業(yè) ， 他們一租就是幾十臺(tái)甚至上百臺(tái)服務(wù)器 。
而現(xiàn)在 ， 越來越多的DeepSeek相關(guān)創(chuàng)業(yè)者涌入市場(chǎng) ， 他們對(duì)算力的需求更加碎片化 ， 往往只需要一部分算力資源 ， 無力承擔(dān)整臺(tái)服務(wù)器的費(fèi)用 。
這種轉(zhuǎn)變 ， 使得智算中心原有的客戶群體結(jié)構(gòu)發(fā)生變化 ， 大客戶減少的風(fēng)險(xiǎn)也隨之而來 。
智算中心的建設(shè)成本之高 ， 堪比“吞金獸” 。
【從預(yù)訓(xùn)練到推理：DeepSeek時(shí)代，智算中心的轉(zhuǎn)型之路在哪里？】一臺(tái)服務(wù)器的價(jià)格高達(dá)百萬甚至數(shù)百萬元 ， 再加上配套的制冷和供電系統(tǒng) ， 一個(gè)中等規(guī)模智算中心的建設(shè)成本就高達(dá)20億到30億元 。
截至2024年6月 ， 中國(guó)已建和在建的智算中心超過250個(gè) ， 相關(guān)投資累計(jì)超過千億元 。
部分公共智算中心由于規(guī)劃不足 ， 導(dǎo)致算力利用率低 ， 資源閑置嚴(yán)重 ， 如何提升使用效率成為亟待解決的問題 。
位于甘肅慶陽的燧弘華創(chuàng)綠色智算中心 ， 或許能為我們提供一些借鑒 。

這個(gè)算力超過2萬P的智算中心 ， 服務(wù)于阿里云、百度、智譜AI等用戶 ， 是國(guó)內(nèi)真正投入使用的智算中心之一 。
它的成功 ， 離不開當(dāng)?shù)卣闹С趾团c聯(lián)想、燧原科技等合作伙伴的協(xié)同創(chuàng)新 。
慶陽市政府采用算力券獎(jiǎng)勵(lì)模式 ， 使燧弘華創(chuàng)的算力價(jià)格更具競(jìng)爭(zhēng)力 ， 并定期召開會(huì)議解決企業(yè)發(fā)展難題 。
聯(lián)想則在服務(wù)器工廠建設(shè)、設(shè)備提供、算力調(diào)優(yōu)等方面提供了全方位支持 。
DeepSeek的出現(xiàn)也給燧弘華創(chuàng)帶來了新的挑戰(zhàn) 。
過去 ， 他們專注于滿足大模型預(yù)訓(xùn)練的需求 ， 而現(xiàn)在 ， 他們需要轉(zhuǎn)型以適應(yīng)碎片化的推理算力需求 。
智算中心的用戶群體也從少數(shù)大型企業(yè)變成了眾多DeepSeek創(chuàng)業(yè)者 。
這意味著 ， 智算中心需要提供更靈活的算力資源分配方式 ， 并提升云服務(wù)和算力調(diào)優(yōu)能力 。
DeepSeek也為智算中心帶來新的希望 。
它不僅改變了用戶群體構(gòu)成 ， 更引爆了AI推理需求 ， 為解決算力供大于求的局面帶來了希望 。
聯(lián)想中國(guó)基礎(chǔ)設(shè)施業(yè)務(wù)群高級(jí)產(chǎn)品經(jīng)理郭晉兵認(rèn)為 ， DeepSeek還提供了一種新的資源銷售方式：裝上各種大模型 ， 以對(duì)外賣Token數(shù)的方式銷售算力資源 ， 這使得客戶不再關(guān)心硬件組合 ， 而更關(guān)注算法的強(qiáng)度 。
智算中心的轉(zhuǎn)型 ， 首先要從軟件層面開始 。

過去 ， 智算中心主要采用裸金屬模式對(duì)外出租算力 。
現(xiàn)在 ， 為了服務(wù)大模型后訓(xùn)練與推理 ， 智算中心需要增強(qiáng)云服務(wù)和算力調(diào)優(yōu)能力 。
聯(lián)想等算力基礎(chǔ)設(shè)施提供商也在積極應(yīng)對(duì)這一挑戰(zhàn) ， 通過與燧弘華創(chuàng)和GPU芯片廠商合作 ， 進(jìn)行異構(gòu)算力調(diào)優(yōu)方面的聯(lián)合創(chuàng)新 。
聯(lián)想在慶陽綠色智算中心部署的多元異構(gòu)算力調(diào)度平臺(tái) ， 就是為了統(tǒng)一管理異構(gòu)算力 ， 為用戶提供更融合、更穩(wěn)定的智能和科學(xué)算力 。
同時(shí) ， 聯(lián)想也在提升其AI服務(wù)器在DeepSeek大模型上的性能表現(xiàn) ， 最新的數(shù)據(jù)顯示 ， 其服務(wù)器在運(yùn)行滿血版DeepSeek R1大模型時(shí) ， 極限吞吐量可超8000 tokens/s 。
除了技術(shù)層面 ， 智算中心的算力銷售模式也需要轉(zhuǎn)變 。
過去 ， 智算中心主要在各主要城市建立中心就近服務(wù)客戶 。
現(xiàn)在 ， 面對(duì)分散的推理算力市場(chǎng) ， 他們也開始嘗試通過網(wǎng)絡(luò)平臺(tái)等渠道銷售算力 。
智算中心的云化、智算云的建設(shè) ， 很可能成為未來的主要發(fā)展方向 。
例如 ， 上海市在2025-2027年的智算云產(chǎn)業(yè)實(shí)施意見中 ， 就明確提出要打造綜合型和垂直型智算云平臺(tái) ， 并形成一批標(biāo)桿應(yīng)用 。
智算中心的運(yùn)維并非易事 ， 智算云的運(yùn)維難度更是指數(shù)級(jí)增長(zhǎng) 。
中科院計(jì)算所研究員張?jiān)迫粲跫訌?qiáng)AI人才培養(yǎng) 。
他指出 ， 盡管基于AI大模型的后訓(xùn)練與推理需求激增 ， 但目前非常缺乏既了解行業(yè)需求又掌握AI應(yīng)用方法的人才 。
例如 ， 懂得將行業(yè)數(shù)據(jù)和DeepSeek大模型進(jìn)行精調(diào)的工程師就非常少 。
我們需要培養(yǎng)大量這樣的工程師 ， 才能解決AI落地的“最后一公里”問題 。
智算中心的轉(zhuǎn)型之路 ， 充滿了挑戰(zhàn)與機(jī)遇 。
DeepSeek的出現(xiàn) ， 既帶來了新的問題 ， 也提供了新的思路 。
如何抓住機(jī)遇 ， 應(yīng)對(duì)挑戰(zhàn) ， 是擺在所有智算中心面前的一道難題 。
在AI技術(shù)日新月異的今天 ， 智算中心的未來究竟會(huì)走向何方？
又將如何影響人工智能產(chǎn)業(yè)的發(fā)展？
這些問題值得我們深入思考和探討 。

    推薦閱讀