在算力市場(chǎng)的風(fēng)云變幻中，一場(chǎng)由AIGC驅(qū)動(dòng)的智能算力革命正悄然上演。據(jù)《中國(guó)算力發(fā)展報(bào)告（2024年）》揭示，全球算力規(guī)模在2023年底已達(dá)到910EFLOPS（FP32），年度增長(zhǎng)率高達(dá)40%。尤為引人注目的是，智能算力規(guī)模的增長(zhǎng)更為迅猛，同比增長(zhǎng)達(dá)到了136%，遠(yuǎn)超整體算力市場(chǎng)的增速。

這股算力洪流不僅吸引了云服務(wù)商等傳統(tǒng)算力供應(yīng)商的加碼投入，還促使眾多傳統(tǒng)企業(yè)紛紛跨界入局算力租賃領(lǐng)域。數(shù)據(jù)顯示，僅在2023年下半年，就有包括鴻博股份、蓮花控股、錦雞股份在內(nèi)的近40家上市公司涉足這一領(lǐng)域，算力市場(chǎng)的熱度可見(jiàn)一斑。

然而，好景不長(zhǎng)，算力市場(chǎng)的熱潮并未持續(xù)太久。部分企業(yè)在短短一年內(nèi)便主動(dòng)終止了跨界項(xiàng)目，算力租賃市場(chǎng)的降溫速度令人咋舌。究其原因，主要是對(duì)算力市場(chǎng)的資金投入、技術(shù)門(mén)檻等關(guān)鍵因素估計(jì)不足，導(dǎo)致在激烈的市場(chǎng)競(jìng)爭(zhēng)中敗下陣來(lái)。

算力市場(chǎng)的這一波動(dòng)，也引發(fā)了行業(yè)內(nèi)的深刻變革。鴻博股份CFO兼英博數(shù)科CEO浦威指出，國(guó)內(nèi)智算行業(yè)正經(jīng)歷著前所未有的變化。從通用大模型訓(xùn)練算力集群的規(guī)模來(lái)看，已從千卡級(jí)別躍升至萬(wàn)卡級(jí)別，垂直大模型的算力使用也從定量模式轉(zhuǎn)向彈性模式。隨著大模型的商業(yè)化落地和多模態(tài)模型的普及，推理需求迅速增長(zhǎng)，算力市場(chǎng)正逐漸從訓(xùn)練階段轉(zhuǎn)向推理階段。

在通用大模型訓(xùn)練方面，國(guó)內(nèi)外科技巨頭紛紛建設(shè)大規(guī)模算力集群，如OpenAI和xAI的十萬(wàn)卡集群，以及國(guó)內(nèi)字節(jié)跳動(dòng)、阿里、百度等企業(yè)的數(shù)萬(wàn)甚至十萬(wàn)卡規(guī)模。對(duì)于更多廠商而言，萬(wàn)卡集群已成為當(dāng)下能夠觸及的天花板。浦威表示，在國(guó)家的有序引導(dǎo)下，新的智算中心正朝著萬(wàn)卡規(guī)模發(fā)展，沒(méi)有萬(wàn)卡級(jí)別的通用模型將難以進(jìn)一步迭代。

與通用大模型相比，垂直大模型主要面向科研、教育、金融等細(xì)分行業(yè)，其算力需求更具分散性、臨時(shí)性和動(dòng)態(tài)變化的特點(diǎn)。因此，垂直大模型正逐步從大規(guī)模定量模式向可伸縮、彈性的算力模式轉(zhuǎn)變，以兼顧成本和體驗(yàn)。浦威指出，許多企業(yè)正在基于基座模型進(jìn)行大量的行業(yè)精調(diào)和微調(diào)，他們的算力需求非常分散，僅在模型微調(diào)等操作時(shí)才使用算力，對(duì)成本也極為關(guān)注。

隨著大模型的商業(yè)化落地和多模態(tài)模型的普及，推理算力需求迅速增長(zhǎng)。相關(guān)數(shù)據(jù)顯示，從2022年到2027年，中國(guó)AI服務(wù)器的推理工作負(fù)載比例預(yù)計(jì)將從58.4%增長(zhǎng)至72.6%，逐步取代訓(xùn)練成為主導(dǎo)。多模態(tài)模型的普及推動(dòng)了文本生成、圖像生成、視頻生成等廣泛的推理需求，AI模型應(yīng)用也從通用模型延展至垂直行業(yè)。

面對(duì)算力市場(chǎng)的這一變化，算力服務(wù)商需要與時(shí)俱進(jìn)。英博數(shù)科副總裁宋琛表示，雖然大模型企業(yè)的格局相對(duì)穩(wěn)定，但核心算力需求并未遇冷。她指出，仍在做預(yù)訓(xùn)練的大模型企業(yè)，其訓(xùn)練規(guī)模反而越來(lái)越大，對(duì)集群的規(guī)模要求也在增加。因此，算力產(chǎn)業(yè)不會(huì)縮減，但會(huì)用變化淘汰反應(yīng)不及的廠商。

為了應(yīng)對(duì)算力需求的變化，英博云專注于為頭部客戶提供量身定制的集群選型、建設(shè)、運(yùn)維等整體解決方案，同時(shí)為有彈性算力需求的中小客戶提供GPU和CPU資源混合的彈性K8S集群服務(wù)。宋琛表示，英博云更專注于GPU算力云領(lǐng)域，為客戶提供靈活定制服務(wù)以及精準(zhǔn)把控成本，填補(bǔ)了細(xì)分市場(chǎng)的空白。

為了評(píng)估算力服務(wù)的質(zhì)量，英博云還提出了“單位有效算力成本”的成本評(píng)估框架。通過(guò)算力投入成本與有效計(jì)算能力的比值，可以客觀評(píng)價(jià)算力服務(wù)的質(zhì)量。英博數(shù)科副總裁秦偉俊表示，英博云對(duì)整個(gè)鏈條通盤(pán)考慮，從IDC建設(shè)到訓(xùn)練過(guò)程中的折損、故障，再到模型框架的選擇和訓(xùn)練效率，都為客戶提供算力提升的空間。

在智算中心的核心網(wǎng)絡(luò)難題方面，英博數(shù)科CTO李少鵬指出，只有在單一物理空間內(nèi)，使用高功率機(jī)柜，通過(guò)統(tǒng)一的計(jì)算網(wǎng)和存儲(chǔ)網(wǎng)，將所有GPU服務(wù)器組成單一集群，才能實(shí)現(xiàn)萬(wàn)卡級(jí)別的并行訓(xùn)練。他強(qiáng)調(diào)，當(dāng)前算力成本主要來(lái)自設(shè)備采購(gòu)、機(jī)電支持和運(yùn)維費(fèi)用，而算力資源的實(shí)際利用率普遍偏低，這與硬件匹配、調(diào)度策略以及訓(xùn)推框架配置等因素密切相關(guān)。

為了提升算力資源的利用率和降低成本，英博數(shù)科還提供了算力實(shí)驗(yàn)室，對(duì)主流算力卡和設(shè)備進(jìn)行測(cè)評(píng)，以便提供更適配于客戶業(yè)務(wù)類(lèi)型的服務(wù)。例如，某3D視頻生成企業(yè)此前一直使用英偉達(dá)A卡進(jìn)行訓(xùn)練，但在英博數(shù)科的測(cè)評(píng)和建議下，改用H卡進(jìn)行訓(xùn)練，整體測(cè)試效率提升了兩倍以上，同時(shí)性價(jià)比也遠(yuǎn)遠(yuǎn)優(yōu)于A卡。

在投融資層面，智算中心建設(shè)作為資本密集型行業(yè)，英博數(shù)科也在建設(shè)產(chǎn)業(yè)孵化器，對(duì)AI垂直應(yīng)用公司給予相應(yīng)的扶持。扶持內(nèi)容不僅包括資金，還包括算力、人才培養(yǎng)等，旨在幫助繁榮和建立整個(gè)AI應(yīng)用的生態(tài)。