隨著大模型技術(shù)在2024年的顯著提速，其在產(chǎn)業(yè)中的應(yīng)用迎來了爆發(fā)式增長(zhǎng)。據(jù)統(tǒng)計(jì)，2024年上半年大模型項(xiàng)目的中標(biāo)金額已達(dá)9.38億元，遠(yuǎn)超2023年全年的7.89億元，標(biāo)志著大模型從理論研究邁向了廣泛的實(shí)際應(yīng)用。
大模型的應(yīng)用不再局限于廣泛的概念，而是逐步深入到各個(gè)行業(yè)之中。各行業(yè)對(duì)于如何實(shí)現(xiàn)AI技術(shù)賦能現(xiàn)有業(yè)務(wù)的需求日益迫切，成為企業(yè)在技術(shù)革新中保持競(jìng)爭(zhēng)力的重要考量。浪潮信息產(chǎn)品方案開發(fā)部總經(jīng)理魏健指出，大模型的行業(yè)應(yīng)用不僅需要強(qiáng)大的模型本身，還需要考慮如何有效提升AI應(yīng)用創(chuàng)新的質(zhì)量和效率。
當(dāng)前，大模型在行業(yè)應(yīng)用過程中面臨多重挑戰(zhàn)。首要挑戰(zhàn)來自硬件層面，大模型的訓(xùn)練和推理需要龐大的算力資源，且隨著模型參數(shù)規(guī)模的擴(kuò)大，對(duì)算力的需求也進(jìn)一步增加。高昂的硬件成本以及初期效果的不確定性，使得企業(yè)在采購硬件設(shè)備時(shí)猶豫不決。青云副總裁沈鷗表示，很多企業(yè)因?yàn)殛P(guān)注投資回報(bào)率，不愿在初期投入大量資源。
企業(yè)在應(yīng)用模型賦能業(yè)務(wù)時(shí)，發(fā)現(xiàn)小參數(shù)量的模型往往比大參數(shù)量的模型效果更好。魏健解釋說，通用大模型由于參數(shù)巨大，難以直接應(yīng)用于復(fù)雜、離散的行業(yè)場(chǎng)景，需要結(jié)合行業(yè)專業(yè)數(shù)據(jù)進(jìn)行再學(xué)習(xí)。
面對(duì)這些挑戰(zhàn)，企業(yè)在應(yīng)用大模型的初期更傾向于選擇一站式的解決方案。一體機(jī)因其快速交付、開箱即用、極致性能和安全高效的特點(diǎn)，成為企業(yè)部署行業(yè)模型的重要選擇。
根據(jù)公開數(shù)據(jù)，2023年和2024年上半年，大模型項(xiàng)目中硬件、軟件和服務(wù)的占比分別為60%、11%、17%和61%、5%、30%以上，硬件和服務(wù)占據(jù)了主導(dǎo)地位。魏健表示，一體機(jī)能夠快速幫助企業(yè)落地大模型應(yīng)用，尤其對(duì)傳統(tǒng)行業(yè)企業(yè)來說，是一個(gè)重要的解決方案。
青云科技CEO林源認(rèn)為，一體機(jī)在大模型應(yīng)用的初級(jí)階段特別受歡迎，它能讓企業(yè)快速實(shí)現(xiàn)大模型的應(yīng)用落地。目前市面上的一體機(jī)主要面向端側(cè)的微調(diào)和推理場(chǎng)景，隨著技術(shù)發(fā)展，用戶群體和需求也在增加。
從用戶群體來看，一體機(jī)的主要客戶包括傳統(tǒng)行業(yè)用戶、ISV公司以及大模型應(yīng)用開發(fā)團(tuán)隊(duì)。魏健指出，一體機(jī)能夠幫助這些用戶以較低的成本快速實(shí)現(xiàn)模型應(yīng)用開發(fā)，搶占市場(chǎng)份額。
林源表示，一體機(jī)更適合于標(biāo)準(zhǔn)化的小場(chǎng)景，能夠快速、經(jīng)濟(jì)地開發(fā)出專有的小模型產(chǎn)品。對(duì)于復(fù)雜業(yè)務(wù)場(chǎng)景，定制化仍然是更好的選擇。
目前，已有20余家企業(yè)布局一體機(jī)產(chǎn)品，希望通過軟硬一體的解決方案加速大模型的應(yīng)用步伐。浪潮信息推出了元腦企智EPAI一體機(jī)，提供一站式大模型生產(chǎn)及應(yīng)用全流程開發(fā)工具鏈。聯(lián)想也發(fā)布了智能體一體機(jī)，提供零代碼開發(fā)功能，方便用戶創(chuàng)建智能體。
云廠商也紛紛入局，推出了一體機(jī)產(chǎn)品。青云科技推出了AI智算一體機(jī)，為用戶提供開箱即用的AI環(huán)境。優(yōu)刻得的大模型一體機(jī)則支持多種開源模型的部署及算力調(diào)度。
無論是硬件廠商還是云廠商推出的一體機(jī)，其核心能力都是提供開箱即用的平臺(tái)和開源開放的大模型能力，幫助用戶快速開發(fā)企業(yè)級(jí)模型軟件和產(chǎn)品。
