近日,科技界傳來重磅消息,埃隆·馬斯克的人工智能初創(chuàng)企業(yè)xAI正緊鑼密鼓地籌備其強(qiáng)大AI模型的發(fā)布,并加速基礎(chǔ)設(shè)施建設(shè)。xAI的雄心壯志在一次直播活動(dòng)中得到了展現(xiàn)。
周一,馬斯克攜xAI團(tuán)隊(duì)通過直播向全球展示了他們的最新成果——Grok 3,這一模型被譽(yù)為“地球上最聰明的AI”。Grok 3是在xAI位于田納西州孟菲斯的超級計(jì)算機(jī)Colossus上訓(xùn)練的,該超級計(jì)算機(jī)配備了約20萬臺(tái)圖形處理單元(GPU)。據(jù)悉,xAI用了122天時(shí)間讓Colossus的前10萬臺(tái)GPU投入運(yùn)行,隨后又在短短92天內(nèi)將Colossus的規(guī)模擴(kuò)大了一倍,達(dá)到20萬臺(tái)GPU。
Grok 3無疑從Colossus的驚人規(guī)模擴(kuò)張中受益匪淺。xAI在今年1月初就完成了Grok 3的預(yù)訓(xùn)練,該模型的計(jì)算能力比其前身Grok 2提高了約10倍。馬斯克表示,Grok 3的能力比Grok 2高出一個(gè)數(shù)量級,并強(qiáng)調(diào)該模型正在不斷進(jìn)化,每天都有新的改進(jìn)推出?!澳憧梢栽?4小時(shí)內(nèi)就看到更新?!彼f。
此前,Grok 2模型使用了2400億個(gè)參數(shù),性能與GPT-4相當(dāng)。而現(xiàn)在,有了Grok 3,馬斯克信心滿滿地表示:“我們擁有一支極其出色的工程團(tuán)隊(duì),并且能夠獲取所有最好的AI資源。我們現(xiàn)在所需要的就是一個(gè)來自大型集群的智能系統(tǒng)。我們已經(jīng)能夠重啟xAI的整個(gè)進(jìn)程,確定訓(xùn)練一個(gè)能夠壓縮整個(gè)互聯(lián)網(wǎng)的大型語言模型需要多少GPU?!?/p>
隨著Colossus的壯大,xAI似乎也在加速該項(xiàng)目的擴(kuò)張。據(jù)報(bào)道,這家AI初創(chuàng)企業(yè)正在與戴爾科技洽談一項(xiàng)超過5億美元的AI服務(wù)器采購協(xié)議。據(jù)彭博社援引知情人士透露,雙方已進(jìn)入深入談判階段。如果交易達(dá)成,戴爾將在今年內(nèi)交付配備英偉達(dá)GB200 GPU的服務(wù)器。不過,報(bào)道也指出,部分細(xì)節(jié)仍在商討中。
這筆高達(dá)5億美元的潛在交易凸顯了訓(xùn)練和運(yùn)行AI模型需求的激增。該交易規(guī)模幾乎相當(dāng)于戴爾AI服務(wù)器季度銷售額的兩倍。在截至2024年11月1日的第三財(cái)季,戴爾服務(wù)器和網(wǎng)絡(luò)業(yè)務(wù)的銷售額激增58%,達(dá)到74億美元,其中服務(wù)器銷售額為29億美元。
馬斯克的AI征程始于2023年7月創(chuàng)立的xAI,他從OpenAI、DeepMind等AI研究領(lǐng)軍企業(yè)中吸引了大量人才。馬斯克的目標(biāo)是打造一家能夠直接挑戰(zhàn)OpenAI在該領(lǐng)域主導(dǎo)地位的公司。去年6月,xAI宣布孟菲斯的超級計(jì)算機(jī)已經(jīng)建成并投入運(yùn)行,使用了來自戴爾和Super Micro的服務(wù)器。