半導(dǎo)體行業(yè)中，存儲(chǔ)器始終扮演著舉足輕重的角色，特別是DRAM（動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器）和NAND（閃存）。近年來，隨著人工智能（AI）技術(shù)的蓬勃發(fā)展，尤其是生成式AI如ChatGPT的廣泛應(yīng)用，存儲(chǔ)器市場迎來了新的增長契機(jī)，新型存儲(chǔ)技術(shù)如HBM和QLC SSD等應(yīng)運(yùn)而生。

在AI技術(shù)的推動(dòng)下，非結(jié)構(gòu)化數(shù)據(jù)如圖像、視頻、音頻等呈現(xiàn)爆炸式增長，這對(duì)存儲(chǔ)提出了新的挑戰(zhàn)。據(jù)IDC預(yù)測，到2028年，全球?qū)a(chǎn)生394ZB的數(shù)據(jù)，其中AIGC領(lǐng)域的數(shù)據(jù)增長尤為顯著，AI圖像和視頻生成的數(shù)據(jù)量將激增167倍。存儲(chǔ)逐漸成為制約AI發(fā)展的關(guān)鍵因素之一。

為了應(yīng)對(duì)這一挑戰(zhàn)，業(yè)界開始關(guān)注存內(nèi)計(jì)算技術(shù)，但商業(yè)化進(jìn)程一直緩慢。近日，三星電子與SK海力士宣布合作，致力于LPDDR6-PIM內(nèi)存產(chǎn)品的標(biāo)準(zhǔn)化，旨在加速AI專用低功耗存儲(chǔ)器的標(biāo)準(zhǔn)化進(jìn)程。這一合作有望推動(dòng)存內(nèi)計(jì)算技術(shù)的商業(yè)化應(yīng)用。

在AI時(shí)代，算法、數(shù)據(jù)和算力是三大核心要素，而芯片作為算力的基石，正面臨馮·諾依曼架構(gòu)的瓶頸。傳統(tǒng)的馮·諾依曼架構(gòu)中，計(jì)算與內(nèi)存分離，導(dǎo)致數(shù)據(jù)在讀寫過程中產(chǎn)生大量開銷，限制了系統(tǒng)性能的提升。隨著AI等高性能需求的爆發(fā)，這一瓶頸愈發(fā)凸顯。

為了突破這一瓶頸，學(xué)術(shù)界和產(chǎn)業(yè)界開始探索后摩爾時(shí)代的新一代芯片技術(shù)，其中存算一體芯片備受矚目。存算一體芯片通過存儲(chǔ)與計(jì)算的融合一體化，從根源上解決了馮·諾依曼架構(gòu)的問題。這種芯片能夠大幅降低數(shù)據(jù)搬運(yùn)開銷，突破“存儲(chǔ)墻”與“功耗墻”，并在相對(duì)落后的工藝節(jié)點(diǎn)下實(shí)現(xiàn)高性能，緩解工藝微縮壓力。

存算一體技術(shù)有三種主流路徑：近存計(jì)算（PNM）、存內(nèi)處理（PIM）和存內(nèi)計(jì)算（CIM）。近存計(jì)算通過減少數(shù)據(jù)移動(dòng)和提高緩存效率，適用于大規(guī)模并行處理和優(yōu)化內(nèi)存帶寬的應(yīng)用。存內(nèi)處理則專注于數(shù)據(jù)密集型應(yīng)用和能效優(yōu)化，適用于快速數(shù)據(jù)處理和降低能耗的場景。存內(nèi)計(jì)算則更側(cè)重于特定領(lǐng)域的高并行性計(jì)算和定制硬件優(yōu)化。

近年來，近存計(jì)算技術(shù)相對(duì)成熟，已經(jīng)實(shí)現(xiàn)了規(guī)?；慨a(chǎn)。以AMD、Intel、三星、海力士等企業(yè)為代表的半導(dǎo)體龍頭企業(yè)，紛紛發(fā)布了基于高帶寬內(nèi)存技術(shù)(HBM)和2.5D/3D封裝技術(shù)的近存計(jì)算芯片。然而，近存計(jì)算本質(zhì)上仍然是存算分離的馮·諾依曼架構(gòu)。

相比之下，存內(nèi)計(jì)算技術(shù)更加前沿。從2021年開始，三星、海力士、TSMC等國際巨頭以及Mythic等公司開始試產(chǎn)存內(nèi)計(jì)算芯片。阿里巴巴達(dá)摩院也成功研發(fā)了全球首款基于DRAM的3D鍵合堆疊存算一體AI芯片，在特定AI場景中性能提升顯著。

三星在存內(nèi)計(jì)算領(lǐng)域尤為活躍。他們不僅展示了基于HBM2-PIM技術(shù)的存內(nèi)計(jì)算芯片，還在AMD Instinct MI100計(jì)算卡中加入了HBM-PIM芯片，構(gòu)建了一個(gè)大型計(jì)算系統(tǒng)。該系統(tǒng)在使用訓(xùn)練語言模型算法時(shí)，性能大幅提升，功耗顯著降低。三星還在Hot Chips 2023會(huì)議上公布了HBM-PIM和LPDDR-PIM的最新研究成果。

SK海力士也不甘落后，他們開發(fā)出了首款基于PIM技術(shù)的GDDR6-AiM樣本。與傳統(tǒng)DRAM相比，GDDR6-AiM在特定計(jì)算環(huán)境中演算速度最高可提升16倍，功耗降低80%。TSMC也展示了在多種器件上實(shí)現(xiàn)存內(nèi)計(jì)算的探索成果。

然而，盡管各家企業(yè)都在積極布局存內(nèi)計(jì)算技術(shù)，但商業(yè)化進(jìn)程一直緩慢。其中一個(gè)重要原因是各家企業(yè)根據(jù)各自的標(biāo)準(zhǔn)開發(fā)產(chǎn)品，導(dǎo)致概念和規(guī)范存在差異，行業(yè)難以采用通用標(biāo)準(zhǔn)。為了推動(dòng)存內(nèi)計(jì)算技術(shù)的商業(yè)化應(yīng)用，三星電子和SK海力士正在合作推動(dòng)LPDDR6-PIM內(nèi)存的標(biāo)準(zhǔn)化。

標(biāo)準(zhǔn)化可以提升兼容性和互操作性，促進(jìn)技術(shù)的廣泛應(yīng)用和普及。同時(shí)，標(biāo)準(zhǔn)化還有助于降低成本，減少研發(fā)成本和時(shí)間，促進(jìn)規(guī)模經(jīng)濟(jì)。隨著標(biāo)準(zhǔn)化的推進(jìn)，存內(nèi)計(jì)算技術(shù)的商業(yè)化應(yīng)用有望加快步伐。

國內(nèi)企業(yè)也在存內(nèi)計(jì)算領(lǐng)域取得了顯著進(jìn)展。知存科技推出了首款量產(chǎn)存內(nèi)計(jì)算SOC芯片WTM2101，該芯片采用模擬存算計(jì)算范式，在40nm成熟工藝下實(shí)現(xiàn)了高算力和低功耗，并已商用至智能可穿戴設(shè)備中。后摩智能也推出了鴻途H30芯片，采用數(shù)字存算計(jì)算范式，實(shí)現(xiàn)了更高的算力和功耗。

隨著技術(shù)的不斷演進(jìn)和市場需求的不斷變化，存內(nèi)計(jì)算技術(shù)的商業(yè)化應(yīng)用前景廣闊。當(dāng)各種條件成熟之際，存算一體芯片有望在半導(dǎo)體行業(yè)中大放異彩。