在數(shù)字化轉(zhuǎn)型的浪潮中，阿里云與鈦媒體攜手推出的《云棲戰(zhàn)略參考》成為洞察行業(yè)先鋒實(shí)踐的窗口。該刊物的最新內(nèi)容揭示了端側(cè)與云側(cè)大模型協(xié)同的廣闊前景，為硬件制造商與阿里云帶來了前所未有的發(fā)展機(jī)遇。

回顧技術(shù)革命的歷史，從機(jī)械驅(qū)動(dòng)的織布機(jī)到電力支撐的電話，再到算力為核心的計(jì)算機(jī)，每一次技術(shù)的飛躍都深刻改變了終端設(shè)備的軟硬件形態(tài)。如今，大模型技術(shù)承載著同樣的期望，被視為推動(dòng)智能終端全面變革的關(guān)鍵力量。

大模型的融入，加速了數(shù)字與物理世界的融合進(jìn)程。它不僅使智能終端能夠更深入地理解自然語言，還賦予了它們強(qiáng)大的智能分析與決策能力。通過深度學(xué)習(xí)用戶的習(xí)慣與偏好，智能終端能夠?yàn)槊课挥脩舸蛟飒?dú)一無二的個(gè)性化體驗(yàn)。

然而，挑戰(zhàn)也隨之而來。盡管端側(cè)需要充分展現(xiàn)大模型的能力，但千億乃至萬億參數(shù)的大模型對算力、存儲(chǔ)及能耗的要求遠(yuǎn)超當(dāng)前端側(cè)芯片所能承載的極限。同時(shí)，端側(cè)用戶對于高性能、低時(shí)延及數(shù)據(jù)隱私保護(hù)的需求也日益凸顯。

目前，1B模型在端側(cè)應(yīng)用中占據(jù)主導(dǎo)地位，能夠處理文本生成、語音識別等基礎(chǔ)任務(wù)；3B模型則在高端移動(dòng)設(shè)備上展現(xiàn)更多應(yīng)用潛力，如高級文本生成與多輪對話；而7B模型被譽(yù)為“黃金尺寸”，能夠勝任長篇?jiǎng)?chuàng)作與專業(yè)領(lǐng)域問答等高精尖任務(wù)，但已接近端側(cè)設(shè)備承載能力的上限。對于更大參數(shù)的模型，如13B及以上的百億參數(shù)模型，則需通過模型壓縮技術(shù)與專用硬件加速，在高端智能設(shè)備上實(shí)現(xiàn)部署。

在此背景下，云側(cè)部署大模型與端側(cè)應(yīng)用大模型的結(jié)合，成為平衡性能、成本、功耗、隱私及速度的最佳選擇。端側(cè)大模型便于處理本地用戶數(shù)據(jù)，提供個(gè)性化服務(wù)；而云側(cè)基礎(chǔ)大模型則憑借更大的參數(shù)量與更廣泛的能力，應(yīng)對更復(fù)雜的問題。

為了深入探討大模型如何重塑智能終端的新體驗(yàn)，極客公園創(chuàng)始人張鵬與優(yōu)必選科技副總裁龐建新、OPPO AI技術(shù)規(guī)劃總監(jiān)陳曉春、北科瑞聲創(chuàng)始人劉軼博士展開了一場精彩對話。

龐建新指出，在大模型技術(shù)出現(xiàn)前，機(jī)器人領(lǐng)域面臨多模感知與任務(wù)決策規(guī)劃的諸多挑戰(zhàn)。大模型的引入，不僅解決了多模感知的融合問題，還通過環(huán)境信息與知識上下文的統(tǒng)一決策，提升了機(jī)器人的智能水平。同時(shí)，大模型能夠重新規(guī)劃并執(zhí)行失敗的任務(wù)，確保最終完成任務(wù)。

陳曉春分享了OPPO在端側(cè)AI場景上的探索。得益于強(qiáng)大算力與本地化部署，AIGC的響應(yīng)時(shí)間大幅提升，消除了用戶的等待感。手機(jī)原生應(yīng)用與大模型的結(jié)合，使手機(jī)變得更加智能，解決了用戶時(shí)間碎片化的問題。例如，通過大模型自動(dòng)生成待辦事項(xiàng)，提升了用戶的效率。

劉軼則強(qiáng)調(diào)了語音交互領(lǐng)域的兩次重大變革。從Siri的推出到GPT-4o的亮相，語音交互從簡單的語音識別邁向了理解與意圖識別的層次。大模型有望像人一樣自然地進(jìn)行語音交互，催生私有化的個(gè)人助理，廣泛應(yīng)用于汽車、手機(jī)、手表等設(shè)備。

在端側(cè)大模型的具體需求方面，龐建新表示，機(jī)器人需要端側(cè)模型來處理移動(dòng)、操作及人機(jī)交互等核心功能。而陳曉春則指出，手機(jī)端側(cè)模型的應(yīng)用需考慮延時(shí)敏感、高隱私場景及成本與功耗的平衡。目前，1B至7B參數(shù)的模型在端側(cè)表現(xiàn)良好，但更大參數(shù)的模型則需借助云平臺。

劉軼進(jìn)一步指出，盡管7B參數(shù)模型在端側(cè)已達(dá)到極限，但行業(yè)正在研究1B及以下的模型，特別是針對特定領(lǐng)域或行業(yè)。然而，小參數(shù)模型與云端大模型之間仍存在巨大差距，因此大模型落地端側(cè)需與傳統(tǒng)知識處理方法結(jié)合。

在端云協(xié)同方面，龐建新與陳曉春均強(qiáng)調(diào)了阿里云在AI應(yīng)用端云協(xié)同中的重要角色。他們表示，通過與阿里云的深入合作，共同解決了開源大模型的場景調(diào)整、端側(cè)部署及云端協(xié)同等問題，推動(dòng)了智能終端的智能化進(jìn)程。

劉軼還提出了兩點(diǎn)建議：一是參考OpenAI的成功模式，通過分享與眾籌機(jī)制，共同構(gòu)建面向各自領(lǐng)域的垂直行業(yè)大模型；二是針對低功耗可穿戴設(shè)備，建立云端與本地之間的良好鏈路，為阿里云與硬件廠商帶來巨大機(jī)遇。