隨著大型人工智能模型的興起，安全防護(hù)策略正經(jīng)歷前所未有的變革。如今，智能體在處理安全領(lǐng)域的復(fù)雜挑戰(zhàn)時(shí)，展現(xiàn)出了日益增強(qiáng)的能力。

據(jù)Fortinet中國(guó)區(qū)技術(shù)總監(jiān)張略介紹，借助安全智能體，企業(yè)安全運(yùn)維人員僅需片刻時(shí)間，便能識(shí)別并解決原本需要耗費(fèi)數(shù)小時(shí)甚至更久的網(wǎng)絡(luò)安全問(wèn)題。然而，他也強(qiáng)調(diào)，最終決策仍需企業(yè)安全運(yùn)營(yíng)人員來(lái)做出。

從整個(gè)行業(yè)視角來(lái)看，人工智能對(duì)安全領(lǐng)域的重塑已頗為顯著。但問(wèn)題是，從“輔助駕駛”邁向“全自動(dòng)駕駛”，安全智能體還需跨越多少距離？

根據(jù)SUSE的統(tǒng)計(jì)數(shù)據(jù)，隱私和數(shù)據(jù)安全（57%）以及人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊（55%）已成為生成式AI云安全的首要威脅，僅有7%的IT決策者認(rèn)為不存在相關(guān)風(fēng)險(xiǎn)。Gartner則預(yù)測(cè)，到2025年，生成式AI的廣泛應(yīng)用將導(dǎo)致企業(yè)所需的網(wǎng)絡(luò)安全資源大幅增加，應(yīng)用和數(shù)據(jù)安全支出將上漲15%以上。

AI大模型在帶來(lái)便利的同時(shí)，也為不法分子提供了新的高效攻擊手段。當(dāng)前，安全行業(yè)內(nèi)一個(gè)普遍認(rèn)可的觀點(diǎn)是——用AI來(lái)對(duì)抗AI。自大型模型問(wèn)世以來(lái)，安全行業(yè)迅速成為首批主動(dòng)接納這一技術(shù)的領(lǐng)域。在此背景下，安全行業(yè)正從產(chǎn)品銷(xiāo)售轉(zhuǎn)向服務(wù)銷(xiāo)售。

面對(duì)日益復(fù)雜的安全挑戰(zhàn)，企業(yè)級(jí)安全理念和產(chǎn)品的迭代速度顯著提升，企業(yè)對(duì)網(wǎng)絡(luò)安全防護(hù)措施的需求也在不斷變化。最明顯的趨勢(shì)是從簡(jiǎn)單的安全產(chǎn)品堆疊，轉(zhuǎn)向?qū)で蠼y(tǒng)一平臺(tái)化的解決方案。

Fortinet中國(guó)區(qū)總經(jīng)理李宏凱認(rèn)為，安全智能體已經(jīng)出現(xiàn)，并開(kāi)始助力企業(yè)級(jí)用戶應(yīng)對(duì)日益復(fù)雜的安全事件。張略則指出，安全行業(yè)應(yīng)用AI技術(shù)已經(jīng)歷了三個(gè)階段。第一階段大約始于2010年，當(dāng)時(shí)機(jī)器學(xué)習(xí)與深度學(xué)習(xí)剛開(kāi)始在安全領(lǐng)域得到應(yīng)用，大多數(shù)安全產(chǎn)品各自為戰(zhàn)，企業(yè)主要依賴(lài)基礎(chǔ)安全產(chǎn)品與服務(wù)。第二階段，隨著生成式AI的出現(xiàn)，AI深度融入攻防全鏈條，實(shí)現(xiàn)自動(dòng)化威脅檢測(cè)、響應(yīng)與預(yù)測(cè)，形成智能防御體系，但在此之前，AI主要起單點(diǎn)輔助作用。第三階段，即當(dāng)前及未來(lái)很長(zhǎng)一段時(shí)間內(nèi)安全行業(yè)的重點(diǎn)——安全智能體。在這一階段，AI技術(shù)已從輔助工具升級(jí)為安全體系的“中樞大腦”，通過(guò)安全智能體，企業(yè)可以將原本分散的安全產(chǎn)品與能力整合，形成聯(lián)動(dòng)防御，并通過(guò)AI動(dòng)態(tài)學(xué)習(xí)攻擊模式，實(shí)現(xiàn)主動(dòng)防御。

傳統(tǒng)上，企業(yè)傾向于采購(gòu)業(yè)內(nèi)最佳的單點(diǎn)產(chǎn)品以應(yīng)對(duì)具體安全問(wèn)題，并希望通過(guò)不同供應(yīng)商優(yōu)秀產(chǎn)品的疊加組合來(lái)覆蓋安全需求的各個(gè)層面。然而，隨著安全局勢(shì)的變化，以及AI帶來(lái)的更頻繁、高效的攻擊，企業(yè)逐漸意識(shí)到，堆疊式安全單品難以應(yīng)對(duì)日益復(fù)雜的網(wǎng)絡(luò)威脅。用戶開(kāi)始希望整合多種安全功能于統(tǒng)一平臺(tái)，以增強(qiáng)威脅檢測(cè)與響應(yīng)能力，降低管理復(fù)雜度，提升安全運(yùn)營(yíng)效率。

張略表示，未來(lái)一方面，構(gòu)建一體化的安全體系將成為關(guān)鍵和主流趨勢(shì)；另一方面，在一體化趨勢(shì)下，如何將安全服務(wù)商與IT服務(wù)商融合，讓AI智能體真正實(shí)現(xiàn)萬(wàn)物互聯(lián)，并實(shí)現(xiàn)以安全為目標(biāo)的自動(dòng)化和自主運(yùn)營(yíng)，將成為安全行業(yè)的重中之重。

這一觀點(diǎn)并非Fortinet獨(dú)有，一體化的安全防護(hù)體系已成為幾乎所有安全服務(wù)商的共同目標(biāo)。這一體系及相應(yīng)的安全能力，最終呈現(xiàn)出的產(chǎn)品形態(tài)即為安全運(yùn)營(yíng)。安全運(yùn)營(yíng)是指通過(guò)安全產(chǎn)品或服務(wù)提升企業(yè)信息安全能力的一系列管理過(guò)程，包括需求、設(shè)計(jì)、運(yùn)行、監(jiān)控、改進(jìn)等，從系統(tǒng)化角度對(duì)企業(yè)整體安全進(jìn)行運(yùn)營(yíng)管理。

雖然安全運(yùn)營(yíng)的概念已存在多年，但隨著安全智能體的逐漸成熟，如今的安全運(yùn)營(yíng)已今非昔比。通過(guò)安全智能體，不僅能快速篩查和解決安全問(wèn)題，還能幫助企業(yè)將人力資源重點(diǎn)放在推動(dòng)業(yè)務(wù)發(fā)展上。

以服務(wù)器告警為例，安全智能體通過(guò)分析服務(wù)器日志發(fā)現(xiàn)內(nèi)網(wǎng)IP地址報(bào)警，進(jìn)而自動(dòng)化查詢主機(jī)進(jìn)程并發(fā)現(xiàn)可疑IP地址，通過(guò)威脅情報(bào)庫(kù)查詢并確認(rèn)服務(wù)器被感染。隨后，安全智能體調(diào)查攻擊詳情，找出漏洞，為安全運(yùn)營(yíng)人員提供處理建議。最后，由安全運(yùn)營(yíng)人員選擇操作后，安全智能體解決告警，并通過(guò)這次攻擊進(jìn)行溯源，將其納入知識(shí)庫(kù)，以防下次類(lèi)似事件的發(fā)生。

為了確保生成式AI技術(shù)的普及不增加工作人員的操作難度，F(xiàn)ortinet推出的FortiAI允許安全運(yùn)營(yíng)人員通過(guò)簡(jiǎn)單對(duì)話形式，經(jīng)過(guò)簡(jiǎn)單培訓(xùn)即可上手操作，提供了便捷能力，同時(shí)未增加整體操作難度。

然而，安全智能體雖好，但仍處于發(fā)展階段，專(zhuān)業(yè)性和安全性是兩大嚴(yán)峻挑戰(zhàn)。一方面，模型本身的安全性，如何避免幻覺(jué)、確保合規(guī)、避免不良信息等問(wèn)題；另一方面，大模型也面臨數(shù)據(jù)安全、網(wǎng)絡(luò)安全的挑戰(zhàn)。對(duì)于安全行業(yè)大模型/智能體而言，在保護(hù)用戶網(wǎng)絡(luò)和數(shù)據(jù)的同時(shí)，其自身的安全及專(zhuān)業(yè)性問(wèn)題亟需解決。

張略指出，為了確保模型訓(xùn)練數(shù)據(jù)的安全，行業(yè)常見(jiàn)做法是從企業(yè)內(nèi)部挖掘高質(zhì)量數(shù)據(jù)，通過(guò)專(zhuān)家監(jiān)督學(xué)習(xí)強(qiáng)化AI能力。對(duì)于安全行業(yè)而言，安全服務(wù)商長(zhǎng)期積累的安防經(jīng)驗(yàn)和實(shí)時(shí)攻防數(shù)據(jù)成為核心競(jìng)爭(zhēng)力。同時(shí)，安全智能體需深入理解行業(yè)特有風(fēng)險(xiǎn)模式，但多數(shù)通用模型缺乏領(lǐng)域知識(shí)注入，這需要安全服務(wù)商利用自身經(jīng)驗(yàn)和數(shù)據(jù)來(lái)彌補(bǔ)。

從目前應(yīng)用來(lái)看，張略表示，安全智能體在自動(dòng)化安全防護(hù)過(guò)程中，最終輸出結(jié)果仍需企業(yè)安全運(yùn)營(yíng)人員確認(rèn)。生成式AI仍是統(tǒng)計(jì)學(xué)科學(xué)，不具備自我糾錯(cuò)能力，因此目前解決幻覺(jué)問(wèn)題最穩(wěn)妥的做法是在最終環(huán)節(jié)加上人工確認(rèn)。