平均部署45種工具，大模型時代的企業(yè)為何仍擋不住攻擊？
文｜趙艷秋
2025年5月24日，在南京揚(yáng)子江國際會議中心，國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域重量級峰會C3安全大會上，人頭攢動，超過2000位與會者齊聚一堂，共同探討AI時代下的安全變革。與會者普遍感受到，企業(yè)所面臨的信息安全挑戰(zhàn)，比以往任何時候都更為復(fù)雜、體系化和緊迫。
“我們今年部署了DeepSeek，是不是配上防火墻就足夠安全了？”在展區(qū)內(nèi)，一位企業(yè)IT負(fù)責(zé)人問道。另一位企業(yè)信息主管則坦承：隨著數(shù)字化轉(zhuǎn)型深入，企業(yè)風(fēng)險暴露面顯著擴(kuò)大，攻擊已不再局限于數(shù)據(jù)中心，而是在云、邊、端立體化滲透。僅過去半年內(nèi)，該企業(yè)端側(cè)就遭遇了多起“銀狐”釣魚攻擊，每一次都伴隨著潛在的資金損失風(fēng)險。
實(shí)際上，會場上的每一次討論，都映照出AI時代企業(yè)的真實(shí)困境。2025年，業(yè)界正站在一個歷史性轉(zhuǎn)折點(diǎn)上。人工智能正以前所未有的速度重構(gòu)商業(yè)與基礎(chǔ)設(shè)施，同時也催生出前所未有的安全威脅。人工智能尤其是大模型，正在成為攻擊者重點(diǎn)瞄準(zhǔn)的新入口；同時，又被攻擊者用作武器，加速制造下一代安全攻擊。
我們正在進(jìn)入“雙向裂變”時代。去年，亞信安全發(fā)布了自研大模型，提出了“AI for Security”，“Security for AI”的理念，今年面對數(shù)智變革需求的不斷提升，以及威脅攻擊的持續(xù)進(jìn)化，再次印證，以AI為代表的新興技術(shù)不僅是動力源，也是風(fēng)險源；安全不僅是護(hù)欄，更是數(shù)智發(fā)展的推動器。
數(shù)智與安全融合并進(jìn)，正驅(qū)動整個網(wǎng)絡(luò)安全行業(yè)，邁入新一輪戰(zhàn)略再定義的時刻。01
AI進(jìn)入深水區(qū)，安全正“雙向裂變”
“不久前，我們遇到了針對大模型服務(wù)的大規(guī)模攻擊?！币晃活^部大模型服務(wù)商在會議中說。其實(shí)，數(shù)智前線獲悉，幾乎所有大模型企業(yè)在過去一段時間，都遭遇了各種攻擊。
在C3主會的“高峰對話”環(huán)節(jié)，談及數(shù)智變革下不斷升級的安全問題，相關(guān)專家表示：“針對大模型的攻擊，形態(tài)更加隱蔽，通過精心設(shè)計(jì)的提示詞或問句，讓模型不斷輸出內(nèi)容，消耗推理算力，最終影響企業(yè)的核心業(yè)務(wù)。”而另一類針對大模型的攻擊，與用戶隱私和數(shù)據(jù)密切相關(guān)。比如，新能源車的“大模型座艙”服務(wù)，可能會在攻擊下泄露用戶隱私。亞信科技副總裁傅葳在對話中坦言，大模型安全正成為企業(yè)關(guān)注的核心議題，這也是一項(xiàng)非常復(fù)雜的技術(shù)挑戰(zhàn)。亞信科技已交付了上百個大模型項(xiàng)目。目前很多客戶仍處于PoC階段，當(dāng)大規(guī)模落地時，安全問題會更加尖銳。
實(shí)際上，根據(jù)AI安全企業(yè)Hydrox AI創(chuàng)始人CEO李濯的介紹，全球約76%左右的大型企業(yè)已部署了大模型。同時，2024年，AI安全層面造成的損失從85億美金飆升至143億美元，預(yù)計(jì)今年將突破235億美元。
更為嚴(yán)峻的是，AI本身也正在被“武器化”。
攻擊者正在利用AI大幅提升效率，使攻擊更加精準(zhǔn)、快速、規(guī)模化?！胺朗卣呷粝霕?gòu)建智能化防線，不僅技術(shù)難度大、周期長、成本也高?，F(xiàn)實(shí)中，攻防之間有一個更大的時間差?！敝袊畔⑼ㄐ叛芯吭焊痹洪L魏亮說，在智能化的時代，網(wǎng)絡(luò)安全攻防的不對等性更為突出。
攻擊者可以借助模型，生成針對0day和Nday漏洞攻擊腳本，編寫釣魚郵件。AI攻擊的變異率也已飆升至“每24小時變化93%”，使傳統(tǒng)防御方法難以適應(yīng)，響應(yīng)滯后成了普遍現(xiàn)象。
“問題在于，我們沒真正用AI去對抗AI?！眮喰虐踩呒壐笨偛?、CDO吳湘寧分析，如今攻擊者平均只需48分鐘就可攻破目標(biāo)設(shè)備。
令人警醒的是，盡管中國企業(yè)在過去10年的建設(shè)中，平均部署了多達(dá)45套安全產(chǎn)品，但效果提升已沒有想象中快。設(shè)備之間缺乏協(xié)同，反而形成“防御孤島”。這迫使企業(yè)不得不重構(gòu)防御思路。吳湘寧總結(jié)，單點(diǎn)防御的時代已經(jīng)終結(jié)，AI原生驅(qū)動的聯(lián)動防御體系，是應(yīng)對現(xiàn)代攻擊的最優(yōu)解。
大會上播放的一段視頻，也提供了一個生動的類比。近期，巴基斯坦軍方在空戰(zhàn)中擊落多架印度戰(zhàn)機(jī)，而巴方零損傷。這其中的關(guān)鍵在于數(shù)據(jù)聯(lián)通和聯(lián)動協(xié)同體系。反觀印度軍方，因多國裝備之間缺乏信息共享與協(xié)同，雖有先進(jìn)武器卻毫無優(yōu)勢。網(wǎng)絡(luò)安全的演化也極為相似。攻擊已不再局限于某一單點(diǎn)，安全設(shè)備堆砌已經(jīng)無法抵御這種“系統(tǒng)性攻擊”。
在應(yīng)對之道上，AI正成為關(guān)鍵技術(shù)路徑。AI可用于威脅流量分析、告警降噪、攻擊溯源、未知漏洞識別等核心任務(wù)。有實(shí)踐表明，AI分析可將日志告警噪聲，降低90%以上，將安全響應(yīng)從“小時級”壓縮到“分鐘級”。更為重要的是，AI正全面融入安全系統(tǒng)，構(gòu)建體系化防御。這讓行業(yè)從“規(guī)則驅(qū)動”走向“智能驅(qū)動”，從單點(diǎn)防御走向智能聯(lián)動。
02
數(shù)智時代攻防，驅(qū)動安全體系化升級
在本屆C3安全大會上，亞信安全正式推出了新一代戰(zhàn)略產(chǎn)品——亞信聯(lián)動防御系統(tǒng)（AI XDR），力圖解決當(dāng)下產(chǎn)業(yè)的問題：面對快速演進(jìn)、無處不在的威脅，安全防御如何從堆砌式轉(zhuǎn)向聯(lián)動化、智能化、體系化？
“我們不能把AI XDR簡單看作XDR的一個升級?！眳窍鎸幷f。XDR（擴(kuò)展檢測與響應(yīng)）最早由亞信安全于2018年提出，其目標(biāo)是整合云、網(wǎng)、端不同安全層面的數(shù)據(jù)，實(shí)現(xiàn)萬物皆可檢測與防護(hù)。但在實(shí)踐中，由于當(dāng)時的技術(shù)及認(rèn)知局限，XDR發(fā)展逐漸偏向“平臺化工具”，成為一個統(tǒng)一的數(shù)據(jù)采集、分析、管理平臺，而缺少真正的實(shí)戰(zhàn)指揮能力。AI XDR要像一個指揮官。它的設(shè)計(jì)必須以客戶實(shí)戰(zhàn)威脅為中心，圍繞“發(fā)現(xiàn)-分析-處置”進(jìn)行智能閉環(huán)，真正幫助客戶降低威脅、對抗攻擊。而這種轉(zhuǎn)變是一個范式性的變化。
為實(shí)現(xiàn)這一轉(zhuǎn)型，亞信聯(lián)動防御系統(tǒng)AI XDR架構(gòu)設(shè)計(jì)上有本質(zhì)革新，不再是“平臺+產(chǎn)品外掛”的拼盤式組合，而是一個原生集成的產(chǎn)品。每個子產(chǎn)品被拆解為“原子能力”，由平臺統(tǒng)一調(diào)度，組合成場景化方案。
為了將這一理念向前推進(jìn)，公司在組織上也進(jìn)行了變革：產(chǎn)品線聚焦“能力生產(chǎn)”，平臺則負(fù)責(zé)整合與一體化交付。從交付形式看，AI XDR目前主要以本地部署為主，通過一體化平臺加原子探針交付給客戶，根據(jù)不同場景進(jìn)行定制化。“未來，交付形式一定會走向SaaS化?！眳窍鎸帍?qiáng)調(diào)。他舉例現(xiàn)在出?？蛻粜枰缙脚_、跨地域的統(tǒng)一管理，只有SaaS商業(yè)模式才走得通。而這次會議上，亞信安全與聯(lián)通宣布合作的項(xiàng)目“聯(lián)信”，AI XDR將以SaaS方式在客戶側(cè)落地。
展臺上，不少企業(yè)IT人士詢問，AI XDR要如何落地？亞信安全認(rèn)為首要任務(wù)是“盤清家底”。很多企業(yè)并不了解自己全部的數(shù)字資產(chǎn)，也缺乏對高風(fēng)險點(diǎn)的識別能力。通過傳統(tǒng)和AI安全技術(shù)，對資產(chǎn)進(jìn)行“全面掃描”，企業(yè)才能實(shí)現(xiàn)更精準(zhǔn)的風(fēng)險應(yīng)對?！跋刃邢仍?，分步推進(jìn)?！眮喰虐踩獳I XDR負(fù)責(zé)人補(bǔ)充說，他建議企業(yè)可以先在一個局部數(shù)據(jù)中心做試點(diǎn)。
AI XDR的“智能聯(lián)動”依賴三大要素：威脅檢測是基礎(chǔ)，聯(lián)動處置是核心，威脅溯源是進(jìn)階。目前在試點(diǎn)局點(diǎn)中，AI XDR在威脅告警降噪方面已實(shí)現(xiàn)3.4倍效率提升，威脅檢出能力提升7.5倍，處置效率提升4.8倍。
產(chǎn)品背后是技術(shù)的積累。亞信安全AI XDR具備三個特點(diǎn)：強(qiáng)大的XDR基礎(chǔ)，特別是NDR（網(wǎng)絡(luò)檢測與響應(yīng)）和EDR（端點(diǎn)檢測與響應(yīng)）能力；數(shù)據(jù)驅(qū)動與AI賦能，以及AI XDR可以反向附能NDR和EDR，形成產(chǎn)品-數(shù)據(jù)-產(chǎn)品的正循環(huán)。但凡檢測引擎或原子能力不夠強(qiáng)，是沒有資格談AI XDR的。AI XDR的推出，與亞信安全在NDR和EDR的技術(shù)市場的積累緊密相關(guān)。
在研發(fā)過程中，AI也必須與安全場景深度融合?！拔覀兿胍獋鬟_(dá)的一個理念是，AI不只是淺層的云端安全運(yùn)營助手，而是要嵌入到安全系統(tǒng)的核心引擎、規(guī)則、產(chǎn)品之中?！眮喰虐踩斯ぶ悄苁紫茖W(xué)家楊婷說，亞信安全推出了安全大模型“信立方”和“信智方”，像“信智方”對客戶可能不可見，卻通過對核心系統(tǒng)的賦能，實(shí)質(zhì)提升安全防護(hù)，讓客戶清晰感知。
數(shù)智前線獲悉，央國企、新興產(chǎn)業(yè)、高端制造等行業(yè)，是AI XDR最早落地的領(lǐng)域。
AI XDR的理念，也在客戶側(cè)產(chǎn)生了共鳴。在大會現(xiàn)場，多位IT負(fù)責(zé)人表達(dá)了對AI XDR的關(guān)注，企業(yè)普遍面臨設(shè)備多、體系碎片、安全協(xié)同難等挑戰(zhàn)。
TCL科技集團(tuán)數(shù)字化轉(zhuǎn)型部部長兼IT共享服務(wù)中心總經(jīng)理李福濤說，家電行業(yè)用戶數(shù)以億計(jì)，需要建立起一整套信息安全防御體系。“現(xiàn)在每家公司平均有45臺安全設(shè)備堆砌起來。進(jìn)入下一個階段，我們需要一個全方位的安全體系，云、網(wǎng)、端全面打通。”深圳國家基因庫信息庫負(fù)責(zé)人李良說。
03
守護(hù)企業(yè)“大模型資產(chǎn)”
“數(shù)字化建設(shè)包括今天大模型剛剛開始落地應(yīng)用，企業(yè)已經(jīng)考慮安全問題，我覺得這是觀念上一個重要進(jìn)步?！眳窍鎸幷f。
在與客戶做大模型落地過程中，業(yè)界發(fā)現(xiàn)大模型相關(guān)的安全問題橫跨多個維度，從GPU卡、協(xié)議、網(wǎng)絡(luò)，到大模型本體、智能體、業(yè)務(wù)場景及數(shù)據(jù)，幾乎無所不包。
企業(yè)應(yīng)用大模型，該如何才能保障安全？在展臺上，亞信安全也展示了“4+2”大模型安全解決方案。它構(gòu)建了從底層到頂層的四大安全防護(hù)體系：
其中，最底部的基礎(chǔ)架構(gòu)層保障大模型的運(yùn)行環(huán)境安全；其上的模型層側(cè)重對模型本體進(jìn)行安全評估與合規(guī)控制；工具層則在用戶與模型之間部署“防護(hù)哨兵”，識別惡意提示和敏感輸出；最上的應(yīng)用層則關(guān)注AI應(yīng)用系統(tǒng)的外部風(fēng)險識別與防護(hù)。此外，“2”是結(jié)合亞信安全的業(yè)務(wù)積累，以及亞信科技大模型項(xiàng)目實(shí)戰(zhàn)經(jīng)驗(yàn)，實(shí)現(xiàn)對大模型生命周期全鏈條的閉環(huán)優(yōu)化。
從架構(gòu)層面上看，大模型安全和傳統(tǒng)網(wǎng)絡(luò)安全存在相似性，二者都涵蓋了硬件層、驅(qū)動層、操作系統(tǒng)層、應(yīng)用層及業(yè)務(wù)層，但大模型安全具有傳統(tǒng)網(wǎng)絡(luò)安全所不具備的獨(dú)特性。
“比如大模型的幻覺問題，大模型引起的數(shù)據(jù)泄露問題，以及提示注入、深度偽造、目標(biāo)劫持、角色扮演等針對大模型的攻擊。”亞信安全楊婷說，“而通過深入理解大模型的技術(shù)原理，我們能夠針對性地設(shè)計(jì)防御機(jī)制，而這些正是構(gòu)建大模型安全整體解決方案時需重點(diǎn)考量的要素。”
“防御的關(guān)鍵一定是把最短板提高，因?yàn)楣粢欢ㄊ轻槍ξ覀兎烙w系的弱點(diǎn)展開。”她補(bǔ)充說。
在大會演講中，Hydrox AI李濯提出，大模型安全應(yīng)貫穿整個開發(fā)周期。如訓(xùn)練階段的數(shù)據(jù)篩選、數(shù)據(jù)投毒檢測、對抗訓(xùn)練、反饋機(jī)制與動態(tài)干預(yù)，這些早期的干預(yù)，代價較低，效果更好。而上線運(yùn)行后，針對大模型攻擊變異率高的問題，要有相應(yīng)的動態(tài)防御機(jī)制。
從應(yīng)用落地看，不同行業(yè)對大模型安全的側(cè)重有所相同。在互聯(lián)網(wǎng)領(lǐng)域，AI智能體發(fā)展快、上線節(jié)奏快，融合傳統(tǒng)安全與AI安全后，企業(yè)期望安全事件降低的同時，也能大幅縮短AI應(yīng)用審批與交付周期。在制造業(yè)，企業(yè)更關(guān)注如何在不影響生產(chǎn)連續(xù)性的前提下，提升生產(chǎn)效率，并減少安全事件。而在金融領(lǐng)域，風(fēng)控系統(tǒng)是用戶最為關(guān)注的。
安全本身類似于“貓鼠游戲”。據(jù)相關(guān)數(shù)據(jù)對未來十年大模型安全演進(jìn)的預(yù)判：2025至2027年這三年，業(yè)界的認(rèn)知安全范式逐漸成熟，安全與模型架構(gòu)將深度融合，防護(hù)能力與模型功能不再對立；2028至2030年這三年，將進(jìn)入“自監(jiān)督安全系統(tǒng)”階段，AI系統(tǒng)可能會逐漸出現(xiàn)自我保護(hù)意識；2030年以后，智能與安全的邊界將徹底模糊，安全成為模型智能的一部分。
在AI深度重塑產(chǎn)業(yè)的進(jìn)程中，安全不是配角，而是決定AI發(fā)展質(zhì)量與速度的根基。無論是“AI for Security”還是“Security for AI”，這場范式變革才剛剛開始。
