文 | 饒少陽

新一輪科技革命與產業(yè)變革的浪潮洶涌澎湃，信息化、數(shù)字化的巨輪正以前所未有的速度重新繪制世界藍圖，而網絡安全作為這一進程中的隱形盾牌，已悄然成為大國博弈的關鍵戰(zhàn)場。在這場沒有硝煙的較量中，人工智能（AI）正以不可阻擋之勢重塑網絡安全的格局，它既是挑戰(zhàn)者，也是守護者。

一方面，以Sora、GPT-4o為代表的生成式人工智能（AI Generated Content，AIGC）引發(fā)公眾對個人隱私、AI惡意使用等問題的廣泛關注。一些不法分子利用開源的大語言模型（Large Language Model，LLM），結合有害語料庫，訓練出專門用于漏洞發(fā)現(xiàn)、社交操縱、欺詐勒索等非法活動的惡意應用，對國家社會經濟和人民生活等造成嚴重危害。

另一方面，AI也為網絡安全行業(yè)插上了智慧的翅膀，開啟了全新的防御篇章。在2024年網絡安全頂級盛會——RSA大會（RSA Conference，RSAC）上，谷歌、思科、CrowdStrike等業(yè)界領軍企業(yè)紛紛推出由AI驅動的網絡安全產品和服務。與會行業(yè)專家普遍認為，AI是推動網絡安全產業(yè)革命性發(fā)展的核心技術，AI將重塑網絡安全產業(yè)。

展望未來，AI與網絡安全的結合將引領產業(yè)步入新的發(fā)展階段，實現(xiàn)從被動防御到主動出擊的跨越。在這一進程中，我國企業(yè)應重視這一趨勢，積極推動AI技術與網絡安全技術的深度融合，為構建更加堅固、智能的網絡安全防線貢獻力量。

“用AI保護AI”

過去30年來，攻擊和防御技術在相互對抗過程中不斷變化和升級。我國網絡安全產業(yè)發(fā)展從最初的防病毒、防火墻等單一傳統(tǒng)產品發(fā)展成目前較為成熟的網絡安全產品體系，已經能夠滿足多場景、多維度的安全防護需求。

然而，隨著AI技術的廣泛應用，不法分子升級了攻擊手段，針對和利用AI技術的網絡攻擊顯著增加，包括“深度偽造”詐騙、釣魚郵件、漏洞攻擊以及數(shù)據(jù)泄露等問題日益突出，網絡安全防護變得更加復雜和緊迫。根據(jù)MIT Technology Review對300名網絡安全專業(yè)人員的調查，2021年，60%的受訪者表示難以有效抵御自動化網絡攻擊，96%的受訪者曾經歷過由AI驅動的網絡攻擊。

“用AI保護AI”已經成為應對當前網絡安全威脅的必選項。越來越多的國家和機構正在加速布局網絡安全與AI技術的融合，以促進攻防技術升級。從現(xiàn)有的行業(yè)實踐來看，以安全大模型為代表的“AI+安全”范式在惡意代碼檢測、安全策略管理、安全運營、數(shù)據(jù)分類分級、數(shù)據(jù)脫敏等領域涌現(xiàn)出超越人類的潛質。

安全產業(yè)格局迎來三大新變化

放眼全球，網絡安全人工智能市場處于高速增長階段。專業(yè)研究機構數(shù)據(jù)分析，2023年的市場規(guī)模超過200億美元，預計到2030年年復合增長率將保持在20%以上。

筆者認為，隨著“AI+安全”范式的廣泛實踐應用，網絡安全產業(yè)將迎來三大變化：

一是智能化。網絡安全產品及服務的智能化能夠極大解放人力負擔，過去需要大量人工操作的流程，如今可通過安全大模型來解決。微軟、Palo Alto Networks、深信服、奇安信等數(shù)十家網絡安全企業(yè)已將安全大模型應用于自身產品及服務中，取得明顯效果。以安全運營服務為例，傳統(tǒng)安全運營中心的人工處置流程占比高達93%，在安全大模型的賦能下，安全運營中心的數(shù)據(jù)處理量提升了6倍，誤報率減少70%，響應速度從2～3天縮短到16分鐘～5小時。

二是平臺化。網絡安全產品及服務的平臺化升級類似于智能家居系統(tǒng)，用戶通過一個平臺控制所有家電設備，實現(xiàn)統(tǒng)一管理、統(tǒng)一監(jiān)控。早在2021年，網絡安全行業(yè)就已從分散化解決方案向集約化平臺轉型，并朝著“以安全大腦為核心，各類檢測與響應工具為觸手”的防御體系趨勢演進。進入2023年，平臺化的趨勢進一步加速。頭部網絡安全企業(yè)開始將安全大模型應用于安全平臺，推動平臺能力從管理不同安全子系統(tǒng)擴展到管理IT、云和網絡架構。

三是服務化。網絡安全企業(yè)正從傳統(tǒng)的“產品銷售”向“服務提供”模式轉變。這一轉變恰如電影消費模式的演進，從曾經需要購買DVD光盤到如今只需一鍵訂閱，即可暢享海量、高清的最新影片。在這一轉型過程中，安全大模型逐漸成為網絡安全企業(yè)構建競爭優(yōu)勢的核心要素。自2023年起，頭部網絡安全企業(yè)如思科、IBM、Palo Alto Networks等通過資本并購的方式，積極整合威脅情報、態(tài)勢感知、攻擊面管理等關鍵能力和數(shù)據(jù)，不僅極大地豐富了安全大模型訓練數(shù)據(jù)來源，也顯著提升了其分析預測、智能響應的能力，從而可為用戶提供更精準、高效的安全服務體驗。

“AI+安全”高質量發(fā)展的挑戰(zhàn)與機會

“AI”是一個不斷突破和創(chuàng)新的激進型領域，“安全”是一個強調穩(wěn)妥和保障的保守型領域。因此，要實現(xiàn)“AI+安全”范式的高質量發(fā)展，仍需克服多方面的挑戰(zhàn)。

一是AI技術方面，安全大模型通用底座能力有待提升。目前國內外網絡安全企業(yè)大多通過在通用大模型的基礎上進行垂直訓練，以開發(fā)出針對特定領域需求的安全大模型，盡管我國的通用大模型技術發(fā)展迅速，但與OpenAI的GPT-4.0相比仍存在差距，將在一定程度上制約國產安全大模型的性能，底座能力亟待提升。

二是安全技術方面，安全產品接口標準化程度有待提升。目前，我國不同廠商的網絡安全產品互聯(lián)互通尚處于起步階段。安全企業(yè)提供的產品類型繁多，不同企業(yè)甚至同一企業(yè)產品之間的集成和交互存在困難，且實現(xiàn)方式各異。用戶在推動網絡安全產品互聯(lián)互通改造過程中，需承擔高昂的成本，且實際成效并不理想，這在一定程度上制約了我國網絡安全產業(yè)向平臺化轉型的進程，同時制約安全大模型的賦能效果。

鑒于此，筆者認為可從以下幾方面著力把握機遇，推動“AI+安全”的高質量發(fā)展。

一是完善“AI+安全”的頂層設計。人才資源方面，整合產、學、研領域專家資源，組建“AI+安全”復合型專家團隊；行業(yè)標準方面，針對安全大模型的數(shù)據(jù)集標注、系統(tǒng)安全測評、倫理和法律合規(guī)性等方面，制定一系列行業(yè)標準，指導并規(guī)范我國企業(yè)的安全大模型建設。

具體到實踐層面：在數(shù)據(jù)標注階段，針對數(shù)據(jù)格式、標簽定義、注釋方法等方面形成統(tǒng)一指導標準，去解決無效返工與一致性的問題，從而提高數(shù)據(jù)集的質量；在成效評估階段，形成業(yè)界公認、權威的評價方式來評估安全大模型的性能和可靠性，去解決模型在實際應用中產生誤導性結果的問題，從而提高網絡安全性。

二是促進“AI+安全”的跨行業(yè)協(xié)同創(chuàng)新。國內安全廠商正積極探索大模型技術在安全領域的應用，并已取得初步成果。積極有效的跨行業(yè)協(xié)同機制和引導，是促進創(chuàng)新的保障。比如，提高“AI+安全”領域的國家級重點項目數(shù)量、設立創(chuàng)新保障資金；充分發(fā)揮央企的主力軍作用，調動中小企業(yè)的創(chuàng)新動力；引導企業(yè)在行業(yè)定制化訓練、數(shù)據(jù)資源共享、商業(yè)模式創(chuàng)新等方面建立深度合作機制，共同推動“AI+安全”范式的高質量發(fā)展。

三是推動網絡安全產品互聯(lián)互通。推動我國網絡安全企業(yè)貫徹落實網絡安全產品互聯(lián)互通相關標準要求，嚴格遵循接口規(guī)范、數(shù)據(jù)格式、通信協(xié)議和操作流程等方面要求,增強產品的兼容性和互操作性，共同構建協(xié)同高效的網絡安全防護體系，推進產業(yè)向平臺化和智能化轉型。

四是共同培育“AI+安全”服務生態(tài)。建議我國網絡安全企業(yè)拓展市場應用范圍和深度，加強服務支撐體系建設，明確服務水平基線指標，通過市場宣傳提升用戶對安全服務的認知和滿意度。建議科研機構加強在聯(lián)邦學習、隱私計算和區(qū)塊鏈技術方面的研究開發(fā)力度，以支持網絡安全企業(yè)在確保用戶數(shù)據(jù)隱私安全的同時，實現(xiàn)對用戶信息的精確分析，進而提高在全網范圍內的威脅感知能力。

五是樹立全球化視野，加快國際化步伐。目前，中國網絡安全企業(yè)已具備滿足國內市場需求的堅實基礎，但在海外市場的拓展仍處于起步階段。近年來，中國一些網絡安全領軍企業(yè)，如奇安信、綠盟科技、深信服等，均加快國際化步伐，積極拓展海外市場，海外業(yè)務收入取得顯著增長。但從整體來看，當下中國網絡安全企業(yè)海外總收入遠不及國內的市場規(guī)模。若僅局限于本土市場，發(fā)展?jié)摿⑹芟?。因此，建議中國網絡安全企業(yè)將視野范圍擴大至海外，加快國際化步伐。

綜上所述，“AI+安全”新范式將為網絡安全產業(yè)帶來深刻變革，我國網絡安全企業(yè)應抓住機遇，推動產品服務體系向智能化、平臺化、服務化轉型，提升全球影響力，成為全球網絡安全市場的領導者。

（本文作者系中國電信研究院戰(zhàn)略發(fā)展研究所所長）

（本文刊發(fā)于《中國經濟周刊》2024年第14期）