人工智能引領(lǐng)網(wǎng)絡(luò)安全變革潮流

來源：經(jīng)濟參考報 時間：2024-05-30 15:56:47 作者：

　　近兩年，各行業(yè)大模型如雨后春筍般快速發(fā)展，人工智能技術(shù)、產(chǎn)業(yè)、應(yīng)用各環(huán)節(jié)迎來快速迭代和探索突破時期。在日前舉行的2024第十二屆西湖論劍·數(shù)字安全大會上，各界人士就如何應(yīng)用人工智能技術(shù)賦能數(shù)字網(wǎng)絡(luò)安全進行討論和交流。與會人士認為，網(wǎng)絡(luò)安全已進入人工智能階段，“AI+安全”是網(wǎng)安行業(yè)未來發(fā)展的方向，同時AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境需多方共同破解完善。

　　網(wǎng)安進入人工智能階段

　　隨著人工智能技術(shù)的快速發(fā)展，數(shù)據(jù)安全復(fù)雜性和傳統(tǒng)網(wǎng)絡(luò)安全治理局限性之間的矛盾日益凸顯，數(shù)字安全面臨前所未有的挑戰(zhàn)，通過AI賦能安全運營被視為發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵一環(huán)。

　　國家行政學(xué)院電子政務(wù)專家委員會原副主任、全國數(shù)字經(jīng)濟聯(lián)盟學(xué)術(shù)委員汪玉凱提出，數(shù)字經(jīng)濟在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義，數(shù)字經(jīng)濟有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個領(lǐng)域。

　　中國科學(xué)院院士吳世忠表示，近30年來，網(wǎng)絡(luò)安全大致可分為三個階段，前20年左右是IT驅(qū)動階段，是一個萬物互聯(lián)時代；后10年是DT，即數(shù)據(jù)驅(qū)動階段，以大數(shù)據(jù)、云計算為特征，追求數(shù)據(jù)流動；如今則已進入AI驅(qū)動時代，人工智能的巨浪極大地改變了安全問題的內(nèi)涵和外延。

　　國家信息技術(shù)安全研究中心金融安全處處長曹岳認為，未來的攻擊，也就是智能化的攻擊，將加強攻擊的頻度，AI的擴展會提升攻防的對抗維度，AI還將升級網(wǎng)絡(luò)攻防對抗的強度。

　　參加過多次重大項目網(wǎng)絡(luò)安全工作的安恒信息，將2008年以來重大活動網(wǎng)絡(luò)安全分為單兵戰(zhàn)、綜合戰(zhàn)、立體戰(zhàn)和AI戰(zhàn)四個發(fā)展階段。單兵戰(zhàn)大致在2008-2015年間，早期的網(wǎng)絡(luò)安全防護中，用單一的網(wǎng)絡(luò)安全產(chǎn)品與安全服務(wù)相配合，就能為重大活動的網(wǎng)絡(luò)和信息系統(tǒng)提供基本保護；綜合戰(zhàn)大致在2016-2020年間，此時的賽會網(wǎng)絡(luò)環(huán)境變得復(fù)雜，需要借助強大的網(wǎng)絡(luò)安全態(tài)勢感知等平臺類產(chǎn)品，結(jié)合多區(qū)域、線上線下的安全服務(wù)，才能保證大型賽會安全無虞；立體戰(zhàn)大致在2021-2023年間，隨著重大活動網(wǎng)絡(luò)環(huán)境風(fēng)險的增加，需根據(jù)不同的網(wǎng)絡(luò)安全威脅分別制定針對性策略，在防御、監(jiān)控、響應(yīng)、預(yù)測等方面部署相應(yīng)的安全產(chǎn)品服務(wù)，才能保證重大活動的順利舉行；而從2023年9月至今，重大活動網(wǎng)絡(luò)安全工作已經(jīng)進入了AI戰(zhàn)階段。

　　安恒信息董事長范淵對《經(jīng)濟參考報》記者表示，現(xiàn)階段的網(wǎng)絡(luò)安保工作中，AI已經(jīng)開始扮演多元化且至關(guān)重要的角色，它不僅會改變網(wǎng)絡(luò)安全戰(zhàn)的方式和態(tài)勢，還將對勝敗產(chǎn)生深遠影響。在這一階段，首先是網(wǎng)絡(luò)安保場景數(shù)字化程度高。人工智能、數(shù)字孿生、物聯(lián)網(wǎng)等數(shù)字技術(shù)應(yīng)用廣泛，傳統(tǒng)安全保障手段無法有效應(yīng)對；其次是攻擊的自動化和防御的自動化。AI可以被用來進行自動化網(wǎng)絡(luò)攻擊，使得攻擊更加隱蔽、快速和難以防御。安全垂域大模型基于機器學(xué)習(xí)和大數(shù)據(jù)分析等技術(shù)，能自動學(xué)習(xí)網(wǎng)絡(luò)攻擊行為模式，并快速響應(yīng)和應(yīng)對各種新型網(wǎng)絡(luò)威脅，因此以AI對AI、以AI管AI成為必選項。

　　相關(guān)探索應(yīng)用取得突破

　　在使用AI助力網(wǎng)絡(luò)防御方面，國內(nèi)外都已經(jīng)進行了很多探索，并已經(jīng)取得成果。

　　美國微軟公司推出的網(wǎng)絡(luò)安全助手給用戶提供生成式、自動化網(wǎng)絡(luò)安全人工智能服務(wù)。經(jīng)過去年一年的運行，可以將安全事件響應(yīng)、評估和防御時間從過去的數(shù)小時到數(shù)天壓縮到幾分鐘。

　　AI賦能極大地提升了國內(nèi)網(wǎng)絡(luò)安全防御能力與處置效率。安恒信息去年8月發(fā)布的“恒腦·安全垂域大模型”，實現(xiàn)了國內(nèi)AI安全垂域大模型在國際大型賽事的首次應(yīng)用。在杭州亞運會期間，基于這一模型和MSS安全運營平臺的輔助支撐，有效解決了安全運營過程中復(fù)雜重復(fù)的工作。

　　據(jù)了解，安恒信息已將AI技術(shù)應(yīng)用作為一級戰(zhàn)略。范淵介紹，過去8個月，安恒信息在人工智能應(yīng)用于數(shù)字安全方面進行了大量嘗試和實戰(zhàn)探索，公司的數(shù)字安全產(chǎn)品和服務(wù)正在發(fā)生翻天覆地的變化。以數(shù)據(jù)分類分級+AI為例，AI技術(shù)應(yīng)用使數(shù)據(jù)分類分級的效率提升了30倍?！斑@不僅僅是一次簡單的效率提升，更是一次深刻的行業(yè)變革，讓我們看到了AI在數(shù)字安全領(lǐng)域的巨大潛力和廣闊前景?！?/p>

　　今年4月，安恒信息剛剛發(fā)布了數(shù)據(jù)分類分級解決方案、AI防火墻、天穹人工智能安全運營平臺等八大AI產(chǎn)品。此次大會期間，安恒信息攜手華為發(fā)布昇騰-恒腦推理一體機，利用昇騰AI集群為恒腦提供底座，全流程加速大模型的創(chuàng)新與落地。

　　海亮集團積極探索“AI+安全”的建設(shè)思路。集團數(shù)字創(chuàng)新部部長孫雯介紹，用AI來代替人工使安全告警的分析更加智能，效率大幅提升。海亮集團發(fā)現(xiàn)，在AI與數(shù)據(jù)安全結(jié)合的過程中，AI表現(xiàn)超乎預(yù)期，試點場景的4000多個字段自動化梳理可達到90%以上，識別準(zhǔn)確率從50%提高到85.8%。

　　AI應(yīng)用于網(wǎng)絡(luò)安全的前景如何？

　　安永（中國）企業(yè)咨詢有限公司合伙人王堅表示，威脅監(jiān)測與相應(yīng)的工作、惡意軟件的檢測、用戶的行為分析、身份驗證訪問控制、網(wǎng)絡(luò)釣魚監(jiān)測、自動化情報威脅、欺詐檢測以及數(shù)據(jù)的泄密保護等方面，都是大模型應(yīng)用的潛力領(lǐng)域。

　　杭州人工智能學(xué)會副秘書長、安恒信息研究院院長王欣認為，AI之于安全，現(xiàn)在真正的能力只發(fā)揮了不足5%。過去一年多時間，AI與安全之間的探索，是從原來的智能問答發(fā)展到輔助駕駛，在不久的將來將進入半自動駕駛，未來會進入全自動駕駛。

　　推動“AI+安全”縱深發(fā)展

　　此次大會上，業(yè)界人士的一個共識是，“AI+安全”一定是網(wǎng)安行業(yè)未來發(fā)展的方向。同時，專業(yè)人士對于AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境也給予廣泛關(guān)注，對“AI+安全”的發(fā)展提出了很多積極的建議。

　　教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會主任委員、杭州市人工智能協(xié)會副理事長、俄羅斯國家工程院外籍院士胡瑞敏認為，從短期與中期來講，大模型技術(shù)還存在著很多不足，必然需要通過人機協(xié)同才能真正發(fā)揮作用。從長期來看，要在做好安全準(zhǔn)備的前提下，謹慎推動機器的自主性。

　　多位專家建議，面對復(fù)雜多變的國際形勢和日益增長的網(wǎng)絡(luò)安全威脅，亟需加強關(guān)鍵信息基礎(chǔ)設(shè)施安全保護工作。

　　“現(xiàn)有的漏洞補上了，新的漏洞會被發(fā)現(xiàn)?，F(xiàn)有的技術(shù)出現(xiàn)了攻防相對平衡穩(wěn)定，新的技術(shù)創(chuàng)新會把戰(zhàn)場轉(zhuǎn)移到新領(lǐng)域?！眹H電信聯(lián)盟前秘書長趙厚麟表示，“在安全領(lǐng)域的攻防、互斗會長期存在?！?/p>

　　對此，中國工程院院士鄔江興認為，無論是數(shù)字產(chǎn)業(yè)化還是產(chǎn)業(yè)數(shù)字化，第一要務(wù)都是網(wǎng)絡(luò)安全。但是，網(wǎng)絡(luò)安全防御卻呈現(xiàn)出像“打鼴鼠”游戲一樣的情況，即按下葫蘆浮起瓢，冒出一個鼴鼠就打一下。他指出，針對傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性，要從數(shù)字產(chǎn)業(yè)的源頭技術(shù)抓起，從數(shù)字產(chǎn)品的設(shè)計安全抓起。推動數(shù)字生態(tài)系統(tǒng)底層驅(qū)動范式轉(zhuǎn)型，以內(nèi)生安全賦能，才能筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。

　　從與會專家的討論中，記者發(fā)現(xiàn)，“AI+安全”行業(yè)既要滿足市場對網(wǎng)安技術(shù)和產(chǎn)品安全可靠、簡便易行的要求，還要在用戶愿負擔(dān)成本和企業(yè)研發(fā)成本激增之間找出最佳平衡點，因此挑戰(zhàn)不小。

　　鄔江興針對網(wǎng)安人才短缺問題表示，按照中央網(wǎng)信辦的預(yù)測，到2027年，中國需要235萬網(wǎng)絡(luò)安全人才，但目前全國100多所網(wǎng)安相關(guān)學(xué)院每年的畢業(yè)生不足3萬人。網(wǎng)安人才與制造漏洞或無意制造漏洞的人數(shù)相比，存在巨大的“剪刀差”。

　　在國際領(lǐng)域，吳世忠表示，人工智能的安全治理已經(jīng)成為大國博弈的一個協(xié)調(diào)議題。70多個國家在五年內(nèi)已經(jīng)出臺安全治理方面的戰(zhàn)略對策和法律文件接近100件。

　　趙厚麟表示，數(shù)字安全全球關(guān)注，要加強全球協(xié)作，鼓勵和加強國際合作。