近兩年,各行業(yè)大模型如雨后春筍般快速發(fā)展,人工智能技術(shù)、產(chǎn)業(yè)、應(yīng)用各環(huán)節(jié)迎來(lái)快速迭代和探索突破時(shí)期。在日前舉行的2024第十二屆西湖論劍·數(shù)字安全大會(huì)上,各界人士就如何應(yīng)用人工智能技術(shù)賦能數(shù)字網(wǎng)絡(luò)安全進(jìn)行討論和交流。與會(huì)人士認(rèn)為,網(wǎng)絡(luò)安全已進(jìn)入人工智能階段,“AI+安全”是網(wǎng)安行業(yè)未來(lái)發(fā)展的方向,同時(shí)AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境需多方共同破解完善。
網(wǎng)安進(jìn)入人工智能階段
隨著人工智能技術(shù)的快速發(fā)展,數(shù)據(jù)安全復(fù)雜性和傳統(tǒng)網(wǎng)絡(luò)安全治理局限性之間的矛盾日益凸顯,數(shù)字安全面臨前所未有的挑戰(zhàn),通過(guò)AI賦能安全運(yùn)營(yíng)被視為發(fā)展新質(zhì)生產(chǎn)力的關(guān)鍵一環(huán)。
國(guó)家行政學(xué)院電子政務(wù)專(zhuān)家委員會(huì)原副主任、全國(guó)數(shù)字經(jīng)濟(jì)聯(lián)盟學(xué)術(shù)委員汪玉凱提出,數(shù)字經(jīng)濟(jì)在新質(zhì)生產(chǎn)力發(fā)展的結(jié)構(gòu)中起全局性、戰(zhàn)略性的意義,數(shù)字經(jīng)濟(jì)有可能成為新質(zhì)生產(chǎn)力中最關(guān)鍵的一個(gè)領(lǐng)域。
中國(guó)科學(xué)院院士吳世忠表示,近30年來(lái),網(wǎng)絡(luò)安全大致可分為三個(gè)階段,前20年左右是IT驅(qū)動(dòng)階段,是一個(gè)萬(wàn)物互聯(lián)時(shí)代;后10年是DT,即數(shù)據(jù)驅(qū)動(dòng)階段,以大數(shù)據(jù)、云計(jì)算為特征,追求數(shù)據(jù)流動(dòng);如今則已進(jìn)入AI驅(qū)動(dòng)時(shí)代,人工智能的巨浪極大地改變了安全問(wèn)題的內(nèi)涵和外延。
國(guó)家信息技術(shù)安全研究中心金融安全處處長(zhǎng)曹岳認(rèn)為,未來(lái)的攻擊,也就是智能化的攻擊,將加強(qiáng)攻擊的頻度,AI的擴(kuò)展會(huì)提升攻防的對(duì)抗維度,AI還將升級(jí)網(wǎng)絡(luò)攻防對(duì)抗的強(qiáng)度。
參加過(guò)多次重大項(xiàng)目網(wǎng)絡(luò)安全工作的安恒信息,將2008年以來(lái)重大活動(dòng)網(wǎng)絡(luò)安全分為單兵戰(zhàn)、綜合戰(zhàn)、立體戰(zhàn)和AI戰(zhàn)四個(gè)發(fā)展階段。單兵戰(zhàn)大致在2008-2015年間,早期的網(wǎng)絡(luò)安全防護(hù)中,用單一的網(wǎng)絡(luò)安全產(chǎn)品與安全服務(wù)相配合,就能為重大活動(dòng)的網(wǎng)絡(luò)和信息系統(tǒng)提供基本保護(hù);綜合戰(zhàn)大致在2016-2020年間,此時(shí)的賽會(huì)網(wǎng)絡(luò)環(huán)境變得復(fù)雜,需要借助強(qiáng)大的網(wǎng)絡(luò)安全態(tài)勢(shì)感知等平臺(tái)類(lèi)產(chǎn)品,結(jié)合多區(qū)域、線上線下的安全服務(wù),才能保證大型賽會(huì)安全無(wú)虞;立體戰(zhàn)大致在2021-2023年間,隨著重大活動(dòng)網(wǎng)絡(luò)環(huán)境風(fēng)險(xiǎn)的增加,需根據(jù)不同的網(wǎng)絡(luò)安全威脅分別制定針對(duì)性策略,在防御、監(jiān)控、響應(yīng)、預(yù)測(cè)等方面部署相應(yīng)的安全產(chǎn)品服務(wù),才能保證重大活動(dòng)的順利舉行;而從2023年9月至今,重大活動(dòng)網(wǎng)絡(luò)安全工作已經(jīng)進(jìn)入了AI戰(zhàn)階段。
安恒信息董事長(zhǎng)范淵對(duì)《經(jīng)濟(jì)參考報(bào)》記者表示,現(xiàn)階段的網(wǎng)絡(luò)安保工作中,AI已經(jīng)開(kāi)始扮演多元化且至關(guān)重要的角色,它不僅會(huì)改變網(wǎng)絡(luò)安全戰(zhàn)的方式和態(tài)勢(shì),還將對(duì)勝敗產(chǎn)生深遠(yuǎn)影響。在這一階段,首先是網(wǎng)絡(luò)安保場(chǎng)景數(shù)字化程度高。人工智能、數(shù)字孿生、物聯(lián)網(wǎng)等數(shù)字技術(shù)應(yīng)用廣泛,傳統(tǒng)安全保障手段無(wú)法有效應(yīng)對(duì);其次是攻擊的自動(dòng)化和防御的自動(dòng)化。AI可以被用來(lái)進(jìn)行自動(dòng)化網(wǎng)絡(luò)攻擊,使得攻擊更加隱蔽、快速和難以防御。安全垂域大模型基于機(jī)器學(xué)習(xí)和大數(shù)據(jù)分析等技術(shù),能自動(dòng)學(xué)習(xí)網(wǎng)絡(luò)攻擊行為模式,并快速響應(yīng)和應(yīng)對(duì)各種新型網(wǎng)絡(luò)威脅,因此以AI對(duì)AI、以AI管AI成為必選項(xiàng)。
相關(guān)探索應(yīng)用取得突破
在使用AI助力網(wǎng)絡(luò)防御方面,國(guó)內(nèi)外都已經(jīng)進(jìn)行了很多探索,并已經(jīng)取得成果。
美國(guó)微軟公司推出的網(wǎng)絡(luò)安全助手給用戶提供生成式、自動(dòng)化網(wǎng)絡(luò)安全人工智能服務(wù)。經(jīng)過(guò)去年一年的運(yùn)行,可以將安全事件響應(yīng)、評(píng)估和防御時(shí)間從過(guò)去的數(shù)小時(shí)到數(shù)天壓縮到幾分鐘。
AI賦能極大地提升了國(guó)內(nèi)網(wǎng)絡(luò)安全防御能力與處置效率。安恒信息去年8月發(fā)布的“恒腦·安全垂域大模型”,實(shí)現(xiàn)了國(guó)內(nèi)AI安全垂域大模型在國(guó)際大型賽事的首次應(yīng)用。在杭州亞運(yùn)會(huì)期間,基于這一模型和MSS安全運(yùn)營(yíng)平臺(tái)的輔助支撐,有效解決了安全運(yùn)營(yíng)過(guò)程中復(fù)雜重復(fù)的工作。
據(jù)了解,安恒信息已將AI技術(shù)應(yīng)用作為一級(jí)戰(zhàn)略。范淵介紹,過(guò)去8個(gè)月,安恒信息在人工智能應(yīng)用于數(shù)字安全方面進(jìn)行了大量嘗試和實(shí)戰(zhàn)探索,公司的數(shù)字安全產(chǎn)品和服務(wù)正在發(fā)生翻天覆地的變化。以數(shù)據(jù)分類(lèi)分級(jí)+AI為例,AI技術(shù)應(yīng)用使數(shù)據(jù)分類(lèi)分級(jí)的效率提升了30倍?!斑@不僅僅是一次簡(jiǎn)單的效率提升,更是一次深刻的行業(yè)變革,讓我們看到了AI在數(shù)字安全領(lǐng)域的巨大潛力和廣闊前景?!?/p>
今年4月,安恒信息剛剛發(fā)布了數(shù)據(jù)分類(lèi)分級(jí)解決方案、AI防火墻、天穹人工智能安全運(yùn)營(yíng)平臺(tái)等八大AI產(chǎn)品。此次大會(huì)期間,安恒信息攜手華為發(fā)布昇騰-恒腦推理一體機(jī),利用昇騰AI集群為恒腦提供底座,全流程加速大模型的創(chuàng)新與落地。
海亮集團(tuán)積極探索“AI+安全”的建設(shè)思路。集團(tuán)數(shù)字創(chuàng)新部部長(zhǎng)孫雯介紹,用AI來(lái)代替人工使安全告警的分析更加智能,效率大幅提升。海亮集團(tuán)發(fā)現(xiàn),在AI與數(shù)據(jù)安全結(jié)合的過(guò)程中,AI表現(xiàn)超乎預(yù)期,試點(diǎn)場(chǎng)景的4000多個(gè)字段自動(dòng)化梳理可達(dá)到90%以上,識(shí)別準(zhǔn)確率從50%提高到85.8%。
AI應(yīng)用于網(wǎng)絡(luò)安全的前景如何?
安永(中國(guó))企業(yè)咨詢有限公司合伙人王堅(jiān)表示,威脅監(jiān)測(cè)與相應(yīng)的工作、惡意軟件的檢測(cè)、用戶的行為分析、身份驗(yàn)證訪問(wèn)控制、網(wǎng)絡(luò)釣魚(yú)監(jiān)測(cè)、自動(dòng)化情報(bào)威脅、欺詐檢測(cè)以及數(shù)據(jù)的泄密保護(hù)等方面,都是大模型應(yīng)用的潛力領(lǐng)域。
杭州人工智能學(xué)會(huì)副秘書(shū)長(zhǎng)、安恒信息研究院院長(zhǎng)王欣認(rèn)為,AI之于安全,現(xiàn)在真正的能力只發(fā)揮了不足5%。過(guò)去一年多時(shí)間,AI與安全之間的探索,是從原來(lái)的智能問(wèn)答發(fā)展到輔助駕駛,在不久的將來(lái)將進(jìn)入半自動(dòng)駕駛,未來(lái)會(huì)進(jìn)入全自動(dòng)駕駛。
推動(dòng)“AI+安全”縱深發(fā)展
此次大會(huì)上,業(yè)界人士的一個(gè)共識(shí)是,“AI+安全”一定是網(wǎng)安行業(yè)未來(lái)發(fā)展的方向。同時(shí),專(zhuān)業(yè)人士對(duì)于AI技術(shù)的雙刃劍效應(yīng)以及行業(yè)發(fā)展環(huán)境也給予廣泛關(guān)注,對(duì)“AI+安全”的發(fā)展提出了很多積極的建議。
教育部新工科聯(lián)盟網(wǎng)絡(luò)空間安全工委會(huì)主任委員、杭州市人工智能協(xié)會(huì)副理事長(zhǎng)、俄羅斯國(guó)家工程院外籍院士胡瑞敏認(rèn)為,從短期與中期來(lái)講,大模型技術(shù)還存在著很多不足,必然需要通過(guò)人機(jī)協(xié)同才能真正發(fā)揮作用。從長(zhǎng)期來(lái)看,要在做好安全準(zhǔn)備的前提下,謹(jǐn)慎推動(dòng)機(jī)器的自主性。
多位專(zhuān)家建議,面對(duì)復(fù)雜多變的國(guó)際形勢(shì)和日益增長(zhǎng)的網(wǎng)絡(luò)安全威脅,亟需加強(qiáng)關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)工作。
“現(xiàn)有的漏洞補(bǔ)上了,新的漏洞會(huì)被發(fā)現(xiàn)?,F(xiàn)有的技術(shù)出現(xiàn)了攻防相對(duì)平衡穩(wěn)定,新的技術(shù)創(chuàng)新會(huì)把戰(zhàn)場(chǎng)轉(zhuǎn)移到新領(lǐng)域?!眹?guó)際電信聯(lián)盟前秘書(shū)長(zhǎng)趙厚麟表示,“在安全領(lǐng)域的攻防、互斗會(huì)長(zhǎng)期存在?!?/p>
對(duì)此,中國(guó)工程院院士鄔江興認(rèn)為,無(wú)論是數(shù)字產(chǎn)業(yè)化還是產(chǎn)業(yè)數(shù)字化,第一要?jiǎng)?wù)都是網(wǎng)絡(luò)安全。但是,網(wǎng)絡(luò)安全防御卻呈現(xiàn)出像“打鼴鼠”游戲一樣的情況,即按下葫蘆浮起瓢,冒出一個(gè)鼴鼠就打一下。他指出,針對(duì)傳統(tǒng)網(wǎng)絡(luò)安全治理的局限性,要從數(shù)字產(chǎn)業(yè)的源頭技術(shù)抓起,從數(shù)字產(chǎn)品的設(shè)計(jì)安全抓起。推動(dòng)數(shù)字生態(tài)系統(tǒng)底層驅(qū)動(dòng)范式轉(zhuǎn)型,以內(nèi)生安全賦能,才能筑牢網(wǎng)絡(luò)與數(shù)據(jù)空間安全屏障。
從與會(huì)專(zhuān)家的討論中,記者發(fā)現(xiàn),“AI+安全”行業(yè)既要滿足市場(chǎng)對(duì)網(wǎng)安技術(shù)和產(chǎn)品安全可靠、簡(jiǎn)便易行的要求,還要在用戶愿負(fù)擔(dān)成本和企業(yè)研發(fā)成本激增之間找出最佳平衡點(diǎn),因此挑戰(zhàn)不小。
鄔江興針對(duì)網(wǎng)安人才短缺問(wèn)題表示,按照中央網(wǎng)信辦的預(yù)測(cè),到2027年,中國(guó)需要235萬(wàn)網(wǎng)絡(luò)安全人才,但目前全國(guó)100多所網(wǎng)安相關(guān)學(xué)院每年的畢業(yè)生不足3萬(wàn)人。網(wǎng)安人才與制造漏洞或無(wú)意制造漏洞的人數(shù)相比,存在巨大的“剪刀差”。
在國(guó)際領(lǐng)域,吳世忠表示,人工智能的安全治理已經(jīng)成為大國(guó)博弈的一個(gè)協(xié)調(diào)議題。70多個(gè)國(guó)家在五年內(nèi)已經(jīng)出臺(tái)安全治理方面的戰(zhàn)略對(duì)策和法律文件接近100件。
趙厚麟表示,數(shù)字安全全球關(guān)注,要加強(qiáng)全球協(xié)作,鼓勵(lì)和加強(qiáng)國(guó)際合作。(記者 周武英)
轉(zhuǎn)自:經(jīng)濟(jì)參考報(bào)
【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊,僅代表作者個(gè)人觀點(diǎn),不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系:010-65363056。
延伸閱讀
版權(quán)所有:中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)京ICP備11041399號(hào)-2京公網(wǎng)安備11010502035964