大咖論劍AI與安全，北京網(wǎng)絡安全大會開幕
6月5日，以“AI驅(qū)動安全”為主題的2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡安全大會戰(zhàn)略峰會（BCS大會）在京開幕。北京市相關負責人介紹，本市已將數(shù)字安全產(chǎn)業(yè)作為全市重點發(fā)展的高精尖產(chǎn)業(yè)，目前已經(jīng)匯聚數(shù)字安全企業(yè)1025家，2023年全市數(shù)字安全企業(yè)收入達到996億元，產(chǎn)業(yè)帶動作用凸顯。
當前，各行各業(yè)網(wǎng)絡化、數(shù)字化、智能化轉型加速，在以數(shù)據(jù)為關鍵要素的新產(chǎn)業(yè)、以人工智能為關鍵技術的新場景下，人類面臨的安全挑戰(zhàn)更加復雜，各類攻擊威脅與日俱增。本次大會歷時兩天，共舉辦2場峰會、20多場分論壇，2場大賽，邀請了來自10多個國家和地區(qū)的上百位專家學者、10多個行業(yè)領域的200多家企業(yè)的代表，分享人工智能發(fā)展的研究、實踐或建議，并就AI（人工智能）驅(qū)動安全在數(shù)據(jù)、能源、金融、交通、制造等領域的情況展開討論。
在中央網(wǎng)信辦網(wǎng)絡安全協(xié)調(diào)局副局長王營康看來，人工智能帶來的安全挑戰(zhàn)和攻擊威脅尤其值得關注。“隨著人工智能技術的發(fā)展，攻擊者可利用人工智能技術生成網(wǎng)絡攻擊和網(wǎng)絡釣魚工具等，網(wǎng)絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化?！?/p>
根據(jù)奇安信發(fā)布的《2024人工智能安全報告》，AI既放大現(xiàn)有網(wǎng)絡安全威脅，又引入了新型威脅，引發(fā)網(wǎng)絡安全事件指數(shù)級增長。其中，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件數(shù)量增長了1000%。一項對IT行業(yè)領導者進行的關于ChatGPT等大模型的調(diào)查顯示，安全性是受訪者最關心的問題，71％的受訪者認為生成式人工智能會給企業(yè)數(shù)據(jù)安全帶來新的風險。
“AI驅(qū)動安全是大勢所趨，未來網(wǎng)絡攻防就是得AI者得天下。誰能提前抓住AI變革的機遇，誰就能掌握網(wǎng)絡空間安全的主動權。”奇安信集團董事長齊向東判斷，當前網(wǎng)絡安全格局正在被顛覆重構，但這種顛覆重構不僅帶來新的安全挑戰(zhàn)，也為網(wǎng)絡安全行業(yè)帶來前所未有的戰(zhàn)略機遇。
對此，國際工程技術學會會士、英國計算機學會會士阿巴斯·海德爾深表認同。他說，大型語言模型正徹底改變網(wǎng)絡安全形勢，AI在網(wǎng)絡安全領域帶來的既有挑戰(zhàn)，也有機遇。例如，網(wǎng)絡罪犯會使用AI生成具有強欺騙性的網(wǎng)絡仿冒郵件，但企業(yè)也可以用AI完成威脅檢測和事件響應、處置。
在先進計算與關鍵軟件（信創(chuàng)）海河實驗室主任、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克看來，一方面，人工智能的發(fā)展推動了網(wǎng)絡安全技術的創(chuàng)新。例如，基于深度學習的惡意軟件檢測、用戶行為分析等新技術不斷涌現(xiàn)，提高了網(wǎng)絡安全的防護能力。另一方面，人工智能的自動化和智能化特性又可以大大提高網(wǎng)絡安全管理的效率。通過自動化檢測、響應和風險評估等流程，可以更快地應對網(wǎng)絡威脅，減少潛在損失。
齊向東提醒，AI大模型不是萬能鑰匙。尤其是在當前“百模大戰(zhàn)”的狀態(tài)下，只有高質(zhì)量發(fā)展的大模型，才能真正帶來指數(shù)級能力躍升，激發(fā)網(wǎng)絡安全行業(yè)的新質(zhì)生產(chǎn)力。他認為，做好“AI驅(qū)動安全”至少需要具備三大條件：高質(zhì)量的訓練數(shù)據(jù)，縱深防御的內(nèi)生安全體系，設備、體系具有統(tǒng)一的輸入輸出標準。
據(jù)悉，作為具有全球影響力的網(wǎng)絡安全大會，BCS大會已成功舉辦五屆，先后有來自中、美、俄、法、日、以等30多個國家和地區(qū)，超2000位政要、行業(yè)領袖、網(wǎng)絡安全專家出席并分享觀點。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號