专家学者共议AI时代WhatsApp%E3%80%90+86%2015855158769%E3%80%91sandhill%20crane%20ornament网络安全新变局，呼吁构建智能安全新生态
百科 · 2025-12-20 12:50:12??
? 6月5日，学者新变在2025全球数字经济大会数字安全主论坛暨第七届北京网络安全大会（BCS）期间举办的共议第六届金融数字化转型与网络安全论坛上，来自运营商、时代生态WhatsApp%E3%80%90+86%2015855158769%E3%80%91sandhill%20crane%20ornament金融科技、网络网络安全和学术界的安全七位顶尖专家齐聚一堂，展开了题为“人工智能时代的局呼建智网络安全新变局”的圆桌对话。
? 圆桌对话由北大国发院传播中心主任王贤青主持，吁构对话专家分别从各自领域的全新专业视角出发，深入探讨了AI技术飞速发展给网络安全领域带来的学者新变深刻挑战与战略机遇。与会专家普遍认为，共议AI重塑了网络攻防格局，时代生态需要业界协同以智能对抗智能，网络构建以人为本、安全安全内生的局呼建智发展新范式。
对话嘉宾包括王贤青、张建桁、谭晓生、WhatsApp%E3%80%90+86%2015855158769%E3%80%91sandhill%20crane%20ornament董青马、况文川、高晓飞、江爱军（由左至右）
?
? AI伴生安全風險，催生系統性挑戰
? 專家們指出，AI技術在降低攻擊門檻、提升攻擊效率的同時，也帶來了前所未有的風險維度。
北大国发院传播中心主任王贤青
? 首先是攻擊平民化的挑戰。北京赛博英杰科技有限公司创始人、董事长谭晓生强调，大模型的出现让攻击者无需深厚编程功底，“精心设计的提示词可以突破系统防线，诱导AI泄露受保护的敏感信息，造成严重后果。”联通数字科技有限公司安全事业部副总经理张建桁认为，利用智能体可以大大提高网络攻击的效率。国内DeepSeek推出之后，把AI推向通用化。这意味着针对运营商、云服务商，包括政企用户的更广泛攻击，这是对运营商来说下一步面临的最大挑战。主持人王贤青也补充，AI普及导致对编程等方面的要求降低，降低了网络攻击的门槛，这意味着AI使非专业人士也能发动高效攻击。
北京赛博英杰科技有限公司创始人、董事长谭晓生
联通数字科技有限公司安全事业部副总经理张建桁
? 其次是模型自身安全的挑戰。谭晓生进一步指出，由数学思维主导构建的AI系统，缺乏对安全编码规范的重视，可能导致系统崩溃或被完全控制，从而可以导致篡改决策的风险。此外，AI本身缺乏权限管理和访问控制，易引发核心数据泄露风险。奇安信集团AI高级研究员江爱军补充认为，目前人工智能垂域大模型中的核心信息资产泄露风险；AI应用模糊传统软件逻辑层与数据层，打破权限控制，这是当前重要的风险点。
奇安信集团AI高级研究员江爱军
? 第三是趨同性與風險傳染。西南财经大学中国金融研究院副院长董青马聚焦金融行业，揭示了AI应用的潜在系统风险：“当金融机构普遍采用大模型，使用相似的底层逻辑和基础语料库，会导致决策趋同的问题，缺乏生态的多样性。”同时，AI加速信息传播也使得风险传递和虚假信息扩散速度远超以往。中国电子首席科学家、中电金信研究院院长况文川指出，金融机构在利用生成式人工智能快速理解客户特质和交互数据以提供个性化服务的同时，也需要应对趋同性问题，即大家使用相似模型是否可能导致服务同质化，金融机构需要充分运用自己的私有数据、个性化语料、专业知识库以及与自身业务逻辑的结合，来体现出自己的竞争优势。
西南财经大学中国金融研究院副院长董青马
?
中国电子首席科学家、中电金信研究院院长况文川
?
? 最后是數據安全風險與算力瓶頸。中国长城市场合作部副总经理高晓飞直指当前我国人工智能面临两大痛点：AI训练和应用对数据的渴求突破了传统数据安全防线；同时，关键算力芯片（如高端GPU）的供应保障及国产AI软件生态的成熟度，构成国家层面AI安全发展的现实瓶颈。
?
中国长城市场合作部副总经理高晓飞
?
? 以“AI”筑盾，構建主動防御體系
? 面對AI帶來的風險與挑戰，安全防護面臨范式的轉變。與會專家建議用AI對抗AI風險。AI同樣為網絡安全防御帶來革命性工具和方法。
??首先是效率躍升。谭晓生分享了AI的积极面：“过去安全运维人员疲于应对日均数千万条告警，往往只能依靠规则强压告警，难免漏报与错报。现在，借助AI强大的推理与分析能力，能够高效处理海量告警，大幅提升防御效率和精准度，部分替代中低端安全分析师工作。”
??其次是“智能對抗智能”新范式。联通数字科技有限公司安全事业部副总经理张建桁介紹了運營商的應對策略：面對云網基礎設施面臨的規模化、智能化攻擊威脅，聯通正構建‘主動防御’體系，核心就是以AI對抗AI，在自身安全運營體系中部署智能體。”他強調了運營商在“云網端”協同防護與快速溯源處置方面的獨特優勢。
??最后是賦能安全運營與研發。江爱军指出，包括奇安信在内的网络安全厂商正积极应用AI技术应对新型攻击向量，优化产品研发工作的效率与成本，并赋能网络安全运营。
?
? 破局之道：協同構建智能安全新生態
? ?針對如何在AI時代筑牢安全防線，專家們提出關鍵路徑。
“人在闭环”与责任明晰：况文川指出，必须在关键决策点（如涉及道德、重大风险）保留人工判断，“智能体适用于规则明确、重复性任务，但人仍是最终责任主体”。张建桁补充，需建立健全AI被劫持时的应急处置预案和责任追溯机制。
? ?推进安全内生：况文川强调，安全应内生于AI系统设计和业务运营中。他提出“三明治”策略：严格区分公共训练数据、企业私有知识库和用户核心隐私数据，并通过物理或逻辑隔离，防止交叉污染与违规访问。江爱军则指出，网络安全厂商需审视产品工作流程是否适应AI变化，关注防护效果、效率和成本，推进安全内生。他还强调利用AI赋能企业研发、安全运营和服务，提升整体安全能力。
? ?守住风险底线与自主可控：董青马呼吁在金融安全等关键领域，要守住系统性风险底线，首要任务是确保不发生系统性风险。此外，要确保AI的自主可控。AI是关乎未来国际竞争的国家级战略资源和武器。必须建立自主可控的AI体系，从源头（技术、数据、标准等）确保其安全可靠，不受制于人。高晓飞则强调产业链协同解决算力“卡脖子”问题的紧迫性。
? ?本次圓桌討論為應對人工智能時代的網絡安全新變局提供了豐富的思想碰撞和實踐指引。AI在放大攻擊能力的同時，為防御體系升級提供新工具。為此，須通過AI對抗AI、管理重構、生態安全三層聯動，在發展中平衡效率與風險。最終構建"可控的智能"，使技術服務于人的解放而非威脅人類安全底線。
文章推薦：