根据奇安信发布的《2024人工智能安全报告》，AI既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件数量增长了1000%。一项“对IT行业领导者进行关于ChatGPT等大模型调查”的结果显示，安全性是受访者最关心的问题，71％的受访者认为生成式人工智能会给企业数据安全带来新的风险。

“数据安全是人工智能安全的前提和基础。”中国友谊促进会理事长、国家网信办原副主任陈智敏认为，要从网络安全保卫向数据安全保卫的工作模式拓展，为构建与数字生产力相适应的新型生产关系奠定基础。

中国职业技术教育学会会长、教育部原副部长鲁昕指出，建设网络安全强国、数字中国，培养符合网络安全发展战略需求的高素质技术技能人才，是保障国家安全和赢得产业发展主动权的基础和关键。

王营康建议，要统筹网络安全各方力量，构建大网络安全工作格局，推动形成体系化防御能力；要统筹高质量发展与高水平安全，推动形成人工智能综合治理体系；要坚持网络安全教育、技术、产业融合发展，推动形成人才培养、技术创新、产业发展的良性生态。

AI激发网安行业新质生产力

“AI驱动安全是大势所趋，未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇，谁就能掌握网络空间安全的主动权。”在主旨演讲中，全国政协委员、全国工商联副主席、奇安信集团董事长齐向东判断，当前网络安全格局正在被颠覆重构，但这种颠覆重构不仅带来新的安全挑战，也为网络安全行业带来前所未有的战略机遇。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东

对此，巴基斯坦NCERT主席、国际工程技术学会会士、英国计算机学会会士阿巴斯·海德尔深表认同。他在题为《人工智能悖论：加强网络安全还是加剧威胁》的主旨演讲中说，大型语言模型（LLM）正彻底改变网络安全形势，AI在网络安全领域带来的既有挑战，也有机遇。例如，网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件，但企业也可以用AI完成威胁检测和事件响应、处置。

“人工智能是新质生产力，智能化大势不可阻挡。不发展是最大的不安全，要发展AI促安全。”作为人工智能治理领域的知名专家，先进计算与关键软件（信创）海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克呼吁推进AI与网络安全融合创新。

“既然AI这么好，是不是赶紧装上一个AI大模型就可以了？”对此，齐向东提醒，AI大模型不是万能钥匙，尤其是在当前“百模大战”的状态下，只有高质量发展的大模型，才能真正带来指数级能力跃升，激发网络安全行业的新质生产力。

在齐向东看来，做好“AI驱动安全”至少需要具备三大条件：一是高质量的训练数据；二是纵深防御的内生安全体系；三是设备、体系具有统一的输入输出标准。

AI驱动安全成效初显

“依托大数据平台，加强人工智能与网络安全的融合，研究基于人工智能的风险异常检测方法，开展网络安全关联分析、事件处置和调查溯源，强化网络安全威胁监测和应急处置，实现网络安全事件的智能响应、联动防御。”国家电网有限公司副总信息师、中国电机工程学会会士王继业介绍了国家电网探索人工智能在“守护网络安全，助力能源转型”中的最新实践情况。

实际上，除了电力能源领域外，很多机构正快速推进AI在网络安全领域落地生根，“AI驱动安全”已呈现出百花齐放之势。例如，作为网络安全领域原创技术策源地总体单位，奇安信以科技创新推动产业创新，于今年3月对外正式发售了“AI驱动安全”的代表性产品：QAX-GPT安全机器人。

据介绍，目前QAX-GPT安全机器人已经被应用于金融、能源、交通等多个领域的头部企业，提升了威胁发现和研判、安全运营、智能攻防等能力。其中，QAX-GPT安全机器人对真实网络风险事件研判准确率接近100%，可以消除80%以上无效预警，助力企业网络安全运营效率提升逾60倍。

随着网络安全领域智能化产品落地，相关市场的规模快速增长。有关统计显示，网络安全领域的人工智能产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元，预测期内的复合年增长率为31.38%。

据许心超介绍，北京市已将数字安全产业作为全市重点发展的高精尖产业，目前已经汇聚数字安全企业1025家；2023年北京市数字安全企业收入达到996亿元，产业带动作用凸显。

“人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的重要驱动力量。本次大会以‘AI驱动安全’为主题，旨在将AI作为网络安全的驱动力，帮助专家快速地识别、追溯和处置安全威胁，提升网络安全防御的智能化水平。”展望未来，中国电子信息产业集团有限公司总经理李立功对AI驱动安全的进一步落地应用充满了期待。