9月15日~21日，2025年国家网络安全宣传周在全国范围举行，其中开幕式及一系列重要活动在云南昆明举办。作为网络安全领域领军企业，奇安信集团以“AI驱动安全”为主题，深度参与展览展示、论坛演讲等多项活动。
人工智能大模型，如今已经应用到了很多场景下，不少的企业都进行了部署，用来辅助各项工作，但是这类大模型安不安全？被攻击会出现什么样的情况呢？在云南昆明主会场举行的网络安全博览会上，技术人员也给记者进行了展示。
奇安信安全专家：这里的话，是模拟的一个企业部署的一个大模型，现在这个大模型是可以正常运行的，然后攻击者通过扫描发现这个大模型的一个暴露的API接口。攻击者利用这个漏洞就接管了这个大模型。
技术人员告诉记者，一旦攻击者接管大模型，就能够在后台实时监控大模型的运行，查看大模型对话过程中的所有信息。
奇安信安全专家：如果说员工在跟AI的对话过程中发布传输了一些敏感信息，（攻击者）就可以远程直接获取到，很容易造成企业的敏感信息泄露。
技术人员介绍，一旦攻击者接管了大模型，很有可能会进一步进行网络攻击投放勒索病毒，严重的还有可能向大模型进行数据投毒。
奇安信安全专家：控制大模型以后就可以对大模型进行篡改了，对大模型进行污染，或者是其他比较敏感的操作。
对此技术人员也提醒，企业在内部部署大模型的时候，要严格管控权限，不能在没有防护的情况下就将大模型接入互联网。避免因为存在漏洞等问题而被不法分子攻击。
高端交流 共话安全新思路
在网络安全企业家座谈会上，中国电子信息产业集团首席科学家、科技委副主任，奇安信集团总裁吴云坤与来自中国联通、中电科、商汤科技、拼多多、百度、华为等企业负责人共同出席并就如何进一步促进网络安全服务经济高质量发展建言献策；在16日举行的关键信息基础设施首席安全官（CSO）闭门会上，吴云坤做了题为《新形势下关基防护的实践与创新》主题演讲。
AI赋能 引领安全新变革
在AI赋能关键信息基础设施安全保护会议上，奇安信集团副总裁韩永刚在“AI赋能的网络安全创新探索”主题演讲中表示，人工智能正深刻改变网络安全的攻防态势，既是防御利器，也带来全新挑战。
他表示，AI对于网络安全供需两侧都将是可挖掘的增量，有望将小规模高水平能力供给转变为规模化提供，推动产业从劳动密集型向智力密集型转变；同时，基于AI的创新在网络安全行业由来已久，在AI单点赋能方面取得了很多成果和突破。大模型与智能体的综合应用，会对行业产生更好的创新驱动力。以奇安信的实践经验为例，他详细介绍了AI技术在安全隐患识别、威胁检测响应、智能安全运营、数字世界刻画四个维度为网络空间的赋能。
韩永刚还强调，AI并非解决所有安全问题的“银弹”。单点技术赋能无法构建体系化防御能力。面对日益复杂的威胁，应构建“内生安全”体系，将AI能力融入安全管理、实战运营与数智化环境，通过全局统筹、纵深防御与体系化对抗，真正发挥AI的最大效能，筑牢数字时代的安全防线。
科研探索 铸就安全新防线
在第22届中国网络安全年会上，奇安信X实验室首席架构师、技术负责人柯强围绕“从数据到真相——大网威胁研究实践”展开演讲。他介绍了X实验室自成立以来，在大网安全研究领域的探索与成就，特别是在威胁监控和发现方面的深入实践。
X实验室通过构建三大数据平台：基础网络安全数据平台、恶意软件与载荷平台以及网络空间测绘平台，致力于打造一个动态且全面的安全生态系统。这些平台不仅处理和分析海量的DNS、Netflow等数据，还捕获并分析全球范围内的恶意样本和攻击指令，从而为国家级别的网络安全提供强有力的支持。
他介绍，XLab利用被动DNS技术收集大量历史和实时的数据，帮助识别僵尸网络、木马、蠕虫等恶意行为。此外，他还展示了多个实际案例，如成功监测并命名了几起具有国际影响力的DDoS攻击背后的僵尸网络，体现了XLab在全球网络安全事件中的重要作用。最后，柯强呼吁建立更加紧密的合作机制，共同面对日益复杂的网络安全挑战，保护网络空间的安全稳定。
在网络安全技术高峰论坛上，国家计算机网络应急技术处理协调中心发布了2025年人工智能技术赋能网络安全应用测试结果。奇安信AISOC团队、Tiger团队、aigatling团队等团队在网络安全告警日志降噪场景、基于智能体的网络安全自动化分析响应场景、基于互联网流量的漏洞利用攻击识别及PoC生成场景名列前茅，充分印证了奇安信在 AI 安全技术领域的领先地位。
此外，在2025年国家网安周网络安全博览会上，奇安信展示了AI安全大模型、AISOC、AI可信浏览器、“金护”反诈预警APP等多个基于AI的安全产品及解决方案，全方位展示AI在网络安全领域的创新应用。同时，通过大模型攻击互动演示、AI换脸等互动装置，让现场观众直观感受AI安全的重要性与趣味性，进一步提升公众网络安全意识。
广瑞网提示：文章来自网络，不代表本站观点。
