9月23日，第三届网络空间安全（天津）论坛开幕式及主论坛在天津举行。与会嘉宾、企业代表齐聚一堂，深入探讨网络空间安全形势，广泛分享网络安全治理理念，共同商讨网络安全应对策略。
奇安信集团董事长齐向东在“重塑内生安全体系 升维AI时代安全力”主题演讲中，从风险防范、能力升级、体系重塑三个维度，结合奇安信的实践经验，为应对AI时代网络安全挑战提供了清晰路径。
聚焦“框数人链” 筑牢AI“超人”安全防线
当前，AI技术正以“超人化”态势深刻重塑各行业，大模型与智能体成为生产力升级的“新引擎”，却也带来前所未有的安全挑战。齐向东形象地将AI大模型、智能体比作“AI超人”，指出其拥有超级权限、无所不能。当AI“超人”被引入到数字化、智能化的业务场景中，它会彻底突破我们构建的基于人的角色的权限管理和安全措施，一旦被劫持或攻击，可能对数据安全、业务安全、发展安全产生连锁影响。不接纳AI将被时代淘汰，接纳则需直面安全挑战。
基于近百个行业场景的攻防实战经验，奇安信总结出防范AI“超人”安全风险的核心在于管住“框、数、人、链”四个关键环节。
一是管住“框”：守住AI自身安全的“第一道门”。“框”指的是对话框、传感器等AI“超人”的交互入口。当前大量AI应用存在“重功能、轻安全”问题，易遭提示词注入、越狱攻击等，此前奇安信对某主流思考模型的测试中，200多个测试用例里有40多个存在越狱风险。
二是管住“数”：攥紧AI时代的“核心资产”。“数”是AI的“燃料”，AI应用深化推动数据安全进入“小数据决定大价值”阶段。过去，企业数据分散在各业务系统，碎片化且价值密度低，即便出现泄露，影响范围有限；现在，为了最大化AI效能，头部企业纷纷将分散的规划图、设计图、生产工艺、客户画像等数据“去粗取精”，形成高价值、集中化的“精华小数据”。这些“精华小数据”一旦泄露，核心竞争力将瞬间归零。
三是管住“人”：防范安全链条的“最大变量”。“人”指的是“内鬼”。AI时代需防范的“内鬼”范围从传统“三员”， 管理员、技术员、操作员，扩展至数据管理员、数据标注员、算法工程师、模型运维工程师“四员”，他们手握高级权限，若被利用可能从内部瓦解安全防线。
四是管住“链”：避免安全风险的“链式爆炸”。AI“超人”无法独立存在，必须依托生态链、供应链才能运转，其中任一薄弱环节都可能引发大规模网络攻击，需重点关注云环境漏洞与第三方开发运维中等问题。
直面AI“超人”安全问题 重塑体系突破“三看”瓶颈
齐向东表示，AI大模型、智能体的广泛应用，让网络安全暴露面激增，衍生出新风险的同时，也让传统网络攻击手段不断翻新。多数政企机构虽有安全建设基础，但体系价值未充分释放。而AI“超人”不断冲击现有安全手段，要求我们加快重塑安全体系，突破“三看”瓶颈。
首先要看见“盲区”，扫除潜在隐患。由于安全设备来自不同厂商，形成“万家造”局面，导致防护盲区遍布，AI大模型的API接口、老旧设备接入点等易被忽视的角落，往往成为攻击“突破口”。
其次要看见异常，洞察行为风险。“安全归安全、业务归业务”的“两张皮”现象普遍。如，AI数据标注员、操作员为了提高效率，经常将企业重要数据向外包或合作伙伴共享，业务团队觉得这是“工作便利”，安全团队却因不了解标注业务的流程，无法识别这是“高危操作”，给网络安全埋下重大隐患。
最后要看见实效，构筑正向反馈。“重建设、轻运营”的模式让安全体系与实际防护脱节，投入上千万元的安全系统若缺乏专业团队维护，半年内便可能沦为“摆设”。
如何能看见实效？齐向东表示，只有建立高效反馈回路、持续优化运营，才能将安全投入转化为显性防护能力。
重塑内生安全体系 四步走构建AI时代的主动免疫能力
面对“四管”风险和“三看”瓶颈，齐向东提出了重塑内生安全体系的四步策略。
第一步是抓落地，部署大模型卫士，筑牢场景化防护屏障。奇安信构建的“管控-检测-溯源”三位一体防护框架及大模型卫士系列产品，无需改造大模型即可轻量化接入现有AI应用。大模型卫士已在20多个行业60余家客户处完成实验局验证，能有效防御多种新型风险。
第二步是向左移，强化大模型全生命周期的安全评估，前置风险防控，把安全风险“扼杀在源头”。AI时代，必须将安全评估嵌入AI模型研发、部署、运维全生命周期。今年3月，奇安信为国内某头部运营商的通用大模型底座开展安全评估，及时发现并修补严重缺陷与高危漏洞。
第三步是促升级，通过AI全面赋能安全防护，打造安全“技术矩阵”，实现质效双提升。奇安信以QGPT安全大模型为基础，构建安全任务智能体，覆盖多类应用场景，AISOC已在20多个行业落地，某知名跨国车企借此将告警识别准确率提升至93.1%，威胁定性时间从小时级缩短至秒级，实现质效双升。
第四步是强联动，建设“三级联动”的安全运营体系，凝聚防御合力。面对AI时代的复杂威胁，安全建设要起效，必须形成安全合力，构建三级联动的安全运营体系势在必行。“三级联动”，分为组织三级联动、功能三级联动和能力三级联动，三级之间环环相扣、无缝协作、形成有机整体。目前，奇安信已在国内多地市、大型企业及重要基础设施中开展了“三级联动”的网络安全运营实践，防护效果显著。
最后，齐向东表示，站在AI发展的关键节点，奇安信将充分发挥体系建设优势与防护经验，与各方携手筑牢网络空间安全“铜墙铁壁”，为AI时代网络安全能力升维贡献力量。（钟新）
源顺网提示：文章来自网络，不代表本站观点。
