全国政协委员、安天科技集团董事长肖新光接受《环球时报》记者郭媛丹采访时，讲述了两位同事在接受电视台采访后被诈骗团伙利用AI换脸敲诈的经历。他提到，诈骗团伙会跟进新闻节目，采集人员信息并制造伪造内容发送敲诈信息。肖新光指出，如今的AI技术只需一张照片和一小段语音就能生成乱真的视频。犯罪分子利用AI换脸和声音克隆等技术假冒明星、主持人或企业家发布不实言论来赚取流量或违法犯罪。 肖新光强调公众人物有大量公开素材可能被滥用为深度伪造的数据源。他建议相关立法、执法和主管部门从技术风险视角转向公共安全视角，建立系统治理能力和技术体系，对借助人工智能辅助实施违法犯罪行为给予加重处罚。针对美国五角大楼计划联合顶尖AI企业开发网络工具的报道，肖新光分析称美方把人工智能运用到情报分析和网络入侵攻击中是优先选项。他认为“数字主权”已和领土主权一样成为国家安全不可分割的部分。 肖新光还提到英国《金融时报》2月27日披露美国五角大楼计划联合顶尖AI企业开发AI网络工具用于侦察中国电网等关键设施漏洞的报道。他分析称美国将推动人工智能武器化作为推进网络空间军事化重点。针对新的发展范式需要新的安全范式，肖新光建议打造“人工智能+”国家安全技术引擎，在“十五五”期间更好地探索推动新安全范式。他举例说可针对智能汽车、具身智能等场景打造专属安全引擎和功能积木升级安全运营平台提升对抗能力实现防患于未然。 全国政协委员肖新光回忆2025年2月27日那天他有两位同事在接受电视台采访后同时收到换脸敲诈信息。 这个案例引发他关注并进行追溯发现诈骗团伙作案模式高度流程化。 犯罪分子利用AI深度伪造技术把受害者信息采集后制造伪造内容发送敲诈信息给受害者从而形成高度流程化作业体系。 这次事件让他感到公众人物大量公开素材可能被滥用为深度伪造数据源导致侵权侵害行为频繁发生。 这让他意识到靠个人安全意识和习惯已无法解决这些问题核心是构建强有力治理体系来应对这些问题。 肖新光建议相关立法执法主管部门把相关问题从技术风险视角平台自治逻辑提升到公共安全视角建立系统治理能力技术体系来打击各类违法犯罪行为给予加重处罚导向从而有效降低维权成本提升全民安全意识增强全社会共同应对此类事件能力。 英国《金融时报》2月27日披露美国五角大楼正计划联合顶尖AI企业开发AI网络工具用于侦察定位中国电网等关键设施漏洞为未来可能军事冲突做网络战准备这一消息引起了中国各界广泛关注。 美方把推动人工智能武器化作为推进网络空间军事化重点还将人工智能运用到情报分析和网络入侵攻击中作为优先选项用人工智能自动挖掘对手脆弱性可攻击点编写恶意代码生成社会工程学欺骗内容编排攻击战术进行任务管理等手段全面快速关联分析相关基础设施海量信息发现定位关键问题寻找可打击节点这一系列举动让中方高度警惕并意识到数字主权已经和领土主权一样成为现代国家安全不可分割部分在AI技术发展领域中方要坚定以技术管技术以能力对能力以AI赋能防御应对对手AI赋能攻击在可靠感知检测采集响应手段支撑下实现高水平自动化防御响应为了顺应新发展形势肖新光今年提交打造“人工智能+”国家安全技术引擎建议在“十五五”期间更好地探索推动新安全范式比如针对智能汽车具身智能等场景打造端侧安全大模型专属安全引擎功能积木升级运营平台提升对抗能力让安全能力实现关口前移防患于未然从而为国家提供更加牢固安全屏障。