两会连线聚焦AI安全新风险与新机遇:专家呼吁以技术对抗技术构建国家安全引擎

一、问题:新型工具普及带来安全隐患 当前,人工智能应用工具在各行业加速落地,普通用户的使用门槛持续降低,应用生态日趋活跃。但技术普及的同时,安全风险也在扩散。 近期,一款名为“龙虾”的人工智能工具在国内迅速走红,但其引发的“技能市场投毒”事件让业界警惕。调查显示,部分恶意功能并未直接写入程序代码,而是藏在技能说明文档中,把木马下载地址伪装成完成任务所需的资源包,诱导用户主动下载安装。这类攻击本质上是心智欺骗,即便有专业背景的工程师也难以分辨。 对此,肖新光建议普通用户不要将此类工具部署在个人电脑或工作设备上,以规避潜在风险。 二、原因:技术迭代加速,安全边界持续模糊 人工智能技术快速演进,正在重塑网络安全威胁格局。肖新光指出,新技术在三个层面带来挑战:其一,传统攻击手段借助智能化工具提速扩容,攻击效率提升;其二,新应用场景催生新的威胁形态,传统防御体系难以覆盖;其三,人工智能本身成为攻击目标,模型投毒、数据污染等新型攻击正在出现。 此外,我国在政企端信息技术软件与服务领域长期存在短板。相较于互联网消费端的规模优势,工业软件、企业级软件服务的能力积累不足,这个结构性弱点在人工智能时代更加突出,也让安全防护体系建设面临更大压力。 三、影响:安全风险泛化,产业格局加速重塑 随着人工智能渗透更多行业场景,网络安全风险呈现明显泛化趋势。从智能终端到工业控制系统,从政务平台到消费级应用,安全威胁覆盖面扩大,防护难度上升。 在国家战略层面,“十五五”规划纲要草案已将网络安全纳入国家安全体系的重要组成部分。这一定位升级既回应了现实安全形势,也为网络安全产业发展指明方向。肖新光认为,这一部署释放了明确政策信号,有助于推动全社会安全能力建设,促进产业高质量发展。 四、对策:以技术管技术,构建全链条防护体系 面对挑战,肖新光提出思路:“我们需要以技术管技术,以能力对能力。” 在技术研发层面,安天科技持续加大人工智能检测分析模型投入,重点突破二进制理解能力、超长上下文处理等技术瓶颈,逐步构建覆盖反病毒引擎、二进制垂直大模型、安全分析平台与威胁智能分析系统的全链条技术体系。 在产业生态层面,公司推动安全能力积木化与组件化,降低生态伙伴接入门槛,使其无需大量研发投入即可快速获取适配智能设备的安全能力,从而推进“人工智能+安全”生态的完善。 五、前景:打造国家安全技术引擎,赋能产业生态 展望未来五年,肖新光表示,安天科技的核心战略目标是打造人工智能时代的国家安全技术引擎,通过构建由人工智能驱动的高水平共性安全能力,嵌入更多应用场景,覆盖手机智能终端、网络安全产品设备及智能装备等领域,并在此基础上扩展服务边界,赋能供应链,服务生态伙伴,应对安全风险泛化带来的系统性挑战。

在数字化转型与智能化升级的双重推动下,网络安全已从技术议题上升为关乎国家竞争力的战略命题。正如肖新光委员所言,唯有坚持技术创新与生态协同,才能在享受技术进步红利的同时筑牢安全堤坝。这场关乎未来的安全攻防战,既检验企业的技术储备,也考验产业各方的协同能力。