智能体应用热潮中的冷思考——主管部门联合规范新兴技术安全风险

问题——“会操作”的智能助手走红,安全警报随之拉响。 与以往主要提供问答服务的工具不同,近期走红的一类“智能体”强调对电脑的“代办能力”,可用户授权下接管键盘、鼠标与系统权限,自动完成文档整理、演示材料生成、邮件处理、代码编写等任务。新能力带来效率想象空间,也迅速引发集中安装与体验潮。然而,随着使用范围扩大,误删文件、难以彻底卸载、权限滥用、远程接口暴露等问题在社交平台与技术社区集中出现。工信部、中央网信办、公安部等部门近期密集发布通报与提示,要求用户谨慎使用有关产品与服务,强化安全设置,防范数据与系统风险。 原因——高权限设计与生态无序叠加,放大了技术外溢风险。 一是“高权限”成为卖点也成为隐患。为实现自动操作,这类软件往往需要更高系统控制权,一旦授权边界不清、行为约束不足,容易出现误操作甚至被恶意利用。二是默认配置偏“易用”而非“安全”。部分产品为降低上手门槛,开放远程访问或采用弱口令、简化鉴权机制,导致设备暴露在公共网络中。有技术统计显示,超过7.5万名国内用户的相关服务端口直接暴露在公网环境,增加被扫描、入侵的概率。三是第三方插件与“技能包”来源复杂。一些产品通过扩展插件提升功能,但插件开发者资质、代码审计、上架审核、更新机制等不健全,可能夹带恶意代码或过度收集数据。四是用户安全意识与管理能力不足。部分用户在不了解风险的情况下“一键授权”“全盘开放”,为个人隐私、企业资料与支付信息安全埋下隐患。 影响——从个人隐私到企业合规,风险链条向纵深延伸。 对个人而言,照片、通讯录、聊天记录、账号凭据、支付信息等可能面临泄露与盗用;误操作还可能造成工作资料损失与系统故障。对企业而言,若员工在办公设备私装并连接业务系统,可能引发商业秘密外泄、供应链攻击与合规风险,甚至形成“以点带面”的内部安全短板。对产业而言,若安全事件频发,不仅损害新技术公众信任,也会抬高全行业合规成本,影响创新生态与国际合作预期。一些地方在推动人工智能产业和应用场景落地过程中也已注意到,若缺乏统一标准与安全底座,“快应用”可能带来“慢治理”的被动局面。 对策——以制度、技术与生态治理协同,压实全链条责任。 业内建议从五上发力: 第一,落实“最小权限”与分级授权机制。对文件访问、系统操作、网络通信、外设控制等权限进行细粒度拆分,默认关闭高风险能力,关键操作设置二次确认与可追溯日志。 第二,强化默认安全配置。全面推行强口令、双因素认证、访问白名单、端口最小暴露等措施,避免“开箱即暴露”。对面向公网的远程控制功能,应提供明确风险告知与安全向导。 第三,建立插件与扩展的准入审核和溯源机制。推动形成统一的插件签名、代码审计、更新校验与恶意样本通报体系,对违规开发者与分发渠道实施联动处置。 第四,完善漏洞响应与合规评估。建立快速披露与修复通道,定期开展渗透测试与第三方评估;涉及个人信息与重要数据处理的,应依法依规开展合规审查。 第五,加强用户教育与行业自律。引导公众在安装前核验来源、谨慎授权、关闭不必要的远程访问、定期检查端口暴露与异常进程;企业应通过终端管控、资产盘点与安全培训,防止“个人尝鲜”演变为“组织风险”。 前景——以安全可控促应用深化,推动人工智能工具走向可信赖。 当前,具备“可执行能力”的智能体正处于快速迭代期,其对提升生产效率、促进新型服务业态具有现实价值。一些地方围绕算力、场景、资金等给予支持,也体现出对新技术驱动增长的期待。下一步,能否实现从“热安装”到“稳应用”,关键在于把安全与治理嵌入产品设计、生态运营与监管协同之中。随着标准体系完善、插件生态规范、企业级安全方案成熟,这类工具有望从个人效率助手更走向政务、制造、科研等场景,但前提是守住数据安全和网络安全底线。

技术进步与安全保障需并行不悖。此次智能工具热潮提醒我们,在拥抱新技术的同时要保持理性。只有政府、行业和用户共同构建防护网,才能让技术创新真正造福社会,推动数字经济健康发展。这既是对企业的考验,也是对全民数字素养的检验。