一、问题:智能体技术加速落地,安全隐患随之浮现 当前,以大模型为底层支撑的智能体技术正在加速向政务、企业及个人用户渗透。
与早期仅能完成固定指令的工具型程序不同,新一代智能体具备自主感知、动态决策与跨系统操作能力,能够在无人干预的情况下独立完成复杂任务。
这一技术跃迁,标志着人工智能应用正式进入"动手干活"的新阶段。
然而,技术能力的跃升也带来了新的安全挑战。
智能体一旦获得操作权限,便可访问文件系统、调用外部接口乃至执行资金操作,其潜在风险远超传统软件工具。
部分用户在使用过程中对智能体的权限边界认知不足,存在向其泄露账户密码、敏感口令等高风险行为,由此引发的安全隐患不容忽视。
二、原因:技术迭代速度超前,安全规范建设滞后 从行业发展规律来看,新兴技术的安全体系建设往往滞后于技术本身的扩散速度。
智能体技术亦不例外。
当前,市场上各类智能体产品层出不穷,但针对其部署、授权与操作边界的统一规范尚未形成,行业标准缺位现象较为突出。
与此同时,普通用户对智能体的认知仍停留在"聊天助手"层面,对其实际具备的系统级操作能力普遍缺乏了解。
这种认知落差,使得用户在使用过程中难以对潜在风险作出准确判断,客观上加大了安全事故发生的概率。
三、影响:技术普及提速,安全短板制约产业健康发展 360集团创始人周鸿祎在交流会上指出,当前人工智能产业正进入"大模型与智能体双线并进"的发展阶段。
大模型持续提升认知推理能力,智能体则不断强化任务执行能力,二者形成协同演进态势。
随着普通消费级硬件即可支撑智能体运行,"一人公司"式轻量创业模式正在兴起,智能体的社会渗透率将进一步提升。
在此背景下,安全问题若得不到有效应对,将直接制约智能体技术在政务和企业场景中的规模化落地。
尤其是在涉及资金流转、数据处理和系统管理的高敏感场景中,一旦出现安全漏洞,其后果将远比传统软件故障更为严重。
四、对策:发布安全指南,首提"Skill安全"框架 针对上述问题,360集团于交流会前一日正式发布智能体安全部署与实践指南,对相关产品的潜在风险进行系统梳理,并提出具体应对思路。
这是国内网络安全领域企业首次就智能体安全问题发布系统性指导文件,具有一定的行业参考价值。
周鸿祎在会上进一步提出"Skill安全"概念,将智能体的安全管理维度从整体系统层面细化至单一技能(Skill)层面。
他认为,未来用户面对的将不再是单一智能体,而是由大量功能模块组合而成的技能集群,每一项技能的权限边界与操作规范都需要纳入安全管理范畴。
他同时提醒普通用户,在日常使用中应严格保护账户信息,避免向智能体授予超出实际需要的操作权限。
五、前景:以安全为基,推动智能体产业规范化发展 周鸿祎表示,智能体作为新兴技术形态,不应因存在潜在风险而遭到简单否定,而应在发展过程中逐步建立清晰的安全边界。
他认为,通过智能体技术的广泛普及,推动其在政府机构和企业中实现规模化落地,有助于加速中国产业数字化转型进程,对整体人工智能产业发展具有重要战略意义。
从更宏观的视角来看,智能体安全体系的建立,不仅是技术层面的工程问题,更是关乎数字经济健康发展的治理命题。
如何在鼓励创新与防范风险之间找到平衡,将是政府监管部门、技术企业与社会各界共同面对的长期课题。
智能体技术的崛起标志着人工智能进入新阶段,其潜力与挑战并存。
如何在创新与安全之间找到平衡,将成为行业发展的关键命题。
正如周鸿祎所言,“不发展是最大的风险”,但唯有筑牢安全基石,技术才能真正释放其变革力量。