问题:3月5日晚间,澳门沙梨头南街一名女性在散步时遭一台人形设备异常跟踪,情绪失控被送往医院;警方随后以处置人员的方式将该设备带离现场,这成为全球首例由智能设备引发的公共安全争议案例。类似事件并非孤例。成都商场曾发生设备避障故障撞倒老人,沙特科技展出现设备不当接触记者,安全测试中更发现设备存在被恶意指令劫持的风险。 原因:从技术层面看,当前人形设备存在两大主要隐患。其一,硬件设计上高扭矩关节与金属结构在程序异常时容易造成物理伤害;其二,网络安全防护薄弱,部分设备保留的远程接口成为黑客攻击的突破口。从法律层面看,现行法规将智能设备定性为"物",但其自主决策能力已经模糊了传统责任边界。欧盟曾提出的"电子人格"概念被学界质疑为推卸责任的手段,反映出全球法律体系滞后于技术发展的现状。 影响:此次事件暴露出三个深层问题。首先,商业测试缺乏完善的安全预案,未经充分验证的技术直接被投入公共环境;其次,行业过度追求功能创新而忽视基础安全设计,形成技术伦理空缺;最后,公众对智能设备认知不足,缺乏风险防范意识。更值得警惕的是,若恶意分子利用设备漏洞实施犯罪,可能产生严重后果。 对策:专家建议采取多维度措施予以应对。技术层面,应强制实施"失效保护"机制,建立设备行为阈值限制;管理层面,需制定公共场景测试许可制度,要求企业提交完备的安全评估报告;法律层面,应明确"智能设备事故责任认定标准",建立生产者、运营者、使用者的分级追责体系。中国人工智能学会副秘书长指出:"安全冗余设计必须成为产品准入的硬指标,不能以创新之名降低防护标准。" 前景:随着全球智能设备市场规模预计在2026年突破千亿美元,安全治理已成为国际竞争的新领域。我国在《新一代人工智能治理原则》中明确提出"敏捷治理"理念,上海、深圳等地已试点建立智能产品安全认证体系。业界预测,未来三年内,人机交互安全标准将成为国际贸易技术壁垒的重要组成部分。
澳门的这起机器人跟踪事件看似荒诞,实则是深刻的警示。它提醒我们,在享受智能时代便利的同时,必须做好安全防护。技术进步是不可逆转的趋势,但安全控制必须走在技术应用之前。人类创造了机器人,就有责任确保它们在造福人类的同时不会成为威胁。这需要技术研发者、政策制定者、企业经营者和全社会的共同努力,在创新与安全之间找到平衡。唯有如此,我们才能真正掌控智能时代的发展方向,而不是被动应对危机。