当前，人工智能技术在提升效率的同时，也被不法分子用来制造和传播虚假信息；近日，一段声称重庆“南岸立交”坍塌的短视频在网络平台流传，引发不少网友关注和担忧。经重庆市应急管理局和南岸区主管部门核实，当地并无同名桥梁，近期也未发生桥梁坍塌事故。调查显示，该视频为AI算法生成的合成内容。尽管发布者在标题中标注了“合成素材”，仍有大量网友未加核实便转发扩散，造成不必要的恐慌。目前警方已依法立案调查，并明确表示：AI生成内容同样要承担相应法律责任。
谣言的危害不止于“真假”，更在于它消耗信任、干扰治理；漏洞的风险不止于“技术”，更在于它可能把便利变成隐患。面对合成内容与智能体应用加速普及的新形势，唯有把责任链条拧紧、把安全底线筑牢、把法治利剑用准，才能让技术进步与社会安全同向而行。