当前,部分网络内容创作者为追逐流量利益,刻意规避技术生成内容标识要求,导致虚假信息在网络空间持续蔓延。
此次公布的查处案例中,多个平台账号通过合成视频虚构"高铁救婴""鳄鱼袭人"等离奇情节;更有甚者利用深度合成技术假冒公众人物发声,或篡改未成年人喜爱的动画形象传播暴力内容。
这类行为不仅挑战社会伦理底线,更对公共安全与青少年成长构成实质性威胁。
分析显示,违规行为激增存在三重诱因:其一,部分平台算法推荐机制存在"唯流量论"倾向,客观上助长了虚假内容的传播;其二,深度合成技术门槛持续降低,为内容造假提供了技术便利;其三,部分用户缺乏信息辨识能力,使得虚假内容容易形成病毒式传播。
据第三方监测数据显示,未标注技术来源的合成信息传播效率较普通内容高出47%,其社会危害性呈几何级放大。
此次专项行动采取"技术监测+人工审核"双轨模式,重点打击三类违规行为:恶意造谣类、假冒侵权类和有害内容类。
网信部门组织主要平台建立特征库,对深度合成内容实施全链路追踪。
值得关注的是,本次同步查处了多个传授规避标识技术的账号和电商店铺,从源头上遏制违规工具扩散。
行业专家指出,随着《互联网信息服务深度合成管理规定》等法规深入实施,我国已构建起涵盖"内容生产—平台审核—用户监督—执法查处"的全链条治理体系。
下阶段,监管部门将推动建立分级分类管理制度,对新闻、医疗等重点领域合成内容实施更严格标注要求。
部分平台已试点上线"合成内容溯源系统",通过数字水印技术实现全生命周期管理。
真实是信息传播的生命线,标识是技术应用的“透明度底座”。
在生成合成技术带来便利与创新的同时,更要以清晰规则与严格执行守住公共利益与社会秩序。
持续压实平台责任、斩断灰色工具链条、提升公众辨识能力,才能让技术更好服务于正当表达与产业发展,共同营造可信、清朗、向上的网络空间。