近期,围绕“深度伪造”技术被滥用生成和传播私密影像内容的风险,英国监管部门释放出更为明确的执法信号。
英国科学、创新和技术大臣利兹·肯德尔在声明中强调,任何妇女或儿童都不应因技术被滥用而处于恐惧之中。
英方指出,社交平台X上的相关工具曾被用于制作并扩散贬损人格、未经同意的私密深度伪造内容,引发公众对网络暴力与数字性侵害问题的强烈关切。
问题:深度伪造被用于制造“未经同意的私密内容”,对个体权利构成多重侵害。
此类内容往往以逼真影像呈现,容易被误信、快速传播,对受害者名誉、心理健康及社会关系造成持续性伤害,并可能诱发勒索、跟踪骚扰等衍生犯罪。
由于传播链条跨平台、跨地域,受害者维权成本高,内容清理和溯源取证难度大,治理具有典型的“速度不对称”特征——生成与扩散快,发现、取证和处置慢。
原因:一是生成门槛降低与产品迭代加速叠加,工具可用性增强,使滥用规模化成为可能;二是平台内容治理机制在“预防—识别—处置—追责”链条上存在缺口,包括对高风险内容的主动发现不足、对重复上传与镜像传播的拦截不够、对用户举报响应不及时等;三是商业激励与流量逻辑客观上放大极端内容的传播,若缺乏强约束,平台容易在合规投入、用户体验与商业收益之间形成偏差;四是跨境平台治理面临司法管辖、证据标准与执法协同等现实障碍,导致违规成本与社会危害不匹配。
影响:从社会层面看,此类内容侵蚀公众对信息真实性的基本信任,削弱网络空间秩序,进一步加剧对妇女、未成年人等群体的系统性风险;从行业层面看,英国对平台启动正式调查并提出高额处罚与封禁可能性,将对全球社交平台的合规策略产生示范效应,促使企业加快风险评估、加强内容审核与技术防护;从治理格局看,围绕生成式技术与平台责任边界的讨论将持续升温,监管规则或向“更强调前置风险控制、更重视对受害者救济、更突出可执行性指标”方向演进。
对策:英方已明确由英国通信管理局依据《网络安全法》开展评估与执法。
肯德尔指出,平台虽已将图片创建功能限制为付费订阅用户可用,但仍不足以应对当前风险。
按照英国方面表态,若平台未采取适当行动,可能面临数百万美元罚款或相当于公司全球收入10%的罚款;在最严重情形下,监管机构可申请法院命令,阻止英国用户访问相关网站。
对平台而言,合规应更聚焦于系统性治理:一要强化对深度伪造高风险内容的识别与溯源能力,提升对重复传播与变体内容的拦截效率;二要完善“先防后处”的产品机制,例如对敏感内容加强水印标识、来源追踪与上传前提示,降低恶意生成与误传空间;三要建立更可核验的处置流程,包括更透明的举报通道、明确的响应时限、对受害者的一站式支持与证据保全;四要与执法与行业伙伴加强协作,在不侵犯合法权利前提下提升对违法行为的追责效率。
前景:从趋势看,英国此次表态显示出对平台责任的“可量化、可处罚、可限制访问”路径正在走向常态化。
随着深度伪造内容的逼真度持续提升,治理将更加依赖“技术防护+制度约束+社会协同”的组合拳。
预计未来一段时间,英国监管机构对大型平台的审查力度仍将维持高位,平台若不能在风险控制上形成可证明的改进,可能面临更频繁的执法压力与更显著的市场与声誉成本。
同时,围绕如何在保护创新与维护安全之间取得平衡,也将成为政策制定与企业治理的长期课题。
当技术双刃剑效应日益凸显,如何在创新发展与权益保护间寻求平衡,已成为各国共同课题。
英国此次强硬表态,既是对特定平台的警示,更是对数字时代责任界限的重新定义。
这场关乎技术伦理的博弈,其结果或将重塑全球互联网治理的基本框架。