问题——虚构、冒名、炒作与低俗化内容借助“智能合成”扩散。连日来，随着生成式内容工具社交平台快速传播，一些“以假乱真”的视频图片大量出现。部分账号发布“动物救人”“惊险奇遇”等编造情节，未按要求标注生成合成信息来源，利用情绪化叙事诱导转发；还有账号采用换脸、仿声等方式假冒运动员、演员、主持人、企业家等公众人物，散布不实言论吸粉引流，甚至未经授权售卖“送祝福”“拜年”等定制视频牟利。更有甚者，围绕火灾等公共安全事件拼接、生成现场画面，制造“在场感”进行恶意炒作；个别账号还对未成年人喜爱的动画形象进行“魔改”，传播惊悚血腥、低俗暴力内容，侵扰未成年人身心健康。 原因——技术门槛降低叠加流量冲动，催生“去标识”灰色链条。一上，生成合成技术的使用成本下降、效率提升，使批量化制作内容更易实现；另一方面，部分账号受流量变现驱动，以“反转”“奇观”“催泪”等模板化叙事攫取点击。值得警惕的是，围绕“如何去除生成标识”的教程、软件与服务在个别平台和电商渠道流通，形成规避监管的灰色链条，客观上放大了虚假信息的传播速度与识别难度。 影响——误导公众认知、扰乱公共秩序、侵害合法权益，破坏网络生态。未标识或刻意去标识的生成合成内容，容易在节日期间信息密集传播场景中造成“真假难辨”，扰乱公众判断，挤占权威信息传播空间。冒充公众人物的内容可能引发名誉权、肖像权等纠纷，造成社会误解与信任受损；虚构灾情事故的内容则可能诱发恐慌情绪、干扰应急处置与社会秩序；针对未成年人群体的低俗化“魔改”，更可能造成价值观误导与心理伤害，带来长远隐患。 对策——压实平台主体责任，强化标识管理与全链条治理。针对上述突出问题，网信部门督促网站平台深入排查整治，对违规账号和信息依法依约处置：共处置账号13421个，清理违法违规信息54.3万余条，并通报多起典型案例，包括以虚构感人故事、猎奇事件恶意博取流量的账号；以换脸、仿声方式冒充公众人物、发布不实内容或售卖定制祝福视频牟利的账号；编造火灾等事故现场画面、混淆视听扰乱公共秩序的账号；传播低俗惊悚、血腥暴力“魔改”内容侵害未成年人权益的账号；以及传播去除标识教程、售卖对应的软件服务的账号与店铺等，相关违规商品已下架。下一步治理重点在于“标识必加、来源可溯、违规必究”：平台应提升识别与拦截能力，完善显著标注、风险提示与投诉处置机制；对提供去标识工具、教学与代办服务的行为，要加强跨平台联动打击，切断灰产链条；同时推动公众提升媒介素养，对“剧情过度离奇”“画面细节异常”“来源不明”的内容保持审慎，形成共治合力。 前景——规则与技术同步迭代，推动生成合成应用在规范轨道上释放正向价值。生成合成技术本身可用于文化创意、科普传播、公共服务等领域，但其社会影响取决于是否依法合规使用。随着标识制度、平台治理与执法协同持续完善，叠加更成熟的鉴别手段与追责机制，虚假内容的生存空间将被深入压缩。未来，围绕“清晰标注、授权使用、不得编造炒作公共事件、不得侵害未成年人”等底线要求，网络空间有望在鼓励创新与防范风险之间形成更稳定的平衡。
技术进步从来都是双刃剑，此次专项整治既展示了维护网络清朗空间的坚定决心，也为技术伦理建设提供了实践样本。当合成技术逐渐成为数字时代的基础工具，如何构建与之相适应的治理框架，将成为检验社会数字化治理能力的重要标尺。唯有坚持发展与规范并重，才能使技术创新真正服务于人民对美好数字生活的向往。