问题——“像真的一样”正侵蚀信任基础 近期，演员王劲松在网络互动中提到，一些疑似合成的音视频在声音、口型等细节上十分逼真，连身边亲友也难以分辨。他表示已就有关内容向平台投诉，并直言最担心这类技术被用于更具危害性的用途，例如冒充身份实施诈骗、诱导转账、骗取验证码或个人敏感信息。随着短视频传播加速、内容制作门槛降低，“真假难辨”的音视频正成为网络空间新的安全隐患，直接冲击社会信任与个人信息安全。 原因——技术门槛下降与传播机制叠加放大风险 一上，合成技术迭代加快，音色拟合、口型同步、表情驱动等能力不断提升，使“看着合理、听着相似”的内容更容易批量生成。制作成本降低后，不法分子即便不依赖复杂剧本或高超话术，也可能借助合成内容完成“身份伪装”，提高骗局成功率。 另一方面，平台算法推荐、碎片化的信息流阅读习惯，以及公众对熟面孔的天然信任叠加，容易形成“先相信、后怀疑”的心理路径。公众人物因曝光多、素材丰富、辨识度高，更易被选作合成模板；普通人则可能成为更精准的侵害对象——不法分子用合成语音或视频点名联系家属同事，借“紧急情况”制造慌乱，诱导转账或索取验证码，造成财产与隐私损失。 影响——从个体受害扩展至公共治理与社会信任 合成造假的危害不止于单一受害者。对个体而言，轻则名誉受损、隐私泄露，重则造成经济损失并引发后续风险；对行业与平台而言，虚假内容一旦规模化扩散，将削弱内容生态的可信度，并推高审核与处置成本；对社会层面而言，真假难辨的信息环境会加剧信任焦虑，抬高社会运行成本，甚至被用于制造舆情、扰乱秩序。王劲松作为公众熟知的演员，曾在多部影视作品与大型文艺活动中亮相，面孔与声音辨识度高，也更容易被“拿来就用”。他公开表达担忧并发起投诉，反映出此风险已从技术讨论走向现实治理议题。 对策——平台、监管、公众三端协同织密防线 其一，平台要从“处置一条”转向“治理一类”。对疑似合成造假内容，应完善识别模型与风险标签体系，优化投诉受理与快速核查流程，加强对高风险账号、素材来源与传播链路的追溯处置，防止重复搬运、换号再发。对涉及冒名、诱导交易、索取验证码等明显诈骗指向的内容，应及时采取限流、下架、封禁并移交线索等措施。 其二，监管与法治保障需继续形成震慑。围绕身份冒用、侵犯肖像与声音权益、诈骗、非法获取个人信息等行为，依法明确责任边界与证据标准，推动跨平台、跨地域联动打击，提高违法成本，压缩黑灰产生存空间。 其三，公众侧要强化“核验优先”的信息习惯。遇到“熟人求助”“紧急转账”“更换号码索要验证码”等情境，应坚持回拨确认、视频复核、线下核对等基本步骤；家庭内部可提前约定核验方式或“暗号”，用于紧急情况下识别真伪；同时减少冲动转发，不为未经核实的音视频提供二次传播空间。对疑似造假内容应及时留存证据并向平台、警方反映，尽量把风险控制在扩散之前。 前景——以技术对抗技术，以规则重建可信传播 可以预见，合成技术仍将持续演进，治理也需同步升级。未来一段时期，完善内容溯源与标识机制、推广对合成内容的显著提示、提升全链路取证能力，将成为构建可信传播的重要方向。同时，公众数字素养的提升决定防线的“最后一公里”。从“看见就信”转向“先验再信”，是应对新型风险的关键能力。
深度伪造技术是一把双刃剑：既可服务文化创意，也可能被滥用于欺诈与伤害。王劲松的提醒表明，在享受技术便利的同时，必须正视其风险。保护个人隐私与信息安全，既需要个人保持警惕，也需要平台落实责任、法律规则及时跟进。只有多方协同，才能在数字化时代稳固信任基础，让技术真正发挥正向价值。