两部门联合出台新规严管数字人直播带货 为人工智能商业应用划定监管红线

问题:技术红利之下,数字人直播乱象抬头。

近年数字人技术加速进入商业场景,尤其在直播带货领域,以低成本、可长时间在线、可复制扩展等特点,成为不少商家提升转化、降低人力成本的选择。

但在快速扩张的同时,部分直播间出现以数字人进行夸大功效、虚构背书、混淆真实身份等情形:有的将“疗效”“收益”等表述包装成确定性承诺,有的通过合成外貌和声音冒用公众人物形象进行“站台”,还有的塑造“老专家”“权威人士”等人设,针对特定群体开展高强度营销,诱导跳转至私域渠道购买高价商品。

虚拟形象被用于制造信任、放大焦虑、规避追责,带来现实风险。

原因:多主体链条复杂与责任边界不清叠加,成为乱象滋生土壤。

数字人直播通常牵涉技术服务方、内容生产方、直播间运营者、商家以及平台等多方主体,责任链条长、证据链条碎。

一些商家利用“虚拟形象不可追溯”“内容由技术生成”等说法试图淡化主体责任;部分平台在流量竞争与商业变现压力下,对新型违规手段识别不充分、处置不及时。

与此同时,消费者对数字人技术的识别能力参差不齐,面对“权威叙事”“专业包装”容易放松警惕。

规则层面若缺少明确的标识要求与可执行的责任划分,便容易出现维权难、执法难、惩戒难的局面。

影响:虚假与误导信息扩散,将侵蚀市场秩序与社会信任。

对消费者而言,轻信“理财指导”“健康承诺”等内容可能造成财产损失甚至健康风险;对老年群体等信息获取能力相对较弱的人群,数字人“专家形象”更可能引发非理性消费与被诱导转移至私域交易;对公众人物及相关权利人,形象和声音被冒用可能带来名誉损害与维权成本上升;对行业而言,劣币驱逐良币,诚信经营者面临不公平竞争,直播电商的整体公信力也会被消耗。

更值得警惕的是,一旦虚拟与真实边界被刻意模糊,营销行为可能从“推销商品”滑向“操纵认知”,带来更广泛的社会治理挑战。

对策:以规则明确边界,以标识压实责任,以平台治理形成合力。

此次《直播电商监督管理办法》对数字人主播等生成内容纳入监管,提出关键要求:一是直播间运营者使用相关技术生成的人物图像、视频开展直播电商活动,应符合法律法规及强制性国家标准,并依规进行标识,持续向消费者提示该人物图像、视频由相关技术生成。

标识制度的核心在于让消费者“看得清、辨得明”,防止技术成为遮蔽责任的外衣。

二是平台经营者需采取有效措施,防范和处置利用相关技术编造、传播虚假或引人误解的商业信息、假冒他人进行商业宣传等行为。

平台从“流量分发者”向“治理责任者”延伸,是应对新型违规的关键一环。

三是通过明确直播间运营者与平台经营者的义务,为监管执法提供更清晰的抓手,提升发现、取证、处置与追责的可操作性,也为消费者维权提供依据。

前景:规范与创新并重,数字人直播将从“野蛮生长”走向“有序发展”。

可以预期,随着标识制度、内容审核、风险处置等要求落地,数字人直播将逐步告别以“人设包装”“模糊边界”换取短期收益的路径,转向以真实信息披露、合规营销与服务体验提升来竞争。

对行业主体而言,合规将成为核心能力:商家要守住广告合规与商品质量底线,杜绝夸大宣传与虚假承诺;平台要提升技术识别与治理能力,对重点品类和重点人群营销加强审核与预警;技术提供方也应强化合规设计,完善水印、溯源与防伪机制,减少被滥用空间。

监管部门可结合新规实施情况,持续完善配套细则与典型案例发布,推动形成可复制、可推广的治理经验。

通过多方协同,既释放技术提升效率的正向价值,也把风险关进制度笼子里。

技术本无善恶,关键在于应用之度。

数字人直播的规范化进程,既是对消费者负责的必然选择,也是行业可持续发展的必由之路。

唯有在创新与监管的动态平衡中,才能让技术进步真正服务于人民美好生活,而非沦为少数人牟利的“数字陷阱”。

这一案例也为其他新兴技术领域的治理提供了重要参照——唯有前瞻立法与多元共治,方能护航科技向善。