2月12日，豆包旗下的视频生成模型Seedance2.0全端上线后，把这个限制给加了进去：不准生成明星、公众人物和网红等真实人物的肖像、视频或语音。法治日报律师专家库成员、北京市康达律师事务所合伙人罗娟指出，滥用AI换脸和声音克隆主要违反了民法典第一千零一十八条的肖像权保护条款和第一千零二十四条的名誉权保护条款。没有经过同意就拿别人的肖像和声音去商用，这直接侵害了人家的肖像权；要是生成的内容是虚假的或者误导人的，比如搞虚假代言、说些不当的话，就会损害人家的名誉权。 据红星新闻、中国新闻网、法治日报等报道，多位演员都曾被“AI换脸”。网友发现，自己在社交平台上看的好多短剧里，有些演员的脸长得很像肖战；特别是一部叫《京华风云》的短剧，不光演员长得跟肖战一样，就连衣服造型都和肖战在电视剧《藏海传》里的扮相一模一样。成毅也遇到过“AI换脸”的事，他的脸被别人擅自拿去拍短剧和短视频了，粉丝们还为此联名抗议过。薛凯琪曾经发声明要抵制那些用AI换脸做不雅视频的行为；王劲松、温峥嵘这些演员也发过声，反对利用AI做虚假代言。 霍启刚自曝遭AI盗用了自己的形象。他在3月23日的社交账号上说，自己的声线和样貌都被别人提取了，用来生成短视频。但是里面的内容完全不是他的观点，连他的同事看了好久才发现原来是AI弄出来的。这种信息太容易误导观众了。他之前还听说过有人盗用他讲香港情况的内容去做二次剪辑，用来宣传香港移民渠道这种事。 他还说自己去内地考察的时候回高铁站看到了自己的肖像挂在一个品牌店铺的门面上，但他和那个品牌根本没什么关系。过去半年随着AI技术越来越普及，这种情况越来越多。 霍启刚已经处理了几千条这样的假内容了。他还得安排同事专门盯着这事每天投诉反馈，但新的内容还是层出不穷。 未来如果AI的成本再降下去了，这种骗人的手段只会更多、更猖獗。科技的发展不该拿个人的权益当牺牲品。 霍启刚希望以后能把对这种虚假信息的监管搞得严一点。他也想提醒大家在AI快速发展的时代要多加小心甄别网络信息别上当受骗。