2月12日，豆包发布的视频生成模型Seedance2.0上线后，采取了严格的限制措施，禁止生成明星和公众人物等真实人物的肖像、视频或语音。北京市康达律师事务所合伙人罗娟指出，滥用AI换脸和声音克隆主要涉及民法典中的肖像权保护和名誉权保护。如果未经同意将他人肖像或声音用于商业用途，就直接侵犯了肖像权；如果生成的内容是虚假的、误导人的，如虚假代言或不当言论，就会损害他人的名誉权。霍启刚在香港体育协会暨奥委会担任副会长，并在霍英东集团担任副总裁。他在3月23日发文表示自己的形象遭到AI盗用。他提到近期有很多朋友投诉有人未经同意就盗用他们的样貌和声线，制造假信息甚至用于商业用途。他强调自己也感受到了这个问题。他在周末发现很多盗用他形象的AI视频，这些视频提取了他的声线和样貌生成短视频，但内容完全不是他的观点。霍启刚担心这些误导性信息会让观众产生误解。曾经还有些短视频账号利用他之前发表的关于香港情况的内容进行二次剪辑制作，用来宣传香港移民渠道这类内容，他很担心有人因此上当受骗导致钱财损失。霍启刚还提到曾在内地考察时在高铁站看到自己的肖像出现在一个品牌店铺的门面，但他和这个品牌根本没有关联。他表示过去半年随着AI技术的普及这类情况越来越多夸张。2月12日，3月20日和3月23日这三个时间点都发生了与AI盗用肖像相关的事件。2月12日是Seedance2.0上线的日子；3月20日是杨紫工作室发文维权的日子；3月23日是霍启刚发文提及自己形象被AI盗用的日子。除了霍启刚之外，其他明星也遭遇了类似问题。杨紫工作室在3月20日发布声明称某作品未经授权利用AI换脸技术擅自使用杨紫女士肖像制作并传播视频内容；演员迪丽热巴起诉某平台播出短剧利用AI换脸技术盗用其肖像牟利；演员肖战曾遭遇多部短剧里演员面部形象与他高度相似；成毅也曾遭遇“AI换脸”面部形象被擅自用于短剧和短视频创作；薛凯琪曾发布严正声明抵制“用AI换脸制作不雅视频”的行为；王劲松、温峥嵘等人也曾就“利用AI虚假代言”的现象发声。这些事件都展示了AI换脸技术滥用问题日益突出的情况。根据北京互联网法院消息，法院认定短剧制作方擅自使用深度合成技术生成与某演员高度相似的形象侵害其肖像权；短剧播出方未尽合理审查义务同样承担相应责任。这个案件涉及民法典中关于肖像权保护和名誉权保护的相关规定。对于滥用AI换脸和声音克隆主要涉及这些问题的严重性不可忽视。科技发展不应该以牺牲个人权益为代价希望未来对这类虚假信息进行更严格监管并提醒大家注意甄别网络信息防止上当受骗