您听说了吗？有一位84岁的奶奶张玉兰，最近沉迷于刷短视频。张奶奶每天居然会刷10个小时以上的短视频，还竟然给“AI霸总”写情书！她觉得自己好像真的在和这个AI数字人建国聊天。其实，建国根本就不是真人，而是由AI技术生成的一个虚拟形象。但是，张奶奶完全没有察觉，她还觉得自己和建国之间有感情呢。除了写情书，张奶奶还花了几千元钱在虚拟商品上，买了各种品质不怎么样的东西。而这一切都是因为她被一个精心制作的AI视频吸引住了。这个视频只需要5分钟就能制作出来，而这些从业者一天就可以赚到几千元钱呢！ 除了张玉兰，还有很多老年女性都陷入了这个陷阱。他们的账号被各种“AI霸总”侵占了。这些AI数字人视频会被精准地推送给那些缺乏情感关爱的中老年女性。它们通过添加一些标签，比如“帅气大叔”、“黄昏恋”，吸引了这些老年人的注意。很多老年人误信之后就主动为这些AI账号消费了。 很多AI霸总账号还建立了专属粉丝群来积累私域流量。甚至还有一些商家在销售商品的时候直接在页面上播放这些带有苦情戏内容的视频。比如有个售价99元的女士手镯销售页面里就有一段动情讲述：“姐姐你快过来，我们差点就陷入阴谋……如果不是我开公司想接你回家过好日子……”这一类故事情节让很多老年人觉得很感动，所以就容易上当受骗。 这次事件引起了广泛关注。江苏省宿迁市沭阳县市场监督管理局已经受理了家属的投诉。 专家分析说，中老年人之所以容易中招是因为他们比较相信眼见为实。 而且2023年开始，AI数字人在短视频领域被大量运用，黑灰产滥用这种技术更让老年人有从众心理而受骗。 今年2月，中央网信办启动了“清朗行动”，整治AI技术滥用乱象被列为重点任务之一。 专家建议建立负样本库给AI模型识别诈骗、黑灰产等不良素材和指令，从源头上阻止不良视频生成。