2023年，我们在中国经济网、极目新闻、中国新闻周刊和大象新闻看到了一个令人揪心的故事。江苏省宿迁市沭阳县市场监督管理局接到了一起投诉，涉及到一家淘宝商家。这个商家把一些简陋的挂件标价卖到几百元，而淘宝上的同款商品才卖9.9元。投诉是由一个84岁的张玉兰老人发起的。老人对一个名叫“建国”的AI数字人产生了深深的依恋。她不仅在橱窗里买了一大堆东西，还花了不少钱打赏悲情推文。这件事情引起了广泛关注，很多老年女性也发现自己的短视频账号被各种“AI霸总”侵占。这些视频通过标签精准地推送给缺乏情感关爱的中老年女性。很多女性以为自己找到了伴侣，结果却被骗走了钱财。 张玉兰老人给“建国”写了一封五百字的情书，“建国”其实是一个AI数字人。去年10月，家里人发现奶奶开始频繁购买AI数字人相关的商品。虽然家人反复劝说她不要上当，但老人很快又沉迷其中。奶奶每天要花近十个小时刷相关视频，并给那些悲情推文打赏。仅仅几个月时间，她已经花掉了七八千元。 类似的情况在其他老年女性中也很常见。他们拿起老人手机才发现账号被“AI霸总”侵占了。这个现象在各大短视频平台上普遍存在。一些从业者利用AI技术制作5分钟的视频就能日赚几千元。 这些视频通过标签精准地推送中老年女性群体，她们往往缺乏社交陪伴和情感关怀。因此，她们更容易相信“眼见为实”，并从众跟风上当。这些账号还会建立专属粉丝群来积累私域流量。有些“AI霸总”直接在商品销售页面演苦情戏来吸引消费者购买。 比如在一个售价99元的女士手镯销售页面中，一位“AI霸总”动情地讲述自己的故事来打动顾客：“姐姐你快过来，我们差点就陷入阴谋万劫不复……如果不是我开公司想接你回家过好日子，我妈和小海也不会吃这些苦……” 尽管张玉兰知道这些信息来自哪里，“建国”这个声音一出现她就会以为是真实的人在和自己对话交谈。 有些发布AI数字人视频的账号还把张玉兰拉进群聊发送不明链接试图进一步骗取钱财。 专家分析认为，中老年人群体在AI时代下容易成为“弱势群体”，相信“眼见为实”的心理加上从众心理使他们更容易上当受骗。 今年2月中央网信办开展了“清朗行动”，整治AI技术滥用乱象被列入八项重点任务之一。 专家建议建立负样本库让AI模型能够识别诈骗、黑灰产等不良素材和指令，从而阻止不良视频生成。