央视315晚会曝光数据投毒黑产:百万资金如何操控智能推荐算法

当前,生成式AI的普及让信息获取和商业推广更高效,但也给不法分子带来了新的牟利方式;央视315晚会近日曝光的AI大模型数据投毒产业链,显示出此风险正在快速成形。所谓GEO业务,本来是用于优化信息分发、提升合规推广效果的工具,但在利益驱动下被一些商家用来“走捷径”。记者调查发现,有服务商公开宣称,只要支付数百万元,就能通过集中投放虚假软文,把虚构产品推到多家主流AI大模型的推荐前列,甚至让其看起来像AI给出的“标准答案”。其本质,是对模型训练数据的持续污染。

生成式问答越便利,越需要真实、透明、可追溯的信息作为底座。对“投毒”灰产露头就打——既是保护消费者权益——也是维护公平竞争、巩固技术公信力的必需。只有让违法成本高于作恶收益,让可信信息跑赢虚假噪声,新的信息入口才能成为真正可靠的公共服务通道。