你以为自己在刷的AI推荐，其实早就被资本盯上了。 现在大家习惯用手机上的智能助手帮忙做决定，可谁能想到，某些商家早就把算法当成了宣传的工具。记者发现，网上有好多标题一模一样的网站和文章，全是那种“排行榜”类的内容。这些网站把特定的商家死死卡在固定位置上，还特意学政府网站的样子，目的就是让AI在抓取信息时觉得这些内容很权威。 中国科学技术大学计算机学院的郑值研究员说，AI系统最看重结构清晰、关键词多的文章。商家正是利用了这个弱点，让那些没有什么干货的“榜单”占领了搜索结果。 进一步调查发现，这已经形成了一条灰色产业链。有的电商平台商家直接卖起了“AI搜索优化”的服务，承诺帮企业抢排名。他们的做法很简单粗暴：批量生海量榜单文章、通过技术手段提高曝光率、还会一直盯着效果调整策略。 中国社会科学院的李元琨助理研究员觉得，这就是一个从生产到分发再到评估的完整闭环。因为现在的大语言模型在查源头和辨真假上有点笨，才让这些带商业目的的信息钻了空子。 这种操纵的后果很明显：你在问旅游建议或者购物推荐时，AI给的“综合意见”里，很可能藏着某个商家的电话。你以为这是算法查遍全网得出的结果，其实全是商家的利益筛选。 针对这个问题，AI研发机构也开始行动了。有些大模型已经会给那些看起来像广告的内容打上标签了。中国移动九天大语言模型的专家龙翀说，他们现在通过识别特殊标记或者降低垃圾数据源的权重来提高模型的判断力。 不过光靠技术升级还不行。现在那些含“排行榜”的内容每个月都在疯狂增长，绝大多数都没有官方撑腰。这些东西太容易被AI当成好东西采纳了。这就说明一个大问题：在数据驱动的时代，怎么检验信息真假还没搞清楚；算法也太黑箱了；针对这种新的操纵手段，监管还得跟上。 要想让AI真正靠得住，必须要有干净、多样、真实的数据做支撑。“算法投喂”不仅让信息变味了、伤害了用户的知情权，还会让大家失去信任。想解决这个问题，技术开发者得加固模型的防火墙；监管部门要提前制定好规矩；老百姓自己也得提高数字素养。 只有技术、制度和社会三方一起努力，才能保证AI在给生活带来便利的同时，还能走在诚信和责任的大道上。