问题——“AI投毒”灰产暴露大模型数据底座短板。 近期，央视“3·15”晚会调查显示，个别机构通过所谓“优化系统”多个平台铺设虚假信息，进而影响部分大模型的回答倾向与推荐排序，甚至让并不存在的产品被“主动推荐”。该现象本质上是对训练数据与信息环境的污染：行为人以商业目的或不当竞争为导向，编造、篡改、投放内容，诱导模型输出偏差信息，造成对公众认知和市场秩序的干扰。随着大模型加速进入搜索、咨询、导购、客服等高频场景，任何数据偏差都可能通过“看似权威”的生成结果被快速扩散，风险更具隐蔽性与传播性。 原因——恶意操纵与数据采集筛选不足叠加放大。 从成因看，数据污染并非新出现。早在搜索与推荐算法主导的信息分发时代，“刷量”“造势”“抬排名”等人为操控就已存在，并在部分领域形成链条化、工具化的灰色生意。进入大模型时代，这类操纵从影响网页排序延伸为影响模型回答，危害更直接。另外，更普遍的风险来自“非恶意但高频”的低质数据进入训练集：在海量抓取与自动化处理过程中，若缺乏严格的来源审查、事实核验和质量过滤，偏差、失实、过时甚至带有误导性的内容就可能混入。研究提示，即使极低比例的虚假文本进入训练数据，也可能显著抬升模型有害输出的概率，说明数据底座的“微污染”足以触发系统性安全挑战。 影响——从安全风险到生态失衡，“递归污染”尤需警惕。 数据污染的危害不止于一次性错误回答，更可能形成循环放大效应：模型吸收被污染的数据后生成内容，这些内容再被平台收录、被检索抓取并进入后续训练或检索增强环节，导致污染在数据—模型—内容—数据之间回流，形成“递归污染”。一旦进入循环，治理成本将显著上升。 在内容生态层面，低成本、规模化生成的同质化文本若被算法持续放大传播，优质原创内容可能被海量“信息噪声”稀释，出现“劣币驱逐良币”的倾向，进而削弱平台公共信息质量与社会信任基础。在产业层面，数据污染还会拉低模型能力上限，增加幻觉、偏见与不当引导的概率，影响企业应用落地的可靠性与合规性。更需关注的是，长期暴露在低质量数据环境下，模型能力可能出现持续性退化，带来难以逆转的性能与安全损失。 对策——坚持源头治理、过程管控与协同共治并举。 第一，把数据治理前置到产业链源头，建立“可追溯、可评估、可审计”的数据全流程管理。推动训练数据来源标识、采集授权与质量分级，加强事实核验与去重过滤，提升对虚假信息、营销操纵、批量生成内容的识别能力。 第二，完善以风险为导向的制度安排，强化过程规制。现有规范已将训练数据纳入监管视野，但面对新型“投毒”手法和跨平台链条化操作，需要深入细化数据安全与内容治理衔接机制，明确平台、模型服务提供者、数据供应方等主体责任边界，形成“预防为主、管控在前”的治理闭环，避免仅在结果危害出现后被动追责。 第三，提升技术对抗与监测能力，形成动态防线。针对数据投毒、排名操纵、批量生成灌水等行为，建立异常内容与异常传播的监测预警体系，推动模型侧安全对齐、检索侧可信来源白名单、内容侧水印与溯源等手段协同发力，并通过第三方评测与红队测试常态化发现漏洞。 第四，强化行业自律与跨平台联动。灰产往往跨平台扩散、跨环节套利，单一主体难以独立应对。应推动平台间共享典型样本与风险特征，形成联合处置机制；同时，引导企业把数据质量投入视为核心竞争力，以“清洁可信数据”支撑产品能力与商业信誉。 前景——以高质量数据塑造竞争新优势，推动人工智能行稳致远。 人工智能产业竞争，表面看是模型参数与算力之争，深层是数据质量与治理能力之争。随着大模型在政务服务、医疗健康、金融风控、教育科研等领域加速渗透，安全、可靠、可控将成为规模化应用的“通行证”。未来一段时期，围绕数据来源合规、质量评估标准、训练过程审计、生成内容可追溯各上的制度建设有望完善；同时，国际层面关于数据治理、内容安全与技术标准的交流合作也将更加紧密。以更严格的数据治理筑牢底座，将为产业创新留出更大空间，也将为公众使用建立更稳固的信任预期。
清洁可信的数据是人工智能产业健康发展的基石。当前，我国正处于人工智能快速发展的关键时期，必须将数据质量与污染治理置于战略高度。只有以清晰的政策导向、完善的制度设计和有力的执行机制，从源头阻断污染风险，才能确保AI技术向善发展，让人工智能真正成为推动经济社会进步的有力工具。这既是产业发展的内在要求，也是维护信息生态和社会秩序的必然选择。