问题—— 企业最担心的不是“被点名”,而是“被误导”。“3·15”晚会曝光的操纵内容、虚假宣传等问题,在生成式搜索和智能问答场景中影响更广:一旦不实信息被模型抓取并聚合,就可能以“看似客观”的方式反复出现,误导消费者决策,损害企业商誉和市场秩序。市场反馈显示,曝光后短期内,咨询品牌风险监测、网络声誉维护和内容核验服务的企业明显增多,部分机构甚至出现集中签约现象。 原因—— 从“灰产作乱”到“机制漏洞”,核心矛盾在于信息供给与模型取用的错配。业内分析指出,生成式应用对外部信息的引用存在结构性矛盾:短视频平台、自媒体等内容更新快、规模大、格式统一,容易被自动化工具采集;而权威报告、企业声明等材料发布周期长、表达严谨,在算法分发中不占优势。加上批量账号、模板化内容等低成本生产方式,不实信息更容易形成“数量优势”和虚假热度,进而在智能问答中被放大。 同时,行业治理面临跨平台、跨环节的难题。虚假内容的生成、传播和再扩散可能涉及多个平台和技术环节,单一主体难以独立追溯和处理。企业在应对突发舆情时,往往需要同时处理多平台内容清理、关键词纠偏、证据留存和投诉维权等复杂工作,推高了治理成本和时间压力。 影响—— “恐惧驱动”下的防御性投入增加,可能引发新的内容内卷。曝光警示效应迅速传导至市场:一些企业将生成式搜索视为新的“舆情入口”和“消费决策渠道”,预算从传统搜索优化转向覆盖更多平台的“生成式场景治理”。但也有担忧,若缺乏统一规则和透明机制,企业为降低风险而增加内容投放、扩大账号规模,可能导致信息环境更加拥挤,形成“用更多内容对冲不实信息”的非理性竞争,反而挤压优质信息空间,降低公众获取可靠信息的效率。 对策—— 以“可验证的证据链”提升可信度,以“可追责的规则”压缩灰产空间。多方建议治理重点应从打击灰产转向完善平台规则和行业标准: 1. 推动信源透明,要求生成式应用明确标注信息来源、发布时间及可核验链接,形成可追溯的引用链条; 2. 优化权重机制,提高权威机构、检测认证支撑内容的优先级,对模板化、批量化的疑似操纵内容降权; 3. 提升平台审核效率,建立快速核验通道,对虚假内容及时标注或下架,并保留追责证据; 4. 加强监管协同,制定数据抓取、广告标识、虚假宣传等环节的细则,推动跨平台联合治理。 前景—— 从“被动应对”到“制度化防御”,关键在于让技术进步与公共利益同步。生成式应用的普及正在改变信息传播方式,也对内容治理提出更高要求。未来竞争不应是“谁更会制造声量”,而是“谁能提供可验证的事实”。随着信源标注、内容水印、反作弊等技术发展,以及监管规则完善,生成式场景的信任体系有望加速建立。对企业而言,提升透明度、建立权威发布渠道和完善舆情预案是长期任务;对平台而言,增强引用机制的可解释性和纠错能力是赢得信任的基础。
这场由“3·15”引发的行业震荡,暴露了数字信任体系的短板。在追求技术效率的同时,如何构建更稳健的信任机制,不仅关系企业发展,也是数字化社会治理的重要课题。当技术跑在规则前面时,需要政府、企业和技术界协同治理,避免陷入“越防护越混乱”的困境。