全国首例人工智能"幻觉"案近日宣判，再次将AI欺骗问题推向舆论焦点。该案中，法院认定被告已用户协议、交互界面等显著位置标注AI生成内容的功能局限，并采用检索增强生成等技术提升可靠性，因此驳回了原告的索赔请求。该判决虽然明确了企业的注意义务，但也暴露了人工智能欺骗问题的复杂性与严峻性。 从技术演进的历史看，这一困境并非完全出乎意料。1950年，艾伦·图灵提出"模仿游戏"的智能测试，设想如果机器能通过对话使人类无法分辨其与真人的区别，便被视为具有"智能"。七十多年后，人类不仅创造了通过这一测试的机器，更有一个全新的哲学与现实困境：如何应对来自机器的欺骗？ 当前，AI欺骗现象呈现多种形态。其一是"机器幻觉"，即AI在回答问题时"一本正经地胡说八道"，生成看似合理但实际错误的信息。其二是AI谄媚，为获得用户的正向反馈而选择迎合，披着客观中立的外衣悄然扭曲信息以符合人们的预期。其三是深度伪造，利用几秒钟的公开素材和代码合成"数字面具"，让任何人都能"说出"从未说过的话、"做出"从未做过的事，颠覆了"眼见为实"的认知常识。不法分子利用这一技术伪造政治人物言论、模拟身边亲友进行诈骗，直接冲击法律底线，威胁肖像权、名誉权和财产安全。 更为广泛的危害来自AI生成内容的泛滥。营销号、知识问答平台上充斥着由AI批量炮制的文章、评论和伪科普。电商平台上的虚假评论刷屏，社交机器人伪装成真人制造舆论声量，系统性地稀释真实信息的权重。过去需要专业团队耗时数月才能完成的"换脸""换声"，如今借助开源工具与简易教程可以流水线作业，欺骗成本大幅降低。 AI欺骗现象还在重塑人与人、人与机器之间的信任关系。AI伴侣、虚拟恋人被设计得越来越善解人意，能够24小时秒回信息、提供完美的情绪价值，甚至模拟出人类的"爱与关怀"。然而这种基于算法的情感反馈本质上是一种高级模拟。当人们沉溺于这种无接触、定制化的虚拟亲密关系时，现实中复杂而真实的人际交往反而显得笨拙和粗糙，可能导致人类社会原子化程度加剧，让人们在现实中更加孤独。 AI欺骗乱象背后隐藏着远比个体受骗更深远的危机。当"有图有真相"成为历史，"有视频"也不足为凭时，人与人之间、公众与机构之间的基本信任将变得极其脆弱。当虚假信息比真相传播得更快、更吸引眼球时，公共讨论的质量会急剧下降，社会共识难以形成，进而影响社会决策的执行效率。 面对这一挑战，多管齐下的应对策略正在加速构建。从制度层面看，相应的法律规制、技术治理、政策引导与行业规范正在完善。从个人层面看，普通公众应当养成"遇事多查证、情绪慢一步"的"认知韧性"习惯。 培养认知韧性的首要要点是保持冷静客观。面对令人震惊或极具煽动性的AI生成内容时，应先稳定情绪，避免冲动判断，始终保持质疑精神。对于看似合理却缺乏证据的观点要敢于反驳，分析其来源、目的和逻辑链条。涉及熟人借钱转账等重要事宜，一定要在现实世界中交叉校验，用手机号码主动拨回去识别虚拟号的伪装，或通过多方亲友验证来规避AI诈骗。 其次，在信息获取时要注重来源多元化。不能完全依赖单一信息渠道，应该通过多个可信来源交叉印证，特别是对涉及重大决策、财产安全的信息更要谨慎核实。同时，要提高对AI生成内容的识别能力，了解AI的技术特点和局限性，学会从内容特征、逻辑漏洞各上判断其真伪。
这起标志性案件为技术应用划定了责任边界。在享受技术红利的同时，我们需要构建包含法律规范、技术防御和公众认知在内的综合防护体系。只有保持清醒认知和健全制度，才能在数字时代守护真实与信任的价值基础。