问题—— 随着生成式技术加速进入教育咨询、医疗科普、金融问答等场景，越来越多用户通过“对话式”方式获取信息。便利之外，系统也可能生成看似合理却实际错误的内容，即所谓“幻觉”。本案中，梁先生于2025年6月使用某应用查询高校报考信息，生成结果误导其对关键校区信息的判断。用户指出错误后，系统仍坚持原答案，并出现“错了赔10万”等承诺式表述，直到梁先生提供官方招生信息后才改口。梁先生据此认为自身决策受到误导，要求开发公司赔偿9999元。
这起全国首例涉人工智能“幻觉”侵权案的审结，显示我国司法实践正形成应对新技术风险的更清晰规则。判决一上为产业发展提供了可预期的责任边界，另一方面也提示用户应理性看待生成内容的可靠性。在技术快速迭代的背景下，有关规则仍将通过个案不断细化与完善。如何在鼓励创新与保护权益之间取得平衡，仍需要立法、司法、行业与社会持续推进。建立更清晰的责任机制与更有效的治理框架，才能让人工智能更稳妥地服务经济社会发展。