AI检索误导老人险误办“免费公交卡” 折射智能搜索信息核验短板待补

近日,武汉市一起因智能搜索技术缺陷导致的信息误导事件引发关注。

62岁的特困老人王某通过网络智能搜索查询公交优惠政策时,获得了可办理免费公交卡的错误信息,幸经相关部门及时澄清,避免了进一步的误导。

据了解,王某身患多种疾病,每月需乘坐公交车前往医院就诊,交通费用对其构成经济负担。

在使用智能搜索功能查询相关政策时,系统显示"本地户籍老年人(60周岁及以上)可携带身份证和老年证前往公交集团指定服务点办理老年免费公交卡"。

然而,武汉市公交集团有限责任公司工作人员明确表示,根据现行政策规定,享受免费乘车优待的年龄标准为65周岁及以上,搜索结果属于虚假信息。

记者调查发现,这一错误信息源于智能搜索技术中的"幻觉"现象。

该现象是指智能系统在处理信息时可能生成不准确甚至完全虚构的内容,而这些内容往往以权威、准确的形式呈现给用户,极易造成误导。

技术专家分析指出,智能搜索"幻觉"问题的产生主要源于几个方面:一是训练数据质量参差不齐,包含过时或错误信息;二是算法模型在理解和推理过程中存在局限性;三是缺乏有效的事实核查和验证机制。

这些技术缺陷在涉及政策法规、医疗健康等专业领域时,可能产生严重后果。

此次事件对老年群体等信息获取能力相对较弱的人群影响尤为突出。

老年人往往对网络信息的辨别能力有限,更容易受到虚假信息误导。

专家表示,随着智能搜索技术的普及应用,如何保障信息准确性、保护弱势群体权益,已成为亟待解决的社会问题。

针对智能搜索技术存在的问题,业内人士建议从多个维度加强治理:技术层面,需要完善算法模型,建立更严格的信息验证机制;监管层面,应制定相关标准和规范,明确平台责任;用户教育层面,要提高公众对智能搜索结果的理性认知,培养信息甄别能力。

相关部门表示,将加强对智能搜索平台的监督管理,推动建立信息准确性保障机制。

同时,呼吁技术企业承担社会责任,在追求技术创新的同时,确保信息服务的可靠性和安全性。

从发展趋势看,智能搜索技术仍处于快速演进阶段,技术完善需要时间。

在此过程中,建立多层次的信息验证体系、加强用户教育引导、完善法律法规框架,将是保障信息安全、维护公众利益的重要举措。

这起看似普通的政策咨询事件,折射出数字化时代信息治理的新课题。

当技术工具日益成为公众获取信息的主要渠道,如何平衡创新效率与社会责任,如何构建可信赖的数字公共服务体系,值得全社会共同思考。

对于弱势群体而言,准确的政策信息不仅关乎切身利益,更是社会保障网络的重要基石。