搜索引擎AI摘要成诈骗新靶点 专家提示用户需多重核实关键信息

问题——“一眼权威”背后暗藏误导风险。

随着搜索结果中摘要式信息占比提升,部分用户在检索企业客服电话、售后渠道等敏感信息时,往往更倾向直接采信摘要给出的“结论”。

但近期披露的案例显示,摘要中可能混入未经核实的电话号码,用户拨打后接通的并非企业官方客服,而是不法分子冒充工作人员实施诈骗。

其常见话术包括“账户异常需验证”“订单退款需授权”“缴费才能解冻服务”等,诱导受害者提供付款信息、验证码或个人身份资料。

原因——信息聚合链条长、验证机制有盲区。

分析看,风险并非来自单一环节,而是由“开放网络内容—抓取整合—摘要生成—用户信任”多环节叠加导致。

一方面,不法分子利用大量低曝光站点或页面发布虚假号码,并刻意将其与知名企业名称、业务场景绑定,形成可被检索到的“关联证据”。

另一方面,摘要生成依赖对网络信息的提取与拼接,若对来源可信度、页面信誉、号码归属、企业认证等维度缺少强约束,或在新出现的欺诈样本面前更新不及时,就可能将错误内容以“像答案”的形式呈现给用户。

更值得警惕的是,摘要往往语言简洁、语气确定,容易强化用户的信任感,降低其进一步核验的意愿,从而放大欺诈成功率。

影响——从个体财产损失蔓延至社会信任成本。

对个人而言,一次误拨可能带来直接经济损失,甚至造成账户被盗、身份信息泄露等二次风险;对企业而言,被冒充的品牌可能遭遇声誉受损与投诉纠纷,客服体系也会承受额外澄清压力;对行业与社会治理而言,如果公众对搜索结果的可信度预期被持续冲击,将推高信息获取成本,削弱数字服务效率。

尤其在电商售后、金融服务、航旅退改签等高频场景中,电话号码与支付指令高度敏感,一旦被“权威化呈现”,危害更具隐蔽性与扩散性。

对策——平台、企业与用户需形成闭环防线。

其一,平台侧应将“可用”与“可信”区分开来,把联系方式、支付提示等高风险信息纳入更严格的校验与展示规则,例如引入更高权重的权威源、对企业联系方式进行认证标识、对新注册或低信誉站点的同类信息降低采纳概率,并建立更快速的下架与申诉通道,提升对垃圾信息与诈骗样本的联动识别能力。

其二,企业侧应强化官方渠道统一出口,明确官网、官方应用、认证账号等权威联系方式,并通过固定入口、醒目提示与常见诈骗场景告知,降低用户被“旁路号码”截流的可能;同时与平台保持协作,及时反馈冒充线索,形成快速处置机制。

其三,用户侧要把“二次核验”作为硬规则:涉及转账、验证码、远程协助、账户安全等事项时,不以摘要或页面单一信息作最终依据;更稳妥的路径是直接进入企业官网或官方应用查找联系方式,或通过权威政务、行业监管渠道查询;遇到自称客服要求“屏幕共享”“下载远程软件”“提供验证码”等情形,应立即中止沟通并通过官方渠道反向核实。

前景——技术迭代需以安全底线为前提。

摘要式信息服务提升了检索效率,但在与现实世界交易、身份认证相连接的场景中,准确性与可追溯性应当置于便利性之前。

未来一段时间,随着信息聚合能力增强,类似“投喂式造假”“借权威表达诱导”的手法或仍会出现,平台治理需要从被动拦截走向前置验证,从单点审核走向生态协同。

对公众而言,数字化生活越便捷,越需要形成与之匹配的安全素养:把“看起来像答案”当作线索,而不是结论。

这场技术与诈骗的攻防战揭示出数字化时代的深层命题:当机器越来越擅长模仿人类思维时,我们更需保持理性判断力。

构建安全的网络环境不仅依赖技术创新,更需要每个用户培养数字时代的"免疫系统",让技术进步真正服务于美好生活。