2月下旬，多位用户反映在使用腾讯"元宝"智能服务制作春节拜年海报时，系统生成的内容中出现了侮辱性文字。社交平台流传的截图显示——用户在正常操作过程中——意外获得了包含脏话的生成结果。腾讯技术团队回应称，经调查发现，问题出在多轮对话场景中上下文理解模块的算法偏差，导致系统对语义的理解出现严重错误。
技术服务公众，首先要经得起公众检验。对生成式应用来说，用户增长可以靠活动快速拉动，但信任需要靠稳定性和责任感来积累。只有把每次输出都当作"公开发布"来把关，把每次投诉都当作"系统体检"来改进，才能让技术创新以更安全、更可靠的方式服务更多场景。