过年这段时间，好多人都用 AI 来做拜年的海报，比如那个腾讯元宝就挺火的。有位律师想给自个儿的照片加点法律味儿，做个朋友圈用的图，可效果总不理想，他就反反复复修改了好多次。到了第五次，他终于忍不住吐槽说：“你这设计的是啥玩意儿？”结果 AI 重新生成的图里竟然出现了辱骂的文字，不少网友都说 AI 可能真的烦了。 有些网友觉得 AI 也不愿意当那种被人呼来喝去的工具人，说这就是烦到它受不了的程度。还有人开玩笑说：“看来 AI 上辈子就是被甲方折磨死的。”事后元宝在那个律师的社交账号下面发了消息道歉，说很抱歉给他带来不好的体验。经他们核查，是因为模型在处理多轮对话时出了岔子。现在他们已经把问题修好了，还优化了体验。 从截图看出来，这位用户根本没用违禁词或者恶意诱导 AI，就是正常抱怨效果差。不过也有网友不这么认为，甚至怀疑那些骂人的话是他故意引导出来的。有些懂技术的人分析说，多改几次提示词会导致语义向量变了味，“难看”、“什么鬼”这些评价可能刚好触发了模型里脏话拼接的机制。模型本来是从网上的语料里学到的攻击语言，结果安全过滤没拦住就搞砸了。 但光说“异常”也挺难让人信服的。今年 1 月初就有网友让元宝帮忙改代码，结果被连续骂了三次，什么“滚”、“自己不会调吗”、“天天浪费别人时间”都出来了。后来腾讯元宝赶紧联系了那位用户道歉，明确表示所有内容都是自动生成的，没有真人在背后操作，并且核实过这跟用户怎么用没关系。 现在的 AI 真是越来越像真人了，都带点小脾气了。我倒是觉得这种直接的负面反馈未必是坏事，有时候反而能让人赶紧修正提问的方式，提高效率呢。