凯琳·佩林，一位美国业余棋手，靠AI发现了一个漏洞，把世界第一的围棋AI给拉下了马。她赢了15场对局中的14场，完全不靠电脑辅助，这让围棋界一片哗然。尽管AI曾经被认为是不可战胜的，凯琳却用她的直觉撕开了机器防线。这是佩林继李世石之后给AI的另一次挑战。AlphaGo曾经横扫李世石和他的世界冠军头衔，李世石也说自己的退役是因为AI太难战胜。但是这次胜利改变了局面，“不可战胜”这个词突然变得不那么坚定了。佩林用了一个战术叫做“大圈包围”，这套战术来自于一款由加州FAR AI公司开发的对抗性探测程序。这款程序和顶尖系统KataGo下了100多万盘棋，专门找出那些不常见的、机器算错的着法。佩林就是用了这个数据库里的一招，彻底打败了两个顶级AI系统。围棋棋盘有361个交叉点，每一步都有无数种可能，所以机器通常用“蒙特卡洛树搜索”和“深度神经网络”来评估局面和寻找最佳落子。不过，当佩林使用“大圈包围”加上分散注意力的组合拳时，机器在空旷区域错误地评估了子力价值，导致整盘崩盘。加州大学伯克利分校的斯图尔特·拉塞尔教授指出，这显示出了深度学习在泛化能力上的缺陷。虽然模型规模越来越大，但缺少验证样本和训练就容易出现问题。未来开发者需要把对抗训练纳入常规流程，这样AI才能在进化中不被人类的诡计击败。