2月24日那天,美国国防部长赫格塞思找来美国人工智能公司Anthropic的老板达里奥·阿莫迪,跟他开了个会。美联社的记者还有其他一些媒体都跑去报道了这件事。有人说,赫格塞思直接给阿莫迪下了个命令:得把文件签了,就这周五之前!要他答应让军方随便用他家的AI技术,要不然就得拿人怎么办了。听消息的人说,赫格塞思警告阿莫迪,Anthropic公司别再担心军方会乱用技术。他甚至还吓唬说要动用《国防生产法》,强迫这家公司听指挥。《国防生产法》就是给美国政府在打仗或者出现紧急情况时,管私营公司的权利用的。 赫格塞思把这事儿讲得明明白白,就好比波音公司卖给五角大楼飞机的时候,波音公司不能干涉五角大楼想怎么飞。现在军方要用AI产品也得照这个规矩来。但Anthropic公司死活不同意把AI用在大规模监视美国人身上,或者让AI自己决定去打谁的目标。阿莫迪也跟赫格塞思强调了这两条不能碰的底线。有知情人透露,阿莫迪想保证五角大楼不能在没人管的情况下,用他家的AI自己去选最后的军事行动目标。 这个知情人还说了个很关键的点:Anthropic的AI模型“Claude”还不够靠谱,很容易犯致命错误。这玩意儿要是失控了,不仅任务搞砸了,甚至还会让事态变得更危险。之前有报道说,在对付委内瑞拉的行动中,美军就用过“Claude”。消息一出,Anthropic赶紧找五角大楼问是不是真的,也把他们的担心告诉了对方。 美国“政治”新闻网记者问五角大楼的高官,关于这次会谈到底咋回事儿。那官员回答得很官方:“这跟大规模监控和用自动武器没关系。五角大楼只是下了合法命令。”Anthropic的发言人也承认了24号确实见了面。发言人表示,双方就怎么用政策的事儿聊得挺深的。目的就是要让Anthropic能接着帮政府维护国家安全的使命,同时也得确保“Claude”运行得靠谱点、负点责才行。