就在美国当地时间的10月11日，大名鼎鼎的人工智能安全领域先驱Anthropic官宣要成立官方智库了，这给准备迎接通用人工智能（AGI）的人类带来了新希望。这家新成立的Anthropic Institute智库，不再纠结于开发更强的模型，而是把目光投向了防范“强大人工智能”可能给社会带来的深层风险。鉴于公司预计人工智能在两年内就能突破技术难关，甚至可能比多数人预想的更早摸到AGI的门槛，为了防患于未然，新机构给未来的研究设定了四个主攻方向：第一是研究自动化如何重塑全球劳动力市场，好让大家心里有底；第二是防止在生物安全和网络攻击等高风险领域滥用技术；第三是探讨怎么让AI的决策符合人类的伦理标准；第四是探索AI在自我监督和进化过程中的透明管理。Anthropic还立下了个规矩，不想走科技巨头那种封闭的老路，决定当一座桥梁。他们打算把在开发尖端系统时遇到的那些头疼的技术难题拿出来跟公众和决策机构分享，然后再拉着外部研究机构、政策制定者还有民间组织一起商量对策。值得一提的是，那个叫Claude的模型用户量现在已经超过一百万了。哪怕公司的计算能力和财富都在猛涨，这家公司也还是死守着“安全第一”的信条不放。