AGI的到来好像已经不是远在天边的事了，Anthropic在这事儿上算是很有先见之明。他们在美国当地时间11号搞了个大动作，成立了个官方智库。这个Institute可没打算去搞什么更厉害的模型，它的职责就是专门琢磨强大AI可能给咱们社会带来的那些大麻烦。 大家伙儿都琢磨着AI发展的速度太吓人，很多时候都超出了咱们的预期。Anthropic这帮安全领域的先行者，这回是真心想把事儿干在前面。他们估计未来两年里头，AI肯定会有大突破，甚至搞不好比咱们想的还快，说不定很快就摸到AGI那个边了。 所以这次智库成立的第一要务，就是盯着这四个方面不放： 第一，看看AI把全球的劳动力市场都给重塑成啥样了，得琢磨出个应对的法子。 第二，得防着AI技术被人拿去搞坏事，比如生物安全或者网络攻击那些高危领域，得把社会防御能力提上去。 第三，怎么才能让最前沿的AI系统做决定的时候跟咱们的伦理标准还有公共利益对上号。 第四，也是最难搞的，得想办法搞个自循环治理体系，让AI自己能监督自己演化，还要透明合规。 说白了就是要打破技术巨头的那种封闭性，给大伙儿架个桥。他们想把在搞前沿系统时候遇到的那些真实技术难题拿出来跟公众还有决策机构分享，顺便也得多跟外面的科研机构、政策制定者还有民间组织合作，一起琢磨出个对付的招数。 最近他们公司表现得特别抢眼，听说用户增长快得吓人，一天就能多一百多万。不过在算力和财富暴涨的背后，这家公司一直都没有丢掉“安全优先”的底裤。