openai搞硬件和机器人的头儿,凯特琳卡利诺夫斯基辞职了

OpenAI搞硬件和机器人的头儿,凯特琳·卡利诺夫斯基(Caitlin Kalinowski)辞职了。她在当地时间周六宣布这事,说实在看不惯公司急着跟五角大楼合作。她觉得OpenAI在安全上没把护栏扎牢就签了字,“国内监控”和“致命自主武器”这些红线都没被认真聊过。卡利诺夫斯基其实很在意机器人团队,还有她们一起干的事。她说这决定做起来真不容易。毕竟人工智能在国家安全这块挺关键的,但是如果没了法律管着去监控老百姓,或者不需要人批准就能搞致命动作,这两条线本该谈得更仔细点。这是关于原则的问题,不是为了自己。她特别尊重Sam还有整个团队,也为自己的工作感到自豪。凯特琳是去年11月才来OpenAI的,她在Meta干了两年多硬件,领头搞过一个叫“Project Nazare”的AR眼镜项目(后来叫Orion)。以前她还在Meta底下的Oculus待了九年多,专门弄VR头显;在苹果也混了快六年,参与过MacBook Pro和Air这些产品的设计。这次风波就是因为OpenAI答应把自家的AI模型扔到国防部的机密网络里去用。几天前,Anthropic因为死活不同意放宽对国内监控和自主武器的限制,跟五角大楼谈崩了,结果被国防部给列入了“供应链风险”名单。大家对这个协议反应很激烈。Sensor Tower的数据显示,2月28日那天协议一出来,ChatGPT美国App被卸载的数量比前一天暴涨了295%,比过去30天平均水平的9%高多了。下载量也掉了13%,3月1日还接着降了5%。面对这铺天盖地的骂声,奥尔特曼在3月1日发微博道歉了,说这事儿干得太投机也太草率。他说会改改协议的内容,定好三条红线:AI不能去搞国内大规模监控、武力使用(包括自主武器)必须得有人把关、服务不能被情报机构拿去用。他还说这些问题太复杂了,得好好沟通,“慢慢推进”,配合技术措施再看怎么搞。OpenAI发言人在确认凯特琳辞职时也说了几句:他们觉得跟五角大楼的协议是在国家安全这块负责任用AI的一个办法,“不用于国内监控、不用于自主武器”就是他们的底线。他们知道大家对这事儿有分歧,以后会继续跟员工、政府、公民社会还有全球各地的社区聊。