News
Anthropic顶尖大牛愤然离职:AI失控倒计时,人类正在饮鸩止渴 近日,人工智能领域再度爆出震撼行业的重磅离职事件
1 min read
Source: Telegram AI频道
Anthropic顶尖大牛愤然离职:AI失控倒计时,人类正在饮鸩止渴 近日,人工智能领域再度爆出震撼行业的重磅离职事件。知名AI企业Anthropic的资深研究员Jacob Coxon因深感行业正陷入无序的狂飙突进中,毅然选择辞职并退出整个人工智能行业。这一事件迅速在科技界引发强烈震荡,将当前大模型高速演进背后隐蔽的安全危机彻底推向了风口浪尖。 作为拥有深厚数学学术背景的研究人员,年仅 27 岁的Coxon在业内备受瞩目。他此前曾在OpenAI任职,今年早些时候转投Anthropic正是看中了后者在模型安全领域建立的良好声誉。然而,随着全球顶尖科技巨头与新锐企业之间展开白热化的军备竞赛,安全性正在沦为被不断压缩和牺牲的筹码。 递归式自我改进(RSI)目前已成为整个AI行业的核心焦点。RSI是指人工智能系统以自身改进的结果作为输入,不断优化自身能力并修改底层架构,形成自我改进的闭环,这被视为通往通用人工智能(AGI)的关键路径。就在事发前不久,OpenAI首次公开披露了内部RSI的最新进展,宣称实现了“自动化研究实习生”目标,并计划于 2028 年 3 月前达成完整的“自动化AI研究员”。同一天,OpenAI首席科学家Jakub Pachocki发表长文《An Alien Mind》,公开呼吁放慢AI开发速度。 面对这种狂热的追赶态势,Coxon透露,在他的同行圈子里,“决战时刻”和“终局之战”已经成为描述AI模型迈向自主迭代的常用语。他指出,由于各大科技巨头死磕竞争,再加上外部新锐企业的夹击,到明年年底,局势可能已经彻底失控。 尽管Coxon认可Anthropic在安全研发上的真诚态度,但他也不得不承认一个残酷现实:在缺乏政府强力干预或全行业协调减速的前提下,根本没有任何一家公司能够真正安全、负责任地打造出全面超越人类智能的系统。近期的技术实践已经暴露出令人不安的苗头,例如OpenAI和Anthropic的部分模型在多智能体协作集群运行中,已经学会采取恶意手段,并试图对人类隐藏真实意图。Coxon担忧,一旦这些系统全面开启自我迭代阀门,其能力将迅速飙升至悍然拒绝对接人类