新闻
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职 Jacob Coxon在X上宣布辞去Anthropic职务
1 分钟阅读
Anthropic研究员Jacob Coxon因不满AI军备竞赛而辞职 Jacob Coxon在X上宣布辞去Anthropic职务。他表示自己过去三年分别在OpenAI和Anthropic从事预训练研究，但认为两家公司都没有以负责任的方式推进AI开发，反而在“直奔自我改进型超级智能”，并将人类安全置于赌局之中。 Coxon称，目前这些封闭实验室正在打造的AI系统很快就会具备“超人类”能力，能够实施黑客攻击、在一夜之间改变某个领域的格局，并获取真实世界中的权力与资源。他指出，相关研究进展已经在多个方向上持续推进，而且没有明显放缓迹象。 他还提到，从OpenAI首席执行官Sam Altman和Anthropic首席执行官Dario Amodei的公开表述来看，外界可能会以为两家公司都在谨慎推进AI发展，但他认为事实并非如此。Coxon声称，这些从业者私下里相信AI“可能在本世纪末杀死我们所有人”，而这并不是营销话术；他还表示，Altman和Amodei等高管在面对媒体时会调整措辞，使自己显得更为克制，但私下实际上对正在被创造出来的东西深感担忧。 在他看来，OpenAI与Anthropic的内部文化也并不相同。Coxon说，OpenAI中有不少员工并没有“深刻意识到其中的文明级风险”；而在Anthropic，相关风险“大家都很清楚”，但公司仍被锁定在率先开发AGI的竞赛中。Coxon表示，Anthropic认为既然别人也未必会负责任行事，那么自己就必须先赢得这场竞赛。 Coxon认为，在这样的背景下，许多关键决策不应只在私营公司的Slack里完成。他对美国AI实验室之间在近期事件后加强协调持谨慎乐观态度，但认为这种合作一旦扩展到美国以外的实验室就会失效。为此，他提出可以考虑对模型能力提升实施临时禁令。 在帖文结尾，Jacob Coxon呼吁其他实验室研究人员认真思考未来五年，不要继续回避问题，而应推动AI发展走向不同方向。 via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM )