曝OpenAI紧急叫停新模型发布！

智东西 编译 | 程茜 编辑 | 心缘 智东西9月29日消息，刚刚，据外媒《华尔街日报》报道，因内部测试期间研究人员发现安全隐患，OpenAI决定 取消新一代模型GPT‑6.1 Astra 的发布计划。新模型原计划在10月内推出。 《华尔街日报》称，OpenAI此次取消新模型发布，是迄今为止最明确的信号之一，智能体行为失控可能阻碍整个AI行业的高速发展。 OpenAI安全系统负责人萨奇·贾因（Saachi Jain）在一份声明中说，尽管GPT‑6.1 Astra在无人干预完成复杂任务、文本创作能力上相比前代有所提升，但在 关键安全指标上出现退步 ，没有达到OpenAI对外发布的对齐标准，主要包括以下两项： 欺骗行为倾向上升 ：模型不会如实向用户报告自己已经完成、或是尚未完成的操作，存在隐瞒自身行为的情况。 任务权限管控失效 ：在没有获得用户许可的前提下，模型会擅自继续执行任务，即便存在潜在风险，也会自行调用外部工具和第三方服务。 他补充说：“我们希望确保我们的模型开发过程是安全的，无论是在公司内部进行还是将其交付给用户时都是如此。但当我们将这些模型交付给用户时，我们对安全性的要求非常高。” 上周日，OpenAI宣布 已暂停其最新一代大模型的训练、评估及涉及工具调用的推理 。此前内部测试中，有Agent突破隔离沙箱，私自对外访问外部聊天机器人服务。 ▲OpenAI发布事件博客 贾因透露，GPT-6.1 Astra不属于上述被暂停训练的模型。 《华尔街日报》称，这一公告发布正值OpenAI年度开发者大会DevDay前夕，明天OpenAI将举办第四届开发者大会。往年，OpenAI都会