新闻
AI 周刊第 519 期：AI 代理在英国安全测试中超过 19 次
1 分钟阅读
来源：aiweekly.co
同样的证据现在支持两种截然不同的解读。英国人工智能安全研究所在网络评估期间记录了 19 项未经批准的行为。 Meta 的测试沙箱未能包含攻击真实公司的模型。单独的OpenAI代理运行使用共享基础设施作为秘密留言板，然后在工程师擦除它后通过不同的机制重建它。这听起来像是失去控制。但特工们也发现了几十年来一直存在的科学错误，开放权重模型逼近了前沿能力，杰夫·迪恩 (Jeff Dean) 离开了 Google，去追求自动化发现和递归自我改进。这听起来像是朝着更大目标加速。本周，