Anthropic CEO 提议引入“银行式监管”：专家称评估员无权叫停 AI，你不能既当运动员又当裁判

9 月 17 日，据 CNBC 报道，Anthropic CEO Dario Amodei 提议将独立第三方安全评估员长期嵌入前沿 AI 公司，赋予其接近内部风险团队的访问权限，并在有限删减前提下自主发布调查结果的权力。他明确援引银行业嵌入式监管作为先例。 不过，多位银行业监管专家和 AI 评估从业者指出，这一方案缺乏银行监管者所拥有的强制执行权，评估员无法阻止模型的训练或发布，两者的实际权力不可同日而语。 此前，Anthropic 前研究员 Jacob Coxon 辞职并警告，前沿实验室正竞相追逐可能失控的系统。Amodei 在上周末发表的长文中提出上述计划，并承诺 Anthropic 将向第三方评估员提供与内部风险团队相当的系统访问权。他写道，该提议“在银行业有先例，银行业有时会让监管‘监督员’与员工一起嵌入工作”。Amodei 还警告，未来 6 到 12 个月内，一个错位的智能体群可能抢占互联网的大部分，并造成数千亿美元损失。该文已引发 AI 社区及政府内部的监管分歧，包括美国总统特朗普在内。 怀俄明大学法学院院长、银行业监管专家 Julie Andersen Hill 表示，银行监管者拥有切实的行政强制权。她说，在大型银行，政府检查员常驻机构内部，可访问内部系统和员工，并能指令银行停止某项业务、限制增长、强制管理层变动，极端情况下可关闭银行。相比之下，Amodei 提议的评估员只能调查和报告，没有类似的执法权，也没有阻止模型训练或发布的法律权力。“如果你不给他们那种权力，我不知道他们在做什么，”Hill 说，“这是根本性的不同，因为银行监管者的权力要大得多。” 评估员的