新闻
曝 Anthropic、OpenAI 与谷歌秘密磋商:筹建 AI 安全标准机构 据知情人士透露,早在 Anthropic 首席执行官达里奥·阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前,Anthropic、OpenAI 与谷歌就
1 分钟阅读
曝 Anthropic、OpenAI 与谷歌秘密磋商:筹建 AI 安全标准机构 据知情人士透露,早在 Anthropic 首席执行官达里奥·阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前,Anthropic、OpenAI 与谷歌就已经展开磋商,计划携手成立一家 AI 行业标准机构。 知情人士称,自 7 月起,三家公司的 CEO 层级之下代表已成立工作组定期开会磋商。OpenAI 首席执行官山姆·奥特曼本周早些时候在公司全员大会上表示,他支持设立 AI 行业测试与审计机构,但认为主要 AI 实验室必须在美国政府不提供支持的前提下,自行组建这套标准组织——虽然他原本期待政府出面支持,但目前行业内部尚未形成充分共识,部分企业持反对态度。 三种模式存分歧:FAA、FINRA 还是行业自治 阿莫代伊上周六发布博文《我们必须把控前沿发展节奏》,主张放缓 AI 发展速度、建立独立监督机制,行业自我监管正是其中重要一环。他提出,政府着手制定 AI 监管法规的同时,企业可先行推行自愿性安全标准,政府可牵头或斡旋行业对话;同时呼吁各国头部公司向 METR 这类外部评估方开放等同于内部员工级别的技术访问权限,并承诺 Anthropic 率先落实,还呼吁出台有限反垄断豁免以便开展安全协作。 刚卸任谷歌 DeepMind CEO 的德米斯·哈萨比斯表示,该提议大方向正确,但部分细节“仍有待打磨完善”——他今年 7 月曾提议参照美国金融业监管局(FINRA)模式搭建 AI 自律组织。SpaceX CEO 埃隆·马斯克同样表示赞同。而据 The Information 此前报道,白宫曾传阅一份拟设立该监管机构的行政命令草案,但今年夏末未能在政府内部争取到足够支持,相关工作就此搁置;前白宫 AI 主管戴维·萨克斯一直公开反对建立类似 FINRA 的机构。 批评声:这“活脱脱一个卡特尔的构思” 行业内部也有不少批评。Cohere 首席执行官艾丹·戈麦斯对头部 AI 企业共同制定规则、约束中小竞争对手的做法表达担忧:“这套想法听上去,活脱脱一个卡特尔的构思。”萨克斯则质疑研发放缓是否完全出于利他