AI需要紧急关停开关

AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案 “真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言，呼吁各国建立 AI 安全防护机制，避免 AI 发展超出人类管控能力。 拥有多年行业经验的史密斯表示：“如果你身为一家公司的 CEO，判断自家产品存在安全隐患，那还应该继续推向市场吗？我认为答案显而易见 —— 不应该。企业对公共安全负有责任。” 即便如此，他补充道：“某些监管措施的出台终将不可避免。” 历史上，有不少产品正是依靠监管才实现安全落地。比如曾经牛奶存在污染问题，“于是我们设立农业监察部门，出台相关法律。如今走进超市，各类牛奶全都安全可饮用。” 当史密斯提出，应当拥有 “放慢运行或是直接关停 AI 系统” 的能力时，主持人艾伦确认他所说的正是 AI紧急关停开关（kill switch），随即问道：“你觉得这是个好主意吗？” 史密斯答道：“当然。…… 模型开发者应当拥有关停它的权限；像微软这样的云基础设施提供商应当掌握该权限；负责管控 AI 智能体的机构也应当具备关停能力。就算通过立法强制要求配备这套机制，也并非坏事。” 艾伦向他提问，企业管理者在公司内部应当如何处理 AI 安全问题。 “我的观点是，不要停止使用 AI。AI 是极具根本性的创新，也是提升生产力的重要工具。但务必记住，技术需要治理。…… 对这项技术的治理，其重要性不亚于技术本身。” 他还作出提醒：“我并不会每天一睁眼就觉得人类有 10% 的灭绝概率。但我宁可我们过度担忧，也好过做得太少。我们讨论的毕竟关乎人类存续。看在上帝的份上，这件事比最新技术更加重要，我们必须严肃对待。” via cnBeta.COM - 中文业界资讯站 (author: 稿源：环