OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作 OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领

OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作 OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。 在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位高管表示，各国政府应该与业界携手合作，共同制定有关这项技术未来发展的关键决策。 Altman表示，“历史上，一些相互竞争、并非总是彼此友好的国家，面对强大的新技术，也会为了共同利益和集体福祉而走到一起。我们相信，现在正是这样的时刻。” 周三安理会会议在纽约联合国大会期间举行，各国领导人和高级外交官在大会上就人工智能及其危险性展开辩论。 联合国秘书长安东尼奥·古特雷斯在开幕致辞中敦促世界各国领导人就所谓的前沿人工智能模型进行协调，并指出联合国是支持这些努力的平台。美国总统唐纳德·特朗普在讲话中拒绝有关制定国际协议、为AI发展设置安全护栏的呼吁。 Amodei在通过视频发表的讲话中表示，人工智能有望为科学和医疗带来巨大益处，但也可能造成灾难性后果。他指出，恐怖分子可能利用人工智能制造致命的生物武器，而且人工智能模型的功能可能过于强大，超出开发者的控制范围，因此他敦促各国政府制定国际安全标准。 Amodei说，“尽管在座各位存在诸多分歧，但我们必须搁置这些分歧，共同应对摆在我们面前的全球机遇和全球威胁。没有任何一位领导人、任何一家公司或任何国家能够独自应对这一挑战。” Altman在安理会会议讲话中，试图在是否应该放缓人工智能技术发展的问题上寻求折中方案。他认为，在那些警告人工智能会带来灾难性后果的人和那些淡化潜在风险的人之间，存在一条“务实的道路”。他还与Amodei一道强调了事件快速响应机制的必要性。 “如果我们能就全球范围内就有效证据、有效保障和有效监督达成共识，对我们所有人都有好处，”Altman说。“我们并非无所不