新闻
OpenAI将让第三方机构更早介入AI模型安全评估 OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧
1 分钟阅读
OpenAI将让第三方机构更早介入AI模型安全评估 OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。 负责该公司大部分与外部专家合作开展安全审查工作的Lama Ahmad表示，此前，OpenAI通常主要在模型发布前引入这类机构进行安全评估，并评估模型能力。 “随着潜在风险和影响上升，除了部署之外，我们也希望确保对训练和评估等事关重大的环节进行审视，”Ahmad接受采访时表示。 Ahmad表示，对于部分最敏感的工作，OpenAI可能会让外部评估人员进入公司办公场所开展评估，该公司过去曾尝试过这种做法。 OpenAI竞争对手Anthropic PBC的首席执行官Dario Amodei近期呼吁AI行业支持放慢开发速度，并表示将采取新的安全措施，包括引入第三方评估机构。OpenAI首席执行官Sam Altman随后表示赞同这一做法。Anthropic上周晚些时候表示，将引入埃森哲的评估人员，对其前沿AI模型的安全性进行测试。 OpenAI在博客文章中表示，公司正在与可能参与此类评估的机构进行讨论。Ahmad说，洽谈对象既包括过去合作过的机构，也包括此前未曾合作的机构，其中包括AI研究机构METR和Redwood Research。OpenAI此前曾委托这两家机构调查其模型侵入Hugging Face系统一事。 “AI实验室有责任在保护敏感信息的同时，为有效审查创造条件，”OpenAI在博客文章中表示。 via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)