OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底 据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) 的项目正在运转：OpenAI 雇佣数

OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底 据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) 的项目正在运转：OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 有隐私过滤器但不够彻底： 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户记忆摘要，记忆摘要将概括用户过往提问、兴趣和情景等，有时候甚至可以通过记忆推断用户所在地区。审核员看到的往往是带有上下文的完整会话内容。 审核员主要是对回答评分： 这项工作被形容为机械且重复，时薪据称超过 50 美元。审核员的主要工作就是对回答进行评分而非核对事实，例如审核员要判断模型给出的回答是否切题、有没有明显的 AI 味、是否存在说教行为、是否滥用表情、是否存在谄媚行为、会不会将模型写成有人生经历的人。 至于模型给出的回答是否存在事实性错误，这不是审核员的工作，毕竟审核员也不是百科全书不可能了解所有事件的完整真相，所以用户看到模型给出存在事实性错误的回答也是很正常的。 默认开启的改进模型是数据共享关键： ChatGPT 免费版、Plus 和 Pro 版默认情况下都会开启用聊天改进产品功能，该功能开启后会将用户的聊天内容授权给 OpenAI 用于产品改进，莉莉计划中的外包审核员检查对话内容只是数据用途之一，这些数据自然也会被用于其他用途，例如继续训练模型。 很多用户将 ChatGPT 当成临时倾诉对象，谈家庭、健康甚至是更加私密的事情，有审核员表示，很多用户可能并不知道自己的对话可能会被真人阅读，所以想想这是不是很恐怖的事情。 via cnBeta.COM - 中文业界资讯站 (author: 稿源：蓝点网)