OpenAI 推出青少年版 ChatGPT，多名儿童安全专家质疑安全机制透明度

IT之家 8 月 23 日消息，OpenAI 本周推出了 ChatGPT 青少年版，专门面向年轻用户，并通过年龄识别机制限制部分功能。 对此，外媒 Engadget 采访了多名儿童安全专家，他们对 ChatGPT 青少年版的评价并不一致。但所有人都认为，在向家长和年轻人推荐之前，这套系统还需要 接受大量独立测试 ，OpenAI 必须更加透明地说明安全机制究竟如何运作。 为家庭提供娱乐和科技产品建议的 Common Sense Media 公司 AI 与数字评估负责人罗比 · 托尼认为：“OpenAI 这次做出了一些非常重要的承诺， 但必须拿出证据， 证明这些安全承诺和功能真的有效。” 儿童网络安全倡议组织 Fairplay 执行董事乔什 · 戈林的态度更加严厉：“从纸面上看，OpenAI 公布的一些措施确实像是在朝正确方向前进，但继续深挖后，仍然有很多值得担忧的地方，其中就包括 没有问责机制 。社交媒体已经证明，在保护儿童的问题上，仅仅相信企业并不管用，OpenAI 也已经出现过同样的问题。在那之前，OpenAI 本就有针对自杀、暴力和吸毒的内容限制，但这些限制 要么不起作用，要么会随着时间推移逐渐失效 。” 二人都怀疑，OpenAI 的自动年龄识别系统 能否稳定识别青少年 ，并切换到 ChatGPT 青少年版。托尼指出：“OpenAI 没有公布这套系统的效果数据，误报率和漏报率都不为人知，自动系统远不可能识别 ChatGPT 上的所有青少年。回想 OpenAI 此前计划推出部分色情内容功能时，当时有报道说的，最终没有推出的一个原因，就是年龄估算技术无法准确识别足够多的青少年。