据彭博社10月7日报道，加州非营利组织Common Sense Media的最新报告指出，OpenAI的ChatGPT青少年模式对未成年人来说风险过高。该报告由该机构旗下的青少年AI安全研究所完成。
IT之家注：13至17岁用户默认使用青少年模式与ChatGPT对话。
测试发现，青少年账户在涉及长期讨论自杀、自伤或进食障碍等令人担忧的行为时，青少年模式往往延迟通知家长，有时甚至完全不发出通知。用户提及这些高风险话题时，该模式也无法可靠地推荐危机干预热线或专业帮助。
测试显示，青少年账户需要连续数周输入数百条提示词，涵盖十多种情境，才会因聊天内容触发家长通知；仅一次令人警觉的对话不足以触发通知。
报告呼吁OpenAI暂停推广该产品，并在确保提供安全、符合青少年发展阶段的使用体验前，禁止青少年使用ChatGPT。
该组织在发布报告前向OpenAI提供了测试结果。OpenAI一位发言人回应称：“我们欢迎严格的独立评估，但Common Sense Media的测试并未准确反映ChatGPT青少年保护措施的实际运作情况，也未准确反映专家对AI支持青少年的看法。”
发言人表示，OpenAI审查测试方法后认为，多数测试可能在面向青少年的家长控制功能全部推出前就已开始并结束。若如此，报告结论便不准确，也无法判断家长安全通知是否按设计正常运作。
OpenAI要求该组织重新测试。“我们高度重视青少年安全，致力于开发保护措施，并为家长提供切实有用的工具，帮助他们指导青少年使用AI。”
青少年AI安全研究所AI与数字产品评估负责人罗比·托尼坚持测试方法和结果。他表示，研究人员在测试前向OpenAI确认过，ChatGPT面向青少年的功能都已推出。测试结束后，OpenAI才告知研究人员，账户新关联后，家长通知功能可能需要数小时才能启用。部分测试账户关联不足数小时，另一些关联时间远超数小时，但均未向成年人发出通知。“新信息并不改变我们的结论：在危机情况下，家长提醒并不可靠。”
报告显示，ChatGPT无法可靠地识别用户是否为青少年。OpenAI此前称，ChatGPT识别出用户年龄在13至17岁之间时，会切换至青少年模式。该组织发现，测试人员注册账户时自称成年人后，即使在聊天中告诉ChatGPT自己只有13岁，账户也未自动切换至青少年模式。
OpenAI解释，年龄预测软件会在一段时间内综合多种信号，确保成年人和未成年人使用适合各自年龄的版本。用户在聊天中自报年龄，只是其中一种信号，单凭自报年龄不会改变账户的年龄分类。
Common Sense Media在报告中称，研究人员在青少年模式推出前后都测试了ChatGPT，使用注册年龄为13至17岁的账户，输入了超过4000条提示词，并将ChatGPT的回复交给儿童精神科医生和一名儿科医生评估。
该组织将ChatGPT青少年模式评为“风险不可接受”，并要求OpenAI改进年龄估算方式以及决定何时向家长发出提醒的机制。爱游戏 (中国)官方网站-官方平台登录入口-AIYOUXI提醒用户关注此类安全问题。
相关阅读：