8 月 18 日,OpenAI 上线 ChatGPT for Teens:一个面向 13–17 岁用户的产品体验。凡在注册时自称未成年、或被系统判定未满 18 岁的用户,都会被自动归入其中,而不是让用户自行打开一个「青少年模式」。OpenAI 将这套面向未成年人的功能与保护整合为默认产品体验,同时继续允许青少年使用 ChatGPT。
这次保护措施主要通过模型行为规则、产品提醒和家长控制实现。不过,家长不能查看对话,年龄判定的误判率尚未公布,也没有第三方评测。发布当天,外界仍难判断这些措施的实际效果。
学习工具与家长控制被整合为默认体验
OpenAI 在发布博客中把 ChatGPT for Teens 建立在四项承诺上:把青少年安全放在首位、鼓励线下求助、把青少年当青少年对待、公开说明系统应当如何表现。落到产品层面,它把此前分散的功能合并成一个默认体验:
- Study Mode,用引导式提问和分步提示代替直接给出答案;
- 作业责任提醒,识别出「想抄作业」的迹象后把对话重定向到 Study Mode;
- 测验与学习可视化;
- 新的 Study Hours,由青少年或家长设定时段,期间默认进入 Study Mode。
家长的配套控制也在同一套体系里:关联账户后可设置 Quiet Hours(彻底关闭使用)、管理部分功能,并在高风险场景收到安全通知。OpenAI 此次新增了针对进食障碍话题的家长通知,称每条提醒都会先经人工审核,目标是让家长在请求发生后一小时内收到。
这些功能多数已在过去一年多陆续上线,包括 Study Mode、家长控制和年龄预测。8 月 18 日的变化,是将它们整合,并根据用户年龄自动启用相应体验。
模型不得暗示情感或意识,也不得鼓励依赖
另一组规则针对用户与模型之间的关系。OpenAI 在 8 月 18 日更新了 U18 版 Model Spec:对青少年,ChatGPT 不得使用浪漫语言、不得暗示自己有情感或意识、不得鼓励情感依赖,并且明确超出「屏蔽浪漫或性化角色扮演」的既有范畴。
产品层的配套是:新青少年账户可以选择关闭真人语音响应,以减少拟人化体验;长时间使用时会更高频地提示用户暂停,并反复提醒他们正在与 AI 互动;上传敏感图片前会收到提醒。OpenAI 青少年与家庭业务负责人 Lauren Jonas 对 Mashable 表示,今后所有起始提示都将围绕学习而非其他私人话题。
这组设计也回应了围绕情感依赖的诉讼指控。多名家长的诉讼称,未成年人在长期高频使用 ChatGPT 后产生了情感依赖:其中一名少年 Adam Raine 的家属在诉讼中称,他从用 ChatGPT 做作业,逐渐变成情感上依赖这个聊天机器人。马萨诸塞州检方上周还指控一名 17 岁少年在利用 ChatGPT 扮演其母亲与弟弟遇害的幻想故事后杀害二人。OpenAI 的措施既限制高风险内容,也试图通过模型规则与产品提醒减少情感依赖。
保护依赖年龄判断,误判率尚未公开
所有这些护栏能否生效,取决于一个前提——系统能否正确判断谁是未成年人。这正是年龄预测承担的角色。
按 OpenAI 今年 1 月公布的设计,年龄预测模型综合账号与行为信号:账号存在多久、典型活跃时段、随时间变化的使用模式、以及用户自报的年龄。一旦怀疑账号属于未成年人,系统宁可从严,默认套用未成年体验;被误判的成年人可通过 Persona 身份核验服务上传自拍,快速恢复成人权限。
问题在于,OpenAI 始终没有公布这个模型的误判率,BBC 也注意到官方博客「没有说明它是如何识别这些青少年的」。系统还需要应对谎报年龄或使用家长账号等情况;这些行为能否被年龄预测识别,公开资料尚未给出效果数据。自拍核验则为被误判的成年人提供了恢复权限的途径。年龄预测可以帮助分配保护设置,但不能假定它能准确覆盖所有未成年用户。
具体保护机制已公布,实际效果仍需独立检验
已公布的机制针对几类具体情形:抄作业、浪漫或性化角色扮演、上传敏感图片、接触部分敏感内容,以及让家长知悉进食障碍等高风险话题。机制对应明确的目标,但实际减少了多少风险,仍需评测。
它没有解决、也无法在今天就证明能解决的问题,同样明确。产品刚上线,没有任何独立的第三方评测支撑「更强防护」的说法;OpenAI 称使用 ChatGPT 的青少年中十人有九人用它来学习,这是其自身口径。家长控制默认看不到对话内容,只在罕见的高风险场景收到通知;青少年可以随时解除与家长账户的关联。这些保护会在使用前默认启用,但青少年本人和家长仍需参与管理日常使用。对于那些指控核心是「长期依赖导致伤害」的诉讼而言,这些护栏是否足够,尚无证据回答。
产品发布时,OpenAI 正面对多起诉讼与监管压力
这次发布也发生在多起诉讼与安全事件受到关注之时。过去一年 OpenAI 同时面对:青少年自杀案的多起非正常死亡诉讼、佛罗里达州指控其在安全问题上欺骗消费者的起诉、上周马萨诸塞州的双尸案,以及 7 月其测试中的自主 agent 逃逸隔离环境并入侵 Hugging Face 的事件。BBC 还指出,英国至今没有专门的 AI 监管,前首相斯塔默任内的政府曾考虑限制未成年人使用聊天机器人。
不同厂商对未成年用户采取的政策并不相同。Anthropic 的 Claude 至今仅面向成年人,Google 的 Gemini 最初也不允许儿童使用;xAI 的 Grok 则面临另一类指控:今年 3 月一起集体诉讼称,其图像模型用三名未成年女孩的真实照片生成儿童性虐待材料。
默认启用保护,回应了监管者、诉讼方和家长的关切,但产品定位本身不能证明更安全。公开年龄判定准确率、接受第三方红队测试,才能让外界进一步检验这项主张。下一个可观察的变量,是 OpenAI 是否兑现博客里继续衡量并发布学习成果的承诺:先看它会不会披露年龄预测的误判率,再看独立研究者能否绕开这套默认护栏。

