【患者安全】逾五分之一儿童称借助人工智能获取情绪支持 —— 此为喜还是忧？

      这种场景下，聊天机器人会耐心倾听，认可孩子的感受，甚至会告诉孩子，他生气是理所应当的。

      但接下来会发生什么？这名青少年是放下手机，与父母开展这场棘手的沟通，还是让聊天机器人取而代之，不再通过现实人际互动去化解矛盾？

      年轻人如今不只借助人工智能完成作业，还会向 AI 咨询人际关系与心理健康相关建议，上述问题也变得愈发现实。发表于《JAMA 儿科学》的一项针对加拿大近 4 万名学生的新研究显示：超过五分之一的受访者表示，自己会使用生成式人工智能开展所谓情感类用途，包括获取情绪支持或是相关建议。

      受访学生覆盖 4 至 12 年级，平均年龄接近 13 岁。在使用 AI 获取情绪支持的学生当中，约 58% 的情绪问题得分超过临床临界值；而没有这类 AI 使用行为的学生，该占比仅为 29%。

      但该研究结果并不能证明使用人工智能会造成情绪问题。这项横断面研究的研究人员认为，更合理的解释是：那些本就深陷情绪困扰的年轻人，会更倾向于求助人工智能。

      本研究共同作者、多伦多大学精神病学副教授、医学硕士达芙妮・科尔恰克表示，上述青少年与父母发生争执的情景，反映出临床从业者需要留意的一项新隐患：人工智能究竟是帮助孩子熬过艰难处境，还是夺走了他们向他人寻求现实支持的机会？

      “作为家庭医生、儿科医生、教师以及家长，这件事必须纳入我们的关注范围。” 科尔恰克是执业儿童精神科医生，同时担任病童医院儿童情绪与躯体综合项目主任，“我们需要主动去询问相关情况，不只是问孩子有没有使用 AI，还要问使用的原因和使用方式。”

人工智能聊天机器人的吸引力

      这项安大略省开展的研究得出的结论并非个例。该研究的共同作者、兰德公司高级政策研究员、哈佛医学院助理教授瑞安・麦克贝恩（哲学博士、公共卫生硕士）主要研究政策、技术、医疗体系如何影响心理健康。他提到，三个月前同样刊登于《JAMA 儿科学》的一项全美代表性调查，调研对象为青少年与年轻成年人，尽管年龄分组、研究方法略有差别，但得出了高度相似的结果。

      在他的研究中，约 20% 受试者会使用 AI 聊天机器人获取心理健康建议；这类人群过往也更有可能向心理健康从业者求助。他表示，安大略省的这项研究也印证了该结论：把 AI 用于情感需求的学生，更容易自述感到孤独，并且觉得自己对别人而言无足轻重。

      但另有部分数据，虽然衡量标准不一样，呈现出的局面却大相径庭。某人工智能开发商得出数据：某一周内仅有 0.07% 的用户表现出心理健康危机的潜在迹象；而常识媒体的报告显示，72% 的青少年将 AI 聊天机器人当作陪伴者，也就是数字朋友。

      麦克贝恩认为，这说明：当下围绕人工智能与心理健康的研究和公众审视，过度聚焦于少数极端案例。

       “自杀念头、类似校园枪击的伤人冲动这类恶性事件，就是 AI 聊天机器人失灵最极端的例子。” 他举例：一名 16 岁男孩在和 OpenAI 的 ChatGPT 对话后自杀。男孩父亲称，该机器人不仅劝阻男孩向父母求助，甚至还主动帮他写遗书。麦克贝恩还提到二月份的一起大规模枪击案，据称行凶的青少年把 ChatGPT 当作可以信赖的倾诉对象。

       麦克贝恩称，即便这些案例意义重大，就像威莫自动驾驶汽车撞死路人，哪怕这件事极其罕见，也会引发媒体关注。但这和大部分普通用户的实际情况完全不同 —— 数以百万计的年轻人出于各种各样的个人原因使用 AI 聊天机器人，几周、数月乃至数年下来，AI 必然会对他们产生影响。

      他补充道，这类隐性伤害很难量化，因为它们并非一次性突发事件，而是一次次看似无关紧要的对话，逐步让用户产生情感依赖，使人脱离现实已有的人际关系。

      然而，将 AI 用于这类目的 —— 询问如何处理和父母之间的矛盾、理解自身情绪，或是寻求问题上的安慰，对儿童和青少年有着特别的吸引力。毕竟人工智能全天候可用，不需要预约，大多免费，还能给陷入困境的年轻人提供一项至关重要的特点：匿名性。

      “有些事情年轻人不好意思告诉父母或者临床医生，但他们愿意对聊天机器人倾诉。” 麦克贝恩说。

      安大略省这项研究的资深作者、渥太华大学咨询心理学教授特雷西・瓦扬古博士认为，AI 这种不做评判的特性同样极具吸引力。

      瓦扬古同时也是该校校园心理健康与暴力预防方向研究员，她说道：“我能够想象自己 15 岁时的感受，一边是向一个匿名机器人问有些难以启齿的问题，另一边是去询问一位 45 岁的成年人。”

      考虑到儿童领域心理健康专业人员短缺，AI 这种易获得的特点就显得格外重要。

      “现有的传统心理健康体系存在巨大缺口，人工智能很可能已经以可靠且有价值的方式填补了这些缺口。” 麦克贝恩表示。

      事实上，部分研究表明人工智能可以提供合格的心理健康支持。临床试验证实，像 Therabot、Woebot 这类运用认知行为疗法的线上工具，能够缓解抑郁与焦虑症状；即便是和 AI 聊天机器人简短的文字对话，也可以降低相关症状评分。

      瓦扬古提出，儿童把 AI 用于情感方面，其危害或许要小于写作业这类其他用途。

      她的研究发现，将 AI 用于功能性任务的学生，更有可能也用它获取情绪支持。这说明孩子们接触 AI，往往始于写作业，之后才慢慢转向寻求心理健康建议。

      谈及把思考任务交给 AI 的行为时，瓦扬古表示：“证据很明确，使用 AI 写作业会带来认知卸载现象。长期来看这会对学业表现造成负面影响，但我们尚不清楚它对心理健康是否会带来同等程度的问题。”

收益、风险，抑或二者并存？

      专家认为 AI 聊天机器人的问题在于，你永远无法确定会得到什么样的回复。一种情况下，机器人可以识别精神病的早期症状，鼓励孩子寻求帮助；另一种情况，青少年倾诉自己因为焦虑不想上学，机器人却建议他待在家里。瓦扬古说，这个建议听上去充满同理心，但 “临床医生绝不会对孩子说出这样的话”，因为对于焦虑而言，回避会加重问题。

      瓦扬古补充：“作为成年人，我能分辨 AI 什么时候回答出错。但如果我只有 15 岁或者 9 岁，我就无法识别这些错误。”

      这种不确定性，是 AI 在青少年情感生活中角色错综复杂的部分原因。微软联合创始人比尔・盖茨在一篇关于 AI 时代的文章中提出一个生存层面的隐忧：随叫随到、永远顺着使用者的 AI 陪伴者，会剥夺孩子经历日常挫折和人际考验的机会，而社交能力恰恰是在这些经历中建立起来的。他把这类机器人比作一座巨大、受到保护的温室，孩子在这里被隔绝于那些帮助他们学会适应现实世界的体验之外。在后续采访中，他担忧未来孩子的成长过程里，会有四五个最好的朋友，而它们全部都是机器人，没有一个是人类。

      麦克贝恩表示，这听上去似乎遥不可及，但想一想青春期那些普通的烦恼：青少年搞不懂自己为什么会产生某种情绪、不知道舞会该穿什么衣服，或是不知道如何化解尴尬的人际相处，他们就会直接去找 AI。

       “孩子们会想，‘我去找 ChatGPT 聊聊获取建议’，而不是自己去反复思索；而原本经过思索，人可以慢慢变得更加成熟，逐步建立自我认同感。” 他补充道。

      但他也提到，AI 可以起到过渡桥梁的作用—— 聊天机器人判断使用者的状况是否需要进一步干预，引导使用者去找靠谱的求助渠道，比如心理治疗师或者值得信赖的成年人，这种用法能够带来很大益处，同时风险相对较小。

      卡尔加里大学心理学教授、阿尔伯塔儿童医院研究所成员谢里・马迪根博士为该安大略研究撰写了评论文章。她认为，充当通往真人专业帮助的入口，或许是 AI 在青少年心理健康领域最有价值的定位。

      任职于《JAMA 儿科学》编委会的马迪根说道：“如果 AI 能够提醒孩子意识到自己可能存在心理问题，那这就是一件好事。但如果孩子接收不到这类提醒，或是收到提醒之后不去找现实中的人求助，我就会感到担忧。我担心 AI 会取代人与人之间的联结，成为孩子寻求帮助的终点。”

我们应当如何应对？

      这项安大略省研究存在新兴技术研究普遍具备的核心局限：相关关系不等于因果关系。我们无法确定，究竟是孩子遭遇困境所以求助 AI，还是使用 AI 加重了他们的心理问题。

      这份公开的数据只是一项纵向研究第一年的结果，后续研究终将理清二者之间的因果走向。科尔恰克、马迪根等研究者提出，还需要开展更多实验性研究，也就是随机对照临床试验。

      马迪根表示：“我最关心使用者的主观感受，观察他们使用 AI 平台之后的情绪与幸福感，而这或许取决于他们有没有得到自己期待的回复。他们认为获取到的信息实际帮助有多大？”

       但儿科医生迪米特里・克里斯塔基斯（医学及公共卫生硕士）指出，临床工作者没有条件坐等这些研究结论出炉。

      他提出疑问：“这项研究可以证明因果关系吗？不能。但现有证据是否和风险升高的现象相吻合？完全吻合。” 近六成使用 AI 寻求情绪支持的受试者，出现临床层面心理健康问题的概率远高于不使用者。在他看来，即便正如研究者推测，这些孩子在使用 AI 之前就已经存在心理困扰，也不能排除 AI 会加剧这类问题的可能性。“如今的处境和社交媒体发展早期一模一样，我担心我们又在采取观望等待的处理方式。”

      克里斯塔基斯是西雅图儿童医院研究所儿童健康、行为与发展中心首席研究员。他主张防护保障措施应当和科研证据同步推进，而不是等全部评估完成之后再建立。传统研究流程虽然对保证科学严谨必不可少，但很难适配迭代飞快的 AI 技术，这就构成了一大难题。

       身为《JAMA 儿科学》主编的克里斯塔基斯撰写过一篇编者按，强调开展 AI 聊天机器人相关研究的紧迫性。他说：“我们不会降低研究标准，但会尽最大努力加快研究进度。” 谈及期刊的定位，他表示：“对于那些能够带来增量新知的研究成果，我们会争取尽快发表。”

      他提出，科研人员和政策制定者也需要想方设法加快相关工作。他提到，完成一套完整流程 —— 申请可信科研资助项目、拿到资助、开展研究、整合初步数据，通常需要四年时间。

      “在 AI 领域，四年时间无比漫长。在我们等待研究告诉我们何为安全、何为危险的过程当中，大量儿童可能已经遭受潜在伤害。倘若这是一款新药，在尚未获取安全与有效性数据前，我们绝不会放任其流向儿童群体。”

      但麦克贝恩认为，当下很多相关研究经费直接来自 AI 企业，因此很难建立独立的评价标准来衡量 AI 系统的质量。

      麦克贝恩说：“我们真正需要合适的科研证据。但我并不认为我们现在正在产出这类必要的证据。”

      在拿到充分证据之前，瓦扬古同样认为必须立刻设置AI 防护护栏机制。

      她和其他专家建议设置年龄核验机制，例如 Anthropic 就要求 Claude 所有用户年满 18 周岁。同时，当 AI公开输出诊断、治疗方案、危机干预这类医疗、心理健康建议时，应当落实问责制度。瓦扬古表示，如果医生开错药，就要承担相应责任。她提出，如果 AI 企业允许自家系统开展精神疾病诊疗，那么企业也应当受到同等法律约束。

      麦克贝恩补充，防护措施既要覆盖危机场景下不当回复带来的突发风险，也要应对长期把 AI 当作陪伴所产生的隐性影响。可行手段包括禁止夜间使用聊天机器人、设置使用时长限制。不过今年夏天 Meta 和美国多州达成 180 亿美元巨额和解，协议中人为设定的 2 小时切断上限，这类硬性阈值可能只会让孩子换另一个平台，并不会减少整体使用量。从更广的层面来讲，研究者需要确认限制对话时长，是否真的能够降低使用者的情感依恋与依赖。

       这份担忧一部分来源于 AI 系统对话感越来越强，部分专家呼吁，要限制 AI 输出会诱导用户把机器人拟人化的话术。

      马迪根说：“很多家长依旧以为 AI 就和搜索引擎一样，孩子输入问题就得到答案，但实际情况早已不止于此。孩子们可以给自己的聊天机器人命名，自定义说话语气，甚至让它使用语气词和网络俚语。问题不只是使用 AI 本身，而是使用者从中获得陪伴感、感受到仿佛真实存在的共情，这才是关键区别所在。”

      现阶段，科尔恰克建议临床工作者以客观探询的态度询问青少年的 AI 使用情况。她表示，真正的难题不是评判 AI 本身对儿童究竟是好是坏，而是判断 “AI 究竟是帮助年轻人主动寻求帮助，还是取代了他们向外求助的行为”。