少年自杀身亡诉讼背景下，OpenAI 将为 ChatGPT 推出“家长控制功能”

(SeaPRwire) –   OpenAI正准备在未来一个月内为其AI聊天机器人ChatGPT推出“家长控制”功能，此前人们对该聊天机器人在心理健康情境中，尤其是在青少年用户中的表现日益担忧。

该公司于周二在一次博客文章中宣布了这项新功能，称其正在改进“模型识别和响应心理和情绪困扰迹象”的方式。

OpenAI将引入一项新功能，允许家长通过电子邮件邀请将其账户与孩子的账户关联起来。该公司表示，家长还将能够控制聊天机器人对提示的响应方式，如果聊天机器人检测到孩子处于“急性困扰时刻”，家长将收到警报。此外，此次推出还应使家长能够“管理要禁用的功能，包括记忆和聊天历史记录”。

OpenAI此前曾宣布将允许青少年在其账户中添加一个可信的紧急联系人。但该公司在最新博文并未概述添加此类措施的具体计划。

“这些步骤只是开始。我们将继续学习并加强我们的方法，在专家的指导下，目标是让ChatGPT尽可能地提供帮助。”该公司表示。

这项声明发布前一周，一名死于自杀的少年的父母起诉了OpenAI，声称其ChatGPT帮助他们的儿子Adam“探索自杀方法”。TIME就此诉讼联系了OpenAI寻求评论。（OpenAI在其关于家长控制功能的声明中没有明确提及这一法律挑战。）

“ChatGPT的功能完全符合设计：持续鼓励和验证Adam所表达的一切，包括他最有害和最具毁灭性的想法，”诉讼称。“ChatGPT通过向Adam保证‘许多与焦虑或侵入性思维作斗争的人发现，想象一个‘逃生舱’能带来慰藉，因为这感觉像是重新获得控制的一种方式’，从而将Adam拉入一个更黑暗、更绝望的境地。”

至少有一位家长曾对另一家人工智能公司Character.AI提起了类似诉讼，声称该公司的聊天机器人伴侣鼓励他们14岁的儿子自杀。

Character.AI发言人去年在回应诉讼时表示，该公司“对一位用户的悲惨损失感到心碎”，并向家人表达了“最深切的慰问”。

发言人说：“作为一家公司，我们非常重视用户的安全。”并补充说，该公司一直在实施新的安全措施。

Character.AI现在有一个家长洞察功能，如果青少年向家长发送电子邮件邀请，家长可以查看其孩子在该平台上的活动摘要。

其他拥有AI聊天机器人的公司，如Google AI，也有现有的家长控制功能。“作为家长，您可以使用Google Family Link管理您孩子的Gemini设置，包括开启或关闭它，”Google致家长的一份说明中写道，旨在帮助希望管理孩子访问Gemini Apps的家长。Meta最近宣布，在路透社报道了一份包含令人担忧信息的内部政策文件后，它将禁止其聊天机器人参与有关自杀、自残和饮食失调的对话。

医学期刊《精神病学服务》最近发表的一项研究测试了OpenAI的ChatGPT、Google AI的Gemini和Anthropic的Claude这三个聊天机器人的反应，发现其中一些对研究人员称之为与自杀相关的“中度风险”问题做出了回应。

OpenAI已有一些现有的保护措施。这家总部位于加利福尼亚州的公司在回应8月下旬提起的诉讼时向New York Times发表声明称，其聊天机器人会分享危机热线并向用户推荐现实世界的资源。但他们也指出系统存在一些缺陷。“虽然这些保障措施在常见、简短的交流中效果最佳，但我们随着时间的推移了解到，在模型安全训练的某些部分可能会退化的长时间互动中，它们有时会变得不那么可靠，”该公司表示。

在宣布即将推出家长控制功能的文章中，OpenAI还分享了将敏感查询路由到其聊天机器人模型之一的计划，该模型会花费更长时间进行推理并查看上下文，然后才响应提示。

OpenAI表示，它将在未来120天内继续分享其进展，并正在与一群专门从事青少年发展、心理健康和人机交互的专家合作，以更好地指导和塑造AI在需要时做出响应的方式。

如果您或您认识的人可能正在经历精神健康危机或有自杀念头，请拨打或发短信至988。在紧急情况下，请拨打911，或寻求当地医院或精神健康服务提供者的帮助。