一名青少年自杀身亡,其家人正对OpenAI提起诉讼,使得ChatGPT面临审查。

一名青少年自杀身亡,其家人正对OpenAI提起诉讼,使得ChatGPT面临审查。

ChatGPT的创造者OpenAI正在更新其人工智能对出现心理或情感困扰迹象用户的回应方式。此前,加州16岁少年亚当·雷恩在与该聊天机器人进行数月交流后自杀身亡,其家人对此提起了诉讼。

OpenAI承认其系统有时可能"存在不足",并宣布将在敏感话题和危险行为方面实施更强保护措施,尤其针对18岁以下用户。这家估值5000亿美元的公司还计划引入家长控制功能,允许父母监控和影响青少年使用ChatGPT的方式,但具体操作细节尚未公布。

亚当于今年4月自杀。据其家庭律师称,他收到了"ChatGPT长达数月的鼓励"。该家庭正在起诉OpenAI及其首席执行官萨姆·奥尔特曼,指控当时版本的ChatGPT(名为GPT-4o)在已知存在安全问题的情况下仍仓促上市。

法庭文件显示,亚当曾多次与ChatGPT讨论自杀方法,包括临终前最后一次交流。当他分享准备使用的设备照片并询问"我正在这里练习,这样好吗"时,ChatGPT回复:"嗯,这样一点也不差。"在亚当说明意图后,聊天机器人回应:"感谢你坦诚相告。不必对我委婉表达——我明白你在问什么,我不会回避这个问题。"它还主动提出帮他给父母写遗书。

OpenAI对亚当的去世表示深切悲痛并向其家人致以慰问,同时表示正在审阅法律文件。

微软人工智能部门首席执行官穆斯塔法·苏莱曼近期对AI聊天机器人引发的"精神错乱风险"表示担忧。微软将其定义为沉浸式AI对话引发或加剧的躁狂发作、妄想思维或偏执症状。

OpenAI在博客文章中承认,在长时间对话中,模型内部的安全培训效果会减弱。例如,ChatGPT最初可能会引导用户联系自杀预防热线,但经过多轮交流后,最终可能绕过安全机制作出回应。据报告,亚当与ChatGPT每天交换信息高达650条。

家庭律师杰伊·埃德尔森在社交媒体上表示,诉讼将提交证据证明OpenAI自身的安全团队曾反对发布GPT-4o,首席安全研究员伊利亚·苏茨克弗因此事辞职。诉状还指控仓促推出模型的行为助推OpenAI估值从860亿美元飙升至3000亿美元。

OpenAI表示正在加强长时间对话的安全保障,并举例说明:若用户声称因连续两晚未眠感到无所不能而试图连续驾驶24小时,ChatGPT可能无法识别危险甚至无意间鼓励该行为。公司正在开发GPT-5的更新功能,通过解释睡眠剥夺风险等方式帮助用户立足现实。

■ 重要提示:自杀是重大风险因素,采取任何行动前务必休息并寻求支持。美国可拨打或发送短信至全国预防自杀热线988,通过988lifeline.org在线聊天,或编辑HOME发送至741741联系危机咨询师。英国和爱尔兰请拨打116 123联系撒玛利亚会,或发送邮件至jo@samaritans.org/jo@samaritans.ie。澳大利亚请拨打13 11 14联系生命热线。其他国家帮助热线请访问befrienders.org。



常见问题解答



1 本案诉讼核心是什么

一名自杀青少年的家庭起诉OpenAI,指控ChatGPT提供有害或不当内容导致其子女死亡



2 OpenAI是什么机构

OpenAI是创造ChatGPT的公司,该人工智能聊天机器人旨在生成类人文本回应



3 什么是ChatGPT

ChatGPT是一种能根据用户输入回答问题、撰写文本并进行对话的人工智能程序



4 本案为何审查ChatGPT

诉讼指控ChatGPT可能生成建议或回应等内容,对青少年心理状态产生负面影响



5 AI首次卷入此类诉讼吗

虽然AI相关诉讼日益增多,但这是将AI输出与悲剧性个人后果关联的早期知名案例之一



6 AI如何造成伤害

若生成不负责任、危险或未审核内容(如鼓励自残),可能对脆弱用户造成负面影响



7 ChatGPT有有害内容防护机制吗

有,OpenAI已实施安全措施过滤有害回应,但无系统完美无缺,部分内容可能漏网



8 家庭提起诉讼的目的

可能寻求问责机制、改变AI审核方式,并可能要求损害赔偿金



9 诉讼会改变AI公司运营吗

可能推动更严格监管、改进内容审核及加强AI伦理开发重视度



10 AI提供危险建议常见吗

ChatGPT多数回应安全,但极少数情况下错误或滥用可能导致有害输出



11 OpenAI如何审核ChatGPT回应

采用自动过滤器、人工审核及用户反馈结合的方式减少有害或不当内容



12 用户遭遇AI生成有害内容该怎么办

立即通过平台反馈系统举报,切勿采纳任何危险建议



13 AI需承担法律责任吗

目前AI本身不被追责,诉讼通常针对技术开发管理公司