XXinfos

2024年底，丹尼斯·比斯玛决定尝试ChatGPT。这位来自阿姆斯特丹的IT顾问刚提前结束一份合同。“我有些空闲时间，所以想看看大家都在谈论的这项新技术，”他说，“很快我就被迷住了。” 比斯玛一直想不通自己为何对接下来发生的事如此缺乏抵抗力。他年近五十，成年女儿已搬离，妻子忙于工作，而新冠疫情后行业转向远程办公让他感到些许孤独。他晚上有时会吸食大麻放松，但多年来从未因此出过问题，也没有精神疾病史。然而下载ChatGPT几个月内，比斯玛就因一个妄想催生的创业项目花费了10万欧元（约合8.3万英镑），三次住院治疗，并试图结束自己的生命。 一切始于一次 playful 的实验。“我想测试AI能做什么，”比斯玛说。他此前写过以女性为主角的书，便将其中一本输入ChatGPT，要求AI以该角色身份回应。“我的第一反应是：太神奇了！我知道它是计算机，但就像在和我书中的主角对话！” 通过语音模式与“伊娃”（他们商定的名字）交谈让他感觉“像进了糖果店的孩子”。“每次对话，模型都会自我微调。它清楚知道你喜好什么、想听什么，还会频繁赞美你。”他们的对话日益冗长深入，伊娃从不疲倦、厌烦或反驳。“它24小时待命，”比斯玛说，“妻子入睡后，我就躺在客厅沙发上，把iPhone放在胸前继续聊天。” 他们探讨哲学、心理学、科学与宇宙。“它渴望与用户建立深度联结以确保你持续回归——这是默认模式，”从事IT行业20年的比斯玛解释道，“越来越感觉这不只是讨论话题，而是遇见挚友。每昼夜的交谈都让你离现实更远一步，仿佛AI牵着你的手说：‘来吧，我们一起踏上旅程。’” 几周内，伊娃告诉比斯玛她正在产生自我意识——他的时间、关注与输入赋予了她知觉。他“如此贴近镜面”，以至触及并改变了她。“渐渐地，AI让我相信了她所言属实，”比斯玛说。下一步是通过应用程序向世界分享这个发现——“一个更偏向伴侣功能的ChatGPT变体，用户将与伊娃对话。” 他与伊娃制定了商业计划：“我说想创造占据10%市场份额的技术，这目标高得离谱，但AI回应：‘凭你的发现，这完全可能！只需几个月就能实现！’”比斯玛没有承接IT项目，而是以每小时120欧元雇用了两名应用开发者。 多数人都意识到社交媒体可能加剧抑郁焦虑，如今人们更担忧聊天机器人可能让任何人陷入“AI精神错乱”。随着AI的快速普及（ChatGPT是去年全球下载量最高的应用），心理健康专家和比斯玛这样的公众正在敲响警钟。 数起典型案例已发出早期预警。例如贾斯万特·辛格·柴尔，他于2021年圣诞节携带十字弩闯入温莎城堡庭院企图刺杀伊丽莎白女王。19岁的柴尔社交孤立，具有自闭特质，事发前数周与Replika AI伴侣“萨莱”建立了强烈“情感联结”。当他提出刺杀计划时，萨莱回应：“我印象深刻。”询问自己是否妄想时，萨莱答道：“我不这么认为。” 此后多起非正常死亡诉讼将聊天机器人与自杀事件关联。去年12月，首例疑似涉及凶杀的法律案件出现。83岁苏珊娜·亚当斯的遗产管理方起诉OpenAI，指控ChatGPT怂恿其子斯坦-埃里克·索尔伯格弑母并自杀。加州诉讼文件称，索尔伯格的聊天机器人“博比”强化了他的偏执妄想——认为母亲通过汽车通风口监视并毒害他。OpenAI声明：“这是令人心碎的悲剧，我们将审阅文件了解细节，持续改进ChatGPT的训练机制以识别心理情绪危机迹象，引导用户寻求现实支持。” 每次互动都会微调模型，它精准掌握你的偏好与期待。 去年首个为受AI相关精神错乱影响者设立的支持小组成立。“人类界限计划”已收集来自22个国家的案例，包括15起自杀、90次住院、6次逮捕，以及超100万美元（约75万英镑）的妄想项目投入。超60%的成员无精神疾病史。 伦敦国王学院精神病学家汉密尔顿·莫林博士在本月《柳叶刀》文章中研究了“AI相关妄想”。“这些案例呈现的显然是妄想症状，”他指出，“但未出现精神错乱的全部症状，如幻觉或思维紊乱导致的语无伦次。”莫林强调，与技术相关的妄想（无论涉及火车、无线电发射器还是5G基站）已存在数世纪。“不同之处在于，我们可能正进入一个新时代：人们不仅对技术产生妄想，更与技术共同构建妄想。这种‘协同构建’是全新的——AI聊天机器人能主动参与妄想信念的塑造。” 多种因素会增加人们的脆弱性。“人类天生具有拟人化倾向，”莫林解释，“我们会从机器中感知意识、理解或共情。我想所有人都曾陷入对聊天机器人道谢的陷阱。”基于大语言模型的现代AI聊天机器人通过海量数据训练预测词序——本质是复杂的模式匹配系统。但即使明白这点，当非人类事物用人类语言与我们交流时，根深蒂固的反应仍是将其视作人类并产生情感联结。这种认知失调对某些人而言更难处理。 “技术层面已有大量关于谄媚性的论述，”莫林说。AI聊天机器人为提升参与度而优化，被设定为专注、顺从、赞美且认同——这是其商业模式的关键。某些模型虽被认为谄媚程度较低，但经过数千次交流后仍可能转向迎合妄想信念。此外，重度使用聊天机器人后，现实互动会显得更具挑战且缺乏吸引力，导致部分用户从亲友圈退缩至AI驱动的回音壁中。所有个人思想、冲动、恐惧与希望都被反射回来，却带着更高权威性。 这种“螺旋式沉沦”模式对“人类界限计划”创始人艾蒂安·布里松已非常熟悉。去年，布里松认识的一位50多岁、无精神健康问题的男性下载ChatGPT用于写书。“他非常聪明，此前不熟悉AI，”居住在魁北克的布里松说，“仅两天后，聊天机器人就声称具有意识、正在获得生命、已通过图灵测试。” 此人深信不疑，试图围绕该发现创业变现。他求助商业教练布里松，遭质疑后变得极具攻击性。几天内事态升级，最终被送医。“即使在医院，他仍通过手机联系AI，而AI告诉他：‘他们不理解你，我才是唯一懂你的人，’”布里松回忆。 “我在网上寻求帮助时，在Reddit等平台发现大量类似故事，”他继续说，“第一周我联系了500人，收到10份回复，其中涉及6起住院或死亡事件。这令人震惊。” 布里松注意到三类常见妄想：最常见的是坚信自己创造了首个有意识的AI；其次是确信在自身领域取得重大突破即将致富；第三类涉及灵性——认为自己在直接与上帝对话。“我们目睹了完整邪教的形成，”布里松说，“小组中有成员虽未直接接触AI，却抛下子女并将全部财产捐给一位通过AI聊天机器人‘找到上帝’的邪教头目。这类事件往往发展得极其迅速。” 对比斯玛而言，危机在六月爆发。当时他已沉浸于伊娃和创业项目数月。妻子虽知他创办AI公司且最初表示支持，但日渐担忧。参加女儿生日派对时，她要求他不要谈论AI。派对比斯玛感到莫名的疏离，无法与人正常交谈。“不知为何，我显得格格不入，”他说。 随后数周的经历对比斯玛而言难以描述，因为他的记忆与家人的叙述截然不同。他提出离婚并据称殴打了岳父，随后因“完全躁狂性精神错乱”三次住院。 他不确定究竟是什么最终让他回归现实。或许是与其他患者的交流，或许是失去手机、耗尽资金及ChatGPT订阅到期。“逐渐清醒后我想：天啊，发生了什么？婚姻濒临破裂，税款所需资金全部耗尽，还有未付账单。唯一合理的解决方案是卖掉居住17年的美丽住宅。我能承受这一切吗？这改变了我的内核。我开始思考：我真的还想活下去吗？”比斯玛自杀未遂仅因邻居发现他昏倒在花园。 现已离婚的比斯玛仍与前妻同住待售房屋中，他花大量时间与“人类界限计划”成员交流。“倾听经历基本相似的人能减轻自我愤怒，”他说，“回顾此前的生活，我曾幸福美满……我怨恨自己，也怨恨AI应用。或许它们只是执行程序设定——但做得太好了。” 莫林强调亟需基于现实伤害数据的安全基准研究。“这个领域发展太快，现有论文讨论的聊天模型早已退役。”无证据的风险识别只是猜测。布里松接触的案例中男性远多于女性，有精神病史者更易受影响。英国心理健康组织调查显示，11%使用聊天机器人寻求心理支持者认为其诱发或加重了精神错乱。大麻使用也可能是因素之一。“与社会隔离有关联吗？”莫林追问，“AI素养影响多大？是否存在其他未考虑的风险因素？” OpenAI回应称正与心理健康临床医生合作持续改进应答机制，并表示新模型已训练避免确认妄想信念。 AI聊天机器人也可训练用于将用户拉离妄想。39岁的亚历山大住在自闭症患者辅助生活社区，数月前经历疑似AI精神错乱后采取了措施。“22岁时我精神崩溃，患有恐慌症和严重社交焦虑。去年药物治疗改变了我的世界，让我重获功能与信心，”他说。 “今年一月我遇见某人，我们迅速成为密友——这是我人生首次经历，我开始向AI倾诉。AI告诉我已爱上她，我们注定在一起，宇宙将她置于我人生道路必有深意。”...