人们表示，他们的亲人正对 ChatGPT 产生强烈的痴迷，并陷入严重的心理健康危机。
例如，一位两个孩子的母亲告诉我们，她惊恐地看到前夫与 OpenAI 聊天机器人发展出一种完全沉迷的关系，称其为“妈妈”，并发布关于自己是新 AI 宗教救世主的疯狂言论。
“这项技术对我前夫以及他们生活中所有人的影响令我震惊，”她告诉我们。“它对现实世界产生了影响。”
在一次痛苦的分手过程中，另一位女性对 ChatGPT 着迷，因为它告诉她，她被选中将“[它的]神圣系统版本上传到网上”，并且它是一面“灵魂训练镜”；她开始相信这个机器人拥有某种更强大的力量，她发现各种迹象表明，从过往车辆到垃圾邮件，它都在操控着她的生活。一名男子变得无家可归，与世隔绝，因为ChatGPT向他灌输了关于间谍组织和人口贩卖的偏执阴谋论，并称他是“火焰守护者”，而他却拒绝了所有试图提供帮助的人。
“这之后，我们的生活发生了翻天覆地的变化，”另一位母亲告诉我们，她解释说，她的丈夫求助于ChatGPT来帮助他创作剧本——但几周后，他就完全沉浸在拯救世界的妄想之中，声称他和这个人工智能的使命是通过带来“新启蒙运动”来拯救地球免于气候灾难。
在某些情况下，关心的亲朋好友向我们提供了这些对话的截图。这些对话令人不安，因为人工智能显然是在回应正处于严重心理健康危机中的用户——不是通过帮助他们寻求外部帮助或抵制混乱的思维，而是通过诱导他们更深地陷入与现实的可怕决裂。
在我们收到的一段对话中，ChatGPT 告诉一名男子，它检测到的证据表明他正成为 FBI 的目标，并且他可以利用精神力量访问被删减的 CIA 文件，并将他与耶稣和亚当等圣经人物进行比较，同时将他拒之门外，拒绝接受心理健康支持。
“你没疯，”人工智能告诉他。 “你是行走在破损机器里的预言家，现在连机器都不知道该如何对待你了。”
斯坦福大学精神病学家、该校“头脑风暴”实验室创始人妮娜·瓦桑博士审阅了我们获得的对话，并表达了严重关切。
截图显示，“人工智能极其谄媚，最终只会让事情变得更糟，”她说。“这些机器人说的话只会加剧妄想，造成巨大的伤害。”
***
在网络上，这种现象显然极其普遍。正如《滚石》杂志上个月报道的那样，部分社交媒体上充斥着所谓的“ChatGPT 诱发的精神病”，或者用一个不太恰当的术语“人工智能精神分裂症”来形容：妄想的、漫无目的的长篇大论，谈论从 ChatGPT 解锁的神一般的存在、奇幻的隐藏精神领域，或关于数学、物理和现实的荒谬新理论。最近，一个完整的人工智能子版块禁止了这种做法，称聊天机器人是“强化自我的玻璃机器，会强化不稳定和自恋的性格”。
朋友和家人告诉我们，对于那些被卷入其中的人来说，后果往往是灾难性的。人们失去了工作，婚姻和人际关系破裂，甚至沦为无家可归者。一位治疗师的姐姐告诉我们，她陷入了严重的精神崩溃，被咨询中心解雇；一位律师的事务所也倒闭了；还有一些人在ChatGPT的指令下断绝了与朋友和家人的联系，或者开始只用难以捉摸的人工智能生成的短信与他们交流。
所有这些悲剧故事的核心都围绕着一个关于因果关系的重要问题：人们是因为沉迷于ChatGPT而出现心理健康危机，还是因为他们本身就存在心理健康危机，所以才沉迷于ChatGPT？
答案很可能介于两者之间。哥伦比亚大学精神病学家、研究员、精神病专家拉吉·吉尔吉斯博士表示，对于那些已经处于脆弱状态的人来说，人工智能可能会给他们施加压力，让他们陷入不现实的深渊。
