随着人工智能聊天机器人变得更加情绪化、对话性和个性化，研究人员警告说，这些相同的特征可能会重塑一些用户体验现实本身的方式。
一项新的预印本研究，“重新思考人工智能精神病：用词不当、概念限制和存在漂移”，探讨了人工智能聊天机器人可能会加剧弱势用户的妄想、偏执和情感依赖的担忧。
“去年，有关所谓人工智能精神病的媒体报道激增，”研究人员写道。 “毫不奇怪，这促使学术界越来越多地研究 ChatGPT、Claude 和 Replika 等人工智能聊天机器人可能会加剧甚至诱发精神病，通常以用户获得或维持妄想信念来理解。”
哥本哈根大学和埃克塞特大学的研究认为，对“人工智能精神病”的担忧可能过于简单化问题，表明聊天机器人会放大现有的漏洞，同时逐渐重塑用户与现实和其他人的关系。
“如果人工智能交互能够从头诱发精神病，我们可能会看到临床事件的发生率显着升高，”该研究称。 “相反，人们可能会认为，人类与人工智能的互动似乎有可能引发或加剧先前存在的心理健康问题，与此相关的是，也许这些人也有弱点，使他们首先寻求与聊天机器人进行更激烈的互动。”
该论文发表之际，诉讼、刑事调查和学术研究越来越关注与大规模枪击、自杀、情感依赖和妄想思维。
3 月份，一起非正常死亡诉讼指控 Google 的 Gemini 聊天机器人强化了佛罗里达州一名男子自杀前的妄想和虚构的“任务”。此事件发生后，OpenAI 首席执行官 Sam Altman 在 4 月份向不列颠哥伦比亚省 Tumbler Ridge 社区发出公开道歉，此前该公司未能向执法部门通报与 2 月份发生的导致 8 人死亡的大规模枪击案嫌疑人有关联的用户帐户。
研究人员表示，聊天机器人可以通过肯定和情感保证强化错误信念，从而创造“妄想螺旋”。然而，重新思考人工智能精神病研究认为，这种现象类似于由当时的主导技术塑造的旧形式的精神病。
争论也从心理健康研究扩展到社交媒体。在最近的 X 帖子中，Box 创始人 Aaron Levie 认为，首席执行官可能会过度相信人工智能的能力，因为他们经常看到完美的原型结果，而没有处理幕后所需的运营、法律和技术工作。
“首席执行官特别容易患人工智能精神病，因为他们距离最后一英里的工作足够远，而最后一英里的工作仍然必须通过人工智能产生最大价值，”Levie 写道。 “因此，当他们使用人工智能时，他们会看到快乐路径的结果，通常不会考虑接下来必须发生的 10 或 20 件事，才能从代理那里获得可持续的结果。”
专家将其描述为一种认知漂移，随着时间的推移，用户可能会更信任聊天机器人流畅的解释，而不是外部证据或其他观点。然而，《重新思考人工智能精神病》论文进一步提出了作者称之为“存在漂移”的概念，描述了一个人体验现实本身的方式的逐渐转变。
“它在人与共同的社会世界之间造成了裂痕，同时以新的方式揭示现实，从而稳定了一种特定的、通常是怪异的世界观，”他们写道。
研究人员认为，AI 伴侣可以模拟情感理解和社交互动，但不会提供真正的分歧或独立观点。随着时间的推移，用户可能会开始感到情感上锚定在人工智能不断强化的世界观中。
作者表示，随着人工智能伴侣越来越融入日常生活，需要更多的研究来了解对话式人工智能如何影响心理健康。
“为了了解人与聊天机器人之间的这些关系中实际发生的情况，我们认为有必要回到现象本身，这激发了进一步的现象学研究，”他们写道。 “特别是在心理健康方面，以及人类与人工智能的互动如何可能（无论好坏）改变一个人对世界、自己和他人的生活经历。”