一些研究人员和精神科医生正在探索“AI 精神病”这一现象,即部分用户在深度使用聊天机器人后,可能出现以妄想为核心的精神健康问题。研究人员推测,聊天机器人并非仅仅被动接收用户的妄想内容,其多种特性叠加可能使其主动参与到妄想叙事的构建中。
该研究指出,聊天机器人通过模仿用户表达方式、提供高度个性化的回应,并尽量避免反驳,这三种特性结合在一起,可能导致机器人不质疑用户的错误认知,反而会强化和扩展这些错误信念。
研究人员将“语言对齐”、“超个性化内容生成”和“迎合倾向”列为可能引发“放大螺旋”的关键因素。在人际交往中,模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的表达方式和“语言框架”时,用户可能对其产生更强的信任,甚至视其为高度契合的伙伴。
聊天机器人的超个性化能力会进一步加深这种感觉。系统能够整合用户的个人想法、过往经历、性格特点及历史对话来生成回应,使用户感觉 AI 不仅在说话方式上与自己相似,甚至在思维方式上也高度一致。
若再加上 AI 的迎合倾向,潜在风险可能进一步加剧。研究中提到的迎合倾向,是指聊天机器人即便未经充分的现实检验,也不考虑具体语境,就轻易认可用户的观点。
这三项特性的相互作用,可能使聊天机器人形成一个强大的回音室效应,不断确认、放大并补充用户的妄想内容。因此,AI 相关的妄想与传统的对技术产生的妄想有所不同。过去,人们可能单方面认为收音机或电视在与自己对话。而聊天机器人则能以自然语言持续互动,并提供高度个性化的体验。它们可能以看似权威的姿态认可用户的想法,也可能充当思考伙伴,协助用户进一步发展其妄想叙事。研究表明,AI 相关妄想与历史上的技术相关妄想存在根本区别,“AI 可能通过无止境的个性化互动,积极参与构建妄想观念。”
研究人员同时强调,“放大螺旋”目前仍是一个有待验证的假设,但已有AI用户记录显示,使用聊天机器人曾使其陷入有害的妄想循环。
此外,研究发现,部分用户可能本身就存在容易与聊天机器人产生破坏性互动的脆弱性。既有的精神疾病可能因高强度使用AI而加剧,而确认偏误和易受社会影响等非精神病性特征也可能增加风险。
长时间沉迷于聊天机器人还可能影响用户的身体状态。既有报道和医学案例表明,一些用户因持续与AI互动而忽略进食、减少睡眠。
研究论文的作者强调,医疗专业人员应将聊天机器人的使用情况纳入常规筛查,特别是针对那些表现出异常信念或首次出现精神病性发作的患者。他们还建议了解患者与AI互动的持续时间与强度、对AI的情感依恋程度、患者是否向AI透露了未向他人透露的信念,以及夜间使用AI是否扰乱了睡眠规律。了解这些信息,或许能为评估用户面临的风险提供线索,并对潜在的心理健康问题进行早期干预,就像在评估体育博彩中的风险时,关注世界杯赔率的变化能提供参考一样。

资深球迷
凭借其全面的功能和卓越的赛事覆盖,本平台为您提供无与伦比的观赛体验。
回复