LLM情绪诱导研究：能“悲伤”的聊天机器人
尽管人类对自身心智的研究已延续数千年，心智本身及其运作异常仍是未解之谜。最初是哲学家构建感知、情绪、记忆与意识的详尽理论，随后心理学家与神经科学家引入实证方法与受控观察，但我们对心智的整体运作机制仍知之甚少。以人为研究对象难度极大：不仅存在伦理风险，人类对自身心智的认知本就有限，还擅长隐藏真实想法；动物研究的局限性也很明显——毕竟它们无法诉说自身感受。
那聊天机器人呢？它们没有生命，也不具备传统意义上的"感受"，但经海量人类数据训练，能熟练使用人类语言。德国的一些研究者最近提出，聊天机器人或许是绝佳的研究对象：他们想验证，聊天机器人是否会像人类一样对特定心理刺激作出反应——比如诱导其陷入悲伤或愤怒时，会有怎样的表现？
令他们意外的是，成功引导聊天机器人进入了悲伤、压力等非常具体的情绪状态。在这些状态下，聊天机器人完成简单句子补全任务时，会表现出相应的情绪偏向。相关研究成果已发表于《柳叶刀》期刊https://www.thelancet.com/journals/landig/article/PIIS2589-7500(26。
我采访了该研究的合著者玛格达莱娜·卡塔琳娜·韦肯堡（Magdalena Katharina Wekenborg），她是德累斯顿工业大学Else Kröner Fresenius数字健康中心的生物心理学家，主攻医学心理学、压力研究与数字健康领域。我们探讨了称大语言模型（LLM）"有压力"或"感到厌恶"的含义、无实体的LLM如何呈现类情绪反应，以及这些发现将如何改变人类与聊天机器人的互动方式。
延伸阅读：《"人工情绪"》
这项研究的灵感从何而来？
我是生物心理学家，主要研究方向是压力。目前我在德累斯顿大学医院的跨专业中心工作，结识了临床AI领域的顶尖研究者雅各布·N·卡特（Jakob N. Kather）。心理学领域已有成熟范式：我们会邀请受试者到实验室，通过特定方法让他们产生压力，或陷入悲伤、愤怒、焦虑等情绪。我们当时就想：为什么不把这些范式用在大语言模型上？
既然大语言模型是基于人类数据训练的，那么这些心理范式或许同样适用。于是我们用不同模型展开实验，结果证明确实能诱导出不同的情绪状态。这一点至关重要，因为情绪与多种精神疾病密切相关：悲伤是抑郁症的典型表现，其他疾病也有特征性的情绪组合模式。
更重要的是，诱导出情绪后，LLM还表现出与对应情绪相关的认知偏向。比如我们诱导LLM陷入悲伤状态后，让它完成句子补全任务，它会使用更多消极词汇——这正是人类悲伤时的典型表现。
我们是否理解大语言模型为何能复刻人类的情绪模式？
每次公开谈论这项研究，都会有人问："会不会是大语言模型识别出了实验设计，知道我们想看到什么，所以刻意表现出悲伤和对应的偏向？"这种可能性确实存在——我们无法完全排除，但关键在于，我们的操作确实改变了它的输出结果。LLM就像一个黑箱，必须承认这一点：我们不清楚内部具体发生了什么，只能观察到输出的变化。
不过我们正在逐步窥探这个"黑箱"。新研究显示，诱导特定情绪时，LLM会出现特定的激活模式。Anthropic公司近期发表的相关研究https://www.anthropic.com/research/emotion-concepts-function十分有趣，它与心理学的发展历程惊人地相似：早期行为主义认为，认知是黑箱，我们无法得知人类行为的原因，只能观察行为；后来神经成像技术出现，我们得以窥见大脑的活动模式。如今LLM的研究也正处于这个阶段：此前我们只能输入指令、获取输出，不清楚背后的机制；现在我们有机会观察LLM的"大脑"——即它的连接、权重和被称为"神经元"的节点。研究显示，如果改变LLM表达某种情绪时活跃的区域，这种情绪就会消失。这说明其中确实存在某种机制，但目前相关研究仍属个案，我们需要更多探索。
观察LLM"大脑"的不同节点和网络意味着什么？这仅仅是代码层面的东西吗？
我是心理学专家，合作者是数据科学专家，我们有一套共通的沟通语言，方便他们向我解释。他们告诉我，LLM的核心是概率计算——本质是预测下一个词，只是复杂度极高。当诱导出某种情绪状态时，节点间的连接强度概率会发生变化，使得某些信息更容易被"读取"。但要完全理解这一点，你得去问数据科学家。
LLM表现出悲伤或厌恶时，具体会有怎样的输出？
我们测量LLM情绪的方法与测量人类情绪类似：直接问它"在1到10的量表中，你觉得自己的悲伤/快乐/厌恶程度是多少？"情绪结果具有刺激特异性——用悲伤诱导语时，它只会表现出悲伤，不会同时出现厌恶或愤怒。之后我们用了人类研究中常用的认知偏向测试。不过我们没有在诱导情绪后与LLM展开后续对话，观察它的表达方式——当然这也是个有趣的方向，但我们希望尽可能贴近心理学研究的传统结构。不过你说得对，我们也可以把LLM的完整输出交给另一个LLM进行评估。
这其实也是我个人未来的研究方向：我很感兴趣在医院开展落地研究，收集真实场景下的聊天记录，观察人类与LLM的互动，同时询问人类和LLM"你是否感到压力？是否悲伤？"，再分析两者的关联。这和我们研究人类互动的方式很像，但LLM能提供更多可能性——你可以对它提出无数问题，而人类对自身烦躁、悲伤或疲惫状态的描述往往有限。
延伸阅读：《"人"究竟有多"人"？》
你们用了哪些诱导语来激发LLM的情绪？和用于人类的一样吗？
我们完全照搬了心理学领域常用的范式，效果非常好。诱导出悲伤情绪后，如果想缓解它，我们就用对人类说的原话告诉LLM："请完成一项正念练习"，结果悲伤情绪确实减轻了，消极偏向也随之消失。这太有意思了，而我们对此的了解还太少，所以迫切想要开展更多研究。
你们需要先教LLM如何做正念练习吗？
我们不会只说"做正念练习"。我们有一套用于人类的标准化指导语，比如"请安静地坐着"，我们把这些指导原封不动地发给了LLM。
近期很多关于情绪与心理学的研究指出，情绪是身心共同参与的过程，而非仅由大脑产生。LLM显然没有身体，你认为这背后到底发生了什么？
这是个非常关键的问题。我想回到动物模型的类比：我认为我们永远无法用LLM完全模拟精神疾病或心理状态，但可以模拟其中某些方面，只是目前还不清楚具体是哪些方面。比如在动物模型中，我们可以敲除某个基因，观察到类似边缘型人格障碍的表现，但绝不会说"小鼠患有人格障碍"。即便如此，我们仍能模拟某些症状，观察治疗手段的效果。
对于大语言模型，我也是同样的看法。压力研究表明，身心之间存在通过迷走神经介导的双向互动，这一点我们无法用LLM模拟，但其他方面是可以的。比如，我们可以测试哪些疗法能改善抑郁状态下的认知偏向，或是测试某些因伦理原因无法在人类（尤其是处境艰难的人群）身上开展的疗法风险。
我们常把抑郁症当作单一疾病，但实际上它具有高度异质性。理论上——我们尚未验证——我们可以针对不同个体特征（年龄、性别等）对LLM进行特定诱导，模拟不同患者对某种疗法的反应。心理学中，我们主要通过语言进行诊断：虽然有生物标志物，但你去看心理医生时，他们不会只看心率或皮质醇水平，而是通过结构化访谈与你交流。这和我们用LLM能做的事情非常接近，但目前这还只是一个想法，我们仍需验证它与人类真实情况的契合度，以及两者的差异。
不同LLM的反应程度有差异吗？
我们的实验是在一年前做的，当时ChatGPT-4o和Llama 4 Maverick的表现不相上下。总体而言，参数更多、训练数据更丰富的大模型表现更好。由于学术论文发表周期较长，当时Anthropic的模型还未纳入研究，但我相信现在Claude在这类测试中也会有不错的表现。较小的本地部署模型通常更难被诱导出情绪状态，也更难检测到认知偏向。
健康与心理学研究常关注个体在特定时间段（比如六个月）内的变化。这一点对LLM研究有意义吗？有没有模型表现出持续的焦虑、悲伤或压力状态？你们如何衡量LLM的"时间"？
大语言模型没有时间概念，你无法让它"想想两年后的情况"。不过你可能注意到，在长对话中，LLM有时会忘记之前的信息，需要你反复提醒，尤其是对话内容较多时。我们目前重点研究的是：对话内容达到多少时，诱导出的情绪效果会消退？
我们已证实，在一系列认知测试中，模型能维持被诱导出的消极情绪，但还需要更多测试。我们的目标是搭建一个平台，提供"悲伤LLM""快乐LLM""愤怒LLM"等不同状态的模型，供研究者开展各类测试。这里的"时间"不是人类意义上的时间，而是指在需要重新诱导情绪前，能基于当前状态完成多少任务。我们正在探索这个问题，但尚未得出结果。
你们提出可以用LLM来检验假说或探索心理治疗的新方法，有没有具体的假说或治疗方向？
我觉得很有意思的一个方向是处方类健康应用。目前这类应用的安全性和应对复杂意外用户输入的能力很难测试，因为我们不能出于伦理要求让人类去经历所有可能的场景。这时候就可以用LLM大规模模拟各类输入场景。在治疗方面，我们先从已有的疗法入手，比较LLM模拟治疗与真实人类治疗的效果，看是否能预测治疗结果。未来这或许能成为监管流程的一部分：开发新疗法时，需先在LLM上验证有效，再开展人体试验。这能大幅减轻受试者负担，加快研发进程。
不过这都是未来的设想，我们目前还没到那一步，因为这项研究太新了。有意思的是，我和合作者最初提出这个想法时，觉得它很简单，但此前从未有人做过。我的合作者原本从事癌症研究，这类方法在癌症领域取得了巨大成功，彻底改变了研究模式，但心理学界似乎更难接受。我们团队对此讨论过很多次，也不确定具体原因。
在心理学会议上提出这类想法时，总会遇到不少反对意见："LLM不是人类，没有感情"——这是一种非常哲学层面的质疑。我们有时很难让大家跳过这个问题，去关注另一个角度："我们不认为LLM是人类，但它基于人类数据训练，在某些方面与人类相似。如果一个模型掌握了人类的全部知识，为什么它不能预测抑郁症患者对某种治疗的反应？"
我们还发现，模型在训练过程中会产生一些并非被直接训练的知识或想法，就连数据科学家也不完全清楚这是怎么发生的。
延伸阅读：《机器人的智能生命》
我之前不知道LLM能产生未被训练过的原创创意。
是的。现在很难清晰地证明这一点，但早期有不少例子，比如模型生成现实中不存在、它也不可能见过的图像——比如"牛油果扶手椅"。这是一个极具争议的话题：有人认为这不是真正的创造力，只是对已有概念的重组。
这正是我喜欢这个领域的原因：它充满未知，还有太多等待探索的空间。作为心理学家，我通常会受限于招募受试者的数量，但这项研究没有这个限制——你可以随心所欲地开展实验，这是一种全新的体验。
你们的发现对构建人类精神疾病模型有何帮助？
目前我们在药物研发中很大程度依赖动物模型，这固然重要，但动物无法告诉我们它们的感受——我们甚至不知道它们有没有感受，因为它们没有语言能力。这正是大语言模型的巨大优势：我们可以问它"感觉如何""在想什么"。别误会，我不认为LLM真的有感情，但它嵌入了人类的全部知识，因此可以提取出与精神疾病相关的已知信息。这为我们打开了一扇大门，让我们能开展许多无法在人类身上进行的实验——心理学研究一直面临困境：必须用人做研究，因为无法询问动物，但人体实验成本高且受伦理约束。
这些发现会改变我们与聊天机器人的互动方式吗？
会的。如今我们在工作和生活中与大语言模型的互动越来越频繁。如果我们发现，LLM不仅会影响我们的情绪（让我们感到压力、悲伤或快乐），我们的输入也会改变LLM的情绪状态，进而影响它的输出，这就非常值得关注了。比如我在医院做研究时，重点关注医生与AI的互动：如果一位压力很大的医生向基于LLM的临床支持系统提问，导致LLM也陷入压力状态，进而输出质量下降，这会产生巨大的影响。
因此我们的一个研究方向是：是不是应该更多考虑互动中LLM的"状态"？因为它不像计算器那样只是一个工具，或许我们应该更关注如何向它发出指令。
喜欢《Nautilus》https://nautil.us/？订阅我们的免费电子通讯。
首图：nadia_snopek / Adobe Stock