Reed's News
← 返回精选

EEG显示注意力切换时大脑可同时编码两个语音流

Science 80 giuliomagnifico 2026/7/17 11327 字 原文 ↗

摘要

在多说话者场景下实现成功的言语交流,需要灵活结合持续注意力与快速注意力切换能力。神经生理学文献已对持续注意力的神经基础有详尽阐释,但注意力切换的具体机制仍存在诸多未知。本研究借助沉浸式多说话者环境中听力正常成年人的脑电图(EEG)记录,测量了背景嘈杂声中两个竞争言语流的神经编码过程。参与者需每15至30秒根据提示在两个言语流间切换注意力。研究通过时间响应函数(TRF,Temporal Response Functions)评估神经追踪效果,证实了注意力焦点可被可靠解码。结果显示,注意力切换过程中的脱离与投入存在不对称性:对新目标言语流的神经追踪会先于对旧目标的脱离启动,形成短暂的双言语流同步编码阶段。这一转换过程与EEG阿尔法功率的下降密切相关,反映了注意力切换不同阶段的认知负荷。此外,研究还分离出反映词汇预测机制的皮层活动,通过对比基于大语言模型(LLM)构建的四种语境累积策略,探究注意力切换后词汇语境的更新方式。研究结果揭示了听觉注意力转移的时间动态与语境机制,表明听者在切换注意力后可能会重置词汇语境。通过聚焦动态注意力重新分配,本研究为大脑在复杂听觉环境下的灵活言语处理能力提供了新见解。

引用格式: Carta S, Aličković E, Zaar J, López Valdés A, Di Liberto GM (2026) 注意力切换时人类皮层对竞争言语流的同步表征. PLoS Biol 24(7): e3003876.

https://doi.org/10.1371/journal.pbio.3003876

学术编辑: Manuel S. Malmierca,西班牙萨拉曼卡大学

收稿日期: 2025年7月3日;录用日期: 2026年6月12日;发布日期: 2026年7月16日

版权说明: © 2026 Carta等人。本文为开放获取文章,遵循知识共享署名许可协议,允许在任何媒介中无限制使用、传播和复制,需注明原作者及来源。

数据可用性: 支持本文研究结果的所有数据均可免费获取。经预处理的EEG数据集、分析结果文件及分析代码已公开存储于Zenodo开放数据库(https://zenodo.org/records/20569817)。EEG记录采用连续事件神经数据(CND,Continuous-event Neural Data)格式标准。相关言语刺激材料同样存储于该数据库的STIMULI文件夹中。

基金支持: S.C.、A.L.V.与G.D.L.得到William Demant基金会(https://www.williamdemantfonden.dk/)项目21-0628和22-0552,以及爱尔兰研究署(Taighde Éireann – Research Ireland)(https://www.researchireland.ie/)项目18/CRT/6223的资助。G.D.L.还获得爱尔兰研究署旗下都柏林圣三一学院ADAPT人工智能驱动数字内容技术研究中心(https://www.adaptcentre.ie/)项目13/RC/2106_P2的资助。资助方未参与研究设计、数据收集与分析、论文发表决策及稿件撰写。

利益冲突声明: 作者声明不存在任何利益冲突。

缩略语: EEG,脑电图(electroencephalography);EOG,眼电图(electro-oculography);EMG,肌电图(electro-myography);ERSP,事件相关频谱扰动(event-related spectral perturbation);iEEG,颅内脑电图(intra-cranial electroencephalography);FDR,错误发现率(false discovery rate);fMRI,功能性磁共振成像(functional magnetic resonance imaging);ICA,独立成分分析(Independent Component Analysis);IQR,四分位距(interquartile range);LLM,大语言模型(large language model);MEG,脑磁图(magnetoencephalography);PSD,功率谱密度(power spectral density);RMS,均方根(root-mean-squared);SE,标准误差(standard error);SEM,均值标准误差(standard error of the mean);SNR,信噪比(signal-to-noise ratio);SPL,声压级(sound pressure level);TRF,时间响应函数(Temporal Response Functions)

引言

在多说话者环境中理解言语,听者需从竞争声流中分辨出目标说话者[13]。这种选择性注意力过程的神经生理学机制已通过模拟“鸡尾酒会”场景得到广泛研究[4,5],揭示了大脑如何将目标言语流与竞争言语流分离,并将目标言语转化为语义信息。尽管无关言语流的加工程度仍存在激烈争论[68],但目标言语与无关言语的加工差异已得到多种技术的证实,包括无创脑电图(EEG)[1,9]、颅内脑电图(iEEG)[10]、脑磁图(MEG)[3,11]和功能性磁共振成像(fMRI)[12,13]。相关研究不仅定位了听觉皮层中实现言语分离的具体区域[14],还测量到无关言语的语义加工受到显著(但非完全)抑制[1,1517]。然而,该领域的神经生理学研究几乎完全聚焦于持续注意力任务[2,10],对注意力切换的神经基础仍知之甚少。

动态切换范式广泛应用于认知控制研究,用于探究认知灵活性与稳定性[18]。在这类实验中,参与者需根据新指令灵活调整行为反应,完成任务切换[1921]。例如,给定单个数字,参与者需根据奇偶性(即数字为偶数或奇数)或相对大小(即数字大于或小于5)进行分类[22]。在该范式中,切换成本指从一项任务切换到另一项任务时反应时间或错误率的增加。类似的行为范式也应用于多说话者场景中的简单言语刺激任务[2325]。然而,这些严格控制的实验主要将目标言语选择视为任务切换问题的一个特例(即目标流选择取决于空间位置或声音特征[23]),而非关注自然多说话者场景中注意力重新分配的动态过程本身。因此,关于注意力灵活转移如何影响连续竞争言语流的加工,目前仍了解有限。

在近期的言语神经生理学研究中,实验范式开始引入注意力切换,以此推动EEG/MEG在注意力解码领域的方法学进步[26,27],或探究持续言语注意力如何随移动听觉对象变化[28]。然而,据我们所知,仅有一项先前研究专门聚焦于多说话者场景中注意力切换的神经生理学机制,将注意力转移过程中的言语神经编码与EEG阿尔法活动及瞳孔扩张动态相关联[29]。该研究证实,可通过无创手段研究注意力切换的神经生理学机制。在此基础上,本研究进一步揭示了支持注意力在两个竞争言语流间转移的具体神经动态,即脱离旧目标言语流并投入新目标言语流的过程。

本研究通过测量不同编码窗口长度下的言语神经编码,探究听者将注意力从一位说话者转向另一位说话者的过程。我们验证了一个假设:对新言语流的投入是否会先于对旧目标的脱离完成,从而形成短暂的双言语流同步追踪阶段。这种脱离-投入过程的不对称性,即便只是短暂存在,也可能支持听者在保持对当前言语流注意力的同时,探索其他听觉流[30]。

本研究通过沉浸式多说话者聆听任务,记录听力正常成年参与者的EEG信号,以此测量言语的神经编码。参与者通过前方两个扬声器聆听来自TED演讲的两个竞争言语流,同时后方扬声器播放16人背景嘈杂声(图1A)。屏幕上的箭头提示参与者关注其中一个言语流,并在箭头方向改变时快速切换注意力,切换间隔约为10至30秒(图1B)。研究采用时间响应函数(TRF)量化对目标与无关言语流的神经追踪,描述每个言语流与神经反应之间的线性关系。初步验证结果显示,可通过EEG信号可靠解码参与者关注的言语流,这与持续注意力领域的大量文献一致[9,10,31],证实本实验中EEG反应体现了对目标与无关言语流的差异化编码(图1C)。

(A) 参与者前方放置两个扬声器,间隔60°(分别位于左30°和右30°),同时通过四个后方扬声器(B1–B4)播放16人背景嘈杂声。每个试次中,屏幕箭头指向目标言语流,参与者需在视觉提示方向改变时立即切换注意力。(B) 单个实验试次示意图。黑色区域表示注意力集中于左侧(L)或右侧(R)前方言语流的时段。红色箭头表示注意力提示切换方向的时刻(每个试次切换6次)。注意,注意力块时长为随机值,始终在15至30秒之间,每个试次总时长为3分钟。(C) 通过注意力解码分析验证EEG数据。采用逐步延长的解码窗口(窗口越大,使用的数据越多,通常解码准确率越高)。通过二元分类判断目标与无关言语流,分类得分如图所示。虚线表示随机打乱分类标签后得到的随机分布的第95百分位数。所有解码窗口的注意力解码分类得分均具有统计学意义,数值结果与先前选择性注意力研究相当[31,34,35]。本图相关数据可访问:https://zenodo.org/records/20569817

本研究针对自然聆听场景中注意力切换的神经机制提出两个核心问题。第一,探究对新言语流的投入与对旧言语流的脱离过程是否对称(图2图3)。为验证这一点,我们将编码TRF模型拟合到EEG数据中,测量两个竞争言语流随时间的神经追踪变化,从而描述注意力切换前后的平均编码动态,对比脱离与投入过程。第二,探究大脑在切换注意力时如何更新与使用词汇语境(图4)。基于先前研究显示言语理解依赖语境预测[32,33],我们提出四个竞争性假设,反映注意力切换时词汇语境的保留、重置或选择性更新的不同假设。借助先进的大语言模型(LLM),我们为每个假设生成量化预测,得到四个词汇惊讶度与词汇熵的回归变量,它们对先前语境和切换事件的敏感性不同。随后,为每个假设拟合编码TRF模型,对比不同的语境累积策略,找出与观测神经反应最匹配的模型。本研究为注意力切换的时间动态与语境机制提供了全新见解,涵盖了言语加工从低到高的多个抽象层次。

脱离过程的时间动态长于投入过程。(A) 左图: 注意力从说话者1切换到说话者2时的言语追踪编码。图中轨迹代表我们的零假设,即切换提示(灰色竖线)后,脱离与投入过程对称进行。右图: 注意力切换提示前后对说话者1和说话者2的神经追踪结果。采用包含包络(Env)、词起始(WO)和词汇惊讶度(WS)特征的4秒滑动窗口TRF模型,得到EEG预测相关性(所有通道平均值)。图底部彩色横条表示注意力切换提示前后的注意力指令。蓝绿色点表示基于说话者1和说话者2言语特征的EEG预测相关性编码切换点。脱离与投入过程的分段线性拟合曲线叠加在EEG预测相关性数值上。请注意,本图中的折线拟合仅针对皮层追踪曲线的总平均值,用于展示说明。单个参与者水平的估计值见C图。六边形标记表示脱离(蓝色)与投入(黄色)过程的起始点,菱形标记表示转换过程的结束点。(B) 左图: 注意力切换提示前后阿尔法波段ERSP(事件相关频谱扰动)的预期结果示意图。右图: 注意力切换提示前后阿尔法波段(8–12 Hz)的ERSP(所有通道平均值),采用上述4秒滑动窗口计算。所选时间点的头皮地形图显示后负性模式,切换指令后显著下降(粗黑线表示与切换前基线相比有统计学意义的变化)。红点表示参与者ERSP最小值的平均值。阴影区域表示参与者间的均值标准误差(SEM)。(C) 左图: 4秒滑动窗口下EEG预测相关性编码切换点(蓝绿色条)与阿尔法ERSP最小值(红色条)的对比。阿尔法ERSP最小值显著晚于说话者1-说话者2编码切换点出现。右图: 脱离与投入过程起始和结束时间点的时间动态对比,转换起始/结束点基于单个参与者水平估计。星号表示显著统计效应(配对样本t检验;*p ≤ 0.05;**p ≤ 0.01;**p ≤ 0.001)。本图相关数据可访问:https://zenodo.org/records/20569817

对新说话者的投入过程显著早于对旧说话者的脱离过程开始和结束。(A, B) 五种TRF滑动窗口长度下,脱离(蓝色)与投入(黄色)过程的转换起始和结束点。误差条表示参与者间的SEM。星号表示过程类型的显著效应(双向重复测量方差分析;*p ≤ 0.05;**p ≤ 0.01;***p ≤ 0.001)。本图相关数据可访问:https://zenodo.org/records/20569817

(A) 四种语境模型示意图。黑色块表示持续关注左侧或右侧言语流,橙色箭头表示注意力切换提示。粗红色箭头表示当前注意力块(B7,橙色高亮)中用于指导词汇预测的语境。(B) 注意力切换提示前后词汇熵的平均值。请注意,重置模型中切换后第一个词无熵值,因语境被完全重置。(C) 四种多变量TRF模型的EEG预测相关性,仅熵特征不同。彩色点表示所有电极和参与者的平均值。底部灰色区域表示无语义信息的多变量TRF(包络+词起始)的平均编码准确率。星号表示重置模型的EEG预测相关性显著高于其他模型(显著性水平:*p < 0.05,*p* < 0.01,*p < 0.001)。头皮地形图展示了四种模型相对于包络+词起始TRF的语义信息增益。(D) (左图)刺激起始前后-100至600毫秒时间滞后内熵特征的TRF权重。透明阴影区域表示参与者间的SEM。黑色水平线表示用于计算TRF-N400平均振幅的时间窗口。(右图)四种语境模型的TRF-N400振幅在参与者中的分布箱线图。箱内中线表示中位数,箱的边缘表示四分位距(IQR)。须线延伸至四分位距1.5倍范围内的最极端数据点。须线外的独立点表示异常值。星号表示统计学显著差异(显著性水平:*p < 0.05,**p < 0.01,***p < 0.001)。本图相关数据可访问:https://zenodo.org/records/20569817

结果

行为表现

每个试次结束后,首先向参与者展示一道四选一题目,内容涉及所关注言语流的信息,以确认其任务投入程度。行为表现结果显示,参与者能够正确回答内容相关问题,平均准确率为86.3%(SEM 2.6%)。参与者还需表明对左侧或右侧言语流的偏好,结果显示偏好总体均衡,平均49.79%的试次选择左侧言语流(SEM 1.7%)。最后,要求参与者对每个试次中注意力切换的感知难度进行评分,评分范围为1(非常简单)至5(非常困难)。切换的平均难度评分为3.1/5,参与者间SEM为0.11分。由于技术问题,24名参与者中的1名行为数据缺失,因此行为表现基于剩余23名参与者的数据计算。

动态切换场景下选择性听觉注意力的解码

采用反向TRF分析解码参与者的注意力,描述EEG信号与目标言语包络之间的关系。对于每个留一法试次,将目标解码模型重建的言语包络分别与左侧和右侧言语流的真实包络进行相关性分析。通过判断哪个言语流的包络与重建包络相关性更强,对注意力进行分类。由于本实验为动态注意力切换场景,所关注的言语流可能是左侧或右侧。当重建包络与目标言语包络的相关性强于与无关言语包络的相关性时,分类判定为正确。分类准确率为符合该标准的实例占比。为确定随机水平表现,对每个解码窗口的左侧和右侧标签随机打乱100次。如图1C所示,解码窗口越长,分类表现越好。然而,即使使用1秒窗口,分类准确率也显著高于随机水平,且所有解码窗口的分类率均显著高于其随机分布的第95百分位数(配对双尾t检验,经FDR校正多重比较,1秒、2秒、4秒、8秒、16秒、32秒窗口对应的p值分别为:0.47e−9;0.53e−9;0.27e−9;0.24e−9;0.24e−9;0.24e−9)。这些结果与先前解码持续注意力或采用匹配-不匹配分类指标的研究一致[9,31,36],证实基于包络重建的分类方法即使在注意力切换过程中也能可靠追踪选择性注意力。

动态切换场景下竞争言语流的神经追踪反映听者注意力焦点,并与阿尔法ERSP变化相关

采用多变量TRF分析,描述参与者在两个言语流间动态切换注意力时,对两个竞争言语流的神经追踪。针对单个参与者,使用包含包络、词起始和词汇惊讶度特征的多变量言语表征,基于目标言语流训练TRF,并测试其对两位说话者(即说话者1和说话者2)的表现(详见方法)。采用滑动窗口计算真实与预测EEG信号的相关性,结合留一法交叉验证,并对所有EEG通道取平均值,得到EEG预测相关性。重要的是,由于这些相关性通过滑动窗口计算,所得切换时间取决于滑动窗口长度。因此,本分析得出的时间动态并非反映潜在神经过程的确切时间,解读时需考虑滑动窗口长度的影响。

为分析稳健的切换动态,我们筛选出21名参与者,他们在切换过程中表现出可靠的注意力偏向,即切换过程中的分类准确率高于随机水平(>50%)。通过这一筛选,排除了那些无法估计(脱离)投入过程起始和结束点的参与者(请注意,该排除操作在确定起始/结束估计值之前进行,因此与异常值排除不同,后者会排除极端的起始/结束值)。

与预期一致(图2A),切换提示前后的EEG预测相关性反映了与注意力指令一致的说话者1和说话者2言语流追踪:切换前对说话者1的追踪显著强于说话者2,切换后则相反(对说话者1与说话者2的差异进行配对双尾t检验,经FDR校正多重比较,p < 0.005)。

随着注意力切换进行,阿尔法频段的总平均ERSP与基线相比发生统计学显著变化(单样本t检验对比零值,经FDR校正多重比较),头皮地形图显示枕-顶叶负性模式(图2B)。这与我们的预期一致,即注意力转移会影响EEG阿尔法波段,已有研究显示阿尔法波段活动反映竞争言语聆听场景中的注意力切换行为[29]。

说话者1和说话者2的EEG预测相关性先趋于一致,随后在切换过程完成、注意力完全重新分配后再次显著分离。我们将说话者1和说话者2的EEG预测相关性重叠的时间点称为编码切换点。鉴于观测到阿尔法ERSP显著下降,我们探究其时间动态与EEG预测相关性的时间动态之间的关系。为此,针对每个参与者,基于4秒编码窗口确定阿尔法ERSP最小值的时间点和编码切换点(图2C)。我们选择该编码窗口进行主要分析的依据是分类准确率结果(图1C),因为它在时间分辨率和分类表现之间达到了较好平衡。然而,同时考虑多个编码窗口时,结果模式保持一致(补充图1)。配对t检验对比阿尔法ERSP与EEG预测相关性的时间动态显示,阿尔法ERSP最小值显著晚于编码切换点出现(t(20) = 4.29, p = 3.59e-4, Cohen’s d = 0.94)。

随后,我们评估了多种编码窗口长度,以指标(编码切换点与ERSP最小值)和窗口(1秒、2秒、4秒、8秒)为因素,采用双向重复测量方差分析,分析编码切换点与阿尔法ERSP最小值的时间变化。分析显示,随着编码窗口长度增加,编码切换点和阿尔法ERSP最小值的时间动态均延长(F(1.68, 33.55) = 52.77, p = 2.3e−10, ηp2 = 0.72;因违反球形假设,采用Greenhouse-Geisser校正),这与我们讨论的方法学限制一致(见方法)。更重要的是,指标因素存在统计学显著效应(F(1,20) = 20.26, p = 2.18e−4, ηp2 = 0.5),在多种编码窗口下,阿尔法ERSP最小值均显著晚于编码切换点出现(Holm校正事后t检验:t(20) = 4.5, p = 2.18e−4, Cohen’s d = 0.97)。

注意力切换过程中注意力脱离与投入的时间动态解析

注意力切换提示促使听者将注意力从之前关注的说话者1转移到新关注的说话者2。尽管注意力重新定向看似是一个统一的过程,但可将其分解为两个必要的独立操作:脱离,即对之前关注言语流的神经追踪下降;投入,即对之前未关注言语流的神经追踪上升。我们的目标是明确这两个操作的时间动态,以了解它们是完全并行、串行,还是存在一定程度的重叠。值得注意的是,由于采用滑动编码窗口,估计的投入与脱离时间动态并非反映潜在神经过程的确切时间进程,应解读为相对而非绝对的时间指标。与之前的分析一致,我们首先筛选出在切换过程中表现出可靠注意力偏向的参与者(见方法)。针对这21名参与者,我们对单个参与者的EEG预测相关性进行分段线性回归拟合,找到最优断点,对应脱离与投入过程的起始和结束时间点(图2C)。如上所述,我们选择4秒窗口作为示例,随后在多种编码窗口长度下重复验证结果。为进一步描述投入与脱离过程的空间模式,补充图2展示了所选时间点EEG预测相关性的头皮地形图,显示预测性最强的通道主要位于中央-顶叶区域。分别对比脱离与投入过程的起始和结束时间,发现投入过程的时间动态始终早于脱离过程。对新关注说话者的投入显著早于对旧关注说话者的脱离开始(配对样本t检验:t(20) = 2.37, p = 0.03, Cohen’s d = 0.52),且投入结束时间也显著更早(配对样本t检验:t(20) = 2.35, p = 0.03, Cohen’s d = 0.39)。

随后,我们将分析扩展到多种滑动窗口长度,以窗口(1秒、2秒、4秒、8秒、16秒)和过程(脱离与投入)为主要因素,采用重复测量方差分析对比脱离与投入过程的起始和结束时间。关于起始点(图3A),分析显示窗口因素存在预期的统计学显著效应(F(1.51,30.14) = 9.7, p = 0.001, ηp2 = 0.33;因违反球形假设,采用Greenhouse–Geisser校正),编码窗口越长,时间动态越久。更重要的是,过程因素也存在显著主效应(F(1,20) = 5.48, p = 0.03, ηp2 = 0.21),对新关注言语流的投入显著早于对旧关注言语流的脱离开始(Holm校正事后t检验:t(20) = 2.34, p = 0.03, Cohen’s d = 0.54)。针对脱离与投入过程的结束时间点重复相同的统计分析(图3B),再次显示窗口因素存在主效应,即编码窗口越长,时间转换过程越久(F(1.97,39.32) = 31.76, p = 7.2e−9, ηp2 = 0.61;因违反球形假设,采用Greenhouse–Geisser校正)。过程因素同样存在显著主效应(F(1,20) = 4.46, p = 0.047, ηp2 = 0.18),表明对新关注说话者的投入不仅开始更早,结束也显著早于脱离过程(Holm校正事后t检验:t(20) = 2.11, p = 0.047, Cohen’s d = 0.58)。

后续分析纳入了3名切换前后分类准确率低于随机水平的参与者,结果证实这些数据点会给投入与脱离潜伏期的估计带来噪声。这符合预期,因为这些参与者无法确定转换的起始和结束点。观测到的模式与上述主要结果定性相似,即投入过程的时间动态早于脱离过程,但效应较弱,未达到统计学显著性阈值(重复测量方差分析;起始点:F(1,23) = 2.69, p = 0.11, ηp2 = 0.1;结束点:F(1,23) = 2.96, p = 0.1, ηp2 = 0.11)。

注意力切换过程中词汇预测的构建方式探究

将注意力转移到不同言语流意味着语境变化,进而导致词汇预测的语义先验发生改变。因此,我们假设在多变量编码TRF模型中,将这种语境变化纳入语义回归变量的结构,会提高EEG预测相关性,因为它能更好地反映竞争言语流动态更新的神经追踪。我们对比了四种模型,代表当前注意力块(例如图4A中的B7)进行词汇预测时语境累积的不同方式。一个“理想观察者”(Oracle)模型作为基线,它使用当前言语流所有可用的前置语境(无论是否被关注)来预测当前块的词汇,本质上是一种“无视切换”的语境表征。说话者特异性(Speaker-Specific)模型和注意力(Attention)模型则是“感知切换”模型,它们仅将之前关注的块作为词汇预测的语境。说话者特异性模型假设言语流分离程度更高,其语境仅包含同一言语流中之前被关注的块;而注意力模型则包含两个言语流中所有之前被关注的块。重置(Reset)模型同样感知切换,但不保留语境,它忽略所有言语流中之前被关注的块,仅基于当前注意力块计算语境,仿佛每次注意力切换后词汇预测的先验都被重置(图4A)。

词汇熵是下一词预测不确定性的指标,其值会受到切换提示的影响,因为切换提示会导致语境突变。图4B显示了切换提示前后词汇熵平均值的变化,不同语境模型的变化模式不同。可以看到,重置模型在切换后不确定性达到峰值,随后逐渐下降;而注意力模型和说话者特异性模型的词汇熵动态总体相似,数值更稳定。由于理想观察者模型无视切换,其熵值在切换前后基本保持不变。对四种语境累积策略的平均熵值进行显式对比,发现存在统计学显著差异(重复测量方差分析,因违反球形假设采用Greenhouse-Geisser校正;F(1,19) = 39.57, p = 9.59e−10, ηp2 = 0.68)。事后成对检验(Holm校正)显示,重置模型的平均熵值处于中间水平,显著高于理想观察者模型(t(19) = 5.75, p = 1.44e−6, Cohen’s d = 0.45),显著低于注意力模型(t(19) = 4.64, p = 6.28e−5, Cohen’s d = 0.36)和说话者特异性模型(t(19) = 2.24, p = 0.04, Cohen’s d = 0.17)。因此,尽管重置模型在注意力切换提示后熵值峰值最高,但在本研究考虑的四种词汇预期模型中,其总体平均熵值处于中间水平。

将词汇惊讶度和词汇熵作为每个语境模型的语义信息回归变量,分别纳入多变量刺激表征,拟合单个参与者的编码TRF(包络-词起始-词汇惊讶度和包络-词起始-词汇熵)。随后对比不同语境模型的TRF权重和EEG预测相关性,假设感知切换且语境丰富的表征(如说话者特异性模型或注意力模型)能最好地描述注意力切换场景中的神经活动。

在对比语境模型之前,我们首先测试每个模型相较于仅包含声学特征(包络和词起始)的基线模型,是否能显著提高编码准确率。当使用熵作为语义回归变量时,除理想观察者模型外,所有模型均显示出统计学显著的准确率提升,表明除刺激声学特征外,大脑还能稳健追踪语义信息(配对t检验:理想观察者模型 vs 声学模型:p = 0.2;说话者特异性模型 vs 声学模型:p = 0.04;注意力模型 vs 声学模型:p = 0.04;重置模型 vs 声学模型:p = 0.002)。使用词汇惊讶度作为语义回归变量得到相似结果,除理想观察者模型外,所有模型均显示出对语义信息的稳健编码(配对t检验:理想观察者模型 vs 声学模型:p = 0.15;说话者特异性模型 vs 声学模型:p = 0.02;注意力模型 vs 声学模型:p = 0.02;重置模型 vs 声学模型:p = 0.01)。理想观察者模型相较于声学模型无显著准确率提升符合预期,因为它被设计为“无视切换”的对照模型。

与预期相反,当使用熵作为语义回归变量时,重置语境模型的EEG预测相关性最高(图4C)。重复测量方差分析显示,语境模型这一主因素存在统计学显著效应(F(2.1,47.75) = 9, p = 4e−4, ηp2 = 0.28;采用Greenhouse-Geisser校正)。Holm校正事后检验显示,重置模型的编码准确率显著高于理想观察者模型(t(23) = 4.99, p = 2.63e−5, Cohen’s d = 0.14)、说话者特异性模型(t(23) = 3.73, p = 0.002, Cohen’s d = 0.1)和注意力模型(t(23) = 3.28, p = 0.006, Cohen’s d = 0.09)。随后,我们对比了四种语境模型熵特征的TRF权重差异(图4D),在TRF-N400潜伏期附近的窗口(350–550毫秒)内平均权重振幅。对权重振幅值进行重复测量方差分析,显示语境模型存在主效应(F(3,69) = 15.51, p = 8.2e−8, ηp2 = 0.4)。事后检验(Holm校正)显示,重置模型的TRF-N400振幅显著低于理想观察者模型(t(23) = −5.56, p = 2.4e−6, Cohen’s d = 0.45)、注意力模型(t(23) = −5.84, p = 9.2e−7, Cohen’s d = 0.47)和说话者特异性模型(t(23) = −5.24, p = 6.5e−6, Cohen’s d = 0.43)。

当拟合包含词汇惊讶度作为语义回归变量的多变量TRF时,四种语境模型的EEG预测相关性存在统计学显著差异(F(1.59,36.6) = 3.96, p = 0.04, ηp2 = 0.15,采用Greenhouse–Geisser校正)。事后分析显示,重置模型与理想观察者模型之间存在统计学显著差异(t(23) = 3.18, p = 0.013, Cohen’s d = 0.1),而其他成对比较均未达到显著性阈值(p < 0.05)。同样,对比模型TRF权重的TRF-N400振幅时,未发现统计学显著差异。

讨论

多说话者环境中的言语交流需要灵活结合持续注意力与快速注意力切换能力[5,30]。尽管持续言语注意力的神经生理学已得到广泛研究[1,9,37,38],但注意力切换的神经机制仍了解有限。本研究通过定制化EEG实验,填补了这一空白,探究了不同言语抽象层次下注意力切换的神经生理学机制。具体而言,我们(1)验证了一种可同时探究持续注意力与注意力切换机制的实验范式;(2)以高时间分辨率解析了脱离与投入过程,发现二者时间动态存在显著不对称性,且存在短暂的双言语流同步编码阶段;(3)提出了一种神经生理学层面合理的解释,说明大脑在切换注意力时如何更新与使用词汇语境。

本研究结果对理解言语注意力切换机制具有多重意义。脱离与投入过程之间的不对称性凸显了分别研究这两个过程的重要性。先前持续注意力研究常聚焦于注意力偏向或分类指标[10,31,34,39],往往未对这两个过程加以区分。这些解码指标的有效性推动了脑机接口(如认知控制助听器)的研究[4043]。本研究发现,编码指标能够提供足够的细节,揭示不同言语流的编码随时间的演变过程。本研究在特定场景下测量到注意力切换过程中脱离与投入的不对称性。未来研究需确定认知负荷、年龄、认知能力、听力障碍、对言语内容的兴趣、试次中注意力切换频率等因素如何调节这种关系。当然,未来工作还应深入探究任务的具体性质如何影响这一现象。

持续注意力任务中,参与者需专注于目标言语而忽略无关言语[2,44],这种场景下听者没有动机去监控无关言语流。但在现实生活中,听者可能有理由探索其他言语流,例如对当前说话者内容不感兴趣。本实验范式更贴近这种现实场景。尽管任务是指令性的,不够完全真实,但该范式激励参与者监控无关言语流并随时准备快速切换注意力,这与持续注意力任务形成对比。尽管观测到的不对称性可能特定于本实验范式,但结果表明大脑可在尚未完全脱离旧目标的情况下,开始投入新目标,形成短暂的双言语流同步追踪,这与听觉场景监控机制相符[45,46]。换句话说,注意力切换后存在一段短暂时期,新言语流的追踪开始显现,而旧言语流的追踪尚未减弱。投入与脱离的潜伏期取决于窗口长度,因此并非绝对的神经时间。尽管如此,投入-脱离不对称性不受滑动窗口长度选择的影响(图3),也无法用窗口带来的时间平滑或试次/参与者平均来解释。时间平滑原则上可能会拉伸投入-脱离的时间动态,但不会产生不对称性。未来研究可探究试次间和参与者间的变异性,以更好地描述这些时间动态。在背侧-腹侧注意力框架下[47,48],注意力重新定向源于目标导向的背侧网络和刺激驱动的腹侧网络之间的灵活交互。本研究发现的投入-脱离不对称性与这一观点一致,即注意力释放与重新分配是一个整合过程,神经动态可能存在重叠。

直觉上,注意力切换期间短暂维持多言语源的并行表征是一种高效的神经加工策略。它允许在必要时灵活切换回旧言语流,而无需立即完全投入新关注的言语。这一现象支持了先前的观点,即大脑对言语无关刺激的加工不仅限于声学层面,还会在一定程度上编码语言属性[7,8,16]。无关言语流也会在人类皮层活动中得到表征,证据显示其编码强度低于目标言语流或潜伏期更长[1,49,50],且从初级到次级听觉皮层存在注意力偏向梯度[13,14],即无关言语流的编码在高级皮层区域显著减弱或无法测量[51,52]。先前研究表明,不仅言语包络,无关言语的其他关键特征(如声学起始)也会在神经层面得到表征[53,54],当言语掩蔽导致这些特征不易获取时,大脑甚至会在更晚的时间尺度上对其进行重建[55]。一种解释是,编码无关言语的模板结构可能是抑制它的有效策略[53]。其他研究发现注意力波动与目标-无关言语的相对声能变化相关,证据显示大脑可能会编码无关言语流的一些语音信息[56,57]。无关言语流信息的编码可能是注意力切换期间快速投入的促成因素之一。

本研究使用阿尔法ERSP作为聆听努力的指标,将感知需求与注意力切换动态相关联。研究测量到EEG阿尔法波段功率显著下降,且这一下降持续至注意力切换提示后约4.5秒。ERSP轨迹表明,强烈的聆听努力贯穿整个注意力切换过程,在切换接近结束时显著下降(图2A)。有趣的是,本研究观测到的阿尔法ERSP波谷大致对应新目标言语流被完全追踪的时刻,即投入过程完成的时刻,远早于脱离过程完成。由于当皮层追踪测量值回到切换前水平时,注意力切换过程可视为完成,这一结果表明阿尔法功率与投入过程存在特定关联。另一种可能是,阿尔法ERSP动态反映了重新聚焦新目标言语流时的聆听努力,以及对新无关言语流的主动抑制。当新关注的言语流达到切换前的追踪水平时,大脑已积累足够的声学和语言语境以促进追踪,从而释放认知资源。未来研究可通过探究切换难度如何影响皮层追踪不对称性与阿尔法ERSP的对应关系,验证这一可能性。这一发现拓展了先前关于选择性注意力与聆听努力神经关联的研究。阿尔法波段活动变化不仅与听觉注意力努力相关[5862],还与大脑内部聚焦vs外部聚焦状态的变化[63],以及根据行为目标主动抑制无关信息的过程相关[6466]。值得注意的是,认知负荷和无关刺激抑制受到注意力重新定向的影响,比维持单一说话者注意力的影响更大[29,67],凸显了注意力切换带来的更高认知需求。尽管阿尔法功率常与主观聆听疲劳[58,60]或目标与无关言语流之间的信噪比(SNR)相关[61],但较少与言语追踪的神经标志物关联[68,69]。本研究发现神经言语追踪的时间动态与聆听努力之间存在关联,为未来研究注意力切换挑战提供了一个潜在的有价值指标。

尽管皮层追踪和阿尔法ERSP指标可用于探究注意力如何在竞争言语流间动态重新分配,但它们无法说明注意力切换期间高级语言表征如何更新。考虑到语境在言语理解中的重要性,探究注意力从一个言语流转移到另一个言语流时语境如何调整尤为关键。解决这一问题需要关注具有较长时间动态的神经表征,使其能在不同模型间进行有意义的比较,并与言语包络追踪充分区分,以分离相关神经信号。词汇熵和惊讶度具有长潜伏期和广泛研究的神经特征,是表征语境对注意力切换影响的理想选择。其他有价值的言语属性(如语音或韵律)也值得研究,但其快速时间动态使得难以将其注意力切换动态与言语包络追踪分离。因此,本研究聚焦于注意力切换后语义预测的更新方式,模拟语言语境在切换过程中是维持、重置还是更新。

本研究对比了四种语境累积模型,它们对注意力切换的敏感性和对先前语境的获取程度不同:理想观察者模型(语境丰富但无视切换)、说话者特异性模型和注意力模型(均感知切换且语境丰富,但言语流选择性不同),以及重置模型(感知切换但仅使用当前块语境)。针对每个模型,采用与相应语境策略匹配的语义回归变量拟合多变量TRF。数据显示,重置模型对EEG数据的预测效果最佳,优于保留过往语境的模型,挑战了先前语义信息有助于注意力切换期间言语理解的假设。这一发现虽出乎意料,但属于我们假设的可能结果之一,表明听者在切换注意力到新言语流时,可能会重置语境并动态调整词汇预测,这与情景记忆和事件分割领域的研究结果一致[7072]。

有趣的是,多变量TRF分析显示,当使用词汇熵作为语义回归变量时,四种语境模型存在细微差异,但使用词汇惊讶度时则无此现象。这可能反映了熵的前瞻性本质,与词汇惊讶度的反应性本质形成对比。另一个考虑因素是,参与者主动执行注意力切换,因此预期会遇到不同的言语内容,这可能降低了惊讶度。而LLM模型未收到切换提示,不存在这种预期。LLM与人类大脑之间的这种潜在不匹配可能影响惊讶度,但不影响熵(因为熵反映语境构建过程),这或许可以解释为何重置模型仅在熵回归变量时表现最佳。解读这些结果时,还需考虑Mistral等LLM是为下一词预测优化的,并非神经生理学层面合理的模型。一种解读是,大脑的词汇预测是在重置语境后构建的;但也有可能Mistral LLM与人类大脑处理这种言语不连续性的方式完全不同。考虑到这些限制,与现代LLM和神经生理学活动相似性的一致报道相反[7375],重置模型更高的神经生理学合理性表明,大脑对先前语境的利用方式与注意力模型和说话者特异性模型不同。

大脑可能还采用其他利用先前语境的策略。一种可能性是,注意力切换促使语境使用方式发生变化,例如提取语境的抽象含义,即故事主旨[16]。因此,探索不同的语境表征策略可能具有价值,例如采用大概念模型(Large Concept Models)[76],这类模型经过训练和优化,用于句子预测。近期关于LLM和人类大脑在聆听连续独白时语言语境累积的研究[77]也支持这一可能性,研究显示,上下文窗口有限(32个词元)且能获取先前语境粗略摘要的LLM,比具有更高词元记忆的LLM更能预测神经活动。

综上,本研究表明,在真实多说话者场景中,注意力切换过程可分解为投入与脱离两个成分,且存在短暂的双言语流并行表征。我们强调了将言语神经追踪指标与聆听努力指标相关联的重要性,并证实当注意力重新分配过程中两个言语流成功区分后,聆听努力开始下降。最后,我们提出了一种模拟动态注意力场景词汇语境的方法,展示了基于Transformer的语言模型对语境累积策略细微差异的敏感性。这些发现为未来研究注意力重新定向的皮层机制提供了启示,并可用于揭示不同人群(如不同年龄和听力水平)之间的差异。

方法

伦理声明

研究参与者均签署了书面知情同意书。本研究遵循《赫尔辛基宣言》开展,研究方案经都柏林圣三一学院心理学系研究伦理委员会批准(伦理批准编号:SPREC012023-08)。

参与者与实验流程

本研究招募了24名年轻英语母语者(年龄18至39岁)。参与者听力正常(经0.25 Hz至8 kHz纯音测听筛查确认),无神经或精神疾病史,视力正常或矫正后正常。

实验模拟多说话者场景(图1A),参与者周围放置一个半径1.50米的环形阵列,包含六个扬声器(相对于参与者的水平角度为±30°、±112.5°和±157.5°)。参与者需根据视觉提示(指向左侧或右侧的箭头),在前方左侧和右侧言语流间动态切换注意力,视觉提示显示在参与者前方的屏幕中央。在切换前方言语流注意力的同时,参与者需忽略四个后方扬声器(B1-B4)播放的16人嘈杂声(每个扬声器播放4人嘈杂声)。前方言语流的声压级(SPL)为60 dB,每个嘈杂声的声压级为54 dB,因此前方言语流相对于背景的信噪比为3 dB。

参与者完成20个试次(每个试次时长180秒),每个试次需进行6次注意力切换,切换间隔为半随机(图1B)。因此,持续关注单个言语流的时长差异较大,范围为10至30秒。每个试次中,前方左侧和右侧扬声器播放不同的男性和女性言语流,实验过程中平衡呈现侧和注意力块起始(即实验包含五个子块,试次顺序为:男性左侧-注意力起始:左侧;女性左侧-注意力起始:左侧;男性左侧-注意力起始:右侧;女性左侧-注意力起始:右侧)。

每个试次开始时,视觉提示指向需关注的一侧,仅播放背景嘈杂声,5秒后两个前方言语流同时开始。每个试次结束后,参与者回答三道选择题。第一题为四选一题目,内容涉及所关注言语流的信息。由于试次中注意力在左侧和右侧言语流间交替,题目可能涉及两个竞争言语流中的任意一个。第二题为二选一题目,评估参与者基于个人兴趣对两个言语流的偏好(左侧或右侧)。最后,采用5点李克特量表(1:非常简单;5:非常困难)量化参与者对注意力切换任务的感知难度。实验流程为自定进度,为减少疲劳,每完成五个试次设置一次强制休息,每次休息不少于五分钟。

言语流采样率为44.1 kHz,通过Roland Octa-Capture 10 × 10声卡(24位/192 kHz)输出,由六个PreSonus Eris 4.5BT扬声器播放。采用BioSemi ActiveTwo系统记录参与者的EEG活动,采样率为512 Hz,电极按国际10/20标准放置在64导电极帽上。所有电极以有源电极(CMS)和无源电极(DRL)为参考,另外在乳突放置两个电极用于离线重参考。24名参与者中的21名还记录了眼电图(EOG)和肌电图(EMG)数据。左右太阳穴各放置一个电极记录水平眼动,左眼上下各放置一个电极记录垂直眼动和眨眼。为记录头部旋转相关的EMG活动,在左侧三角肌放置一个电极。请注意,本研究未分析这些外部电极的数据。

刺激材料

前方言语刺激包含40个TED演讲,涵盖多种主题,由20名女性和20名男性演讲者呈现,演讲者使用不同的英语口音。所有言语流均进行均方根(RMS)归一化,以减少男女声音差异。每个4人背景嘈杂声信号由四个不同TED演讲的音频信号叠加而成。随后调整嘈杂声的长期平均频谱,使其与男性和女性前方说话者的整体频谱一致,避免掩蔽效果不一致。

EEG数据预处理

采用MATLAB软件(MathWorks)中的自定义脚本分析神经数据,脚本基于CNSP(认知与自然感觉处理,Cognition and Natural Sensory Processing) initiative公开分享的脚本和资源(* https://cnspworkshop.net*)。首先对神经信号进行0.5 Hz至8 Hz的带通滤波,采用4阶零相位巴特沃斯滤波器,随后将采样率从512 Hz降采样至64 Hz。对偏离平均值三个标准差的通道采用球面样条插值进行替换。随后将EEG重参考至两个乳突电极的平均值。

言语特征

本研究旨在通过测量EEG数据与前方言语刺激各种特征(包括声学和词汇属性)之间的关系,描述动态多说话者场景下的神经追踪。为模拟言语声学特征,通过希尔伯特变换取绝对值提取音频的宽带振幅包络。为模拟言语的词汇属性,首先使用WebMAUS Basic对齐器[7880]自动对齐转录文本与音频,确定每个词的起始和结束时间戳。自动对齐结果保存为TextGrid格式,必要时使用Praat软件[81]手动调整。随后利用时间戳在MATLAB中构建二元词起始向量。二元词起始向量代表词切分相关信息,还可根据每个词的惊讶度或熵值进行调制,以表征更高层次的语义信息。词汇惊讶度衡量一个词在其前置语言语境中的意外程度,可通过大语言模型(LLM)计算,即该词在前置语境下概率的负对数。词汇熵则衡量下一词的不确定性或不可预测性。本研究采用预训练开源LLM模型Mistral-7B-v0.1 [82]提取词概率,随后计算每个词的词汇惊讶度和词汇熵值。

考虑到注意力切换任务的动态性,当前词预测应纳入何种语境成为一个复杂问题。从机器学习角度,对于左侧言语流中的某个词w,LLM在获得左侧言语流所有可用语言语境时,预测会更准确。但从神经/行为角度,由于参与者在左侧和右侧言语流间灵活转移注意力,最优语境会受到注意力切换的影响,可能存储之前关注块的信息。为对比这些语境累积方案,我们采用四种不同的语境表征方式。理想观察者模型(Oracle)将当前词所在言语流中所有前置词(无论是否被关注)作为语境,因此该模型“无视”注意力切换。在更符合神经生理学合理性的“感知切换”语境累积模型中,我们构建了注意力模型(Attention),它将左侧和右侧言语流中所有之前被关注的块纳入语境;以及说话者特异性模型(Speaker Specific),它具有言语流偏向,仅将同一言语流中之前被关注的块作为当前块词汇预测的语境。与注意力模型和说话者特异性模型类似,第四种模型——重置模型(Reset)也感知切换,但不保留语境,它不记录任何之前的言语块(无论是否被关注),而是在每次注意力切换提示后重置语境。

时间响应函数(TRF)与分析流程

本研究采用基于滞后线性回归的线性模型——时间响应函数(TRF),通过预测未见过的EEG数据(编码)或重建未见过的刺激特征(解码),量化言语特征的神经追踪。针对每个参与者单独拟合TRF模型,采用留一法交叉验证避免过拟合,编码模型考虑的时间滞后范围为-100至600毫秒,解码模型为0至600毫秒。TRF模型计算采用Tikhonov正则化,正则化参数(λ)通过对数尺度(10−6至104)的穷尽搜索进行调优。该搜索在每次交叉验证的训练折上进行,选择使真实数据与预测/重建数据之间皮尔逊相关系数(r)最高的λ作为最优参数。

首先,我们将左侧和右侧言语流的关注片段组合,构建“关注言语”模型。随后将EEG与关注刺激特征耦合,拟合TRF模型。采用解码方法,基于关注TRF模型重建每个试次的包络,随后将其与对应试次左侧和右侧言语流的真实包络进行相关性分析。由于试次中左侧或右侧的真实注意力标签已知,分类准确率为正确分类为关注片段的左侧或右侧片段占比(图1C)。通过随机打乱左侧和右侧标签100次,计算分类准确率的零分布。采用多种解码窗口长度(1秒、2秒、4秒、8秒、16秒、32秒),评估相关窗口大小对模型正确分类关注刺激能力的影响。

为以神经生理学可解释的方式观察左侧和右侧言语流神经追踪随时间的演变,我们采用滑动窗口方法(MATLAB的movcorr函数)计算真实与预测EEG信号的相关性,步长为0.125秒,以此拟合编码TRF模型。因此,估计的时间动态取决于窗口长度,应解读为相对而非绝对的神经时间指标。编码TRF采用包含包络(Env)、词起始(WO)和词汇惊讶度(WS)或词汇熵(WE)的多变量关注刺激特征进行拟合,以评估声学和语义特征对注意力切换时间动态的联合影响。

注意力在切换前后的重新定向可从脱离流(关注>未关注)和投入流(未关注>关注)两个角度分析。为对比这些过程的起始和结束点,我们首先根据参与者在切换过程中的注意力偏向进行筛选。基于参考4秒编码窗口,确定每个参与者在注意力切换提示前后15秒窗口内的分类准确率。排除那些切换前或切换后窗口内分类准确率低于随机水平(50%)的参与者,不再纳入切换时间动态的进一步分析。针对每个参与者,通过对脱离流和投入流的EEG预测相关性进行分段线性回归拟合,确定脱离与投入过程的起始和结束点。对于每个EEG预测相关性流,模型将切换前和切换后的平均值作为常数,尝试估计这些平坦段连接的断点,即过程的起始和结束点。基于合理假设提供断点的初始猜测(例如,脱离/投入过程的起始不会早于切换提示),采用MATLAB的lsqcurvefit函数进行拟合,最小化模型与观测数据之间的差异。

在拟合对比不同语境累积模型的编码TRF时,我们采用一种优化方法以突出词汇信息加工的影响[83]。该方法在词起始后300至500毫秒的窗口内计算真实与预测EEG数据的预测相关性,可有效增强语义编码的影响。

事件相关频谱扰动(ERSP)

先前研究发现,顶叶阿尔法波段(8–12 Hz)EEG功率下降与聆听努力增加相关,且切换注意力比维持单一说话者注意力需要更多聆听努力[29]。由于我们关注阿尔法功率的时间进程及其与TRF预测相关性时间动态的关系,计算了切换前后阿尔法频段的事件相关频谱扰动(ERSP)作为努力的指标。由于阿尔法频段神经活动对眼动伪迹敏感,我们采用EEGLAB标准函数进行独立成分分析(ICA)[84]。针对每个参与者,根据时间特征和空间地形图识别反映眼动伪迹(如眨眼和水平眼动)的独立成分,并从数据中移除。基于ICA的伪迹移除仅用于阿尔法波段ERSP分析,不用于神经追踪分析。TRF估计基于长时间滞后的刺激-响应协方差,因此不太可能受到切换前后短暂眼动的影响,因为眼动与言语信号无系统相关性。TRF拟合基于完整数据集,对TRF权重的检查未发现指示眼动污染的近零潜伏期尖峰。尽管眼动原则上可能影响切换前后的信噪比,但我们未观测到EEG预测相关性出现相应变化(例如图4B中的理想观察者模型),且切换方向在左侧和右侧言语流间是平衡的。

针对每个参与者、试次和注意力切换,ERSP计算为相对于基线的功率谱密度(PSD)相对变化。首先定义切换提示前后±15秒的片段,为使ERSP分析与神经追踪分析具有相同时间分辨率,选择4秒滑动窗口,步长为0.125秒。与神经追踪分析一致,该分析也在多种滑动窗口长度(1秒、2秒、8秒)下重复进行。在切换片段内,通过Welch方法(MATLAB的pwelch函数)在滑动窗口的每个步长计算PSD,并在阿尔法频段(8–12 Hz)的频率箱上求和。将每个步长计算的PSD与基线参考PSD值(切换前片段的第一个滑动窗口)进行比较,得到一系列ERSP值(单位为dB),反映切换过程中阿尔法功率的相对变化。

统计分析

采用包含两个或三个因素的重复测量方差分析进行统计分析,F值报告为F(自由度时间, 自由度误差)。当Mauchly球形检验显示违反球形假设时,采用Greenhouse–Geisser方法进行校正。当发现显著主效应时,进行事后检验,并采用Holm方法校正多重比较的p值。为比较时间序列与零值的显著性,对每个时间点采用Wilcoxon符号秩检验,并采用Benjamini和Hochberg方法控制错误发现率(FDR)。报告经FDR校正的p值。神经生理学结果的描述性统计以均值±标准误差(SE)呈现。

补充信息

补充图1 四种滑动窗口长度下,EEG预测相关性编码切换点(蓝绿色)与阿尔法ERSP最小值(红色)的时间潜伏期。

柱状图表示参与者和电极的平均时间潜伏期;误差条表示参与者间的SEM。星号表示统计学显著对比(显著性水平:*p < 0.05,**p < 0.01,***p < 0.001)。本图相关数据可访问:https://zenodo.org/records/20569817

(TIF)

补充图2 注意力切换提示前后说话者1和说话者2的神经追踪时间进程与头皮地形图。

EEG预测相关性来自包含包络、词起始和词汇惊讶度特征的4秒滑动窗口模型。头皮地形图显示所选时间点(黑点)TRF模型在投入和脱离过程中各电极的预测表现。彩色横条表示切换提示前后的注意力指令。蓝绿色点标记编码切换点,即EEG追踪从说话者1转向说话者2的时刻。叠加的分段线性拟合曲线表示对初始关注说话者的脱离和对新关注说话者的投入。蓝色和黄色六边形分别表示脱离和投入过程的起始点,菱形表示每个转换过程的结束点。拟合曲线展示在总平均追踪曲线上,用于说明;参与者水平的估计值见图2C。本图相关数据可访问:https://zenodo.org/records/20569817

(TIF)

致谢

感谢爱尔兰研究署旗下ADAPT人工智能驱动数字内容技术研究中心,以及Oticon旗下Eriksholm研究中心的支持。感谢Amirhossein Chalehchaleh、Emily Ip和Martin Winchester协助数据收集,感谢Enda Bates博士帮助协调实验场地。为实现开放获取,作者已对本文的作者接受稿版本应用CC BY公共版权许可。

参考文献

    [Power AJ, Foxe JJ, Forde E-J, Reilly RB, Lalor EC. 鸡尾酒会何时开始?自然言语选择性注意力的晚期位点. Eur J Neurosci. 2012;35(9):1497–503. pmid:22462504]

    [Zion Golumbic EM, Ding N, Bickel S, Lakatos P, Schevon CA, McKhann GM, et al. 鸡尾酒会场景下关注言语选择性神经追踪的机制. Neuron. 2013;77(5):980–91. pmid:23473326]

    [Puvvada KC, Simon JZ. 多说话者听觉场景中言语的皮层表征. J Neurosci. 2017;37(38):9189–96. pmid:28821680]

    [Cherry EC. 单耳和双耳言语识别实验. J Acoust Soc Am. 1953;25(5):975–9.]

    [Bronkhorst AW. 鸡尾酒会问题再探:多说话者言语的早期加工与选择. Atten Percept Psychophys. 2015;77(5):1465–87. pmid:25828463]

    [Rivenez M, Darwin CJ, Guillaume A. 无关言语的加工. J Acoust Soc Am. 2006;119(6):4027–40. pmid:16838545]

    [Har-Shai Yahav P, Zion Golumbic E. 鸡尾酒会场景下任务无关言语的语言加工. Elife. 2021;10:e65096. pmid:33942722]

    [Kaufman M, Zion Golumbic E. 聆听两位说话者:选择性与分布式注意力期间神经言语追踪的容量与权衡. Neuroimage. 2023;270:119984. pmid:36854352]

    [O’Sullivan JA, Power AJ, Mesgarani N, Rajaram S, Foxe JJ, Shinn-Cunningham BG, et al. 鸡尾酒会环境中的注意力选择可通过单试次EEG解码. Cereb Cortex. 2015;25(7):1697–706. pmid:24429136]

    [Mesgarani N, Chang EF. 多说话者言语感知中关注说话者的选择性皮层表征. Nature. 2012;485:233–6.]

    [Simon JZ. 听觉皮层中听觉对象的编码:脑磁图研究进展. Int J Psychophysiol. 2015;95(2):184–90. pmid:24841996]

    [Evans S, McGettigan C, Agnew ZK, Rosen S, Scott SK. 开启鸡尾酒会:言语感知中的掩蔽效应. J Cogn Neurosci. 2016;28(3):483–500. pmid:26696297]

    [Hausfeld L, Hamers IMH, Formisano E. 嘈杂场景下初级和次级听觉皮层的fMRI言语追踪. Commun Biol. 2024;7(1):1217. pm