简介
随着高速列车智能化水平的提升,驾驶安全与驾驶员认知状态成为关键研究焦点。
本文基于ErgoLAB人机环境同步平台V3.0,构建了高速列车驾驶模拟环境,采集多模态生理信号(包括脑电、心电与眼动)以研究驾驶员情景意识(SA)状态的变化。通过结合高斯混合模型与主观评分的方法对SA状态进行精确标注,并分析不同SA水平下各类生理特征的变化。结果显示,SA状态显著影响多项生理指标,所提出的方法在区分高低SA状态方面表现出良好效果。尽管仍存在样本单一等局限,本研究为基于生理信号的实时认知状态监测提供了实验基础与方法参考,在铁路安全、人因工程及智能监控等多个领域具有广泛的应用前景。
01引言
生理信号(如心电ECG、皮电EDA)因其客观性、实时性及对操作者认知与生理状态的精准刻画能力,正逐渐成为高铁列车驾驶中情景意识(SA)研究与监测的重要技术手段。随着列车运行速度加快、任务复杂性提高,驾驶员的注意分配、信息感知、决策负荷和认知状态成为影响行车安全的核心因素。然而,基于行为观察或主观自评的SA评估方式存在滞后性与主观偏差,难以满足高速列车动态运行环境下对情景意识状态的精准获取需求。因此,借助生理信号实时解析驾驶员的感知、理解与预测能力,并联动车辆控制系统优化人机协同策略,正成为铁路智能安全系统的重要发展方向。
当前,生理信号在高铁驾驶员情景意识(SA)评估中展现出四大趋势:一是融合ECG、EDA、EEG等多模态信号与列车运行及环境数据,提升SA识别精度;二是引入LSTM、Transformer等深度时序模型,增强对SA动态变化的刻画能力;三是依托联邦学习与在线迁移学习,实现个性化SA建模与实时干预;四是融合差分隐私与边缘计算,保障生理数据在系统中的安全应用。未来,SA监测技术将加速融入铁路智能系统,赋能安全与人因优化。
下面请阅读基于ErgoLAB 人机环境同步平台V3.0的高速列车驾驶中情景意识变化对多模态生理反应的影响研究。
02研究案例
题目:Impact of Situation Awareness Variations on Multimodal Physiological Responses in High-Speed Train Driving
作者:Wenli Dong, Weining Fang, Hanzhao Qiu, Haifeng Bao
期刊:brain sciences
DOI:https://doi.org/10.3390/brainsci14111156
研究背景
在高速铁路驾驶环境中,驾驶员的认知状态直接影响行车安全。生理信号(如心电ECG、脑电EEG)因其客观性、实时性及对驾驶员心理状态的直接反映能力,正成为情景意识(SA)监测的重要工具。研究表明,SA不良是导致人为错误的核心因素之一,驾驶员在高速行驶时需持续感知并理解环境信息,如信号灯、轨道状况和天气变化。良好的SA可帮助驾驶员及时察觉风险、准确决策并迅速反应,而SA缺失可能导致误判速度限制、忽视报警信息等操作失误,从而引发超速、制动延迟等安全风险。传统SA评估方法如SAGAT(情景意识全局评估技术)与自评量表虽可提供一定参考,但存在主观性强或需中断任务等局限,因此,基于生理信号的SA评估逐渐成为研究热点。
当前,多模态生理信号融合被认为是提高SA推断准确性的有效途径。不同信号反映SA的维度不同,如眼动数据可用于衡量注意分配,但可能存在“看见但未理解”的问题;心电信号(HRV等)可揭示自主神经系统的调节能力,但易受外界干扰;脑电EEG则能捕捉SA的不同层次(感知、理解与预测),为驾驶员的认知状态提供更直接的神经证据。然而,EEG信号处理复杂,易受噪声影响,单一信号难以精准评估SA。因此,融合眼动、心电与脑电信号,结合深度学习方法建模驾驶员认知状态,成为提升SA评估准确性的重要方向。
本研究旨在构建适用于高速列车驾驶环境的情景意识(SA)测量范式,并通过结合主观SA评分与任务绩效指标,开发更精确的SA标注方法。在此基础上,我们将探讨SA变化与多模态生理信号特征之间的关系。我们假设,该SA测量范式能够有效诱导高速列车驾驶环境下的SA状态变化,而这些变化将在生理信号中表现为显著差异,不同SA水平对应于特定的生理模式。研究结果将为基于生理信号的SA测量方法提供理论支持与实验基础,并为未来多模态SA监测技术在高速铁路领域的应用奠定基础。
研究目的
本研究旨在构建适用于高速列车驾驶的情景意识(SA)测量范式,结合主观评分与任务绩效优化SA标注,并探讨SA变化与多模态生理信号特征的关系。研究将验证不同SA水平的生理信号差异,为基于生理信号的SA测量提供理论支持,并推动其在高速铁路安全监测中的应用。
研究方法
受试者
本研究共招募了19 名年龄在 19 至 22 岁之间的男性列车驾驶学员(平均年龄 20.5 岁,标准差 0.8 岁)。为了尽量减少性别和年龄变量对情景意识评估准确性的影响,研究对象在性别与年龄方面保持一致性。所有受试者均具有正常或矫正视力,无色觉障碍、听力缺陷、身体机能限制或其他相关生理缺陷。所有受试者在参与实验前均签署了知情同意书。
实验设备
本实验使用了高速动车组驾驶模拟器。用于数据采集的设备包括:眼动(ET)设备:Tobii Pro Glasses 3,采样率为50Hz;脑电(EEG)设备:ErgoLAB 32 通道半干式脑电系统,采样率为 256 Hz;心电(ECG)设备:ErgoLAB ECG无线心电仪,采样率为 512 Hz。
图1 实验模拟环境及信号采集布置
脑电与心电数据通过 ErgoLAB人机环境同步平台V3.0实现实时同步。实验结束后,眼动数据被导入ErgoLAB V3.0,与高帧率视频进行时序比对以实现多模态信号的准确对齐。
图2 多模态数据采集与同步系统
实验任务
实验设计了以下四类主要列车驾驶任务:环境监控;速度调整;故障检测;故障诊断。所有受试者均沿同一路线驾驶模拟列车,需持续警觉环境变化、追踪目标速度、并避免超速。在此过程中,系统会随机引入
故障事件或异常驾驶事件,受试者需对此迅速做出反应。具体事件包括:4 个故障事件:断路器无法闭合、牵引力丧失(两种类型)、辅助逆变器失效;4 个异常驾驶事件:雨天与雾天驾驶(开始与结束)。实验开发了无线通信接口,用以在模拟器与 ErgoLAB 软件之间同步事件标记,如“事件发生”与“受试者响应”时间点。
实验设计
采用被试内设计(within-subject design),每位受试者都要在四种实验条件下完成任务,顺序随机分配。四种实验条件如下:条件1(LL):无疲劳、无压力;条件2(LH):诱导压力但无疲劳;条件3(HL):诱导疲劳但无压力;条件4(HH):同时诱导疲劳与压力。疲劳诱导方式:让受试者连续完成 90 分钟 AX-CPT(连续绩效测试 AX 版本)任务,该任务已被证明能有效诱导疲劳。压力诱导方式:在驾驶过程中设置速度控制要求,要求当前速度与目标速度之差不得超过 10 km/h,且不能超速。
为评估受试者的心理状态,我们使用了以下三种主观量表:Karolinska 睡意量表(KSS):常用于评估疲劳,分为 1(非常清醒)到 9(非常困倦);状态焦虑问卷简版(SATI-6):6 项问卷,用于评估压力强度;任务意识评价量表(MARS):原用于飞行员的情景意识自评量表,在本研究中进行了适配以适用于列车驾驶任务(详见附录 A)。
实验流程
实验开始前,研究人员向受试者讲解研究目的,并获取知情同意书。随后进行练习环节,使受试者熟悉故障与异常事件的反应流程。正式实验中,每个实验条件(session)分为3 个区块(block),每个区块包括8 个事件(trial),事件顺序采用拉丁方设计随机分配,防止顺序效应。所有区块顺序也进行了受试者间平衡设计,以控制学习效应。在每个区块开始与结束处,会记录主观疲劳、压力与SA评分(KSS、SATI-6、MARS)。
图3 实验流程
方法学
心理状态标签的判定(Determination of Mental State Labels)
本研究将疲劳、压力和情景意识(SA)标签的判定划分为以下三个步骤:
(1)疲劳标签的判定:
采用 Karolinska 睡意量表(KSS)作为评估依据。评分范围为 1~9:评分在
1~5的样本被归类为低疲劳;评分在6~9的样本被归类为高疲劳。
(2)压力标签的判定:
使用状态焦虑问卷简版(SATI-6)进行评估:分数≥15的样本被归为高压力;分数≤15的样本被归为低压力。
(3)情景意识(SA)标签的判定:
为生成更准确的 SA 标签,研究结合了:主观 SA 评分(Adapted MARS)受试者的反应时间(RT)使用高斯混合模型(GMM)对 RT 进行聚类,将 RT 分为两组,其概率密度函数交点作为划分高低 SA 的阈值。对于主观 SA 评分,以中位数 16 分作为高低 SA 的划分依据。考虑到主观评分可能受主观判断影响,而 RT 更能客观反映实际 SA 状态,因此最终 SA 标签以 RT 为主导:若 RT 超过阈值(反应慢),则标记为低 SA;若 RT 未超过阈值,但主观 SA 评分低于中位数,也标记为低 SA;其余情况标记为高 SA。
疲劳与压力诱导的验证(Validation of Fatigue and Stress Induction)
为验证疲劳和压力诱导方法的有效性,研究在实验关键节点处(见图 3)收集了主观评分数据。
采用线性混合模型(Linear Mixed Models)对时间维度下疲劳与压力得分变化进行统计分析:
疲劳诱导结果:AX-CPT任务后疲劳显著上升;实验块间疲劳逐步降低;与基线相比,各时间点疲劳评分仍显著升高(p<0.05)。
压力诱导结果:在设置速度要求的任务中,压力评分显著上升;压力在整个任务期间基本保持稳定;分析显示时间主效应显著(F(4,72)=13.55, p≤0.001);
信号预处理(Signal Preprocessing)
从“事件发生”到“受试者反应”之间的数据片段中提取生理信号,时长根据个体反应时间而异。共收集数据段:19人 × 4条件 × 3区块 × 8事件 =1824段;剔除无效段后,最终保留有效样本1062 条。
各模态信号处理流程如下:
(1)眼动(ET)数据处理:对 75ms 内缺失数据进行线性插值;使用 滑动中值滤波器去噪;使用速度阈值法(Velocity-Threshold Identification)区分注视与扫视;超过 30°/s:扫视;小于该阈值:注视。
(2)心电(ECG)数据处理:应用 带通滤波器(0.05–100 Hz)去除基线漂移与高频噪声;使用小波变换进一步降噪;采用R 波峰检测算法检测心跳峰值,人工校验部分样本确保准确性。
(3)脑电(EEG)数据处理:标识异常通道并采用球面样条插值进行修复;重参考为平均参考(CAR),带通滤波范围为1–30 Hz;进行独立成分分析(ICA),剔除眼动、肌电、心电等伪迹(每人约去除1–3个分量)。
特征提取(Feature Extraction)
研究提取了 ECG 和 EEG 的典型特征,眼动数据则通过热图分析其注意分布模式。(1)心电(ECG)特征:
提取 9 个心率变异性(HRV)指标:时域指标:Mean HR、SDNN、RMSSD、SDSD、pNN50;频域指标:LF功率、HF功率、总功率、LF/HF比值。
考虑到数据段时长在 30~60 秒不等:使用
30秒窗口、50%重叠的方法计算频域特征;此策略可在短时段中获得较稳定的频域分析结果,提升 LF 和 HF 功率的可信度。
(2)脑电(EEG)特征:
从每个数据段中提取 3 个频段的功率谱密度(PSD)特征:θ(4–8 Hz):与工作记忆和注意力控制相关;α(8–13 Hz):反映皮层抑制和注意力调节;β(13–30 Hz):与任务参与度和认知稳定性相关。
具体方法:每个数据段被划分为
1 秒无重叠小段;每段计算 PSD,再对整个数据段的 PSD 取平均;每个频段 × 32个电极 × 3个频段 =96个 EEG 特征。
研究结果
利用反应时间与主观评分标注SA(SA Labeling Using Response Time and Subjective Ratings)
情景意识(SA)标签的划分依据为:
反应时间(RT);主观 SA 评分(Adapted MARS)。具体操作如下:将 RT 数据进行标准化处理;使用双组分高斯混合模型(GMM)对 RT 聚类,两个分布的概率密度交点被用作划分高低 SA 的阈值。该交点对应标准化值 0.99,实际 RT 为6.55 秒。
主观 SA 得分的中位数为16 分,用作划分高低 SA 的标准。SA 标签确定规则如下:如果 RT 超过 6.55 秒,无论主观评分如何,标签为低 SA;如果 RT 未超标,但主观评分 ≤16 分,标签也为低 SA;其余情况为高 SA。最终共有:高 SA 样本:1062 条;低 SA 样本:643 条。
疲劳与压力诱导的验证(Validation of Fatigue and Stress Induction)
通过主观评分变化趋势与统计分析验证疲劳与压力诱导的有效性。
图5 主观评分变化趋势图
疲劳诱导验证结果:AX-CPT 任务后疲劳评分显著上升;之后各实验区块中评分逐渐下降,但始终高于基线;线性混合模型分析显示时间主效应显著:F(5, 90) = 10.21,p ≤0.001;Bonferroni 校正后结果表明:AX-CPT后评分显著高于基线(p≤ 0.001)。
压力诱导验证结果:压力评分在压力任务(如控速)后显著上升,并在后续区块保持稳定;线性混合模型分析显示时间主效应显著:F(4, 72) = 13.55,p≤0.001;后续比较显示从第一区块开始到第二区块,压力评分明显上升(p≤0.001)。
SA 诱导有效性的验证(Validation of SA Induction)
表 1 展示了不同实验条件下的高低 SA 样本数量分布。通过卡方检验(Chi-square test)分析发现:总检验结果显著:χ² = 45.571,p≤0.001;表明不同实验条件有效诱导了 SA 状态变化。
表1 各实验条件下SA样本的分布
事后分析(Post hoc)结果:LL vs. HH 差异最大(χ² = 44.41,p≤0.001);LL 与 LH/HL 均有显著差异(p ≈ 0.0007);LH 与 HL 差异不显著(p = 1.00);LH vs. HH、HL vs. HH 差异显著(p ≈ 0.001)。
SA 状态变化对典型多模态生理特征的影响(Impact of SA Variations on Typical Multimodal Physiological Features)
本节探讨了四种实验条件下(LL、LH、HL、HH)不同 SA 状态下生理特征的差异。这些变化源自SA 状态差异,而非实验条件本身的直接影响。
眼动特征分析(Eye Movement Patterns)设置了三个感兴趣区域(AOIs):前方视景(View Scene);人机界面(MMI);驾驶仪表界面(DMI)。
图6 AOIs
结果:
高 SA 状态下:受试者主要注视外部环境,仅偶尔查看仪表,说明其注意力集中、任务效率高;低 SA 状态下:注意力偏向仪表盘,忽视外部环境,提示其可能认知负荷高或疲劳加重;低 SA 状态下的“补偿性注视”虽频繁,但可能阻碍整体情景意识。
图7 高和低SA水平的眼动热图
心电特征分析(ECG Features)使用 Mann-Whitney U 检验对 ECG 特征进行统计分析。结果:高 SA 状态下:心率更低;HRV(如 SDNN、RMSSD、SDSD、pNN50)显著升高;反映出副交感神经活动增强、情绪更稳定;低 SA 状态下:心率升高;HRV 降低;说明自主神经调节能力下降,表明认知负荷或压力水平较高。所有指标差异显著(p≤0.001)。
图8 情景意识变化对心电图特征的影响
脑电特征分析(EEG Features)
高低 SA 状态下在三个频段的脑区功率谱密度(PSD)分布:
Theta(4–8 Hz)低 SA 时额叶 theta 活动下降(p = 0.016);说明注意力减弱、认知压力上升;Alpha(8–13 Hz)低 SA 时额叶与顶叶 alpha 增强(p = 0.020);表示任务处理难度增加、需要更多认知资源;Beta(13–30 Hz)高 SA 状态下额叶和顶叶 beta 活动增强(p = 0.046);说明任务参与度更高、认知调控能力更强。
图9 情景意识变化对脑电特征的影响
研究结论
本研究针对高速列车驾驶环境,提出了一种情景意识(SA)变化诱导方法,并开发了基于任务绩效与主观评分相结合的SA标注方法,以提高标注的准确性。研究结果表明,SA变化对多模态生理信号(眼动ET、心电ECG和脑电EEG)具有显著影响,其中,高SA状态下驾驶员注意力更集中,眼动特征表现出更有效的信息获取模式;心率(HR)较低,心率变异性(HRV)较高,表明自主神经调节能力增强;脑电EEG特征呈现θ波增强、α去同步化和β波活动增加,表明认知处理能力提升。以上结果验证了SA与生理信号之间的对应关系,支持基于生理信号的SA测量方法,为高速列车驾驶中的实时监测提供了生理学依据。本研究进一步强调了多模态生理信号融合在SA监测中的应用价值。通过整合ET、ECG和EEG数据,可以更全面地捕捉SA状态变化,为实时监测和预警驾驶员状态提供可靠手段。未来研究可进一步优化SA标注方法,如引入更客观的测量技术(如SAGAT),并探索更高效的信号处理与机器学习方法,以提升SA评估的精度和稳定性。本研究为高速铁路驾驶员的情景意识监测奠定了实验基础,也为其他安全关键领域的SA研究提供了重要参考。
部分参考文献
[1] Strauch, B. Investigating Human Error: Incidents, Accidents, and Complex Systems; CRC Press: Boca Raton, FL, USA, 2017.
[2]Shappell, S.A.; Wiegmann, D.A. US naval aviation mishaps, 1977–1992: Differences between single-and dual-piloted aircraft.Aviat. Space Environ. Med. 1996, 67, 65–69. [PubMed][3]Shappell, S.; Detwiler, C.; Holcomb, K.; Hackworth, C.; Boquet, A.; Wiegmann, D.A. Human error and commercial aviation accidents: an analysis using the human factors analysis and classification system. In Human Error in Aviation; Routledge: London,UK, 2017; pp. 73–88.[4]Mathavara, K.; Ramachandran, G. Role of human factors in preventing aviation accidents: An insight. In Aeronautics-New Advances; IntechOpen: London, UK, 2022.
[5]Hamer, R.; Waterson, P.; Jun, G.T. Human factors and nuclear safety since 1970–A critical review of the past, present and future. Saf. Sci. 2021, 133, 105021. [CrossRef]
03研究拓展
未来的研究可以集中在以下几个方面:
(1)真实环境验证:在实际高速列车驾驶环境及其他安全关键领域测试SA测量方法的有效性,确保其在不同操作场景下的适用性。
(2)生理信号扩展:增加研究的生理信号范围,如引入更多EEG频段、HRV频域特征或皮电活动,以提升SA状态监测的全面性和准确性。
(3)实时监测技术:从离线数据分析向实时监测转变,开发可在驾驶过程中实时评估SA状态的系统,以支持安全管理和主动干预。
(4)可穿戴传感器应用:探索轻便、高效的可穿戴设备,实现无创、高灵敏度的生理信号采集,以提升系统的便捷性和可推广性。
(5)深度学习优化:采用更先进的机器学习和深度学习算法,提高多模态生理信号融合分析的精度,增强SA评估的稳定性和鲁棒性。
(6)信号处理改进:优化伪影去除和数据预处理技术,提升生理信号的质量,确保实时监测环境中的数据可靠性和准确性。
(7)跨领域应用:将SA监测技术拓展至航空、航海、智能交通等其他高风险行业,以提高广泛领域的安全性和操作效率。
04引申阅读
【1】题目:Detecting event-related driving anger with facial features captured by smartphones
作者:Y Wang, X Zhou, Y Yang, W Zhang
期刊:Ergonomics
DOI:10.1080/00140139.2024.2418303
【2】题目:Research on identification of flight cadets' cognitive load based on multi-source physiological data and CGAN-DBN model
作者:Pan, T., Wang, H., Si, H., Li, Y., Li, G., & Zhu, Y.
期刊:Ergonomics
DOI:10.1080/00140139.2024.2380340
【3】题目:Multimodal Dataset Construction and Validation for Driving-Related Anger: A Wearable Physiological Conduction and Vehicle Driving Data Approach
作者:Sun, L., Yang, H., & Li, B
期刊:Electronics
DOI:10.3390/electronics13193904
tip:本文仅用于学术交流,原文版权归原作者和原发刊所有。