BIM实验研究中心

位置: 首页 > 科研成果 > 期刊论文 > 正文

【Automation in Construction】基于对比学习EEG-Transformer框架的VR建筑安全培训情境意识变化神经预测

BIM中心 发表于: 2026-07-15 14:47 点击:[]

总体描述:

深圳大学土木与交通工程学院丁志坤教授团队最新研究,首次提出对比学习EEG-Transformer框架ConSAT,实现了从脑电信号对个体VR安全培训效果(以情境意识变化 ΔSART 表征)的端到端预测(R² = 0.6852),并进一步提出“危险情境神经表征”(Hazard Situation Neural Representation, HSNR)概念,揭示了有效安全学习背后“情绪标记—具身模拟”的层级级联机制,为识别培训“低响应者”及开发个性化VR安全培训系统提供了神经生理学依据。

原文标题:

Neural prediction of situation awareness changes in VR-based construction safety training using a contrastive learning EEG-transformer framework

原文链接:

https://doi.org/10.1016/j.autcon.2026.107137

作者信息:

Zhaoyang Xiong(熊朝阳),Zhikun Ding(丁志坤,通讯作者),Longhui Liao(廖龙辉)

团队依托深圳大学中澳BIM与智慧建造联合研究中心、滨海城市韧性基础设施教育部重点实验室(深圳大学)等平台开展研究。

封面照片:

Highlights:

1. 提出ConSAT框架,攻克EEG预测中的“小样本、高噪声”难题: 通过“无监督对比预训练 + 有监督微调”两阶段策略,结合基线—任务态标准化,从仅27名被试的脑电数据中学习出稳定、可判别的个体认知表征,有效规避了深度模型在小样本上的过拟合。

2. 证实脑电模式可预测主观SA训练结果: ConSAT对个体情境意识变化(ΔSART)的预测决定系数达 R² = 0.6852,可解释约68.5%的个体训练效果差异,显著优于SVM、随机森林、1D-CNN、Bi-LSTM等传统基线,为补充主观自评提供了神经生理学证据。

3. 提出危险情境神经表征(HSNR): 通过Gradient SHAP与ElasticNet可解释性分析,识别出Oz-beta(特征锁定)、F7-theta(情绪标记)、FC1-beta(具身模拟)三类关键频段—空间特征,提出有效安全学习依赖于“情绪标记—具身模拟”的层级级联,而非单纯的视觉临场感。

4. 面向个性化培训的实用工具: 该框架可作为识别培训“低响应者”的生理驱动工具,为从“一刀切”式培训转向数据驱动的精准干预提供了概念基础。


摘要

虚拟现实(VR)建筑安全培训通常依赖主观自评进行效果评估,而自评难以捕捉个体训练结果背后逐时刻的认知动态。为弥补这一不足,本文提出ConSAT——一种基于对比学习的Transformer模型,可从培训过程中记录的脑电(EEG)信号出发,预测由情境意识评定技术(SART)量化的个体情境意识(SA)变化。通过将无监督对比预训练与领域特定的标准化相结合,ConSAT表明以 ΔSART 表征的个体训练结果可从神经信号中解码(R² = 0.6852),其表现优于传统基线,并为自评评估提供了神经生理学补充。神经可解释性分析识别出“危险情境神经表征”(HSNR),提示有效的安全学习涉及一个假设性的“情绪标记”与“具身模拟”级联过程,而不仅仅是视觉临场感。该框架为识别“低响应者”提供了生理驱动工具,也为个性化VR安全培训系统奠定了概念基础。


问题背景介绍

建筑业事故率长期居高,超过80%的事故可直接归因于人因。VR因能复现真实难以模拟的高危场景,已成为安全培训的重要工具。然而,当前评估框架高度依赖主观自评量表——这类指标虽经标准化验证,但本质是“事后”的、易受社会赞许偏差影响,且无法揭示产生该结果的逐时刻认知过程,从而难以判断受训者的“变化”究竟是内化为安全反射,还是仅停留在语义规则的记忆层面。

更关键的研究缺口在于:现有神经认知研究大多停留在“描述性解释”层面(如两变量间的相关分析或跨组验证),缺乏能够对个体培训效果进行端到端预测的模型。而构建此类EEG预测模型面临三重技术挑战:神经信号的非平稳性与长程时间依赖、被试间的巨大个体差异,以及physiological数据固有的小样本问题——这使得传统机器学习与标准深度模型(CNN/LSTM)要么局限于局部特征、忽视高层SA所需的全局功能连接,要么在小样本上严重过拟合。本文正是针对“从描述性解释走向个体化预测”这一缺口展开。


研究方法概述

本研究遵循“VR实验采集—脑电预处理—ConSAT建模”的三阶段系统框架:

图1. 研究整体框架

① 实验设计与数据采集。 招募27名土木工程专业研究生(16男11女,平均年龄22.22±1.34岁)作为“新手”被试,以排除职业习惯化的干扰。

② 基于真实事故数据,采用虚幻引擎5.5开发了涵盖高处坠落(FFH)、同层绊倒(TSL)、物体打击(SB)三类共9个高危场景,并经3名注册安全工程师验证。

表1. 类高危场景

③ 被试佩戴PICO 4 Pro头显完成沉浸式培训,同步通过32通道TMSi SAGA EEG系统(1000 Hz)采集脑电。

图2. EEG-VR数据采集设备

④ 实验采用被试内前测—干预—后测设计,场景呈现顺序以拉丁方设计进行平衡以控制顺序效应。以 ΔSART = SARTpost − SARTpre 作为量化训练效果的真值标签。

图3. 实验流程(前测—VR干预—后测)

⑤ 脑电预处理。在EEGLAB中完成滤波、重参考、坏导插值与ICA伪迹去除;随后将连续任务态数据以2s窗、50%重叠进行滑窗切分,共得到26,580个任务态窗口。核心创新在于基线—任务态标准化:以每位被试自身2分钟静息态基线对其任务态信号进行归一化,从而剔除颅骨厚度、电极阻抗等静态个体差异,只保留由危险场景诱发的动态认知响应。

⑥ ConSAT模型。 这是一个两阶段轻量级架构(约392K参数,以对抗小样本过拟合):

  • 阶段一(无监督对比预训练): 以Transformer编码器为骨干,利用多头自注意力捕捉跨脑区的长程功能连接;通过时间扭曲、高斯噪声、通道丢弃生成正样本对,采用InfoNCE损失(τ=0.2),在“最大化同一被试表征相似度、区分不同被试”的目标下,学习结构化的“个体认知指纹”。

  • 阶段二(有监督微调): 加载预训练编码器,接入含基线融合的双分支回归头(脑电分支 + 前测SART分支),并采用差分学习率与加权MSE损失(对负向改善样本加权惩罚),端到端预测 ΔSART。

图4. ConSAT模型架构

评估采用留一被试交叉验证(LOSOCV,n = 27),并通过被试内标准化与每折完全重置的双重隔离,确保零数据泄漏。


总结与思考

荐读论文首次证明VR安全培训中的个体情境意识变化可以从脑电信号中被端到端地解码和预测,并据此揭示了其背后的神经机制。

主要发现:

(1)行为层面。发现驱动SA提升的是“情绪唤醒”。81.5%的被试SA获得正向提升。相关分析显示,ΔSART与情绪唤醒变化显著正相关(r = 0.506, pFDR = 0.021),但与VR临场感几乎无关(r = −0.011)。这提示有效的安全学习可能更像一个“内化”过程,而非“观看”过程。

图5. 行为学多维分析结果

(2)预测层面。ConSAT领先传统模型性能,具体而言ConSAT取得 R² = 0.6852、RMSE = 3.162、MAE = 2.101,较最优基线Bi-LSTM的R²提升约53.9%;且对“低响应者”与“高收益者”均保持稳健,残差近似零均值正态分布。消融实验进一步证实:仅随机初始化时R²仅0.2525,引入对比预训练后翻倍至0.5722,联合微调后达0.6852,验证了两阶段策略的必要性。

图6. ConSAT预测性能分析

(3)表征层面。 t-SNE可视化显示,原始特征空间轮廓系数仅0.115(杂乱重叠),经ConSAT处理后跃升至0.809(+603%),形成清晰的被试特异性簇,且正/负ΔSART被试在流形中呈现明显空间分离,说明模型不仅在做身份聚类,更将“安全学习的行为语义”嵌入了特征空间。

图7. 基于t-SNE的神经表征学习可视化

(4)机制层面。提出HSNR危险情境神经表征框架。通过SHAP与ElasticNet的模型可解释性分析,识别出与SA三个层级对应的关键神经模式,构成一个层级级联:

  • Level 1 感知(Oz-beta,特征锁定): 枕叶高频beta反映“视觉警觉”,将被动视网膜输入转为主动锁定危险线索——这解释了为何单有临场感不够,即“看到了”却未“感知到”。

  • Level 2 理解(F7-theta,情绪标记): 左额theta将情绪效价附着到视觉危险表征上,把几何可见但情感中性的“断裂护栏”转化为被感知的威胁。

  • Level 3 投射(FC1-beta,具身模拟): 感觉运动区beta提示内隐的运动准备/回避反应,使受训者进入“身体就绪”状态,架起从认知到行动的桥梁。

图8. 危险情境神经表征(HSNR)框架

实践启示与思考:

  • 精准识别与主动矫正“低响应者”: 若受训者仅有Oz-beta(看到了)而缺乏F7-theta与FC1-beta,说明其并未真正内化安全技能。管理者可据此识别“被动观看者”,并通过触觉反馈等多感官线索强制触发缺失的“情绪标记”,将“被动筛除”转为“主动矫正”。

  • VR设计从“视觉保真”转向“神经自适应”: 高保真的VR视觉刺激仅满足Level 1感知,“吓人”或情绪显著的元素并非噱头,而是确保受训者将危险感知为真实威胁的关键教学工具。

  • 论文指出,HSNR与“情绪标记→具身模拟”级联属于基于反向推理的假设性框架;预测目标 ΔSART 仍是主观自评代理指标;样本以新手为主、且为单一实验室数据集,R² = 0.6852不能直接应用在跨人群的数据集中。这些为后续现场验证、跨数据集验证及神经反馈/经颅刺激等因果实验指明了方向。


总的来说,荐文推动了建筑安全培训效果评估从“事后自评”向“及时、可观测、可干预的个体化认知过程”的范式转变,倡导下一代VR安全培训应超越视觉保真度,转向以情感与感觉运动参与为核心的具身化安全学习。




下一条:【Resources, Conservation and Recycling】地铁开挖废料的生命周期温室气体评估及减排潜力:基于BIM集成的数据驱动框架

关闭

深圳大学 土木与交通工程学院

中澳BIM与智慧建造联合研究中心/深圳大学建筑互联网与BIM实验中心

地址:广东省深圳市南山区深圳大学南区土木与交通工程学院2楼

邮编:518060

中心公众号

网站访问量: