• 首页
  • 科学成果
  • 虚拟现实中的人机交互技术—基于脑电的运动想象脑机接口技术-彭福来博士

虚拟现实中的人机交互技术—基于脑电的运动想象脑机接口技术-彭福来博士

2021-10-18

1. 引言

虚拟现实的人机交互是指用户以便携、自然的方式与计算机所产生的虚拟世界对象进行的信息传输。通过用户与虚拟环境之间的双向感知建立起一个更为自然、和谐的人机环境,是虚拟现实为用户提供体验、走向应用的核心环节。随着信息技术的不断发展,虚拟现实的人机交互方式由传统的手柄、键盘等输入设备逐渐向语音、姿势、生理电信号等交互方式扩展。本文对一种新型的虚拟现实交互技术-基于脑电的运动想象脑机接口技术进行介绍。

2. 基于脑电的运动想象脑机接口交互技术

基于脑电的人机交互技术是通过信号采集设备从人体头皮获取脑电信号,然后将不同的脑电特征转化为相应的控制命令来实现人机交互的一个过程。这种技术被称为脑机接口(Brain-Computer Interface, BCI),它是直接使用人体脑电信息与虚拟场景的虚拟对象进行交互的技术,过程中无需用户手脚以及其他任何肌肉动作的参与。

根据脑电信号的产生原理不同,脑机接口技术大致可以分为五类:基于运动想象(Motor Imagery,MI)的脑机接口、基于稳态视觉诱发电位(Steady-State Visual Evoked Potential,SSVEP)的脑机接口、基于P300电位的脑机接口、基于皮层慢电位(Slow Cortical Potential, SCP)的脑机接口和基于运动启动视觉诱发电位(motion-onset Visual Evoked Potential, mVEP)的脑机接口。 

2.1 基于运动意图想象脑机接口技术的原理

运动想象电位(Motor Imagery, MI)是指当受试者想象进行运动时产生的特定的大脑节律,该节律表现为在特定频率振荡的脑电电位,这些特定频率包括mu频带(8-13 Hz)、beta频带(13-30 Hz)等几种。当受试者想象某一个肢体的运动时,这些频带的能量减小,这一现象称为事件相关去同步(Event Related Desynchronization, ERD),反之,当受试者停止运动想象时,这些频带的能量又会逐渐回升,相应的现象称为事件相关同步(Event Related Synchronization, ERS)。这种频带能量的变化通常发生在想象肢体的对侧脑区,因此,可以通过对受试者的脑电信号进行频率分析来识别其想象的肢体运动为左侧还是右侧。如图1所示,当受试者想象左手运动时,右侧脑区ERD的信号更为明显,因而对脑电信号进行功率谱密度计算时会发现左侧脑区的能量明显大于右侧,反之亦然。目前,对于运动想象信号进行特征提取的常用方法是一种被称为共空间模式(Common Spatial Pattern, CSP)的算法。CSP算法是一种监督方法,即训练数据集被标记过,每个数据向量的类别是已知的。例如,大脑信号是在受试者执行两种不同的任务(如左手和右手的运动想象)时采集的。CSP寻找空间滤波器,使滤波处理后的数据与其中一类的方差达到最大,而与另一类的方差达到最小,因而,得到的特征向量增强了两类之间的差别。对特定频带进行滤波处理得到的脑电信号的方差对应于该频带的能量,因此,CSP实质上使得BCI所使用的特征的可区分程度最大化。

前面所述的P300和SSVEP信号的产生都需要外部刺激来进行诱发,属于诱发式脑电。要实现对脑电信号的稳定的诱发,往往需要一段持续的时间(一般为几秒钟左右)。与之不同的是,运动想象信号的产生不需要任何外部刺激,属于自发式脑电,用户可以通过持续的运动想象输出连续的控制命令,并将该命令传入到虚拟现实环境中,以实现基于脑机接口的虚拟现实人机交互。

 

图片1.png 

图1左右手想象时的ERD(左图:左手想象时C3电极的功率谱,中间图:ERD拓扑分布,右图:右手想象时C4电极的功率谱)

 

2.2 运动想象-虚拟现实系统结构

运动想象脑机接口(MI-BCI)系统是大脑与被控对象之间的一个软硬件相结合的交互式通信系统,基本 MI-BCI 由以下几部分组成:脑电信号采集、数据处理与分析、虚拟场景控制和反馈刺激等,其中,脑电采集设备采集受试者进行特定思维任务时的脑电信号,然后采用脑电信号处理分析算法解析运动意图,直接将受试者的思维转化为对虚拟现实场景对象的控制指令,反馈环节实时显示受试者当前状态和系统的执行情况,受试者根据反馈信息主动加强或减弱运动想象强度,调整自发脑电信号产生,提高脑电信号质量和控制精度。如图2所示。

图片2.png 

图2 基于运动想象的人机交互系统原理结构

(1)脑电信号采集

脑电信号采集为 MI-BCI 系统提供输入部分,基于脑电的运动想象脑机制研究结果证实,运动想象被激活的脑区和运动执行被激活脑区有大部分是重叠的。脑电信号单位是 uV,其采集是通过在大脑特定区域放置一定数量的电极,收集运动想象时大脑的脑电信号,信号经采集器、放大器、滤波器和模数转换器等设备转化为计算机可识别和处理的数字信号。

运动想象实验中,受试者大脑进行不同思维任务时,产生的自发脑电信号不同节律表现出不同的活动状态。根据频率范围可将脑电信号分为四种常见节律,如表1 所示。运动想象脑电信号分析主要研究 mu 和 Beta 节律的信号,根据左右手运动想象时mu/Beta 节律的能量差异对不同思维任务的脑电信号进行分类。

表1. 脑电信号节律

图片3.png 

(2)脑电信号处理与分析

脑电信号具有随机性、非线性和非平稳性等特点,包含不同频率的噪声干扰。在对脑电信号进行分析前需进行信号预处理,筛选出运动想象的有效节律变化数据。通过比较运动想象脑电信号的时频特性,利用特征提取算法提取可以最大程度反映不同思维任务时的特征向量,通过最佳的分类器算法识别不同的思维状态,并转化为控制指令。根据离线分析结果确定适合不同受试者的算法组合和各算法的参数信息,并将其单独保存,在线实验时可以直接加载相应信息。

(3)虚拟现实控制与反馈

运动想象脑机接口系统研究的目的是实现人脑与受控设备的直接通信,系统反馈环节用于提示受试者调整自身状态,提高运动想象脑电信号质量,最终获得更高的分类识别率。通过设计VR系统,在线控制时实时接收 MI-BCI系统识别结果,通过相应指令规则,将受试者的意图转化为 VR 系统的控制指令,VR 场景的执行效果实时反馈给受试者,受试者通过 VR 的交互性实时调整自身运动想象思维状态,以获得最佳的控制效果。

3. 结束语

基于脑电的运动意图想象脑机接口能够根据人的自主思维活动实现与虚拟现实场景对象的交互,无需手脚以及其他任何肌肉动作的参与,大大提升了用户的沉浸式体验。随着脑机接口技术的不断发展,基于脑机接口的虚拟现实人机交互技术将会逐渐成熟,未来将会在医疗、教育、娱乐等领域发挥重要的价值。