虚拟现实技术在医疗培训中的使用-赵继涛博士

2021-07-15

  摘要:虚拟现实技术为解剖教学和手术培训提供了一种逼真、立体、可完全情景再现式反复操作的学习环境,在降低实践成本、提升培训质量和效率、提高手术成功率等方面展现出了极大的优势。介绍了虚拟现实技术在医疗培训中的使用,分析了其特点,包括功能需求、软硬件平台的选择、关键开发技术及实现效果。分析了虚拟人体解剖及手术培训领域存在的问题,并展望了其未来的发展方向。

  关键词:虚拟现实;医疗培训;解剖教学

  一、 引言

  虚拟现实技术可以被定义为“试图完善存在于另一环境中的全方位,感官上的错觉的硬件和软件系统的总和”[1],此处所指的环境是借助计算机技术人工搭建的虚拟环境。虚拟现实技术的概念提出于二十世纪6、70年代,并于90年代开始形成与发展[2]。虚拟现实技术已经在技术培训、生产装配、影音娱乐等多个领域获得应用,解决了部分难题。

  解剖学是医学院校学生的一门重要课程,但很多医学院校受到师资力量薄弱、实验场所缺乏、器材及实验对象匮乏、经费紧张等问题的制约,致使解剖时间教学的质量和效果大打折扣[3]。不少院校的解剖课借助图谱和人体模型进行教学,但这种方式缺乏逼真的立体感和交互性,使学生对人体认识的准确度降低,难以激发学生的学习兴趣。虚拟现实技术为医疗培训、医疗科普提供了全新的技术和手段。VR和AR技术可以将人体的电子计算机断层扫描(Computed Tomography,CT)、磁共振成像(Magnetic Resonance Imaging,MRI)、CT血管造影(CT angiography,CTA)、磁共振血管成像(Magnetic Resonance Angiography,MRA)等影像资料输入到虚拟现实系统的工作站中加以融合,并准确、高效地构建出人体三维解剖模型,为医学生提供一个直观、形象、逼真并且可重复操作的虚拟现实解剖环境,大大降低实验实践的成本和培训费用。而且,VR和AR技术可在不破坏表层解剖结构的情况下显示深层的解剖结构,且可对解剖结构进行任意角度地旋转,便于学生从不同角度进行观察,这有助于医学生理解人体复杂解剖结构的立体关系,极大地节省教学时间,缓解传统解剖教学中标本不足和损耗的问题,增强学生学习的积极性,提高教学效果。在为病人进行危险复杂度高、不可预见性强的手术前,医护人员可以先将要进行的手术在虚拟现实系统中进行模拟演练,把病人的实际影像数据传入到虚拟手术资料中,以提高实际手术的成功率。此外,VR和AR技术还可以突破时间和空间限制,在经验丰富的多个异地专家学者之间进行多人的联合会诊、手术直播学习,为医学生提供了珍贵的“主刀”视角的临场感学习,可大幅度降低实习医生的手术失误率,提高医学科学教育训练的效率和质量[4]。

  二、 研究现状

  国内外的医学院校、企业对人体解剖教学领域的研究主要可分为两个阶段:第一个阶段为人体解剖教学模型的构建阶段(1990—2010年),该阶段主要是使用软件构建虚拟的人体三维解剖教学模型,借助计算机、头盔显示器等设备了解和学习人体各组织、器官的结构及功能,弥补传统教学方式和教学手段的不足;第二个阶段为人体解剖教学系统的应用阶段(2010年至今),该阶段主要是在成熟的人体解剖模型基础上,通过建立专门的人体解剖系统、教学软件、App或全息导航平台,借助VR设备系统地进行课程的教学、模拟手术、手术直播学习等。

  2.1 硬件发展

  目前已问世的VR系统均需使用可穿戴增强现实设备来帮助用户产生沉浸感,可穿戴增强现实设备通常指头戴式数字头盔(head-mounted display, HMD),头戴式数字头盔可分为光学透视式(optical see-through, OST)头盔和视频透视式(video see-through, VST)头盔。光学透视式头盔通常被用于增强现实(augmented reality, AR)系统,具有代表性的是Google glass增强现实眼镜。视频透视式头盔通过在隔绝外界光线的封闭环境下展示高帧率、高分辨率的虚拟环境,使用户主体在虚拟环境中获得沉浸式的、身临其境的感受。目前,相对于光学透视式头盔,视频透视式头盔的技术门槛更低,应用范围更广。因此,有大量的厂商推出了视频透视式头盔产品,如HTC作为最早一批进入VR设备制造领域的厂商,推出了vive系列VR眼镜,其特点是为头盔提供配套的耳机及手柄,但vive系列是外接式头显设备,其本身运算能力不足,需要外接主机才能供用户使用;Pico推出了Neo系列VR眼镜,特点是设备本身植入了骁龙845处理器,能够在不外接主机的情况下运行一些大型的VR软件。除了传统的移动设备制造商外,一些互联网企业也推出了VR设备,如爱奇艺推出的“奇遇2pro”,由于是视频网站自身推出的产品,其对爱奇艺网站提供的VR资源进行了专门的适配。

  目前已问世的可穿戴式现实设备在使用时,其自身重量仍会使用户有额外感受,如HTC vive pro重500g,Pico Neo 2重320g,作为参考,日常佩戴的眼镜重量为20至80g。因此,VR显示设备自身重量是影响用户沉浸感的重要因素之一,如何实现VR显示设备的轻量化和小型化仍是一个需要解决的问题。

  2.2 软件发展

  人体解剖教学软件使用的开发平台可分为系统平台和开发平台两类。系统平台主要指操作系统(operating system,OS);技术开发平台主要包括3D建模、内容开发引擎和图像识别软件开发工具包(SDK)。

  目前VR应用软件的开发平台大多还是在Windows和Mac OS上。随着VR应用技术的发展,针对VR/AR开发的第三代操作系统会成为主流OS。目前第三代操作系统的代表主要有微软公司(Microsoft)的Synaptics和Windows Core OS、谷歌公司(Google)的Fuchsia和美国Magic Leap公司的Lumin OS。Synaptics操作系统是由Synaptics公司与微软公司和AMD公司在2018年7月共同开发的,采用指纹识别和面部识别生物技术,支持HoloLens2设备[5]。Lumin OS是Magic Leap公司开发的操作系统,支持Magic Leap One设备。

  3D建模是人体解剖教学系统的技术核心,常用的建模软件有Poser、3D Max、Maya等。此外,还有一些软件可以使用现成的人体解剖图或模型辅助建模过程,例如人体解剖学3D互动图集、AnyBody人体建模仿真软件、Complete Anatomy等。

  内容开发引擎(主要指3D引擎)是构建虚拟环境非常重要的中间件,特别是跨平台开发,一般具备数据管理、图形渲染、交互编辑、平台发布等功能。主流的3D引擎包括Unity3D、Unreal、CryEngine、OpenVR等。Unity3D是目前热门的交互图形化开发引擎,其编辑器可运行在Windows和Mac OS X下,支持Oculus Rift设备。虚幻引擎(unreal engine,Unreal)是由美国游戏开发公司Epic开发的世界授权最广的开发引擎之一。OpenVR是由美国游戏开发公司Valve开发的一套VR设备通用API,不需要使用生产商提供的SDK就可以进行开发支持Oculus Rift、HTC Vive和其他VR设备的 APP。

  图像识别SDK是连接硬件与内容的重要底层基础软件,一个好的SDK占用内存小、支持机型广、稳定性高。国外主流的SDK 是Vuforia、Wikitude、Void AR等。Vuforia被认为是全球最广泛使用的AR平台之一,可以轻松地为任何应用程序添加先进的计算机视觉功能,使其能够识别图像和对象,或重建现实世界中的环境,但Vuforia方案需要跟Unity绑定。国内SDK的代表厂商有百度、视+(视辰)、亮风台、塔普智能、0glass、腾讯等。

  三、 现实应用

  3.1 解剖教学

  在解剖教学中使用VR或AR技术不仅可以全方位、立体化地帮助学生理解复杂的人体结构,学生还可以自主进行反复地模拟训练,大大提高解剖教学效果。美国MediVis公司的全息沉浸式解剖教育平台AnatomyX(支持HoloLens和Magic Leap One设备),提供了5000个以上来源于真实病例的CT和MRI的3D解剖结构模型,在美国西海岸大学等院校使用后使学生在标准测验中的成绩提高了 15%。台北医学大学的虚拟实境教学软件解剖学教室(采用Vive Pro专业版头戴式设备),可在VR环境中拆解、旋转超过4000多个身体结构。此外,还有美国Infinite Z公司开发的沉浸式医疗医学平台zSpace,美国GIBLIB公司的线上VR医疗课程教学平台等。国内主要有北京工业大学2014年开发的基于Kinect设备的人体解剖教学系统;四川大学耗时5年打造了兼容HTC Vive设备的3D系统解剖学软件[6]。

  3.2 术前规划

  为减少手术风险,在对患者进行比较复杂的手术前,可先通过虚拟现实术前计划 系统进行视觉、触觉等多重感官体验及练习,提前了解手术的难易程度,评估手术风险,并制定个体化的手术方案。美国初创公司Surgical Theater的手术可视化和规划应用平台Surgery Rehearsal Platform,支持HTC Vive设备,目前在全世界有超过100家医院使用。该公司的神经外科术前规划平台SuRgical Planning是首个由美国食品和药物管理局(FDA)批准的SuRgical Planning(SRP)技术平台。中国主要有妙智科技自主研发的VR脊柱外科手术规划系统mVR。

  3.3 手术培训

  构建专门的手术训练中心或教育平台,可以帮助医生合理地制定手术方案, 减少手术损伤,提高手术定位精度和成功率;缩短手术培训时间,提高医生的协作能力;强化术前模拟训练,提升手术熟练度。美国CAE Healthcare公司的CAE VimedixAR超声波模拟器可以将人体器官从显示屏中解放出来,像搭建积木一样,将需要解剖的人体器官进行放大、转动、旋转、拆解和安装。可以实现类似功能的包括美国Surgical Theater公司的复杂手术过程培训VR工具包、英国哈 德斯菲尔德大学的外科医师培训VR系统、美国内布拉斯加大学的3D临床及外科手术训练中心(UNMC)等。国内用于手术培训的VR平台较少,主要有上海医微讯公司的外科手术教育服务平台 Surgeek(柳叶刀客),北京黎明视景公司的外科手术模拟训练系统。

  3.4 手术直播

  由于手术室无菌环境的要求及观察角度的限制,医学生在观摩外科手术时往往不 能清楚地看到手术区域。为了减少患者痛苦、促进快速康复,医师经常会进行微创手术,手术切口很小,这进一步限制了医学生的学习。随着科技的进步,基于VR/AR技术的手术直播已成为一种非常好的手术学习手段。VR/AR 技术通过架设在手术室主刀医师上方的特殊全景相机,把第一现场的场景360°完全摄录下来,然后经过专门拼接融合传输到云端,医学生就可以通过VR/AR设备身临其境般地观摩手术,并通过视觉焦点进行切换,自由地选择观看的角度,还能以“主刀”视角观看手术的细节。这种新形式的手术直播,让原本被动的观众变得更为主动,让观众沉浸式地学习,这对于手术教学具有非常大的意义。2016年4月,英国伦敦皇家医院在全球首次通过VR技术对一例结肠癌肿瘤切除手术全程进行了360°全景直播。

  3.5 远程会诊

  远程会诊能使手术室中的外科医生与异地远程的专家根据病人的信息进行实时 交互,而不受空间距离的限制。英国公司RoomOne的远程VR手术系统可以远距离控制机器人手臂进行虚拟手术,适合医生无法到场或患者患有严重传染病等特殊场合。2018年1月,武汉协和医院与美国弗吉尼亚理工大学利用HoloLens设备,指导新疆博州人民医院医生,成功实施了全球首例混合现实技术(MR)三地远程会诊手术。2019年3月,清华大学长庚医院和深圳市人民医院共同完成了一例肝胆外科的AR/VR+5G协同远程手术。使用虚拟现实技术进行远程会诊画面视野大、清晰、声音无卡顿,不仅提高了手术的安全性,促进了年轻外科医生快速成长,还使超高清腹腔镜技术转播示教、实现远程手术成为可能。

  四、 结语

  VR和AR技术为解剖教学和手术培训提供了一种逼真、立体、可完全情景再现式反复操作的学习环境,又可为真正的手术实施“透视化”的手术导航与临场感的直播学习,在降低实践成本、提升培训质量和效率、提高手术成功率等方面展现出了极大的优势,正逐渐成为医疗教学及手术培训领域的“新宠”。但这种方式并不能完全代替传统教学,从VR和AR培训中得来的经验必须经过实际操作 才能真正应用于临床手术。目前,影像学分辨率不足,虚拟教学系统难以显示细小的解剖结构,并且虚拟现实的触觉体验技术仍处于发展期。因此,中国在虚拟现实解剖教学和手术模拟方面的研究尚处于实验和探索阶段,主要存在以下问题:

  1)VR/AR医疗人才培养体系缺失。随着VR和AR技术的发展,医疗领域的软件开发人才短缺,难以有效支撑VR/AR医疗教育的创新发展。VR/AR医疗软件的开发需要计算机技术和医学领域的复合型人才,而高等院校在VR学科建设方面尚处于起步阶段,计算机和医学领域交叉学科的人才培养体系缺失。国外一些顶尖的设计大学在2016年就开设了VR课程,开设VR人体解剖学教学的院校也数量众多。2019年和2020年,中国先后在职业技术类院校和普通高等院校中增设VR应用技术专业。由于新专业的学科交叉性、创新性都很强,学校在专业设置、师资引进、软硬件设备上都存在不同程度的滞后现象。

  2)关键技术及产品研发力量不足,成果转化率低,价格昂贵,无法大规模普及。中国现有的虚拟医疗教学软件开发企业中,多是由大量的计算机专业人才组成的初创技术团队或小微企业,医学专业人员占比较少或几乎没有。现有的、为数不多的医疗教育VR开发人才主要从游戏、动漫、3D仿真、模型等行业转型而来,医疗教育软件开发技术人才短缺。因此,目前VR类医学软件的开发通常采取公司与医院联合开发的方式,造成关键技术及产品研发力量不足,致使软件研发时间较长。并且,国内开发VR解剖教学培训类软件的公司或机构比国外要少的多,多数自行开发软件的实用性不强,软件价格也相对较贵,国内使用的软件有的还存在破解或盗版等知识产权问题,因此软件开发成果的转化率较低。

  3)医疗教学软件产品和系统评价体系亟待建立,相关法律法规、产业链和生态圈亟待完善。现有的VR设备标准体系不完善,硬件、系统、内容之间的兼容性差,硬件标准、数据交换、安全通信、设备和应用之间的标准等尚未出台,产品性能和质量没有标准规范。软件开发工具、数据接口、人体健康适用性等问题尚未明确,行业应用方对大规模使用虚拟医疗教育产品缺乏信任,医疗教学软件产品和系统评价指标亟待建立,隐私法等相关法律法规、产业链和生态圈等都亟待完善。

  参考文献

  [1] XIAO J, ZHOU Y, ZHOU Z. Survey on Augmented Virtual Environment and Augmented Reality[J]. SCIENTIA SINICA Informationis, 2015, 45(2): 157–180.

  [2] BIOCCA F, DELANEY B. Immersive Virtual Reality Technology[J]. Communication in the age of virtual reality, 1995.

  [3] 中国青年网. 四川大学耗时5年VR“解剖课”投入教学[EB/OL].(2016-11-06)[2019-07-01]. http://news.youth.cn/kj/201611/t20161106_8818862.htm.

  [4] 李嘉, 袁娜. 虚拟现实技术在骨科临床教学中的应用[J]. 中国医学教育技术, 2017, 8(4): 392-395.

  [5] 陈洁. Synaptics四款指纹识别方案通过FIDO认证[J]. 计 算机与网络, 2015, 41(17): 79

  [6] 颜昳华. VRCore 系列:最佳应用作品《人卫3D系统解剖学》[EB/OL]. (2016-11-09)[2019-07-25]. https://yivi⁃ an.com/news/23636.html.