• 首页
  • 科学成果
  • 虚拟现实与中国传统打击乐器演奏的交互研究-李迁博士

虚拟现实与中国传统打击乐器演奏的交互研究-李迁博士

2022-11-17

21世纪以来,随着虚拟现实技术逐渐发展成熟,其具有强沉浸感、高拟真度和强交互性等众多优点,迅速在医学、建筑、教育、文化、艺术、娱乐等众多领域得到广泛的应用,并向更多行业拓展。音乐文化是中华传统文化的重要组成部分,是传承与发展中华传统文化不可或缺的重要一环。使用虚拟现实技术制作的虚拟化乐器具有普及度高、应用成本低、信息维度高等众多优点,是在网络信息时代传播传统音乐的理想工具。

虚拟现实技术的成熟,为传统文化的传播方式提供了更多的可能,可穿戴虚拟现实设备如:VR眼镜、数据手套等的出现,相较于以往的多媒体展示设备而言,其交互性、沉浸性有了极大的提升,并且更具有空间感、真实感、趣味性。对于博物馆的展览展示,以可穿戴虚拟现实设备为界面的虚拟展示方式,相比实体展示而言,具有可供交互、不受时空条件限制等优点,易于传播、维护简单。尤其在乐器博物馆中,借助虚拟现实技术的智慧型乐器博物馆可以突破传统乐器博物馆静态展示乐器的束缚,实现参观者亲自演奏乐器,同时了解乐器的外观、结构、演奏方式和音色,可更为全面地体会和了解乐器的全貌,突出展示乐器本身的音乐属性,而不仅仅只是作为单纯艺术品呈现的视觉属性。

虚拟现实技术综合了计算机图形学、人工智能技术、多媒体技术、多传感交互技术、并行处理技术等信息技术。一般的技术流程是对物理对象进行3D扫描、数字建模,通过多媒体制作技术为数字模型赋予图文声影等多媒体实时信息,再利用传感技术实现对数字模型的交互式操控,通过输入输出设备实现操控过程中的视觉、听觉、触觉等多感官体验。由此形成的虚拟现实系统,可以根据交互方式类型以及沉浸程度的深度分为几个大类,不同的交互模式也适应乐器多种多样的演奏方式。

在虚拟现实交互系统中虚拟出实体乐器的演奏效果,最重要的便是如何在虚拟现实空间中尽可能地还原乐器及演奏行为,以此提升用户的沉浸程度,并达到全方位展示乐器的目的。因此,根据乐器本身的演奏方式,以管弦乐队分类法、构建虚拟现实乐器交互技术的难易程度进行乐器的虚拟化。

打击乐器是虚拟现实空间中最容易实现的乐器,相比管乐器或弦乐器,绝大多数在其演奏时对动作的精度要求较低,可供打击的部位较大。例如编钟一般只要使用通用控制器检测用户的手部位置和角度即可推算鼓锤的位置,通过手部的移动速度可以推断其力度,在检测到鼓锤与振动体碰撞时根据打击力度播放对应的音频即可。

大部分吹奏乐器在演奏时,每根手指都对应一个固定的音孔或按键。所以使用数据手套时可以直接默认按下的手指对应于固定音孔,只需要检测手指的起落来控制音孔的开合。对于一小部分管乐器在演奏中音控与手指不成一一对应关系的情况,还需要更高精度的空间定位才能正确稳定地发声,如笙、排箫等。在传统民族管乐器中常有抹音、半孔等技巧,如竹笛、箫、唢呐等,若要完全仿真传统管乐器的演奏技巧,还需要对按孔动作实现更高的定位精度。目前可预见的改善途径是增加空间定位基站的数量和控制器的信息通道,但是囿于当前的硬件发展水平,估计其提升效果有限,尤其是中国传统、乐器演奏的过程中,手指的定位精度往往要精确至毫米级甚至更小单位(如笛箫等乐器)——这也是本研究选择以打击乐器为起点的原因之一。另一个难点还在于,如何控制吹气的动作,气流的强弱本就对音量、音色乃至音高有很大的影响,使用内置或外置传声器可以检测用户的吹奏气流强度,以此对音量、音色等结果产生响应,但如果想要更快速而精确地还原用户的吹奏行为,还需要进一步优化对气流的测算算法。另一方面,要支持管乐器多样化的音色、音量和音长,还需要极其大量的音频采样和整理工作。

弦乐器由于其构造的特点,琴弦之间往往间距较小,且音高时常依赖于准确的把位,因此,弦乐器的手指按弦的定位对于控制器的精度要求极高,即使采用数据手套可以较为准确地采集手势数据,但由于VR空间定位的延迟问题,很难在快速演奏中准确定位演奏的琴弦,最多只能支持古琴这种琴弦数量较少、间距较大的弦乐器。对于弦乐器中决定音高的把位,只能使用分区的方式将音高粗略地固定,且无法演奏颤音等技法,数据手套也难以准确分辨一部分演奏时需要用到的特殊手势。另一难点在于,弦乐器不同于打击乐,不能以手指拨弦的瞬间移动速度来响应演奏的力度,因此,对音量、音色的控制程度较低。可以尝试使用半沉浸式的虚拟现实系统和交互性电子音乐装置结合,或是使用触控屏作为输入装置,使用VR眼镜作为输出装置。

虚现现实环境下没有乐器实体,演奏者在敲击时鼓锤与碰撞检测点重叠持续接触,导致音频高速连续播放,或在一次敲击时连续播放两次,通过给碰撞判定添加最短触发间隔可以避免音频高速连播。但过长的触发间隔会限制正常的快速连敲,尤其是需要快速轮奏的鼓类乐器,而过短的触发间隔则不能解决一击双音的问题,再次尝试设定为一次接触模型发声一次,即只要接触不结束就不触发第二次发声。同样,虚拟现实环境下的演奏往往出现穿模,钟锤收回时很容易触发附近的另一碰触点,导致一次敲击产生两个甚至更多不同的音,这一现象在演奏编磬这类触发点密集的乐器更为明显。各乐器间的相互穿模也会在一定程度上影响用户的真实感和沉浸感,视觉上的不协调感就像在提醒用户所处空间的虚拟性,在制作中可以通过让乐器随敲击轻微摆动来缓解这个问题,但不能从本质上解决问题。传统的编钟演奏需要多个乐师协同进行,在目前没有分布式虚拟现实系统时,虚拟现实编钟的功能仍集中在展示上,难以用于演奏完整的曲目,更无法和编磬等其他乐器合奏,让人体验传统音乐乐团的完整样貌。

但随着虚拟现实算法技术与硬件水平的快速发展,空间定位技术的精度与速度不断提升,有望在不远的将来制作出更具真实感的虚拟现实乐器交互乐器。由打击乐器推而广之,为管乐器与弦乐器的虚拟现实交互演奏铺设好了技术实现途径,目前本项目已实现了对笛箫、琴瑟等管弦乐器的音阶、旋律的虚拟现实演奏,但是对于吟揉、抹音以及力度实时响应等细微精妙的操控与交互,在软硬件方面则还存在着一定的技术瓶颈,同样有待于虚拟现实技术的进一步发展。

值得关注的是,运用分布式虚拟现实系统,人们可以超越空间的限制,和远隔千里的人在虚拟空间中组建乐团,像是在现实中一样交流和演奏,甚至超越现实环境中的限制,达到前所未有的规模,化身精致的虚拟形象,置身于辉煌宫廷之中,获得现实中难以实现的独特沉浸式体验。

 image.png

图1  VR与音乐的碰撞结合