从元宇宙看超高清XR演播室的设计与建设-丁茹博士

2023-08-15

      摘要:元宇宙代表了未来的生活方式,人们同时处于现实世界与虚拟世界之中,在现实世界中的任何生活体验几乎都能在虚拟世界中实现。XR具有显著的元宇宙特性,被认为是元宇宙发展的可行路径。演播室作为电视行业不可或缺的重要场地,演播环境经历了多层次、多阶段的发展,从实景演播室到开放式演播室、背景屏演播室、虚拟演播室,再到XR沉浸式演播室的设计与建设。

关键词:XR;元宇宙;超高清

一、建设背景

      元宇宙是指在XR、AI、区块链、数字孪生等技术推动下形成的虚实相融的互联网应用和社会生活形态。本质上元宇宙是将人们带入一个虚拟的世界,相反也可以将虚拟的场景融入人们的生活,产生虚实交互的联系。元宇宙被认为是下一代互联网的形态,与移动互联网在PC互联网基础上发展升级相同,元宇宙可能比移动互联网拥有更多维度的虚拟现实世界的互动与融合,不仅可以满足人们日常的精神需求,还可以大幅提高劳动生产率。

      随着广电设备的不断更新,广电行业传统视听内容的生产和传播已很难满足新的制作需求,服务器算力的上升使渲染能力得到长足的发展,诞生出一种全新的技术——XR。XR是Extended Reality的简称,中文名称是扩展现实,是通过计算机将现实与虚拟相结合,构建一个可进行人机交互的虚拟环境。XR也是沉浸式技术的统称,是虚拟现实、增强现实、混合现实的聚合技术,通过虚拟世界和现实世界的融合,构建出身临其境的体验感,加强表演者或主持人的沉浸感,提高场景中物体的真实感,无须抠像及后期处理即可使节目内容以更自然、立体的方式呈现于舞台,将背景呈现出空间的延伸感,突破空间的限制。


二、建设需求

     《中国广电“十四五”发展战略和 2035 年远景目标纲要》提出中国广电“打造现代一流企业,夯实新型基础设施,建设现代传播体系,满足用户美好期待,赋能数字中国建设”的企业使命,“建设具有全球竞争力的媒体、信息和科技融合的平台型企业,成为最具公信力的智慧广电网络运营商、领先的数字生活服务提供商和重要的国家级媒体融合传播网”的战略愿景。按照“4K 先行,兼顾 8K”的总体技术路线,立足自主创新、开放协作、强化科技与文化融合、示范应用引领的基本原则,5G 高新视频产业化推进,建设互动视频、沉浸式视频、VR 视频、云游戏等高新视频业务端到端应用系统。电视作为普通观众最易接触到的媒体,是超高清视频产业发展链条中的重要组成部分。

       元宇宙充斥在人们的生活中,对广播电视领域有着直接的影响,元宇宙的概念极其宏大和广泛,需要建立在强大的基础设施平台上。元宇宙是一种未来的生活方式,将真实世界虚拟化、虚拟世界真实化。元宇宙的发展从基础技术到生态应用,包括基础设施、人机交互、去中心化、空间计算、创作者经济、开发、体验 7 个发展要素。XR 技术正处于 7 层架构的空间计算层,也正是因为具有显著的元宇宙特性,被认为是元宇宙发展的可行路径。

       从实景演播室到开放式演播室、背景屏演播室、虚拟演播室,再到XR 沉浸式虚拟演播室。演播室作为广播电视行业进行节目创作的重要场地,历经了多层次、多阶段的发展。XR作为新兴的虚拟制作技术,有别于传统演播室基于抠像的虚拟技术。XR通过间距较小的LED屏幕构建成可视化的三维空间进行节目制作,从技术上能达到虚实结合的演播室三维立体效果,能很好地实现真实地面与虚拟地面完全融合,没有位移抖动。


三、系统概述

      超高清 XR 系统整体采用 8K 基带架构,由传统基带、大屏渲染、虚拟主持人和 LED 背景屏 4 个部分组成。超高清XR 系统架构如图 1 所示。传统基带部分输入源包括 3 台8K摄像机和 2 台播放服务器,核心设备为 8K 视频切换台和 8K 视频矩阵。所有输入源分别进入视频切换台和视频矩阵。视频切换台的输入信号包括虚拟主播动作捕捉信号、视频矩阵返回信号以及预留设备信号。视频切换台输出的 PGM/AUX 信号进视频矩阵。视频矩阵的输入信号除上述信号源外,还包括视频切换台的各路输出信号、HDMI 转 SDI 信号、视频矩阵返回信号。视频矩阵输出可调用的信号作为大屏渲染系统、扩展植入渲染引擎系统和虚拟主播动作捕捉系统的输入源,另有其他输出至 SDI 转 HDMI转换设备。

       大屏渲染部分包括 1 台控制机和3 台渲染机,控制机作为操控设备通过交换机与 3 台渲染机相连,3 台渲染机同时进入主备大屏拼接器。虚拟主持人部分包括编辑创作系统、扩展植入播控系统、扩展植入渲染引擎系统、虚拟主播动作捕捉系统和音频延时系统。编辑创作系统进行三维建模、内容模板的创作,通过网线接入虚拟主持人系统交换机。扩展植入播控系统作为模板管理和播放平台,也通过网线接入虚拟主持人系统交换机。扩展植入渲染引擎系统输入源来自视频矩阵,经过渲染后输出再返回视频矩阵,由视频矩阵进行调用。虚拟主播动作捕捉系统输入源也来自视频矩阵,输出则进入视频切换台进行节目切换制作。音频延时系统主要用于系统内的音频延时,由于渲染引擎进行渲染操作必然会产生声音、画面的不同步,声音所做的渲染处理要远低于视频画面,所以需要对声音进行延时处理。背景屏部分包括拼接器系统和背景屏幕系统。拼接器系统为主备架构,主备大屏拼接器同时接收 3 台渲染机的信号,分别输出至背景屏幕系统的 4 组背景屏。背景屏幕系统通过搭建环幕背景屏和地面屏幕,为主持人或表演者提供置身其中的感觉,为观赏者提供虚实结合的互动体验。系统采用3组P1.5全彩LED显 示屏组合成环形背景屏,点间距为1.53mm,单屏面积44.236m2,显示分辨率为7488×2496;地屏采用 P2.6 地砖LED显示屏,点间距为 2.6mm,单屏面积50 m2,显示分辨率为 3840×1920。系统虚拟定位使用被动式红外摄像头和星形标记地图,保证了系统大范围跟踪定位的稳定运行,配合移动、精准跟踪,创造出虚实结合的三维空间。

1692084386837.jpg

                                        图一 超高清XR系统构架


四、系统运行状态

      超高清 XR 演播室可以称为超现实的元宇宙舞台,所用的 LED虚拟拍摄与蓝箱 XR 虚拟拍摄相比具有“可见”的优势。表演者或主持人在 LED 演播区域内,能够通过背景屏和地屏切身感受处于虚拟场景之中,表演者不需要靠想象就能更好地根据场景氛围融入环境,在现场进行设计动作。通过系统的实际运行,传统的虚拟抠像技术与 XR 相比对摄像机、镜头、灯光、色键、服装有较高要求。表演者或主持人置身于蓝、绿箱中,由于反蓝绿、肤色效果不真实,缺乏现场气氛。

                                            图二  超高清XR系统实景效果

图片3.png

                                          图超高清XR系统渲染后效果

图片4.png

 

五、总结与展望

       近些年,XR 技术不断创新,在电视节目制作中的应用常见于大型晚会或传统文化宣传,酷炫、震撼的舞台场景呈现得益于 XR 技术的完美应用。科技赋能艺术是新技术发展的必然要求,XR 技术在广播电视行业不断拓宽应用场景,也推动了一种新节目形式的诞生。应用 5G 技术建起数字高架,从云端走向万物。元宇宙代表了未来的生活方式,人们同时处于虚拟世界与现实世界之中,在现实世界中的任何生活体验几乎都能在虚拟世界中实现。元宇宙的发展一方面由实向虚,实现真实体验的数字化;另一方面则由虚向实,实现数字体验的真实化。但是元宇宙的发展目前也存在着许多瓶颈。首先,元宇宙在运行中会产生海量数据,而云端无法处理如此庞大的数据量,依赖部署在云端的人工智能处理数据的方案可行性不高,需要将大量情境丰富的数据在边缘就近处理,无须将数据集中至云端,这样大大减轻了云端的压力。其次,元宇宙作为交互程度更高的下一代互联网,人们在元宇宙中遨游的同时,个人隐私和信息安全也十分重要,需要发展端、边云协同的分布式结构和区块链技术来解决元宇宙当前面临的问题。技术的变革不可能一步到位,要实现元宇宙最终的宏大愿景,还需要加大内容和交互上的建设。技术的进步引发震撼世界的变革,XR 将是通往元宇宙的门票,也必将是推动元宇宙发展的重要动力。