光场显示技术 --杜玙璠博士

2020-12-14

摘要

自眼镜式立体显示技术实现产品化但又而未被大众认可之后,裸眼立体显示技术按照双目视差的原理在不断提升3D效果,但是视区离散、视角窄、人眼视觉辐辏调节冲突(VAC)始终得不到解决,这两种技术都是差强人意。随着屏幕分辨率的提升,当前的立体显示技术无法满足大众对还原真实世界的需求,人们提出光场显示技术,以实现在空间中形成真实像点为目标,能为观察者提供光场并形成自然且舒适的3D场景的显示技术,同时消除可能存在的信息冲突。不但能提供多视图,根据观察位置的不同为双眼分别提供能产生正确视网膜模糊的视差图像,还能提供多景深,在硬件上实现将被显示内容放置在对应的3D空间位置中。这种技术称为真光场,效果上还不够理想,实现产品化还有段距离,所以目前是由Super Multi View(SMV)光场技术作为中间过渡,来满足裸眼3D市场的需求。

自光场显示的DEMO在各大展会上亮相以来,很多消费者在困惑,什么是光场显示,光场显示和裸眼立体显示有什么区别。 “光场”是关于光的某个物理量在空间内的分布,是空间内所有光线信息的总和,包括光的位置和方向、强度、颜色、闪烁等。这个概念在1939年A. Gershun第一次明确提出,后来被E. H. Adelson和J. R. Bergen完善,给出了全光函数 (Plenoptic Function) 的形式。简单来说,光场描述空间中任意一点向任意方向的光线的强度。完整描述光场的全光函数是个7维函数,包含任意一点的位置(x, y, z),任意方向(极坐标中的θ,Φ),波长(λ)和时间(t);发展到后来,波长(λ)和时间(t)用RGB像素和频率表示,所以光场就从7维降到了5维函数(x, y, z,θ,Φ);目前,用两个平面上的两个点表示光线经过,光线的方向和位置可以确定,维度从5维降到了4维函数(u、v、s、t),从7维到4维简化了数据量。光场拍摄需要记录全部的光信息,光场显示需要将全部光信息完整地、准确地复现出来。

image.png

图1. 四维光场

目前市场上出现过的立体显示技术,都是基于双目视差原理,所以都存在视觉辐辏调节冲突(VAC),或多或少都有晕眩的感觉,光场显示的目标就是能为观察者提供光场并形成自然且舒适的3D场景的显示技术,同时消除可能存在的信息冲突。光场显示包括两个基本要素,一是提供多视图,根据观察位置的不同为双眼分别提供能产生正确视网膜模糊的视差图像,二是提供多焦面,也就是多景深,在硬件上实现将被显示内容放置在对应的3D空间位置中。


 image.png

双目视差3D存在视觉辐辏调节冲突


 image.png

真光场3D不存在视觉辐辏调节冲突


图2. 双目视差和真光场3D原理的区别


光场显示技术目前主要有两类,真光场和Super Multi View(SMV)光场,真光场是在空间中不同景深面形成真实的像点,人眼看到空间中真实像点形成的图像,符合人眼观看立体的生理因素,不会产生VAC,人眼聚焦到前景则后景模糊,人眼聚焦到后景则前景模糊,这与人眼观看真实世界效果一致,单眼至少2个视点入瞳且子像素出光光线准直,3D视角很窄;Super Multi View(SMV)光场是双目视差与真光场技术的中间状态,为了增大3D视角,共设计三十个视点左右,每个视点图像包含不同的视差信息,人在移动观看的过程中,能看到物体不同方向的信息,如真实世界移动观看物体的效果相同,单眼同时接收到很多个视点,目前是六七个左右,每个视点图像的视差细分,使人移动观看平滑无跳变,视差细分能够弱化人眼视觉辐辏调节冲突(VAC),虽然能够看到不同景深的信息,但实际上还是双目视差原理,只是视差被细分和弱化了。


QQ截图20201214154441.png

图3. 真光场显示效果(真实像点)


QQ截图20201214154521.png

图4. Super Multi View光场效果(多方向)


真光场显示技术的实现,有两种方法,一是还原角度,二是还原物点。还原角度法,典型的结构有叠层屏和微透镜阵列,子像素出光准直,人眼单眼瞳孔至少2个视点,且这两个视点的入瞳光线不能相互干扰,在空间中不同景深位置可追迹到像点,虚拟物点的光线角度被充分还原,成像效果受限于像素开口的衍射、光线准直度、单眼视点数,如图6所示屏间距越大子像素越小,能够还原的角分辨率角度越小,就还原光场越充分,单眼视点数越多景深面越多,叠层屏结构分辨率高、显示亮度低、光场渲染算法复杂,微透镜阵列结构分辨率低、显示亮度高、串扰大;还原角度法实现的真光场效果可以通过以下两个实验进行验证,如图7实验,屏1显示1视点图像,屏2显示2视点图像,两幅图像的光线以很小的角度入射到人眼,可以看到真光场的效果;如图8实验,调整反射镜的角度,屏幕分时显示1视点和2视点的图像,利用视觉暂留原理不降低分辨率的方式,来验证还原角度法实现真光场显示的效果。真光场显示技术的实现,第二种方法是还原物点法,采用多层屏幕的结构,还有旋转散射屏幕(扫描式)和投影机阵列,后两种机械结构庞大,多层屏幕相对比较轻薄,与产品化形态较接近,这种方法虚拟物点数目被充分还原,景深范围受限于还原物点的数目,斯坦福大学研究的光场VR就是采用两层液晶屏+透镜的结构,能够实现聚焦在前景后景模糊、而聚焦在后景前景模糊的效果,说明实现了真光场显示。

 image.png

图5. 还原角度法的原理示意图

 image.png

图6. 还原角度叠层屏结构的角分辨率影响因素

 image.png

图7. 还原角度法验证实验一

 image.png

图8. 还原角度法验证实验二


 image.png

图9. 还原物点法的原理示意图

 image.png

图10. 斯坦福大学还原物点法实现真光场VR


Super Multi View(SMV)光场技术仍然采用Lenticular结构,设计上在原有视点中穿插了更多的视点,光栅倾斜,lens pitch为子像素宽度的非整数倍;各lens单元起始点子像素左边缘到3D光栅的距离不等,导致各lens单元相同位置的子像素光线偏折位置不同;如图所示,红色圆圈内数值进行比较,传统多视点设计为0、0、0、1/2、1/2、1/2,数值相同,所以各lens单元的1视点子像素光线完全重合;而新型多视点设计为0、2/3、1/3、1/2、1/6、-1/6,数值各不相同,所以各lens单元起始位置的视点子像素光线均不能完全重合,从而产生多视点,图中红色圆圈内的数值各不相同,可拓展更多视点,横向和纵向均可,虽然人眼始终位于相邻视点的串扰区,但是相邻视点视差被调小和细分了,所以影响小,相隔越远的视点影响越大。这种方法还具有视差平滑、分辨率损失少等优点,但缺点就是串扰大,这种技术适用于需要大视角、远距离观看的TV及更大尺寸的产品。

 image.png

图11. Super Multi View 光场设计特点


 image.png

图12. 光场VR技术对比

真光场显示技术,从产品化的角度来看,采用多层屏还原物点受限于屏幕层数,还原角度法的光场还原程度更高一些,其中采用微透镜阵列的结构是目前最容易实现光场效果的,但是单透镜下覆盖的子像素数量要多达上百个,所以分辨率降低很多,由于要求入瞳光线准直,所以3D Eye box很小,可移动观看到立体效果的范围非常窄, 目前还不能产品化。在这种技术背景下,Super Multi View(SMV)光场技术是一个折中的方案,能够用多视点实现多方向的信息,虽然不能消除人眼视觉辐辏调节冲突(VAC),但是进行了弱化,满足市场上广告机、展览展示用对裸眼立体的需求。

参考文献

[1]Dr. Nikhil Balram , “ Light field imaging and display systems”, Display Week, 2017

[2]N. Bedard, T. Shope, A. Hoberman, M. A. Haralam, N. Shaikh, J. Kovacevic, N. Bairam, I. Tosic, "Light field otoscope design for 3D in vivo imaging of middle ear", Biomed Opt. Express, Jan. 2017

[3] N. Balram, I. Tosic, H. Binnamangalam, "Digital health in the age of the infinite network", Journal APSIPA, 2016

[4] L. Meng, K. Berkner, "Parallax rectification for spectrally-coded plenoptic cameras'', IEEE-ICIP, 2015

[5] N. Bedard, I. Tosic, L Meng, A. Haberman, J Kovacevic, K. Berkner, "In vivo ear imaging with a light field otoscope'', Bio-Optics: Design and Application, April 2015

[6] K. Akeley, '' Light-field imaging approaches commercial viability'', Information Display 6/15, Nov./Dec. 2015

[7] I. Tosic, K. Berkner, "3D Keypoint Detection by Light Field Scale-Depth Space Analysis," ICIP, October 2014 (Best Paper Award)

[8] N. Bedard, I. Tosic, L Meng, K. Berkner, "Light field Otoscope," OSA Imaging and Applied Optics, July 2014

[9] J. Park, I. Tosic, K. Berkner, "Systern identification using random calibration patterns," ICIP, October 2014

[10]M. S. Banks, W. W. Sprague, J. Schmoll, J. A. Q. Parnell, G.D. Love, "Why do animal eyes have pupils of different shapes", Sci. Adv. August 2015

[11]S. Wanner. S. Meister, B. Goldluecke, "Datasets and benchmarks for densely sampled 4D light fields", Vision, Modeling & Visualization, The Eurographics Association, 2013

[12]R. T. Held, E. Cooper, J. F. O'Brien, M. S. Banks, "Using blur to affect perceived distance and size", ACM Trans. Graph. 29, 2, March 2010

[13]D. Hoffman, A. Girshick, K. Akeley, M. S Banks, "Vergence-accommodation conflicts hinder visual performance and cause visual fatigue", Journal of Vision 8(3):33, 2008

[14]M. S. Banks, et. al., "Conflicting focus cues in stereoscopic displays", Information Display, July 2008

[15]Levoy and Hanrahan, "Light field rendering", SIGGRAPH 1996

[16]E. H. Adelson, J. Y. A. Wang, ''Single lens stereo with a plenoptic camera", IEEE Trans. PAMI, Feb. 1992

[17]E. H. Adelson, J. R. Bergen, "The plenoptic function and the elements of early vision", Computational Models of Visual Proc., MIT Press, 1991

[18]F. C. Huang, K. Chen, G. Wetzstein. "The light field stereoscope: immersive computer graphics via factored near-eye light field displays with focus cues'', SIGGRAPH 2015

[19] G. Wetzstein, "Why people should care about light-field displays", Information Display 2/15

[20] N. Balram, W. Wu, K. Berkner, I. Tosic, "Mobile information gateway - enabling true mobility'', The 14th International Meeting on Information Display (IMID 2014 DIGEST), Aug. 2014. Invited paper

[21]N. Balram, "The next wave of 3D - light field displays", Guest Editorial, Information Display, Nov/Dec 2014 issue, Vol. 30, Number 6

[22] X. Liu, H. Li, "The progress of light field 3-D displays", Information Display, Nov/Dec 2014 issue, Vol. 30. Number 6. Invited paper

[23] W. Wu, K. Berkner, I. Tosic, N. Balram, "Personal near-eye light field display", Information Display, Nov/Dec 2014 issue, Vol. 30, Number 6. Invited paper

[24] W. Wu, N. Balram, I. Tosic; K. Berkner, "System design considerations for personal light field displays for the mobile information gateway", International Workshop on Display (IDW), Dec. 2014. Invited paper 

[25]X. Hu, H. Hua, "Design and assessment of a depth-fused multi-focal plane display prototype", J. of Display Tech. 2014

[26] H. Hua, B. Javidi, ''A 3D integral imaging optical see-through head-mounted display", Optics Express, 2014

[27]F. C. Huang, G. Wetzstein, B. Barsky, R. Rasker, "Eyeglasses-free display: towards correcting visual aberrations with cornputational fight field displays", SIGGRAPH 2014 

[28]G. Wetzstein, D. Lanman, M. Hirsch, R. Raskar, "Tensor displays• compressive light field synthesis using multi-layer displays with directional backlighting", SIGGRAPH 2012 

[29]S. Ravikumar, K. Akeley, M. S. Banks, "Creating effective focus cues in multi-plane 3D displays", Optics Express, Oct. 2011 

[30]Y. Takaki, K. Tanaka, J. Nakamura, "Super multi-view display with a lower resolution flat-panel display", Opt. Express, 19, 5 (Feb) 2011 

[31]B. T. Schowengerdt, E. J. Seibel, "3D volumetric scanned light display with multiple fiber optics light sources", IDW 2010 

[32]Y. Takaki, "High-density directional display for generating natural three-dimensional images", Proc. IEEE 94, 3, 2006

[33]于讯博,《高分辨率、密集视点三维显示关键技术》,博士学位论文,2016