把我传送到视频会议

当科幻作品中的英雄们进行交流时,他们既不使用固定电话也不依靠手机。呼叫者只需以虚拟形态直接出现在房间中央——保持着真人大小且立体三维的形象。研究人员表示,这一愿景已指日可待。

柏林弗朗霍夫电信研究所、海因里希-赫兹研究所、HHI的科学家们开发出了一种方法,通过这种方法可以将一个人的逼真影像传输到虚拟世界中;就像在科幻电影中一样,这个影像是全尺寸且三维立体的。可以从不同的方向观察这个影像,观看者甚至可以绕着它走——就像在电影里一样。到目前为止,这还无法实现;即使是虚拟现实(VR)也有其局限性。人们可以通过人造的三维模型(所谓的虚拟化身)来代表,当观看者戴上VR数据眼镜时就能看到这些模型。然而,这些虚拟人物并不具有逼真的外观或自然的动作。另一种选择是在VR数据眼镜中播放一个人的正面视频影像。但是,观看者无法绕着这个影像走动。因此,当人们在虚拟世界中移动时,整个场景看起来是虚假的。那个人总是将其二维的正面转向观看者。

20台立体相机

相比之下,HHI的研究人员完善了三维立体感。为此,他们开发了一种拍摄人物的相机系统。该系统的核心是一台立体相机:就像人们用两只眼睛看东西一样,这台相机用两个镜头记录人物。这种立体视觉能够很好地估计距离,因为两只眼睛是从略微不同的角度观察物体的。其结果是产生三维立体的印象。要从所有方向详细记录一个人,需要的不仅仅是一台相机。HHI "沉浸式媒体与通信"研究小组负责人奥利弗·施雷尔说:"我们目前使用20多台立体相机来映射一个人。"每台相机只捕捉人物的一部分。挑战在于将各个相机的图像合并在一起,以产生一个逼真的整体画面。

该系统不仅仅包含相机技术。研究人员已经开发出能够从立体相机图像中快速提取深度信息的算法。这对于计算被捕捉人物的3D形态是必要的。计算机计算出人物的虚拟模型,然后将其传输到虚拟场景中。相机感知到带有许多细节的表面形状。这样,即使是微小的褶皱,例如人物衣服上的褶皱,也能显示出来。该模型具有自然逼真的外观。

施雷尔说:"在开发这些算法时,特别注重确保它们高效、快速地工作,以便对话伙伴的动作能够非常迅速地转换为动态模型。"因为只有这样,动作才会看起来自然。来自单个相机对的图像可以实时处理。

呈现每一个姿态

融合来自不同相机图像的3D信息需要几秒钟的时间。不过,这种幻觉已经完善了。该系统将人物的三维动态模型快速传输到虚拟现实中。一个人可以在一个专用的捕捉区域内自由移动。虚拟图像逼真地描绘每一个姿态和动作。施雷尔说:"我们的目标是,未来能够让人物逼真的影像副本直接与虚拟世界互动——例如,让它抓取虚拟物体。"

未来,这个新的相机系统计划也用于其他应用领域。例如,研究人员正在研究一种虚拟视频会议应用。它同样可以用于信息娱乐应用。电视观众不再是被动地正面观看,而是可以通过VR眼镜直接参与到电影场景中。观众不仅能在电视上看到场景的三维图像,还能虚拟地在场景中走动,例如,成为科幻英雄冒险经历的一部分。

运动追踪的替代方案

施雷尔说:"我们还可以想象将相机系统安装在小工作室的不同位置。电影制作人可以用它比以往任何时候都更容易地将演员的动作转换到场景中。"到目前为止,这成本非常高。通常,演员的动作是使用运动追踪方法记录的。在这个过程中,演员的脸部和身体会用小点做标记。计算机追踪这些点的运动,并将其传输到计算机生成的演员虚拟图像上——例如,一个动作明星在摩天大楼之间跳跃。然而,使用单个标记点,运动追踪方法只能非常不准确地或者在很高的技术投入下检测动作,尤其是细微的面部表情。这意味着电脑图形艺术家需要进行大量的后期处理,才能使场景看起来更逼真。施雷尔说:"然而,使用我们的相机系统,我们的目标是在未来能以更精细的细节分解并呈现一个人及其动作。"

研究人员目前正在改进他们的相机系统和配套的分析软件。他们是将这两者作为服务提供,还是授权给制作公司,目前尚不清楚。