三维视频通信方法及系统、电子装置和可读存储介质转让专利

申请号 : CN201810423517.X

文献号 : CN108632597B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 白剑唐海张学勇吕向楠夏炀李虎陈婷谭国辉谭正鹏陈彪许风华

申请人 : OPPO广东移动通信有限公司

摘要 :

本发明公开了一种三维视频通信方法、三维视频通信系统、电子装置和非易失性计算机可读存储介质。三维视频通信方法包括获取当前场景的多帧二维图像和/或多帧深度图像,处理多帧二维图像和/或多帧深度图像以得到多帧三维图像,传送多帧三维图像至终端设备。本发明实施方式的三维视频通信方法、三维视频通信系统、电子装置和非易失性计算机可读存储介质通过电子装置采集多帧二维图像和/或多帧深度图像,并处理多帧二维图像和/或多帧深度图像形成多帧三维图像,再通过无线通信方式传送到终端设备。如此,可实现三维视频的传输,终端设备可观看到三维的立体的视频效果,用户使用体验更好。

权利要求 :

1.一种三维视频通信方法,用于电子装置,所述电子装置通过无线通信方式与终端设备通信,其特征在于,所述三维视频通信方法包括:获取当前场景的多帧二维图像和多帧深度图像,处理多帧所述二维图像和多帧所述深度图像以得到多帧三维图像;或,获取当前场景的多帧二维图像,处理多帧所述二维图像以得到多帧三维图像;和传送多帧所述三维图像至所述终端设备,多帧所述三维图像用于在所述终端设备以预定帧率显示以形成三维视频;

所述三维视频通信方法还包括:确定所述电子装置所处的应用场景;根据确定的所述应用场景调整对应的压缩比例;

所述三维视频通信方法还包括:根据所述压缩比例压缩多帧所述三维图像;所述传送多帧所述三维图像至所述终端设备包括:传送压缩后的多帧所述三维图像至所述终端设备;

根据确定的所述应用场景调整对应的所述压缩比例,包括:当传送的多帧所述三维图像用于视频通话的应用场景时,调高所述压缩比例;当传送的多帧所述三维图像用于全息投影的应用场景时,调低所述压缩比例;

所述电子装置包括结构光投射模组,所述深度图像通过所述结构光投射模组获取得到;和/或,所述电子装置包括TOF传感器模组,所述深度图像通过所述TOF传感器模组获取得到。

2.根据权利要求1所述的三维视频通信方法,其特征在于,所述电子装置通过5G的sub-

6G频段传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过5G的sub-6G频段传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

3.根据权利要求1所述的三维视频通信方法,其特征在于,所述电子装置通过毫米波传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过毫米波传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

4.根据权利要求1所述的三维视频通信方法,其特征在于,所述电子装置通过FDD-LTE传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过FDD-LTE传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

5.根据权利要求1所述的三维视频通信方法,其特征在于,所述电子装置通过TDD-LTE传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过TDD-LTE传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

6.根据权利要求1所述的三维视频通信方法,其特征在于,所述电子装置通过WIFI传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过WIFI传送多帧所述三维图像至第一无线访问接入点;

所述第一无线访问接入点通过有线方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二无线访问接入点;

所述第二无线访问接入通过无线通信方式传送多帧所述三维图像至所述电子装置。

7.根据权利要求1所述的三维视频通信方法,其特征在于,所述电子装置包括两个摄像头,多帧所述二维图像包括一一对应的多帧第一二维图像和多帧第二二维图像,多帧所述第一二维图像和多帧所述第二二维图像分别由两个所述摄像头获取得到。

8.一种电子装置,所述电子装置通过无线通信方式与终端设备通信,其特征在于,所述电子装置包括:获取模块和处理模块,所述获取模块用于获取当前场景的多帧二维图像和多帧深度图像,所述处理模块用于处理多帧所述二维图像和多帧所述深度图像以得到多帧三维图像;

或,所述获取模块用于获取当前场景的多帧二维图像,所述处理模块用于处理多帧所述二维图像以得到多帧三维图像;和传送模块,所述传送模块用于传送多帧所述三维图像至所述终端设备;

所述传送模块用于确定所述电子装置所处的应用场景;根据确定的所述应用场景调整对应的压缩比例;根据所述压缩比例压缩多帧所述三维图像;传送压缩后的多帧所述三维图像至所述终端设备,多帧所述三维图像用于在所述终端设备以预定帧率显示以形成三维视频;

所述传送模块用于当传送的多帧所述三维图像用于视频通话的应用场景时,调高所述压缩比例;当传送的多帧所述三维图像用于全息投影的应用场景时,调低所述压缩比例;

所述电子装置包括结构光投射模组,所述深度图像通过所述结构光投射模组获取得到;和/或,所述电子装置包括TOF传感器模组,所述深度图像通过所述TOF传感器模组获取得到。

9.一种电子装置,所述电子装置通过无线通信方式与终端设备通信,其特征在于,所述电子装置包括:图像采集组件和处理器,所述图像采集组件用于获取当前场景的多帧二维图像和多帧深度图像,所述处理器用于处理多帧所述二维图像和多帧所述深度图像以得到多帧三维图像;或,所述图像采集组件用于获取当前场景的多帧二维图像,所述处理器用于处理多帧所述二维图像以得到多帧三维图像;和通信模块,所述通信模块用于传送多帧所述三维图像至所述终端设备,多帧所述三维图像用于在所述终端设备以预定帧率显示以形成三维视频;

所述处理器还用于确定所述电子装置所处的应用场景;根据确定的所述应用场景调整对应的压缩比例;根据所述压缩比例压缩多帧所述三维图像;所述通信模块还用于传送压缩后的多帧所述三维图像至所述终端设备;

所述处理器还用于当传送的多帧所述三维图像用于视频通话的应用场景时,调高所述压缩比例;当传送的多帧所述三维图像用于全息投影的应用场景时,调低所述压缩比例;

所述图像采集组件包括结构光投射模组,所述深度图像通过所述结构光投射模组获取得到;和/或,所述图像采集组件包括TOF传感器模组,所述深度图像通过所述TOF传感器模组获取得到。

10.根据权利要求9所述的电子装置,其特征在于,所述电子装置通过5G的sub-6G频段传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过5G的sub-6G频段传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

11.根据权利要求9所述的电子装置,其特征在于,所述电子装置通过毫米波传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过毫米波传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

12.根据权利要求9所述的电子装置,其特征在于,所述电子装置通过FDD-LTE传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过FDD-LTE传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

13.根据权利要求9所述的电子装置,其特征在于,所述电子装置通过TDD-LTE传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过TDD-LTE传送多帧所述三维图像至第一基站;

所述第一基站通过有线通信方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二基站;

所述第二基站通过无线通信方式传送多帧所述三维图像至所述终端设备。

14.根据权利要求9所述的电子装置,其特征在于,所述电子装置通过WIFI传送多帧所述三维图像至所述终端设备,多帧所述三维图像的传输路线为:所述电子装置通过WIFI传送多帧所述三维图像至第一无线访问接入点;

所述第一无线访问接入点通过有线方式传送多帧所述三维图像至核心网;

所述核心网通过有线通信方式传送多帧所述三维图像至第二无线访问接入点;

所述第二无线访问接入通过无线通信方式传送多帧所述三维图像至所述电子装置。

15.根据权利要求9所述的电子装置,其特征在于,所述图像采集组件包括两个摄像头,多帧所述二维图像包括一一对应的多帧第一二维图像和多帧第二二维图像,多帧所述第一二维图像和多帧所述第二二维图像分别由两个所述摄像头获取得到。

16.一种包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行权利要求1至7任意一项所述的三维视频通信方法。

17.一种三维视频通信系统,包括权利要求8-15任意一项所述的电子装置。

18.根据权利要求17所述的三维视频通信系统,其特征在于,所述电子装置包括主叫设备及被叫设备,所述主叫设备与所述被叫设备通信。

说明书 :

三维视频通信方法及系统、电子装置和可读存储介质

技术领域

[0001] 本发明涉及通信技术领域,特别涉及一种三维视频通信方法、三维视频通信系统、电子装置和非易失性计算机可读存储介质。

背景技术

[0002] 目前,2D视频越来越广泛地应用在人们的生活与工作中,例如,2D视频播放、2D视频通话、2D视频会议等等,然而,尽管2D视频能够呈现给人们足够的画面感,但由于组成2D视频的多帧图片均为二维图片,不包含深度信息,无法实现立体呈现。

发明内容

[0003] 本发明的实施例提供了一种三维视频通信方法、三维视频通信系统、电子装置和非易失性计算机可读存储介质。
[0004] 本发明实施方式的三维视频通信方法用于电子装置。所述电子装置通过无线通信方式与终端设备通信,其特征在于,所述三维视频通信方法包括:
[0005] 获取当前场景的多帧二维图像和/或多帧深度图像;
[0006] 处理多帧所述二维图像和/或多帧所述深度图像以得到多帧三维图像;和[0007] 传送多帧所述三维图像至所述终端设备。
[0008] 本发明实施方式的电子装置通过无线通信方式与终端设备通信。所述电子装置包括获取模块、处理模块和传送模块。所述获取模块用于获取当前场景的多帧二维图像和/或多帧深度图像。所述处理模块用于处理多帧所述二维图像和/或多帧所述深度图像以得到多帧三维图像。所述传送模块用于传送多帧所述三维图像至所述终端设备。
[0009] 本发明实施方式的电子装置通过无线通信方式与终端设备通信。所述电子装置包括图像采集组件、处理器和通信模块。所述图像采集组件用于获取当前场景的多帧二维图像和/或多帧深度图像。所述处理器用于处理多帧所述二维图像和/或多帧所述深度图像以得到多帧三维图像。所述通信模块用于传送多帧所述三维图像至所述终端设备。
[0010] 本发明实施方式的一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行上述的三维视频通信方法。
[0011] 本发明实施方式的三维视频通信系统,包括上述的电子装置。
[0012] 本发明实施方式的三维视频通信方法、三维视频通信系统、电子装置和非易失性计算机可读存储介质通过电子装置采集多帧二维图像和/或多帧深度图像,并处理多帧二维图像和/或多帧深度图像形成多帧三维图像,再通过无线通信方式传送到终端设备。如此,可实现三维视频的传输,终端设备可观看到三维的立体的视频效果,用户使用体验更好。
[0013] 本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。

附图说明

[0014] 本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
[0015] 图1是本发明某些实施方式的三维视频通信方法的流程示意图。
[0016] 图2是本发明某些实施方式的电子装置的模块示意图。
[0017] 图3是本发明某些实施方式的电子装置的结构示意图。
[0018] 图4是本发明某些实施方式的三维视频通信方法的流程示意图。
[0019] 图5是本发明某些实施方式的终端设备的模块示意图。
[0020] 图6是本发明某些实施方式的终端设备的结构示意图。
[0021] 图7是本发明某些实施方式的三维视频通信方法的流程示意图。
[0022] 图8是本发明某些实施方式的终端设备的模块示意图。
[0023] 图9是本发明某些实施方式的三维视频通信方法的流程示意图。
[0024] 图10是本发明某些实施方式的电子装置的结构示意图。
[0025] 图11是本发明某些实施方式的三维视频通信系统的示意图。

具体实施方式

[0026] 下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
[0027] 请一并参阅图1图2、及图11,本发明提供一种三维视频通信方法,用于电子装置10。电子装置10通过无线通信方式与终端设备20通信。三维视频通信方法包括:
[0028] 011:获取当前场景的多帧二维图像和/或多帧深度图像;
[0029] 012:处理多帧二维图像和/或多帧深度图像以得到多帧三维图像;和[0030] 014:传送多帧三维图像至终端设备20。
[0031] 请一并参阅图2及图11,本发明还提供一种电子装置10。电子装置10通过无线通信方式与终端设备20通信。电子装置10包括获取模块111、处理模块112和传送模块114。步骤011可以由获取模块111实现。步骤012可以由处理模块112实现。步骤014可以由传送模块
114实现。也即是说,获取模块111可用于获取当前场景的多帧二维图像和/或多帧深度图像。处理模块112可用于处理多帧二维图像和/或多帧深度图像以得到多帧三维图像。传送模块114可用于传送多帧三维图像至终端设备20。
[0032] 请一并参阅图3及图11,本发明还提供一种电子装置10。电子装置10通过无线通信方式与终端设备20通信。电子装置10包括图像采集组件121、处理器122和通信模块123。步骤011可以由图像采集组件121实现。步骤012可以由处理器122实现。步骤014可以由通信模块123实现。也即是说,图像采集组件121可用于获取当前场景的多帧二维图像和/或多帧深度图像。处理器122可用于处理多帧二维图像和/或多帧深度图像以得到多帧三维图像。通信模块123可用于传送多帧三维图像至终端设备20。
[0033] 其中,电子装置10可以为手机、平板电脑、笔记本电脑、智能穿戴设备(智能头盔、智能眼镜、智能手环、智能手表等)等。终端设备20也可以为手机、平板电脑、笔记本电脑、智能穿戴设备(智能头盔、智能眼镜、智能手环、智能手表等)等,还可以是其余显示设备,例如虚拟现实头戴式显示设备、增强现实显示设备、全息立体投影设备、电视机等配备有3D液晶显示器设备等。
[0034] 其中,图像采集组件121可以为前置的图像采集组件121,也可为后置的图像采集组件121。
[0035] 具体地,图像采集组件121可包括结构光投射模组。结构光投射模组包括结构光投射器和红外摄像头。激光投射器向目标空间中投射激光图案。红外摄像头采集被目标物体调制后的激光图案。处理器122采用图像匹配算法计算出该激光图案的深度图像。图像采集组件121包括结构光投射模组时,图像采集组件121同时还包括可见光摄像头,可见光摄像头用于获取目标空间的二维图像,该二维图像包含目标空间中各物体的彩色信息。处理器122将图像采集组件121采集到的一一对应的多帧二维图像和多帧深度图像融合得到多帧三维图像。多帧三维图像组成三维视频,具体地,多帧三维图像在终端设备20中以预定帧率进行显示即形成三维视频,其中预定帧率要大于或等于人眼能够分辨的帧率(即每秒显示
24帧三维图像),预定帧率的取值可为24帧/秒、30帧/秒、60帧/秒、120帧/秒等。
[0036] 或者,图像采集组件121可包括两个摄像头。两个摄像头可均为可见光摄像头,或者,两个摄像头可分别为红外摄像头和可见光摄像头。两个摄像头具有固定的相对距离。如此,采用双目立体视觉的采集方法即可获得多帧第一二维图像和多帧第二二维图像。当两个摄像头均为可见光摄像头时,第一二维图像和第二二维图像均为二维的彩色图像;当两个摄像头分别为红外摄像头和可见光摄像头时,第一二维图像为二维的红外图像,第二二维图像为二维的彩色图像。处理器122根据一一对应的多帧第一二维图像和多帧第二二维图像即可得到多帧三维的彩色图像。多帧三维图像组成三维视频。
[0037] 或者,图像采集组件121可包括TOF传感器模组。TOF传感器模组包括激光投射器和红外摄像头。激光投射器向目标空间投射均匀光线,红外摄像头接收反射回的光线并记录发射光线的时间点和接收光线的时间点,处理器122根据发射光线的时间点与接收光线的时间点之间的时间差和光速计算目标空间中物体对应的深度像素值并合并多个深度像素值得到深度图像。图像采集组件121包括TOF传感器模组时,图像采集组件121同时还包括可见光摄像头,可见光摄像头用于获取目标空间的二维图像,该二维图像包含目标空间中各物体的彩色信息。处理器122将图像采集组件121采集到的一一对应的多帧二维图像和多帧深度图像融合得到多帧三维图像,多帧三维图像组成三维视频。
[0038] 可以理解,现有的视频通话是仅局限于二维视频的传输。组成二维视频的多帧图片均为二维图片,不包含深度信息,无法呈现三维的效果。
[0039] 本发明实施方式的三维视频通信方法及电子装置10通过电子装置10采集多帧二维图像和/或多帧深度图像,并处理多帧二维图像和/或多帧深度图像形成多帧三维图像,再通过无线通信方式传送到终端设备20。如此,可实现三维视频的传输,终端设备20可观看到三维的立体的视频效果,用户使用体验更好。
[0040] 请参阅图4,在某些实施方式中,本发明实施方式的三维视频通信方法可以应用在三维视频通话及三维视频会议场景中,可实现用户间的交互。假设电子装置10为主叫设备,而终端设备20为被叫设备,此时,步骤011为:获取主叫场景的多帧二维主叫图像和/或多帧主叫深度图像;步骤012为:处理多帧二维主叫图像和/或多帧主叫深度图像以得到多帧三维主叫图像;步骤014为:传送多帧三维主叫图像至终端设备20。进一步地,本发明实施方式的三维视频通信方法还包括:
[0041] 021:获取被叫场景的多帧二维被叫图像和多帧被叫深度图像;
[0042] 022:处理多帧二维被叫图像和多帧被叫深度图像以得到多帧三维被叫图像;和[0043] 023:传送多帧三维被叫图像至电子装置10。
[0044] 请参阅图5,在某些实施方式中,终端设备20包括获取单元211、处理单元212和传送单元213。步骤021可以由获取单元211实现,步骤022可以由处理单元212实现。步骤023可以由传送单元213实现。也即是说,获取单元211可用于获取被叫场景的多帧二维被叫图像和多帧被叫深度图像。处理单元212可用于处理多帧二维被叫图像和多帧被叫深度图像以得到多帧三维被叫图像。传送单元213可用于传送多帧三维被叫图像至电子装置10。
[0045] 请参阅图6,在某些实施方式中,终端设备20包括图像获取组件221、处理器222和通信单元223。步骤021可以由图像获取组件221实现。步骤022可以由处理器222实现。步骤023可以由通信单元223实现。也即是说,图像获取组件221可用于获取被叫场景的多帧二维被叫图像和多帧被叫深度图像。处理器222可用于处理多帧二维被叫图像和多帧被叫深度图像以得到多帧三维被叫图像。通信单元223可用于传送多帧三维被叫图像至电子装置10。
[0046] 具体地,以电子装置10为参考对象,电子装置10为主叫设备,电子装置10的使用对象为主叫对象,终端设备20为被叫设备,终端设备20的使用对象为被叫对象。电子装置10的图像采集组件121负责采集主叫对象所处的目标空间的多帧二维主叫图像和/或多帧主叫深度图像,并由处理器222将多帧二维主叫图像和/或多帧主叫深度图像融合形成多帧三维主叫图像。电子装置10的通信模块123通过无线通信方式发送多帧三维主叫图像至终端设备20。终端设备20接收后即可观看到主叫对象的三维视频。同样地,在被叫设备这一端,终端设备20的图像获取组件221负责采集被叫对象所处的目标空间的多帧二维被叫图像和/或多帧被叫深度图像,并由处理器222将多帧二维被叫图像和/或多帧被叫深度图像融合形成多帧被叫三维图像。终端设备20的通信单元223通过无线通信方式发送多帧被叫三维图像至电子装置10。电子装置10接收后即可观看到被叫对象的三维视频。
[0047] 如此,电子装置10和终端设备20均可传送三维视频,实现了电子装置10和终端设备20的三维视频的交互,实现了三维视频通话、三维视频会议。
[0048] 请参阅图7,在某些实施方式中,本发明实施方式的三维视频通信方法还可以应用在虚拟现实头戴式显示设备、增强现实显示设备、全息立体投影设备、配备有3D液晶显示器的显示设备等的设备中。此时,本发明实施方式的三维视频通信方法还包括:
[0049] 03:终端设备20采用全息投影或3D显示的方式显示多帧三维图像。
[0050] 请参阅图8,在某些实施方式中,终端设备20包括显示单元214。步骤03可以由显示单元214实现。也即是说,显示单元214可为采用全息投影的光机(光学引擎)或采用3D显示的方式显示多帧三维图像的显示屏。
[0051] 请再参阅图6,在某些实施方式中,步骤03可以由处理器222实现。也即使说,处理器222可用于控制终端设备20采用全息投影或3D显示的方式显示多帧三维图像。
[0052] 具体地,电子装置10的图像采集组件121负责采集电子装置10的使用对象所处的目标空间的多帧二维图像和/或多帧深度图像,并由处理器122将多帧二维图像和/或多帧深度图像融合形成多帧三维图像。电子装置10的通信模块123通过无线通信方式发送多帧三维图像至终端设备20。终端设备20将多帧三维图像进行显示以呈现出3D的显示效果。
[0053] 如此,在电子装置10未配备有3D显示功能的显示设备时,可以将多帧三维图像通过无线通信方式传送到可以显示三维图像的设备中,使得用户能够观看到三维视频的三维效果,有利于改善用户体验。
[0054] 请参阅图9,在某些实施方式中,本发明实施方式的三维视频通信方法还包括:
[0055] 013:压缩多帧三维图像。
[0056] 步骤014传送多帧三维图像至终端设备20还包括:
[0057] 0141:传送压缩后的多帧三维图像至终端设备20。
[0058] 请参阅图10,在某些实施方式中,电子装置10还包括压缩模块113。步骤013可以由压缩模块113实现。步骤0141可以由传送模块114实现。也即是说,压缩模块113可以用于压缩多帧三维图像。传送模块114可以用于传送压缩后的多帧三维图像至终端设备20。
[0059] 请再参阅图3,在某些实施方式中,步骤013可以由处理器122实现。步骤0141可以由通信模块123实现。也即是说,处理器122还可用于压缩多帧三维图像。通信模块123还可以用于传送压缩后的多帧三维图像至终端设备20。
[0060] 可以理解,三维图像的数据量较大,传输时(尤其是对低时延有较高要求的应用场景,如三维视频通话等),要求使用的无线通信方式具有较高的传输带宽。受限于目前无线通信技术的发展,目前的多种无线通信方式均还未能实现数据量较大的三维图像的无损传输。因此,需要对多帧三维图像组成的三维视频进行压缩,减小三维视频的数据量,从而实现三维图像的较高速率的传输,满足某些应用场景下低时延的要求。
[0061] 另外,在某些实施方式中,终端设备20接收到电子装置10传送的压缩过的三维视频后,需要先对三维视频进行解压缩处理后再进行显示。同样地,电子装置10接收到终端设备20传送的压缩过的三维视频后,也需要对三维视频进行解压缩后再进行显示。
[0062] 进一步地,压缩比例根据不同的应用场景可自适应地调整。实际应用中,电子装置10会先判定自身处于何种应用场景下,再根据确定的应用场景调整对应的压缩比例。举例来说,当传送的三维视频用于视频通话的应用场景时,此时对每一帧三维图像的精度的要求并不会很高,因此,对应地可以适当调高压缩比例,从而一方面可以实现三维视频的交互,另一方面也可以满足低时延的要求。当传送的三维视频用于全息投影时,此时对每一帧三维图像的精度的要求较高,因此,对应地可以适当地调低压缩比例,从而满足全息投影场景下的高精度的要求。
[0063] 同样地,对于终端设备20而言,终端设备20发送多帧三维被叫图像时也需要进行压缩,压缩后的多帧三维被叫图像再通过无线通信方式传送到电子装置10。压缩比例同样地可以根据不同的应用场景自适应地调整。
[0064] 请参阅图11,在某些实施方式中,电子装置10通过5G的sub-6G频段传送多帧三维图像至终端设备20。此时,多帧三维图像的传输路线为:电子装置10首先通过5G的sub-6G频段传送多帧三维图像至第一基站,第一基站通过有线通信方式传送多帧三维图像至核心网,核心网通过有线通信方式传送多帧三维图像至第二基站,第二基站通过无线通信方式传送多帧三维图像至终端设备20。
[0065] 其中,第五代移动通信网络(5G)的sub-6G频段包括多个工作频段,例如,工作频段为n78时对应的频率范围为3.3GHz~3.8GHz;工作频段为n79时对应的频率范围为4.4GHz~5.0GHz;工作频段为n77时对应的频率范围为3.3GHz~4.2GHz,;工作频段为n41时对应的频率范围为2.496GHz~2.690GHz,;工作频段为n8时对应的频率范围为上行880MHz~915MHz,下行915MHz~960MHz;工作频段为n3时对应的频率范围为上行1710MHz~1785MHz,下行
1805MHz~1880MHz;工作频段为n80时对应的频率范围为1710MHz~1785MHz;工作频段为n81时对应的频率范围为880MHz~915MHz。5G sub-6GHz可以提高传统的频段的频谱效率,并且在可比较的频率带宽范围内,数据速率扩展容量较高且覆盖范围较大。Sub-6G的无线基础设施将采用波束成形方案进行广泛部署,采用该方案可以大大扩展网络覆盖范围和建筑内部穿透能力。如此,使用5G的sub-6G频段传送多帧三维图像一方面可满足传输速率的要求,另一方面对用户所处的环境的限制性较小,在绝大多数场景下均可以实现三维图像的高效传输。
[0066] 举例来说,电子装置10采集多帧二维图像和多帧深度图像,其中每帧二维彩色图像分辨率为1280×720,每一个像素点的色彩分辨率为12bit,每帧深度图像的分辨率1280×720,每一个像素点的灰度分辨率为16bit,三维视频的帧率为60帧,压缩比例为102:1,每帧三维图像对应的头文件的数据量为108bit,则电子装置10每秒要传送的数据流的大小为:[(1280*720*12+1280*720*16+108)*60]/(102/1)=14.48Mbps。目前5G的sub-6G无线传输方式的上行速率最低为230Mbps,下行速率最低为1300Mbps。由此可看出,5G的sub-6G的,无线传输方式完全可以满足720P的高清三维视频的高效传输。
[0067] 再例如,电子装置10采集多帧二维图像和多帧深度图像,其中每帧二维彩色图像分辨率为1920×1080,每一个像素点的色彩分辨率为12bit,每帧深度图像的分辨率1920×1080,每一个像素点的灰度分辨率为16bit,三维视频的帧率为60帧,压缩比例为102:1,每帧三维图像对应的头文件的数据量为108bit,则电子装置10每秒要传送的数据流的大小为:[(1920*1080*12+1920*1080*16+108)*60]/(102/1)=32.57Mbps。目前5G的sub-6G无线传输方式的上行速率最低为230Mbps,下行速率最低为1300Mbps。由此可看出,5G的sub-6G的无线传输方式完全可以满足1080P的超清三维视频的高效传输。
[0068] 请再参阅图11,在某些实施方式中,电子装置10通过毫米波传送多帧三维图像至终端设备20。此时,多帧三维图像的传输路线为:电子装置10首先通过毫米波传送多帧三维图像至第一基站,第一基站通过有线通信方式传送多帧三维图像至核心网,核心网通过有线通信方式传送多帧三维图像至第二基站,第二基站通过无线通信方式传送多帧三维图像至终端设备20。
[0069] 其中,毫米波对应的频段是第五代移动通信网络中24.25GHz~52.6GHz以及WIFI的802.11ad或802.11ay的60GHz频段。毫米波具有极大的传输带宽,可以较大地提升无线传输速率。目前基于时分双工(Time Division Duplexing,TDD)制式的5G毫米波传输方式,上行速率的峰值可达到2000Mbps,下行速率的峰值可达到2000Mbps,上述上行速率和下行速率均是在仅存在上行传输或下行传输的情形下测得的,由于时分双工中上下行数据是分时间隔传输的,则考虑实际使用中,若上下行的占比均为50%,则上行速率也可达到1000Mbps,下行速率也可达到1000Mbps。由此可以看出,5G的毫米波的无线通信方式也是可以满足三维视频的高效传输的。
[0070] 请再参阅图11,在某些实施方式中,电子装置10可通过FDD-LTE传送多帧三维图像至终端设备20。此时,多帧三维图像的传输路线为:电子装置10首先通过FDD-LTE传送多帧三维图像至第一基站,第一基站通过有线通信方式传送多帧三维图像至核心网,核心网通过有线通信方式传送多帧三维图像至第二基站,第二基站通过无线通信方式传送多帧三维图像至终端设备20。
[0071] 其中,FDD-LTE指的是第四代移动通信网络(Long Term Evolution,LTE)中的频分双工(Frequency Division Duplexing,FDD)制式。在该制式下,上行数据和下行数据分别在不同的频段上同时传输,因此,FDD-LTE的无线传输方式具有较强的数据传输能力。FDD-LTE的无线传输方式较适用于对称业务,在支持对称业务时,能充分利用上下行的频谱,例如在三维视频通话时使用FDD-LTE方式传输多帧三维图像,由于FDD-LTE的上行信道和下行信道的配比为1:1,上行数据和下行数据分别在上行信道和下行信道中同时传输,因此,可以同时满足三维视频通话中数据量较大的多帧三维图片的上传和下载。目前基于第四代移动通信网络中频分双工制式的无线通信方式,上行速率约为200Mbps,下行速率约为1200Mbps。参考上述举例中的1080P的超清三维视频的32.57Mbps及720P的高清三维视频的
14.48Mbps的传输速率需求,可以看出FDD-LTE完全可以满足三维视频的高效传输。
[0072] 请再参阅图11,在某些实施方式中,电子装置10可以通过TDD-LTE传送多帧三维图像至终端设备20。此时,多帧三维图像的传输路线为:电子装置10首先通过TDD-LTE传送多帧三维图像至第一基站,第一基站通过有线通信方式传送多帧三维图像至核心网,核心网通过有线通信方式传送多帧三维图像至第二基站,第二基站通过无线通信方式传送多帧三维图像至终端设备20。
[0073] 其中,TDD-LTE指的是第四代移动通信网络(Long Term Evolution,LTE)中的时分双工(Time Division Duplexing,TDD)制式。在该制式下,上行数据和下行数据的传输在同一频段上按照时间分配交叉进行。TDD-LTE的无线传输方式具有较高的灵活性,其上行传输的时隙占比和下行传输的时隙占比可以根据实际需求灵活调整,因此,TDD-LTE的无线传输方式较适用于非对称业务。目前基于第四代移动通信网络中时分双工制式的无线通信方式,上行速率最低为24Mbps,下行速率约为800Mbps。参考上述举例中的720P的高清三维视频的14.48Mbps的传输速率需求,TDD-LTE的无线传输方式完全可以满足720P的高清三维视频的高效传输。而对于1080P的超清三维视频的32.57Mbps的传输速率需求,TDD-LTE的无线传输方式的上行速率可能无法满足该传输速率要求,但是由于TDD-LTE的高灵活性,上行传输的时隙占比和下行传输的时隙占比是可以灵活调整的,因此,在某些应用场景下,TDD-LTE的无线传输方式也是可以满足1080P的超清三维视频的传输的。
[0074] 请再参阅图11,在某些实施方式中,电子装置10通过WIFI传送多帧三维图像至终端设备20。此时,多帧三维图像的传输路线为:电子装置10首先通过WIFI传送多帧三维图像至第一无线访问接入点,第一无线访问接入点通过有线传输传送多帧三维图像至核心网,核心网通过有线通信方式传送多帧三维图像至第二无线访问接入点,第二无线访问接入点通过无线通信方式传送多帧三维图像至电子装置10。
[0075] 无线保真技术(Wireless-Fidelity,WIFI)的应用频段包括2G频段和5G频段。其中,2G频段对应的频率范围为2.402GHz~2.482GHz,5G频段对应的频率范围为5.150GHz~5.350GHz、5.470GHz~5.725GHz以及5.725GHz~5.850GHz。WIFI无线通信方式采用的是时分双工工作模式。目前在2G频段下,WIFI无线通信方式的上行速率的峰值可达到300Mbps,下行速率的峰值可达到300Mbps,上述上行速率和下行速率均是在仅存在上行传输或下行传输的情形下测得的,由于时分双工中上下行数据是分时间隔传输的,则考虑实际使用中,若上下行的占比均为50%,则上行速率也可达到150Mbps,下行速率也可达到150Mbps。在5G频段下,WIFI无线通信方式的上行速率的峰值可达到1732Mbps,下行速率的峰值可达到
1732Mbps,上述上行速率和下行速率均是在仅存在上行传输或下行传输的情形下测得的,由于时分双工中上下行数据是分时间隔传输的,则考虑实际使用中,若上下行的占比均为
50%,则上行速率也可达到866Mbps,下行速率也可达到866Mbps。由此可以看出,WIFI无线通信方式也是可以满足三维视频的高效传输的。
[0076] 需要说明的是,上述任意一项实施方式中,第二基站或第二无线接入节点与终端设备20之间通过无线通信方式传输三维图像。其中,无线通信方式可以为WIFI、4G、5G中的任意一种。
[0077] 请再参阅图11,本发明还提供一种三维视频通信系统100。三维视频通信系统100包括上述的电子装置10和上述的终端设备20。电子装置10和终端设备20通过WIFI、4G或5G等无线通信方式进行通信。
[0078] 进一步地,三维视频通信系统100包括传输网络30。具体地,当电子装置10通过4G、5G的无线通信方式传送多帧三维图像时,传输网络30包括第一基站、核心网和第二基站。电子装置10通过sub-6G、毫米波、FDD-LTE或TDD-LTE与第一基站通信,第一基站通过有线通信方式与核心网通信,核心网通过有线通信方式与第二基站通信,第二基站再通过sub-6G、毫米波、FDD-LTE或TDD-LTE终端设备20通信。当电子装置10通过WIFI传送多帧三维图像时,传输网络30包括第一无线访问接入点、核心网和第二无线访问接入点。电子装置10通过WIFI与第一无线访问接入点通信,第一无线访问接入点通过有线通信方式与核心网通信,核心网通过有线通信方式与第二无线访问接入点通信,第二无线访问接入点通过WIFI与终端设备20通信。
[0079] 请一并参阅图3和图6,本发明还提供一个或多个包含计算机可执行指令的非易失性计算机可读存储介质。当计算机可读存储介质被一个或多个处理器122/222执行时,使得处理器122/222执行上述任意一项实施方式所述的三维视频通信方法。
[0080] 例如,当计算机可读存储介质被一个或多个处理器122执行时,使得处理器122执行以下步骤:
[0081] 控制图像采集组件121获取当前场景的多帧二维图像和/或多帧深度图像;
[0082] 处理多帧二维图像和/或多帧深度图像以得到多帧三维图像;和
[0083] 控制通信模块123传送多帧三维图像至终端设备20。
[0084] 再例如,当计算机可读存储介质被一个或多个处理器122执行时,使得处理器122执行以下步骤:
[0085] 压缩多帧三维图像。
[0086] 控制通信模块123传送压缩后的多帧三维图像至终端设备20。
[0087] 再例如,当计算机可读存储介质被一个或多个处理器222执行时,使得处理器222执行以下步骤:
[0088] 控制图像获取组件221获取被叫场景的多帧二维被叫图像和多帧被叫深度图像;
[0089] 处理多帧二维被叫图像和多帧被叫深度图像以得到多帧三维被叫图像;和[0090] 控制通信单元223传送多帧三维被叫图像至电子装置10。
[0091] 再例如,当计算机可读存储介质被一个或多个处理器222执行时,使得处理器222执行以下步骤:
[0092] 控制终端设备20采用全息投影或3D显示的方式显示多帧三维图像。
[0093] 在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
[0094] 此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
[0095] 流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
[0096] 在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
[0097] 应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
[0098] 本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
[0099] 此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
[0100] 上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。