利用虚拟镜头实现VR全景视频后期编辑的方法和系统转让专利

申请号 : CN201610810679.X

文献号 : CN106331645B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 颜庆聪周成李智鹏郁隆周华

申请人 : 北京美吉克科技发展有限公司

摘要 :

本发明涉及一种利用虚拟镜头实现VR全景视频编辑的方法和系统,在VR全景视频文件的基础上,重新生成不同视角的虚拟镜头,例如前、后、左、右、上、下,依旧采用传统的编辑方式,增加多个虚拟镜头视窗,在浏览素材时所有镜头的图像同时播放,几乎覆盖了所有拼接后的全景内容,一旦观察到任何虚拟镜头的图像有瑕疵,立即打标记并对该片段进行剪辑,最终将整个剪辑脚本重新打包合成为新的文件;采用本发明的技术方案,无需佩戴VR显示终端,即可实现VR全景视频后期编辑,基于录制下来的VR全景视频文件,重新生成不同视角的虚拟镜头,并利用其完成VR全景视频后期编辑。

权利要求 :

1.一种利用虚拟镜头实现VR全景视频后期编辑的系统,包括全景信号拍摄模块,全向音频拾取模块,拼接服务器,采编服务器,信号监看终端,CMS服务器,接收服务器,VR显示终端,其他移动终端,其特征在于:全向音频拾取模块和全景信号拍摄模块采集的信号发送到拼接服务器,拼接服务器处理后的信号发送给采编服务器和信号监看终端,采编服务器处理后的信号发送给信号监看终端和CMS服务器,接收服务器和其他移动终端可以访问CMS服务器,接收服务器可以与VR显示终端交互信息;

拼接服务器对全景信号拍摄模块中不同机位拍摄的视频信号进行实时拼接处理,与全向音频拾取模块采集的现场全向音频进行合成;

采编服务器对拼接后的VR全景视频信号进行采集,保存在本地的存储介质中,接着自定义虚拟机位的数量和角度,基于选中的VR全景视频信号素材,重新生成虚拟镜头的视频图像;

在浏览VR全景视频信号素材的时候,虚拟镜头的视频图像同步播放,当发现某个虚拟镜头的视频图像有瑕疵,直接在Video编辑轨上面对VR全景视频素材打标记点,接着对VR全景视频进行编辑。

2.如权利要求1所述的利用虚拟镜头实现VR全景视频后期编辑的系统,其特征在于:虚拟镜头的视频图像覆盖了VR全景视频的所有图像内容,为VR全景视频内容剪辑提供可视化的剪辑方案。

3.如权利要求1所述的利用虚拟镜头实现VR全景视频后期编辑的系统,其特征在于:拼接服务器,包含信号输入单元、拼接处理单元、时码生成单元,以及信号输出单元;

全景信号拍摄模块将不同机位拍摄的现场信号输出至拼接服务器内部的信号输入单元,由拼接处理单元按照预先校准好的模板进行实时拼接处理;

全向音频拾取模块,负责拾取现场的全向声音,将拾取的全向声音送给信号输入单元,完成音频的采集工作;

拼接处理单元将全向音频拾取模块采集进来的音频与拼接后的VR全景视频信号进行合成。

4.如权利要求1所述的利用虚拟镜头实现VR全景视频后期编辑的系统,其特征在于:采编服务器,包含信号输入单元、4K编码处理单元、虚拟机位生成单元、剪辑处理单元、存储介质单元、CG&特效单元、打包合成单元,以及信号输出单元;

拼接服务器输出的VR全景视频信号,直接输出至采编服务器内部的信号输入单元;

4K编码处理单元对每一帧3840*2160分辨率的视频图像进行实时处理,生成的VR全景视频文件,保存在服务器本地的存储介质单元;

虚拟机位生成单元设置虚拟机位的数量,设置好虚拟镜头的数量及角度后,虚拟机位生成单元基于存储介质单元中保存的VR全景视频文件素材,重新生成每个虚拟镜头对应的视频图像,并在UI界面的虚拟镜头浏览视窗中显示。

5.如权利要求4所述的利用虚拟镜头实现VR全景视频后期编辑的系统,其特征在于:CG&特效单元,用于给编辑之后的VR全景视频文件素材添加字幕。

6.采用权利要求1-5之一所述利用虚拟镜头实现VR全景视频后期编辑的系统的方法,其特征在于:从本地存储路径下面选中待剪辑的VR全景视频素材;

设置虚拟机位的数量,使得虚拟机位的数量能够覆盖全景视频画面的所有内容;

基于当前的VR全景视频素材重新生成每个虚拟镜头对应的视频图像,并在UI界面的虚拟镜头浏览视窗中显示;

当发现某个虚拟镜头的视频图像有瑕疵,直接在Video编辑轨上面对VR全景视频素材打标记点,接着对VR全景视频进行编辑。

7.如权利要求6所述的方法,其特征在于:

当整个编辑脚本完成以后,通过预监窗口对整体剪辑效果进行预监,预监内容即剪辑后的全景视频图像,编辑脚本审核通过以后,对整个编辑脚本进行打包合成,生成新的VR全景视频文件。

8.如权利要求7所述的方法,其特征在于:

将新的VR全景视频文件上传至CMS服务器,然后进行导入,经过编目、归档、审核之后在WEB界面上发布。

9.如权利要求8所述的方法,其特征在于:

通过移动终端直接访问CMS服务器或打开APP应用,对感兴趣的VR全景视频内容进行点播,并通过移动终端本身的传感器随意改变观看角度。

10.如权利要求8所述的方法,其特征在于:

对VR全景视频进行编辑时,通过采编服务器的CG&特效单元,给编辑之后的VR全景视频素材添加字幕。

说明书 :

利用虚拟镜头实现VR全景视频后期编辑的方法和系统

技术领域

[0001] 本发明涉及VR视频编辑方法,特别是涉及一种利用虚拟镜头实现VR全景视频后期编辑的方法和系统。

背景技术

[0002] 通常情况下,VR全景视频内容的生产需要经过拍摄、编辑、拼接等几个步骤。前期拍摄主要采用多个专业级摄像机,按照固定的空间位置摆放,相对位置关系保持不变,对360度全方位的现场信号进行拍摄,每个设备将拍摄的视频内容以文件的形式记录到设备本地的存储介质。整个现场拍摄工作结束后,将所有机位录制下来的文件导入统一的编辑设备,例如一台专业级计算机,其具备很高图像处理性能,再使用商业软件进行拍摄内容的离线拼接处理,根据拍摄时的位置关系,手动对机位顺序、拼缝等作出调整。经过离线拼接处理,生成VR全景视频文件,此类文件通常由部署了VR播放器的专业工作站进行解码。然后,佩戴连接在专业工作站上面的VR显示终端,例如VR头盔或VR眼镜,观看VR全景视频内容。专业工作站与VR显示终端之间,通过视频传输线缆和数据传输线缆连接,前者通过数据传输线缆,获取VR显示终端的水平、垂直、角度等实时姿态参数,经过复杂的运算处理,随后通过视频传输线缆在VR显示终端的视野中显示当前姿态对应视角的视频画面,这样足不出户就能够实现置身拍摄现场的沉浸式体验。
[0003] 但是,以上并没有涉及VR全景视频文件的剪辑方法,若离线拼接生成的VR全景视频文件有瑕疵,佩戴VR显示终端后,也仅能观看当前视野范围内拼接后的局部视频画面,无法浏览所有视角的视频画面是否正常,这样不具备后期编辑的必要条件;使用VR播放器浏览VR全景视频存在相同的问题,虽然通过键盘、鼠标或触摸屏等方式可以调整当前的视角,但是依然无法实现对拼接后全景视频画面的精细化浏览。
[0004] 另外还有一种思路,就是先对不同机位拍摄的视频文件进行剪辑,然后再作离线拼接处理。但是这种方法也不具备可操作性,一方面会带来巨大的工作量,例如采用10个专业级摄像机进行现场拍摄,那么就意味着必须对这些机位录制的视频文件分别剪辑,而且需要相关技术解决所有机位素材剪辑脚本的一致性问题;另一方面,需要解决所有机位素材分别剪辑以后的视频画面的帧同步问题,否则离线拼接后会出现由于上述原因引起的全景视频画面局部视频画面错位的问题。
[0005] 综上,现阶段VR技术在实际应用中,还有很多问题亟待解决,VR全景视频素材的剪辑方法目前还没有合适的解决方案。

发明内容

[0006] 本发明的目的是通过以下技术方案实现的。
[0007] 本发明提出了一种利用虚拟镜头实现VR全景视频后期编辑的系统,包括全景信号拍摄模块,全向音频拾取模块,拼接服务器,采编服务器,信号监看终端,CMS服务器,接收服务器,VR显示终端,其他移动终端。其中,全向音频拾取模块和全景信号拍摄模块采集的信号发送到拼接服务器,拼接服务器处理后的信号发送给采编服务器和信号监看终端,采编服务器处理后的信号发送给信号监看终端和CMS服务器,接收服务器和其它访问终端可以访问CMS服务器,接收服务器可以与VR显示终端交互信息;
[0008] 拼接服务器对全景信号拍摄模块中不同机位拍摄的视频信号进行实时拼接处理,与全向音频拾取模块采集的现场全向音频进行合成;
[0009] 采编服务器对拼接后的VR全景视频信号进行采集,保存在本地的存储介质中,接着自定义虚拟机位的数量和角度,基于选中的VR全景视频信号素材,重新生成虚拟镜头的视频图像;
[0010] 在浏览VR全景视频信号素材的时候,虚拟镜头的视频图像同步播放,当发现某个虚拟镜头的视频图像有瑕疵,直接在Video编辑轨上面对VR全景视频素材打标记点,接着对VR全景视频进行编辑。
[0011] 根据本发明的一个方面,虚拟镜头的视频图像覆盖了VR全景视频的所有图像内容,为VR全景视频内容剪辑提供可视化的剪辑方案。
[0012] 根据本发明的一个方面,拼接服务器,包含信号输入单元、拼接处理单元、时码生成单元,以及信号输出单元;
[0013] 全景信号拍摄模块将不同机位拍摄的现场信号输出至拼接服务器内部的信号输入单元,由拼接处理单元按照预先校准好的模板进行实时拼接处理;
[0014] 全向音频拾取模块,负责拾取现场的全向声音,将拾取的全向声音送给信号输入单元,完成音频的采集工作;
[0015] 拼接处理单元将全向音频拾取模块采集进来的音频与拼接后的VR全景视频信号进行合成。
[0016] 根据本发明的一个方面,采编服务器,包含信号输入单元、4K编码处理单元、虚拟机位生成单元、剪辑处理单元、存储介质单元、CG&特效单元、打包合成单元,以及信号输出单元;
[0017] 拼接服务器输出的VR全景视频信号,直接输出至采编服务器内部的信号输入单元;
[0018] 4K编码处理单元对每一帧3840*2160分辨率的视频图像进行实时处理,生成的VR全景视频文件,保存在服务器本地的存储介质单元;
[0019] 虚拟机位生成单元设置虚拟机位的数量,设置好虚拟镜头的数量及角度后,虚拟机位生成单元基于存储介质单元中保存的VR全景视频文件素材,重新生成每个虚拟镜头对应的视频图像,并在UI界面的虚拟镜头浏览视窗中显示。
[0020] 根据本发明的一个方面,CG&特效单元,用于给编辑之后的VR全景视频文件素材添加字幕。
[0021] 本发明还提出了一种采用上述利用虚拟镜头实现VR全景视频后期编辑的系统的方法,包括如下步骤:
[0022] 从本地存储路径下面选中待剪辑的VR全景视频素材;
[0023] 设置虚拟机位的数量,使得虚拟机位的数量能够覆盖全景视频画面的所有内容;
[0024] 基于当前的VR全景视频素材重新生成每个虚拟镜头对应的视频图像,并在UI界面的虚拟镜头浏览视窗中显示;
[0025] 当发现某个虚拟镜头的视频图像有瑕疵,直接在Video编辑轨上面对VR全景视频素材打标记点,接着对VR全景视频进行编辑。
[0026] 根据本发明的一个方面,当整个编辑脚本完成以后,通过预监窗口对整体剪辑效果进行预监,预监内容即剪辑后的全景视频图像,编辑脚本审核通过以后,对整个编辑脚本进行打包合成,生成新的VR全景视频文件。
[0027] 根据本发明的一个方面,将新的VR全景视频文件上传至CMS平台,然后进行导入,经过编目、归档、审核之后在WEB界面上发布。
[0028] 根据本发明的一个方面,通过移动终端直接访问CMS平台或打开APP应用,对感兴趣的VR全景视频内容进行点播,并通过移动终端本身的传感器随意改变观看角度。
[0029] 根据本发明的一个方面,对VR全景视频进行编辑时,通过CG&特效单元,给编辑之后的VR全景视频素材添加字幕。
[0030] 本发明产生的有益效果是:改变了通常VR全景视频内容制作的业务流程,前端对现场拍摄的360度全方位视频信号进行实时拼接,然后对拼接后的VR全景视频信号进行录制,录制下来的文件存储在采编服务器本地,接着在录制下来的VR全景视频素材基础上,设置好虚拟镜头的数量和角度,重新生成虚拟镜头对应的视频图像,有效去除真实摄像机拍摄视频图像的冗余度,并利用虚拟镜头实现VR全景视频全部图像的同时浏览,使全面可视化剪辑成为可能,此外支持在全景视频上添加字幕及简单特效,最终将整个剪辑脚本打包生成为新的文件,用于后续的VR视频内容的点播。简化了VR全景视频内容制作的业务流程,提供了利用虚拟镜头实现VR全景视频后期编辑的方法。
[0031] 本发明的优点在于:将拼接后的VR全景视频信号录制下来,无需佩戴VR显示终端实现对VR全景视频文件剪辑的方法,基于VR全景视频文件,重新生成不同视角的虚拟镜头,利用这些虚拟镜头实现全景视频文件的剪辑。按照传统编辑方式,增加虚拟镜头浏览视窗,虚拟镜头可自行定义,这样,在进行VR全景视频浏览的同时虚拟镜头也同步播放,而且几乎覆盖了拼接后的全景画面内容,一旦发现任何镜头的图像有瑕疵,立即打标记并对该片段进行剪辑处理,例如删除、吸附,通过预览窗口对剪辑后的VR全景视频进行预监,预监信号输出至信号监看终端对画面质量进行专业审看,最终将整个剪辑脚本打包生成新的VR全景视频文件。经过后期编辑的VR全景视频文件,导入现有CMS平台,实现VR全景视频内容的点播。

附图说明

[0032] 通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
[0033] 图1示出了根据本发明实施方式的利用虚拟镜头实现VR全景视频后期编辑的系统示意图;
[0034] 图2示出了根据本发明实施方式的全景信号拍摄模块的逻辑关系示意图;
[0035] 图3示出了根据本发明实施方式的拼接服务器的逻辑关系示意图;
[0036] 图4示出了根据本发明实施方式的采编服务器的逻辑关系示意图;
[0037] 图5示出了根据本发明实施方式的VR后期编辑界面的示意图。

具体实施方式

[0038] 下面将参照附图更详细地描述本公开的示例性实施方式。虽然附图中显示了本公开的示例性实施方式,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施方式所限制。相反,提供这些实施方式是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
[0039] 附图1示出了根据本发明实施方式的利用虚拟镜头实现VR全景视频后期编辑的系统示意图。所述系统包括全景信号拍摄模块,全向音频拾取模块,拼接服务器,采编服务器,信号监看终端,CMS服务器,接收服务器,VR显示终端,其他移动终端,其中,拼接服务器对现场不同机位拍摄的视频信号进行实时拼接处理,与采集的现场全向音频进行合成;采编服务器对拼接后的VR全景视频信号进行采集,经过4K编码将VR全景视频素材录制下拉,保存在本地的存储介质中;接着,自定义虚拟机位的数量和角度,基于选中的VR全景视频素材,重新生成虚拟镜头的视频图像;这样,在浏览VR全景视频素材的时候,虚拟镜头的视频图像同步播放,几乎覆盖了VR全景视频的所有图像内容,为VR全景视频内容剪辑提供了可视化的剪辑方案。此外,还可以对剪辑后的VR全景视频素材添加字幕和简单特效,最终的剪辑效果可以使用预监窗口进行审看,也支持将全景视频信号输出给信号监看终端进行专业监看。剪辑脚本审核通过以后,可以对整个脚本进行打包合成,生成新的VR全景视频文件。剪辑后的VR全景视频内容,经过编目、审核之后即可在CMS平台上面发布,用于后续的点播应用,供更多的观众进行学习和交流。
[0040] 图2示出了根据本发明实施方式的全景信号拍摄模块的逻辑关系示意图。在前端的拍摄现场,全景信号拍摄模块由若干专业级摄像机组成,按照一定的空间位置关系排列,固定于相应的设备支架上面,彼此之间的位置关系保持不变。例如,水平方向360度均匀放置12个镜头冲外的专业级摄像机,相邻镜头中心的夹角为30°;垂直方向上、下分别放置一个专业级摄像机,镜头分别冲上和冲下,镜头中心与水平摄像机的镜头夹角成90°,且位于水平放置摄像机的中央。原则上,无论摄像机的机位怎样摆放,相邻机位的摄像机所拍摄到的图像,彼此之间必须有交集,即相邻机位拍摄图像的边缘部分有重叠的图像信息,否则无法实现视频图像拼接。而且,彼此之间拍摄图像的重叠区域越大,那么拼接之后的效果也越好,处理之后的拼缝越不明显。相关技术与本发明的方法关系不大,在此不做过多说明。全景信号拍摄模块内部的若干专业级摄像机,将拍摄的1080p60高清信号通过专业视频接口,例如Micro HDMI,直接输出至拼接服务器进行现场拍摄视频的实时拼接处理。
[0041] 图3示出了根据本发明实施方式的拼接服务器的逻辑关系示意图。其中,拼接服务器,包含信号输入单元、拼接处理单元、时码生成单元,以及信号输出单元。全景信号拍摄模块将不同机位拍摄的现场信号输出至拼接服务器内部的信号输入单元,由拼接处理单元按照预先校准好的模板进行实时拼接处理。由于拍摄现场的空间大小、周围环境的特征点不尽相同,因此需要根据全景信号拍摄模块在现场拍摄的实际信号,进行特征点匹配、拼接边缘优化等校准操作,然后保存为该环境下的拼接模板。与此同时,全向音频拾取模块,负责拾取现场的全向声音,通过相应的接口,例如USB通用接口,将拾取的全向声音送给信号输入单元,完成音频的采集工作。接下来,拼接处理单元将采集进来的音频与拼接后的全景视频信号进行合成,由于全景视频拼接处理需要使用显卡的GPU资源,通过复杂的算法进行图像变换及融合,因此会产生一定的处理延时,在与音频合成的时候,可以通过调整音频输出延时保证拼接后的全景视频与音频同步。由于实时视频拼接和实时音频采集,都涉及时码的同步,所以拼接服务器基于本地操作系统,例如Windows 10,所提供的高精度时间片,创建时钟发生单元,所产生的同步时钟可以达到毫秒级,远高于前端高清视频信号1080p60的帧率,即每秒60帧1920*1080的图像,从而实现不同机位的摄像机信号实时拼接及全向声音的同步处理。然后,通过信号输出单元,将拼接后的VR全景视频信号,一路4Kp60信号,输出至信号监看终端,用于对拼接效果的专业监看;另一路4Kp60信号,用于拼接后VR全景视频信号的采集,输出至采编服务器。采用实时拼接的处理方式,简化了制作VR全景视频内容的业务流程,节省了离线拼接所花费的时间,提高了工作效率。
[0042] 图4示出了根据本发明实施方式的采编服务器的逻辑关系示意图。其中,采编服务器,包含信号输入单元、4K编码处理单元、虚拟机位生成单元、剪辑处理单元、存储介质单元、CG&特效单元、打包合成单元,以及信号输出单元。拼接后的4Kp60的VR全景视频信号,直接输出至采编服务器内部的信号输入单元,对该信号进行采集。接着,4K编码处理单元对每一帧3840*2160分辨率的视频图像进行实时处理。此处,既可以采用硬件编码的方式,也可以采用软件编码的方式,具体的编码类型和码率,例如HEVC(H.265)和8Mpbs,亦可根据需要来设置。生成的VR全景视频文件,保存在服务器本地的存储介质单元,例如SSD硬盘。这样,就可以将拼接后的VR全景视频信号,直接录制为VR全景视频素材,简化了相关的制作业务流程。接下来,由采编服务器对录制完成的VR全景视频素材进行后期编辑。通过本发明涉及的VR后期编辑软件,从本地存储路径下面选中待剪辑的VR全景视频素材。接着,设置虚拟机位的数量,例如6个虚拟机位,包括前面、后面、左面、右面、上面,及下面,这样几乎就可以覆盖全景视频画面的所有内容,当然如果追求更加丰富的视角,还可以适当增加水平方向虚拟机位的数量,例如水平增加至6个。而实际拍摄环境中,为了保证画面拼接的效果,相邻摄像机拍摄视频图像的重叠区域越多,拼接处理越容易,拼接效果也越理想,但是这就要增加摄像机的数量,例如12个或者更多,是虚拟机位数量的2倍左右。而且,从剪辑VR全景视频素材的角度,虚拟机位的数量应该远低于真实机位的数量,因为经过拼接处理之后,VR全景视频图像已经将真实摄像机拍摄带来的图像冗余信息去除了;而且,虚拟机位也不宜太多,只要作到对全方位视频画面同时浏览即可。虚拟镜头的数量及角度设置好以后,虚拟机位生成单元基于当前的VR全景视频素材,重新生成每个虚拟镜头对应的视频图像,并在UI界面的虚拟镜头浏览视窗中显示。这样,当浏览VR全景视频素材的时候,所有虚拟镜头的视频图像同步播放,而且几乎覆盖了全景视频图像的全部内容,浏览过程中一旦发现某个虚拟镜头的视频图像有瑕疵,通过剪辑处理单元直接在Video编辑轨上面对VR全景视频素材打标记点,接着对该片段进行剪辑,例如删除、吸附,剪辑操作对所有虚拟镜头都生效。引入虚拟镜头这种编辑方式,实现了对VR全景视频图像所有内容的浏览,突破了仅能观看局部视频图像的限制,使VR全景视频素材编辑成为可能。另外,通过CG&特效单元,还可以给剪辑之后的VR全景视频素材添加字幕,例如跑马,显示旁白或其他信息,佩戴VR显示终端以后,看到跑马始终在视野中央偏下的位置,且位于当前视角显示视频画面的前方,终端设备姿态改变不会影响字幕的显示;此外,也能够添加简单的后期特效,例如当VR全景视频素材转场的时候添加淡出淡入特效。最终,整个编辑脚本完成以后,通过预监窗口对整体剪辑效果进行预监,预监内容即剪辑后的全景视频图像,通过信号输出单元可以将预监信号输出至信号监看终端进行专业监看。剪辑内容通过审核以后,就可以由打包合成单元对整个编辑脚本进行重新编码,生成新的VR全景视频文件。
[0043] 经过后期编辑的VR全景视频文件,其质量和内容都有了明显的提升,这些文件就可以面向点播应用。制作好的VR全景视频内容,通过网络上传至CMS平台,然后进行导入,经过编目、归档,通过审核之后就可以在WEB界面上发布了,用户可以根据关注的节目类型随意点播VR全景视频内容。若通过VR显示终端观看点播内容,需要将其连接在一台接收服务器上面,通过该服务器访问CMS平台,由WEB界面内嵌的VR播放器对点播内容进行解码,并将信号输出至VR显示终端,可以随意改变显示终端的姿态,观看不同视角的画面配合全方位的声音,用户即可获得沉浸式的现场体验,此外也能观看到后期增加的字幕、特效。另外,也可以通过其他移动终端实现点播,例如Pad和手机,直接访问CMS平台或打开APP应用,对感兴趣的VR全景视频内容进行点播,并通过移动终端本身的传感器随意改变观看角度。以上,采编服务器实现了对VR全景视频素材的后期编辑,剪辑后的优质VR全景视频内容可以在CMS平台上面供不同受众点播,使得VR全景视频资源被更好的分享和利用。
[0044] 图5示出了根据本发明实施方式的VR后期编辑界面的示意图。其中,包含视窗1-8、VR播放视窗、预监视窗、Video编辑轨、Audio编辑轨、CG&Effect编辑轨,以及编辑快捷键。视窗1-8即虚拟镜头浏览视窗,根据设置的虚拟镜头数量和角度,基于VR全景视频素材,重新生成虚拟镜头对应的视频图像,并按照默认的编号在相应的视窗中显示。VR播放视窗,用于播放采编服务器本地存储路径下选中的VR全景视频素材,实际就是一个专用VR播放器,通过键盘、鼠标对当前视角进行控制,实现向左、右、上、下移动观看视角,但是该窗口只能观看当前视角的局部视频图像,需要配合虚拟镜头的视频图像,对拼接后的VR全景视频图像的所有内容进行同步预览,使VR全景视频的可视化编辑成为可能。预监视窗按照剪辑脚本,对编辑轨上面若干VR全景视频片段进行预监,预监画面实际上是拼接之后的效果,即VR全景视频图像,而且预监信号可以通过专用视频接口输出至信号监看终端,进行更加专业的监看,保证剪辑内容的质量。下方的编辑轨划分为:Video编辑轨、Audio编辑轨、CG&Effect编辑轨,以轨道的形式分别显示VR全景视频素材的视频、音频,还有字幕及后期特效。轨道上面带有时码,支持缩放便于准确定位到某一帧视频图像,实现精确设置标记点、精确叠加字幕、片段精确衔接等剪辑操作,所有剪辑操作的痕迹都在编辑轨道上面展示,最终的剪辑脚本可以用于输出预监,及后续的打包合成。编辑快捷键位于界面的底部,用于执行相应的编辑操作,例如打入点、打出点、删除、吸附等。通过此界面,就可以按照现有视音频剪辑的方式和处理逻辑,实现对VR全景视频素材的后期编辑,为高质量VR全景视频内容制作提供解决方案。
[0045] 本发明还涉及一种利用虚拟镜头实现VR全景视频后期编辑的方法。所述方法涉及的功能模块包括:信号采集相关的全景信号拍摄模块、全向音频拾取模块;业务处理相关的拼接服务器、采编服务器、CMS服务器、接收服务器;信号监看相关的信号监看终端;终端展现相关的VR显示终端、其他访问终端。
[0046] 所述方法是这样实现的:前端,由若干专业级摄像机组成的全景信号拍摄模块,负责对录制现场进行360度全方位拍摄,并通过专业视频输出接口,例如Micro HDMI,将不同视角的拍摄信号输出至拼接服务器。其中,若干专业级摄像机分别拍摄水平、上方、下方等不同视角的画面,其相对空间位置关系是固定的,相邻两个摄像机的拍摄画面彼此有重叠的区域。经过校准之后其位置关系不能发生改变,以免影响后续实时拼接的精度。有关摄像机机位的摆放结构,不是本发明的重点,不做过多讨论。
[0047] 全向音频拾取模块,负责拾取现场的声音,通过相应的传输接口,例如USB通用接口,将拾取的声音送给拼接服务器,后者实现现场音频的采集。接下来,拼接服务器按照调试好的校准参数,对前端现场的拍摄信号进行实时拼接处理,同时将采集的音频与拼接后的全景视频信号进行合成。由于实时视频拼接和实时音频采集,都涉及时码的同步,拼接服务器基于本地操作系统,例如Windows10,所提供的高精度时间片(毫秒级),对视频和音频进行同步处理。与目前VR全景视频制作普遍采用的方式不同,不再需要将每个机位的视频拍摄下来,然后进行离线拼接处理,而是直接作到实时拼接并将VR全景视频信号输出给录制和监看设备,节省了视频素材的存储和管理成本,提高了VR全景视频内容的制作效率。最后,拼接服务器输出两路VR全景视频信号:一路4Kp60的信号,输出至信号监看终端,对拼接效果进行专业监看;另一路4Kp60的信号,用于VR全景视频的录制与后期编辑,输出至采编服务器。
[0048] 接下来,也是本发明的重点。通过采编服务器,对拼接之后4Kp60的VR全景视频信号进行采集,此处既可以采用硬件编码的方式,也可以采用软件编码的方式,具体的编码类型和码率,例如HEVC(H.265)和8Mpbs,亦可根据需要来设置;生成的VR全景视频文件,保存在服务器本地的存储介质中,例如SSD硬盘。这样,就可以将拼接后的VR全景视频信号,直接录制为VR全景视频素材,简化了相关的制作业务流程。接下来,由采编服务器对录制完成的VR全景视频素材进行后期编辑。通过本发明涉及的VR后期编辑软件,从本地存储路径下面选中待剪辑的VR全景视频素材。接着,设置虚拟机位的数量,例如6个虚拟机位,包括前面、后面、左面、右面、上面,及下面,这样几乎就可以覆盖全景视频画面的所有内容,当然如果追求更加丰富的视角,还可以适当增加水平方向虚拟机位的数量,例如水平增加至6个。而实际拍摄环境中,为了保证画面拼接的效果,相邻摄像机拍摄视频图像的重叠区域越多,拼接处理越容易,拼接效果也越理想,但是这就要增加摄像机的数量,例如12个或者更多,是虚拟机位数量的2倍左右。而且,从剪辑VR全景视频素材的角度,虚拟机位的数量应该远低于真实机位的数量,因为经过拼接处理之后,VR全景视频图像已经将真是摄像机拍摄带来的图像冗余信息去除了;而且。虚拟机位也不宜太多,只要作到对全方位视频画面同时浏览即可。虚拟镜头的数量及角度设置好以后,基于当前的VR全景视频素材重新生成每个虚拟镜头对应的视频图像,并在UI界面的虚拟镜头浏览视窗中显示。这样,当浏览VR全景视频素材的时候,所有虚拟镜头的视频图像同步播放,而且几乎覆盖了全景视频图像的全部内容,编辑浏览过程中一旦发现某个虚拟镜头的视频图像有瑕疵,可以直接在Video编辑轨上面对VR全景视频素材打标记点,接着对该片段进行剪辑,例如删除、吸附,剪辑操作对所有虚拟镜头都生效。引入虚拟镜头这种编辑方式,实现了对VR全景视频图像所有内容的浏览,突破了仅能观看局部视频图像的限制,使VR全景视频素材编辑成为可能。另外,在CG&Effect编辑轨上面还可以对VR全景视频素材添加字幕,例如跑马,显示旁白或其他信息,佩戴VR显示终端以后,看到跑马始终在视野中央偏下的位置,且位于当前视角显示视频画面的前方,终端设备姿态改变不会影响字幕的显示;此外,也支持简单的后期特效,例如当VR全景视频素材转场的时候添加淡出淡入特效。最终,整个编辑脚本完成以后,通过预监窗口对整体剪辑效果进行预监,预监内容即剪辑后的全景视频图像,也支持将预监信号输出给信号监看终端进行专业监看。剪辑脚本审核通过以后,接下来对整个编辑脚本进行打包合成,生成新的VR全景视频文件。
[0049] 经过后期编辑的VR全景视频文件,其质量和内容都有了明显的提升,这些文件就可以面向点播应用。制作好的VR全景视频内容,通过网络上传至CMS平台,然后进行导入,经过编目、归档,通过审核之后就可以在WEB界面上发布了,用户可以根据关注的节目类型随意点播VR全景视频内容。若通过VR显示终端观看点播内容,需要将其连接在一台接收服务器上面,通过该服务器访问CMS平台,由WEB界面内嵌的VR播放器对点播内容进行解码,并将信号输出至VR显示终端,可以随意改变显示终端的姿态,观看不同视角的画面配合全方位的声音,用户即可获得沉浸式的现场体验,此外也能观看到后期增加的字幕、特效。另外,也可以通过其他移动终端实现点播,例如Pad和手机,直接访问CMS平台或打开APP应用,对感兴趣的VR全景视频内容进行点播,并通过移动终端本身的传感器随意改变观看角度。
[0050] 本发明带来的益处非常明显:提供了一种VR全景视频素材的有效编辑方法,采用传统可视化的UI后期编辑界面,利用虚拟镜头同时浏览拼接后的全景视频图像,突破了佩戴VR显示终端后只能观看局部视频画面的限制。这样,一方面提高了VR全景视频内容的制作效率,一方面提高了VR全景视频内容的质量。经过剪辑的优质内容资源发布到CMS平台,用于点播应用,为更多的观众提供学习和交流的资源,例如VR全景精品课程、VR全景技能培训、VR全景旅游体验,足不出户就能够获得沉浸式的现场感受,相比于平面媒体资源,带来完全颠覆式的变革。
[0051] 以上所述,仅为本发明较佳的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。