视频数据的处理方法及系统转让专利

申请号 : CN201310276055.0

文献号 : CN104284098B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 李旦闫科锋连启慧

申请人 : 杭州海康威视数字技术股份有限公司

摘要 :

本发明公开了一种视频数据的处理方法及系统,在上述方法中,视频处理器接收来自于一个或多个输入设备的视频数据流;视频处理器根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器。由此提高了分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多的情况下,同步显示的准确度,提升用户体验。

权利要求 :

1.一种视频数据的处理方法,其特征在于,包括:

视频处理器接收来自于一个或多个输入设备的视频数据流;

所述视频处理器连接一个或多个显示处理器,所述视频处理器根据其连接情况对所述视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,其中,所述校准时标用于使所述一个或多个显示处理器将所述经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在所述视频处理器对所述视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;

所述视频处理器将经过分割编码处理后的数据包发送至所述一个或多个显示处理器,所述视频处理器按照服务器的当前时标进行校准包括:所述视频处理器每隔预设周期计算自身时标与所述服务器当前时标的时标偏移量;

所述视频处理器根据所述时标偏移量进行校准处理,获取所述校准时标,其中,所述校准时标用于将所述视频处理器当前的时标校准到与所述服务器的时标同步。

2.根据权利要求1所述的方法,其特征在于,所述视频处理器计算所述自身时标与所述服务器当前时标的所述时标偏移量包括:所述视频处理器中的第一处理器向所述服务器发送校准请求消息,并在发送所述校准请求消息时记录下第一时标;

所述服务器在接收到所述校准请求消息时记录下第二时标,然后向所述第一处理器发送校准响应消息,其中,所述校准响应消息中携带的信息包括:所述第二时标和所述服务器在发送所述校准响应消息时记录下的第三时标;

所述第一处理器在接收到所述校准响应消息时记录下第四时标;

所述第一处理器根据所述第一时标、所述第二时标、所述第三时标和所述第四时标计算所述时标偏移量。

3.根据权利要求2所述的方法,其特征在于,所述视频处理器根据所述时标偏移量进行校准处理,获取所述校准时标包括:所述第一处理器根据所述时标偏移量调整所述自身时标;

所述视频处理器中的第二处理器接收来自于所述第一处理器的所述调整后的自身时标并计算所述第一处理器传输所述调整后的自身时标的传输时延;

所述第二处理器采用所述调整后的自身时标和所述传输时延计算所述校准时标。

4.根据权利要求3所述的方法,其特征在于,所述第二处理器每隔预设时长与所述服务器进行时标校准。

5.根据权利要求1所述的方法,其特征在于,在所述视频处理器将经过分割编码处理后的数据包发送至所述一个或多个显示处理器之后,还包括:每个显示处理器经由与该显示处理器对应的视频处理器的端口接收经过分割编码处理后的数据包;

所述每个显示处理器对接收到的数据包进行解码处理,并解析出所述校准时标;

所述每个显示处理器根据所述校准时标确定输出经过解码处理的视频数据的时标。

6.一种视频数据的处理系统,其特征在于,包括:视频处理器;

所述视频处理器包括:

第一接收模块,用于接收来自于一个或多个输入设备的视频数据流;

处理模块,用于根据与该视频处理器连接的一个或多个显示处理器,对所述视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,其中,所述校准时标用于使所述一个或多个显示处理器将所述经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在所述视频处理器对所述视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;

发送模块,用于将经过分割编码处理后的数据包发送至所述一个或多个显示处理器,所述处理模块,还用于执行:每隔预设周期计算自身时标与所述服务器当前时标的时标偏移量;

根据所述时标偏移量进行校准处理,获取所述校准时标,其中,所述校准时标用于将所述视频处理器当前的时标校准到与所述服务器的时标同步。

7.根据权利要求6所述的系统,其特征在于,所述处理模块包括:第一处理单元;

所述第一处理单元包括:

发送子单元,用于向所述服务器发送校准请求消息,并在发送所述校准请求消息时记录下第一时标;

第一接收子单元,用于接收来自于所述服务器的校准响应消息,其中,所述校准响应消息中携带的信息包括:所述服务器在接收到所述校准请求消息时记录下的第二时标和所述服务器在发送所述校准响应消息时记录下的第三时标;

第一计算子单元,用于根据在接收到所述校准响应消息时记录下的第四时标、所述第一时标、所述第二时标和所述第三时标计算所述时标偏移量。

8.根据权利要求7所述的系统,其特征在于,

所述第一处理单元还包括:

调整子单元,用于根据所述时标偏移量调整所述自身时标;

所述处理模块还包括:第二处理单元;

所述第二处理单元包括:

第二接收子单元,用于接收来自于所述第一处理单元的所述调整后的自身时标;

第二计算子单元,用于计算所述第一处理单元传输所述调整后的自身时标的传输时延;

第三计算子单元,用于采用所述调整后的自身时标和所述传输时延计算所述校准时标。

9.根据权利要求8所述的系统,其特征在于,所述系统还包括:所述一个或多个显示处理器;

每个显示处理器均包括:

第二接收模块,用于经由与该显示处理器对应的视频处理器的端口接收经过分割编码处理后的数据包;

解码模块,用于对接收到的数据包进行解码处理,并解析出所述校准时标;

确定模块,用于根据所述校准时标确定输出经过解码处理的视频数据的时标。

说明书 :

视频数据的处理方法及系统

技术领域

[0001] 本发明涉及视频显示领域,具体而言,涉及一种视频数据的处理方法及系统。

背景技术

[0002] 目前,集中式大屏幕控制系统是指通过视频线进行视频信号和/或音频信号的输入与输出,视频信号和/或音频信号在系统内部通过外设部件互连标准(Peripheral Component Interconnect,简称为PCI)或者模拟切换进行传输的大屏幕控制器,是目前市场上屏幕控制技术的主流。
[0003] 然而,采用集中式大屏幕控制存在如下缺陷:
[0004] (1)集中式大屏幕控制系统通常利用采集卡接入信号,信号接入能力需要受到采集卡能力、机箱插槽数目、总线带宽等因素的制约,其信号接入能力有限。
[0005] (2)集中式大屏幕控制系统利用中央处理器(Central Processing Unit,简称为CPU)处理全部数据,利用PCI/PCI-X总线传输数据,其处理速度受制于CPU速度以及总线带宽。随着处理信号增多而无法确保每路信号的实时性。
[0006] (3)集中式大屏幕控制系统采用模拟电缆或者多次模拟-数字转换方式进行传输,其信号容易受到损失或干扰,因此图像品质较差。
[0007] (4)集中式大屏幕控制系统采用电缆点对点连接信号源与控制器,需要根据用户需要定制控制器、矩阵和电缆铺设。如果接入信号的数量发生变化则难以适应,因此,该系统的可扩展性较差。
[0008] (5)集中式大屏幕控制系统的所有信号均由控制器集中处理,一旦控制器发生故障或者宕机将会引起整个大屏幕墙无法正常显示。
[0009] 为此,为了解决集中式大屏幕控制系统存在的上述缺陷,相关技术中提出了分布式大屏幕控制系统的解决方案。分布式大屏幕控制系统是指视频信号通过编码处理(例如:H.264)经由网络发送至显示终端,从而解决了集中式大屏幕控制系统无法使用长距离视频线的问题,同时还可以通过任意增加模块以提高电视拼接墙的规模。由于视频信号通过网络进行传输,因此,各个网络节点可以分别设置在不同的区域,其规模可以无限度地扩大,有效地解决了集中式大屏幕控制系统在屏幕控制中存在的缺陷。
[0010] 图1是根据相关技术的分布式大屏幕控制系统的架构示意图。如图1所示,该分布式大屏幕控制系统主要包括以下三个部分:
[0011] (1)前端输入设备,例如:计算机输入源、模拟摄像机、网络摄像机(IP CAMERA,简称为IPC)、数字视频录像机(Digital Video Recorder,简称为DVR),主要负责提供大屏幕拼接的原始图像;
[0012] (2)嵌入式设备,例如:刺刀螺母连接器(Bayonet Nut Connector,简称为BNC)视频处理器、三原色(RGB)视频处理器、码流处理器和显示处理器,主要完成图像的切割编码与显示;
[0013] (3)服务器程序,主要用于管理和控制前端输入和嵌入式设备执行相应的操作。
[0014] 各个模块之间通过网络进行通信,用户使用分布式控制客户端来进行图像的拼接和显示。由于分布式大屏幕控制系统的前端输入、嵌入式设备和服务器都是分散放置的,而非集成在一个整体系统中,一路图像经过切割编码后通过网络发往到不同的显示处理器,每一个切割块在显示处理器上进行解码显示的过程可以看成是互不相关的,所以如何实现同步显示就成为了分布式大屏幕控制系统亟待解决的技术难题。
[0015] 现有的分布式大屏幕控制系统通常采用的方法在于先将切割完毕的码流中的99%进行发送,然后在上述99%的码流即将发送殆尽后再将剩余1%的码流进行发送。由于最后1%的码流中包含的数据量非常小,在各个显示端接收到最后发送的数据后立即显示即可实现同步。然而,上述技术方案在分布式大屏幕中的切割块数较少的情况下易于实现同步显示,但是在切割块数增多后,例如:分布式大屏幕中的切割块数为64块,其同步显示的性能将会受到严重影响。因为64路图像的每一帧在发送完99%的数据后还需要等待其余的分割块也需要将99%的数据发送完毕后才能发送剩余1%的数据,由此不但影响分布式大屏幕控制系统的性能,而且延时也会愈发增大。因此,分布式大屏幕控制系统会受到设备性能、使用环境以及网络状况等多方面的影响。

发明内容

[0016] 本发明提供了一种视频数据的处理方法及系统,以至少解决相关技术中的分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多时,同步显示的效果较差的问题。
[0017] 根据本发明的一个方面,提供了一种视频数据的处理方法。
[0018] 根据本发明的视频数据的处理方法包括:视频处理器接收来自于一个或多个输入设备的视频数据流;视频处理器根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,其中,校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器。
[0019] 优选地,视频处理器按照服务器的当前时标进行校准包括:视频处理器每隔预设周期计算自身时标与服务器当前时标的时标偏移量;视频处理器根据时标偏移量进行校准处理,获取校准时标。
[0020] 优选地,视频处理器计算自身时标与服务器当前时标的时标偏移量包括:视频处理器中的第一处理器向服务器发送校准请求消息,并在发送校准请求消息时记录下第一时标;服务器在接收到校准请求消息时记录下第二时标、然后向第一处理器发送校准响应消息,其中,校准响应消息中携带的信息包括:第二时标和服务器在发送校准响应消息时记录下的第三时标;第一处理器在接收到校准响应消息时记录下第四时标;第一处理器根据第一时标、第二时标、第三时标和第四时标计算时标偏移量。
[0021] 优选地,视频处理器根据时标偏移量进行校准处理,获取校准时标包括:第一处理器根据时标偏移量调整自身时标;视频处理器中的第二处理器接收来自于第一处理器的调整后的自身时标并计算第一处理器传输调整后的自身时标的传输时延;第二处理器采用调整后的自身时标和传输时延计算校准时标。
[0022] 优选地,第二处理器每隔预设时长与服务器进行时标校准。
[0023] 优选地,在视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器之后,还包括:每个显示处理器经由与该显示处理器对应的视频处理器的端口接收经过分割编码处理后的数据包;每个显示处理器对接收到的数据包进行解码处理,并解析出校准时标;每个显示处理器根据校准时标确定输出经过解码处理的视频数据的时标。
[0024] 根据本发明的另一方面,提供了一种视频数据的处理系统。
[0025] 根据本发明的视频数据的处理系统包括:视频处理器;视频处理器包括:第一接收模块,用于接收来自于一个或多个输入设备的视频数据流;处理模块,用于根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,其中,校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;发送模块,用于将经过分割编码处理后的数据包发送至一个或多个显示处理器。
[0026] 优选地,处理模块包括:第一处理单元;第一处理单元包括:发送子单元,用于向服务器发送校准请求消息,并在发送校准请求消息时记录下第一时标;第一接收子单元,用于接收来自于服务器的校准响应消息,其中,校准响应消息中携带的信息包括:服务器在接收到校准请求消息时记录下的第二时标和服务器在发送校准响应消息时记录下的第三时标;第一计算子单元,用于根据在接收到校准响应消息时记录下的第四时标、第一时标、第二时标和第三时标计算时标偏移量。
[0027] 优选地,第一处理单元还包括:调整子单元,用于根据时标偏移量调整自身时标;处理模块还包括:第二处理单元;第二处理单元包括:第二接收子单元,用于接收来自于第一处理单元的调整后的自身时标;第二计算子单元,用于计算第一处理单元传输调整后的自身时标的传输时延;第三计算子单元,用于采用调整后的自身时标和传输时延计算校准时标。
[0028] 优选地,上述系统还包括:一个或多个显示处理器;每个显示处理器均包括:第二接收模块,用于经由与该显示处理器对应的视频处理器的端口接收经过分割编码处理后的数据包;解码模块,用于对接收到的数据包进行解码处理,并解析出校准时标;确定模块,用于根据校准时标确定输出经过解码处理的视频数据的时标。
[0029] 通过本发明,采用视频处理器接收来自于一个或多个输入设备的视频数据流;视频处理器根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,该校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器,解决了相关技术中的分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多时,同步显示的效果较差的问题,进而提高了分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多的情况下,同步显示的准确度,提升用户体验。

附图说明

[0030] 此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
[0031] 图1是根据相关技术的分布式大屏幕控制系统的架构示意图;
[0032] 图2是根据本发明实施例的视频数据的处理方法的流程图;
[0033] 图3是根据本发明优选实施例的服务器与单个设备时标同步的交互过程示意图;
[0034] 图4是根据本发明优选实施例的视频图像分屏同步显示的示意图;
[0035] 图5是根据本发明优选实施例的显示处理器进行视频图像解码输出过程的示意图;
[0036] 图6是根据本发明实施例的视频数据的处理系统的结构框图;
[0037] 图7是根据本发明优选实施例的视频数据的处理系统的结构框图。

具体实施方式

[0038] 下文中将参考附图并结合实施例来详细说明本发明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
[0039] 在以下描述中,除非另外指明,否则将参考由一个或多个计算机执行的动作和操作的符号表示来描述本申请的各实施例。其中,计算机包括个人计算机、服务器、移动终端等各种产品,使用了CPU、单片机、DSP等具有处理芯片的设备均可以称为计算机。由此,可以理解,有时被称为计算机执行的这类动作和操作包括计算机的处理单元对以结构化形式表示数据的电信号的操纵。这一操纵转换了数据或在计算机的存储器系统中的位置上维护它,这以本领域的技术人员都理解的方式重配置或改变了计算机的操作。维护数据的数据结构是具有数据的格式所定义的特定属性的存储器的物理位置。然而,尽管在上述上下文中描述本发明,但它并不意味着限制性的,如本领域的技术人员所理解的,后文所描述的动作和操作的各方面也可用硬件来实现。
[0040] 转向附图,其中相同的参考标号指代相同的元素,本申请的原理被示为在一个合适的计算环境中实现。以下描述基于所述的本申请的实施例,并且不应认为是关于此处未明确描述的替换实施例而限制本申请。
[0041] 以下实施例可以应用到计算机中,例如:应用到PC中。也可以应用到目前采用了智能操作系统中的移动终端中,并且并不限于此。对于计算机或移动终端的操作系统并没有特殊要求,只要能够检测接触、确定该接触是否与预定规则相符合,以及根据该接触的属性实现相应功能即可。
[0042] 图2是根据本发明实施例的视频数据的处理方法的流程图。如图2所示,该方法可以包括以下处理步骤:
[0043] 步骤S202:视频处理器接收来自于一个或多个输入设备的视频数据流;
[0044] 步骤S204:视频处理器根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,其中,校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;
[0045] 步骤S206:视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器。
[0046] 相关技术中,采用分布式大屏幕控制系统可以使得每路信号通过独立的处理器加以处理,整个系统的大量运算分散在各个处理器中;同时采用网络作为信号传输的交换通道,每个处理器仅负责一路信号,某个处理器故障不会影响其它处理器的正常工作;此外还可以支持任意多路信号的接入和显示输出,全部信号利用网络传输、交换和连接,所有接入该网络的信号源都可以在拼接墙上显示,系统构架灵活,可扩展性强。然而,相关技术中的分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多时,同步显示的效果较差,采用如图2所示的方法,视频处理器接收来自于一个或多个输入设备的视频数据流;视频处理器根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,该校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器,解决了相关技术中的分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多时,同步显示的效果较差的问题,进而提高了分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多的情况下,同步显示的准确度,提升用户体验。
[0047] 采用本实施例所提供的视频数据的处理方法,系统中的各个视频处理器在分布式控制客户端的统一指挥调度下,可以完成以下主要功能(以下部分功能是某些优选实施方式具有的):基于IP网络灵活交换连接,支持任意规模拼接墙显示控制,突破显示区域界限,多种类型的视频信号窗口均可在全屏范围内任意跨屏、漫游、缩放、叠加;可以根据网络交换规模接入多路不同类型的视频信号源,支持任意规模大屏幕电视拼接墙的显示控制;在任一单元屏内可实时活动视窗,所有视窗都可以任意叠加;支持信号组播功能,同一信号源可同时显示在任意多个显示单元屏上,且所有视窗都是实时、同步的;每路信号都可以被实时监控,支持所有开窗信号在控制软件界面上回显;直观的图形用户界面,支持远程网络控制,支持大屏幕分区管理,支持多人同时对大屏幕进行控制、调度和管理,支持多级管理权限划分;所有处理器软件可通过网络进行更新,可以方便地进行性能和功能的升级,不需对扩展应用进行二次开发,降低系统扩展费用;分布式计算架构,容错能力强,性能高度可靠,任一处理器故障只影响该路信号或单元屏显示,而并不影响其它处理器的正常工作,更换处理器也不会影响网络正常运行,可灵活地将某一路信号切换到其他通道进行显示,有利于整个大屏幕系统的应急显示。
[0048] 在优选实施例中,可以将一个电视拼接墙划分成多个子拼接墙,并为每个子拼接墙设置对应的显示处理器,每个子拼接墙所包含的单元屏的数目应不超过单个显示处理器能够处理的最大单元屏的数量。在为每个子拼接墙分别设定对应的显示处理器后,每个子拼接墙在整个电视拼接墙中对应部分画面的视频和/或音频数据由该子拼接墙对应的显示处理器负责处理。作为本发明的一种优选实施方式,为了最大限度地利用每个显示处理器的数据处理能力,根据每个显示处理器能够处理的最大单元屏的数量,可以预先设定与显示处理器一一对应的多个默认子拼接墙,然后根据电视拼接墙所包含的分屏组合方式和默认子拼接墙所包含的分屏组合方式,将电视拼接墙划分成若干个默认子拼接墙的组合。每个显示处理器处理的最大分屏数由其自身的数据处理能力决定,单个显示处理器的数据处理能力越强,其处理的最大单元屏的数量越多,即其对应的默认子拼接墙所包含的单元屏的数量就越多。由此可见,根据各个显示处理器的最大处理单元屏的数量划分默认子拼接墙,然后利用默认子拼接墙组合成完整的电视拼接墙,就可以充分利用每个显示处理器的最大数据处理能力,减少处理器资源的浪费。
[0049] 优选地,上述视频处理器按照服务器的当前时标进行校准可以包括以下操作:
[0050] 步骤S1:视频处理器每隔预设周期计算自身时标与服务器当前时标的时标偏移量;
[0051] 步骤S2:视频处理器根据时标偏移量进行校准处理,获取校准时标。
[0052] 在优选实施例中,可以在分布式大屏幕控制系统的服务器上开启一个时间校准服务程序,各个分布式设备通过网络将该设备当前的时标校准到与服务器的时标同步。
[0053] 需要说明的是,分布式大屏幕控制系统虽然主要是包括前端输入设备、嵌入式设备和服务器,但是,关于同步显示问题可以分解到单个设备与服务器之间的同步问题。
[0054] 实现显示同步只需要将所有设备的时标校准到与服务器所在的个人计算机(personal computer,简称为PC)的时标保持一致即可。而服务器所在的PC机上只需要能够提供足够精度的计时器即可满足要求,为此,作为本发明的一个优选实施例,可以使用windows的QueryPerformanceFrequency/QueryPerformanceCounter函数组完全能够满足毫秒级别的计时要求。通过采用本发明所提供的技术方案,其优势在于无需考虑大屏幕系统的具体规模,而只需要关注单个设备的校时是否与服务器的校时同步。
[0055] 优选地,在步骤S1中,视频处理器计算自身时标与服务器当前时标的时标偏移量可以包括以下步骤:
[0056] 步骤S11:视频处理器中的第一处理器向服务器发送校准请求消息,并在发送校准请求消息时记录下第一时标;
[0057] 步骤S12:服务器在接收到校准请求消息时记录下第二时标,然后向第一处理器发送校准响应消息,其中,该校准响应消息携带的信息包括:第二时标和服务器在发送校准响应消息时记录下的第三时标;
[0058] 步骤S13:第一处理器在接收到校准响应消息时记录下的第四时标、[0059] 步骤S14:第一处理器根据第一时标、第二时标、第三时标和第四时标计算时标偏移量。
[0060] 在优选实施例中,系统中的各个视频处理器均可以采用双核处理器,ARM处理器(相当于本实施例中提到的第一处理器)性能稳定,功能强大。数字信号处理器(Digital Signal Processor,简称为DSP)(相当于下面实施例中提到的第二处理器)是一种数字信号处理芯片,数字信号处理的特点就在于其处理速度极快。在采用ARM做主处理器、并且采用DSP做协处理器的双核架构下,可以搭建一个非常稳定且处理速度极快的系统。
[0061] 在优选实施例中,可以测定服务器的时标与单个设备的时标之间的时标偏移量。为了提高精确度,单个设备需要测量服务器与单个设备之间的传播延时,以计算与服务器之间的时标偏移量。
[0062] 图3是根据本发明优选实施例的服务器与单个设备时标同步的交互过程示意图。如图3所示,该交互过程如下:
[0063] 在T1时刻,ARM处理器向服务器发送UDP数据包,其中,该UDP数据包中携带有自身当前的时标T1;
[0064] 在T2时刻,服务器接收到上述UDP数据包并对接收数据包此刻的时标T2进行记录;
[0065] 在T3时刻,服务器将自身记录的时标T2,发送UDP数据包的时标T3以及在ARM发送的UDP数据包中携带的时标T1均反馈至ARM处理器;
[0066] 在T4时刻,ARM处理器记录此时的时标T4,并根据服务器反馈的时标T1、T2、T3和T4即可以计算得到当前的服务器时标T5;
[0067] 在该优选实施例中,假设单个设备与服务器之间的时标偏差为X,单个设备与服务器之间单程的网络传输时延为Y,由此可以得出:
[0068] T2=(T1+X)+Y……公式1
[0069] T4=(T3-X)+Y……公式2
[0070] 由此可见,X、Y的取值仅和T2与T1的差值以及T4与T3的差值相关,而和T3与T2的差值无关,即单个设备与服务器之间的时标偏差X与服务器处理UDP数据包所需要的时间无关。据此,单个设备即可通过上述时标T1、T2、T3和T4计算出时标偏差X,以调整本地时标。
[0071] 因此,根据上述公式1和公式2可以得出:
[0072] X=[(T2-T1)-(T4-T3)]/2,即上述时标偏移量。
[0073] 在优选实施过程中,第一处理器向服务器发送用户数据报协议数据包,其中,该用户数据报协议数据包中携带有校准请求消息。
[0074] 在优选实施例中,为了减少网络延时,所以在整个校时过程中,使用用户数据报协议(User Datagram Protocol,简称为UDP)数据包,而非使用传输控制协议(Transmission Control Protocol,简称为TCP)数据包来实现。服务器需要开启一个UDP端口的校时服务线程来实现所有的同步过程。
[0075] 优选地,在步骤S2中,视频处理器根据时标偏移量进行校准处理,获取校准时标可以包括以下处理步骤:
[0076] 步骤S21:第一处理器根据时标偏移量调整自身时标;
[0077] 步骤S22:视频处理器中的第二处理器接收来自于第一处理器的调整后的自身时标并计算第一处理器传输调整后的自身时标的传输时延;
[0078] 步骤S23:第二处理器采用调整后的自身时标和传输时延计算校准时标。
[0079] 在优选实施例中,如图3所示,根据已经计算出的时标偏移量X,可以对本地时标进行校准,进而求取时标T5,即T5=T4+X=[(T2-T1)+(T4+T3)]/2;最后在T5时刻,ARM处理器将计算得到的服务器时标T5发送至DSP,此外增加发送命令的延时即可得到准确的服务器时标T6。
[0080] 需要说明的是,上述时标T1-T6均精确到毫秒。
[0081] 在优选实施过程中,上述第二处理器每隔预设时长与服务器进行时标校准。
[0082] 在实现上述同步过程中还可以注意以下两点:
[0083] 采用服务器开启校时服务模式的原因在于减少服务器的负担,即采用一个或多个输入设备主动向服务器发起时标校准请求,而无需服务器主动轮询向每个输入设备都发送时标校准请求,从而减少了服务器的负担;
[0084] 由于DSP内部的时钟模块与服务器所在PC机上的时钟模块存在误差,因此,每隔预设时长,设备就需要重新与服务器校时一次,例如:每隔5分钟设备就需要重新与服务器校时一次。
[0085] 优选地,在步骤S206,视频处理器将经过分割编码处理后的数据包发送至一个或多个显示处理器之后,还可以包括以下操作:
[0086] 步骤S3:每个显示处理器经由与该显示处理器对应的视频处理器的端口接收经过分割编码处理后的数据包;
[0087] 步骤S4:每个显示处理器对接收到的数据包进行解码处理,并解析出校准时标;
[0088] 步骤S5:每个显示处理器根据校准时标确定输出经过解码处理的视频数据的时标。
[0089] 在优选实施例中,视频处理器可以包括但不限于以下至少之一:RGB处理器、BNC处理器、码流处理器。分屏模式用以指示将显示模块的显示区域划分为至少两个分屏,分屏模式具体可以包括左右二分屏、上下二分屏、三分屏、四分屏、六分屏和八分屏等,可以根据显示需要预先设置可供用户选择的分屏模式。确定每个分屏对应的视频流,每个分屏对应的视频源是相同的,即该视频流都是由摄像头模块实时采集到的。
[0090] 图4是根据本发明优选实施例的视频图像分屏同步显示的示意图。如图4所示,视频处理器可以将一幅图像切割成多块(例如:4块),即形成分割图像P1、分割图像P2、分割图像P3和分割图像P4,分别发往显示处理器1、显示处理器2、显示处理器3以及显示处理器4。如果要实现分割图像的同步显示,则需要将全部注册到服务器上的设备的时标与服务器的时标保持一致;而且,视频处理器在进行编码处理切割图像时需要将校准完毕的时标增加至码流的私有信息当中;此外,显示处理器还可以从私有信息中提取出时标后加入一段延时再输出图像。
[0091] 视频处理器可以包括:N个输出端口,该视频处理器可以将视频数据分割成N路后进行输出,其N个输出端口与N个显示处理器相连接,其中,一个输出端口对应连接一个显示器;而N个显示处理器分别与视频处理器的N个输出端口相连接,其中,一个显示器对应连接视频处理器的一个输出端口。上述N个显示处理器根据电视拼接墙上预先设定的分屏数M,对视频数据进行全屏显示,其中,当N为大于或者等于2的正整数时,M的取值与N相同;而当N取值为1时,M的取值为大于或者等于2的正整数。
[0092] 以输入视频图像的分辨率为1024×768,电视拼接墙按照2×2拼接为例,各个单元屏分割的信号像素点分别如下:左上角单元屏,横轴分割有效像素点范围为0像素-512像素,纵轴分割有效像素点范围为0像素-384像素;右上角单元屏,横轴分割有效像素点范围为513像素-1024像素,纵轴分割有效像素点范围为0像素-384像素;左下角单元屏,横轴分割有效像素点范围为0像素-512像素,纵轴分割有效像素点范围为385像素-768像素;右下角单元屏,横轴分割有效像素点范围为513像素-1024像素,纵轴分割有效像素点范围为385像素-768像素。
[0093] 而对于非整数比例分割的信号,可以优先多取一个像素点信号来进行分割,以此确保原图有效像素点不会丢失,以输入视频图像的分辨率为1024×768,电视拼接墙按照3×3拼接为例,各个单元屏分割的信号像素点分别如下:左上方单元屏,横轴分割有效像素点范围为0像素-342像素,纵轴分割有效像素点范围为0像素-256像素;正上方单元屏,横轴分割有效像素点范围为341像素-683像素,纵轴分割有效像素点范围为0像素-256像素;右上方单元屏,横轴分割有效像素点范围为682像素-1024像素,纵轴分割有效像素点范围为0像素-256像素;正左方单元屏,横轴分割有效像素点范围为0像素-342像素,纵轴分割有效像素点范围为257像素-512像素;正中央单元屏,横轴分割有效像素点范围为341像素-683像素,纵轴分割有效像素点范围为257像素-512像素;正右方单元屏,横轴分割有效像素点范围为682像素-1024像素,纵轴分割有效像素点范围为257像素-512像素;左下方单元屏,横轴分割有效像素点范围为0像素-342像素,纵轴分割有效像素点范围为513像素-768像素;正下方单元屏,横轴分割有效像素点范围为341像素-683像素,纵轴分割有效像素点范围为513像素-768像素;右下方单元屏,横轴分割有效像素点范围为682像素-1024像素,纵轴分割有效像素点范围为513像素-768像素。
[0094] 作为本发明的另一个优选实施例,图5是根据本发明优选实施例的显示处理器进行视频图像解码输出过程的示意图。如图5所示,在DSP获取到准确的服务器时标之后,即可使用自身的计时模块对获取到的修正时标进行管理。
[0095] T1:在视频处理器切割编码时可以将获取到的修正的服务器时标封装到UDP数据包的私有字段中;
[0096] △T:预先设定的延迟时间,在设置该时间段时,需要确保码流能够被显示处理器完整接收并且准确解码;
[0097] T2:显示处理器对码流中封装的UDP数据包进行解析得到该码流在编码时刻的准确时标,然后与△T进行计算后得到准确的输出图像的时标。
[0098] 由于同一个图像在切割完毕后进行编码时,都携带有当前编码时刻的时标,因此,即便不同的显示处理器进行解码显示,得到的同一帧图像的时标都是完全一样的,只要能够确保将所有设备校时到与服务器保持一致,那么将会取得非常好的同步显示效果。
[0099] 此外,作为本发明的再一个优选实施例,本系统中除了设置视频处理器之外,还可以增加音频处理器,用于从多媒体数据流当中,例如:高清晰多媒体(HDMI)信号、视频图像阵列(VGA)信号,解码出音频数据,例如:伴音处理、音频放大处理,从而得到所需的音频数据;扬声器,与音频处理器相连接,用于播放经音频处理器解码得到的音频数据。
[0100] 在优选实施过程中,上述视频处理器将校准时标封装到经过分割编码处理后的每个数据包中的私有数据字段。
[0101] 通常情况下,可以采用MPEG2DSMCC字段格式存储私有数据,即可以采用私有数据表。例如:可以将DSMCC的stream type为0x0D的字段设置为DSMCC SECTIONS,其中,可以包括多种类型的私有数据。
[0102] 图6是根据本发明实施例的视频数据的处理系统的结构框图。如图6所示,该视频数据的处理系统可以包括:根据本发明的视频数据的处理系统包括:视频处理器10;视频处理器10可以包括:第一接收模块100,用于接收来自于一个或多个输入设备的视频数据流;处理模块102,用于根据与该视频处理器连接的一个或多个显示处理器对视频数据流进行分割编码处理,并将校准时标封装到经过分割编码处理后的每个数据包中,其中,校准时标用于使一个或多个显示处理器将经过分割编码处理后的每个数据包同步显示在电视拼接墙上,该校准时标是在视频处理器对视频数据流进行分割编码处理时,按照服务器的当前时标进行校准后获得的;发送模块104,用于将经过分割编码处理后的数据包发送至一个或多个显示处理器。
[0103] 采用如图6所示的系统,解决了相关技术中的分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多时,同步显示的效果较差的问题,进而提高了分布式大屏幕控制系统在电视拼接墙上的切割屏幕块数较多的情况下,同步显示的准确度,提升用户体验。
[0104] 优选地,处理模块102,还用于计算自身时标与服务器当前时标的时标偏移量,以及根据时标偏移量进行校准处理,获取校准时标。
[0105] 优选地,如图7所示,处理模块102可以包括:第一处理单元1020;第一处理单元1020可以包括:发送子单元(图中未示出),用于向服务器发送校准请求消息,并在发送校准请求消息时记录下第一时标;第一接收子单元(图中未示出),用于接收来自于服务器的校准响应消息,其中,校准响应消息中携带的信息包括:服务器在接收到校准请求消息时记录下的第二时标和服务器在发送校准响应消息时记录下的第三时标;第一计算子单元(图中未示出),用于根据在接收到校准响应消息时记录下的第四时标、第一时标、第二时标和第三时标计算时标偏移量。
[0106] 优选地,第一处理器向服务器发送用户数据报协议数据包,其中,用户数据报协议数据包中携带有校准请求消息。
[0107] 优选地,如图7所示,第一处理单元1020还可以包括:调整子单元(图中未示出),用于根据时标偏移量调整自身时标;处理模块102还可以包括:第二处理单元1022;第二处理单元1022可以包括:第二接收子单元(图中未示出),用于接收来自于第一处理单元的调整后的自身时标;第二计算子单元(图中未示出),用于计算第一处理单元传输调整后的自身时标的传输时延;第三计算子单元(图中未示出),用于采用调整后的自身时标和传输时延计算校准时标。
[0108] 优选地,第二处理器每隔预设时长与服务器进行时标校准。
[0109] 优选地,上述系统还包括:一个或多个显示处理器20;每个显示处理器20均可以包括:第二接收模块200,用于经由与该显示处理器对应的视频处理器的端口接收经过分割编码处理后的数据包;解码模块202,用于对接收到的数据包进行解码处理,并解析出校准时标;确定模块204,用于根据校准时标确定输出经过解码处理的视频数据的时标。
[0110] 优选地,视频处理器将校准时标封装到经过分割编码处理后的每个数据包中的私有数据字段。
[0111] 从以上的描述中,可以看出,上述实施例实现了如下技术效果(需要说明的是这些效果是某些优选实施例可以达到的效果):采用软件的方式来实现同步,无需额外增加硬件成本;采用时标方式来进行设备间的同步;采用在码流私有信息中加入时标的方式来实现图像级别的同步显示。
[0112] 显然,本领域的技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置所组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,并且在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件结合。
[0113] 以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。