本发明涉及互联网技术领域，公开了一种实时视频切片方法及系统，是一种可提高存储和计算资源利用率的实时视频切片技术，基于并发处理模型进行转码处理，在实时切片处理时，通过切片核心模块对业务端发起的视频切片转码请求进行认证鉴权，鉴权通过后，由多个边缘切片节点模块根据预先与业务端约定的视频转码模板进行切片处理，将目标视频文件分割为实时片段；所述切片核心模块还根据切片任务执行压力评估结果，通过切片核心模块与各个边缘切片节点模块之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度，可有效节省计算资源和存储资源。
1.一种实时视频切片方法，其特征在于所述方法包括以下步骤：
在业务端收到客户端发起的播放请求后，业务端向服务器发起视频切片转码请求；
服务器在接到所述视频切片转码请求后，根据预先与业务端约定的视频转码模板和协议创建转码任务，基于并发处理模型将所述源视频文件处理为目标视频文件，并向切片核心模块提供转码回调信息；
所述切片核心模块根据所述转码回调信息对所述目标视频文件进行实时切片处理，并生成对应的播放链接回调给业务端，由业务端向客户端返回与所述播放请求相应的播放地址；
在实时切片处理时，通过切片核心模块对业务端发起的所述视频切片转码请求进行认证鉴权，鉴权通过后，由多个边缘切片节点模块根据预先与业务端约定的视频转码模板进行切片处理，将所述目标视频文件分割为实时片段；
所述切片核心模块还根据切片任务执行压力评估结果，通过所述切片核心模块与各个所述边缘切片节点模块之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度；其中每个所述边缘切片节点模块都一一对应配置有切片缓存模块以驻留实时切片信息。
2.根据权利要求1所述的一种实时视频切片方法，其特征在于：
在所述业务端与所述服务器约定视频转码模板和协议时，约定的媒体信息包括码率、封装方式、编码格式和画幅。
3.根据权利要求1所述的一种实时视频切片方法，其特征在于：
在业务端收到客户端发起的播放请求后，业务端根据预先与服务器约定的视频转码模板和协议，将对应的视频转码模板提交到服务器的切片核心模块，服务器将切片转码处理后的目标视频文件回调给所述业务端，所述业务端再将收到的目标视频文件生成所述客户端播放请求中所需的期望视频格式。
4.根据权利要求1所述的一种实时视频切片方法，其特征在于：
所述对切片任务进行动态调度的方式包括：所述切片核心模块维护边缘切片集群中各个所述边缘切片节点模块之间的心跳信息，当某边缘切片节点模块的服务压力大于压力阈值时，所述切片核心模块根据维护的心跳信息将所述业务端的视频切片转码请求和客户端的播放请求重定向到服务压力小于所述压力阈值的边缘切片节点模块。
5.根据权利要求1所述的一种实时视频切片方法，其特征在于：
所述切片缓存模块在驻留实时切片信息时，每个切片缓存模块拥有各自独立的可配置存储容量大小与缓存过期时间的缓存存储空间，通过容量和时间维度进行缓存生命周期管理，并驻留热点数据。
6.一种实时视频切片系统，其特征在于所述系统包括：
转码模块，用于接收业务端发起的视频切片转码请求，并根据预先与业务端约定的视频转码模板和协议创建转码任务，基于并发处理模型将源视频文件处理为目标视频文件，向切片核心模块提供转码回调信息；所述视频切片转码请求为业务端在实时接收客户端传入的源视频文件及收到客户端发起的播放请求后向服务器发起的切片转码请求；
转码模板模块，用于存储与业务端约定的视频转码模板；
切片核心模块，用于维护边缘切片集群，在实时切片处理时对所述业务端发起的所述视频切片转码请求进行认证鉴权，鉴权通过后，控制所述边缘切片集群根据所述转码回调信息对所述目标视频文件进行实时切片处理，将所述目标视频文件分割为实时片段，并生成对应的播放链接回调给所述业务端，由所述业务端向所述客户端返回与所述播放请求相应的播放地址；
边缘切片集群，用于进行实时切片处理，包括多个边缘切片节点模块和与所述边缘切片节点模块一一对应的切片缓存模块；
所述边缘切片节点模块，用于根据预先与业务端约定的视频转码模板进行切片处理；
所述切片缓存模块，用于驻留对应边缘切片节点模块的切片信息；
所述切片核心模块还用于根据切片任务执行压力评估结果，通过所述切片核心模块与各个所述边缘切片节点模块之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度。
7.根据权利要求6所述的一种实时视频切片系统，其特征在于：
所述转码模块包括转码控制器、转码队列模块、转码调度器和多个并发处理模型；
所述转码控制器，用于接收业务端发起的视频切片转码请求，并根据预先与业务端约定的视频转码模板和协议创建转码任务；
所述转码队列模块，用于存储所述转码控制器发起的转码任务；
所述转码调度器，用于将所述转码队列模块中的转码任务调度到对应的并发处理模块；
所述并发处理模型用于执行转码任务，按照约定的视频转码模板和协议，将源视频文件处理为目标视频文件。
8.根据权利要求7所述的一种实时视频切片系统，其特征在于：
在所述边缘切片集群中任何一个所述边缘切片节点模块均能作为宿主，以处理任何一个转码任务。
9.根据权利要求6所述的一种实时视频切片系统，其特征在于：
所述切片核心模块对切片任务进行动态调度时，当某边缘切片节点模块的服务压力大于压力阈值时，所述切片核心模块根据维护的心跳信息将所述业务端的视频切片转码请求和客户端的播放请求重定向到服务压力小于所述压力阈值的边缘切片节点模块。
10.根据权利要求6所述的一种实时视频切片系统，其特征在于：
所述切片缓存模块在驻留实时切片信息时，每个切片缓存模块拥有各自独立的可配置存储容量大小与缓存过期时间的缓存存储空间，通过容量和时间维度进行缓存生命周期管理，并驻留热点数据。
一种实时视频切片方法及系统
技术领域
[0001] 本发明涉及互联网技术领域，特别是提出了一种实时视频切片方法及系统。
背景技术
[0002] 目前云厂商的主流视频转码方式，主要是对原始视频进行指定码率的对应封装以及对应画幅如直接预转码，例如对mp4、wma、flv等格式分辨率为360p、720p、1080p、2k、4k等原始视频进行封装转码，以供业务使用，但这种视频转码方式主要存在以下问题：①多种封装转码格式会大幅增加转码硬件成本和时间成本；②同一码率、同一画幅存在多种封装格式会导致存储空间在一倍甚至几倍以上的增加，对于存储这种增量型资源随着时间增加，存储成本会呈直线上升。
[0003] 视频切片是指将视频流按指定的时间间隔，切分成一系列分片文件，并生成一个索引文件记录分片文件的信息。比较著名的视频切片技术有Apple公司开发的HLS（HTTP Live Streaming）切片技术，Adobe公司开发的HDS（HTTP Dynamic Steaming）切片技术。视频切片在互联网直播和点播等应用中具有以下优点：①切片后文件变小，可由播放器端按需控制传输速度，利于Web Server传播；②减少视频播放前的加载时间；③按需传输可具有更稳定的传输速率，节省带宽；④便于CDN缓存视频。
[0004] 在一些业务场景下，常规方案可以支持业务服务，但存在严重的计算资源浪费、存储浪费、转码时间长等问题，并且对于公有云厂商提供的基础设施和媒体PaaS成本也是一笔不小的开销。
发明内容
[0005] 本发明的目的在于克服现有技术的不足，本申请提供一种可提高存储和计算资源利用率的实时视频切片方法及系统。
[0006] 本发明的目的是通过以下技术方案来实现的：
[0007] 一、一种实时视频切片方法
[0008] 本申请提出了一种实时视频切片方法，所述方法包括以下步骤：业务端实时接收客户端传入的源视频文件；在业务端收到客户端发起的播放请求后，业务端向服务器发起视频切片转码请求；服务器在接到所述视频切片转码请求后，根据预先与业务端约定的视频转码模板和协议创建转码任务，基于并发处理模型将所述源视频文件处理为目标视频文件，并向切片核心模块提供转码回调信息；所述切片核心模块根据所述转码回调信息对所述目标视频文件进行实时切片处理，并生成对应的播放链接回调给业务端，由业务端向客户端返回与所述播放请求相应的播放地址；在实时切片处理时，通过切片核心模块对业务端发起的所述视频切片转码请求进行认证鉴权，鉴权通过后，由多个边缘切片节点模块根据预先与业务端约定的视频转码模板进行切片处理，将所述目标视频文件分割为实时片段；所述切片核心模块还根据切片任务执行压力评估结果，通过所述切片核心模块与各个所述边缘切片节点模块之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度；其中每个所述边缘切片节点模块都一一对应配置有切片缓存模块以驻留实时切片信息。
[0009] 优选的，在所述业务端与所述服务器约定视频转码模板和协议时，约定的媒体信息包括码率、封装方式、编码格式和画幅。
[0010] 优选的，在业务端收到客户端发起的播放请求后，业务端根据预先与服务器约定的视频转码模板和协议，将对应的视频转码模板提交到服务器的切片核心模块，服务器将切片转码处理后的目标视频文件回调给所述业务端，所述业务端再将收到的目标视频文件生成所述客户端播放请求中所需的期望视频格式。
[0011] 优选的，所述对切片任务进行动态调度的方式包括：所述切片核心模块维护边缘切片集群中各个所述边缘切片节点模块之间的心跳信息，当某边缘切片节点模块的服务压力大于压力阈值时，所述切片核心模块根据维护的心跳信息将所述业务端的视频切片转码请求和客户端的播放请求重定向到服务压力小于所述压力阈值的边缘切片节点模块。
[0012] 优选的，所述切片缓存模块在驻留实时切片信息时，每个切片缓存模块拥有各自独立的可配置存储容量大小与缓存过期时间的缓存存储空间，通过容量和时间维度进行缓存生命周期管理，并驻留热点数据。
[0013] 二、一种实时视频切片系统
[0014] 本申请还提出了一种实时视频切片系统，所述系统主要由转码模块、转码模板模块、切片核心模块、边缘切片集群等组成。
[0015] 所述转码模块，用于接收业务端发起的视频切片转码请求，并根据预先与业务端约定的视频转码模板和协议创建转码任务，基于并发处理模型将所述源视频文件处理为目标视频文件，向切片核心模块提供转码回调信息；所述视频切片转码请求为业务端在实时接收客户端传入的源视频文件及收到客户端发起的播放请求后向服务器发起的切片转码请求。
[0016] 所述转码模板模块，用于存储与业务端约定的视频转码模板；
[0017] 所述切片核心模块，用于维护边缘切片集群，在实时切片处理时对所述业务端发起的所述视频切片转码请求进行认证鉴权，鉴权通过后，控制所述边缘切片集群根据所述转码回调信息对所述目标视频文件进行实时切片处理，将所述目标视频文件分割为实时片段，并生成对应的播放链接回调给所述业务端，由所述业务端向所述客户端返回与所述播放请求相应的播放地址；
[0018] 所述边缘切片集群，用于进行实时切片处理，包括多个边缘切片节点模块和与所述边缘切片节点模块一一对应的切片缓存模块。
[0019] 所述边缘切片节点模块，用于根据预先与业务端约定的视频转码模板进行切片处理。
[0020] 所述切片缓存模块，用于驻留对应边缘切片节点模块的切片信息。
[0021] 所述切片核心模块还用于根据切片任务执行压力评估结果，通过所述切片核心模块与各个所述边缘切片节点模块之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度。
[0022] 优选的，所述转码模块包括转码控制器、转码队列模块、转码调度器和多个并发处理模型；所述转码控制器，用于接收业务端发起的视频切片转码请求，并根据预先与业务端约定的视频转码模板和协议创建转码任务；所述转码队列模块，用于存储所述转码控制器发起的转码任务；所述转码调度器，用于将所述转码队列模块中的转码任务调度到对应的并发处理模块；所述并发处理模型用于执行转码任务，按照约定的视频转码模板和协议，将源视频文件处理为目标视频文件。
[0023] 优选的，在所述边缘切片集群中任何一个所述边缘切片节点模块均能作为宿主，以处理任何一个转码任务。
[0024] 优选的，所述切片核心模块对切片任务进行动态调度时，当某边缘切片节点模块的服务压力大于压力阈值时，所述切片核心模块根据维护的心跳信息将所述业务端的视频切片转码请求和客户端的播放请求重定向到服务压力小于所述压力阈值的边缘切片节点模块。
[0025] 优选的，所述切片缓存模块在驻留实时切片信息时，每个切片缓存模块拥有各自独立的可配置存储容量大小与缓存过期时间的缓存存储空间，通过容量和时间维度进行缓存生命周期管理，并驻留热点数据。
[0026] 本发明的有益效果是：
[0027] 1、本发明通过引入视频切片技术和视频转码模板规范，避免常规转码方案一次性提交多个转码任务到转码平台中，在接收到业务播放请求时才生成临时的视频切片文件，达到了节约切片转码的时间，以及节省了计算资源和存储资源。
[0028] 2、本发明在架构上缓存和边缘技术，边缘切片节点模块可以根据切片核心模块维护的边缘切片集群的心跳信息，对切片任务进行动态调度，并通过独立的切片缓存模块缓存临时切片视频文件，避免切片长期驻留和短期失效的问题，也可保证热点数据的命中率，以节约切片存储成本，避免频繁切片。
附图说明
[0029] 图1为本发明所提出的切片方法流程示意图之一；
[0030] 图2为本发明所提出的切片系统的系统架构示意图之一。
具体实施方式
[0031] 下面将结合实施例，对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有付出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
[0032] 本申请提出了一种可提高存储和计算资源利用率的实时视频切片方法，如图1所示，所述方法主要包括以下步骤S100‑S400。
[0033] 步骤S100，获取源视频：首先，业务端实时接收客户端传入的源视频文件。针对直播应用行业，所述客户端可以是直播平台软件用户端，所述源视频文件可以是直播视频文件或录播视频文件，同样适用于其他媒体平台、视频投放平台。客户端上传源视频文件到业务端，业务端对源视频文件进行存储并在后续的切片转码服务器完成切片转码处理后，由业务端再将切片转码服务器传回的切片视频文件转化为客户端所需的视频格式文件。
[0034] 步骤S200，发起请求：在业务端收到客户端发起的播放请求后，业务端向切片转码服务器发起视频切片转码请求；进一步的，在一些实施例中，当业务端接收到客户端发起的播放请求后，业务端并不是直接向切片转码服务器转发该播放请求，而是对所述视频转码任务进行预处理，所述预处理包括把客户端的播放请求的转码任务去除掉切片转码相关的任务，以及与切片转码服务器约定的视频转码模板和协议等信息，生成视频切片转码请求，发送给切片转码服务器。这样可减少提交到切片转码服务器上的转码任务数量，节约整体转码时间和存储空间，以及云转码所需的相关费用。
[0035] 步骤S300，转码处理：切片转码服务器在接到所述视频切片转码请求后，根据预先与业务端约定的视频转码模板和协议创建转码任务，基于并发处理模型将所述源视频文件处理为目标视频文件，并向切片核心模块提供转码回调信息。基于并发处理模型可以实现节省转码时间、转码资源和存储空间。
[0036] 在一些实施例中，所述业务端在与所述服务器约定视频转码模板和协议时，与常规转码模板不同，其所约定的媒体信息包括码率、封装方式、编码格式和画幅。约定视频转码模板和协议，也避免了常规转码方案一次性提交多个转码任务到转码平台中导致转码任务数量太多的问题。
[0037] 步骤S400，切片处理：所述切片核心模块根据所述转码回调信息对所述目标视频文件进行实时切片处理，并生成对应的播放链接回调给业务端，由业务端向客户端返回与所述播放请求相应的播放地址。
[0038] 在实时切片处理时，通过切片核心模块对业务端发起的所述视频切片转码请求进行认证鉴权，鉴权通过后，由多个边缘切片节点模块根据预先与业务端约定的视频转码模板进行切片处理，将所述目标视频文件分割为实时片段。
[0039] 所述切片核心模块还根据切片任务执行压力评估结果，通过所述切片核心模块与各个所述边缘切片节点模块之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度。
[0040] 其中，每个所述边缘切片节点模块都一一对应配置有切片缓存模块以驻留实时切片信息。在一些实施例中，所述切片缓存模块在驻留实时切片信息时，每个切片缓存模块拥有各自独立的可配置存储容量大小与缓存过期时间的缓存存储空间，通过容量和时间维度进行缓存生命周期管理，并驻留热点数据。
[0041] 在一些实施例中，业务端在收到客户端发起的播放请求后，业务端根据预先与服务器约定的视频转码模板和协议，将对应的视频转码模板提交到服务器的切片核心模块，服务器将切片转码处理后的目标视频文件回调给所述业务端，所述业务端再将收到的目标视频文件生成所述客户端播放请求中所需的期望视频格式。
[0042] 在一些实施例中，所述对切片任务进行动态调度的方式包括：所述切片核心模块维护边缘切片集群中各个所述边缘切片节点模块之间的心跳信息，当某边缘切片节点模块的服务压力大于压力阈值时，所述切片核心模块根据维护的心跳信息将所述业务端的视频切片转码请求和客户端的播放请求重定向到服务压力小于所述压力阈值的边缘切片节点模块。
[0043] 二、一种实时视频切片系统
[0044] 本申请还提出了一种实时视频切片系统，所述系统在工作时能够实现上述任一实施例中的实时视频切片方法，如图2所示，所述系统主要由转码模块、转码模板模块、切片核心模块和边缘切片集群等组成。在一些实施中，本申请提出的实时视频切片系统可以是切片转码服务器，其组成为切片转码服务器的系统架构。在一些实施例中，本申请提出的实时视频切片系统也可以是由业务端与切片转码服务器组成的前后端系统。在一些实施例中，本申请提出的实时视频切片系统还可以是由客户端、业务端、切片转码服务器三者组成的整体。
[0045] 本申请中所述转码模块，主要用于接收业务端发起的视频切片转码请求，并根据预先与业务端约定的视频转码模板和协议创建转码任务，基于并发处理模型将所述源视频文件处理为目标视频文件，向切片核心模块提供转码回调信息；所述视频切片转码请求为业务端在实时接收客户端传入的源视频文件及收到客户端发起的播放请求后向服务器发起的切片转码请求。所述转码模板模块，主要用于存储与业务端约定的视频转码模板。
[0046] 在一些实施例中，所述转码模块MTSP（Media transcoding service platform）可主要由转码控制器MTSP Controller、转码队列模块MTSP Queue、转码调度器MTSP Shceduller和多个并发处理模型MTSP Actor等组成；所述转码控制器MTSP Controller，主要用于接收业务端发起的视频切片转码请求，并根据预先与业务端约定的视频转码模板和协议创建转码任务；所述转码队列模块MTSP Queue，主要用于存储所述转码控制器发起的转码任务；所述转码调度器MTSP Shceduller，主要用于将所述转码队列模块中的转码任务调度到对应的并发处理模块Actor；所述并发处理模型MTSP Actor，主要用于执行转码任务和媒体分析等子任务，按照约定的视频转码模板和协议，将源视频文件处理为目标视频文件。
[0047] 所述切片核心模块ST （Section Transcoding） core，主要用于维护边缘切片集群的信息和状态。所述边缘切片集群，主要用于进行实时切片处理，其包括多个边缘切片节点模块ST edge和与所述边缘切片节点模块一一对应的切片缓存模块ST cache。
[0048] 在一些实施例中，在所述边缘切片集群中任何一个所述边缘切片节点模块ST edge均能作为宿主host以处理任何一个转码任务。一般的，所述切片核心模块ST core维护的边缘切片集群的信息主要包括切片核心模块ST core与边缘切片节点模块ST edge之间定期发送的心跳信息，在切片核心模块ST core中维护切片核心模块ST core和边缘切片节点模块ST edge的状态包括CPU、存储IO、内存、连接数、负载、节点IP等状态信息，用于进行节点服务压力评估和运维监控告警。
[0049] 在该系统中，所述边缘切片节点模块ST edge，主要用于根据预先与业务端约定的视频转码模板进行切片处理。所述切片缓存模块ST cache，主要用于驻留对应边缘切片节点模块ST edge的切片信息，可减少客户端响应时间降低实时分片转码开销，在缓存时可对统一资源定位符URL路径进行哈希运算hash，将视频切片文件保存到对应的hash路径中。
[0050] 所述切片核心模块ST core还可用于根据切片任务执行压力评估结果，通过所述切片核心模块ST core与各个所述边缘切片节点模块ST edge之间的心跳信息所提供的可优化调度节点，对切片任务进行动态调度。在一些实施例中，可根据边缘切片节点模块ST edge的CPU利用率、内存利用率、系统负载、磁盘等待IO等状态的异常情况及异常状态持续时间，来判断边缘切片节点模块ST edge的服务压力。例如当切片核心模块ST core发现边缘切片节点模块ST edge的CPU利用率大于80%、内存利用率大于80%、系统负载高于CPU核数2倍、磁盘等待IO大于10%等，并持续五分钟，则判定边缘切片节点模块ST edge系统层面存在任务执行压力，通过心跳信息提供可优化调度节点给到边缘切片节点模块ST edge，便于边缘切片节点模块ST edge根据实际情况进行动态调度。
[0051] 在实时切片处理时对所述业务端发起的所述视频切片转码请求进行认证鉴权，在一些实施例中，可通过客户端的播放请求及其cookie或参数中携带的鉴权信息交由切片核心模块ST core进行鉴权。
[0052] 鉴权不通过，则反馈验证失败的结果信息；鉴权通过，则控制所述边缘切片集群根据所述转码回调信息对所述目标视频文件进行实时切片处理，将所述目标视频文件分割为实时片段，并生成对应的播放链接回调给所述业务端，由所述业务端向所述客户端返回与所述播放请求相应的播放地址。
[0053] 在所述切片核心模块ST core对切片任务进行动态调度时，当某边缘切片节点模块ST edge的服务压力大于压力阈值时，所述切片核心模块ST core可根据维护的心跳信息将所述业务端的视频切片转码请求和客户端的播放请求重定向到服务压力所述压力阈值的边缘切片节点模块ST edge，防止宕机。在一些实施例中，还可以利用重定向进行转码任务限流，减轻切片转码压力以进一步防止宕机。
[0054] 在所述切片缓存模块ST cache在驻留实时切片信息时，每个切片缓存模块ST cache可拥有各自独立的可配置存储容量大小与缓存过期时间的缓存存储空间，可设置最大的存储空间和缓存视频切片文件的过期时间，通过容量和时间维度进行缓存生命周期管理，并驻留热点数据，提高客户端的体验效果。
[0055] 本发明通过引入视频切片技术和视频转码模板规范，避免常规转码方案一次性提交多个转码任务到转码平台中，在接收到业务播放请求时才生成临时的视频切片文件，达到了节约切片转码的时间，以及节省了计算资源和存储资源。在使用内容分发网络CDN时，由于视频切片文件的体积小于期望格式的单体视频文件，可有效提高在内容分发网络CDN上的缓存命中率和降低带宽流量成本，以提高客户端响应时间。
[0056] 本发明在架构上ST cache缓存和ST edge边缘技术，边缘切片节点模块ST edge可以根据切片核心模块ST core维护的边缘切片ST集群的心跳信息，对切片任务进行动态调度，并通过独立的切片缓存模块ST cache缓存临时切片视频文件，避免切片长期驻留和短期失效的问题，也可保证热点数据的命中率，以节约切片存储成本，避免频繁切片，并且还可以在此基础上接入内容分发网络CDN，完成热点数据的进一步缓存，降低回源压力，减小内容分发网络CDN回源开销。
[0057] 以上所述仅是本发明的优选实施方式，应当理解本发明并非局限于本文所披露的形式，不应看作是对其他实施例的排除，而可用于各种其他组合、修改和环境，并能够在本文所述构想范围内，通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本发明的精神和范围，则都应在本发明所附权利要求的保护范围内。
