一种分布式音视频传输控制方法、系统及存储介质转让专利

申请号 : CN202311666794.0

文献号 : CN117376613B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 吴东亮许忠孙运宋攀丁磊方利勇张碧强

申请人 : 方图智能(深圳)科技集团股份有限公司

摘要 :

本发明公开了一种分布式音视频传输控制方法、系统及存储介质,包括:获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制。避免受到单点故障、性能瓶颈以及网络拥塞等问题,提高系统的稳定性和音视频传输质量。

权利要求 :

1.一种分布式音视频传输控制方法,其特征在于,包括:

获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;

获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;

获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;

获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;

构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制;

所述对所述待传输信息进行分布式处理,并进行比特分配和编码处理,具体包括:获取待传输信息,对所述待传输信息进行音视频分割,将待传输信息分割为音频信息和视频图像信息,并进行对齐处理,得到分割结果信息;

根据所述分割结果信息提取视频图像信息,基于VSAM将视频图像划分为三种区域,ROI区域、非ROI区域和过度区域,根据划分结果构成感兴趣区域图;

基于分布式处理框架结合所述分割结果信息进行分布式处理,得到分布式处理结果信息;

根据所述感兴趣区域图进行帧级和编码单元级比特的动态分配,计算感兴趣区域图中“1”的像素占总像素数的比例,作为帧权重,并进行归一化处理,得到各帧权重信息;

预设编码单元级别,将各编码单元内部的像素与所述感兴趣区域图中相应区域的像素相乘,作为编码单元权重,得到编码单元权重信息;

根据所述各帧权重信息和编码单元权重信息进行比特分配,结合码率控制算法进行码率分配及信息编码,得到传输预处理信息;

预设音视频传输缓冲区,对传输的音视频信息分为音频传输和视频传输,并设置对应的时间标签;获取音视频传输缓冲区中的等待数据,提取等待数据的时间标签,与当前音视频传输缓冲区中所有数据进行配对,判断是否存在对应的等待数据;若有对应的等待数据,则将对应的等待数据与目标数据同时进行传输;若不存在对应的等待数据,则继续进行配对,直至有对应的音视频传输数据进入缓冲区;在音视频传输缓冲区获取未配对传输数据,计算其等待时间,作为传输偏差,得到传输偏差信息;根据所述传输偏差信息进行反馈,将所述传输偏差信息作为初始传输速率权重,进行自适应传输调整,使音频数据和视频数据进行同步传输;获取音视频传输缓冲区中等待数据的数量,与预设阈值进行判断,判断音视频传输缓冲区是否有足够的缓冲容量,得到缓冲容量判断信息;通过音视频传输缓冲区计算当前网路传输的丢包率信息和时延信息,结合缓冲容量判断信息对发送端进行反馈,并进行传输速率调整。

2.根据权利要求1所述的一种分布式音视频传输控制方法,其特征在于,所述获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发,具体包括:获取传输节点信息,包括节点利用率信息、内存使用率信息和网络带宽状况信息;

构建节点负载评估模型,将所述传输节点信息输入至所述节点负载评估模型中进行负载评估,得到节点负载评估信息;

获取历史节点负载信息,根据所述历史节点负载信息构成负载时间序列,通过负载时间序列分析负载变化趋势和周期,得到负载变化分析信息;

获取历史任务处理信息,根据所述历史任务处理信息计算单位时间内的任务处理效率和吞吐量,得到任务处理能力信息;

基于负载均衡算法结合负载变化分析信息和任务处理能力信息制定基于节点负载的动态均衡策略;

预设节点选取阈值,将所述节点负载评估信息与所述节点选取阈值进行判断,根据判断结果进行节点选取,得到节点选取信息;

获取传输预处理信息,结合所述节点选取信息进行任务分发,通过动态均衡策略进行节点负载调节。

3.根据权利要求1所述的一种分布式音视频传输控制方法,其特征在于,所述获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息,具体包括:获取传输路径信息,预设测试比特序列,通过所述测试比特序列结合所述传输路径信息进行信息传输得到回馈比特序列,并计算回馈比特序列的错误比特数量与总传输比特数量的比值,作为各传输路径的误码率,得到误码率分析信息;

预设测试数据包,结合所述传输路径信息进行丢包率测试,获取测试反馈信息,计算获得接收数据包数量与发送数据包数量的比值,作为丢包率,得到丢包率分析信息;

获取各传输路径发送测试比特序列和接收回馈比特序列的时间戳信息,计算两个时间戳之间的差值作为各传输路径的时延,得到时延分析信息;

构建传输路径评估模型,将所述误码率分析信息、丢包率分析信息和时延分析信息输入至所述传输路径评估模型中对各传输路径进行评估,得到传输路径评估信息;

基于最短路径算法结合所述传输路径评估信息计算最短传输路径,根据计算结果选取最优传输路径,得到传输路径分析信息;

获取实时网络状态信息,结合动态路由算法设定动态路径调整策略,根据动态路径调整策略进行实时传输路径调整。

4.根据权利要求1所述的一种分布式音视频传输控制方法,其特征在于,所述获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制,具体包括:获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,将所述实时流量监测信息与预设阈值进行判断,得到传输状态分析信息;

根据所述传输状态分析信息进行拥塞判断,分析当前时间的带宽饱和度、时延变化程度和丢包情况,得到拥塞判断结果信息;

基于spike算法构建拥塞状况分析模型,将所述实时流量监测信息、传输状态分析信息和拥塞判断结果信息输入至所述拥塞状况分析模型中进行拥塞状况分析和区分,得到拥塞状况分析信息;

基于大数据检索获取各种拥塞状况的拥塞控制实例,构成实例数据集;

将所述拥塞状况分析信息、实时流量监测信息与所述实例数据集进行相似度计算,并与预设阈值进行判断,根据判断结果制定拥塞控制策略,得到拥塞控制策略信息;

获取采取拥塞控制策略后的流量监测信息,进行传输状态分析和拥塞判断,分析拥塞状况是否缓解,根据分析结果动态更换拥塞控制策略,直至传输状况稳定且未有拥塞情况。

5.根据权利要求1所述的一种分布式音视频传输控制方法,其特征在于,所述构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制,具体包括:预设传输质量评估指标,包括带宽、时延、丢包率、传输速率、传输帧率和音频抖动;

获取实时传输监测信息,将所述实时传输监测信息与预设阈值进行判断,分析实时音视频传输的时延、带宽、丢包率和传输速率,得到第一分析信息;

预设传输实时性评估指标,根据第一分析信息和实时传输监测信息进行传输实时性评估,得到实时性评估信息;

基于所述实时传输监测信息计算网络单位时间内的数据吞吐量,作为评估传输速率的指标,进行传输速率分析,得到传输速率分析信息;

根据所述实时传输监测信息进行音频抖动和传输帧率分析,得到第二分析信息;

构建传输质量评估机制,结合所述第一分析信息、实时性评估信息、传输速率分析信息和第二分析信息进行传输质量评估,得到传输质量评估信息;

根据所述传输质量评估信息制定传输质量优化策略,通过传输质量优化策略进行音视频传输质量的动态控制。

6.一种分布式音视频传输控制系统,其特征在于,该系统包括:存储器、处理器,所述存储器中包含分布式音视频传输控制方法程序,所述分布式音视频传输控制方法程序被所述处理器执行时实现如下步骤:获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;

获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;

获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;

获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;

构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制;

所述对所述待传输信息进行分布式处理,并进行比特分配和编码处理,具体包括:获取待传输信息,对所述待传输信息进行音视频分割,将待传输信息分割为音频信息和视频图像信息,并进行对齐处理,得到分割结果信息;

根据所述分割结果信息提取视频图像信息,基于VSAM将视频图像划分为三种区域,ROI区域、非ROI区域和过度区域,根据划分结果构成感兴趣区域图;

基于分布式处理框架结合所述分割结果信息进行分布式处理,得到分布式处理结果信息;

根据所述感兴趣区域图进行帧级和编码单元级比特的动态分配,计算感兴趣区域图中“1”的像素占总像素数的比例,作为帧权重,并进行归一化处理,得到各帧权重信息;

预设编码单元级别,将各编码单元内部的像素与所述感兴趣区域图中相应区域的像素相乘,作为编码单元权重,得到编码单元权重信息;

根据所述各帧权重信息和编码单元权重信息进行比特分配,结合码率控制算法进行码率分配及信息编码,得到传输预处理信息;

预设音视频传输缓冲区,对传输的音视频信息分为音频传输和视频传输,并设置对应的时间标签;获取音视频传输缓冲区中的等待数据,提取等待数据的时间标签,与当前音视频传输缓冲区中所有数据进行配对,判断是否存在对应的等待数据;若有对应的等待数据,则将对应的等待数据与目标数据同时进行传输;若不存在对应的等待数据,则继续进行配对,直至有对应的音视频传输数据进入缓冲区;在音视频传输缓冲区获取未配对传输数据,计算其等待时间,作为传输偏差,得到传输偏差信息;根据所述传输偏差信息进行反馈,将所述传输偏差信息作为初始传输速率权重,进行自适应传输调整,使音频数据和视频数据进行同步传输;获取音视频传输缓冲区中等待数据的数量,与预设阈值进行判断,判断音视频传输缓冲区是否有足够的缓冲容量,得到缓冲容量判断信息;通过音视频传输缓冲区计算当前网路传输的丢包率信息和时延信息,结合缓冲容量判断信息对发送端进行反馈,并进行传输速率调整。

7.根据权利要求6所述的一种分布式音视频传输控制系统,其特征在于,所述获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发,具体包括:获取传输节点信息,包括节点利用率信息、内存使用率信息和网络带宽状况信息;

构建节点负载评估模型,将所述传输节点信息输入至所述节点负载评估模型中进行负载评估,得到节点负载评估信息;

获取历史节点负载信息,根据所述历史节点负载信息构成负载时间序列,通过负载时间序列分析负载变化趋势和周期,得到负载变化分析信息;

获取历史任务处理信息,根据所述历史任务处理信息计算单位时间内的任务处理效率和吞吐量,得到任务处理能力信息;

基于负载均衡算法结合负载变化分析信息和任务处理能力信息制定基于节点负载的动态均衡策略;

预设节点选取阈值,将所述节点负载评估信息与所述节点选取阈值进行判断,根据判断结果进行节点选取,得到节点选取信息;

获取传输预处理信息,结合所述节点选取信息进行任务分发,通过动态均衡策略进行节点负载调节。

8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中包括适用于分布式音视频传输控制方法程序,所述适用于分布式音视频传输控制方法程序被处理器执行时,实现如权利要求1至5中任一项所述的分布式音视频传输控制方法的步骤。

说明书 :

一种分布式音视频传输控制方法、系统及存储介质

技术领域

[0001] 本发明涉及音视频传输控制技术领域,尤其涉及一种分布式音视频传输控制方法、系统及存储介质。

背景技术

[0002] 随着互联网的普及和带宽的增大,音视频传输应用在日常生活和商业领域中的重要性不断上升,包括但不限于远程会议、在线教育、智能监控等。传统中心化的音视频传输系统在处理大规模用户、实现高效传输等方面存在一系列挑战。并且,传统的音视频传输系统存在一系列问题,包括传输效率低、网络拥塞难以处理、实时性差等。
[0003] 为了克服这些问题,分布式音视频传输方法成为当前研究的热点之一。在传统音视频传输系统中,中心化的传输控制容易导致单点故障和性能瓶颈。此外,网络拥塞问题对实时性和传输质量造成了严重影响。因此,迫切需要一种能够克服这些挑战的音视频传输控制方法,从而提高音视频的传输效率和效果。

发明内容

[0004] 本发明克服了现有技术的缺陷,提供了一种分布式音视频传输控制方法、系统及存储介质,其重要目的在于提高音视频传输质量的稳定性和效率性。
[0005] 为实现上述目的本发明第一方面提供了一种分布式音视频传输控制方法,包括:
[0006] 获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;
[0007] 获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;
[0008] 获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;
[0009] 获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;
[0010] 构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制。
[0011] 本方案中,对所述待传输信息进行分布式处理,并进行比特分配和编码处理,具体为:
[0012] 获取待传输信息,对所述待传输信息进行音视频分割,将视频信息分割为音频信息和视频图像信息,并进行对齐处理,得到分割结果信息;
[0013] 根据所述分割结果信息进行视频图像信息,基于VSAM将视频图像划分为三种区域,ROI区域、非ROI区域和过度区域,根据划分结果构成感兴趣区域图;
[0014] 基于分布式处理框架结合所述分割结果信息进行分布式处理,得到分布式处理结果信息;
[0015] 根据所述感兴趣区域图进行帧级和编码单元级比特的动态分配,计算感兴趣区域图中“1”的像素占总像素数的比例,作为帧权重,并进行归一化处理,得到各帧权重信息;
[0016] 预设编码单元级别,将各编码单元内部的像素与所述感兴趣区域图中相应区域的像素相乘,作为编码单元权重,得到编码单元权重信息;
[0017] 根据所述各帧权重信息和编码单元权重信息进行比特分配,结合码率控制算法进行码率分配及信息编码,得到传输预处理信息。
[0018] 本方案中,所述获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发,具体为:
[0019] 获取传输节点信息,包括节点利用率信息、内存使用率信息和网络带宽状况信息;
[0020] 构建节点负载评估模型,将所述传输节点信息输入至所述节点负载评估模型中进行负载评估,得到节点负载评估信息;
[0021] 获取历史节点负载信息,根据所述历史节点负载信息构成负载时间序列,通过负载时间序列分析负载变化趋势和周期,得到负载变化分析信息;
[0022] 获取历史任务处理信息,根据所述历史任务处理信息计算单位时间内的任务处理效率和吞吐量,得到任务处理能力信息;
[0023] 基于负载均衡算法结合负载变化分析信息和任务处理能力信息制定基于节点负载的动态均衡策略;
[0024] 预设节点选取阈值,将所述节点负载评估信息与所述节点选取阈值进行判断,根据判断结果进行节点选取,得到节点选取信息;
[0025] 获取传输预处理信息,结合所述节点选取信息进行任务分发,通过动态均衡策略进行节点负载调节。
[0026] 本方案中,所述获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息,具体为:
[0027] 获取传输路径信息,预设测试比特序列,通过所述测试比特序列结合所述传输路径信息进行信息传输得到回馈比特序列,并计算回馈比特序列的错误比特数量与总传输比特数量的比值,作为各传输路径的误码率,得到误码率分析信息;
[0028] 预设测试数据包,结合所述传输路径信息进行丢包率测试,获取测试反馈信息,计算获得接收数据包数量与发送数据包数量的比值,作为丢包率,得到丢包率分析信息;
[0029] 获取各传输路径发送测试比特序列和接收回馈比特序列的时间戳信息,计算两个时间戳之间的差值作为各传输路径的时延,得到时延分析信息;
[0030] 构建传输路径评估模型,将所述误码率分析信息、丢包率分析信息和时延分析信息输入至所述传输路径评估模型中对各传输路径进行评估,得到传输路径评估信息;
[0031] 基于最短路径算法结合所述传输路径评估信息计算最短传输路径,根据计算结果选取最优传输路径,得到传输路径分析信息;
[0032] 获取实时网络状态信息,结合动态路由算法设定动态路径调整策略,根据动态路径调整策略进行实时传输路径调整。
[0033] 本方案中,所述获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制,具体为:
[0034] 获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,将所述实时流量监测信息与预设阈值进行判断,得到传输状态分析信息;
[0035] 根据所述传输状态分析信息进行拥塞判断,分析当前时间的带宽饱和度、时延变化程度和丢包情况,得到拥塞判断结果信息;
[0036] 基于spike算法构建拥塞状况分析模型,将所述实时流量监测信息、传输状态分析信息和拥塞判断结果信息输入至所述拥塞状况分析模型中进行拥塞状况分析和区分,得到拥塞状况分析信息;
[0037] 基于大数据检索获取各种拥塞状况的拥塞控制实例,构成实例数据集;
[0038] 将所述拥塞状况分析信息和实时流量监测信息与所述实例数据集进行相似度计算,并与预设阈值进行判断,根据判断结果制定拥塞控制策略,得到拥塞控制策略信息;
[0039] 获取采取拥塞控制策略后的流量监测信息,进行传输状态分析和拥塞判断,分析拥塞状况是否缓解,根据分析结果动态更换拥塞控制策略,直至传输状况稳定且未有拥塞情况。
[0040] 本方案中,所述构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制,具体为:
[0041] 预设传输质量评估指标,包括带宽、时延、丢包率、传输速率、传输帧率和音频抖动;
[0042] 获取实时传输监测信息,将所述实时传输监测信息与预设阈值进行判断,分析实时音视频传输的时延、带宽、丢包率和传输速率,得到第一分析信息;
[0043] 预设传输实时性评估指标,根据第一分析信息和实时传输监测信息进行传输实时性评估,得到实时性评估信息;
[0044] 基于所述实时传输监测信息计算网络单位时间内的数据吞吐量,作为评估传输速率的指标,进行传输速率分析,得到传输速率分析信息;
[0045] 根据所述实时传输监测信息进行音频抖动和传输帧率分析,得到第二分析信息;
[0046] 构建传输质量评估机制,结合所述第一分析信息、实时性评估信息传输速率分析信息和第二分析信息进行传输质量评估,得到传输质量评估信息;
[0047] 根据所述传输质量评估信息制定传输质量优化策略,通过传输质量优化策略进行音视频传输质量的动态控制。
[0048] 本发明第二方面提供了一种分布式音视频传输控制系统,该系统包括:存储器、处理器,所述存储器中包含分布式音视频传输控制方法程序,所述分布式音视频传输控制方法程序被所述处理器执行时实现如下步骤:
[0049] 获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;
[0050] 获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;
[0051] 获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;
[0052] 获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;
[0053] 构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制。
[0054] 本发明第三方面还提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中包括适用于分布式音视频传输控制方法程序,所述适用于分布式音视频传输控制方法程序被处理器执行时,实现上述任一项所述的分布式音视频传输控制方法的步骤。
[0055] 本发明公开了一种分布式音视频传输控制方法、系统及存储介质,包括:获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制。避免受到单点故障、性能瓶颈以及网络拥塞等问题,提高系统的稳定性和音视频传输质量。

附图说明

[0056] 为了更清楚地说明本发明实施例或示例性中的技术方案,下面将对实施例或示例性描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以按照这些附图示出的获得其他的附图。
[0057] 图1为本发明一实施例提供的一种分布式音视频传输控制方法流程图;
[0058] 图2为本发明一实施例提供的音视频传输质量监测和控制流程图;
[0059] 图3为本发明一实施例提供的一种分布式音视频传输控制系统框图;
[0060] 本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。

具体实施方式

[0061] 为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
[0062] 在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
[0063] 图1为本发明一实施例提供的一种分布式音视频传输控制方法流程图;
[0064] 如图1所示,本发明提供了一种分布式音视频传输控制方法流程图,包括:
[0065] S102,获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;
[0066] 获取待传输信息,对所述待传输信息进行音视频分割,将视频信息分割为音频信息和视频图像信息,并进行对齐处理,得到分割结果信息;
[0067] 根据所述分割结果信息进行视频图像信息,基于VSAM将视频图像划分为三种区域,ROI区域、非ROI区域和过度区域,根据划分结果构成感兴趣区域图;
[0068] 基于分布式处理框架结合所述分割结果信息进行分布式处理,得到分布式处理结果信息;
[0069] 根据所述感兴趣区域图进行帧级和编码单元级比特的动态分配,计算感兴趣区域图中“1”的像素占总像素数的比例,作为帧权重,并进行归一化处理,得到各帧权重信息;
[0070] 预设编码单元级别,将各编码单元内部的像素与所述感兴趣区域图中相应区域的像素相乘,作为编码单元权重,得到编码单元权重信息;
[0071] 根据所述各帧权重信息和编码单元权重信息进行比特分配,结合码率控制算法进行码率分配及信息编码,得到传输预处理信息。
[0072] 分布式信息处理: 待传输的音视频信息通过分布式处理框架,如Apache Flink或Spark,进行高效的分布式处理。这可以包括音视频切割、编码等操作,确保数据以小块形式进行传输。
[0073] 需要说明的是,首先,获取待传输的音视频信息,采用流媒体处理库(例如FFmpeg)对连续的音视频流进行实时切割,将待传输信息分割为音频信息和视频图像信息。为确保二者同步,进行对齐处理,接着,利用VSAM(Video Saliency‑based Adaptive Modulation)算法,结合分割结果将视频图像划分为三种区域:ROI(感兴趣区域)、非ROI区域和过度区域。这一划分有助于确定视频图像中哪些部分对用户更为重要,构成感兴趣区域图(ROI map)。ROI map是一个二值图,其中1表示图像中的感兴趣区域,0表示非感兴趣区域。利用分布式处理框架(例如Apache Flink或Spark),结合分割结果信息,对音视频信息进行分布式处理,将待传输信息处理成分布式区块,每个小块包含一定时间范围或帧数的音视频数据。根据感兴趣区域图,将视频图像划分为帧级和编码单元级。计算帧权重,即感兴趣区域图中“1”像素占总像素数的比例,并进行归一化处理,得到各帧权重信息,确定每一帧中感兴趣区域的重要性。预设编码单元级别,将各编码单元内部的像素与感兴趣区域图中相应区域的像素相乘,计算编码单元权重,在更细粒度上控制编码过程,以适应不同区域的特征。最后,根据帧权重信息和编码单元权重信息进行比特分配,结合码率控制算法,进行合理的码率分配,采用高效的编码算法,如H.264或H.265,确保在有限的带宽下实现信息的高效编码,为后续的音视频传输做好准备。
[0074] S104,获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;
[0075] 获取传输节点信息,包括节点利用率信息、内存使用率信息和网络带宽状况信息;
[0076] 构建节点负载评估模型,将所述传输节点信息输入至所述节点负载评估模型中进行负载评估,得到节点负载评估信息;
[0077] 获取历史节点负载信息,根据所述历史节点负载信息构成负载时间序列,通过负载时间序列分析负载变化趋势和周期,得到负载变化分析信息;
[0078] 获取历史任务处理信息,根据所述历史任务处理信息计算单位时间内的任务处理效率和吞吐量,得到任务处理能力信息;
[0079] 基于负载均衡算法结合负载变化分析信息和任务处理能力信息制定基于节点负载的动态均衡策略;
[0080] 预设节点选取阈值,将所述节点负载评估信息与所述节点选取阈值进行判断,根据判断结果进行节点选取,得到节点选取信息;
[0081] 获取传输预处理信息,结合所述节点选取信息进行任务分发,通过动态均衡策略进行节点负载调节。
[0082] 需要说明的是,通过构建负载时间序列,分析节点负载的变化趋势和周期性,有助于识别负载的周期性模式,为负载均衡算法提供历史参考,以更好地适应节点负载的动态变化。通过计算任务处理效率和吞吐量等指标,可以了解节点在过去的任务处理中的性能表现。对于制定动态均衡策略时考虑节点的任务处理能力至关重要。基于负载均衡算法结合负载变化分析信息和任务处理能力信息制定动态均衡策略,目的在于综合考虑节点的负载状态、变化趋势以及任务处理能力,通过负载均衡算法制定动态均衡策略,以优化资源利用,提高系统整体性能。通过建立负载评估模型,根据传输节点的性能指标,动态评估节点的负载情况,有助于更准确地判断节点的负载状态。预设节点选取阈值用于设定负载均衡的条件,将节点负载评估信息与预设阈值进行比较,判断节点是否满足选取条件,进而影响节点的选取决策,确保选取的节点具有相对平衡的负载,以提高系统的稳定性和性能。
[0083] S106,获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;
[0084] 获取传输路径信息,预设测试比特序列,通过所述测试比特序列结合所述传输路径信息进行信息传输得到回馈比特序列,并计算回馈比特序列的错误比特数量与总传输比特数量的比值,作为各传输路径的误码率,得到误码率分析信息;
[0085] 预设测试数据包,结合所述传输路径信息进行丢包率测试,获取测试反馈信息,计算获得接收数据包数量与发送数据包数量的比值,作为丢包率,得到丢包率分析信息;
[0086] 获取各传输路径发送测试比特序列和接收回馈比特序列的时间戳信息,计算两个时间戳之间的差值作为各传输路径的时延,得到时延分析信息;
[0087] 构建传输路径评估模型,将所述误码率分析信息、丢包率分析信息和时延分析信息输入至所述传输路径评估模型中对各传输路径进行评估,得到传输路径评估信息;
[0088] 基于最短路径算法结合所述传输路径评估信息计算最短传输路径,根据计算结果选取最优传输路径,得到传输路径分析信息;
[0089] 获取实时网络状态信息,结合动态路由算法设定动态路径调整策略,根据动态路径调整策略进行实时传输路径调整。
[0090] 需要说明的是,首先,预设测试比特序列,并通过所述传输路径进行信息传输,通过获取回馈比特序列,对传输路径的性能进行评估。计算回馈比特序列中错误比特数量与总传输比特数量的比值,得到各传输路径的误码率,从而评估传输路径的可靠性。然后,预设测试数据包,通过传输路径进行丢包率测试,计算接收数据包数量与发送数据包数量的比值,得到丢包率,从而分析传输路径稳定性。接着,获取各传输路径发送测试比特序列和接收回馈比特序列的时间戳信息,计算两个时间戳之间的差值,作为各传输路径的时延,了解传输路径的延迟特性。构建传输路径评估模型,利用误码率、丢包率和时延信息对各传输路径的性能进行综合评估,为后续的路径选择提供依据。基于最短路径算法,结合传输路径评估信息,计算最短传输路径,确定网络中最优的传输路径,以提高传输效率。同时,通过实时网络状态信息,结合动态路由算法设定动态路径调整策略,根据动态路径调整策略,实时进行传输路径调整,以适应不同的网络条件,提高传输效率。
[0091] S108,获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;
[0092] 获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,将所述实时流量监测信息与预设阈值进行判断,得到传输状态分析信息;
[0093] 根据所述传输状态分析信息进行拥塞判断,分析当前时间的带宽饱和度、时延变化程度和丢包情况,得到拥塞判断结果信息;
[0094] 基于spike算法构建拥塞状况分析模型,将所述实时流量监测信息、传输状态分析信息和拥塞判断结果信息输入至所述拥塞状况分析模型中进行拥塞状况分析和区分,得到拥塞状况分析信息;
[0095] 基于大数据检索获取各种拥塞状况的拥塞控制实例,构成实例数据集;
[0096] 将所述拥塞状况分析信息和实时流量监测信息与所述实例数据集进行相似度计算,并与预设阈值进行判断,根据判断结果制定拥塞控制策略,得到拥塞控制策略信息;
[0097] 获取采取拥塞控制策略后的流量监测信息,进行传输状态分析和拥塞判断,分析拥塞状况是否缓解,根据分析结果动态更换拥塞控制策略,直至传输状况稳定且未有拥塞情况。
[0098] 需要说明的是,spike算法使用相对单向传输时延来区分网络的丢包类型。相对单向传输 时延是指数据包从发送端到达接收端传输所需要的时间。当网络中产生拥塞时,网络中的单向传输时延会增加,而当由于移动网络中的误码产生数据包丢失时,由于此时并没有网络拥塞,所以单向传输时延并不会增加。spike算法根据该现象来对数据包的丢失原因进行区分,判断当前拥塞状况是数据包丢失或无线链路异常。
[0099] 需要说明的是,在每个传输控制节点上实施拥塞控制算法,例如TCP Vegas等。监测网络状态并动态调整传输速率,并通过二进制搜索动态调整拥塞窗口大小,有利于提高网络效率,确保传输效率和可靠性。针对网络中可能发生的数据包丢失,采用前向纠错码(如Reed‑Solomon码等)对音频视频数据进行向量编码。这使得在传输过程中发生了一定程度的数据包丢失,仍然可以通过语音信息进行恢复。同时,引入自适应的ARQ协议,例如选择性重复,根据实时网络状况动态调整重传策略,最大限度地减少对网络性能的不良影响。
[0100] S110,构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制;
[0101] 预设传输质量评估指标,包括带宽、时延、丢包率、传输速率、传输帧率和音频抖动;
[0102] 获取实时传输监测信息,将所述实时传输监测信息与预设阈值进行判断,分析实时音视频传输的时延、带宽、丢包率和传输速率,得到第一分析信息;
[0103] 预设传输实时性评估指标,根据第一分析信息和实时传输监测信息进行传输实时性评估,得到实时性评估信息;
[0104] 基于所述实时传输监测信息计算网络单位时间内的数据吞吐量,作为评估传输速率的指标,进行传输速率分析,得到传输速率分析信息;
[0105] 根据所述实时传输监测信息进行音频抖动和传输帧率分析,得到第二分析信息;
[0106] 构建传输质量评估机制,结合所述第一分析信息、实时性评估信息传输速率分析信息和第二分析信息进行传输质量评估,得到传输质量评估信息;
[0107] 根据所述传输质量评估信息制定传输质量优化策略,通过传输质量优化策略进行音视频传输质量的动态控制。
[0108] 需要说明的是,预设传输质量评估指标,包括带宽、时延、丢包率、传输速率、传输帧率和音频抖动,用于衡量音视频传输的各个方面。将实时传输监测信息与预设阈值进行比较,分析实时音视频传输的时延、带宽、丢包率和传输速率,得到第一分析信息。基于实时传输监测信息计算网络单位时间内的数据吞吐量,作为评估传输速率的指标,进行传输速率分析,得到传输速率分析信息。根据实时传输监测信息进行音频抖动和传输帧率分析,得到第二分析信息,从而了解音频稳定性和视频帧率的情况,抖动是指数据包到达接收端的时间间隔的变化,对于实时音视频传输,抖动可能导致播放过程中的不稳定性,尤其是在音频方面,对于视频传输,帧率表示每秒传输的视频帧数,更高的帧率通常意味着更流畅的视频体验。构建传输质量评估机制,通过第一分析信息、实时性评估信息、传输速率分析信息和第二分析信息进行传输质量评估机制,综合考虑了多个方面的传输质量,为后续的优化提供依据。基于传输质量评估信息,制定传输质量优化策略。包括动态调整传输参数、切换传输路径等手段,以实现音视频传输质量的动态控制。
[0109] 进一步的,预设音视频传输缓冲区,对传输的音视频信息分为音频传输和视频传输,并设置对应的时间标签;获取音视频传输缓冲区中的等待数据,提取等待数据的时间标签,与当前音视频传输缓冲区中所有数据进行配对,判断是否存在对应的数据;若有对应的等待数据,则将对应的等待数据与目标数据同时进行传输;若不存在对应的等待数据,则继续进行配对,直至有对应的音视频传输数据进入缓冲区;在音视频传输缓冲区获取未配对传输数据,计算其等待时间,作为传输偏差,得到传输偏差信息;根据所述传输偏差信息进行反馈,将所述传输偏差信息作为初始传输速率权重,进行自适应传输调整,使音频数据和视频数据进行同步传输;获取音视频传输缓冲区中等待数据的数量,与预设阈值进行判断,判断音视频传输缓冲区是否有足够的缓冲容量,得到缓冲容量判断信息;通过音视频传输缓冲区计算当前网路传输的丢包率信息和时延信息,结合缓冲容量判断信息对发送端进行反馈,并进行传输速率调整,以保证有足够的缓冲容量,避免音画不同步的传输现象,提高用户体验和传输质量。
[0110] 需要说明的是,在音视频传输过程中,预先设置一个缓冲区,用于存储音频和视频传输的数据。这个缓冲区的目的是在传输过程中平衡音频和视频的同步,同时提供对传输速率的自适应调整。通过对音视频传输缓冲区中的等待数据设置时间标签,并与当前传输缓冲区中的所有数据进行配对,判断哪些数据是相互对应的。如果存在对应的等待数据,即音频和视频数据在时间上相互匹配,那么将它们同时传输,若不存在对应的等待数据,则继续等待,从而确保音频和视频的同步性。接着,计算未配对传输数据的等待时间,作为传输偏差信息。根据传输偏差信息,反馈给发送端,并将其作为初始传输速率权重,进行自适应传输调整,以保持音频和视频的同步。同时,判断音视频传输缓冲区是否有足够的容量,避免缓冲区过度情况。最后,通过音视频传输缓冲区计算当前网络传输的丢包率和时延信息,结合缓冲容量判断信息,向发送端提供反馈,并进行传输速率调整,以确保有足够的缓冲容量,从而避免音画不同步的传输现象,提高用户体验和传输质量。
[0111] 图2为本发明一实施例提供的音视频传输质量监测和控制流程图;
[0112] 如图2所示,本发明提供了音视频传输质量监测和控制流程图,包括:
[0113] S202,获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析;
[0114] S204,根据所述传输状态分析信息进行拥塞判断和拥塞状况分析,并进行拥塞控制;
[0115] S206,获取实时传输监测信息,根据所述实时传输监测信息进行初步分析,得到第一分析信息;
[0116] S208,进行传输实时性评估和传输速率分析;
[0117] S210,根据所述实时传输监测信息进行音频抖动和传输帧率分析;
[0118] S212,根据传输质量评估机制进行传输质量评估,根据评估结果进行音视频传输质量的动态控制。
[0119] 进一步的,获取环境监测信息,包括实时环境画面、实时环境声音和实时音视频传输信息;对所述环境监测信息进行特征提取,提取环境画面特征、环境声音特征和音视频传输特征,得到环境特征信息;基于大数据检索获取各种通信场景的特征信息,构成训练数据集,通过SVM算法构建场景感知模型,通过训练数据集进行深度学习和训练;将所述环境特征信息输入至所述场景感知模型中进行场景感知,得到场景感知信息;根据所述环境监测信息进行背景噪声程度评估,对所述环境监测信息进行音频信息分割,将背景音频进行分离,得到背景音频信息;对所述背景音频信息进行特征提取,得到背景音频特征信息;预设背景音频评估指标,结合所述背景音频特征信息进行评估,评估背景噪声程度,得到背景音频评估信息;根据所述场景感知信息和背景音频评估信息对实时音视频传输进行优化;构建噪声识别模型,将所述背景音频特征信息和背景音频评估信息输入至噪声识别模型中进行识别分析,得到噪声识别信息;根据所述噪声识别信息进行噪声抑制,结合所述场景感知信息进行实时音视频传输优化,制定传输优化策略进行调控,提高使用体验和传输质量。
[0120] 需要说明的是,音视频传输至客户端时,面临着不同的使用场景,比如会议或者街边等不同的环境,伴随环境的不仅存在噪声,还存在对与某些指标的要求,比如在会议中,优先控制传输质量的为音频质量,其次为画面质量,通过对实时场景进行感知,能够判断出当前传输使用的场景,基于场景进行传输质量优化,针对每种识别出的场景,制定相应的音视频画质调整策略,包括调整视频分辨率、帧率、音频比特率等参数,以适应特定场景下用户的需求。同时,通过对背景噪声进行识别和评估,能够清楚的了解当前场景下的背景噪声,过大的噪声将会造成不良的使用体验,甚至导致信息沟通出现问题,在识别和评估背景噪声后,结合场景感知信息,进行背景噪声抑制或者传输音频质量优化,提高音频信息传输的清晰度和平稳度,突出音频信息,以提高沟通质量,保证用户使用体验。
[0121] 图3为本发明一实施例提供的一种分布式音视频传输控制系统框图3,该系统包括:存储器31、处理器32,所述存储器31中包含分布式音视频传输控制方法程序,所述分布式音视频传输控制方法程序被所述处理器32执行时实现如下步骤:
[0122] 获取待传输信息,对所述待传输信息进行分布式处理,并进行比特分配和编码处理;
[0123] 获取传输节点信息,进行节点负载分析,根据分析结果信息进行节点选取和任务分发;
[0124] 获取传输路径信息,对各传输路径进行评估,根据评估结果选取最优传输路径,得到传输路径分析信息;
[0125] 获取实时流量监测信息,根据所述实时流量监测信息进行传输状态分析,判断是否需要进行拥塞控制;
[0126] 构建传输质量监测机制,对实时音视频传输进行质量监测和评估,并进行传输质量优化和控制。
[0127] 本发明还提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中包括适用于分布式音视频传输控制方法程序,所述适用于分布式音视频传输控制方法程序被处理器执行时,实现上述任一项所述的分布式音视频传输控制方法的步骤。
[0128] 本发明提供了一种分布式音视频传输控制方法、系统及存储介质,基于分布式思想对待传输信息进行分割,利用多节点协同完成任务,提高处理效率和传输效率及数据传输的可控性和灵活性。通过节点负载分析,选取适当的传输节点,并进行任务分发,以实现负载均衡和提高传输能力和效果。对传输路径进行评估,选择最优传输路径,确保数据以最佳方式传输,提高实时性和效率。基于实时流量监测信息,进行传输状态分析,判断网络是否出现拥塞,采取相应措施,如动态调整传输速率,以避免拥塞发生。构建传输质量监测机制,对实时音视频传输进行质量监测和评估。根据监测结果,实施传输质量的优化和控制,以确保用户获得高质量的音视频服务。
[0129] 在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,如:多个单元或组件可以结合,或可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口,设备或单元的间接耦合或通信连接,可以是电性的、机械的或其它形式的。
[0130] 上述作为分离部件说明的单元可以是、或也可以不是物理上分开的,作为单元显示的部件可以是、或也可以不是物理单元;既可以位于一个地方,也可以分布到多个网络单元上;可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
[0131] 另外,在本发明各实施例中的各功能单元可以全部集成在一个处理单元中,也可以是各单元分别单独作为一个单元,也可以两个或两个以上单元集成在一个单元中;上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
[0132] 本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:移动存储设备、只读存储器(ROM,Read‑Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
[0133] 或者,本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括:移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
[0134] 以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。