一种电梯轿厢内暴力行为检测方法转让专利

申请号 : CN201711157636.7

文献号 : CN107777498B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 张媛蒋铁锁臧坤华志超

申请人 : 江苏省特种设备安全监督检验研究院

摘要 :

本发明公开了一种电梯轿厢内暴力行为检测方法,涉及行为识别领域,该方法包括:获取电梯轿厢的拍摄视频;根据拍摄视频中连续的视频帧进行Shi‑Tomasi角点检测,确定特征点;根据特征点,通过Lucas‑Kanada光流算法计算得到光流向量;根据得到的光流向量判断是否为暴力帧,暴力帧是存在暴力行为的视频帧;根据暴力帧的出现频率进行报警。本发明解决了通过在人的手或脚抬高到与地面平行或呈一个更大的斜坡时判定出现暴力帧只能适用于一类情况,适用范围有限的问题,达到了根据人的暴力行为的动作幅度准确判断暴力行为的效果。

权利要求 :

1.一种电梯轿厢内暴力行为检测方法,其特征在于,所述方法包括:获取所述电梯轿厢的拍摄视频;

根据所述拍摄视频中连续的视频帧进行Shi-Tomasi角点检测,确定特征点;

根据所述特征点,通过Lucas-Kanada光流算法计算得到光流向量;

根据得到的所述光流向量判断是否为暴力帧,所述暴力帧是存在所述暴力行为的视频帧;

根据所述暴力帧的出现频率进行报警;

其中,所述根据得到的所述光流向量判断是否为暴力帧,包括:计算各个所述光流向量的幅值平方;

根据各个所述幅值平方计算所述幅值平方的平均值;

将所有所述光流向量的幅值平方按照预定顺序排列,确定第i大的幅值平方;

当所述幅值平方的平均值大于平均阈值并且所述第i大的幅值平方大于第i阈值时,将所述光流向量对应的视频帧确定为所述暴力帧;

所述根据所述暴力帧的出现频率进行报警,包括:定义报警变量,所述报警变量的初始值为0;

当出现一个所述暴力帧时,所述报警变量加1,当出现一个非所述暴力帧时,所述报警变量减1,所述报警变量累加至预定限幅值时不再增加;

当所述报警变量超过报警门限值时进行报警。

2.根据权利要求1所述的方法,其特征在于,所述根据所述拍摄视频中连续的视频帧进行Shi-Tomasi角点检测,确定特征点,包括:根据所述拍摄视频中连续的视频帧,确定目标像素点的运动轨迹,所述目标像素点是像素值在预定范围内变化的像素点;

根据运动前后两个视频帧和所述运动轨迹转换得到最小化两个目标窗口的不相似性的公式;

将所述不相似性的公式用截断的泰勒公式展开后,得到线性系统;

将所述线性系统简化为简化系统,所述简化系统表示为对称矩阵与位移向量相乘等于误差向量;

计算所述对称矩阵的第一特征值和第二特征值;

当所述第一特征值和所述第二特征值中较小的一个大于预定阈值时,将所述目标像素点确定为所述特征点。

3.根据权利要求1所述的方法,其特征在于,所述根据所述特征点,通过Lucas-Kanada光流算法计算得到光流向量,包括:获取所述特征点对应的时刻值、横坐标值、纵坐标值和所述特征点处的图像亮度;

计算所述图像亮度对所述横坐标值的第一偏导数,计算所述图像亮度对所述纵坐标值的第二偏导数,计算所述图像亮度对所述时刻值的第三偏导数;

根据所述第一偏导数、所述第二偏导数和所述第三偏导数,通过微分的链式法则确定所述光流向量的求解方程;

根据预定区域内的n个所述特征点和所述求解方程计算所述光流向量,n为正整数。

说明书 :

一种电梯轿厢内暴力行为检测方法

技术领域

[0001] 本发明涉及行为识别领域,尤其是一种电梯轿厢内暴力行为检测方法。

背景技术

[0002] 乘客暴力行为是发生在电梯轿厢中最为常见的一种异常行为,其中包含了打斗、抢夺财产等乘客间的暴力行为,以及踹门、砸门等破坏公共设施的暴力行为。
[0003] 对于暴力行为的检测,目前是先使用自适应的背景差法获取视频中前景区域,再利用前景像素的统计信息得到人以及其各部位运动轨迹,认为当人的手或脚抬高到与地面平行或呈一个更大的斜坡时出现了暴力帧。
[0004] 但是通过在人的手或脚抬高到与地面平行或呈一个更大的斜坡时判定出现暴力帧只能适用于一类情况,适用范围有限。

发明内容

[0005] 本发明针对上述问题及技术需求,提出了一种电梯轿厢内暴力行为检测方法。
[0006] 本发明的技术方案如下:
[0007] 一种电梯轿厢内暴力行为检测方法,包括如下步骤:
[0008] 获取所述电梯轿厢的拍摄视频;
[0009] 根据所述拍摄视频中连续的视频帧进行Shi-Tomasi角点检测,确定特征点;
[0010] 根据所述特征点,通过Lucas-Kanada光流算法计算得到光流向量;
[0011] 根据得到的所述光流向量判断是否为暴力帧,所述暴力帧是存在所述暴力行为的视频帧;
[0012] 根据所述暴力帧的出现频率进行报警。
[0013] 其进一步的技术方案为:所述根据所述拍摄视频中连续的视频帧进行Shi-Tomasi角点检测,确定特征点,包括:
[0014] 根据所述拍摄视频中连续的视频帧,确定目标像素点的运动轨迹,所述目标像素点是像素值在预定范围内变化的像素点;
[0015] 根据运动前后两个视频帧和所述运动轨迹转换得到最小化两个目标窗口的不相似性的公式;
[0016] 将所述不相似性的公式用截断的泰勒公式展开后,得到线性系统;
[0017] 将所述线性系统简化为简化系统,所述简化系统表示为对称矩阵与位移向量相乘等于误差向量;
[0018] 计算所述对称矩阵的第一特征值和第二特征值;
[0019] 当所述第一特征值和所述第二特征值中较小的一个大于预定阈值时,将所述目标像素点确定为所述特征点。
[0020] 其进一步的技术方案为:所述根据所述特征点,通过Lucas-Kanada光流算法计算得到光流向量,包括:
[0021] 获取所述特征点对应的时刻值、横坐标值、纵坐标值和所述特征点处的图像亮度;
[0022] 计算所述图像亮度对所述横坐标值的第一偏导数,计算所述图像亮度对所述纵坐标值的第二偏导数,计算所述图像亮度对所述时刻值的第三偏导数;
[0023] 根据所述第一偏导数、所述第二偏导数和所述第三偏导数,通过微分的链式法则确定所述光流向量的求解方程;
[0024] 根据预定区域内的n个所述特征点和所述求解方程计算所述光流向量,n为正整数。
[0025] 其进一步的技术方案是:所述根据得到的所述光流向量判断是否为暴力帧,包括:
[0026] 计算各个所述光流向量的幅值平方;
[0027] 根据各个所述幅值平方计算所述幅值平方的平均值;
[0028] 将所有所述光流向量的幅值平方按照预定顺序排列,确定第i大的幅值平方;
[0029] 当所述幅值平方的平均值大于平均阈值并且所述第i大的幅值平方大于第i阈值时,将所述光流向量对应的视频帧确定为所述暴力帧。
[0030] 其进一步的技术方案是:所述根据所述暴力帧的出现频率进行报警,包括:
[0031] 定义报警变量,所述报警变量的初始值为0;
[0032] 当出现一个所述暴力帧时,所述报警变量加1,当出现一个非所述暴力帧时,所述报警变量减1,所述报警变量累加至预定限幅值时不再增加;
[0033] 当所述报警变量超过报警门限值时进行报警。
[0034] 本发明的有益技术效果是:
[0035] 通过对电梯轿厢内的拍摄视频的连续视频帧进行Shi-Tomasi角点检测,确定出特征点,从而能够从视频帧中确定出包含运动信息的适合用于跟踪的像素点,通过Lucas-Kanada光流算法根据特征点计算光流向量,可以确定出电梯轿厢内的空间变化及其速率等信息,根据光流向量来判断出是否为暴力帧,可以使得算法能够根据人的暴力行为的动作幅度准确判断是否发生暴力行为,从而识别出暴力帧,通过根据暴力帧的出现频率进行报警,可以避免误报警的情况。

附图说明

[0036] 图1是本发明一个实施例提供的电梯轿厢内暴力行为检测方法的方法流程图。
[0037] 图2是本发明另一个实施例提供的电梯轿厢内暴力行为检测方法的方法流程图。
[0038] 图3是本发明一个实施例提供的Shi-Tomasi角点检测的效果图。
[0039] 图4是亮度不变的条件下解得的光流向量的解集。
[0040] 图5是本发明一个实施例提供的通过Lucas-Kanade光流算法得到的光流向量的示意图。
[0041] 图6是本发明一个实施例提供的电梯轿厢内暴力行为检测方法的流程图。

具体实施方式

[0042] 下面结合附图对本发明的具体实施方式做进一步说明。
[0043] 图1是本发明一个实施例提供的电梯轿厢内暴力行为检测方法的方法流程图,如图1所述,该方法可以包括以下步骤:
[0044] 步骤110,获取电梯轿厢的拍摄视频。
[0045] 步骤120,根据拍摄视频中连续的视频帧进行Shi-Tomasi角点检测,确定特征点。
[0046] Jianbo Shi与Carlo Tomasi提出一种适合用于跟踪的特征点,又称Shi-Tomasi角点。
[0047] 在图像跟踪中,并不是图像的所有部分都包含完整的运动信息,为了避免过大的计算量以及无效信息的提取,因此需要针对角点或在空间上剧烈变化的窗口进行跟踪,即首先需要找到适合于运动分析的特征点。
[0048] Shi-Tomasi算法给出评判图像中一个特征点是否适合用于跟踪的标准。
[0049] 可选的,步骤120可以被替换成图2所示的步骤。
[0050] 步骤121,根据拍摄视频中连续的视频帧,确定目标像素点的运动轨迹。
[0051] 目标像素点是像素值在预定范围内变化的像素点。在实际应用中,目标像素点也就是像素值变化较小的像素点。
[0052] 在仿射运动模型中,记目标像素点从x处做了运动δ,则有
[0053] δ=Dx+d   公式(1)
[0054] 其中,
[0055] 步骤122,根据运动前后两个视频帧和运动轨迹转换得到最小化两个目标窗口的不相似性的公式。
[0056] 记运动前后两个视频帧分别为I和J,有
[0057] J(Ax+d)=I(x)   公式(2)
[0058] 其中,A=1+D。
[0059] 由于视频帧图像中存在噪声以及仿射运动模型的不完美,公式(2)通常不能满足,其可以转换为最小化两个目标窗口的不相似性:
[0060] ε=∫∫W[J(Ax+d)-I(x)]2w(x)dx   公式(3)
[0061] 其中,W是给定特征区域,w(x)是区域中的加权函数。
[0062] 步骤123,将不相似性的公式用截断的泰勒公式展开后,得到线性系统。
[0063] 将公式(3)用截断的泰勒公式展开后,可以得到线性的6*6系统:
[0064] Tz=a   公式(4)
[0065] 其中z为包含整个变换矩阵D与位移向量d的向量,
[0066]
[0067] a为误差向量:
[0068]
[0069] G为图像梯度,T可以从单个视频帧图像中计算得到:
[0070]
[0071] 其中,
[0072]
[0073]
[0074]
[0075] 步骤124,将线性系统简化为简化系统,简化系统表示为对称矩阵与位移向量相乘等于误差向量。
[0076] 特征窗口的仿射变换矩阵D通常很小,因此可以将其置零,因此公式(4)所描述的线性系统可以简化为
[0077] Zd=e   公式(11)
[0078] 其中,向量e为公式(4)中误差向量a的最后两行,Z为对称矩阵。
[0079] 若公式(11)表示的简化系统可以被可靠的求解,说明该处特征窗口可以被较好地跟踪。当Z具有两个小的特征值时,表明该处特征窗口附近基本没有变化,当Z具有一大一小两个特征值时,表明该处特征窗口某个方向上像素有较大变化,当Z具有两个大的特征值时,表明该处特征窗口代表角点、具有椒盐纹理的区域或者其他能够被可靠跟踪的特征点。
[0080] 步骤125,计算对称矩阵的第一特征值和第二特征值。
[0081] 记λ1和λ2为对称矩阵Z的两个特征值,λ1为第一特征值,λ2为第二特征值。
[0082] 步骤126,当第一特征值和第二特征值中较小的一个大于预定阈值时,将目标像素点确定为特征点。
[0083] 若第一特征值λ1和第二特征值λ2满足下式:
[0084] min(λ1,λ2)>λ   公式(12)
[0085] 其中,λ为一个预先定义的阈值,即预定阈值,则表明目标像素点为易于跟踪的特征点。
[0086] 可选的,λ取0.01,根据实验可知,当λ取0.01时,检测到角点(特征点)的数量为300个。
[0087] 结合参考图3,其示例性地示出了Shi-Tomasi角点检测的效果图。
[0088] 步骤130,根据特征点,通过Lucas-Kanada光流算法计算得到光流向量。
[0089] 光流是一幅图像中亮度模式运动的速度向量的分布,可以由被观测者(比如:乘客)与物体(比如:电梯轿厢)的相对运动产生。因此,光流可以给出被观测者空间变化及其速率的信息。
[0090] 可选的,步骤130可以被替换成图2所示的步骤。
[0091] 步骤131,获取特征点对应的时刻值、横坐标值、纵坐标值和所述特征点处的图像亮度。
[0092] 记t时刻特征点(x,y)处的图像亮度为E(x,y,t),结合考虑该特征点运动后的情景,假设该特征点亮度为一常量,则有
[0093]
[0094] 步骤132,计算图像亮度对横坐标值的第一偏导数,计算图像亮度对纵坐标值的第二偏导数,计算图像亮度对时刻值的第三偏导数。
[0095] 记Ex为第一偏导数,Ey为第二偏导数,Et为第三偏导数。
[0096] 步骤133,根据第一偏导数、第二偏导数和第三偏导数,通过微分的链式法则确定光流向量的求解方程。
[0097] 使用微分的链式法则得到
[0098]
[0099] 令 则公式(14)转换为
[0100] (Ex,Ey)·(u,v)=-Et   公式(15)
[0101] 该方程解得的u,v为一条直线,请参考图4。
[0102] 步骤134,根据预定区域内的n个特征点和求解方程计算光流向量,n为正整数。
[0103] 仅在运动的像素点亮度不变的假设下,还不能唯一求解出光流向量,因此增加新的约束条件:假设一个区域具有相同的运动,从而可以得到多个如公式(15)的方程。
[0104] 假设邻域(预定区域)内n个像素点具有相同的光流向量,则有
[0105]
[0106] 使用最小二乘法求解,得到
[0107]
[0108] 其中,
[0109] 结合参考图5,其示例性地示出了通过Lucas-Kanade光流算法得到的光流向量的示意图。
[0110] 步骤140,根据得到的光流向量判断是否为暴力帧。
[0111] 暴力帧是存在暴力行为的视频帧。
[0112] 可选的,步骤140可以被替换成图2所示的步骤。
[0113] 步骤141,计算各个光流向量的幅值平方。
[0114] 对于获取到的光流向量(u,v),计算该光流向量的幅值平方如下:
[0115] s=u2+v2   公式(18)
[0116] 使用幅值平方而不使用幅值,可以减少开销较大的开方操作。
[0117] 步骤142,根据各个幅值平方计算幅值平方的平均值。
[0118] 计算完所有光流向量的幅值平方之后,计算幅值平方的平均值savg。
[0119] 步骤143,将所有光流向量的幅值平方按照预定顺序排列,确定第i大的幅值平方。
[0120] 可选的,将所有的光流向量的幅值平方按照从大到小的顺序排列,排序后确定第i大的幅值平方sith。可选的,根据经验值,可以选择第10大的幅值平方s10th。
[0121] 步骤144,当幅值平方的平均值大于平均阈值并且第i大的幅值平方大于第i阈值时,将光流向量对应的视频帧确定为暴力帧。
[0122] 判断暴力帧的条件是同时满足
[0123] savg>thsa   公式(19)
[0124] sith>thsi   公式(20)
[0125] 当满足公式(19)时,表明当前场景中存在较大的动能,公式(20)能够进一步确定动能影响的范围,排出光流计算错误带来的干扰。
[0126] 可选的,若选择第10大的幅值平方s10th,则判断暴力帧的条件是:savg>thsa且s10th>ths10。
[0127] 其中,thsa、thsi(包括ths10)为预先定义的阈值参数。
[0128] 在摄像头等设备固定完成后,让乘客在电梯轿厢中进行走动、晃动等正常行为,记录测量得到的光流向量的幅值平方统计信息snavg和snith(比如:sn10th),再模拟乘客打斗、踢门等暴力行为,再次测量记录相应的光流信息svavg和svith(比如:sv10th),用于判别暴力帧的参数可以由以下公式确定:
[0129] thsa=0.5*max(snavg)+0.5*min(svavg)   公式(21)
[0130] thsi=0.5*max(snith)+0.5min(svith)   公式(22)
[0131] 可选的,当选择第10大的幅值平方时,公式(22)可以表示为ths10=0.5*max(sn10th)+0.5*min(sv10th)。
[0132] 当满足
[0133] max(snavg)
[0134] max(snith)
[0135] 的情况下,参数thsa和thsi可以较好地分辨出暴力帧与非暴力帧。
[0136] 步骤150,根据暴力帧的出现频率进行报警。
[0137] 暴力事件通常会持续一段时间,将暴力帧检测的输出作为报警系统的输入,为了避免暴力帧检测时存在的误检给报警系统带来噪声,因此通过限幅一阶积分器进行滤波,从而得到连续可靠的报警信号。
[0138] 可选的,步骤150可以被替换成图2所示的步骤。
[0139] 步骤151,定义报警变量,报警变量的初始值为0。
[0140] 定义报警变量vio_keeper,并将报警变量初始化为0。
[0141] 步骤152,当出现一个暴力帧时,报警变量加1,当出现一个非暴力帧时,报警变量减1,报警变量累加至预定限幅值时不再增加。
[0142] 当检测到暴力帧时,报警变量vio_keeper加1,当检测到非暴力帧时,报警变量vio_keeper减1,若报警变量vio_keeper已达限幅值vio_keeper_max,则报警变量vio_keeper不再增加。
[0143] 步骤153,当报警变量超过报警门限值时进行报警。
[0144] 报警条件为
[0145] vio_keeper>thvio_keeper   公式(25)
[0146] 其中,thvio_keeper为报警门限值,可选的,在实际应用中,报警门限值可以取经验值10。
[0147] 可选的,本实施例中提供的电梯轿厢内暴力行为检测方法还可以表示为图6所示的流程图。
[0148] 以上所述的仅是本发明的优先实施方式,本发明不限于以上实施例。可以理解,本领域技术人员在不脱离本发明的精神和构思的前提下直接导出或联想到的其他改进和变化,均应认为包含在本发明的保护范围之内。