实景拍摄影像保全方法、终端和系统转让专利

申请号 : CN202010389796.X

文献号 : CN113596317B

文献日 :

基本信息:

PDF:

法律信息:

相似专利:

发明人 : 杨筑平周跃平

申请人 : 深圳金澜汉源科技有限公司

摘要 :

实景拍摄影像保全方法、终端和系统,涉及影像媒体、拍摄设备、网络系统和电子商务技术领域。对现实场景实时拍摄影像并保证影像场景真实可信,方法是对应实景拍摄影像部分主体帧,记录差别对焦同步拍摄影像的差别帧作为影像场景的景深指纹,与所对应主体帧之间存在时空相互印证的影像场景相关性,保留一段以上景深指纹作为鉴别实拍影像场景真实可信度的证据,多镜头可分工协同,关联记录现场地理环境信息,策略指令决定差别对焦策略;终端实现该方法;系统为终端提供管理影像证据接入服务,乃至执行相关鉴别算法自动比对分析。方法、终端系统配合,能破除影像拍摄造假完善信任机制,解决实拍影像场景真实可信鉴别问题,适用人脸识别及电子商务。

权利要求 :

1.一种实景拍摄影像保全方法,对现实场景实时拍摄影像并保证影像场景真实可信,其特征在于,对应实景拍摄影像的部分主体帧,记录差别对焦即在主体帧的对焦距离前后使得差别对焦平面之景深与主体对焦平面之景深相交或串联相接的对焦距离上对焦,而与主体帧同步拍摄影像所产生的差别帧,作为影像场景的景深指纹,使得所述景深指纹与所对应的主体帧之间存在时空相互印证的影像场景相关性,保留一段以上所述景深指纹作为鉴别实拍影像场景真实可信度的证据。

2.根据权利要求1所述的实景拍摄影像保全方法,其特征是,所述差别帧和主体帧在多镜头拍摄的条件下分别由各镜头分工协同并行拍摄产生,所述景深指纹与所对应的主体帧之间保持时序一致而关联输出。

3.根据权利要求1或2所述的实景拍摄影像保全方法,其特征是,所述景深指纹在拍摄时自动隐蔽记录而不显像于目视观察主窗口。

4.根据权利要求1或2所述的实景拍摄影像保全方法,其特征是,所述景深指纹在拍摄时还关联记录现场的地理环境信息。

5.根据权利要求1或2所述的实景拍摄影像保全方法,其特征是,所述景深指纹在拍摄时通过接收策略指令来决定所采取的差别对焦策略,所述差别对焦策略包括拍摄景深指纹对应主体帧的起始时刻/帧序号、持续时长/帧数和对焦距离变化。

6.根据权利要求1或2所述的实景拍摄影像保全方法,其特征是,所述景深指纹能通过网络通信方式即时传输到服务器关联保存而固定证据。

7.一种实景拍摄影像保全终端,配置有一个以上镜头,内部具有实时拍摄影像的功能模块,其特征在于,所述功能模块实现根据权利要求1至6中任一项所述的实景拍摄影像保全方法。

8.一种实景拍摄影像保全系统,具有网络通信连接功能,配置包括用于传输和存储影像的服务器,其特征在于,为根据权利要求7所述的实景拍摄影像保全终端提供管理影像证据接入服务,交互接收所述终端传输的包含景深指纹在内的实拍影像,于所述服务器端保全存储而固定证据。

9.根据权利要求8所述的实景拍摄影像保全系统,其特征是,所述交互接收过程还从所述服务器端向所述终端择机发出策略指令,以决定所述景深指纹在所述终端拍摄时的差别对焦策略,并在所述服务器端对所述差别对焦策略进行控制和核对。

10.根据权利要求8所述的实景拍摄影像保全系统,其特征是,所述服务器端进一步执行相关鉴别算法过程,来比对分析所述景深指纹与所对应的主体帧之间的影像场景相关性,自动鉴别实拍影像场景真实可信度。

11.根据权利要求10所述的实景拍摄影像保全系统,其特征是,所述服务器端进一步辅助人脸识别的认证过程,以所述实拍影像场景真实可信度作为身份认证的约束条件。

12.根据权利要求8所述的实景拍摄影像保全系统,其特征是,所述服务器端进一步辅助所述终端对现存实拍影像,在通过授权并保全影像场景前提下受控执行后期编辑制作。

13.根据权利要求8至12中任一项所述的实景拍摄影像保全系统,其特征是,所述服务器端进一步介入电子商务的运作过程,向客户推送展示包含景深指纹的或通过景深指纹鉴证的实拍影像,为影像场景保全背书。

说明书 :

实景拍摄影像保全方法、终端和系统

技术领域

[0001] 本发明涉及影像媒体、拍摄设备、网络系统和电子商务技术领域。

背景技术

[0002] 影像,包括照片和视频。视频至少是纯图像的,通常还包含音频的。实景拍摄影像,简称实拍影像,是指于现实场景拍摄且对现实场景实际拍摄的影像,而有别于人为创作的诸如绘画、动画、童话、神话、游戏等虚构场景的影像,也区别于主要通过后期剪辑、编辑修改所制作的资料影像。通常拍摄的影像,典型的文件格式诸如BMP、JPG、PNG、AVI、MOV、WMV、MPEG、RM等。现有影像格式文件,其内容数据都只具有纯粹的影像意义,并没有可鉴别的场景相关真实性证据,而通过既有软件工具,包括采用VR(虚拟现实)、AR(增强现实)和AI(人工智能)高技术,可任意剪辑修改使之失去真实性。例如,照片修饰,可美化修改;影像篡改,能给人物换头、换脸,包括加上张嘴、眨眼增加影像新鲜度,乃至一键脱衣;影像虚构,可制作出以假乱真的影像;某个地方发生的现象、事件,可被说成发生在另一个地方;优良环境种植、养殖的优质产品,可能被以非原产地的产品假冒影像展示。于是,影像可能被用于作假欺诈,愚弄人们相信眼见为实的常识。人们日常生活中交际、交易、生活,总希望面对真实获知真相。如今信息社会普遍发展,大量影像被拍摄,传播广泛而迅速,亟需适当的技术手段能够保证实拍影像真实可信。所谓保证影像真实可信,是保证影像场景真实可信,例如人物、花卉、西瓜确实在拍摄的现实场景中,而非为人物的社会属性(身份、信用等)、花卉的品质(植物花或塑料花)、西瓜的种植(绿色或非绿色)作背书,那需要更多非技术性具体证据。现有技术,很难一般性地鉴别影像的真实可信度,通用自动鉴别更是难上加难。影像不能自证,就只能依靠第三方信任机构的鉴证服务,基本思路就是控制实拍影像过程,即时上传影像到服务器保存固定。但这样就会面临造假而遇到两个挑战难题:一是重放画面拍摄造假,拍摄者先伪造影像,然后重新播放而用拍摄终端实拍该虚假影像上传;二是虚拟信号拍摄造假,拍摄者虚构一个影像拍摄虚拟终端,输入虚拟影像源电信号,仿真操控影像实拍上传流程。对这两种欺骗情况,现有服务器端目前都无能为力很难识破,于是信任机制就存在必须弥补的技术缺陷。

发明内容

[0003] 本发明的目的,是从拍摄方法、终端设备和系统服务三方面入手,来克服前述两个挑战难题,破除影像拍摄造假,从而弥补技术缺陷完善信任机制,解决实拍影像场景真实可信的鉴别问题。
[0004] 本发明提出一种实景拍摄影像保全方法,对现实场景实时拍摄影像并保证影像场景真实可信,其特征在于,对应实景拍摄影像的部分主体帧,记录差别对焦即在不同于主体帧的对焦距离上对焦,而与主体帧同步拍摄影像所产生的差别帧,作为影像场景的景深指纹,使得所述景深指纹与所对应的主体帧之间存在时空相互印证的影像场景相关性,保留一段以上所述景深指纹作为鉴别实拍影像场景真实可信度的证据。实拍影像,对照片是一幅图像数据,对视频(录像)是图像帧序列(可含音频)数据,照片实际上可视为视频图像帧序列中的一幅定格图像帧。实际拍摄影像时,拍摄者都会对着现实场景中重点拍摄的特定主体对象物(人物、动物、景色等景物),通过对焦(或称调焦),决定对焦平面(垂直于镜头主光轴的景物光点平面)的拍摄距离(即对焦距离)。对焦平面可能随拍摄者和/或对象物的移动而改变距离,因此需要与之相适应地对焦。高档拍摄终端(如智能手机、数码相机)能够自动识别被拍摄物(例如人脸、鲜花)而自动对焦,也能由拍摄者手动(例如点触显像屏幕中某处来指示)进行对焦。所谓主体帧,是指对被摄主体对焦平面所拍摄的影像帧。所谓帧段,是指时序上顺序生成和排列的连续帧序列的片段,包含一个以上帧。根据影像拍摄原理,对焦平面的前后各有一段深度距离范围内的景物都能清晰成像,这对焦平面之前的距离叫前景深,之后的距离叫后景深,后景深大于前景深,前景深与后景深之和就叫景深。一帧的清晰图像,实际上就是对焦平面的景深空间范围内,所有可视景物光点受光圈约束的叠合成像。已知有现成的计算景深的数学公式,景深的数值与容许弥散圆直径、镜头焦距、镜头的拍摄光圈值和对焦距离有关,在后面的具体实施方式中将给出该数学公式。所谓差别对焦,即在不同于主体对焦平面的对焦距离上的对焦,是基于主体对焦平面的对焦距离,设定一个对焦距离增量来决定对焦距离而分出的对焦平面(称为差别对焦平面)所进行的对焦。差别对焦平面可置于主体对焦平面之前(当对焦距离增量<0时),或之后(当对焦距离增量>0时)。所谓差别帧,是指对被摄该差别对焦平面所拍摄的影像帧,作为主体帧的对照帧,它有别于主体帧正是因为两者对焦距离的差别。由于差别对焦,就使得差别对焦平面与主体对焦平面两者的景深相互之间部分交叉重叠,影像拍摄的成像原理则决定了差别帧与主体帧两者的图像之间存在场景时空意义上的密切相关性,于是就能够相互借鉴印证。
[0005] 在实际拍摄影像的某个主体帧段时,启动一个差别对焦取证过程,以主体对焦平面为基准,用一个差别对焦平面来关联平行于主体对焦平面,沿镜头主光轴纵向通过并可超出主体对焦平面的前景深和/或后景深,于具体对焦时刻同步拍摄影像帧作为影像场景的差别帧,在对焦变化时段内拍摄的差别帧序列即为差别帧段。对差别帧段需要加以标记,包括在时序上对应主体帧段的起始位置(相对时间尺度或帧顺序号)和持续长度(时间尺度或帧数),以便能够检索关联重放。主体对焦平面、差别对焦平面都各自有其景深(包括前景深和后景深),而两个对焦平面的景深一般是关联交叉的。其中,在两者景深重叠的空间范围内,所有景物分别在主体帧和差别帧上都有清晰的成像。从视觉效果上看,在主体对焦平面的后景深空间范围内,当差别对焦平面朝着拍摄者以远方向逐渐变焦离开主体对焦平面直至超出后景深的后边界(乃至能达到差别对焦平面的前景深脱离主体对焦平面的后景深)时,差别帧段的影像反映的是,一方面主体帧上原本清晰的景物逐渐缩小到失去细节变得模糊而有幻出感(由清晰变模糊),另一方面主体帧上原本模糊的景物逐渐呈现更多细节变得清晰放大而有幻入感(由模糊变清晰);当差别对焦平面又反向逐渐变焦从主体对焦平面的后景深之外跨入并趋向主体对焦平面时,差别帧段的影像又逆向分别反映主体帧上的景物的幻入感与幻出感。同样,在主体对焦平面的前景深空间范围内,当差别对焦平面朝着拍摄者以近方向逐渐离开主体对焦平面直至超出前景深的前边界(乃至能达到差别对焦平面的后景深脱离主体对焦平面的前景深)时,差别帧段的影像反映的是,一方面主体帧上原本清晰的景物逐渐缩小到失去细节变得模糊而有幻出感,另一方面主体帧上原本模糊的景物逐渐呈现更多细节变得清晰放大而有幻入感;当差别对焦平面又反向逐渐从主体对焦平面的前景深之外跨入并趋向主体对焦平面时,差别帧段的影像又逆向分别反映主体帧上的景物的幻入感与幻出感。上述视觉变化过程,与用相机拍照时前推镜头和后拉镜头过程的影像直观体验相仿。通过差别对焦拍摄获取的差别帧图像,实际上反映出主体帧图像在相同场景中不同景深层次的图像变化特征,就好比具有影像场景空间沿深度方向上的指纹意义。当差别帧的帧频够快,对一个主体帧可拍摄一个或多个差别帧的序列即差别帧段,而该差别帧段就视同该主体帧的影像场景的景深指纹。典型实例是对拍摄一幅照片(视为主体帧),过程中配合拍摄一段影像场景的景深指纹。而对于视频影像,于某一个主体帧段(即部分主体帧),同步拍摄的差别帧段就作为该主体帧段的影像场景的景深指纹。景深指纹的帧频(即差别帧频)与主体帧段的帧频,可以相同(一个差别帧对应一个主体帧)也可不同(多个差别帧对应一个主体帧,或者一个差别帧对应多个主体帧),前者高于后者更便于比对鉴别。于是,景深指纹与其所覆盖邻接(包括覆盖和邻接)对应的主体帧段之间,就在时间顺序上和空间场景深度层次上能够相互印证,存在可客观地鉴别的影像场景相关性,反映为场景中的景物投影相关性,而只要保留一段以上数量的景深指纹,就能作为鉴别实拍影像场景真实可信度的证据。
[0006] 本发明的基本技术逻辑构思,就是记录和采用相同场景不同景深的图像,来关联印证实拍影像场景的真实可信度。实拍影像播放时,通过同步关联播放主体帧段和对应的景深指纹,观察比对判断二者图像的景物视觉相关相似情况,就能鉴别实拍影像场景真实可信度。通过对景深指纹比对相关相似的段数或帧数进行统计平均(可加权),就能量化实拍影像场景真实可信度,比如计算出具体百分比数值。注意到前述景深指纹的幻入幻出视觉效果,本质上是光学变焦采样缩小放大变换,欲通过对主体帧段的图像像素进行数字缩放乃至数学插值是不可精确虚构的,要在缺乏景深背景细节代入的约束条件下无中生有也极其困难而不现实。由此,就能破解影像造假问题:一是对于重放画面拍摄造假,从景深指纹的改变对焦过程就能暴露包括播放屏幕边框的作假现场,而且还能发现画面只是像素缩放变换而缺乏应有的幻入幻出视觉效果,从而识破重放拍摄造假;二是对于虚拟信号拍摄造假,景深指纹应有的幻入幻出视觉效果的细节要求,也给造假算法及其执行过程带来极高复杂性和巨量运算困难,从而能极大提高影像造假的实施成本和困难程度。
[0007] 上述实景拍摄影像保全方法,进而考虑到在多镜头拍摄情况下改进效果,其特征是,所述差别帧和主体帧在多镜头拍摄的条件下分别由各镜头分工协同并行拍摄产生,所述景深指纹与所对应的主体帧之间保持时序一致而关联输出。在单镜头情况下,差别帧和主体帧都由同一个镜头拍摄,就只能串行分时拍摄,景深指纹与对应主体帧段之间是串行的替代关系,视为一种覆盖邻接关系。在多镜头拍摄时,就能根据各镜头的光学特性来分工协同,在保证主体帧段拍摄的同时,同步拍摄关联的景深指纹,而景深指纹与对应主体帧段之间即为并行的覆盖邻接关系,保持时序一致性而能够关联输出。
[0008] 上述实景拍摄影像保全方法,进而考虑到避免对拍摄者造成视觉干扰,其特征是,所述景深指纹在拍摄时自动隐蔽记录而不显像于目视观察主窗口。但这并不一定限制,拍摄者自主选择打开或关闭辅助窗口来显示景深指纹或屏蔽显示。
[0009] 上述实景拍摄影像保全方法,进而考虑到利用拍摄场景的环境信息辅助佐证,其特征是,所述景深指纹在拍摄时还关联记录现场的地理环境信息。这样的地理环境信息包括但不限于:地理位置定位的经度、纬度、高程、移动方向、移动速度;环境的温度、湿度;时间的日期、时刻;运动传感器记录数据。比照拍摄时的移动方向和移动速度,能够辨别和排除所造成的视觉误差。借助自然常识和地理信息系统,就能参照来辅助鉴别实拍影像的真实可信度。
[0010] 上述实景拍摄影像保全方法,进而考虑到差别对焦的策略化和灵活性,其特征是,所述景深指纹在拍摄时通过接收策略指令来决定所采取的差别对焦策略。这样的策略指令,既可来自于用户的设置选择,尤其还可接收自外部通信传入。所谓差别对焦策略,包括拍摄景深指纹对应主体帧的起始时刻(或帧序号)、持续时长(或帧数)、帧频、对焦控制(方向、距离、变化)等。
[0011] 上述实景拍摄影像保全方法,进而考虑传输保存,其特征是,所述景深指纹能通过网络通信方式即时传输到服务器关联保存而固定证据。集中上传服务器保存,是保全影像和固定证据的有效方法。所谓关联保存,是指景深指纹关联于主体帧段保存,由于景深指纹在拍摄时被标记,故与主体帧段之间的关联关系被继续保持。景深指纹即时上传保存,是为了优先保证固定证据。主体帧段一般也即时上传,但为了保证系统响应效率,也可以采取缓存滞后上传方式。
[0012] 本发明还提出一种实景拍摄影像保全终端,配置有一个以上镜头,内部具有实时拍摄影像的功能模块,其特征在于,所述功能模块实现根据上述实景拍摄影像保全方法中任一项所述的实景拍摄影像保全方法。这样的实景拍摄影像保全终端的可实施例子,包括但不限于:数码相机、摄影机、监控摄像机、手机(移动电话)、平板电脑等。
[0013] 本发明再提出一种实景拍摄影像保全系统,具有网络通信连接功能,配置包括用于传输和存储影像的服务器,其特征在于,为根据如上所述的实景拍摄影像保全终端提供管理影像证据接入服务,交互接收所述终端传输的包含景深指纹在内的实拍影像,于所述服务器端保全存储而固定证据。所述交互接收过程,是在线自动进行的。在服务器端保全存储和固定证据的基本措施,包括服务身份认证、控制存取权限、中断余留保存、设定保护期限,乃至对包含景深指纹的影像文件执行数字签名来保证数据的完整一致性,以备后续交换传递和验证使用。
[0014] 上述实景拍摄影像保全系统,进而考虑掌控差别对焦策略,其特征是,所述交互接收过程还从所述服务器端向所述终端择机发出策略指令,以决定所述景深指纹在所述终端拍摄时的差别对焦策略,并在所述服务器端对所述差别对焦策略进行控制和核对。由服务器端主导终端拍摄时的差别对焦策略,随机而不可预测,就能避免终端利用差别对焦策略作假,尤其是虚拟信号拍摄造假,因为即使是强力高效的虚拟终端也难以即时虚构出随意指定的主体帧段所对应的景深指纹。
[0015] 上述实景拍摄影像保全系统,进而考虑达成鉴别的自动化,其特征是,所述服务器端进一步执行相关鉴别算法过程,来比对分析所述景深指纹与所对应的主体帧之间的影像场景相关性,自动鉴别实拍影像场景真实可信度。鉴别算法需用到AI图像识别处理技术,还能不断训练完善而提高准确性和效率。
[0016] 上述实景拍摄影像保全系统,进而考虑支持人脸识别应用,其特征是,所述服务器端进一步辅助人脸识别的认证过程,以所述实拍影像场景真实可信度作为身份认证的约束条件。为克制利用AI换脸欺骗人脸识别,利用所鉴别的实拍影像场景真实可信度作为身份认证的约束条件,若结论可信则肯定人脸识别结果,否则就否定人脸识别结果甚至干脆拒绝执行人脸识别。
[0017] 上述实景拍摄影像保全系统,进而考虑影像文件实用的必要修改需求,其特征是,所述服务器端进一步辅助所述终端对现存实拍影像,在通过授权并保全影像场景前提下受控执行后期编辑制作。例如合成字幕、配音配乐、增加片头片尾的编辑操作,必须通过授权而且不能破坏影像场景真实可信度。
[0018] 上述实景拍摄影像保全系统,包括以上各种考虑,进而重点考虑电子商务应用场合用途,其特征是,所述服务器端进一步介入电子商务的运作过程,向客户推送展示包含景深指纹的或通过景深指纹鉴证的实拍影像,为影像场景保全背书。客户可以选择包含景深指纹的实拍影像自己进行鉴别,也可以选择信任系统(第三方机构)通过景深指纹鉴证的实拍影像,而系统则申明和担保所提供的实拍影像是场景真实可信的。系统对实拍影像文件执行数字签名,也是一种为影像场景保全背书的明确表示。
[0019] 本发明的积极效果,是提出了实景拍摄影像保全方法,以差别对焦拍摄获取的景深指纹作为鉴别实拍影像场景真实可信度的证据,又提出了实现该方法的实景拍摄影像保全终端,以及连接该终端而提供管理影像证据服务的实景拍摄影像保全系统,通过方法、设备和系统配合来克服前述两个挑战难题,破除影像拍摄造假从而完善信任机制,能够解决实拍影像场景真实可信的鉴别问题,尤其适合人脸识别和电子商务的应用场景,还能应用于其它事务(例如侦查、法律、公证等)的举证。

附图说明

[0020] 图1是本发明的实拍影像差别对焦的空间关联示意图。其中编号名称对照,列于表‑1。
[0021] 图2是本发明的实拍影像差别对焦的时序关联示意图。其中编号名称对照,列于表‑2。
[0022] 图3是本发明实施例的差别对焦界限示意图。其中编号名称对照,与表‑1中的对应编号项一致。
[0023] 图4是本发明实施例的系统构成示意图。
[0024] 图5是本发明实施例的用户终端功能模块构成示意图。
[0025] 图6是本发明实施例的服务器功能模块构成示意图。
[0026] 表‑1图1中编号名称对照表
[0027]
[0028]
[0029] 表‑2图2中编号名称对照表
[0030] 编号 名称 备注T 时间轴  
10 实拍影像开始时刻 首帧拍摄时刻
11 差别帧始拍时刻 一个差别帧段中首帧拍摄时刻
12 差别帧止拍时刻 一个差别帧段中末帧拍摄时刻
13 实拍影像终止时刻 末帧拍摄时刻
20 实拍影像首帧  
21 实拍影像第二帧  
22 主体帧段 实拍影像中的一个主体帧序列
220 主体帧段首帧  
221 主体帧段末帧  
23 实拍影像末帧  
30 差别帧段 对应于主体帧段的差别帧序列,即景深指纹。
300 差别帧段首帧  
301 差别帧段末帧  

具体实施方式

[0031] 第一方面,充分理解本发明提出的实景拍摄影像保全方法。
[0032] 先由图1参见表1,理解本发明的实拍影像差别对焦的空间关联。在主光轴(水平点画线)上,剖析各要素及尺寸链关系。主体对焦平面10的主体对焦距离100,是物距400与像距410之和;在此对焦距离上,主体景深11(实线矩形框)内的景物,能够清晰成像为主体帧12;主体景深11的纵向(沿主光轴方向)深度,包括主体前景深110与主体后景深111,且为二者之和。差别对焦平面(在前)20的对焦距离,是在主体对焦距离100基础上偏前,即差别对焦距离(在前)增量200(增量值为负);在此对焦距离上,差别景深(在前)21(虚线矩形框)内的景物能够清晰成像为差别帧(在前)22;差别景深(在前)21的纵向深度,也包括前景深和后景深(未标明)。差别对焦平面(在后)30的对焦距离,是在主体对焦距离100基础上偏后,即差别对焦距离(在后)增量300(增量值为正);在此对焦距离上,差别景深(在后)31(虚线矩形框)内的景物能够清晰成像为差别帧(在后)32;差别景深(在后)31的纵向深度,也包括前景深和后景深(未标明)。前述三个景深表述为矩形框,只是为了便于理解它们的范围和相互空间位置关系,其中上下边界实际上受限于镜头的视场角。容易理解,主体对焦平面10设定之后,差别对焦平面20/30可纵向调整(如水平双向箭头表示),无论在前还是在后,只要两者的景深相交,就有这样的视觉效果:重叠部分空间内的景物,在主体帧12和差别帧
22/32都有清晰成像;而非重叠部分空间内的景物,若在主体帧12成像清晰(细节分明),就在差别帧22/32成像模糊(细节缺乏),反之,若在主体帧12成像模糊,就在差别帧22/32成像清晰;而且,对焦距离的差异还反映在景物成像比例的变化。因此,差别帧与主体帧之间,即存在空间相互印证的影像场景相关性。再看图右边的拍摄终端内部,通过镜头前后移动(对焦动作),可改变主体对焦平面10的主体对焦距离100,差别对焦平面20/30的对焦距离则加上增量200/300;预设感光底片50上的成像弥散圆直径500,通过调节镜头40的焦距和光圈(未画出),可改变焦深510,包括前焦深511和后焦深512;从而决定主体景深11,包括主体前景深110和主体后景深111,同样也决定差别景深21/31;主体对焦平面10上的景物点发出的光线60,经过镜头40聚焦于焦点平面41而成像于感光底片50;主体帧12和差别帧22/32,均为感光底片50上的成像,但在单镜头条件下,它们只能在同一块感光底片上异步(分时)成像,而在多镜头条件下,就能在不同块感光底片上同步(同时)成像。
[0033] 再由图2参见表2,理解本发明的实拍影像差别对焦的时序关联。以时间轴T为界,下方画出的是实拍影像帧序列;上方画出的是对应的景深指纹,虽然只画出了一段,但应当理解,景深指纹可以有多段,每一段就是一个差别帧段。从实拍影像开始时刻10起,以既定帧频产生实拍影像首帧20、实拍影像第二帧21及后续主体帧序列,到时刻11的主体帧段22,及后续主体帧序列,直到实拍影像终止时刻13,产生实拍影像末帧23;主体帧段22,包括主体帧段首帧220及后续主体帧序列,直到时刻12的主体帧段末帧221。从差别帧始拍时刻11起,产生一个差别帧段30,包括差别帧段首帧300及后续差别帧序列,直到差别帧止拍时刻12,产生差别帧段末帧301。在时序上,差别帧段30与主体帧段22总体上成段相对应,具体则是:当两者帧频相同时,为一对一的帧对应;当两者帧频不同时,为一对多或多对一的帧对应。因此,差别帧段与主体帧段之间,即存在时间相互印证的影像场景相关性。
[0034] 于是,景深指纹与所对应的主体帧段之间,即存在时空相互印证的影像场景相关性,而保留一段以上景深指纹,就能作为鉴别实拍影像场景真实可信度的证据。
[0035] 第二方面,规划本发明实施例的系统构成。
[0036] 参见图4。用户终端1只绘出一个,实际不止一个,它包括:拍摄单元11、播放单元12、显示屏13、运动传感单元14和应用单元15。其中,拍摄单元11,表达本发明基本的实景拍摄影像保全方法,它输入影像和定位数据,是获取的即时数据,而输出实拍影像和景深指纹(含即时定位数据)的数据流,包括它们之间的关联逻辑,通过通信网络上传到服务器2(右向箭头指示),还能从服务器2接收策略指令(左向箭头指示)来决定拍摄时的差别对焦策略;播放单元12,接收服务器2发来的实拍音像文件3;显示屏13,包括影像窗口131和地图窗口132,分别呈现影像和标识关联的地图上地点轨迹;播放单元12和显示屏13,结合实现影像定位播放,包括可选择播放景深指纹;运动传感单元14,是辅助单元,虚线框表示为可选,能提供应急事件数据,启动拍摄单元11拍摄,也能驱动应用单元15向服务器发出应用消息(例如报警);应用单元15,实现系统应用在用户端的功能(如电子商务)。服务器2包括:影像库单元21、用户注册表22、智能分析单元23和应用单元24。其中,影像库单元21,接收用户终端1上传来的实拍影像和景深指纹数据流,保存为实拍影像文件211/212的集合,还向终端1的拍摄单元11发出策略指令,并响应播放单元12发送实拍影像文件3;用户注册表22,登记用户终端1接受服务而注册的信息;智能分析单元23,于后台执行人工智能的相关鉴别算法过程,对用户终端1传来的实拍影像和景深指纹数据流或实拍影像文件,比对分析景深指纹与所对应的主体帧段之间的影像场景相关性,自动鉴别实拍影像场景真实可信度;应用单元24,响应于智能分析单元23的通知,或接收用户终端1发送的消息,而服务于用户。实拍影像文件3包括:影像文件31、随行文件32。其中,影像文件31存储影像数字化的数据,对照片是图像编码数据,对视频是帧编码(可包括音频编码)数据序列;随行文件32存储的数据内容,包括景深指纹321、定位数据322和数字签名323;景深指纹321,存储差别对焦帧段,及与主体帧段的对应关系;定位数据322存储影像拍摄时刻所处地理位置定位坐标,对照片是一个地点,对视频是拍摄过程移动轨迹的地点序列;数字签名323,存储对影像文件31的数字签名数据,和对本随行文件的数字签名数据。
[0037] 本发明的实施例,依托现有云存储服务平台来扩展和改进实现,称为实拍影像服务。云存储服务平台,已经有成熟成规模的商业应用,例如百度云盘,它有为上传的照片生成地点功能,但只是根据上传来源的注册地生成的城市分类标记,并非实时拍摄服务,更无影像场景真实可信的鉴别功能。
[0038] 第三方面,实施本发明提出的实景拍摄影像保全终端。
[0039] 采用现有较高档的手机(如华为P40),作为实施本发明实景拍摄影像终端设备,已经具备多个摄像头,原来是处于综合改善拍摄性能质量的目的。需要做以下两步设计开发。
[0040] 第一步,修改手机操作系统。采用的Android(安卓)操作系统是开源的,能够根据需要加以修改。相应地需要在两个层面进行修改:第一层面在内核的设备驱动层,修改相机(镜头)驱动程序程序,在保留现有常规拍摄驱动基础上,扩展支持差别对焦拍摄,优化多镜头资源组合,至少驱动一个具有光学变焦性能的镜头,用于差别对焦拍摄,并且保证主体帧图像与差别帧图像的感光生成同步(即同时生成)。相机驱动程序能根据给定的像距,精确驱动镜头马达旋转移动到位,以支持不同物距或对焦距离的拍摄。第二层面是在基础服务层和/或程序框架层,修改拍摄影像的功能及其调用接口,在保留现有常规拍摄功能调用基础上,基于差别对焦拍摄驱动,扩展支持差别对焦拍摄功能调用,传入参数包括主体对焦距离和差别对焦距离增量,以备上层应用程序调用。功能调用实现,根据给定物距,按照下面像距计算公式
[0041]
[0042] 计算出像距,然后调用相机驱动程序对焦拍摄。上面像距计算公式,是由下面高斯成像公式
[0043]
[0044] 推导所得。其中,u是物距,v是像距,f是焦距。
[0045] 第二步,编制一个手机应用程序(APP),称为实拍相机,参见图5对照图4来说明。用户终端1是这个APP,其中的功能模块,实拍11,包括拍照111、摄像112,实现图4中的摄像单元11;实播12,实现图4中的播放单元12和显示屏13;应用13,实现图4中的应用单元15;传输14,实现图4中用户终端1与服务器2之间的信息通信传输;设置15,配置终端运行环境和控制策略。主要功能模块的实现思路如下。
[0046] 实拍11提示两项菜单选项:拍照、摄像(即拍摄视频)。根据用户操作选择执行相应功能。该功能模块包含两个子模块,都需要利用红外测定被拍摄对象的对焦距离,然后按下面的景深计算公式
[0047]
[0048]
[0049]
[0050] 计算出景深的数值。其中,δ是容许弥散圆直径,f是镜头焦距,F是镜头的拍摄光圈值,L是对焦距离,ΔL1是前景深,ΔL2是后景深,ΔL是景深。如图1所示,对焦距离100是物距400与像距410之和,即L=u+v。
[0051] 参见图3,来确定差别对焦界限。为保持差别帧与主体帧的影像场景相关性,差别对焦平面(在前/在后)20/30与主体对焦平面10之间的距离,即差别对焦距离增量(在前/在后)200/300,最大绝对值应当是处于它们三者的景深串联相接时。由上面的景深计算公式可知,由于对焦距离不同,主体景深11与差别景深(在前/在后)21/31也各不相等。为了提高效率简化计算,就只计算主体景深11的值ΔL,而以ΔL近似代替差别景深(在前/在后)21/31的值,作为差别对焦距离增量的最大绝对值。于是,以主体对焦距离L为基点0,则差别对焦界限即为两个半开值域区间:[‑ΔL,0)和(0,ΔL]。分别在主体对焦平面的前面(右边)和后面(左边),差别对焦距离Lx的值域区间则分别为:[L‑ΔL,L)和(L,L+ΔL]。
[0052] 拍照111:调用操作系统功能,读取和生成照片图像数据,读取GPS/北斗定位数据,结合组成实拍照片和景深指纹包括定位数据的数据流。为了保证照片拍摄质量,仍然采用原有拍照功能调用,在选定对焦距离上,当按下快门(可以是触屏动作)时先拍下定格照片,接着按照策略指令决定的差别帧数和差别对焦增量序列,调用原有拍照功能拍摄异步生成差别帧序列,即景深指纹,对应一张照片。
[0053] 摄像112:调用操作系统功能,周期性(频度由帧频决定)读取和生成视频图像帧数据,还周期性(频度由预设的定位频度决定,例如1次/秒)读取GPS/北斗定位数据,组合成实拍影像和景深指纹包括定位数据的数据流。以同样的帧频,按照策略指令决定的差别帧始拍时刻、差别帧止拍时刻(由此也决定差别帧数)和差别对焦增量,执行差别对焦拍摄功能调用而同步生成差别帧序列,即景深指纹。
[0054] 实播12:打开实拍影像文件中的影像文件和随行文件,检验其完整有效性,包括验证数字签名,从随行文件解析出景深指纹和定位数据;打开播放窗口,利用现有播放插件播放影像,可选择打开非主窗口关联播放景深指纹并比较查看,还关联打开地图窗口,利用地图插件标示定位点轨迹;响应处理外部的暂停、播放、回退、快进、慢进、跳进操作,根据时间轴上的刻度位置改变,调整影像播放和地图定位;还处理窗口的缩放、转向、显隐、分隔、叠加等操作,响应调整影像播放和地图定位。
[0055] 应用13:基本应用为云存储,可扩展电子商务、人脸识别等。
[0056] 传输14:实现可信的通信协议,在终端与服务器之间连接传输。传输内容包括:实拍影像和景深指纹数据流(含定位数据)、策略指令、应用消息、管理信息。
[0057] 设置15:设置应用控制参数,包括设置策略指令,但当接收到服务器发出的策略指令,则以后者优先控制。
[0058] 第四方面,实施本发明提出的实景拍摄影像保全系统。
[0059] 定义服务器的模块功能,参见图6对照图4来说明。服务器2,是对图4中的服务器2的对应实现。其中的功能模块,传输21实现服务器与终端之间连接的通信协议;存储22、签名验证23,实现图4中的影像文件库单元21的管理;智能分析24,实现图4中的智能分析单元23;应用25,实现图4中的应用单元24;用户注册26,实现图4中的用户注册表22管理;服务管理27管理系统运行的策略参数。主要功能模块的实现思路如下。
[0060] 传输21:实现可信的通信协议,在服务器与终端之间连接传输。传输内容包括:实拍影像和景深指纹数据流(含定位数据)、策略指令、应用消息、管理信息。
[0061] 存储22:将从终端接收的实拍影像和景深指纹数据流(含定位数据),存储为实拍影像文件,每个实拍影像文件包含一个标准格式的影像文件和一个自定义格式的随行文件,关联纳入影像库中管理;或从库中检索文件,析取生成实拍影像和景深指纹数据流发送给用户终端;还能让用户决定和操作,将其指定的定位实拍影像文件执行定位数据脱敏剔除。用户访问操作需通过身份认证。系统对库中存储的实拍影像文件,实行约定的强制保护期,在此期间不可删除。
[0062] 签名验证23:采用非对称密码算法RSA,对实拍影像文件执行数字签名,以及对用户终端的验证请求提供签名验证服务。对实拍影像文件执行全文的数字签名,对随行文件除存储数字签名和检查和字段区域之外的全部数据范围执行,执行数字签名生成128字节的签名数据,保存到随行文件头中的数字签名字段,然后计算文件头中数据(检查和字段之前的全部数据)的检查和,保存到随行文件头中的检查和字段。
[0063] 智能分析24:于后台执行人工智能的相关鉴别算法过程,对用户终端传来的拍影像和景深指纹数据流或实拍影像文件,比对分析景深指纹与所对应的主体帧段之间的影像场景相关性,自动鉴别实拍影像场景真实可信度。
[0064] 应用25:基本应用为云存储,可扩展电子商务、人脸识别等。
[0065] 用户注册26:管理用户注册信息。
[0066] 服务管理27:管理系统运行的策略参数,还管理服务方式,把智能分析列入有偿增值服务。
[0067] 第五方面,本发明实施例的若干改进考虑。
[0068] 一是定义实拍影像文件的专用格式,放弃随行文件,集中存储实拍影像、景深指纹、定位数据和数字签名。二是由服务器端接收终端的包括主体对焦距离的拍摄参数,在服务器端计算景深,通过策略指令随机控制差别对焦距离,并记录接收和检查核对以防终端作假。三是相关鉴别算法的研究改进完善,提高自动分析比对效能。
[0069] 由上述实施例,还能够构建本发明应用于电子商务平台,通过视频交互为交易双方用户撮合远程现场交易,还能够同一个卖家同步面对多个买家(典型的如拍卖),能够直观而客观地明白交易场所之所在,保证交易背景的影像场景真实可信安全,避免欺诈。
[0070] 上述实施例,不应被理解为本发明的全部可能范围,也不应构成对本发明权利的限制。