图像传感器、成像装置、电子设备、图像处理系统及信号处理方法转让专利
申请号 : CN202010043131.3
文献号 : CN111669483B
文献日 : 2022-01-28
发明人 : 沼田肇
申请人 : OPPO广东移动通信有限公司
摘要 :
权利要求 :
1.一种图像传感器,其特征在于,包括:滤光片阵列,所述滤光片阵列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片,所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片;及像素阵列,所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;所述图像传感器用于:
将每个所述第一颜色滤光片对应的像素产生的电信号作为第一像素信号,所述第一像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值;
将所述第一滤光片组中的所述第二颜色滤光片对应的像素产生的电信号合并生成第二像素信号,所述第二像素信号用于表征作用于所述第二颜色滤光片对应像素的光线的第二颜色通道的值;
将所述第二滤光片组中的所述第三颜色滤光片对应的像素产生的电信号合并生成第三像素信号,所述第三像素信号用于表征作用于所述第三颜色滤光片对应像素的光线的第三颜色通道的值,所述第一颜色通道、所述第二颜色通道及所述第三颜色通道呈非拜耳阵列排布;及
处理所述第一像素信号、所述第二像素信号、及所述第三像素信号以生成中间图像信号,所述中间图像信号包括多个图像信号单元,每个所述图像信号单元均包括四个像素信号,两个所述像素信号具有第一颜色通道的值,一个所述像素信号具有第二颜色通道的值,一个所述像素信号具有第三颜色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列排布。
2.根据权利要求1所述的图像传感器,其特征在于,每个所述第一滤光片组中的所述滤光片的数量均为N*N,每个所述第二滤光片组中的所述滤光片的数量均为N*N,其中,N为大于或等于2的整数。
3.根据权利要求1或2所述的图像传感器,其特征在于,所述第一颜色滤光片为绿色滤光片或黄色滤光片。
4.根据权利要求3所述的图像传感器,其特征在于,所述第二颜色滤光片为红色滤光片,所述第三颜色滤光片为蓝色滤光片。
5.根据权利要求1所述的图像传感器,其特征在于,所述第一滤光片组与所述第二滤光片组在所述图像传感器的垂直方向和水平方向相邻布置。
6.根据权利要求1所述的图像传感器,其特征在于,在每个所述第一滤光片组中,多个所述第一颜色滤光片及多个所述第二颜色滤光片在所述图像传感器的垂直方向和水平方向相邻布置;
在每个所述第二滤光片组中,多个所述第一颜色滤光片及多个所述第三颜色滤光片在所述图像传感器的垂直方向和水平方向相邻布置。
7.根据权利要求1所述的图像传感器,其特征在于,所述图像传感器还包括微透镜阵列,所述微透镜阵列包括多个微透镜,每个所述微透镜对应一个所述滤光片及一个所述像素。
8.根据权利要求1所述的图像传感器,其特征在于,多个具有第一颜色通道的值的所述像素信号形成第一原始图像信号,多个具有第二颜色通道的值的所述像素信号形成第二原始图像信号,多个具有第三颜色通道的值的所述像素信号形成第三原始图像信号;所述图像传感器还用于:
根据多个具有第二颜色通道的值的所述像素信号对所述第二原始图像信号做插值处理,以使插值处理后的所述第二原始图像信号中的每一个像素信号均具有第二颜色通道的值;
根据多个具有第三颜色通道的值的所述像素信号对所述第三原始图像信号做插值处理,以使插值处理后的所述第三原始图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理所述第一原始图像信号、插值处理后的所述第二原始图像信号、及插值处理后的所述第三原始图像信号以生成所述中间图像信号。
9.根据权利要求1所述的图像传感器,其特征在于,每个所述滤光片组中的所述滤光片的数量均为N*N;
当N为2时,每个所述图像信号单元中的两个具有第一颜色通道的值的所述像素信号为对应的所述滤光片组中两个所述第一颜色滤光片对应的像素生成的两个所述第一像素信号;
当N为大于2的正整数时,每个所述图像信号单元中的两个具有第一颜色通道的值的所述像素信号根据对应的所述滤光片组中多个所述第一颜色滤光片对应的像素生成的多个所述第一像素信号计算得到。
10.一种成像装置,其特征在于,包括权利要求1‑9任意一项所述的图像传感器。
11.根据权利要求10所述的成像装置,其特征在于,所述中间图像信号中,多个具有第一颜色通道的值的所述像素信号形成第一中间图像信号,多个具有第二颜色通道的值的所述像素信号形成第二中间图像信号,多个具有第三颜色通道的值的所述像素信号形成第三中间图像信号;所述成像装置还包括处理器,所述处理器用于:根据多个具有第一颜色通道的值的所述像素信号对所述第一中间图像信号做插值处理,以使插值处理后的所述第一中间图像信号中的每一个像素信号均具有第一颜色通道的值;
根据多个具有第二颜色通道的值的所述像素信号对所述第二中间图像信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据多个具有第三颜色通道的值的所述像素信号对所述第三中间图像信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理插值处理后的所述第一中间图像信号、插值处理后的所述第二中间图像信号、及插值处理后的所述第三中间图像信号以生成彩色图像。
12.一种电子设备,其特征在于,包括成像装置,所述成像装置包括权利要求1‑9任意一项所述的图像传感器。
13.一种图像处理系统,其特征在于,包括电子设备,所述电子设备包括成像装置,所述成像装置包括权利要求1‑9任意一项所述的图像传感器。
14.一种信号处理方法,用于图像传感器,其特征在于,所述图像传感器包括滤光片阵列和像素阵列;所述滤光片阵列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片,所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片;所述像素阵列包括多个像素,每个所述像素对应所述滤光片阵列的一个滤光片,所述像素用于接收穿过对应的所述滤光片的光线以生成电信号;所述信号处理方法包括:将每个所述第一颜色滤光片对应的像素产生的电信号生成为第一像素信号,所述第一像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值;
将所述第一滤光片组中的所述第二颜色滤光片对应的像素产生的电信号合并生成第二像素信号,所述第二像素信号用于表征作用于所述第二颜色滤光片对应像素的光线的第二颜色通道的值;
将所述第二滤光片组中的所述第三颜色滤光片对应的像素产生的电信号合并生成第三像素信号,所述第三像素信号用于表征作用于所述第三颜色滤光片对应像素的光线的第三颜色通道的值,所述第一颜色通道、所述第二颜色通道及所述第三颜色通道呈非拜耳阵列排布;及
处理所述第一像素信号、所述第二像素信号、及所述第三像素信号以生成中间图像信号,所述中间图像信号包括多个图像信号单元,每个所述图像信号单元均包括四个像素信号,两个所述像素信号具有第一颜色通道的值,一个所述像素信号具有第二颜色通道的值,一个所述像素信号具有第三颜色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列排布。
15.根据权利要求14所述的信号处理方法,其特征在于,多个具有第一颜色通道的值的所述像素信号形成第一原始图像信号,多个具有第二颜色通道的值的所述像素信号形成第二原始图像信号,多个具有第三颜色通道的值的所述像素信号形成第三原始图像信号;所述处理所述第一像素信号、所述第二像素信号、及所述第三像素信号以生成中间图像信号,包括:
根据多个具有第二颜色通道的值的所述像素信号对所述第二原始图像信号做插值处理,以使插值处理后的所述第二原始图像信号中的每一个像素信号均具有第二颜色通道的值;
根据多个具有第三颜色通道的值的所述像素信号对所述第三原始图像信号做插值处理,以使插值处理后的所述第三原始图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理所述第一原始图像信号、插值处理后的所述第二原始图像信号、及插值处理后的所述第三原始图像信号以生成所述中间图像信号。
16.根据权利要求14所述的信号处理方法,其特征在于,每个所述滤光片组中的所述滤光片的数量均为N*N;
当N为2时,每个所述图像信号单元中的两个具有第一颜色通道的值的所述像素信号为对应的所述滤光片组中两个所述第一颜色滤光片对应的像素生成的两个所述第一像素信号;
当N为大于2的正整数时,每个所述图像信号单元中的两个具有第一颜色通道的值的所述像素信号根据对应的所述滤光片组中多个所述第一颜色滤光片对应的像素生成的多个所述第一像素信号计算得到。
17.根据权利要求14所述的信号处理方法,其特征在于,所述中间图像信号中,多个具有第一颜色通道的值的所述像素信号形成第一中间图像信号,多个具有第二颜色通道的值的所述像素信号形成第二中间图像信号,多个具有第三颜色通道的值的所述像素信号形成第三中间图像信号;所述信号处理方法还包括:根据多个具有第一颜色通道的值的所述像素信号对所述第一中间图像信号做插值处理,以使插值处理后的所述第一中间图像信号中的每一个像素信号均具有第一颜色通道的值;
根据多个具有第二颜色通道的值的所述像素信号对所述第二中间图像信号做插值处理,以使插值处理后的所述第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;
根据多个具有第三颜色通道的值的所述像素信号对所述第三中间图像信号做插值处理,以使插值处理后的所述第三中间图像信号中的每一个像素信号均具有第三颜色通道的值;及
处理插值处理后的所述第一中间图像信号、插值处理后的所述第二中间图像信号、及插值处理后的所述第三中间图像信号以生成彩色图像。
说明书 :
图像传感器、成像装置、电子设备、图像处理系统及信号处理
方法
技术领域
背景技术
阵列的形式排布,也可以呈非拜耳阵列的形式排布。但当滤光片阵列呈非拜耳阵列排布时,
图像传感器输出的图像信号不能直接被处理器处理。
发明内容
滤光片和多个第二颜色滤光片。所述第二滤光片组包括数量相同的多个所述第一颜色滤光
片和多个第三颜色滤光片。所述像素阵列包括多个像素。每个所述像素对应所述滤光片阵
列的一个滤光片。所述像素用于接收穿过对应的所述滤光片的光线以生成电信号。所述图
像传感器用于:将每个所述第一颜色滤光片对应的像素产生的电信号生成为第一像素信
号,所述第一像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜色通
道的值;将所述第一滤光片组中的所述第二颜色滤光片对应的像素产生的电信号合并生成
第二像素信号,所述第二像素信号用于表征作用于所述第二颜色滤光片对应像素的光线的
第一颜色通道的值;将所述第二滤光片组中的所述第三颜色滤光片对应的像素产生的电信
号合并生成第三像素信号,所述第三像素信号用于表征作用于所述第三颜色滤光片对应像
素的光线的第三颜色通道的值;处理所述第一像素信号、所述第二像素信号、及所述第三像
素信号以生成中间图像信号,所述中间图像信号包括多个图像信号单元,每个所述图像信
号单元均包括四个像素信号,两个所述像素信号具有第一颜色通道的值,一个所述像素信
号具有第二颜色通道的值,一个所述像素信号具有第三颜色通道的值,四个所述像素信号
对应的颜色通道呈拜耳阵列排布。
组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片。所述第二滤光片组包括数
量相同的多个所述第一颜色滤光片和多个第三颜色滤光片。所述像素阵列包括多个像素。
每个所述像素对应所述滤光片阵列的一个滤光片。所述像素用于接收穿过对应的所述滤光
片的光线以生成电信号。所述图像传感器用于:将每个所述第一颜色滤光片对应的像素产
生的电信号生成为第一像素信号,所述第一像素信号用于表征作用于所述第一颜色滤光片
对应像素的光线的第一颜色通道的值;将所述第一滤光片组中的所述第二颜色滤光片对应
的像素产生的电信号合并生成第二像素信号,所述第二像素信号用于表征作用于所述第二
颜色滤光片对应像素的光线的第一颜色通道的值;将所述第二滤光片组中的所述第三颜色
滤光片对应的像素产生的电信号合并生成第三像素信号,所述第三像素信号用于表征作用
于所述第三颜色滤光片对应像素的光线的第三颜色通道的值;处理所述第一像素信号、所
述第二像素信号、及所述第三像素信号以生成中间图像信号,所述中间图像信号包括多个
图像信号单元,每个所述图像信号单元均包括四个像素信号,两个所述像素信号具有第一
颜色通道的值,一个所述像素信号具有第二颜色通道的值,一个所述像素信号具有第三颜
色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列排布。
二滤光片组,所述第一滤光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光
片。所述第二滤光片组包括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片。
所述像素阵列包括多个像素。每个所述像素对应所述滤光片阵列的一个滤光片。所述像素
用于接收穿过对应的所述滤光片的光线以生成电信号。所述图像传感器用于:将每个所述
第一颜色滤光片对应的像素产生的电信号生成为第一像素信号,所述第一像素信号用于表
征作用于所述第一颜色滤光片对应像素的光线的第一颜色通道的值;将所述第一滤光片组
中的所述第二颜色滤光片对应的像素产生的电信号合并生成第二像素信号,所述第二像素
信号用于表征作用于所述第二颜色滤光片对应像素的光线的第一颜色通道的值;将所述第
二滤光片组中的所述第三颜色滤光片对应的像素产生的电信号合并生成第三像素信号,所
述第三像素信号用于表征作用于所述第三颜色滤光片对应像素的光线的第三颜色通道的
值;处理所述第一像素信号、所述第二像素信号、及所述第三像素信号以生成中间图像信
号,所述中间图像信号包括多个图像信号单元,每个所述图像信号单元均包括四个像素信
号,两个所述像素信号具有第一颜色通道的值,一个所述像素信号具有第二颜色通道的值,
一个所述像素信号具有第三颜色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列
排布。
列包括多个第一滤光片组和多个第二滤光片组,所述第一滤光片组包括数量相同的多个第
一颜色滤光片和多个第二颜色滤光片。所述第二滤光片组包括数量相同的多个所述第一颜
色滤光片和多个第三颜色滤光片。所述像素阵列包括多个像素。每个所述像素对应所述滤
光片阵列的一个滤光片。所述像素用于接收穿过对应的所述滤光片的光线以生成电信号。
所述图像传感器用于:将每个所述第一颜色滤光片对应的像素产生的电信号生成为第一像
素信号,所述第一像素信号用于表征作用于所述第一颜色滤光片对应像素的光线的第一颜
色通道的值;将所述第一滤光片组中的所述第二颜色滤光片对应的像素产生的电信号合并
生成第二像素信号,所述第二像素信号用于表征作用于所述第二颜色滤光片对应像素的光
线的第一颜色通道的值;将所述第二滤光片组中的所述第三颜色滤光片对应的像素产生的
电信号合并生成第三像素信号,所述第三像素信号用于表征作用于所述第三颜色滤光片对
应像素的光线的第三颜色通道的值;处理所述第一像素信号、所述第二像素信号、及所述第
三像素信号以生成中间图像信号,所述中间图像信号包括多个图像信号单元,每个所述图
像信号单元均包括四个像素信号,两个所述像素信号具有第一颜色通道的值,一个所述像
素信号具有第二颜色通道的值,一个所述像素信号具有第三颜色通道的值,四个所述像素
信号对应的颜色通道呈拜耳阵列排布。
光片组包括数量相同的多个第一颜色滤光片和多个第二颜色滤光片。所述第二滤光片组包
括数量相同的多个所述第一颜色滤光片和多个第三颜色滤光片。所述像素阵列包括多个像
素。每个所述像素对应所述滤光片阵列的一个滤光片。所述像素用于接收穿过对应的所述
滤光片的光线以生成电信号。所述信号处理方法包括:将每个所述第一颜色滤光片对应的
像素产生的电信号生成为第一像素信号,所述第一像素信号用于表征作用于所述第一颜色
滤光片对应像素的光线的第一颜色通道的值;将所述第一滤光片组中的所述第二颜色滤光
片对应的像素产生的电信号合并生成第二像素信号,所述第二像素信号用于表征作用于所
述第二颜色滤光片对应像素的光线的第一颜色通道的值;将所述第二滤光片组中的所述第
三颜色滤光片对应的像素产生的电信号合并生成第三像素信号,所述第三像素信号用于表
征作用于所述第三颜色滤光片对应像素的光线的第三颜色通道的值;处理所述第一像素信
号、所述第二像素信号、及所述第三像素信号以生成中间图像信号,所述中间图像信号包括
多个图像信号单元,每个所述图像信号单元均包括四个像素信号,两个所述像素信号具有
第一颜色通道的值,一个所述像素信号具有第二颜色通道的值,一个所述像素信号具有第
三颜色通道的值,四个所述像素信号对应的颜色通道呈拜耳阵列排布。
列排布的中间图像信号至处理器,该中间图像可以直接被处理器处理,而无需在处理器中
通过软件来进行非拜耳阵列排布到拜耳阵列排布的转换,可以减少图像处理所需的时间,
提升图像的处理速度。
附图说明
具体实施方式
考附图描述的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申
请的实施方式的限制。
112。第一滤光片组111 包括数量相同的多个第一颜色滤光片A和多个第二颜色滤光片B。第
二滤光片组112包括数量相同的多个第一颜色滤光片A和多个第三颜色滤光片C。像素阵列
12包括多个像素120。每个像素120对应滤光片阵列11的一个滤光片110。像素120用于接收
穿过对应的滤光片110的光线以生成电信号。图像传感器用10于:将每个第一颜色滤光片A
对应的像素120产生的电信号生成为第一像素信号;将第一滤光片组111中的第二颜色滤光
片B对应的像素120产生的电信号合并生成第二像素信号;将第二滤光片组112 中的第三颜
色滤光片C对应的像素120产生的电信号合并生成第三像素信号;处理第一像素信号、第二
像素信号、及第三像素信号以生成中间图像信号。其中,第一像素信号用于表征作用于第一
颜色滤光片A 对应像素120的光线的第一颜色通道的值,第二像素信号用于表征作用于第
二颜色滤光片B对应像素120 的光线的第二颜色通道的值,第三像素信号用于表征作用于
第三颜色滤光片C对应像素120的光线的第三颜色通道的值。中间图像信号包括多个图像信
号单元U,每个图像信号单元U均包括四个像素信号,两个像素信号具有第一颜色通道的值,
一个像素信号具有第二颜色通道的值,一个像素信号具有第三颜色通道的值,四个像素信
号对应的颜色通道呈拜耳阵列排布。
依次设置。
数量相同的多个第一颜色滤光片A和多个第三颜色滤光片C。
第二滤光片组112。每个第一滤光片组111包括数量相同的多个第一颜色滤光片A和多个第
二颜色滤光片B。每个第二滤光片组112 包括数量相同的多个第一颜色滤光片A和多个第三
颜色滤光片C。
R,第三颜色滤光片C 可以为蓝色滤光片Bu;再例如,第一颜色滤光片A可以为黄色滤光片Y,
第二颜色滤光片B可以为红色滤光片R,第三颜色滤光片C可以为蓝色滤光片Bu。第一颜色滤
光片A、第二颜色滤光片B、第三颜色滤光片C的颜色组成方式不限于上述两个示例所示的组
成方式。
7、8、9、10、 15、20等等,在此不作限制。
向相邻布置。每个第二滤光片组112中的多个滤光片110的排布方式可以是:多个第一颜色
滤光片A及多个第三颜色滤光片C在图像传感器10的垂直方向和水平方向相邻布置。当然,
每个第一滤光片组111中多个滤光片110的排布方式并不限于此,每个第二滤光片组112中
多个滤光片110的排布方式也不限于此。
11。请参阅图2,部分滤光片110的排布方式为:
为2*2。
按照第一滤光片组 111、第二滤光片组112的顺序或第二滤光片组112、第一滤光片组111的
顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111、第二滤光片组
112的顺序或第二滤光片组112、第一滤光片组111的顺序呈周期性排列。换言之,第一滤光
片组111和第二滤光片组112在垂直方向V和水平方向H上均交替排列。
色滤光片B交替排列,且在水平方向H上,第一颜色滤光片A和第二颜色滤光片B交替排列。在
第二滤光片组112中,多个第一颜色滤光片A及多个第三颜色滤光片C在垂直方向V和水平方
向H上相邻布置。也即,在垂直方向V 上,第一颜色滤光片A和第三颜色滤光片C交替排列,且
在水平方向H上,第一颜色滤光片A和第三颜色滤光片C交替排列。
11。请参阅图3,部分滤光片110的排布方式为:
为3*3。
按照第一滤光片组 111、第二滤光片组112的顺序或第二滤光片组112、第一滤光片组111的
顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111、第二滤光片组
112的顺序或第二滤光片组112、第一滤光片组111的顺序呈周期性排列。换言之,第一滤光
片组111和第二滤光片组112在垂直方向V和水平方向H上均交替排列。
色滤光片B交替排列,且在水平方向H上,第一颜色滤光片A和第二颜色滤光片B交替排列。在
第二滤光片组112中,多个第一颜色滤光片A及多个第三颜色滤光片C在垂直方向V和水平方
向H上相邻布置。也即,在垂直方向V 上,第一颜色滤光片A和第三颜色滤光片C交替排列,且
在水平方向H上,第一颜色滤光片A和第三颜色滤光片C交替排列。
11。请参阅图4,部分滤光片110的排布方式为:
为5*5。
按照第一滤光片组 111、第二滤光片组112的顺序或第二滤光片组112、第一滤光片组111的
顺序呈周期性排列,多个滤光片组113在水平方向H上按照第一滤光片组111、第二滤光片组
112的顺序或第二滤光片组112、第一滤光片组111的顺序呈周期性排列。换言之,第一滤光
片组111和第二滤光片组112在垂直方向V和水平方向H上均交替排列。
色滤光片B交替排列,且在水平方向H上,第一颜色滤光片A和第二颜色滤光片B交替排列。在
第二滤光片组112中,多个第一颜色滤光片A及多个第三颜色滤光片C在垂直方向V和水平方
向H上相邻布置。也即,在垂直方向V 上,第一颜色滤光片A和第三颜色滤光片C交替排列,且
在水平方向H上,第一颜色滤光片A和第三颜色滤光片C交替排列。
个第二颜色滤光片B对应的多个像素120产生的电信号均可以合并生成第二像素信号。每一
个第二滤光片组112中多个第三颜色滤光片C对应的多个像素120产生的电信号均可以合并
生成第三像素信号。
像素120能够接收穿过第一颜色滤光片A的光线以生成两个电信号,另外两个像素120能够
接收穿过第二颜色滤光片B的光线以生成两个电信号。图像传感器10将接收穿过第一颜色
滤光片A的光线的两个像素120生成的电信号直接作为两个第一像素信号,并将接收穿过第
二颜色滤光片B的光线的两个像素120生成的电信号合并以得到一个第二像素信号。其中,
第一像素信号用于表征作用于一个第一颜色滤光片A对应像素120 的光线的第一颜色通道
的值,第二像素信号用于表征作用于多个(图5所示实施例为两个)第二颜色滤光片B对应像
素120的光线的第二颜色通道的值。第二滤光片组112对应的四个像素120中,两个像素 120
能够接收穿过第一颜色滤光片A的光线以生成两个电信号,另外两个像素120能够接收穿过
第三颜色滤光片C的光线以生成两个电信号。图像传感器10将接收穿过第一颜色滤光片A的
光线的两个像素120生成的电信号直接作为两个第一像素信号,并将接收穿过第三颜色滤
光片C的光线的两个像素120 生成的电信号合并以得到一个第三像素信号。其中,第三像素
信号用于表征作用于多个(图5所示实施例为两个)第三颜色滤光片C对应像素120的光线的
第二颜色通道的值。
第三颜色通道的值的像素信号可以形成第三原始图像信号。图像传感器10可以对第一原始
图像信号、第二原始图像信号、及第三原始图像信号进行处理以输出中间图像信号。
第二像素信号形成第二原始图像信号,多个具有第三颜色通道的值的第三像素信号形成第
三原始图像信号。图像传感器10根据多个具有第二颜色通道的值的第二像素信号对第二原
始图像做插值处理,以使插值处理后的第二原始图像信号中的每一个像素信号均具有第二
颜色通道的值。图像传感器10根据多个具有第三颜色通道的值的第三像素信号对第三原始
图像信号做插值处理,以使插值处理后的第三原始图像信号中的每一个像素信号均具有第
三颜色通道的值。图像传感器10处理第一原始图像信号、插值处理后的第二原始图像信号、
及插值处理后的第三原始图像信号以生成中间图像信号。
感器10(图1所示)需要对第二原始图像信号M2进行插值处理,以使得插值处理后的第二原
始图像信号M2’中的每一个像素信号均具有第二颜色通道的值。图像传感器10还需要对第
三原始图像信号M3进行插值处理,以使得插值处理后的第三原始图像信号M3’中的每一个
像素信号均具有第三颜色通道的值。第三原始图像信号M3 的插值过程与第二原始图像信
号M2的插值过程一致,本申请实施方式以第二原始图像M2的插值过程为例进行说明。如图7
所示,第二原始图像信号M2中,不具有第二颜色通道的值的像素信号包括三类:(1) 不具有
第二颜色通道的像素信号具有两个与其相邻的具有第二颜色通道的值的像素信号(即第二
像素信号);(2)不具有第二颜色通道的像素信号具有三个与其相邻的具有第二颜色通道的
值的像素信号;(3) 不具有第二颜色通道的像素信号具有四个与其相邻的具有第二颜色通
道的值的像素信号。需要说明的是,多个像素信号相邻指的是多个像素信号对应的像素120
(图1所示)相邻。那么,示例地,对于第一类不具有第二颜色通道的值的像素信号,图像传感
器10可以将与其相邻的两个第二像素信号的平均值作为该像素信号的第二颜色通道的值。
对于第二类不具有第二颜色通道的值的像素信号,图像传感器10可以将与其相邻的三个第
二像素信号的平均值作为该像素信号的第二颜色通道的值。对于第三类不具有第二颜色通
道的值的像素信号,图像传感器10可以将与其相邻的四个第二像素信号的平均值作为该像
素信号的第二颜色通道的值。如此,每个不具有第二颜色通道的值的像素信号的第二颜色
通道的值均可以被插值计算得到,插值处理后的第二原始图像信号M2’中每一个像素信号
均可以具有第二颜色通道的值。在其他实施例中,如图8所示,图像传感器10可以将第二原
始图像信号M2中位于边缘的两行像素信号及两列像素信号归并为边距区域的像素信号,边
距区域以外的像素信号归并为目标区域的像素信号(图8中虚线框指示的区域),图像传感
器10只对目标区域中的不具有第二颜色通道的值的像素信号进行插值处理,此时,目标区
域中的不具有第二颜色通道的值的像素信号均属于第二类的不具有第二颜色通道的值的
像素信号,对于目标区域中的每个不具有第二颜色通道的值的像素信号,图像传感器可以
将与其相邻的四个第二像素信号的平均值作为该像素信号的第二颜色通道的值。如此,插
值处理后的第二原始图像信号M2’中每一个像素信号均可以具有第二颜色通道的值。虽然
图8所示的插值处理后的第二原始图像信号M2’的分辨率相对于图7所示的插值处理后的第
二原始图像信号M2’的分辨率有所降低,但由于图8 所示的插值处理后的第二原始图像信
号M2’中经过插值得到的像素信号均是根据四个与其相邻的像素信号计算得到的,插值的
结果更为准确。
像M2’、及插值处理后的第三原始图像信号M3’进行处理以得到中间图像信号。示例地,如图
9所示,以第一原始图像信号M1为基准,第一原始图像信号M1的每一个2*2区域中,均包括两
个第一像素信号,将与该2*2区域对应的插值处理后的第二原始图像信号M2’中的第二像素
信号补入该2*2区域中,并将与该2*2区域对应的插值处理后的第三原始图像信号M3’中的
第三像素信号补入该2*2区域中。如此,每个2*2区域中即包括两个第二像素信号、一个第二
像素信号、及一个第三像素信号,每个2*2区域构成中间图像信号I中的一个图像信号单元
U,每个图像信号单元U中四个像素信号对应的颜色通道的值均呈拜耳阵列排布。由此,图像
传感器10即可输出颜色通道呈拜耳阵列排布的中间图像信号至处理器20(图11所示),该中
间图像信号可以被处理器20直接处理。
通道的值的第二像素信号形成第二原始图像信号,多个具有第三颜色通道的值的第三像素
信号形成第三原始图像信号。图像传感器10根据多个具有第二颜色通道的值的第二像素信
号对第二原始图像做插值处理,以使插值处理后的第二原始图像信号中的每一个像素信号
均具有第二颜色通道的值。图像传感器10根据多个具有第三颜色通道的值的第三像素信号
对第三原始图像信号做插值处理,以使插值处理后的第三原始图像信号中的每一个像素信
号均具有第三颜色通道的值。图像传感器10处理第一原始图像信号、插值处理后的第二原
始图像信号、及插值处理后的第三原始图像信号以生成中间图像信号。
像素信号,多个第二像素信号形成第二原始图像信号M2。每个第二滤光片组112中的四个第
三颜色滤光片C对应的像素120生成的四个电信号合并为一个第三像素信号,多个第三像素
信号形成第三原始图像信号M3。每个滤光片组113 中,五个第一颜色滤光片A对应的像素
120生成的五个电信号(也即第一像素信号)合并为两个具有第一颜色通道的值的像素信
号,多个具有第一颜色通道的值的像素信号形成第一原始图像信号M1。在获得第一原始图
像信号M1、第二原始图像信号M2、及第三原始图像信号M3后,图像传感器10可以对第二原始
图像信号M2及第三原始图像信号M3进行插值处理。图10所示的第二原始图像信号M2及第三
原始图像信号M3的插值过程与图6至图8所示的第二原始图像信号M2及第三原始图像信号
M3的插值过程相同,在此不再赘述。在获得第一原始图像信号、插值处理后的第二原始图
像、及插值处理后的第三原始图像信号时,图像传感器10可以采用图9所示的处理方式对第
一原始图像信号、插值处理后的第二原始图像、及插值处理后的第三原始图像信号进行处
理以得到中间图像信号。每个中间图像信号均包括多个图像信号单元。每个图像信号单元
均包括两个具有第一颜色通道的值的像素信号(由多个第一像素信号计算得到)、一个具有
第二颜色通道的值的像素信号(即第二像素信号)、一个具有第三颜色通道的值的像素信号
(即第三像素信号)。由此,图像传感器10即可输出颜色通道呈拜耳阵列排布的中间图像信
号至处理器20(图11所示),该中间图像信号可以被处理器20直接处理。
像可以直接被处理器20处理,而无需在处理器20中通过软件来进行非拜耳阵列排布到拜耳
阵列排布的转换,可以减少图像处理所需的时间,提升图像的处理速度。
较高的分辨率,有利于提升图像传感器10获取的图像的清晰度。
第二像素信号、每个第二滤光片组112中多个第三颜色滤光片C对应的像素120合并输出第
三像素信号的信号输出方式可以应用于静态模式或动态模式下。其中,静态模式指的是拍
摄静态图像的模式,动态模式指的是预览模式或录像模式。当此种输出方式应用于静态模
式下时,可以提升图像传感器10获取的图像的清晰度;当此种输出方式应用于动态模式下
时,不仅可以提升图像传感器10获取的图像的清晰度,还可以提升图像传感器10获取的图
像的帧率。
形成第二中间图像信号,多个具有第三颜色通道的值的像素信号形成第三中间图像信号。
处理器20可以用于:根据多个具有第一颜色通道的值的像素信号对第一中间图像信号做插
值处理,以使插值处理后的第一中间图像信号中的每一个像素信号均具有第一颜色通道的
值;根据多个具有第二颜色通道的值的像素信号对第二中间图像信号做插值处理,以使插
值处理后的第二中间图像信号中的每一个像素信号均具有第二颜色通道的值;根据多个具
有第三颜色通道的值的像素信号对第三中间图像信号做插值处理,以使插值处理后的第三
中间图像信号中的每一个像素信号均具有第三颜色通道的值;处理插值处理后的第一中间
图像信号、插值处理后的第二中间图像信号、及插值处理后的第三中间图像信号以生成彩
色图像。
数为2*2时,每个具有第一颜色通道的值的像素信号为一个第一像素信号;当图像传感器10
的滤光片阵列11中,每个滤光片组113中滤光片110的个数为N*N,且N为大于2的正整数时,
每个具有第一颜色通道的值的像素信号为根据多个第一像素信号计算得到的像素信号。多
个具有第二颜色通道的值的像素信号(即第二像素信号)形成第二中间图像信号I2。多个具
有第三颜色通道的值的像素信号(即第三像素信号)形成第三中间图像信号I3。图像传感器
10需要对第一中间图像信号I1、第二中间图像I2、及第三中间图像I3进行插值处理。其中,
第一中间图像信号I1的插值过程与图6至图8所示的第二原始图像M2的插值过程相同,在此
不再赘述。第三中间图像信号I3与第二中间图像信号I2的插值过程相同,本申请实施方式
以第二中间图像信号I2的插值过程为例进行说明。如图13所示,第二中间图像I2中不具有
第二颜色通道的值的像素信号包括三类:①在水平方向及垂直方向上均不存在与该不具有
第二颜色通道的值的像素信号相邻的具有第二颜色通道的值的像素信号;②仅在水平方向
存在与该不具有第二颜色通道的值的像素信号相邻的两个具有第二颜色通道的值的像素
信号;③仅在垂直方向存在与该不具有第二颜色通道的值的像素信号相邻的两个具有第二
颜色通道的值的像素信号。那么,对于每一类不具有第二颜色通道的值的像素信号,以该不
具有第二颜色通道的值的像素信号为中心点向四周扩展预定区域,并基于该预定区域中的
多个具有第二颜色通道的值的像素信号来辅助该不具有第二颜色通道的值的像素信号的
插值。示例地,对于第一类不具有第二颜色通道的值的像素信号,如图13所示的像素信号
P12,以P12为中心点向四周扩散得到3*3尺寸的预定区域,该预定区域中包括在对角方向或
反对角方向上与P12相邻的四个具有第二颜色通道的值的像素信号,分别为P01、P03、P21及
P23,则P12=(P01+P03+P21+P23)/4。示例地,对于第二类不具有第二颜色通道的值的像素
信号,如图13所示的像素信号P22,以P22为中心点向四周扩散得到5*3尺寸的预定区域,该
预定区域中包括六个具有第二颜色通道的值的像素信号,分别为P01、P03、P21、P23、P41及
P43,则P22=(1*P01+1*P03+6*P21+6*P23+1*P41+1*P43)/6,其中,每个具有第二颜色通道
的值的像素信号前面的系数表示的是权重,距离P22越近的具有第二颜色通道的值的像素
信号具有更高的权重。示例地,对于第三类不具有第二颜色通道的值的像素信号,如图12所
示的像素信号P13,以P13为中心点向四周扩散得到3*5尺寸的预定区域,该预定区域中包括
六个具有第二颜色通道的值的像素信号,分别为P01、P03、P05、P21、P23及P25,则P13= (1*
P01+6*P03+1*P05+1*P21+6*P23+1*P25)/6,其中,每个具有第二颜色通道的值的像素信号
前面的系数表示的是权重,距离P13越近的具有第二颜色通道的值的像素信号具有更高的
权重。如此,图像传感器10可以计算出第一中间图像信号I1中每一个不具有第一颜色通道
的值的像素信号的第一颜色通道的值,还可以计算出第二中间图像信号I2中每一个不具有
第二颜色通道的值的像素信号的第二颜色通道的值,还可以计算出第三中间图像信号I3中
每一个不具有第三颜色通道的值的像素信号的第三颜色通道的值。
图像信号I1’、插值处理后的第二中间图像信号I2’、及插值处理后的第三中间图像信号I3’
进行融合处理以生成彩色图像。彩色图像中的每个像素信号均具有第一颜色通道的值、第
二颜色通道的值、及第三颜色通道的值。需要说明的是,图12中的A+B+C仅表示每个像素信
号由第一颜色通道的值、第二颜色通道的值及第三通道的值组成,并不表示三个颜色通道
的值的直接相加。
无人船)等,在此不作限制。电子设备1000包括成像装置100。成像装置100包括上述任意一
个实施方式所述的图像传感器10。电子设备1000还包括处理器20。电子设备1000的处理器
20可以执行与图11所示成像装置100 中的处理器20所能执行的功能相同的功能,在此不做
赘述。
述的图像传感器10。图像处理系统10000还包括处理器20。图像处理系统10000的处理器20
可以执行与图11所示成像装置100中的处理器20所能执行的功能相同的功能,在此不做赘
述。
约成像装置100或电子设备 1000的功耗。
第一滤光片组111和多个第二滤光片组112。第一滤光片组111包括数量相同的多个第一颜
色滤光片A和多个第二颜色滤光片B。第二滤光片组112包括数量相同的多个第一颜色滤光
片A和多个第三颜色滤光片C。像素阵列12包括多个像素120。每个像素120对应滤光片阵列
11的一个滤光片110。像素120用于接收穿过对应的滤光片 110的光线以生成电信号。信号
处理方法包括:
第二颜色通道的值;
第三颜色通道的值;及
信号具有第一颜色通道的值,一个像素信号具有第二颜色通道的值,一个像素信号具有第
三颜色通道的值,四个像素信号对应的颜色通道呈拜耳阵列排布。
M2,多个具有第三颜色通道的值的像素信号形成第三原始图像信号M3。步骤04处理第一像
素信号、第二像素信号、及第三像素信号以生成中间图像信号,包括:
及
值的像素信号为对应的滤光片组113中两个第一颜色滤光片A对应的像素120生成的两个第
一像素信号。当N为大于2的正整数时,每个图像信号单元U中的两个具有第一颜色通道的值
的像素信号根据对应的滤光片组113中多个第一颜色滤光片A对应的像素120生成的多个第
一像素信号计算得到。
间图像信号I2,多个具有第三颜色通道的值的像素信号形成第三中间图像信号I3。信号处
理方法还包括:
及
元。图17为一个实施例中图像处理电路的示意图。如图17所示,为便于说明,仅示出与本申
请实施例相关的图像处理技术的各个方面。
的电子设备1000。
装置910可包括具有一个或多个透镜912和图像传感器914的照相机。其中,图像传感器914
可以是图像传感器10(图1所示)。图像传感器914可包括滤光片阵列,图像传感器914可获取
由图像传感器914的每个像素捕捉的光强度和波长信息,并提供可由ISP处理器940处理的
一组图像数据,例如多个第一像素信号、多个第二像素信号、及多个第三像素信号组成的图
像数据。传感器920(如陀螺仪)可基于传感器920接口类型把采集的图像处理的参数(如防
抖参数)提供给ISP处理器940。传感器920接口可以利用SMIA(Standard Mobile Imaging
Architecture,标准移动成像架构)接口、其它串行或并行照相机接口或上述接口的组合。
器930中。
收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
理。图像存储器930可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储
器,并可包括DMA(Direct Memory Access,直接存储器存取)特征。
具有第一中间图像信号、第二中间图像信号、及第三中间图像信号以获取彩色图像等。处理
后的图像数据(例如彩色图像)可发送给图像存储器930,以便在被显示之前进行另外的处
理。ISP处理器940从图像存储器930接收处理数据,并对所述处理数据进行原始域中以及
RGB和YCbCr颜色空间中的图像数据处理。ISP处理器940处理后的图像数据可输出给显示器
970,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一
步处理。此外,ISP处理器940的输出还可发送给图像存储器930,且显示器970可从图像存储
器930读取图像数据。在一个实施例中,图像存储器930可被配置为实现一个或多个帧缓冲
器。此外,ISP处理器940的输出可发送给编码器/解码器960,以便编码/解码图像数据。编码
的图像数据可被保存,并在显示于显示器970设备上之前解压缩。编码器/解码器960可由
CPU或GPU或协处理器实现。
统计信息。控制逻辑器 950可包括执行一个或多个例程(如固件)的处理器和/或微控制器,
一个或多个例程可根据接收的统计数据,确定成像装置910的控制参数及ISP处理器940的
控制参数。例如,成像装置910的控制参数可包括传感器920控制参数(例如增益、曝光控制
的积分时间、防抖参数等)、照相机闪光控制参数、透镜912控制参数(例如聚焦或变焦用焦
距)、或这些参数的组合。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理
期间)的增益水平和色彩校正矩阵,以及透镜912阴影校正参数。
体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,
对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结
构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外,在
不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及
不同实施例或示例的特征进行结合和组合。
分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺
序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请
的实施例所属技术领域的技术人员所理解。
上述实施方式进行变化、修改、替换和变型。