[go: up one dir, main page]

CN104835129B - 一种使用局部窗口视觉注意提取的双波段图像融合方法 - Google Patents

一种使用局部窗口视觉注意提取的双波段图像融合方法 Download PDF

Info

Publication number
CN104835129B
CN104835129B CN201510160841.3A CN201510160841A CN104835129B CN 104835129 B CN104835129 B CN 104835129B CN 201510160841 A CN201510160841 A CN 201510160841A CN 104835129 B CN104835129 B CN 104835129B
Authority
CN
China
Prior art keywords
mrow
image
vision attention
msub
fusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510160841.3A
Other languages
English (en)
Other versions
CN104835129A (zh
Inventor
赵巨峰
张钰
高秀敏
辛青
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanling County Construction Investment Co Ltd
Original Assignee
Hangzhou Dianzi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Dianzi University filed Critical Hangzhou Dianzi University
Priority to CN201510160841.3A priority Critical patent/CN104835129B/zh
Publication of CN104835129A publication Critical patent/CN104835129A/zh
Application granted granted Critical
Publication of CN104835129B publication Critical patent/CN104835129B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)

Abstract

本发明公开了一种使用局部窗口视觉注意提取的双波段图像融合方法,包括如下步骤:(1)不同窗口尺度下的视觉注意图的提取;(2)视觉注意图基础上的融合。本发明方法针对可见光、红外双波段图像融合,考虑局部窗口对图像视觉注意图的提取,并设计多尺度框架下范围内的视觉注意图获取;进而利用简便的结合视觉注意图权重的方法实现不同尺度下的图像融合,并最终计算得到增强融合结果。在本发明方法中,只要输入已经配准的一幅红外图像与一幅可见光图像,即可迅速获取较好的增强融合图像。本发明方法可应用于多波段遥感成像、目标探测等等,可应用于双波段甚至多波段图像的增强融合。

Description

一种使用局部窗口视觉注意提取的双波段图像融合方法
技术领域
本发明涉及图像处理技术,尤其涉及一种使用局部窗口视觉注意提取的双波段图像融合方法。
背景技术
图像融合,简单意思就是指对工作于同一场景下的不同传感器所得图像进行综合--信息的统一表达,通过图像融合可以实现比单幅原图像具有更丰富的信息。图像融合作为现代成像技术的拓展手段,在军事探测、遥感测量、安全监控等诸多领域都有广泛应用。在不同波段成像中,各波段含有不同的特征信息,这就需要图像融合方法将两者信息综合起来。比如红外图像能突出重要的目标区域,而可见光图像包含丰富的细节信息,利用双波段融合方法可将两者的信息综合反映到一幅图像中,以便于人们观察。双波段图像融合方法是实现不同传感器信息综合的有效手段。
双波段图像融合旨在综合不同波段的图像信息,国内外学者提出过多种图像融合的方法与理论,很多方法能有效提取图像信息,融合结果具有良好的纹理及对比度特征,但易丢失细节。以多分辨率方法为例,其在计算中可能会引起吉布斯现象,并且计算速度也非常慢。
现有方法,在考虑视觉观察要求方面与计算速度方面综合不佳,因此,开发计算速度快,又能充分反映视觉观察要求(视觉感受好,信息保留量大)的双波段图像融合方法是当务之急。
发明内容
本发明提出一种使用局部窗口视觉注意提取的双波段图像融合方法,可从红外、可见光双波段图像,直接通过尺度选择下的视觉注意图计算,并进一步得到增强融合后的图像。
本发明的主要思路是:
1、局部图像灰度差异计算实现视觉注意图的提取
类比人眼视觉特性,本发明通过局部灰度差异法,凸显潜在的视觉感兴趣区域,产生一个视觉注意图V。在V中,其数值在[0,1]之间,如果该图中某一像素处越大则表示人眼对该处的注意程度越高。
本发明认为,在一定空间范围内,相同灰度值的像素与区域具有近似的视觉感受值。本发明同时认为,空间距离不同,对于视觉感受的贡献也是不同的,本发明具体包括以下步骤:
1、不同窗口尺度下的视觉注意图的提取,
输入双波段图像,即IR(红外图像)与VI(可见光图像);
(1-a)、在局部区域内,定义图像f在像素(i,j)处的视觉注意程度值 V(i,j)如下:
在式(1)中,Ω是图像f中的某一个窗口区域,其尺寸为M×M,而(i,j)为区域Ω的中心即ΩM;fxy、fij表示f在(x,y)处与(i,j)处的灰度值;D(·)是灰度差异函数,其衡量的就是像素之间的灰度距离:D(fij,fxy)=|fij-fxy|;
此外,上式中的w(ij,xy)代表空间权重,定义为:
其中Ds(ij,xy)表示像素(x,y)与像素(i,j)的空间距离(用像素的数量表示),而σ2称为伸缩系数,σ2越大,该权重的影响范围会更大,距离越远的像素(x,y) 对当前像素(i,j)的影响与贡献越多。从这个式子可以发现,(x,y)离(i,j)越近,fxy对fij的影响越大,这就对应于:空间距离不同,对于视觉感受的贡献也是不同的。
采用公式(1)求取图像f在任意像素的视觉注意程度值,对获取的V进行归一化;而使用尺度选择下的视觉注意图计算,则在于区域窗口Ω尺寸(M×M) 的变化:随着尺寸M ×M 的变化,可获得不同尺度下视觉注意图V;也就是说,对于N个尺度,即从{Mk}(k=1,2…N)中取窗口时,可以获取视觉注意图{Vk} (k=1,2…N);
(1-b)、IR(红外图像)与VI(可见光图像)多窗口的视觉注意图提取
通过步骤(1-a),将IR代替f获取多窗口的视觉注意图同理获取多窗口的视觉注意图
2、视觉注意图基础上的融合
对于红外图像IR与可见光图像VI,利用局部图像灰度差异计算实现视觉注意图VIR与VVI的获取。而随着区域窗口Ω尺寸(M×M)的变化,即对于N个尺度,取不同的窗口大小{Mk}(k=1,2…N)可以获取视觉注意图
于是,在不同的尺度k下,图像融合结果为
而对于所有的尺度进行综合,获得了最终的融合结果F定义为:
于是,最终获取了增强融合结果F。
本发明方法针对可见光、红外双波段图像融合,考虑局部窗口对图像视觉注意图的提取,并设计多尺度框架下范围内的视觉注意图获取;进而利用简便的结合视觉注意图权重的方法实现不同尺度下的图像融合,并最终计算得到增强融合结果。在本发明方法中,只要输入已经配准的一幅红外图像与一幅可见光图像,即可迅速获取较好的增强融合图像。本发明方法可应用于多波段遥感成像、目标探测等等,可应用于双波段甚至多波段图像的增强融合。
附图说明
图1为本发明方法的操作流程框图;
图2a为红外观测图像;
图2b为可见光观测图像;
图2c为经本方面方法处理后获取的融合结果。
具体实施方式
下面结合附图,通过具体实施例,对本发明的技术方案进行清楚、完整的描述。
利用本发明方法处理图像,如图1所示,输入原始红外观测图像与可见观测图像,即可得到增强融合结果。以图2a与图2b(观测图像)为例(以下分别称为IR与VI),采用窗口数量N=6,即窗口大小{Mk}(k=1,2…N) ={3,7,11,15,19,23},伸缩系数σ2=3.5,其主要操作步骤如下:
1、不同窗口尺度下的视觉注意图的提取
(1)对于窗口大小{Mk}(k=1,2…N)={3,7,11,15,19,23},首先针对M1=3, 求取对应的视觉注意图,对于红外图像IR,有下面的步骤:
在局部区域内,本发明定义图像IR在像素(i,j)处的视觉注意程度值V1 IR如下:
在上式中,Ω是图像IR中的某一个窗口区域,其尺寸为M1×M1即3×3,而(i,j) 为区域Ω的中心即ΩM。IRxy、IRij表示IR在(x,y)处与(i,j)处的灰度值。D(·) 是灰度差异函数,其衡量的就是像素之间的灰度距离:D(IRij,IRxy)=|IRij-IRxy|。
此外,上式中的w代表空间权重,本发明中定义为:
其中Ds(ij,xy)表示像素(x,y)与像素(i,j)的空间距离(用像素的数量表示),而σ2为伸缩系数,为常数。
对获取的V1 IR进行归一化。
于是,获取了窗口M1=3下的红外图像IR的视觉注意图V1 IR,同理可以获取可见光图像VI的视觉注意图V1 VI
(2)变换窗口尺度大小获取多尺度的视觉注意图
根据(1)的情况,因此,变换窗口尺度大小,即k=1,2…6时,取对应窗口大小{Mk}(k=1…N)={3,7,11,15,19,23},对于红外图像IR与可见光图像VI,可以获取对应的视觉注意图
2、视觉注意图基础上的融合
对于红外图像IR与可见光图像VI,利用步骤1计算实现视觉注意图VIR与 VVI的获取。
于是,在不同的尺度k下,图像融合结果为
而对于所有的尺度进行综合,获得了最终的融合结果F定义为:
于是,最终获取了增强融合结果F,如图2c所示,运行时间为0.09秒。
本发明虽然已以较佳实施例公开如上,但其并不是用来限定本发明,任何本领域技术人员在不脱离本发明的精神和范围内,都可以利用上述揭示的方法和技术内容对本发明技术方案做出可能的变动和修改,因此,凡是未脱离本发明技术方案的内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化及修饰,均属于本发明技术方案的保护范围。

Claims (1)

1.一种使用局部窗口视觉注意提取的双波段图像融合方法,其特征在于,包括如下步骤:
(1)、不同窗口尺度下的视觉注意图的提取,输入双波段图像,即红外图像IR与可见光图像VI;
(1-a)、在局部区域内,定义图像f在像素(i,j)处的视觉注意程度值V(i,j)如下:
<mrow> <mi>V</mi> <mrow> <mo>(</mo> <mi>i</mi> <mo>,</mo> <mi>j</mi> <mo>)</mo> </mrow> <mo>=</mo> <munder> <mo>&amp;Sigma;</mo> <mrow> <mo>(</mo> <mi>i</mi> <mo>,</mo> <mi>j</mi> <mo>)</mo> <mo>=</mo> <msub> <mi>&amp;Omega;</mi> <mi>M</mi> </msub> <mo>,</mo> <mo>&amp;ForAll;</mo> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> <mo>&amp;Element;</mo> <mi>&amp;Omega;</mi> </mrow> </munder> <mo>&amp;lsqb;</mo> <mi>w</mi> <mrow> <mo>(</mo> <mi>i</mi> <mi>j</mi> <mo>,</mo> <mi>x</mi> <mi>y</mi> <mo>)</mo> </mrow> <mi>D</mi> <mrow> <mo>(</mo> <msub> <mi>f</mi> <mrow> <mi>i</mi> <mi>j</mi> </mrow> </msub> <mo>,</mo> <msub> <mi>f</mi> <mrow> <mi>x</mi> <mi>y</mi> </mrow> </msub> <mo>)</mo> </mrow> <mo>&amp;rsqb;</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>1</mn> <mo>)</mo> </mrow> </mrow>
在式(1)中,Ω是图像f中的某一个窗口区域,其尺寸为M×M,而(i,j)为区域Ω的中心即ΩM;fxy、fij表示f在(x,y)处与(i,j)处的灰度值;D(·)是灰度差异函数,其衡量的就是像素之间的灰度距离:D(fij,fxy)=|fij-fxy|;
此外,上式中的w(ij,xy)代表空间权重,定义为:
<mrow> <mi>w</mi> <mrow> <mo>(</mo> <mi>ij</mi> <mo>,</mo> <mi>xy</mi> <mo>)</mo> </mrow> <mo>=</mo> <msup> <mi>e</mi> <mrow> <mo>-</mo> <msub> <mi>D</mi> <mi>s</mi> </msub> <mrow> <mo>(</mo> <mi>ij</mi> <mo>,</mo> <mi>xy</mi> <mo>)</mo> </mrow> <mo>/</mo> <msup> <mi>&amp;sigma;</mi> <mn>2</mn> </msup> </mrow> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>
其中Ds(ij,xy)表示像素(x,y)与像素(i,j)的空间距离,空间距离用像素的数量表示,而σ2称为伸缩系数,为常数;
采用公式(1)求取图像f在任意像素的视觉注意程度值,对获取的V进行归一化;
而使用尺度选择下的视觉注意图计算,则在于区域窗口Ω尺寸M×M的变化:随着尺寸M×M的变化,获得不同尺度下视觉注意图V;也就是说,对于N个尺度,即从{Mk}中取窗口时,k=1,2…N,可以获取视觉注意图{Vk},k=1,2…N;
(1-b)、红外图像IR与可见光图像VI多窗口的视觉注意图提取
通过步骤(1-a),将IR代替f获取多窗口的视觉注意图同理获取多窗口的视觉注意图
(2)视觉注意图基础上的融合
对于红外图像IR与可见光图像VI,利用步骤(1)计算实现视觉注意图的获取,k=1,2…N;
于是,在不同的尺度k下,图像融合结果为
其中IR为红外图像与VI为可见光图像;
而对于所有的尺度进行综合,获得了最终的融合结果F定义为:
<mrow> <mi>F</mi> <mo>=</mo> <munder> <mrow> <mi>m</mi> <mi>a</mi> <mi>x</mi> </mrow> <mrow> <mi>k</mi> <mo>=</mo> <mn>1</mn> <mo>,</mo> <mn>2</mn> <mo>...</mo> <mi>N</mi> </mrow> </munder> <mo>{</mo> <msub> <mi>F</mi> <mi>k</mi> </msub> <mo>}</mo> </mrow>
于是,最终获取了增强融合结果F。
CN201510160841.3A 2015-04-07 2015-04-07 一种使用局部窗口视觉注意提取的双波段图像融合方法 Active CN104835129B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510160841.3A CN104835129B (zh) 2015-04-07 2015-04-07 一种使用局部窗口视觉注意提取的双波段图像融合方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510160841.3A CN104835129B (zh) 2015-04-07 2015-04-07 一种使用局部窗口视觉注意提取的双波段图像融合方法

Publications (2)

Publication Number Publication Date
CN104835129A CN104835129A (zh) 2015-08-12
CN104835129B true CN104835129B (zh) 2017-10-31

Family

ID=53812999

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510160841.3A Active CN104835129B (zh) 2015-04-07 2015-04-07 一种使用局部窗口视觉注意提取的双波段图像融合方法

Country Status (1)

Country Link
CN (1) CN104835129B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111464762A (zh) * 2020-03-30 2020-07-28 杭州电子科技大学 一种基于红外融合技术的夜间成像仪及成像方法
CN113409232B (zh) * 2021-06-16 2023-11-10 吉林大学 基于响尾蛇视觉成像的仿生假彩色图像融合模型及方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020933A (zh) * 2012-12-06 2013-04-03 天津师范大学 一种基于仿生视觉机理的多源图像融合方法
CN103455990A (zh) * 2013-03-04 2013-12-18 深圳信息职业技术学院 结合视觉注意机制和pcnn的图像融合方法
CN103714548A (zh) * 2013-12-27 2014-04-09 西安电子科技大学 基于视觉注意的红外图像与可见光图像配准方法
CN104463821A (zh) * 2014-11-28 2015-03-25 中国航空无线电电子研究所 一种红外图像与可见光图像的融合方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2431919A1 (en) * 2010-09-16 2012-03-21 Thomson Licensing Method and device of determining a saliency map for an image

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020933A (zh) * 2012-12-06 2013-04-03 天津师范大学 一种基于仿生视觉机理的多源图像融合方法
CN103455990A (zh) * 2013-03-04 2013-12-18 深圳信息职业技术学院 结合视觉注意机制和pcnn的图像融合方法
CN103714548A (zh) * 2013-12-27 2014-04-09 西安电子科技大学 基于视觉注意的红外图像与可见光图像配准方法
CN104463821A (zh) * 2014-11-28 2015-03-25 中国航空无线电电子研究所 一种红外图像与可见光图像的融合方法

Also Published As

Publication number Publication date
CN104835129A (zh) 2015-08-12

Similar Documents

Publication Publication Date Title
CN105931220B (zh) 基于暗通道先验与最小图像熵的交通雾霾能见度检测方法
WO2018024030A1 (zh) 一种夜视红外图像中的基于显著性的道路目标提取方法
CN112465880B (zh) 基于多源异构数据认知融合的目标检测方法
CN107481315A (zh) 一种基于Harris‑SIFT‑BRIEF算法的单目视觉三维环境重建方法
JP2018512913A5 (zh)
CN105160647B (zh) 一种全色多光谱影像融合方法
CN104008543A (zh) 一种图像融合质量评价方法
Huang et al. Quality assessment of panchromatic and multispectral image fusion for the ZY-3 satellite: From an information extraction perspective
CN105046701B (zh) 一种基于构图线的多尺度显著目标检测方法
CN105069769A (zh) 一种微光与红外夜视图像融合方法
CN102306381B (zh) 基于Beamlet与小波变换的图像融合方法
JP2018072938A (ja) 目的物個数推定装置、目的物個数推定方法及びプログラム
CN102867298A (zh) 一种基于人眼视觉特性的遥感图像拼接方法
CN106910188A (zh) 基于深度学习的遥感影像中机场跑道的检测方法
CN103020933A (zh) 一种基于仿生视觉机理的多源图像融合方法
CN103747240A (zh) 融合颜色和运动信息的视觉显著性滤波方法
CN206249426U (zh) 一种图像复原系统
CN108122219B (zh) 基于联合稀疏与非负稀疏的红外与可见光图像融合方法
CN104050638A (zh) 一种结合尺度优选的显著法红外小目标增强方法
CN104700412A (zh) 一种视觉显著图的计算方法
CN103455990B (zh) 结合视觉注意机制和pcnn的图像融合方法
CN109215006B (zh) 基于显著性总变分模型与l2-范数优化的图像融合方法
CN109711466A (zh) 一种基于边缘保留滤波的cnn高光谱图像分类方法
CN104835129B (zh) 一种使用局部窗口视觉注意提取的双波段图像融合方法
CN104951800A (zh) 一种面向资源开采型地区的遥感影像融合方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20191218

Address after: 310016 room 3003-1, building 1, Gaode land center, Jianggan District, Hangzhou City, Zhejiang Province

Patentee after: Zhejiang Zhiduo Network Technology Co., Ltd

Address before: Hangzhou City, Zhejiang province 310018 Xiasha Higher Education Park No. 2 street

Patentee before: Hangzhou Electronic Science and Technology Univ

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20201021

Address after: 241000 third floor, citizen service center, Jishan Town Economic Development Zone, Nanling County, Wuhu City, Anhui Province

Patentee after: Nanling County Construction Investment Co., Ltd

Address before: 310016 room 3003-1, building 1, Gaode land center, Jianggan District, Hangzhou City, Zhejiang Province

Patentee before: Zhejiang Zhiduo Network Technology Co.,Ltd.