[go: up one dir, main page]

JP2013214272A - 画像処理装置、および画像処理方法、並びにプログラム - Google Patents

画像処理装置、および画像処理方法、並びにプログラム Download PDF

Info

Publication number
JP2013214272A
JP2013214272A JP2012145055A JP2012145055A JP2013214272A JP 2013214272 A JP2013214272 A JP 2013214272A JP 2012145055 A JP2012145055 A JP 2012145055A JP 2012145055 A JP2012145055 A JP 2012145055A JP 2013214272 A JP2013214272 A JP 2013214272A
Authority
JP
Japan
Prior art keywords
pixel
bin
image
pixel value
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012145055A
Other languages
English (en)
Inventor
Yasunobu Hitomi
康宣 人見
Tomoo Mitsunaga
知生 光永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012145055A priority Critical patent/JP2013214272A/ja
Priority to US13/778,891 priority patent/US20130236095A1/en
Priority to CN2013100660276A priority patent/CN103312963A/zh
Publication of JP2013214272A publication Critical patent/JP2013214272A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】画像に対する効率的なノイズ低減処理を実現する装置および方法を提供する。
【解決手段】ノイズ低減対象画素の画素値補正に適用する参照領域構成画素の画素値の度数分布データを含む画像解析情報を生成する画像解析部と、画像解析情報を適用して画素値補正を実行する画素値補正部を有する。画像解析部は輝度値に応じて異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成する。画素値補正部はノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理によりノイズ低減対象画素の補正画素値を算出する。
【選択図】図5

Description

本開示は、画像処理装置、および画像処理方法、並びにプログラムに関する。特に、画像のノイズ低減を行う画像処理装置、および画像処理方法、並びにプログラムに関する。
画像のノイズ低減処理(NR:Noise Reduction)を実行する場合、例えば同じ被写体を含む連続撮影された複数枚の画像を適用した処理が行われる。なお、複数の画像を利用したノイズ低減等の画像処理技術を開示した従来技術としては、例えば、特許文献1(特開2009−194700)、あるいは特許文献2(特開2009−290827号公報)等がある。
これらの文献には、例えば連続撮影された複数画像を利用し、各画像にノイズ低減対象画素(注目画素)を中心とした参照領域を設定し、参照領域に含まれる画素値の加算平均などによりノイズ低減対象画素(注目画素)の補正画素値を算出してノイズ低減を行う処理を開示している。
ノイズ低減処理を行う場合、より多くの画像を利用することで、効果的なノイズ低減が実現されることが知られている。
また、位置合わせをした時間的に連続した画像を加算平均する三次元ノイズ低減(NR)アルゴリズムにおいては、NR効果を上げるために参照範囲を広くすることが有効であることが知られている。
しかし、参照範囲を広くすると、参照範囲に含まれる画素数が増大する。また、参照範囲にある画素には、ノイズ低減対象となる注目画素の画素値と大きく異なる画素値を有する画素も含まれる。これは、例えば動被写体の存在や、エラー画素の存在、あるいは撮影環境の突発的な変化などに起因する。これらの様々な要因によって、参照領域内に注目画素の画素値と大きく異なる画素が発生することがある。
このようにノイズ低減対象となる注目画素の画素値と大きく異なる画素値を、注目画素の補正画素値の算出処理、例えば加算平均処理に適用してしまうと、注目画素の補正画素値が誤った画素値に設定されてしまう。
従って、ノイズ低減対象となる注目画素の画素値と大きく異なる画素値を有する画素については参照領域に含まれていても、補正画素値の算出処理に含めない設定とすることが必要となる。
このように、補正対象画素の画素値と大きく離れた参照領域内の画素を排除して、選択された参照画素のみの加算平均などにより補正画素値を算出することで高精度なノイズ低減が可能となる。
上記の処理を行う場合、例えばノイズ低減処理対象となる注目画素の周辺領域に設定した参照領域内の画素各々について加算平均処理に適用してよいか否かの判定処理が必要となる。
この判定処理は、例えば注目画素の輝度値と参照領域の各画素の輝度値との差分を、予め設定した閾値と比較する処理によって行われる。注目画素の輝度値と参照領域の画素の輝度値との差分が閾値未満である場合にのみ、加算平均処理の対象画素とするものである。
しかし、上記判定処理を行う場合、参照領域に含まれる全ての画素毎に閾値との比較を実行する必要があり、参照領域に含まれる画素数が多い場合には、計算コストが増大するという問題が発生する。
特開2009−194700号公報 特開2009−290827号公報
本開示は、例えば上記問題点に鑑みてなされたものであり、効率的なノイズ低減を行う画像処理装置、および画像処理方法、並びにプログラムを提供することを目的とする。
本開示の第1の側面は、
ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する画像解析部と、
前記画像解析情報を適用して画素値補正を実行する画素値補正部を有し、
前記画像解析部は、
輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成し、
前記画素値補正部は、
前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する画像処理装置にある。
さらに、本開示の画像処理装置の一実施態様において、前記画素値補正部は、前記選択ビンに含まれる参照画素の画素値の加算平均処理により、前記ノイズ低減対象画素の補正画素値を算出する。
さらに、本開示の画像処理装置の一実施態様において、前記画像解析部は、輝度値とノイズ標準偏差との対応関係データを利用し、輝度値Yに対応するノイズ標準偏差σ(Y)の値、または予め設定した係数kを乗算したkσ(Y)を前記ビン幅として設定した度数分布データを生成する。
さらに、本開示の画像処理装置の一実施態様において、前記画像解析部は、前記異なるビン幅の複数のビンを設定した度数分布データに併せて、各ビン対応の画素の画素値総和データを付随データとして生成する。
さらに、本開示の画像処理装置の一実施態様において、前記画像解析部は、前記付随データとして、各ビン対応の画素のY,U,V各画素値の総和データを生成する。
さらに、本開示の画像処理装置の一実施態様において、前記画素値補正部は、前記ノイズ低減対象画素の画素値と、前記選択ビンの付随データであるU,V各画素値の総和データから算出した選択ビンのUおよびVの平均値との差分が既定閾値未満のビンを再選択し、再選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する。
さらに、本開示の画像処理装置の一実施態様において、前記画素値補正部は、前記ノイズ低減対象画素の含まれる中央ビンのUおよびVの各平均値と、前記選択ビンのUおよびVの各平均値との差分が既定閾値未満のビンを再選択し、再選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する。
さらに、本開示の画像処理装置の一実施態様において、前記画像処理装置は、前記ノイズ低減対象画素を含む画像を縮小する画像縮小部を有し、前記画像解析部は、前記画像縮小部の生成した縮小画像に基づいて前記画像解析情報を生成する。
さらに、本開示の画像処理装置の一実施態様において、前記画像縮小部は、エッジ保存平滑化処理を実行して縮小画像を生成する。
さらに、本開示の画像処理装置の一実施態様において、前記画像解析部は、前記ノイズ低減対象画素を含む画像を含む複数の連続撮影画像の対応画素領域を参照領域として設定し、該参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する。
さらに、本開示の画像処理装置の一実施態様において、前記画像解析部は、前記度数分布データを各画像単位で生成し、生成した画像単位の度数分布データをFIFOバッファに格納し、FIFOバッファに格納した複数の画像の度数分布データの演算処理により、複数の連続撮影画像に設定された参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する。
さらに、本開示の第2の側面は、
画像処理装置において画素のノイズ低減処理を実行する画像処理方法であり、
画像解析部が、ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する画像解析ステップと、
画素値補正部が、前記画像解析情報を適用して画素値補正を実行する画素値補正ステップを実行し、
前記画像解析ステップは、
輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成するステップであり、
前記画素値補正ステップは、
前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出するステップである画像処理方法にある。
さらに、本開示の第3の側面は、
画像処理装置において画素のノイズ低減処理を実行させるプログラムであり、
画像解析部に、ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成させる画像解析ステップと、
画素値補正部に、前記画像解析情報を適用して画素値補正を実行させる画素値補正ステップを実行させ、
前記画像解析ステップは、
輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンの設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成させるステップであり、
前記画素値補正ステップは、
前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出させるステップであるプログラムにある。
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本開示の一実施例の構成によれば、画像に対する効率的なノイズ低減処理を実現する装置および方法を提供する。
具体的には、ノイズ低減対象画素の画素値補正に適用する参照領域構成画素の画素値の度数分布データを含む画像解析情報を生成する画像解析部と、画像解析情報を適用して画素値補正を実行する画素値補正部を有する。画像解析部は輝度値に応じて異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成する。画素値補正部はノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理によりノイズ低減対象画素の補正画素値を算出する。
これらの処理により、各画素対応の問題画素判定処理を逐次、行うことなく、補正対象画素と類似する画素値を持つ画素のみを速やかに選択可能となり、効率的な画素値補正処理が実現される。
三次元ノイズ低減(NR:Noise Reduction)処理について説明する図である。 三次元ノイズ低減(NR:Noise Reduction)処理について説明する図である。 付随情報付き可変ビン幅度数分布データ(ヒストグラム)を適用した本開示のノイズ低減(NR)処理の概要について説明する図である。 問題画素を排除し加算平均対象として選択すべき参照画素を決定する処理例について説明する図である。 本開示の画像処理装置の一構成例について説明する図である。 本開示の画像処理装置の処理例について説明する図である。 本開示の画像処理装置の画像縮小部の構成と処理例について説明する図である。 本開示の画像処理装置の画像縮小部の構成と処理例について説明する図である。 本開示の画像処理装置の画像解析部の構成と処理例について説明する図である。 本開示の画像処理装置の画像解析部の実行する処理の一例について説明する図である。 本開示の画像処理装置の画像解析部の実行する処理の一例について説明する図である。 本開示の画像処理装置の画素値補正部の実行する処理の一例について説明する図である。 本開示の画像処理装置の画素値補正部の実行する処理の一例について説明する図である。 本開示の画像処理装置の画素値補正部の実行する処理の一例について説明する図である。 本開示の画像処理装置の画素値補正部の実行する処理の一例について説明する図である。 本開示の画像処理装置の一構成例について説明する図である。 本開示の画像処理装置の一構成例について説明する図である。 本開示の画像処理装置のハードウェア構成例について説明する図である。
以下、図面を参照しながら本開示の画像処理装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
1.本開示の処理の概要について
1−1.一般的な三次元ノイズ低減(NR)処理について
1−2.付随情報付き可変ビン幅度数分布データ(ヒストグラム)を適用した本開示のノイズ低減(NR)処理について
2.本開示の画像処理装置の構成例について
3.本開示の画像処理装置の実行するノイズ低減処理の詳細について
3−1.画像縮小部の処理について
3−2.画像解析部の処理について
3−3.画素値補正部の処理について
4.本開示の画像処理装置の変形例について
4−1.生成した補正画像をフィードバックして繰り返し補正を実行する実施例
4−2.ヒストグラムをFIFOバッファに格納し、順次更新して利用する実施例
4−3.補正画素値算出に適用する参照ビンの選択閾値と、重み係数の調整(チューニング)を行う実施例
5.画像処理装置のハードウェア構成例について
6.本開示の構成のまとめ
[1.本開示の処理の概要について]
本開示の画像処理装置の実行する処理の概要について説明する。
[1−1.一般的な三次元ノイズ低減(NR)処理について]
まず、図1、図2を参照して一般的な三次元ノイズ低減(NR:Noise Reduction)処理について説明する。
三次元ノイズ低減(NR)処理は、複数の連続撮影画像を適用して、同一被写体の撮影領域と推定される対応画素位置の画素値を加算平均する処理を基本としている。
図1(a)に示す例では、
撮影時間t=1の画像11、
撮影時間t=2の画像12、
撮影時間t=3の画像13、
これら3枚の連続撮影画像を利用した例を示している。
例えば画素値はRGB、あるいはYUVなど様々な要素を有するが、それぞれの要素ごとに補正値が決定される。
図1に示す例は、一例としてY(輝度値)の補正処理例を示している。
撮影時間t=1の画像11の注目画素の輝度値=Y1、
撮影時間t=2の画像12の参照画素の輝度値=Y2、
撮影時間t=3の画像13の参照画素の輝度値=Y3、
とする。
なお、各画像11〜13の注目画素は、例えば各画像の同一の座標位置に設定する。
例えば基準画像を撮影時間t=1の画像11として、撮影時間t=1の画像11の注目画素の画素値、本例では輝度値(Y1)を補正する三次元NRを実行する場合、
撮影時間t=1の画像11の注目画素の輝度値=Y1、
撮影時間t=2の画像12の参照画素の輝度値=Y2、
撮影時間t=3の画像13の参照画素の輝度値=Y3、
これらの3つの輝度値の加算平均、
(Y1+Y2+Y3)/3
を算出し、
この加算平均値を画像11の注目画素の補正画素値とする処理が基本である。
ただし、この加算平均処理による補正画素値を算出する場合、参照画素に含まれる問題画素を排除する必要がある。問題画素とは、例えば動被写体の存在や、エラー画素、あるいは撮影環境の突発的な変化などに起因して、注目画素の画素値とかけ離れた画素値が設定された画素である。
本例では、
撮影時間t=2の画像12の参照画素、
撮影時間t=3の画像13の参照画素、
これらの参照画素が注目画素の画素値と大きくかけ離れているか否かを判定することが必要となる。
具体的には、図1(b)に示すように、
注目画素のY値と、参照画素のY値との差分を予め定めた閾値と比較する。
注目画素のY値と、参照画素のY値との差分が、予め定めた閾値未満であれば、問題画素ではない正常画素と判定する。
一方、注目画素のY値と、参照画素のY値との差分が、予め定めた閾値未満であれば、問題画素であると判定する。
なお、閾値としては、例えば画素の輝度値Yに応じて推定されるノイズ量が適用可能である。
図1(c)は、横軸に輝度値(Y)、縦軸に各輝度値に応じて各画素に含まれると推定されるノイズの標準偏差σ(y)を示している。
一般的に輝度値の高い画素に含まれるノイズ量は低くなり、輝度の低い画素には多くのノイズ量が含まれる傾向があり、輝度値(Y)とノイズ標準偏差σ(y)との対応関係は図1(c)に示すグラフのような設定となることが知られている。
閾値として、この輝度値Yに応じた標準偏差σ(y)、あるいは係数k、例えばk=1,2などの係数を乗算した閾値kσ(y)を用いることで、画素値(輝度値)に応じた問題画素判別が可能となる。
このような判定処理によって、参照領域内の画素から問題画素を排除して、正常画素のみを適用して、注目画素の補正画素値を算出する。
例えば、撮影時間t=3の画像13の参照画素が問題画素であると判定され、撮影時間t=2の画像12の参照画素が正常画素であると判定された場合は、以下の式によって、撮影時間t=1の画像11の注目画素の画素値(本例では輝度値Y)を算出する。
Y=(Y1+Y2)/2
このような補正画素値を算出することで、動被写体の影響や、エラー画素の影響を排除した高精度なノイズ低減が実現される。
図1に示す例は、3枚の画像から1つの対応画素位置の画素のみを利用した処理例であるが、より精度の高い補正処理(ノイズ低減処理)を行うために、補正対象画素(注目画素)の周辺領域に参照領域を設定した処理が行われる。
図2には、撮影時間t=1の注目画素21を中心とした3×3の画素領域を参照領域として設定した例を示している。
図2に示す例では、撮影時間t=1〜4の4枚の連続撮影画像を利用した例を示している。
図2に示す例では、注目画素21の補正画素値の算出用に設定された参照領域の総画素数は36となる。すなわち、1枚の画像に3×3=9画素であり、4枚の画像であるので4×9=36となる。
これらの36画素中、注目画素を除く35画素について、先に図1を参照して説明した問題画素判定処理、すなわち、注目画素の画素値と、参照画素の画素値との差分を予め定めた閾値と比較する処理が必要となる。
このように、参照領域を1つの画像内で広げ、さらに時間軸方向にも拡大しようとすると、参照領域に含まれる画素数は増大することになり、問題画素判定処理も画素数に応じて実行することが必要となり、計算コストの増大をもたらすことになる。
[1−2.付随情報付き可変ビン幅度数分布データ(ヒストグラム)を適用した本開示のノイズ低減(NR)処理について]
次に、図3以下を参照して、上記問題点を解決する本開示の処理、すなわち、付随情報付き可変ビン幅度数分布データ(ヒストグラム)を適用した本開示のノイズ低減(NR)処理の概要について説明する。
図3、図4は、本開示の画像処理装置の実行するノイズ低減処理の概要を説明する図である。
図3(a)は、図2と同様、各画像に3×3画素の参照領域を設定し、撮影時間t=1〜4の4枚の画像に同一の大きさ(3×3画素)の参照領域を設定し、注目画素を含む参照画素数=36の設定としたノイズ低減処理を行う場合の参照領域設定例を示している。
本開示の画像処理装置は、この参照領域に含まれる画素の画素値、例えば輝度値(Y)のヒストグラム(度数分布)を設定する。
さらに、生成するヒストグラムに設定するビンの幅を一律ではなく、各画素値(輝度値Y)に応じて推定されるノイズ量に応じた設定とする。
さらに、ヒストグラムに併せて、ヒストグラムに設定される各ビン単位で、画素値構成パラメータ(例えばYUV)の平均値を算出しておく。
図3(b)は、図3(a)に示す36画素の輝度値(Y)のヒストグラムである。
横軸が輝度値(Y)
縦軸が度数、すなわち画素数、
である。
なお、ここで、注意すべきは、各ビン(図に示すヒストグラムの棒グラフの各棒に相当)の設定範囲、すなわち輝度範囲が等しくないことである。
例えば図3(b)に示すビン(bin1)は、輝度値(Y)が40〜80の範囲、すなわち輝度範囲:80−40=40の設定とした画素数を示している。
しかし、例えばビン(bin2)は、輝度値(Y)が105〜120の範囲、すなわち輝度範囲:120−105=15の設定とした画素数を示すビンである。
また、ビン(bin3)は、輝度値(Y)が150〜156の範囲、すなわち輝度範囲:156−150=6の設定とした画素数を示すビンである。
このように、各ビンの設定範囲、すなわち輝度範囲が不均一な設定となっている。以下では、各ビンの設定範囲、すなわち輝度範囲を「ビン幅」として説明する。
ビン幅は、各画素値(本例では輝度値)に応じて推定されるノイズ量に応じて決定する。
図3(c)は、先に図1(c)を参照して説明したと同様のグラフ、すなわち横軸に輝度値(Y)、縦軸に各輝度値に応じて各画素に含まれると推定されるノイズの標準偏差σ(y)を示している。
一般的に輝度値の高い画素に含まれるノイズ量は低くなり、輝度の低い画素には多くのノイズ量が含まれる傾向があり、輝度値(Y)とノイズ標準偏差σ(y)との対応関係は図3(c)に示すグラフのような設定となることが知られている。
図3(b)に示すヒストグラムに設定される各ビンのビン幅は、この図3(c)の輝度対応ノイズ標準偏差データに基づいて決定する。
例えば、
図3(b)に示すビン(bin1)は、輝度値(Y)が40〜80の範囲、すなわち、中心輝度値≒60の画素数を示すビンであるが、このビン幅は、図3(c)に示す輝度値≒60に対応するノイズ標準偏差σ(y)の値(L1)、あるいは係数kを乗算したkσ(y)(=kL1)に設定する。kは調整パラメータであり、予め設定した固定値としてもよいし、例えばユーザによって設定可能な構成としてもよい。
同様に、図3(b)に示すビン(bin2)は、輝度値(Y)が105〜120の範囲、すなわち、中心輝度値≒112の画素数を示すビんであるが、このビン幅は、図3(c)に示す輝度値≒112に対応するノイズ標準偏差σ(y)の値(L2)、あるいは係数kを乗算したkσ(y)(=kL2)に設定する。
同様に、図3(b)に示すビン(bin3)は、輝度値(Y)が150〜156の範囲、すなわち、中心輝度値≒153の画素数を示すビんであるが、このビン幅は、図3(c)に示す輝度値≒153に対応するノイズ標準偏差σ(y)の値(L3)、あるいは係数kを乗算したkσ(y)(=kL3)に設定する。
このように、ノイズ標準偏差σ(y)の値が大きければビン幅を大きくし、ノイズ標準偏差σ(y)の値が小さければビン幅を小さくする。
本開示の画像処理装置では、このように画素値に応じて異なるビン幅を持つヒストグラムを生成し、このヒストグラムを適用して注目画素の補正画素値を算出するための参照画素、すなわち、例えば問題画素を排除し加算平均対象として選択すべき参照画素を決定する。
図4を参照してこの参照画素選択処理について説明する。
図4(a)は、図3(a)、図2と同様の参照領域の設定例を示している。連続撮影された4枚の画像に設定された3×3の画素領域である。
補正対象画素を、撮影時間t=1の注目画素31とする。
4枚の画像の3×3の画素領域の36画素に基づいて、前述した手順に従って図4(b)に示すヒストグラムを生成する。
ここで、ノイズ低減処理対象の注目画素31の輝度値Yが、Y=135であるとする。
まず、このノイズ低減処理対象の注目画素31の輝度値Y=135の属するヒストグラムのビンを検出する。
図4(b)に示すビンXが、注目画素31の輝度値Y=135の属するヒストグラムのビンである。
このビンXと、
ヒストグラムの隣接する前後2ビンずつを参照画素の含まれるビンとして選択する。
ビンXと、
ビンXに隣接する低輝度側の2ビンと、
ビンXに隣接する高輝度側の2ビンと、
これらの計5ビンに含まれる画素を参照画素として選択する。
これらのビンに含まれる画素は、注目画素31の画素値(輝度値)に比較的近い画素値を持つ画素の集合によって設定されている。
図に示す例では、輝度値Y=105〜156の範囲内の画素の集合となっている。
従って問題画素、すなわち注目画素と画素値の大きく離れた画素は含まれていない。
本開示の画像処理装置では、このようにヒストグラムからのビン選択処理を行う。
注目画素の含まれるビンと、前後2ビンを参照するのみで、図4(a)に示す参照画素35画素各々について、図1を参照して説明した閾値による問題画素判定を行うことなく、注目画素との差分が2σ未満の近い画素値を持つ画素のみを選択したのと同等の処理が実現される。
これらの選択されたビンに含まれる画素の画素値情報を利用して注目画素の補正画素値、すなわちノイズ低減後の画素値が決定される。これらの処理の詳細については後述する。
[2.本開示の画像処理装置の構成例について]
次に、図5を参照して、本開示の画像処理装置の構成例について説明する。
図5は、本開示の一実施例に係る画像処理装置100の構成例を示す図である。
図5に示すように、画像処理装置100は、画像縮小部101、画像バッファ(FIFO)102、画像解析部103、画素値補正部104を有する。
画像処理装置100は、入力画像121を入力し、ノイズ低減処理としての画素値補正を実行して出力画像122を生成して出力する。
なお、図5は、本開示の画像処理装置の実行する処理を説明するために、各処理の処理単位のブロックを示しているが、各ブロックの処理は、例えばプログラム(ソフトウェア)を用いた処理として実行可能である。従って、本開示の画像処理装置は、例えばプログラム実行部としてのCPUと、CPUによって実行されるプログラムを格納し、さらに画像格納領域やワークエリアとして利用可能なメモリを持つハードウェア構成によって実現可能である。
具体的には、静止画や動画を撮影する撮像装置の例えばDSP(デジタル信号処理部)に図5に示す構成に従った処理を実行させる設定とすることが可能である。
図5に示す画像処理装置100において、ノイズ低減処理(NR)対象として入力する入力画像121は、静止画または動画のいずれでもよい。
図6に以下の各入力画像に対する処理例を示している。
(A)静止画に対する処理例
(B)動画に対する処理例
これらを示している。
(A)静止画に対する処理を実行する場合、連続撮影された複数の静止画を入力し、その1枚を補正対象とする基準画像として、基準画像の各画素のノイズ低減処理を実行する。このノイズ低減処理において、基準画像中のノイズ低減処理対象画素(注目画素)の周囲に設定した参照領域、さらに、連続撮影された複数画像の対応画素領域を参照領域として、参照領域中の画素の画素値を利用して、ノイズ低減処理対象画素(注目画素)の画素値補正処理を実行する。
また、(B)動画に対する処理を実行する場合、動画の各フレームを入力し、そのフレーム画像の各画素のノイズ低減処理を実行する。このノイズ低減処理において、ノイズ低減処理対象画素(注目画素)の周囲に設定した参照領域と、複数の先行撮影フレーム画像の対応画素領域を参照領域として、参照領域中の画素の画素値を利用して、ノイズ低減処理対象画素(注目画素)の画素値補正処理を実行する。
[3.本開示の画像処理装置の実行するノイズ低減処理の詳細について]
以下、図5に示す画像処理装置100の各構成部の処理の詳細について説明する。
[3−1.画像縮小部の処理について]
まず、図5に示す画像処理装置100の画像縮小部101の構成と処理の詳細について説明する。
なお、図5に示す画像処理装置100は入力画像、例えばカメラの撮影した撮影画像を縮小した後、縮小画像を構成する画素をノイズ低減処理対象とした処理を実行する構成としている。
これは、処理の効率化や、画像の記憶領域の削減などを実現するためであり、縮小画像を生成せずに、図5に示す入力画像121を縮小することなく、画像バッファ102に入力して、画像解析部103の処理を行う構成としてもよい。
以下では、本開示の画像処理装置の一実施例として、入力画像121を縮小して処理を行う実施例について説明する。
図5に示す画像縮小部101は、入力画像121を縮小する処理を実行する例えば1枚の入力画像の構成画素の8×8画素を1画素に設定するなどの処理によって、画素数を削減した縮小画像を生成して画像バッファ102に格納する。
これらは、すべての入力画像に対して実行する。
すなわち、連続撮影された静止画像、あるいは動画像の各フレーム画像に対して実行する。
画像縮小部102の生成した縮小画像は画像バッファ(FIFO)102に格納される。画像バッファ(FIFO)102はFIFOバッファであり、連続撮影画像に対応する縮小画像を時系列に格納する。
画像縮小部101は、入力画像の画素比数を削減した縮小画像を生成する構成であり、具体的な構成としては様々な構成が可能である。
図7に画像縮小部101の1つの構成例を示す。
図7に示す画像縮小部101は、エッジ保存平滑化処理部131、サブサンプル部132を有する。
図7に示す画像縮小部101のエッジ保存平滑化処理部131は、入力画像の平坦部(画素値変化の少ない領域)では強い平滑化を施し、エッジ領域(画素値変化の大きい領域)では弱い平滑化を施すエッジ保存型の平滑化処理を実行する。
サブサンプル部132は、エッジ保存平滑化処理部131における平滑化処理画像データを入力して縮小画像の各画素に対する画素値設定処理を実行して縮小画像141を生成して出力する。
図8を参照して、エッジ保存平滑化処理部131の詳細構成と処理例について説明する。
図8に示すように、エッジ保存平滑化処理部131はHaar変換部151、段数決定部152、低域複写部153を有する。
Haar変換部151は入力画像121に対するHaar変換を実行し、入力画像を高域部分と低域部分に分解する。領域分割を行う。さらに、段数決定部152は、再帰的分割処理の回数を高域係数の合計から判定する。
低域信号複写手段153は、領域ごとに決定された段数に応じた無低域信号で画像を埋めていく処理を実行する。
図8の下段に、Haar変換を用いた処理例として、
(a)入力画像
(b)縮小倍率:1、分解段数4、
(c)縮小倍率:1、分解段数5、
(d)縮小倍率:2、分解段数4、
これらの各処理例を示す。
(a)入力画像中には楕円計のオブジェクトがえがかれている。この楕円オブジェクトの線分の描かれた線分領域がエッジ領域であり、その他の領域が平坦領域に相当する。
Haar変換部151は、このようなエッジ領域と平坦領域の判別を行う。段数決定部152は、分解段数を決定する。エッジ領域ほど細かく分解される。
図8の下段に示す(b),(d)は分解段数4、(c)は分解段数5の例である。
図8の(b)〜(d)に示す分解された細区分矩形領域に含まれる画素には同一の画素値が設定されることになる。この画素値設定を行うのが低域複写部153である。
サブサンプル部132は、これらの結果に基づいて、縮小率に応じた画素構成に従って、縮小画像を構成する各画素の画素値を設定し、縮小画像141を生成して画像バッファ(FIFO)102に格納する。
なお、図7、図8を参照して説明した画像縮小部101の構成は一例であり、画像縮小部101は、この例示構成に限らず、入力画像の画素数を削減した縮小画像を生成する構成であれば、様々な構成が利用可能である。
図5に示すように、画像縮小部101の生成した縮小画像は、画像バッファ(FIFO)102に、順次格納される。
[3−2.画像解析部の処理について]
次に、図5に示す画像処理装置100の画像解析部103の構成と処理の詳細について説明する。
画像解析部103は、画像縮小部101が生成し、画像バッファ102に格納された縮小画像を用いた画像解析を実行する。
具体的には、付随情報付き度数分布データを生成する。
ヒストグラムは、先に図3、図4を参照して説明した参照領域の画素の画素値(例えば輝度値Y)の度数分布データであり、不均一なビン幅からなるヒストグラムである。
図9に画像解析部103の一構成例を示す。
図9に示すように、画像解析部103は、ヒストグラムビン幅決定部181、画像解析情報生成部182を有する。
ヒストグラムビン幅決定部181は、先に図3、図4を参照して説明したヒストグラムに設定する各ビンのビン幅、すなわち、各ビンに対応する画素値範囲を設定する処理を行う。
画像解析情報生成部182は、ヒストグラムビン幅決定部181の決定したビン幅を設定したヒストグラムを生成し、さらに、各ビン対応の画素値情報として、各ビンに対応する画素集合の各画素値の平均値、例えばY、U、V各々の平均値を算出する。
なお、以下に説明する実施例では、入力画像および入力画像から生成された縮小画像の各画素には、画素値としてYUV、すなわち輝度情報Yと色差情報U,Vの各値が設定されているものとする。
ヒストグラムの生成には、各画素の輝度値(Y)を適用した処理を実行する。
なお、入力画像がYUVではなく、例えばRGBの画素値が設定された画像であれば、RGB値に基づく処理を行う構成としてもよい。例えばRGBの値から輝度値Yを算出する画素値変換処理を実行してYUVと同様の処理を実行することが可能である。
RGB値から、輝度値(Y)を算出する場合は、以下の変換式、
Y=R+2G+B
上記変換式を適用して輝度値(Y)を算出することが可能である。
図9の下段には、ヒストグラムの生成単位データの例を示している。
ここでは、一例として、入力画像の8×8画素を1画素として設定した縮小画像4枚の各々に設定された3×3画素の参照領域の構成画素3×3×4=36画素をヒストグラムの設定単位とする。
ヒストグラムは、縮小画像の注目画素単位で逐次、生成する。注目画素は、例えば撮影時間t=1の縮小画像に含まれる3×3画素の参照領域の中心の画素となる。
撮影時間t=1〜4の4枚の縮小画像から同一座標位置の3×3画素を参照領域として選択し、これらの3×3×4=36画素をヒストグラムの設定単位とする。
画像解析部103は、縮小画像の構成画素から1つずつ注目画素を選択し、各注目画素に対応する参照領域を設定して、設定した参照領域に含まれる画素に基づいて注目画素対応のヒストグラムを生成する。
すなわち、画像解析部103は、縮小画像の各構成画素単位で、逐次、画像解析情報としての付随情報付き度数分布データを生成して図5に示す画像処理装置100の画素値補正部104に出力する。
図5に示す画像処理装置100の画素値補正部104は、縮小画像の1画素単位の画像解析情報を利用して、その縮小画像の1画素に対応する縮小前の入力画像の画素、例えば8×8画素の画素値補正を実行する。
図9に示す画像解析部103のヒストグラムビン幅決定部181の実行する処理の詳細について、図10を参照して説明する。
ヒストグラムビン幅決定部181は、先に図3、図4を参照して説明したヒストグラムに設定する各ビンのビン幅、すなわち、各ビンに対応する画素値範囲を設定する処理を行う。
ヒストグラムビン幅決定部181は、予め画像処理装置のメモリに格納された図10(a)に示すゲインに応じた輝度−ノイズ量テーブルから、画像撮影時のゲイン情報に従って、1つの輝度−ノイズ量対応データを選択する。
図10(1)に示す輝度−ノイズ量テーブルは、先に図3(c)を参照して説明したテーブルと同様のテーブルである。
すなわち、
横軸に輝度値(Y)、
縦軸にノイズの標準偏差σ(y)、
を示している。
一般的に輝度値の高い画素に含まれるノイズ量は低くなり、輝度の低い画素には多くのノイズ量が含まれる傾向があり、輝度値(Y)とノイズ標準偏差σ(y)との対応関係は図10(1)に示すグラフのような設定となることが知られている。
ただし、画像撮影時のゲインが高いほどノイズ量も大きくなる傾向があり、画像処理装置のメモリには、様々なゲインに応じた輝度−ノイズ量対応データが格納されている。ヒストグラムビン幅決定部181は、画像撮影時のゲイン情報に従って、1つの輝度−ノイズ量対応データを選択する。
図10(2)に示すデータが、選択された輝度−ノイズ量対応データである。
ヒストグラムビン幅決定部181は、この図10(2)に示す輝度−ノイズ量対応データを利用してヒストグラムの各ビンのビン幅を決定する。
ヒストグラムは、先に説明したように、本例では、図9の下段に示す縮小画像4枚各々に設定された3×3画素、計36画素の輝度値(Y)に基づいて生成する。
ただし、先に図3、図4を参照して説明したように、ヒストグラムに設定するビンのビン幅は均一ではなく輝度(Y)に応じた推定ノイズ量に従って異なる設定となる。
図10(3)は、ヒストグラムビン幅決定部181の実行するビン幅決定処理の具体例を説明する図である。
図10(3a)は、図10(2)に示すゲインに応じて選択された輝度−ノイズ量対応データである。
横軸には輝度値Y(0〜255)を設定し、縦軸にはノイズ標準偏差σ(Y)を設定する。
例えば、輝度値Yと、ノイズ標準偏差σ(Y)との対応関係は以下の通りである。
輝度値Y=0→ノイズ標準偏差σ(Y)=5、
輝度値Y=5→ノイズ標準偏差σ(Y)=10、
輝度値Y=15→ノイズ標準偏差σ(Y)=15、
輝度値Y=30→ノイズ標準偏差σ(Y)=10、
輝度値Y=40→ノイズ標準偏差σ(Y)=8、
輝度値Y=47→ノイズ標準偏差σ(Y)=7、
輝度値Y=54→ノイズ標準偏差σ(Y)=6、
: :
輝度値Y=252→ノイズ標準偏差σ(Y)=2、
輝度値Y=254→ノイズ標準偏差σ(Y)=2、
このような対応関係にある。
この場合のヒストグラムのビン幅は以下のように設定する。
なお、ビンインデックスを低輝度から高輝度の各ビンに0,1,2,3・・として設定するものとする。
ビン0のビン幅は以下のように設定する。
輝度値Y=0のノイズ標準偏差σ(Y)=5に従って、ビン幅(輝度幅)=5とする。
ビン0は、ビン幅(輝度幅)=5、具体的には、輝度値Y=0〜4の画素値(輝度値)に対応するビンとする。
ビン1のビン幅は以下のように設定する。
輝度値Y=5のノイズ標準偏差σ(Y)=10に従って、ビン幅(輝度幅)=10とする。
ビン1は、ビン幅(輝度幅)=10、具体的には、輝度値Y=5〜14の画素値(輝度値)に対応するビンとする。
ビン2のビン幅は以下のように設定する。
輝度値Y=15のノイズ標準偏差σ(Y)=15に従って、ビン幅(輝度幅)=15とする。
ビン2は、ビン幅(輝度幅)=15、具体的には、輝度値Y=15〜29の画素値(輝度値)に対応するビンとする。
ビン3のビン幅は以下のように設定する。
輝度値Y=30のノイズ標準偏差σ(Y)=10に従って、ビン幅(輝度幅)=10とする。
ビン3は、ビン幅(輝度幅)=10、具体的には、輝度値Y=30〜39の画素値(輝度値)に対応するビンとする。
以下、同様に、輝度値Yに応じたノイズ標準偏差σ(Y)の値を取得して、取得したノイズ標準偏差σ(Y)の値を、その輝度値Yに対応するビン幅として設定する。最高輝度、例えばY=255まで、到達したら、ビン幅決定処理は終了する。
なお、上記の説明では、ビン幅を、輝度値Yに対応するノイズ標準偏差σ(Y)の値をそのまま適用している。すなわち、
ビン幅=σ(Y)
としているが、例えば調整パラメータとしての乗算パラメータ(乗算係数)kを用いて、
ビン幅=k・σ(Y)
としてビン幅を決定してもよい。パラメータkは予め設定した固定値としてもよいし、ユーザの設定可能なパラメータとしてもよい。
このようにして決定したビン幅のデータ例を図10(3c)に示す。
図10(3c)に示すように、
ビンインデックス0,1,2,・・・に対応する各ビンの輝度値範囲とビン幅が決定される。ヒストグラムビン幅決定部181は、具体的には例えば以下のビン幅決定データを生成する。
ビン0,Y=0〜4,ビン幅=5、
ビン1,Y=5〜14,ビン幅=10、
ビン2,Y=15〜29,ビン幅=15、
ビン3,Y=30〜39,ビン幅=10、
ビン4,Y=40〜46,ビン幅=8、
ビン5,Y=47〜53,ビン幅=7、
ビン6,Y=54〜59,ビン幅=6、
: : :
ビンk−1,Y=252〜253,ビン幅=2、
ビンk,Y=254〜255,ビン幅=2、
このように、ヒストグラムビン幅決定部181は、参照領域の各画素の画素値(輝度値)の度数分布データであるヒストグラムの設定ビンの各々について、輝度に応じた推定ノイズ量に従って異なるビン幅(画素値(輝度値)の幅)を設定する。
次に、図9に示す画像解析部103の画像解析情報生成部182は、ヒストグラムビン幅決定部181の決定したビン幅情報を入力し、ヒストグラムを生成する。さらにヒストグラムに設定した各ビン単位の画素値情報を含む付随情報を生成する。すなわち付随情報付き度数分布データを生成する。
この処理について、図11を参照して説明する。
図11には、画像解析情報生成部182の生成する画像解析情報、すなわち、付随情報付き度数分布データを示している。
付随情報付き度数分布データは、補正対象画像として選択される基準画像中のノイズ低減処理対象画素(注目)を中心とする参照領域と、基準画像の連続撮影画像における参照領域(基準画像の参照領域と同一座標位置)、これらの参照領域の構成画素の画素値(輝度値)の度数分布データを基本情報として含む。
これは、図9を参照して説明したヒストグラム生成処理単位データを利用して生成される。
図11に示す付随情報付き度数分布データの表は、左端から、
(a)ビンインデックス
(b)輝度値範囲
(c)ビン幅
(d)度数
(e)Y和
(f)U和
(g)V和
これらの対応データを示している。
このデータが、画像解析情報生成部182の生成する画像解析情報、すなわち、付随情報付き度数分布データの一例である。
ビンインデックスは、ヒストグラムの各ビンのインデックス、すなわち識別番号である。
輝度値範囲は、各ビンの輝度値範囲を示している。
例えば、ビン0は、参照領域に含まれる画素中、輝度値Y=0〜4の画素に対応するビンである。
ビン幅は、各ビンのビン幅であり、輝度値の設定範囲に対応する。
例えば、ビン0は、参照領域に含まれる画素中、輝度値Y=0〜4の画素に対応するビンであり、その輝度の設定範囲0〜4、すなわち輝度範囲として5を有し、このえがビン幅となる。
度数は、各ビンに対応する参照画素中の画素数を示している。ヒストグラムの基本データである。
例えばビン0は、参照領域に含まれる画素中、輝度値Y=0〜4の画素に対応するビンであり、図11のデータでは、度数=0であり、この輝度範囲の画素が参照領域には存在しないことを示している。
例えばビン1は、参照領域に含まれる画素中、輝度値Y=5〜14の画素に対応するビンであり、図11のデータでは、度数=3であり、この輝度範囲の画素が参照領域に3画素、存在することを示している。
なお、図11には表に示すビン幅、および度数分布データと、グラフ化したヒストグラムとの対応例を示している、
Y和、U和、V和は、各ビンに含まれる画素の画素値(Y,U,V)の各画素値の総和である。
例えばビン1(輝度値Y=5〜14)には3画素が含まれる。
これら3画素を画素a,b,cとし、これら3画素の画素値を、例えば、
画素a=(Ya,Ua,Va)、
画素b=(Yb,Ub,Vb)、
画素c=(Yc,Uc,Vc)、
とする。
この場合、
ビン1のY和、U和、V和は、以下のように算出する。
Y和=Ysum1=Ya+Yb+Yc
U和=Usum1=Ua+Ub+Uc
V和=Vsum1=Va+Vb+Vc
このように、Y和、U和、V和は、各ビンに含まれる画素の画素値(Y,U,V)の各画素値の総和として算出される。
画像解析部103は、このように、ヒストグラムの基本データである度数情報と、上記のビン対応のY和、U和、V和の値を算出してヒストグラムの付随データとする。
画像解析部103は、図11に示す表に対応する付随情報付き度数分布データを、各注目画素、すなわちノイズ低減対象となる注目画素単位で生成して、図5に示す画像処理装置100の画素値補正部104に出力する。
なお、前述したように、付随情報付き度数分布データは縮小画像の1画素単位で生成される。
図5に示す画像処理装置100の画素値補正部104は、縮小画像の1画素単位の画像解析情報(付随情報付き度数分布データ)を利用して、その縮小画像の1画素に対応する縮小前の入力画像の画素、例えば8×8画素の画素値補正を実行する。
[3−3.画素値補正部の処理について]
図12以下を参照して、図5に示す画像処理装置100の画素値補正部104の処理の詳細について説明する。
図5に示すように、画素値補正部104は、
(a)入力画像121、
(b)画像解析情報(付随情報付き度数分布データ)123
これらを入力する。
画素値補正部104は、これらの入力情報を利用して、入力画像121の構成画素のノイズ低減処理、すなわち画素値補正処理を実行する。
なお、前述したように、画像解析部103から入力する画像解析情報(付随情報付き度数分布データ)123は、縮小画像の1画素単位のデータである。画素値補正部104は、この縮小画像の1画素単位の画像解析情報(付随情報付き度数分布データ)を利用して、その縮小画像の1画素に対応する縮小前の入力画像の画素、例えば8×8画素の画素値補正を実行する。
図12には、画素値補正部104の入力する以下のデータを示している。
(A)補正対象画像(入力画像121)
(B)画像解析結果(付随情報付き度数分布データ123)
画素値補正部104は、これらのデータを入力する。
ただし、前述したように、
(A)補正対象画像(入力画像121)は、縮小前の画像であり、
(B)画像解析結果(付随情報付き度数分布データ123)は、縮小画像の1画素対応の解析データである。
図12に示すように、例えば、(A)に示す入力画像121の8×8画素領域を縮小画像の1画素202として、この縮小画像(t=1)の画素202を注目画素として3×3画素の中心に設定し、さらに連続撮影画像(t=1〜4)の4枚の縮小画像の同一座標位置に設定した参照領域に含まれる画素に基づいて図12(B)に示す画像解析結果(付随情報付き度数分布データ123)が生成されている。
画素値補正部104は、図12(B)に示す画像解析結果(付随情報付き度数分布データ123)を適用して入力画像の8×8画素201の画素値補正を行う。
例えば、(A)入力画像121の8×8画素201を構成する1つの画素231を補正する場合の処理について説明する。
画素231のYUV値が、(Ytgt,Utgt,Vtgt)であるとする。
具体的には、例えば、Ytgt=43であるとする。
画素値補正部104は、まず、この入力画像の画素231の輝度値Y=43の含まれるビンを、(B)画像解析結果(付随情報付き度数分布データ123)から選択する。
ビン4が輝度値範囲40〜46のビンであり、画素231の輝度Y=43はこのビン4に対応する。
なお、ゲインが大きく、例えば、注目画素の輝度値Yに大きなノイズがのっている場合、正しい対応ビン選択が困難となる場合がある。このような場合は、注目画素231の周辺画素を用いて簡単なローパスフィルタ、例えば3〜5タップ数のLPFを適用した平滑化処理を実行し、平滑化後の輝度値Yを適用して対応ビン選択を行う構成としてもよい。このような処理をおこなうことで安定した結果が得られる。
その後、画素値補正部104は、選択したビン4の前後各々2ビンを選択する。結果として、以下の5つのビンを選択する。
(1)ビン2:輝度範囲=15〜29、度数=2、
(2)ビン3:輝度範囲=30〜39、度数=5、
(3)ビン4:輝度範囲=40〜46、度数=4、
(4)ビン5:輝度範囲=47〜53、度数=2、
(5)ビン6:輝度範囲=54〜59、度数=7、
画素値補正部104は、これらの5つのビンを選択する。
このビン選択処理をヒストグラムに対応付けて示すと、図13に示す設定となる。
補正対象画素である注目画素231の輝度値Yは、Y=43であり、対応ビンはビン4である。
このビン4の前後の2ビンを各々選択する。
ビン2,3と、
ビン5,6
これらのビンを選択する。
選択されたビン2〜6の輝度範囲は、Y=15〜59の範囲となり、補正対象画素である注目画素231の輝度Y=43に比較的近い値の画素のみによって構成されることになる。
なお、これらのビン2〜6に含まれる画素数は、度数の加算値であり、2+5+4+2+7=20となる。
ヒストグラムの構成画素数が36であるから、その中から20個の画素が選択され、16個の画素が排除されたことを意味する。
1つの処理例としては、これらの選択された5つのビンの画素の加算平均により、注目画素231の画素値を算出する構成が可能である。
すなわち、ビン2〜6を構成する20個の画素のYUVの加算平均によって算出するYUVの各値を、注目画素231の補正画素値(YUV)とする。
このような補正処理が可能である。
なお、既に各ビンに含まれる画素の(YUV)各々の加算値、すなわち総和は、図に示すようにY和(Ysum)、U和(Usum)、V和(Vsum)として算出済みであり、例えば5ビンに含まれる画素のYUVの加算平均を行う場合、各加算値(Yxum,Usum,Vsum)と度数データを利用して簡易に算出することが可能となる。
例えば、ビン2〜6に含まれる画素のYの加算平均は、以下のようにして算出できる。
Y=(Ysum+Ysum+Ysum+Ysum+Ysum)/(2+5+4+2+7)
U,Vについても同様に、各加算値(Usum,Vsum)と度数データを利用して簡易に算出することが可能となる。
しかし、さらに、補正精度を高めるためには、付随情報、すなわち、図12(B)に示す画像解析結果(付随情報付き度数分布データ123)中のU和、V和の各データを利用した処理を行うことが有効である。
図14を参照して、この付随情報(U和、V和)を利用した補正処理例について説明する。
図14にも、図12と同様、画素値補正部104の入力する以下のデータを示している。
(A)補正対象画像(入力画像121)
(B)画像解析結果(付随情報付き度数分布データ123)
画素値補正部104は、先に図12、図13を参照して説明した処理によって、補正対象画素である注目画素231の補正に適用する5つのビン2〜ビン6を選択済みであるとする。
画素値補正部104は、さらに、この5つのビンについて、付随情報(U和、V和)を利用したビン選択を行う。
この処理が図14(C)に示すUVチャンネルの確認処理である。
図14(C)に示すように、補正対象画素(注目画素)と参照ビン(本例ではビン2,3,4,5,6)とのUV各チャンネルの値の差分が予め定めた閾値未満であるか否かを判定する。
具体的には、以下の(式1)に従って判定する。
Figure 2013214272
・・・・・(式1)
なお、上記(式1)において、
Utgt:補正対象画素(注目画素)のU値、
Vtgt:補正対象画素(注目画素)のV値、
Usumi:ビンiのU和、
Vsumi:ビンiのV和、
Freqi:ビンiの度数、
Thu,Thv:予め設定した既定閾値、
である。
上記(式1)を満足するビンのみが選択され、上記(式1)を満足しないビンは排除される。
結果として、例えばビン2,4,5のみが上記(式1)を満足し、ビン3,6は上記(式1)を満足しなかった場合、図14(D)に示すように、ビン2,4,5のみが最終的な参照ビンとして選択される。
これらの最終選択ビンに含まれるデータを利用して補正対象画素である注目画素231の画素値(Y,U,V)の各値が決定される。
この処理について、図15を参照して説明する。
図15(D)には、図14を参照して説明した処理によって最終選択された参照ビンであるビン2,4,5の付随情報付き度数分布データを示している。
画素値補正部104は、この最終選択ビンの付随情報付き度数分布データを利用して、補正対象画素である注目画素231の画素値(Y,U,V)の各値を算出する。
具体的には、図15(E)に示すように、補正対象画素である注目画素231のYUV=(Ytgt,Utgt,Vtgt)とも参照ビン2,4,5のY和(Ysum)、U和(Usum)、V和(Vsum)と各ビンの度数(Freq)を適用して以下の(式2)に従った加算平均処理により、注目画素231の補正画素値(Yout,Uout,Vout)を算出する。
Figure 2013214272
・・・・・(式2)
なお、上記(式2)において、
Ytgt:補正対象画素(注目画素)のY値、
Utgt:補正対象画素(注目画素)のU値、
Vtgt:補正対象画素(注目画素)のV値、
Ysumi:ビンiのY和、
Usumi:ビンiのU和、
Vsumi:ビンiのV和、
Freqi:ビンiの度数、
である。
ai,bi,ciは、ビンiの重み係数であり、例えば、
ai=bi=ci=1、
あるいは、補正対象画素である注目画素対応のビンの重みを大きくし、注目画素対応ビンから遠いビンほど重みを小さくするといった設定が可能である。
なお、本例では、最終選択ビンはビン2,4,5であるので、i=2,4,5の設定となる。
なお、上記処理例では、Y,U,Vとも参照ビンの選択処理を一律の処理として説明したが、各チャンネル単位で選択基準を緩めるあるいは厳しくするなどチャンネルごとに異なる処理を行う構成としてもよい。
また、例えば図12に示す補正対象となる注目画素231の画素値が、縮小画像の対応画素、すなわち画素202の画素値に十二分に近い場合、ノイズ低減の必要のない極平坦領域と判断することが可能である。このような場合は、重み付加算平均処理を適用した補正処理をスキップして注目画素値をそのまま出力してもよい。このような処理により、計算量を削減することができる。
さらに、上記のようなビン選択を実行することで、参照ビンの数、あるいは参照ビンに対応する度数が少なくなり、参照画素数が減少してしまう場合がある。このような場合は、ノイズ低減効果が期待できない。具体的には、例えば、動被写体等で参照範囲に類似輝度を有する画素が少ない場合などにこのような事態が発生する。
このような場合は、予め作成もしくは適宜、より広い参照範囲を設定して処理を行う。このような参照領域の拡張により、最適なノイズ削減効果を得ることができる。
なお、具体的にはも例えば空間の参照範囲は控えめ、時間方向参照範囲を大きくとることで劣化の少ないノイズ低減処理が可能となる。ただし、動被写体が存在する場合などには、空間方向の参照範囲を広く取ることで、劣化の抑制とノイズ低減効果を両立することができる。
[4.本開示の画像処理装置の変形例について]
本開示の画像処理装置の構成例として図5に示す画像処理装置100の構成と処理について説明してきた。
本開示の画像処理装置の構成例としては、図5に示す構成に限らず、様々構成が可能である。以下に示す本開示の画像処理装置の複数の変形例について、順次、説明する。
(1)生成した補正画像をフィードバックして繰り返し補正を実行する実施例、
(2)ヒストグラムをFIFOバッファに格納し、順次更新して利用する実施例、
(3)補正画素値算出に適用する参照ビンの選択閾値と、重み係数のチューニングを行う実施例、
以下、これらの実施例について、順次説明する。
[4−1.生成した補正画像をフィードバックして繰り返し補正を実行する実施例]
まず、図16を参照して、本開示の処理によって生成した補正画像をフィードバックして繰り返し補正を実行する実施例について説明する。
図16に示す画像処理装置300は、図5に示す画像処理装置100と同様、
画像縮小部101、
画像バッファ102、
画像解析部103、
画素値補正部104、
これらの各構成を有する。
さらに、
第2画像縮小部321を有する。
第2画像小部321は、画素値補正部104が生成した補正画像301を入力して縮小画像を生成し、生成した縮小画像を画像バッファ102に格納する処理を実行する。
すなわち、先に説明した図5に示す構成を有する画像処理装置100は、画素値補正部104において補正した画素値を持つ画像を出力画像122として出力していたが、図16に示す画像処理装置300は、画素値補正部104の生成した補正画像を、さらに、画像バッファ102に格納し、補正画像を適用して、再度、補正画像を生成する。あるいは、補正画像を参照画像として適用して、異なるフレームの画像の補正を行うといった処理を実行する構成である。
すなわち、画素値補正部104は、補正対象とする入力画像121に基づいて補正画像301を生成し、さらに、補正画像301に対して、上述した処理と同様の処理を繰り返し実行して出力画像122を生成する。
あるいは、画素値補正部104は、補正対象とする入力画像121に基づいて補正画像301を生成し、さらに、次の入力画像の補正処理に際して、補正画像301に参照領域を設定して、上述した処理と同様の処理を実行して出力画像122を生成する。
このように補正画像を適用して、再度処理を行うことで、補正精度の向上が期待される。
[4−2.ヒストグラムをFIFOバッファに格納し、順次更新して利用する実施例]
次に、ヒストグラムをFIFOバッファに格納し、順次更新して利用する実施例について説明する。
図17に本実施例に係る画像処理装置500の構成例を示す。
図17に示す画像処理装置500は、図5に示す画像処理装置100と同様、
画像縮小部101、
画像バッファ102、
画像解析部103、
画素値補正部104、
これらの各構成を有する。
さらに、
画像解析情報バッファ(FIFO)501を有する。
画像解析情報バッファ(FIFO)501には、画像解析部103の生成した画像解析情報を格納する。
画像解析部103は、先の実施例において説明したように、図11に示す付随情報付き度数分布データを生成する。
前述したように、この図11に示す付随情報付き度数分布データは、例えば図9を参照して説明したヒストグラム生成処理単位データを利用して生成される。
すなわち、図11に示す付随情報付き度数分布データは、例えば4枚の連続撮影画像の縮小画像各々の3×3=9画素、計36画素の画素データに基づいて生成されるデータである。
図17に示す画像解析部103は、各縮小画像単位の付随情報付き度数分布データを生成して、生成した各画像対応のデータを画像解析情報バッファ(FIFO)501に順次、格納する。
具体的には、例えば、
(1)撮影時間t=1の画像フレームF(t1)の縮小画像に対応する付随情報付き度数分布データ[D−F(t1)]
(2)撮影時間t=2の画像フレームF(t2)の縮小画像に対応する付随情報付き度数分布データ[D−F(t2)]
(3)撮影時間t=3の画像フレームF(t3)の縮小画像に対応する付随情報付き度数分布データ[D−F(t3)]
(4)撮影時間t=4の画像フレームF(t4)の縮小画像に対応する付随情報付き度数分布データ[D−F(t4)]
このような、画像単位の付随情報付き度数分布データを生成して画像解析情報バッファ(FIFO)501に順次、格納する。
なお、画像解析部103は、各縮小画像の各画素(x,y)を注目画素として設定した場合の各画素(x,y)対応の「付随情報付き度数分布データ[D−F(tn)]」を生成して画像解析情報バッファ(FIFO)501に順次、格納する。
画像解析情報バッファ(FIFO)501には、上記のように、4枚の連続撮影画像に対応する各画素対応の「付随情報付き度数分布データ[D−F(tn)]」が格納される。
画像解析部103は、この4枚の画像に対応する「付随情報付き度数分布データ[D−F(tn)]」から、同一画素位置(x,y)に対応する4つのデータを加算して、先に図11を参照して説明した付随情報付き度数分布データを生成して、画素値補正部104に出力する。
画像解析情報バッファ(FIFO)501は、例えば4枚の画像に対応する付随情報付き度数分布データを格納可能なFIFOバッファであり、t=1〜4の画像対応のデータが格納され、t=1〜4の画像に基づく付随情報付き度数分布データを画素値補正部に出力した後、t=1対応の付随情報付き度数分布データは、次のt=5の画像に対応する付随情報付き度数分布データに置き換えられる。
このように、画像解析情報バッファ(FIFO)501は、順次、最新の4枚の画像対応の付随情報付き度数分布データを格納するように更新される。
この構成により、画像解析部103は、画像解析情報バッファ(FIFO)501に格納された4枚の画像に対応する「付随情報付き度数分布データ[D−F(tn)]」を利用したデータ加算処理によって、先に図11を参照して説明した付随情報付き度数分布データを生成して、画素値補正部104に出力することが可能となる。
[4−3.補正画素値算出に適用する参照ビンの選択閾値と、重み係数の調整(チューニング)を行う実施例]
次に、補正画素値算出に適用する参照ビンの選択閾値と、重み係数の調整(チューニング)を行う実施例について説明する。
先に説明したように、画素値補正部104は、例えば図14、図15を参照して説明した処理によって画素値を補正する。
具体的には、例えば、図14に示すように、補正対象画素である注目画素231の補正に適用するビンとして、図12、図13を参照して説明した処理によって5つのビン2〜ビン6が選択されている場合、この5つのビンについて、付随情報(U和、V和)を利用してビン選択を行う。
この処理が図14(C)に示すUVチャンネルの確認処理である。
図14(C)に示すように、補正対象画素(注目画素)と参照ビン(本例ではビン2,3,4,5,6)とのUV各チャンネルの値の差分が予め定めた閾値Thu,Thv未満であるか否かを判定する。
具体的には、先に説明した(式1)、すなわち以下の(式1)に従って判定する。
Figure 2013214272
・・・・・(式1)
なお、上記(式1)において、
Utgt:補正対象画素(注目画素)のU値、
Vtgt:補正対象画素(注目画素)のV値、
Usumi:ビンiのU和、
Vsumi:ビンiのV和、
Freqi:ビンiの度数、
Thu,Thv:予め設定した既定閾値、
である。
上記(式1)を満足するビンのみが選択され、上記(式1)を満足しないビンは排除される。
結果として、例えばビン2,4,5のみが上記(式1)を満足し、ビン3,6は上記(式1)を満足しなかった場合、図14(D)に示すように、ビン2,4,5のみが最終的な参照ビンとして選択される。
これらの最終選択ビンに含まれるデータを利用して補正対象画素である注目画素231の画素値(Y,U,V)の各値が決定される。
この処理については、先に図15を参照して説明したとおりである。
図15(D)には、図14を参照して説明した処理によって最終選択された参照ビンであるビン2,4,5の付随情報付き度数分布データを示している。
画素値補正部104は、この最終選択ビンの付随情報付き度数分布データを利用して、補正対象画素である注目画素231の画素値(Y,U,V)の各値を算出する。
具体的には、図15(E)に示すように、補正対象画素である注目画素231のYUV=(Ytgt,Utgt,Vtgt)とも参照ビン2,4,5のY和(Ysum)、U和(Usum)、V和(Vsum)と各ビンの度数(Freq)を適用して先に説明した(式2)、すなわち、以下に示す(式2)に従った加算平均処理により、注目画素231の補正画素値(Yout,Uout,Vout)を算出する。
Figure 2013214272
・・・・・(式2)
なお、上記(式2)において、
Ytgt:補正対象画素(注目画素)のY値、
Utgt:補正対象画素(注目画素)のU値、
Vtgt:補正対象画素(注目画素)のV値、
Ysumi:ビンiのY和、
Usumi:ビンiのU和、
Vsumi:ビンiのV和、
Freqi:ビンiの度数、
ai,bi,ciは、ビンiの重み係数である。
このように、前述の実施例では、参照画素に設定するビンの選択処理に際して、前述の(式1)を適用して、補正対象画素(注目画素)と参照ビンとのUV各チャンネルの値の差分が予め定めた閾値Thu,Thv未満であるか否かを判定する処理を実行していた。
また、補正画素値の算出においては、前述の(式2)を適用した処理を実行していた。この画素値算出には各ビン(i)対応の重み係数ai,bi,ciを用いた処理を行なっていた。
これらの処理において、
(a)ビン選択に適用する閾値Thu,Thv、
(b)画素値算出に適用する重み係数ai,bi,ci、
これらの各パラメータの値は、補正対象画像や補正態様に応じて、適宜調整する構成としてもよい。
具体的には、例えば以下のような調整(チューニング)を行うことが好ましい。
輝度信号の加算平均はテクスチャ劣化を招きやすい。しかし、上記(式1)で適用する閾値Thu,Thvや、上記(式2)に適用する重み係数ai,bi,ciを調整することで、テクスチャ劣化を抑えノイズ低減を行うことが可能となる。
このためのパラメータ調整は、例えば、以下の設定とする。
参照ビンの範囲を決定する上記(式1)中の閾値Thu,Thvはゆるめの設定とし、
補正画素値を算出する上記(式2)の色差算出に適用する重み係数bi,ciを広いビンになだらかに乗算する設定とし、輝度算出に適用する重み係数aiを狭いビン範囲に大きく乗算するように設定する。
このようなパラメータ調整を実行することでテクスチャ劣化を抑えノイズ低減を行うことが可能となる。
また、色ノイズが大きい場合、先に説明した(式1)に従って参照ビンの選択を行うと以下の問題が発生することがある。
すなわち、補正対象画素(注目画素)のU値:Utgt、補正対象画素(注目画素)のV値:Vtgtのノイズが大きく、真の値と大きく異なると、真の値の近傍のビンを排除してしまう可能性が高くなる。この場合、ノイズ低減効果が低下してしまう。
このような問題の発生を防止するためには、例えば、以下の(式3)に示す判定式を適用したビン選択を実行してもよい。
Figure 2013214272
・・・・・(式3)
なお、上記(式3)において、
Usumcenter:補正対象画素(注目画素)の属する中央ビンのU和、
Vsumcenter:補正対象画素(注目画素)の属する中央ビンのV和、
Freqcenter:補正対象画素(注目画素)の属する中央ビンの度数、
Usumi:ビンiのU和、
Vsumi:ビンiのV和、
Freqi:ビンiの度数、
Thu,Thv:予め設定した既定閾値、
である。
上記の(式3)は、補正対象画素(注目画素)の属する中央ビン(Center)と周囲ビンとの色差の差分に応じて参照ビンの選択範囲を決定する判定式である。
上記(式3)を満足するビンを参照ビンとして選択する。
この(式3)の判定式に従って参照ビンの選択を実行することで、補正対象画素(注目画素)のU値:Utgt、補正対象画素(注目画素)のV値:Vtgtのノイズが大きい場合でも、真の値の近傍のビンを排除してしまう可能性を低減することができ、適切な参照ビン選択を実現することが可能となる。
ただし、色差による制限判定を複数画素からなるブロック単位に行うことで、ブロック内に複数の色が混ざっている領域では誤判定を起こす可能性がある。従って、補正対象画像のノイズ量に応じて、(式1)、(式3)のいずれの判定式を選択するかを決定して適用することが好ましい。
ノイズの少ない画像に対しては(式1)を適用し、ノイズの多い画像の場合は、(式3)を適用するといった処理を行なう構成とするのが望ましい。
なお、(式1)、(式3)のいずれの判定式を用いたビン選択処理は、生成したヒストグラムによって実行可能であり、ヒストグラム作成時に予め求めておくことも可能である。
[5.画像処理装置のハードウェア構成例について]
最後に、図18を参照して、上述した処理を実行する画像処理装置の1つのハードウェア構成例について説明する。CPU(Central Processing Unit)901は、ROM(Read Only Memory)902、または記憶部908に記憶されているプログラムに従って各種の処理を実行する。例えば、上述の各実施例において説明した縮小画像生成処理、画像解析処理、画像解析結果を適用したノイズ低減処理等の画像処理を実行する。RAM(Random Access Memory)903には、CPU901が実行するプログラムやデータなどが適宜記憶される。これらのCPU901、ROM902、およびRAM903は、バス904により相互に接続されている。
CPU901はバス904を介して入出力インタフェース905に接続され、入出力インタフェース905には、キーボード、マウス、マイクロホンなどよりなる入力部906、ディスプレイ、スピーカなどよりなる出力部907が接続されている。CPU901は、入力部906から入力される指令に対応して各種の処理を実行し、処理結果を例えば出力部907に出力する。
入出力インタフェース905に接続されている記憶部908は、例えばハードディスクからなり、CPU901が実行するプログラムや各種のデータを記憶する。通信部909は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
入出力インタフェース905に接続されているドライブ910は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア911を駆動し、記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部908に転送され記憶される。
[6.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する画像解析部と、
前記画像解析情報を適用して画素値補正を実行する画素値補正部を有し、
前記画像解析部は、
輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成し、
前記画素値補正部は、
前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する画像処理装置。
(2)前記画素値補正部は、前記選択ビンに含まれる参照画素の画素値の加算平均処理により、前記ノイズ低減対象画素の補正画素値を算出する前記(1)に記載の画像処理装置。
(3)前記画像解析部は、輝度値とノイズ標準偏差との対応関係データを利用し、輝度値Yに対応するノイズ標準偏差σ(Y)の値、または予め設定した係数kを乗算したkσ(Y)を前記ビン幅として設定した度数分布データを生成する前記(1)または(2)に記載の画像処理装置。
(4)前記画像解析部は、前記異なるビン幅の複数のビンを設定した度数分布データに併せて、各ビン対応の画素の画素値総和データを付随データとして生成する前記(1)〜(3)いずれかに記載の画像処理装置。
(5)前記画像解析部は、前記付随データとして、各ビン対応の画素のY,U,V各画素値の総和データを生成する前記(4)に記載の画像処理装置。
(6)前記画素値補正部は、前記ノイズ低減対象画素の画素値と、前記選択ビンの付随データであるU,V各画素値の総和データから算出した選択ビンのUおよびVの平均値との差分が既定閾値未満のビンを再選択し、再選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する前記(5)に記載の画像処理装置。
(7)前記画素値補正部は、前記ノイズ低減対象画素の含まれる中央ビンのUおよびVの各平均値と、前記選択ビンのUおよびVの各平均値との差分が既定閾値未満のビンを再選択し、再選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する前記(5)に記載の画像処理装置。
(8)前記画像処理装置は、前記ノイズ低減対象画素を含む画像を縮小する画像縮小部を有し、前記画像解析部は、前記画像縮小部の生成した縮小画像に基づいて前記画像解析情報を生成する前記(1)〜(7)いずれかに記載の画像処理装置。
(9)前記画像縮小部は、エッジ保存平滑化処理を実行して縮小画像を生成する前記(8)に記載の画像処理装置。
(10)前記画像解析部は、前記ノイズ低減対象画素を含む画像を含む複数の連続撮影画像の対応画素領域を参照領域として設定し、該参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する前記(1)〜(9)いずれかに記載の画像処理装置。
(11)前記画像解析部は、
前記度数分布データを各画像単位で生成し、生成した画像単位の度数分布データをFIFOバッファに格納し、FIFOバッファに格納した複数の画像の度数分布データの演算処理により、複数の連続撮影画像に設定された参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する前記(10)に記載の画像処理装置。
さらに、上記した装置およびシステムにおいて実行する処理の方法や、処理を実行させるプログラムも本開示の構成に含まれる。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(LocalAreaNetwork)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本開示の一実施例の構成によれば、画像に対する効率的なノイズ低減処理を実現する装置および方法を提供する。
具体的には、ノイズ低減対象画素の画素値補正に適用する参照領域構成画素の画素値の度数分布データを含む画像解析情報を生成する画像解析部と、画像解析情報を適用して画素値補正を実行する画素値補正部を有する。画像解析部は輝度値に応じて異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成する。画素値補正部はノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理によりノイズ低減対象画素の補正画素値を算出する。
これらの処理により、各画素対応の問題画素判定処理を逐次、行うことなく、補正対象画素と類似する画素値を持つ画素のみを速やかに選択可能となり、効率的な画素値補正処理が実現される。
100 画像処理装置
101 画像縮小部
102 画像バッファ
103 画像解析部
104 画素値補正部
121 入力画像
122 出力画像
123 画像解析情報
131 エッジ保存平滑化処理部
132 サブサンプル部
141 縮小画像
151 Haar変換部
152 段数決定部
153 低域複写部
181 ヒストグラムビン幅決定部
182 画像解析情報生成部
300 画像処理装置
301 補正画像
321 第2画像縮小部
500 画像処理装置
501 画像解析情報バッファ
901 CPU
902 ROM
903 RAM
904 バス
905 入出力インタフェース
906 入力部
907 出力部
908 記憶部
909 通信部
910 ドライブ
911 リムーバブルメディア

Claims (13)

  1. ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する画像解析部と、
    前記画像解析情報を適用して画素値補正を実行する画素値補正部を有し、
    前記画像解析部は、
    輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成し、
    前記画素値補正部は、
    前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する画像処理装置。
  2. 前記画素値補正部は、
    前記選択ビンに含まれる参照画素の画素値の加算平均処理により、前記ノイズ低減対象画素の補正画素値を算出する請求項1に記載の画像処理装置。
  3. 前記画像解析部は、
    輝度値とノイズ標準偏差との対応関係データを利用し、輝度値Yに対応するノイズ標準偏差σ(Y)の値、または予め設定した係数kを乗算したkσ(Y)を前記ビン幅として設定した度数分布データを生成する請求項1に記載の画像処理装置。
  4. 前記画像解析部は、
    前記異なるビン幅の複数のビンを設定した度数分布データに併せて、各ビン対応の画素の画素値総和データを付随データとして生成する請求項1に記載の画像処理装置。
  5. 前記画像解析部は、
    前記付随データとして、各ビン対応の画素のY,U,V各画素値の総和データを生成する請求項4に記載の画像処理装置。
  6. 前記画素値補正部は、
    前記ノイズ低減対象画素の画素値と、前記選択ビンの付随データであるU,V各画素値の総和データから算出した選択ビンのUおよびVの平均値との差分が既定閾値未満のビンを再選択し、再選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する請求項5に記載の画像処理装置。
  7. 前記画素値補正部は、
    前記ノイズ低減対象画素の含まれる中央ビンのUおよびVの各平均値と、前記選択ビンのUおよびVの各平均値との差分が既定閾値未満のビンを再選択し、再選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出する請求項5に記載の画像処理装置。
  8. 前記画像処理装置は、
    前記ノイズ低減対象画素を含む画像を縮小する画像縮小部を有し、
    前記画像解析部は、前記画像縮小部の生成した縮小画像に基づいて前記画像解析情報を生成する請求項1に記載の画像処理装置。
  9. 前記画像縮小部は、
    エッジ保存平滑化処理を実行して縮小画像を生成する請求項8に記載の画像処理装置。
  10. 前記画像解析部は、
    前記ノイズ低減対象画素を含む画像を含む複数の連続撮影画像の対応画素領域を参照領域として設定し、該参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する請求項1に記載の画像処理装置。
  11. 前記画像解析部は、
    前記度数分布データを各画像単位で生成し、生成した画像単位の度数分布データをFIFOバッファに格納し、FIFOバッファに格納した複数の画像の度数分布データの演算処理により、複数の連続撮影画像に設定された参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する請求項10に記載の画像処理装置。
  12. 画像処理装置において画素のノイズ低減処理を実行する画像処理方法であり、
    画像解析部が、ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成する画像解析ステップと、
    画素値補正部が、前記画像解析情報を適用して画素値補正を実行する画素値補正ステップを実行し、
    前記画像解析ステップは、
    輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンを設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成するステップであり、
    前記画素値補正ステップは、
    前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出するステップである画像処理方法。
  13. 画像処理装置において画素のノイズ低減処理を実行させるプログラムであり、
    画像解析部に、ノイズ低減対象画素の画素値補正に適用する参照画素を選択するための参照領域に含まれる画素の画素値に対応する度数分布データを含む画像解析情報を生成させる画像解析ステップと、
    画素値補正部に、前記画像解析情報を適用して画素値補正を実行させる画素値補正ステップを実行させ、
    前記画像解析ステップは、
    輝度値に応じて異なる大きさの輝度範囲をビン幅に設定した異なるビン幅の複数のビンの設定し、各ビン対応の輝度範囲の画素数を度数データとして設定した度数分布データを生成させるステップであり、
    前記画素値補正ステップは、
    前記ノイズ低減対象画素の画素値の含まれるビンである補正対象画素対応ビン、および該補正対象画素対応ビンに隣接する予め設定した既定数のビンを選択し、選択ビンに含まれる参照画素の画素値を適用した演算処理により前記ノイズ低減対象画素の補正画素値を算出させるステップであるプログラム。
JP2012145055A 2012-03-08 2012-06-28 画像処理装置、および画像処理方法、並びにプログラム Pending JP2013214272A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012145055A JP2013214272A (ja) 2012-03-08 2012-06-28 画像処理装置、および画像処理方法、並びにプログラム
US13/778,891 US20130236095A1 (en) 2012-03-08 2013-02-27 Image processing device, image processing method, and program
CN2013100660276A CN103312963A (zh) 2012-03-08 2013-03-01 图像处理设备和图像处理方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012051297 2012-03-08
JP2012051297 2012-03-08
JP2012145055A JP2013214272A (ja) 2012-03-08 2012-06-28 画像処理装置、および画像処理方法、並びにプログラム

Publications (1)

Publication Number Publication Date
JP2013214272A true JP2013214272A (ja) 2013-10-17

Family

ID=49114175

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012145055A Pending JP2013214272A (ja) 2012-03-08 2012-06-28 画像処理装置、および画像処理方法、並びにプログラム

Country Status (3)

Country Link
US (1) US20130236095A1 (ja)
JP (1) JP2013214272A (ja)
CN (1) CN103312963A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018139242A1 (ja) * 2017-01-27 2018-08-02 パナソニック株式会社 画像解析システム、画像解析方法及びプログラム

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104067611B (zh) 2012-01-24 2016-08-24 索尼公司 图像处理设备、图像处理方法及图像处理装置
AU2012374649A1 (en) 2012-03-27 2014-09-11 Sony Corporation Image processing device, image-capturing element, image processing method, and program
US9967481B2 (en) * 2013-03-13 2018-05-08 Intel Corporation Techniques for image sensor pixel correction
WO2016178326A1 (ja) * 2015-05-07 2016-11-10 オリンパス株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理装置の画像処理プログラムを記憶した記憶媒体
CN106156749A (zh) * 2016-07-25 2016-11-23 福建星网锐捷安防科技有限公司 基于选择性搜索的人脸检测方法及装置
US11024044B2 (en) * 2016-09-26 2021-06-01 Digitalglobe, Inc. Techniques for image co-registration
CN107633477B (zh) * 2017-10-20 2021-04-20 上海兆芯集成电路有限公司 图像处理方法及其装置
JP2019105919A (ja) * 2017-12-11 2019-06-27 シャープ株式会社 平滑画像生成装置、異常判定装置、平滑画像生成方法、およびプログラム
US10628442B1 (en) * 2018-11-09 2020-04-21 Hewlett Packard Enterprise Development Lp Histograms based on varying data distribution
CN113497781B (zh) * 2020-03-19 2022-08-02 中国电信股份有限公司 钓鱼网站识别方法、装置和计算机可读存储介质
KR102781392B1 (ko) 2020-05-29 2025-03-12 삼성전자주식회사 이미지 신호 프로세서, 이미지 프로세싱 방법 및 그 전자 장치

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3006290B2 (ja) * 1992-06-25 2000-02-07 松下電器産業株式会社 ノイズ低減装置
JP3838163B2 (ja) * 2002-06-13 2006-10-25 松下電器産業株式会社 ノイズ低減装置
JP2007288595A (ja) * 2006-04-18 2007-11-01 Pioneer Electronic Corp フレーム巡回型ノイズ低減装置
US8374229B2 (en) * 2008-02-26 2013-02-12 Siemens Aktiengesellschaft Method for the detection and generation of a useful signal and associated devices and communications system
JP5147903B2 (ja) * 2010-07-12 2013-02-20 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018139242A1 (ja) * 2017-01-27 2018-08-02 パナソニック株式会社 画像解析システム、画像解析方法及びプログラム

Also Published As

Publication number Publication date
CN103312963A (zh) 2013-09-18
US20130236095A1 (en) 2013-09-12

Similar Documents

Publication Publication Date Title
JP2013214272A (ja) 画像処理装置、および画像処理方法、並びにプログラム
US8169490B2 (en) Image processing apparatus, image processing method, and program
US8126266B2 (en) Video signal processing method, program for the video signal processing method, recording medium recording the program for the video signal processing method, and video signal processing apparatus
US7925113B2 (en) Generating compound images having increased sharpness and reduced noise
US9454805B2 (en) Method and apparatus for reducing noise of image
US20170323430A1 (en) Image processing apparatus and image processing method
KR101114698B1 (ko) 이미지 특성에 따라 에지를 강조하기 위한 이미지 생성 장치 및 방법
US8681187B2 (en) Image processing apparatus, non-transitory storage medium storing image processing program and image processing method
US9153015B2 (en) Image processing device and method
US20160112659A1 (en) Image processing apparatus and image processing method, and program
EP2360906A2 (en) Method of and apparatus for image denoising
US10043244B2 (en) Image processing device, image processing method, image processing program, and recording medium
US9747674B2 (en) Method and device for converting an image sequence whose luminance values belong to a high dynamic range
US9727984B2 (en) Electronic device and method for processing an image
JP6369150B2 (ja) アンチエイリアシングエッジを回復するフィルタリング方法及びフィルタリング装置
US20090278953A1 (en) Picture enhancing increasing precision smooth profiles
EP3411831B1 (en) Adaptive bilateral (bl) filtering for computer vision
JP2012208553A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2017151908A (ja) 画像補正装置、画像補正方法及び画像補正用コンピュータプログラム
JP7328096B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2005341564A (ja) ノイズ処理が可能なガンマ補正装置およびその方法
US7916970B2 (en) Image processing apparatus, method of same, and program for same
TW201318418A (zh) 降低影像雜訊的方法及相關裝置
US20190220962A1 (en) Image processing method and image processing device
JP6584173B2 (ja) 画像処理装置及び画像処理方法