JP4495355B2

JP4495355B2 - Image interpolation device

Info

Publication number: JP4495355B2
Application number: JP2001006428A
Authority: JP
Inventors: 紳聡阿部
Original assignee: Hoya Corp
Current assignee: Hoya Corp
Priority date: 2001-01-15
Filing date: 2001-01-15
Publication date: 2010-07-07
Anticipated expiration: 2021-01-15
Also published as: JP2002218483A

Description

【０００１】
【発明の属する技術分野】
本発明は、例えばデジタルカメラにおいて、カラー画像の画質を向上させるために設けられる画像補間装置に関する。
【０００２】
【従来の技術】
従来デジタルカメラにおいて、カラー画像を検出するために、ＣＣＤ等の撮像素子の前面にベイヤー配列のカラーフィルタを設けたものが知られている。このカラーフィルタは、レッド（Ｒ）、グリーン（Ｇ）およびブルー（Ｂ）の各カラーフィルタ要素を市松模様に配列して構成され、これらのカラーフィルタ要素は撮像素子のフォトダイオードにそれぞれ対応している。したがってフォトダイオードにより、各カラーフィルタ要素に対応した色の画素信号が生成され、例えばＲのカラーフィルタ要素に対応したフォトダイオードによりＲの画素信号が生成される。
【０００３】
撮像素子から出力された画素信号をそのまま用いるよりも高画質のカラー画像を表示するため、画素信号に対して補間処理を施すことがある。通常の補間処理では、フォトダイオードによってＲ信号が得られた画素に対しては、その周囲に位置する画素のＧ信号の相加平均をとることによってＧ信号が生成され、また、その周囲に位置する画素のＢ信号の相加平均をとることによってＢ信号が生成される。ところが、例えば空間周波数の高い画像において、補間処理によって求めようとしている画素の実際の色とその周囲の画素の実際の色とが大きく異なることがあり、このような場合、補間処理により得られた画素の色信号の値によって、再生画像に色にじみが生じる。
【０００４】
【発明が解決しようとする課題】
したがって本発明は、補間処理によって再生画像に色にじみが生じることを減少させることを目的としている。
【０００５】
【課題を解決するための手段】
本発明に係る画像補間装置は、カラーフィルタとパターン設定部とＧ補間処理手段とＲ／Ｂ補間処理手段とＢ補間処理手段とＲ補間処理手段を備えている。
カラーフィルタは、水平方向にレッド（Ｒ）とグリーン（Ｇ）のカラーフィルタ要素が交互に並ぶ第１の列と、この第１の列の上下側に隣接し、水平方向にＧとブルー（Ｂ）のカラーフィルタ要素が交互に並ぶ第２の列とから構成される。撮像素子は、各カラーフィルタ要素に対応した画素信号であるＲ，Ｇ，Ｂ信号を生成する。パターン設定手段は、撮像素子によって生成されたＲ，Ｇ，Ｂ信号から、２×２の画素マトリクスにおいて左上にＲ信号が位置する第１パターンと、右上にＧ信号が位置する第２パターンと、左下にＧ信号が位置する第３パターンと、右下にＢ信号が位置する第４パターンとにそれぞれ属する画像を抽出する。Ｇ補間処理手段は、第１および第４パターンに属する画像の各画素に関し、隣接する画素のＧ信号を利用してＧ信号を求める。Ｒ／Ｂ補間処理手段は、第２および第３パターンに属する画像の各画素に関し、隣接する画素のＲおよびＢ信号を利用してＲおよびＢ信号を求める。Ｂ補間処理手段は、第１パターンに属する画像の各画素に関し、隣接する画素の中から輝度値が最も近い類似画素を抽出し、類似画素の輝度値と色差信号Ｃｂに基づいて、Ｂ信号を求める。Ｒ補間処理手段は、第４パターンに属する画像の各画素に関し、隣接する画素の中から輝度値が最も近い類似画素を抽出し、類似画素の輝度値と色差信号Ｃｒに基づいて、Ｒ信号を求める。
【０００６】
Ｇ補間処理手段において、隣接する画素は第２および第３パターンに属する画像に含まれる。Ｒ／Ｂ補間処理手段において、隣接する画素は第１および第４パターンに属する画像に含まれる。Ｂ補間処理手段およびＲ補間処理手段において、隣接する画素は第２および第３パターンに属する画像に含まれる。
【０００７】
Ｂ補間処理手段およびＲ補間処理手段は、好ましくは、隣接する画素におけるＧ信号の値を用いて、輝度値が最も近い類似画素を抽出する。類似画素の色合いが補間処理によって求めようとしている画素の色合いに近いと推定することにより、色にじみが減少する。
【０００８】
Ｂ補間処理手段は、第１パターンに属する画像の各画素に関し、色差信号Ｃｂが類似画素の色差信号Ｃｂに等しいと仮定してＢ信号を求めてもよい。同様にＲ補間処理手段は、第４パターンに属する画像の各画素に関し、色差信号Ｃｒが類似画素の色差信号Ｃｒに等しいと仮定してＲ信号を求めてもよい。
【０００９】
Ｂ補間処理手段は、第１パターンに属する画像の各画素に関し、その画素のＧ信号と類似画素のＧ信号との比率を輝度値に乗じて求めた修正輝度値ＹＧと色差信号Ｃｂを用いて、Ｂ信号を求めてもよい。これにより、さらに色にじみを減少させることが可能になる。この場合、Ｂ補間処理手段は例えば下記式に従ってＢ信号を求める。
Ｙ＝0.299×R(x^',y^')+0.587×G(x^',y^')+0.114×B(x^',y^')
Ｃｂ＝-0.169×R(x^',y^')-0.331×G(x^',y^')+0.5×B(x^',y^')
ＹＧ＝Ｙ×G(x,y)/G(x^',y^')
ｂ＝ＹＧ+1.772×Ｃｂ
ただし、Ｙは類似画素の輝度値、R(x^',y^')， G(x^',y^')，B(x^',y^')は類似画素のＲ，Ｇ，Ｂ信号、G(x,y)は第１パターンに属する画像の画素のＧ信号、ｂはＢ補間処理手段により求められる第１パターンに属する画像の画素のＢ信号である。
【００１０】
Ｒ補間処理手段は、第４パターンに属する画像の各画素に関し、その画素のＧ信号と類似画素のＧ信号との比率を輝度値に乗じて求めた修正輝度値ＹＧと色差信号Ｃｒを用いて、Ｒ信号を求めてもよい。この場合、Ｒ補間処理手段は例えば下記式に従ってＲ信号を求める。
Ｙ＝0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y')
Ｃｒ＝0.5×R(x',y')-0.419×G(x',y')-0.081×B(x',y')
ＹＧ＝Ｙ×G(x,y)/G(x',y')
ｒ＝ＹＧ+1.402×Ｃｒ
ただし、Ｙは類似画素の輝度値、R(x',y')， G(x',y')，B(x',y')は類似画素のＲ，Ｇ，Ｂ信号、G(x,y)は第４パターンに属する画像の画素のＧ信号、ｒはＲ補間処理手段により求められる第４パターンに属する画像の画素のＲ信号である。
【００１１】
Ｂ補間処理手段は、隣接する画素におけるＧ信号およびＲ信号の値を用いて、輝度値が最も近い類似画素を抽出してもよい。また、Ｒ補間処理手段は、隣接する画素におけるＧ信号およびＢ信号の値を用いて、輝度値が最も近い類似画素を抽出してもよい。
【００１２】
Ｂ補間処理手段は、第１パターンに属する画像の各画素に関し、その画素のＧ信号およびＲ信号に基づいて得られる第１の参照値と類似画素のＧ信号およびＲ信号に基づいて得られる第２の参照値との比率を輝度値に乗じて求めた修正輝度値ＹＧと色差信号Ｃｂを用いて、Ｂ信号を求めてもよい。この場合、Ｂ補間処理手段は例えば下記式に従ってＢ信号を求める。
Ｙ＝0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y')
Ｃｂ＝-0.169×R(x',y')-0.331×G(x',y')+0.5×B(x',y')
ＹＧ＝Ｙ×
(0.587×G(x,y)+0.299×R(x,y))/(0.587×G(x',y')+0.299×R(x',y'))
ｂ＝ＹＧ+1.772×Ｃｂ
ただし、Ｙは類似画素の輝度値、R(x',y')， G(x',y')，B(x',y')は類似画素のＲ，Ｇ，Ｂ信号、G(x,y)は第１パターンに属する画像の画素のＧ信号、ｂはＢ補間処理手段により求められる第１パターンに属する画像の画素のＢ信号である。
【００１３】
Ｒ補間処理手段は、第４パターンに属する画像の各画素に関し、その画素のＧ信号およびＢ信号に基づいて得られる第１の参照値と類似画素のＧ信号およびＢ信号に基づいて得られる第２の参照値との比率を輝度値に乗じて求めた修正輝度値ＹＧと色差信号Ｃｒを用いて、Ｒ信号を求めてもよい。この場合、Ｒ補間処理手段は例えば下記式に従ってＲ信号を求める。
Ｙ＝0.299×R(x',y')+0.587×G(x',y')+0.114×B(x',y')
Ｃｒ＝0.5×R(x',y')-0.419×G(x',y')-0.081×B(x',y')
ＹＧ＝Ｙ×
(0.587×G(x,y)+0.114×B(x,y))/(0.587×G(x',y')+0.114×B(x',y'))
ｒ＝ＹＧ+1.402×Ｃｒ
ただし、Ｙは類似画素の輝度値、R(x',y')， G(x',y')，B(x',y')は類似画素のＲ，Ｇ，Ｂ信号、G(x,y)は第４パターンに属する画像の画素のＧ信号、ｒはＲ補間処理手段により求められる第４パターンに属する画像の画素のＲ信号である。
【００１４】
【発明の実施の形態】
以下、本発明の実施形態を図面を参照して説明する。図１は、本発明の第１実施形態である画像補間装置を備えたデジタルカメラ１０の概略的な構成を示している。
【００１５】
撮影レンズ１１の後方には撮像素子であるＣＣＤ１２が配設され、ＣＣＤ１２の受光面にはカラーフィルタ１３が設けられている。すなわち撮影レンズ１１によって得られた被写体Ｓの光学像がＣＣＤ１２の受光面に結像され、ＣＣＤ１２のフォトダイオードには、被写体像を構成するカラーの画素信号が発生する。画素信号はＣＣＤ１２から読み出され、Ａ／Ｄ変換器１４においてデジタル信号に変換される。そして画素信号はホワイトバランス調整回路１５においてホワイトバランス調整を施され、画像メモリ１６に格納される。
【００１６】
画素信号は画像メモリ１６から読み出され、パターン設定部１７に入力される。パターン設定部１７では、後述するように、所定の配列パターンを構成する画素信号が全画素信号の中から抽出され、第１、第２、第３および第４パターンに分類される。補間処理部１８では、パターン設定部１７において抽出された画素信号がそのパターンに応じた補間処理を施される。補間処理部１８から出力された、補間後の画素信号はメモリカード等の記録媒体Ｄに記録される。なおホワイトバランス調整回路１５は、Ａ／Ｄ変換器１４の後段ではなく、補間処理部１８の後段に設けられてもよい。
【００１７】
図２はカラーフィルタ１３におけるカラーフィルタ要素の配列と、パターン設定部１７において抽出される、各パターンに属する画像の画素信号とを示している。カラーフィルタ１３は、ベイヤー配列に従って配置されたレッド（Ｒ）、グリーン（Ｇ）およびブルー（Ｂ）のカラーフィルタ要素から構成される。すなわちカラーフィルタ１３は、水平方向にＲとＧのカラーフィルタ要素が交互に並ぶ第１の列１３ａと、この第１の列１３ａの上下側に隣接し、水平方向にＧとＢのカラーフィルタ要素が交互に並ぶ第２の列１３ｂとから構成され、ＣＣＤ１２では、各カラーフィルタ要素に対応した画素信号であるＲ，Ｇ，Ｂ信号が生成される。
【００１８】
カラーフィルタ１３は、左上にＲ、右上と左下にＧ、右下にＢのカラーフィルタ要素が配置された２×２の画素マトリクスＭ１に区画される。パターン設定部１７では、ＣＣＤ１２によって生成されるＲ，Ｇ，Ｂ信号から、画素マトリクスＭ１において左上にＲ信号が位置する第１パターンと、右上にＧ信号が位置する第２パターンと、左下にＧ信号が位置する第３パターンと、右下にＢ信号が位置する第４パターンとにそれぞれ属する画像が抽出される。
【００１９】
パターン設定部１７において、第１パターンは、Ｃ言語で表わされた論理式（１）に従って、１つの画像を構成する全ての画素信号から抽出される。
！（ｘ％２）＆＆！（ｙ％２）（１）
なお論理式（１）において、「ｘ」と「ｙ」は画像の左隅を原点とする横座標と縦座標をそれぞれ示す。すなわち、左隅のＲ信号の座標は(0,0)その右隣のＧ信号の座標は(1,0)である。また論理式（１）において、「！」は論理否定、「％」は剰余、「＆＆」は論理積を示す。したがって論理式（１）によれば、ｘ座標とｙ座標がともに偶数である画素信号（すなわちＲ信号）から成る画像が抽出される。
【００２０】
同様に、第２パターン、第３パターンおよび第４パターンは、論理式（２）、（３）および（４）に従って抽出される。
（ｘ％２）＆＆！（ｙ％２）（２）
！（ｘ％２）＆＆（ｙ％２）（３）
（ｘ％２）＆＆（ｙ％２）（４）
【００２１】
図３〜図９を参照して補間処理部１８における処理を説明する。図３は、画像メモリ１６に格納された、１つの画像を構成する画素の座標と色を示している。補間処理部１８では、後述するように、Ｇ補間処理ルーチン（図４）と、Ｒ／Ｂ補間処理ルーチン（図５）と、Ｂ補間処理ルーチンと（図７、８）、Ｒ補間処理ルーチン（図９）とが実行される。これらの補間処理ルーチンにおいて、補間によって画素データを求めようとしている対象画素の座標は(x,y)である。
【００２２】
図４はＧ補間処理ルーチンのフローチャートである。Ｇ補間処理ルーチンでは、第１および第４パターンに属する画像に関する補間処理が行われる。
【００２３】
ステップ１０１では、対象画素の左側に隣接する画素のＧ信号であるG(x-1,y)と右側に隣接する画素のＧ信号であるG(x+1,y)との差の絶対値が、対象画素の上側に隣接する画素のＧ信号であるG(x,y-1)と下側に隣接する画素のＧ信号であるG(x,y+1)との差の絶対値よりも小さいか否かが判定される。対象画素の座標が(2,2)である場合（すなわち第１パターンの画像）を例にとって説明すると、対象画素はR(2,2)であり、ステップ１０１では|G(1,2)-G(3,2)|が|G(2,1)-G(2,3)|よりも小さいか否かが判定される。
【００２４】
なお対象画素が第１パターンに属する画像に含まれるとき、すなわちＲ信号であるとき、その左右に隣接する画素は第２パターンに属する画像に含まれ、またその上下に隣接する画素は第３パターンに含まれる。一方、対象画素が第４パターンに属する画像に含まれるとき、すなわちＢ信号であるとき、その左右に隣接する画素は第３パターンに属する画像に含まれ、またその上下に隣接する画素は第２パターンに含まれる。
【００２５】
ステップ１０１において、対象画素の左右に隣接する画素信号の差の絶対値の方が上下に隣接する画素信号の差の絶対値よりも小さいと判定されたとき、ステップ１０２が実行され、左右に隣接する画素信号であるG(x-1,y)とG(x+1,y)の相加平均が、対象画素のＧ信号ｇとして求められる。これに対して、対象画素の左右に隣接する画素信号の差の絶対値が上下に隣接する画素信号の差の絶対値よりも小さくないと判定されたとき、ステップ１０３において、上下に隣接する画素信号であるG(x,y-1)とG(x,y+1)の相加平均が、対象画素のＧ信号ｇとして求められる。ステップ１０２または１０３の実行により、Ｇ補間処理ルーチンは終了する。
【００２６】
このようにＧ補間処理ルーチンでは、第１および第４パターンに属する画像の各画素に関し、左右および上下に隣接する４つのＧ信号において、差の小さい方の組の２つのＧ信号の平均値が対象画素のＧ信号として求められる。第１および第４パターンに属する画像の全ての画素に対してＧ補間処理ルーチンが実行されると、１つの画像を構成する全画素におけるＧ信号が求められたことになる。
【００２７】
図５はＲ／Ｂ補間処理ルーチンのフローチャートである。Ｒ／Ｂ補間処理ルーチンでは、第２および第３パターンに属する画像に関する補間処理が行われる。
【００２８】
ステップ２０１では対象画素が第２パターンに属する画像に含まれるか否かが判定される。対象画素が第２パターンに属する画像に含まれるとき、すなわち対象画素が画素マトリクスＭ１（図２）の右上のＧ信号であるとき、ステップ２０２が実行される。これに対して対象画素が第２パターンに含まれないとき、すなわち第３パターンに含まれ、画素マトリクスＭ１（図２）の左下のＧ信号であるとき、ステップ２０３が実行される。
【００２９】
ステップ２０２では、対象画素の左右に隣接する画素信号（第１パターンの画像）であるR(x-1,y)とR(x+1,y)の相加平均が対象画素のＲ信号ｒとして求められる。また対象画素の上下に隣接する画素信号（第４パターンの画像）であるB(x,y-1)とB(x,y+1)の相加平均が対象画素のＢ信号ｂとして求められる。
【００３０】
ステップ２０３では、対象画素の上下に隣接する画素信号（第１パターンの画像）であるR(x,y-1)とR(x,y+1)の相加平均が対象画素のＲ信号ｒとして求められる。また対象画素の左右に隣接する画素信号（第４パターンの画像）であるB(x-1,y)とB(x+1,y)の相加平均が対象画素のＢ信号ｂとして求められる。
【００３１】
ステップ２０２または２０３の実行によりＲ／Ｂ補間処理ルーチンは終了する。このようにＲ／Ｂ補間処理ルーチンでは、第２および第３パターンに属する画像の各画素に関し、左右および上下に隣接する画素信号を補間することにより、対象画素のＲおよびＢ信号が求められる。Ｇ補間処理ルーチン（図４）が完了し、かつ第２および第３パターンに属する画像の全ての画素に対してＲ／Ｂ補間処理ルーチンが実行されると、図６から理解されるように、１つの画像を構成する全画素におけるＧ信号が求められ、また第２および第３パターンに属する画像の各画素に関してＲ信号ｒとＢ信号ｂが求められたことになる。すなわち第１パターンに属する画像に関しては、Ｂ信号がまだ求められておらず、また第４パターンに属する画像に関しては、Ｒ信号がまだ求められていない。
【００３２】
図７および図８は、第１パターンに属する画像の各画素に関してＢ信号を求めるＢ補間処理ルーチンのフローチャートである。
【００３３】
ステップ３０１では、対象画素の左側に隣接する画素のＧ信号であるG(x-1,y)と対象画素のＧ信号であるG(x,y)との差の絶対値が、対象画素の右側に隣接する画素のＧ信号であるG(x+1,y)と対象画素のＧ信号であるG(x,y)との差の絶対値よりも小さいか否かが判定される。換言すれば、対象画素の左右に隣接するいずれの画素のＧ信号が対象画素のＧ信号に近い値を有するか否かが判定される。左側の画素のＧ信号が対象画素のＧ信号により近いとき、ステップ３０２において、パラメータｐが−１に定められる。これに対し、右側の画素のＧ信号が対象画素のＧ信号により近い、あるいは等しいとき、ステップ３０３において、パラメータｐが１に定められる。
【００３４】
ステップ３０４では、対象画素の上側に隣接する画素のＧ信号であるG(x,y-1)と対象画素のＧ信号であるG(x,y)との差の絶対値が、対象画素の下側に隣接する画素のＧ信号であるG(x,y+1)と対象画素のＧ信号であるG(x,y)との差の絶対値よりも小さいか否かが判定される。すなわち対象画素の上下に隣接するいずれの画素のＧ信号が対象画素のＧ信号に近い値を有するか否かが判定される。上側のＧ信号が対象画素のＧ信号により近いとき、ステップ３０５において、パラメータｑが−１に定められる。これに対し、下側のＧ信号が対象画素のＧ信号により近い、あるいは等しいとき、ステップ３０６において、パラメータｑが１に定められる。
【００３５】
ステップ３０７では、対象画素の左右のいずれかに隣接する画素と、上下のいずれかに隣接する画素と、対象画素とに関し、Ｇ信号の大きさが比較される。対象画素の左側の画素のＧ信号が右側の画素のＧ信号よりも対象画素のＧ信号に近く、かつ対象画素の上側の画素のＧ信号が下側の画素のＧ信号よりも対象画素のＧ信号に近いとき、パラメータｐ，ｑはともに−１であり、G(x-1,y)とG(x,y)との差の絶対値が、G(x,y-1)とG(x,y)との差の絶対値よりも小さいか否かが判定される。左側のＧ信号が対象画素のＧ信号により近いとき、ステップ３０８において、パラメータｓがｐすなわち−１に定められる。これに対し、上側のＧ信号が対象画素のＧ信号により近い、あるいは等しいとき、ステップ３０９においてパラメータｓが２×ｑすなわち−２に定められる。
【００３６】
パラメータｐ，ｑがともに１であるとき、パラメータｐ，ｑがそれぞれ−１，１であるとき、パラメータｐ，ｑがそれぞれ１，−１であるときも同様にしてステップ３０７、３０８または３０９が実行される。このようにしてＢ補間処理ルーチンでは、対象画素のＧ信号に関し、第２および第３パターンに属する画像に含まれる、隣接する画素のＧ信号の値が検討され、左側に隣接する画素のＧ信号が最も近ければパラメータｓは−１に、右側に隣接する画素のＧ信号が最も近ければパラメータｓは１に、上側に隣接する画素のＧ信号が最も近ければパラメータｓは−２に、下側に隣接する画素のＧ信号が最も近ければパラメータｓは２に、それぞれ定められる。
【００３７】
この明細書では、４つの隣接する画素において、対象画素のＧ信号に最も近いＧ信号を有する画素を類似画素と呼ぶ。類似画素は、輝度値が対象画素の輝度値に最も近いものが好ましいが、対象画素の輝度値が未知であるため、Ｇ信号を用いて輝度値を判定し、類似画素を抽出している。
【００３８】
ステップ３１０ではパラメータｓが−１であるか否か、すなわち類似画素が対象画素の左側に隣接する画素であるか否かが判定される。パラメータｓが−１であるとき、ステップ３１１が実行され、類似画素のＲ，Ｇ，Ｂ信号であるR(x-1,y),G(x-1,y),B(x-1,y)を用いて輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧが求められる。
【００３９】
輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧはそれぞれ（５）式、（６）式および（７）式に従って演算される。
Ｙ＝0.299×R(x-1,y)+0.587×G(x-1,y)+0.114×B(x-1,y) （５）
Ｃｂ＝-0.169×R(x-1,y)-0.331×G(x-1,y)+0.5×B(x-1,y) （６）
ＹＧ＝Ｙ×G(x,y)/G(x-1,y) （７）
【００４０】
（５）式と（６）式は従来公知である。修正輝度値ＹＧは、（７）式から理解されるように対象画素のＧ信号と類似画素のＧ信号との比率を輝度値Ｙに乗じたものである。
【００４１】
ステップ３１２では、対象画素のＢ信号ｂが（８）式に従って演算され、Ｂ補間処理ルーチンは終了する。
ｂ＝ＹＧ+1.772×Ｃｂ（８）
なお（８）式は、色差信号ＣｂをＣｂ＝（Ｂ−Ｙ）×0.5/(1-0.114)と定義し、この定義式を変形するとともに輝度値Ｙの代わりに修正輝度値ＹＧを用いることによって得られる。
【００４２】
このように本実施形態では、対象画素の色差信号Ｃｂは類似画素の色差信号Ｃｂに等しいと仮定し、また修正輝度値ＹＧを対象画素の輝度値と見做して、対象画素のＢ信号を求めている。
【００４３】
ステップ３１０においてパラメータｓが−１ではないと判定されたとき、ステップ３１３へ進み、パラメータｓが１であるか否かが判定され、類似画素が対象画素の右側に隣接する画素であるか否かが判定される。パラメータｓが１であるとき、ステップ３１４が実行され、類似画素のＲ，Ｇ，Ｂ信号を用いて輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧが求められる。
【００４４】
輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧはそれぞれ（５ａ）式、（６ａ）式および（７ａ）式に従って演算される。
Ｙ＝0.299×R(x+1,y)+0.587×G(x+1,y)+0.114×B(x+1,y) （５ａ）
Ｃｂ＝-0.169×R(x+1,y)-0.331×G(x+1,y)+0.5×B(x+1,y) （６ａ）
ＹＧ＝Ｙ×G(x,y)/G(x+1,y) （７ａ）
【００４５】
次いでステップ３１２が実行され、対象画素のＢ信号が（８）式に従って演算され、Ｂ補間処理ルーチンは終了する。
【００４６】
ステップ３１３においてパラメータｓが１ではないと判定されたとき、ステップ３１５へ進み、パラメータｓが−２であるか否かが判定され、類似画素が対象画素の上側に隣接する画素であるか否かが判定される。パラメータｓが−２であるとき、ステップ３１６が実行され、類似画素のＲ，Ｇ，Ｂ信号を用いて輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧが求められる。
【００４７】
輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧはそれぞれ（５ｂ）式、（６ｂ）式および（７ｂ）式に従って演算される。
Ｙ＝0.299×R(x,y-1)+0.587×G(x,y-1)+0.114×B(x,y-1) （５ｂ）
Ｃｂ＝-0.169×R(x,y-1)-0.331×G(x,y-1)+0.5×B(x,y-1) （６ｂ）
ＹＧ＝Ｙ(G(x,y)/G(x,y-1) （７ｂ）
【００４８】
次いで、ステップ３１１、３１４の場合と同様に、ステップ３１２が実行され、対象画素のＢ信号が（８）式に従って演算され、Ｂ補間処理ルーチンは終了する。
【００４９】
ステップ３１５においてパラメータｓが−２ではないと判定されたとき、パラメータｓは２である、すなわち類似画素が対象画素の下側に隣接する画素であると見做され、ステップ３１７において、類似画素のＲ，Ｇ，Ｂ信号を用いて輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧが求められる。
【００５０】
輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧはそれぞれ（５ｃ）式、（６ｃ）式および（７ｃ）式に従って演算される。
Ｙ＝0.299×R(x,y+1)+0.587×G(x,y+1)+0.114×B(x,y+1) （５ｃ）
Ｃｂ＝-0.169×R(x,y+1)-0.331×G(x,y+1)+0.5×B(x,y+1) （６ｃ）
ＹＧ＝Ｙ×G(x,y)/G(x,y+1) （７ｃ）
【００５１】
次いで、ステップ３１１、３１４、３１６の場合と同様に、ステップ３１２が実行され、対象画素のＢ信号が（８）式に従って演算され、Ｂ補間処理ルーチンは終了する。
【００５２】
Ｂ補間処理ルーチンは、第１パターンに属する画像の全ての画素に関して実行される。Ｇ補間処理ルーチン（図４）、Ｒ／Ｂ補間処理ルーチン（図５）およびＢ補間処理ルーチン（図７及び図８）が完了した時点において、第１、第２および第３パターンに属する画像に関して、Ｒ，Ｇ，Ｂ信号が求められており、第４パターンに属する画像におけるＲ信号はまだ決定されていない。
【００５３】
第４パターンの画像のＲ信号は、Ｒ補間処理ルーチンにより求められる。図９はＲ補間処理ルーチンのフローチャートの後半部分を示している。なおＲ補間処理ルーチンの前半部分は図７に示すＢ補間処理ルーチンと同じであるので、図示を省略する。
【００５４】
ステップ４１０、４１３、４１５の処理内容はステップ３１０、３１３、３１５（図８）と同じである。ステップ４１１、４１２、４１４、４１６、４１７の処理内容はステップ３１１、３１２、３１４、３１６、３１７と基本的に同じであるが、Ｒ信号を求めるために、色差信号Ｃｒを用いている点が異なる。
【００５５】
ステップ４１１では輝度値Ｙ、色差信号Ｃｒおよび修正輝度値ＹＧはそれぞれ（９）式、（１０）式および（１１）式に従って演算される。
Ｙ＝0.299×R(x-1,y)+0.587×G(x-1,y)+0.114×B(x-1,y) （９）
Ｃｒ＝0.5×R(x-1,y)-0.419×G(x-1,y)-0.081×B(x-1,y) （１０）
ＹＧ＝Ｙ×G(x,y)/G(x-1,y) （１１）
【００５６】
ステップ４１２では、対象画素のＲ信号ｒが修正輝度値ＹＧと色差信号Ｃｒを用いて、（１２）式に従って演算される。
ｒ＝ＹＧ＋1.402×Ｃr （１２）
なお（１２）式は、色差信号ＣｒをＣｒ＝（Ｒ−Ｙ）×0.5/(1-0.299)と定義し、この定義式を変形するとともに輝度値Ｙの代わりに修正輝度値ＹＧを用いることによって得られる。
【００５７】
ステップ４１４では、輝度値Ｙ、色差信号Ｃｒおよび修正輝度値ＹＧはそれぞれ（９ａ）式、（１０ａ）式および（１１ａ）式に従って演算される。
Ｙ＝0.299×R(x+1,y)+0.587×G(x+1,y)+0.114×B(x+1,y) （９ａ）
Ｃｒ＝0.5×R(x+1,y)-0.419×G(x+1,y)-0.081×B(x+1,y) （１０ａ）
ＹＧ＝Ｙ×G(x,y)/G(x+1,y) （１１ａ）
【００５８】
ステップ４１６では、輝度値Ｙ、色差信号Ｃｒおよび修正輝度値ＹＧはそれぞれ（９ｂ）式、（１０ｂ）式および（１１ｂ）式に従って演算される。
Ｙ＝0.299×R(x,y-1)+0.587×G(x,y-1)+0.114×B(x,y-1) （９ｂ）
Ｃｒ＝0.5×R(x,y-1)-0.419×G(x,y-1)-0.081×B(x,y-1) （１０ｂ）
ＹＧ＝Ｙ×G(x,y)/G(x,y-1) （１１ｂ）
【００５９】
ステップ４１７では、輝度値Ｙ、色差信号Ｃｒおよび修正輝度値ＹＧはそれぞれ（９ｃ）式、（１０ｃ）式および（１１ｃ）式に従って演算される。
Ｙ＝0.299×R(x,y+1)+0.587×G(x,y+1)+0.114×B(x,y+1) （９ｃ）
Ｃｂ＝0.5×R(x,y+1)-0.419×G(x,y+1)-0.081×B(x,y+1) （１０ｃ）
ＹＧ＝Ｙ×G(x,y)/G(x,y+1) （１１ｃ）
【００６０】
Ｒ補間処理ルーチンは、第４パターンに属する画像の全ての画素に関して実行される。
【００６１】
このようにＲ補間処理ルーチンでは、Ｂ補間処理ルーチンと同様に、対象画素の色差信号Ｃｒは類似画素の色差信号Ｃｒに等しいと仮定し、また修正輝度値ＹＧを対象画素の輝度値と見做して、対象画素のＲ信号を求めている。
【００６２】
以上のように本実施形態では、特にＢ補間処理ルーチン（図７および図８）とＲ補間処理ルーチン（図９）において、対象画素に関して、その左右および上下に位置する画素から輝度値が最も近いものを類似画素として抽出し、補間処理を行っている。この補間処理において、２つの画素における輝度値が近いほど色の相関が強いため、対象画素の色差信号を類似画素の色差信号とすることにより、実際の色により近い画素信号を得ることができる。したがって本実施形態によれば、再生画像における色にじみを減少させることができる。
【００６３】
図１０および図１１を参照して第２実施形態を説明する。図１０は、第１パターンに属する画像の各画素に関してＢ信号を求めるＢ補間処理ルーチンの前半部分を示し、図１１は、第４パターンに属する画像の各画素に関してＲ信号を求めるＲ補間処理ルーチンの前半部分を示している。その他の構成は第１実施形態と同じであるので省略する。
【００６４】
ステップ５０１では、対象画素の左側および右側に隣接する画素と対象画素における輝度値の比較として、不等式（１３）が成立するか否かが判定される。
｜0.587×(G(x-1,y)-G(x,y))+0.299×(R(x-1,y)-R(x,y))|<
｜0.587×(G(x+1,y)-G(x,y))+0.299×(R(x+1,y)-R(x,y))| （１３）
不等式（１３）が真であるとき、すなわち左側の画素の輝度値が対象画素の輝度値の値により近いとき、ステップ５０２において、パラメータｐが−１に定められる。これに対し、不等式（１３）が偽であるとき、すなわち右側の画素の輝度値が対象画素の輝度値により近い、あるいは等しいとき、ステップ５０３において、パラメータｐが１に定められる。
【００６５】
ステップ５０４では、対象画素の上側および下側に隣接する画素と対象画素における輝度値の比較として、不等式（１４）が成立するか否かが判定される。
｜0.587×(G(x,y-1)-G(x,y))+0.299×(R(x,y-1)-R(x,y))|<
｜0.587×(G(x,y+1)-G(x,y))+0.299×(R(x,y+1)-R(x,y))| （１４）
不等式（１４）が真であるとき、すなわち上側の画素の輝度値が対象画素の輝度値の値により近いとき、ステップ５０５において、パラメータｑが−１に定められる。これに対し、不等式（１４）が偽であるとき、すなわち下側の画素の輝度値が対象画素の輝度値により近い、あるいは等しいとき、ステップ５０６において、パラメータｑが１に定められる。
【００６６】
ステップ５０７では、対象画素の左右のいずれかに隣接する画素と、上下のいずれかに隣接する画素と、対象画素とに関し、不等式（１５）に従って輝度値が比較される。
｜0.587×(G(x+p,y)-G(x,y))+0.299×(R(x+p,y)-R(x,y))|<
｜0.587×(G(x,y+q)-G(x,y))+0.299×(R(x,y+q)-R(x,y))| （１５）
パラメータｐ，ｑがともに−１であり、かつ不等式（１５）が真であるとき、左側の画素の輝度値が対象画素の輝度値に最も近く、この場合ステップ５０８においてパラメータｓがｐすなわち−１に定められる。これに対し、不等式（１５）が偽であるとき、すなわち上側の画素の輝度値が対象画素の輝度値により近い、あるいは等しいとき、ステップ５０９においてパラメータｓが２×ｑすなわち−２に定められる。
【００６７】
パラメータｐ，ｑがともに１であるとき、パラメータｐ，ｑがそれぞれ−１，１であるとき、パラメータｐ，ｑがそれぞれ１，−１であるときも同様にしてステップ５０７、５０８または５０９が実行される。このようにしてＢ補間処理ルーチンでは、対象画素のＧ信号およびＲ信号と、第２および第３パターンに属する画像に含まれる、隣接する画素のＧ信号およびＲ信号とを用いて輝度値が検討され、左側に隣接する画素の輝度値が最も近ければパラメータｓは−１に、右側に隣接する画素の輝度値が最も近ければパラメータｓは１に、上側に隣接する画素の輝度値が最も近ければパラメータｓは−２に、下側に隣接する画素の輝度値が最も近ければパラメータｓは２に、それぞれ定められる。
【００６８】
このようにして、対象画素の輝度値に最も近い輝度値を有する類似画素が抽出された後、図８に示されるフローチャートと同様な処理によって、類似画素のＲ，Ｇ，Ｂ信号を用いて輝度値Ｙ、色差信号Ｃｂおよび修正輝度値ＹＧが求められ、対象画素のＢ信号が求められる。なお修正輝度値ＹＧは、対象画素と類似画素のＧ信号とＲ信号を用いて、（１６）式に従って求められる。その他の式については、第１実施形態と同じである。
ＹＧ＝Ｙ×
(0.587×G(x,y)+0.299×R(x,y))/(0.587×G(x',y')+0.299×R(x',y'))（１６）
ただし、G(x',y')は類似画素のＧ信号、R(x',y')は類似画素のＲ信号を示す。
【００６９】
Ｒ補間処理ルーチン（図１１）では、第４パターンの画像のＲ信号が求められる。ステップ６０１では、対象画素の左側および右側に隣接する画素と対象画素における輝度値の比較として、不等式（１７）が成立するか否かが判定される。
｜0.587×(G(x-1,y)-G(x,y))+0.144×(B(x-1,y)-B(x,y))|<
｜0.587×(G(x+1,y)-G(x,y))+0.144×(B(x+1,y)-B(x,y))| （１７）
不等式（１７）が真であるときは、ステップ６０２においてパラメータｐが−１に定められ、不等式（１７）が偽であるときは、ステップ６０３においてパラメータｐが１に定められる。
【００７０】
ステップ６０４では、対象画素の上側および下側に隣接する画素と対象画素における輝度値の比較として、不等式（１８）が成立するか否かが判定される。
｜0.587×(G(x,y-1)-G(x,y))+0.144×(B(x,y-1)-B(x,y))|<
｜0.587×(G(x,y+1)-G(x,y))+0.144×(B(x,y+1)-B(x,y))| （１８）
不等式（１８）が真であるときは、ステップ６０５においてパラメータｑが−１に定められ、不等式（１８）が偽であるときは、ステップ６０６においてパラメータｑが１に定められる。
【００７１】
ステップ６０７では、対象画素の左右のいずれかに隣接する画素と、上下のいずれかに隣接する画素と、対象画素とに関し、不等式（１９）に従って輝度値が比較される。
｜0.587×(G(x+p,y)-G(x,y))+0.144×(B(x+p,y)-B(x,y))|<
｜0.587×(G(x,y+q)-G(x,y))+0.144×(B(x,y+q)-B(x,y))| （１９）
パラメータｐ，ｑがともに−１であり、かつ不等式（１９）が真であるとき、左側の画素の輝度値が対象画素の輝度値に最も近く、この場合ステップ６０８においてパラメータｓがｐすなわち−１に定められる。これに対し、不等式（１９）が偽であるとき、すなわち上側の画素の輝度値が対象画素の輝度値により近い、あるいは等しいとき、ステップ６０９においてパラメータｓが２×ｑすなわち−２に定められる。
【００７２】
パラメータｐ，ｑがともに１であるとき、パラメータｐ，ｑがそれぞれ−１，１であるとき、パラメータｐ，ｑがそれぞれ１，−１であるときも同様にしてステップ６０７、６０８または６０９が実行される。このようにしてＲ補間処理ルーチンでは、対象画素のＧ信号およびＢ信号と、第２および第３パターンに属する画像に含まれる、隣接する画素のＧ信号およびＢ信号とを用いて輝度値が検討され、左側に隣接する画素の輝度値が最も近ければパラメータｓは−１に、右側に隣接する画素の輝度値が最も近ければパラメータｓは１に、上側に隣接する画素の輝度値が最も近ければパラメータｓは−２に、下側に隣接する画素の輝度値が最も近ければパラメータｓは２に、それぞれ定められる。
【００７３】
このようにして、対象画素の輝度値に最も近い輝度値を有する類似画素が抽出された後、図９に示されるフローチャートと同じ処理によって、類似画素のＲ，Ｇ，Ｂ信号を用いて輝度値Ｙ、色差信号Ｃｒおよび修正輝度値ＹＧが求められ、対象画素のＲ信号が求められる。なお修正輝度値ＹＧは、対象画素と類似画素のＧ信号とＢ信号を用いて、（２０）式に従って求められる。
ＹＧ＝Ｙ×
(0.587×G(x,y)+0.114×B(x,y))/(0.587×G(x',y')+0.114×B(x',y'))（２０）
ただし、G(x',y')は類似画素のＧ信号、B(x',y')は類似画素のＢ信号を示す。
【００７４】
以上のように本実施形態では、Ｂ補間処理ルーチン（図１０）とＲ補間処理ルーチン（図１１）において、輝度値としてＧ信号およびＲ信号あるいはＢ信号を用いているので、輝度信号をより正確に検討することができる。したがって、再生画像における色にじみを、第１実施形態よりも減少させることができる。
【００７５】
【発明の効果】
以上のように本発明によれば、補間処理によって再生画像に生じる色にじみを減少させることができる。
【図面の簡単な説明】
【図１】本発明の第１実施形態である画像補間装置を備えたデジタルカメラの概略的な構成を示すブロック図である。
【図２】カラーフィルタにおけるカラーフィルタ要素の配列と、パターン設定部において抽出される各パターンに属する画像の画素信号とを示す図である。
【図３】１つの画像を構成する画素の座標と色を示す図である。
【図４】Ｇ補間処理ルーチンのフローチャートである。
【図５】Ｒ／Ｂ補間処理ルーチンのフローチャートである。
【図６】Ｇ補間処理ルーチンとＲ／Ｂ補間処理ルーチンが実行されたことによって求められた画素信号を示す図である。
【図７】Ｂ補間処理ルーチンのフローチャートの前半部分である。
【図８】Ｂ補間処理ルーチンのフローチャートの後半部分である。
【図９】Ｒ補間処理ルーチンのフローチャートの後半部分である。
【図１０】第２実施形態におけるＢ補間処理ルーチンのフローチャートの前半部分である。
【図１１】第２実施形態におけるＲ補間処理ルーチンのフローチャートの前半部分である。
【符号の説明】
１２撮像素子
１３カラーフィルタ[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image interpolation device provided to improve the image quality of a color image, for example, in a digital camera.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, a digital camera is known in which a Bayer array color filter is provided in front of an image sensor such as a CCD in order to detect a color image. This color filter is configured by arranging red (R), green (G) and blue (B) color filter elements in a checkered pattern, and these color filter elements correspond to the photodiodes of the image sensor, respectively. Yes. Therefore, a pixel signal of a color corresponding to each color filter element is generated by the photodiode, and for example, an R pixel signal is generated by the photodiode corresponding to the R color filter element.
[0003]
In order to display a high-quality color image rather than using the pixel signal output from the image sensor as it is, interpolation processing may be performed on the pixel signal. In a normal interpolation process, a G signal is generated by taking an arithmetic average of G signals of pixels located in the periphery of a pixel from which an R signal is obtained by a photodiode. The B signal is generated by taking the arithmetic mean of the B signals of the pixels to be processed. However, in an image having a high spatial frequency, for example, the actual color of the pixel to be obtained by the interpolation process and the actual color of the surrounding pixels may be greatly different. Depending on the value of the color signal of the pixel, color blur occurs in the reproduced image.
[0004]
[Problems to be solved by the invention]
Accordingly, an object of the present invention is to reduce the occurrence of color blur in a reproduced image due to interpolation processing.
[0005]
[Means for Solving the Problems]
The image interpolation apparatus according to the present invention includes a color filter, a pattern setting unit, a G interpolation processing unit, an R / B interpolation processing unit, a B interpolation processing unit, and an R interpolation processing unit.
The color filter includes a first row in which red (R) and green (G) color filter elements are alternately arranged in the horizontal direction, and adjacent to the upper and lower sides of the first row, and in the horizontal direction G and blue (B ) Color filter elements are alternately arranged in the second row. The image sensor generates R, G, and B signals that are pixel signals corresponding to each color filter element. The pattern setting means includes a first pattern in which an R signal is located on the upper left side in a 2 × 2 pixel matrix, and a second pattern in which a G signal is located on the upper right side from the R, G, and B signals generated by the image sensor. Images belonging to the third pattern in which the G signal is located in the lower left and the fourth pattern in which the B signal is located in the lower right are extracted. The G interpolation processing unit obtains a G signal for each pixel of the image belonging to the first and fourth patterns using the G signal of the adjacent pixel. The R / B interpolation processing means obtains R and B signals for each pixel of the images belonging to the second and third patterns using the R and B signals of adjacent pixels. For each pixel of the image belonging to the first pattern, the B interpolation processing means extracts a similar pixel having the closest luminance value from the adjacent pixels, and calculates the B signal based on the luminance value of the similar pixel and the color difference signal Cb. Ask. For each pixel of the image belonging to the fourth pattern, the R interpolation processing means extracts a similar pixel having the closest luminance value from the adjacent pixels, and calculates the R signal based on the luminance value of the similar pixel and the color difference signal Cr. Ask.
[0006]
In the G interpolation processing means, adjacent pixels are included in images belonging to the second and third patterns. In the R / B interpolation processing means, adjacent pixels are included in the images belonging to the first and fourth patterns. In the B interpolation processing means and the R interpolation processing means, adjacent pixels are included in the images belonging to the second and third patterns.
[0007]
The B interpolation processing unit and the R interpolation processing unit preferably extract a similar pixel having the closest luminance value by using the value of the G signal in the adjacent pixel. By estimating that the hue of the similar pixel is close to the hue of the pixel to be obtained by the interpolation process, the color blur is reduced.
[0008]
The B interpolation processing unit may obtain the B signal on the assumption that the color difference signal Cb is equal to the color difference signal Cb of the similar pixel for each pixel of the image belonging to the first pattern. Similarly, the R interpolation processing unit may obtain the R signal on the assumption that the color difference signal Cr is equal to the color difference signal Cr of the similar pixel for each pixel of the image belonging to the fourth pattern.
[0009]
The B interpolation processing means uses, for each pixel of the image belonging to the first pattern, the corrected luminance value YG obtained by multiplying the luminance value by the ratio between the G signal of the pixel and the G signal of the similar pixel and the color difference signal Cb. , B signal may be obtained. This makes it possible to further reduce color blur. In this case, the B interpolation processing means obtains the B signal according to the following equation, for example.
Y = 0.299 × R (x ^' , y ^' ) + 0.587 × G (x ^' , y ^' ) + 0.114 × B (x ^' , y ^' )
Cb = -0.169 × R (x ^' , y ^' ) -0.331 × G (x ^' , y ^' ) + 0.5 × B (x ^' , y ^' )
YG = Y × G (x, y) / G (x ^' , y ^' )
b = YG + 1.772 × Cb
Where Y is the luminance value of a similar pixel and R (x ^' , y ^' ), G (x ^' , y ^' ), B (x ^' , y ^' ) Is an R, G, B signal for similar pixels, G (x, y) is a G signal for pixels of an image belonging to the first pattern, and b is B It is a B signal of the pixel of the image which belongs to the 1st pattern calculated | required by the interpolation process means.
[0010]
The R interpolation processing means uses, for each pixel of the image belonging to the fourth pattern, the corrected luminance value YG and the color difference signal Cr obtained by multiplying the luminance value by the ratio between the G signal of the pixel and the G signal of the similar pixel. , R signal may be obtained. In this case, the R interpolation processing means obtains an R signal according to the following equation, for example.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cr = 0.5 × R (x ′, y ′) − 0.419 × G (x ′, y ′) − 0.081 × B (x ′, y ′)
YG = Y × G (x, y) / G (x ′, y ′)
r = YG + 1.402 × Cr
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals, G (x , y) is a G signal of an image pixel belonging to the fourth pattern, and r is an R signal of an image pixel belonging to the fourth pattern obtained by the R interpolation processing means.
[0011]
The B interpolation processing unit may extract a similar pixel having the closest luminance value by using the values of the G signal and the R signal in adjacent pixels. The R interpolation processing means may extract a similar pixel having the closest luminance value by using the values of the G signal and the B signal in adjacent pixels.
[0012]
The B interpolation processing means obtains, for each pixel of the image belonging to the first pattern, the first reference value obtained based on the G signal and R signal of the pixel and the G signal and R signal of the similar pixel. The B signal may be obtained by using the corrected luminance value YG obtained by multiplying the luminance value by the ratio with the reference value of 2 and the color difference signal Cb. In this case, the B interpolation processing means obtains the B signal according to the following equation, for example.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cb = −0.169 × R (x ′, y ′) − 0.331 × G (x ′, y ′) + 0.5 × B (x ′, y ′)
YG = Y ×
(0.587 × G (x, y) + 0.299 × R (x, y)) / (0.587 × G (x ', y') + 0.299 × R (x ', y'))
b = YG + 1.772 × Cb
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals, G (x , y) is the G signal of the pixels of the image belonging to the first pattern, and b is the B signal of the pixels of the image belonging to the first pattern obtained by the B interpolation processing means.
[0013]
The R interpolation processing means obtains, for each pixel of the image belonging to the fourth pattern, the first reference value obtained based on the G signal and B signal of the pixel and the G signal and B signal of the similar pixel. The R signal may be obtained by using the corrected luminance value YG obtained by multiplying the luminance value by the ratio with the reference value of 2 and the color difference signal Cr. In this case, the R interpolation processing means obtains an R signal according to the following equation, for example.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cr = 0.5 × R (x ′, y ′) − 0.419 × G (x ′, y ′) − 0.081 × B (x ′, y ′)
YG = Y ×
(0.587 × G (x, y) + 0.114 × B (x, y)) / (0.587 × G (x ', y') + 0.114 × B (x ', y'))
r = YG + 1.402 × Cr
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals, G (x , y) is a G signal of an image pixel belonging to the fourth pattern, and r is an R signal of an image pixel belonging to the fourth pattern obtained by the R interpolation processing means.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings. FIG. 1 shows a schematic configuration of a digital camera 10 provided with an image interpolation device according to the first embodiment of the present invention.
[0015]
A CCD 12 as an image pickup device is disposed behind the photographing lens 11, and a color filter 13 is provided on the light receiving surface of the CCD 12. That is, the optical image of the subject S obtained by the photographing lens 11 is formed on the light receiving surface of the CCD 12, and a color pixel signal constituting the subject image is generated in the photodiode of the CCD 12. The pixel signal is read from the CCD 12 and converted into a digital signal by the A / D converter 14. The pixel signal is subjected to white balance adjustment in the white balance adjustment circuit 15 and stored in the image memory 16.
[0016]
The pixel signal is read from the image memory 16 and input to the pattern setting unit 17. In the pattern setting unit 17, as will be described later, pixel signals constituting a predetermined array pattern are extracted from all pixel signals and classified into first, second, third and fourth patterns. In the interpolation processing unit 18, the pixel signal extracted in the pattern setting unit 17 is subjected to interpolation processing according to the pattern. The interpolated pixel signal output from the interpolation processing unit 18 is recorded on a recording medium D such as a memory card. Note that the white balance adjustment circuit 15 may be provided not in the subsequent stage of the A / D converter 14 but in the subsequent stage of the interpolation processing unit 18.
[0017]
FIG. 2 shows an array of color filter elements in the color filter 13 and pixel signals of images belonging to each pattern extracted by the pattern setting unit 17. The color filter 13 is composed of red (R), green (G), and blue (B) color filter elements arranged according to the Bayer array. That is, the color filter 13 includes a first row 13a in which R and G color filter elements are alternately arranged in the horizontal direction, and adjacent to the upper and lower sides of the first row 13a, and the G and B color filter elements in the horizontal direction. Are alternately arranged in the second row 13b, and the CCD 12 generates R, G, and B signals that are pixel signals corresponding to the respective color filter elements.
[0018]
The color filter 13 is divided into a 2 × 2 pixel matrix M1 in which color filter elements R are arranged in the upper left, G in the upper right and lower left, and B in the lower right. In the pattern setting unit 17, from the R, G, and B signals generated by the CCD 12, the first pattern in which the R signal is located at the upper left in the pixel matrix M1, the second pattern in which the G signal is located in the upper right, and the G in the lower left. Images belonging to the third pattern in which the signal is located and the fourth pattern in which the B signal is located in the lower right are extracted.
[0019]
In the pattern setting unit 17, the first pattern is extracted from all the pixel signals constituting one image according to the logical expression (1) expressed in C language.
! (X% 2) &&! (Y% 2) (1)
In the logical expression (1), “x” and “y” respectively indicate an abscissa and ordinate with the left corner of the image as the origin. That is, the coordinates of the R signal at the left corner are (0, 0), and the coordinates of the G signal at the right are (1,0). In the logical expression (1), “!” Indicates a logical negation, “%” indicates a remainder, and “&&” indicates a logical product. Therefore, according to the logical expression (1), an image composed of pixel signals (that is, R signals) whose x coordinate and y coordinate are both even numbers is extracted.
[0020]
Similarly, the second pattern, the third pattern, and the fourth pattern are extracted according to the logical expressions (2), (3), and (4).
(X% 2) &&! (Y% 2) (2)
! (X% 2) && (y% 2) (3)
(X% 2) && (y% 2) (4)
[0021]
Processing in the interpolation processing unit 18 will be described with reference to FIGS. FIG. 3 shows the coordinates and colors of the pixels constituting one image stored in the image memory 16. As will be described later, in the interpolation processing unit 18, the G interpolation processing routine (FIG. 4), the R / B interpolation processing routine (FIG. 5), the B interpolation processing routine (FIGS. 7 and 8), and the R interpolation processing routine ( FIG. 9) is executed. In these interpolation processing routines, the coordinates of the target pixel for which pixel data is to be obtained by interpolation are (x, y).
[0022]
FIG. 4 is a flowchart of the G interpolation processing routine. In the G interpolation processing routine, interpolation processing relating to images belonging to the first and fourth patterns is performed.
[0023]
In step 101, the absolute value of the difference between G (x-1, y), which is the G signal of the pixel adjacent to the left side of the target pixel, and G (x + 1, y), which is the G signal of the pixel adjacent to the right side. Is the absolute value of the difference between G (x, y-1) which is the G signal of the pixel adjacent to the upper side of the target pixel and G (x, y + 1) which is the G signal of the pixel adjacent to the lower side It is also determined whether or not is smaller. The case where the coordinates of the target pixel is (2, 2) (that is, the image of the first pattern) will be described as an example. The target pixel is R (2, 2). In step 101, | G (1, 2) − It is determined whether G (3,2) | is smaller than | G (2,1) -G (2,3) |.
[0024]
When the target pixel is included in the image belonging to the first pattern, that is, the R signal, the pixels adjacent to the left and right are included in the image belonging to the second pattern, and the pixels adjacent to the top and bottom thereof are the third pattern. include. On the other hand, when the target pixel is included in the image belonging to the fourth pattern, that is, a B signal, the pixels adjacent to the left and right are included in the image belonging to the third pattern, and the pixels adjacent to the top and bottom thereof are the second. Included in the pattern.
[0025]
When it is determined in step 101 that the absolute value of the difference between the pixel signals adjacent to the left and right of the target pixel is smaller than the absolute value of the difference between the pixel signals adjacent to the upper and lower sides, step 102 is executed. An arithmetic average of G (x−1, y) and G (x + 1, y) that are pixel signals to be obtained is obtained as the G signal g of the target pixel. On the other hand, when it is determined that the absolute value of the difference between the pixel signals adjacent to the left and right of the target pixel is not smaller than the absolute value of the difference between the pixel signals adjacent vertically, in step 103, the pixels adjacent vertically An arithmetic average of the signals G (x, y-1) and G (x, y + 1) is obtained as the G signal g of the target pixel. Execution of step 102 or 103 ends the G interpolation processing routine.
[0026]
As described above, in the G interpolation processing routine, for each pixel of the image belonging to the first and fourth patterns, the average value of the two G signals of the smaller difference group among the four G signals adjacent to the left and right and the top and bottom is obtained. It is obtained as the G signal of the target pixel. When the G interpolation processing routine is executed for all the pixels of the images belonging to the first and fourth patterns, the G signals for all the pixels constituting one image are obtained.
[0027]
FIG. 5 is a flowchart of the R / B interpolation processing routine. In the R / B interpolation processing routine, interpolation processing relating to images belonging to the second and third patterns is performed.
[0028]
In step 201, it is determined whether or not the target pixel is included in an image belonging to the second pattern. When the target pixel is included in the image belonging to the second pattern, that is, when the target pixel is the upper right G signal of the pixel matrix M1 (FIG. 2), step 202 is executed. On the other hand, when the target pixel is not included in the second pattern, that is, is included in the third pattern and is the lower left G signal of the pixel matrix M1 (FIG. 2), step 203 is executed.
[0029]
In step 202, the arithmetic mean of R (x-1, y) and R (x + 1, y), which are pixel signals (first pattern image) adjacent to the left and right of the target pixel, is the R signal r of the target pixel. As required. Also, an arithmetic average of B (x, y-1) and B (x, y + 1), which are pixel signals (fourth pattern image) adjacent to the upper and lower sides of the target pixel, is obtained as the B signal b of the target pixel. .
[0030]
In step 203, the arithmetic mean of R (x, y-1) and R (x, y + 1), which are pixel signals (first pattern image) adjacent to the upper and lower sides of the target pixel, is the R signal r of the target pixel. As required. Further, an arithmetic average of B (x−1, y) and B (x + 1, y), which are pixel signals (fourth pattern image) adjacent to the left and right of the target pixel, is obtained as the B signal b of the target pixel. .
[0031]
Execution of step 202 or 203 ends the R / B interpolation processing routine. As described above, in the R / B interpolation processing routine, the R and B signals of the target pixel are obtained by interpolating the pixel signals adjacent to the left and right and top and bottom for each pixel of the image belonging to the second and third patterns. When the G interpolation processing routine (FIG. 4) is completed and the R / B interpolation processing routine is executed for all the pixels of the image belonging to the second and third patterns, as understood from FIG. The G signal is obtained for all the pixels constituting one image, and the R signal r and the B signal b are obtained for each pixel of the image belonging to the second and third patterns. That is, the B signal has not yet been obtained for the image belonging to the first pattern, and the R signal has not yet been obtained for the image belonging to the fourth pattern.
[0032]
7 and 8 are flowcharts of a B interpolation processing routine for obtaining a B signal for each pixel of the image belonging to the first pattern.
[0033]
In step 301, the absolute value of the difference between G (x−1, y), which is the G signal of the pixel adjacent to the left side of the target pixel, and G (x, y), which is the G signal of the target pixel, is calculated. It is determined whether or not the absolute value of the difference between G (x + 1, y), which is the G signal of the pixel adjacent to the right side, and G (x, y), which is the G signal of the target pixel, is smaller. In other words, it is determined whether the G signal of any pixel adjacent to the left and right of the target pixel has a value close to the G signal of the target pixel. When the G signal of the left pixel is closer to the G signal of the target pixel, in step 302, the parameter p is set to -1. On the other hand, when the G signal of the right pixel is closer to or equal to the G signal of the target pixel, the parameter p is set to 1 in step 303.
[0034]
In step 304, the absolute value of the difference between G (x, y-1), which is the G signal of the pixel adjacent to the upper side of the target pixel, and G (x, y), which is the G signal of the target pixel, is It is determined whether or not the absolute value of the difference between G (x, y + 1) which is the G signal of the pixel adjacent on the lower side and G (x, y) which is the G signal of the target pixel is smaller. That is, it is determined whether or not the G signal of any pixel adjacent to the top and bottom of the target pixel has a value close to the G signal of the target pixel. When the upper G signal is closer to the G signal of the target pixel, in step 305, the parameter q is set to -1. On the other hand, when the lower G signal is closer to or equal to the G signal of the target pixel, the parameter q is set to 1 in step 306.
[0035]
In step 307, the magnitude of the G signal is compared with respect to a pixel adjacent to any one of the left and right of the target pixel, a pixel adjacent to any one of the top and bottom, and the target pixel. The G signal of the left pixel of the target pixel is closer to the G signal of the target pixel than the G signal of the right pixel, and the G signal of the upper pixel of the target pixel is higher than the G signal of the lower pixel. When close to the signal, the parameters p and q are both -1, and the absolute value of the difference between G (x-1, y) and G (x, y) is G (x, y-1) and G ( It is determined whether or not the absolute value of the difference from x, y) is smaller. When the left G signal is closer to the G signal of the target pixel, in step 308, the parameter s is set to p, that is, -1. On the other hand, when the upper G signal is closer to or equal to the G signal of the target pixel, in step 309, the parameter s is set to 2 × q, that is, −2.
[0036]
When the parameters p and q are both 1, the parameters p and q are −1 and 1 respectively, and the parameters p and q are respectively 1 and −1, the same steps 307, 308 or 309 are executed. Is done. Thus, in the B interpolation processing routine, regarding the G signal of the target pixel, the value of the G signal of the adjacent pixel included in the images belonging to the second and third patterns is examined, and the G signal of the adjacent pixel on the left side Parameter s is -1 if the pixel G is closest, parameter s is 1 if the G signal of the adjacent pixel on the right side is closest, parameter s is -2 if the G signal of the pixel adjacent on the upper side is closest, The parameter s is determined to be 2 if the G signal of the pixel adjacent to is closest.
[0037]
In this specification, among four adjacent pixels, a pixel having a G signal closest to the G signal of the target pixel is referred to as a similar pixel. The similar pixel preferably has a luminance value closest to the luminance value of the target pixel. However, since the luminance value of the target pixel is unknown, the similar pixel is extracted by determining the luminance value using the G signal.
[0038]
In step 310, it is determined whether or not the parameter s is -1, that is, whether or not the similar pixel is a pixel adjacent to the left side of the target pixel. When the parameter s is -1, step 311 is executed, and R (x-1, y), G (x-1, y), B (x-1, The luminance value Y, the color difference signal Cb, and the corrected luminance value YG are obtained using y).
[0039]
The luminance value Y, the color difference signal Cb, and the corrected luminance value YG are calculated according to the equations (5), (6), and (7), respectively.
Y = 0.299 × R (x-1, y) + 0.587 × G (x-1, y) + 0.114 × B (x-1, y) (5)
Cb = -0.169 * R (x-1, y) -0.331 * G (x-1, y) + 0.5 * B (x-1, y) (6)
YG = Y × G (x, y) / G (x-1, y) (7)
[0040]
Expressions (5) and (6) are conventionally known. The corrected luminance value YG is obtained by multiplying the luminance value Y by the ratio between the G signal of the target pixel and the G signal of the similar pixel as understood from the equation (7).
[0041]
In step 312, the B signal b of the target pixel is calculated according to the equation (8), and the B interpolation processing routine ends.
b = YG + 1.772 × Cb (8)
In the equation (8), the color difference signal Cb is defined as Cb = (BY) × 0.5 / (1-0.114), and this definition equation is modified and the modified luminance value YG is used instead of the luminance value Y. Obtained by.
[0042]
Thus, in this embodiment, it is assumed that the color difference signal Cb of the target pixel is equal to the color difference signal Cb of the similar pixel, and the corrected luminance value YG is regarded as the luminance value of the target pixel, and the B signal of the target pixel is Looking for.
[0043]
When it is determined in step 310 that the parameter s is not -1, the process proceeds to step 313, where it is determined whether or not the parameter s is 1, and whether or not the similar pixel is a pixel adjacent to the right side of the target pixel. Is determined. When the parameter s is 1, step 314 is executed, and the luminance value Y, the color difference signal Cb, and the corrected luminance value YG are obtained using the R, G, and B signals of similar pixels.
[0044]
The luminance value Y, the color difference signal Cb, and the corrected luminance value YG are calculated according to the equations (5a), (6a), and (7a), respectively.
Y = 0.299 × R (x + 1, y) + 0.587 × G (x + 1, y) + 0.114 × B (x + 1, y) (5a)
Cb = −0.169 × R (x + 1, y) −0.331 × G (x + 1, y) + 0.5 × B (x + 1, y) (6a)
YG = Y × G (x, y) / G (x + 1, y) (7a)
[0045]
Next, step 312 is executed, the B signal of the target pixel is calculated according to equation (8), and the B interpolation processing routine ends.
[0046]
When it is determined in step 313 that the parameter s is not 1, the process proceeds to step 315, where it is determined whether the parameter s is −2, and whether the similar pixel is a pixel adjacent to the upper side of the target pixel. Is determined. When the parameter s is −2, step 316 is executed, and the luminance value Y, the color difference signal Cb, and the corrected luminance value YG are obtained using the R, G, and B signals of similar pixels.
[0047]
The luminance value Y, the color difference signal Cb, and the corrected luminance value YG are calculated according to the equations (5b), (6b), and (7b), respectively.
Y = 0.299 × R (x, y-1) + 0.587 × G (x, y-1) + 0.114 × B (x, y-1) (5b)
Cb = -0.169 * R (x, y-1) -0.331 * G (x, y-1) + 0.5 * B (x, y-1) (6b)
YG = Y (G (x, y) / G (x, y-1) (7b)
[0048]
Next, as in the case of steps 311 and 314, step 312 is executed, the B signal of the target pixel is calculated according to equation (8), and the B interpolation processing routine ends.
[0049]
When it is determined in step 315 that the parameter s is not −2, the parameter s is 2, that is, the similar pixel is considered to be a pixel adjacent to the lower side of the target pixel. A luminance value Y, a color difference signal Cb, and a corrected luminance value YG are obtained using the R, G, and B signals.
[0050]
The luminance value Y, the color difference signal Cb, and the corrected luminance value YG are calculated according to the equations (5c), (6c), and (7c), respectively.
Y = 0.299 × R (x, y + 1) + 0.587 × G (x, y + 1) + 0.114 × B (x, y + 1) (5c)
Cb = −0.169 × R (x, y + 1) −0.331 × G (x, y + 1) + 0.5 × B (x, y + 1) (6c)
YG = Y × G (x, y) / G (x, y + 1) (7c)
[0051]
Next, as in the case of steps 311, 314, and 316, step 312 is executed, the B signal of the target pixel is calculated according to equation (8), and the B interpolation processing routine ends.
[0052]
The B interpolation processing routine is executed for all pixels of the image belonging to the first pattern. When the G interpolation processing routine (FIG. 4), the R / B interpolation processing routine (FIG. 5), and the B interpolation processing routine (FIGS. 7 and 8) are completed, the images belonging to the first, second, and third patterns , R, G, B signals have been obtained, and the R signal in the image belonging to the fourth pattern has not yet been determined.
[0053]
The R signal of the fourth pattern image is obtained by the R interpolation processing routine. FIG. 9 shows the latter half of the flowchart of the R interpolation processing routine. The first half of the R interpolation processing routine is the same as the B interpolation processing routine shown in FIG.
[0054]
The processing contents of steps 410, 413, and 415 are the same as those of steps 310, 313, and 315 (FIG. 8). The processing contents of steps 411, 412, 414, 416, and 417 are basically the same as those of steps 311, 312, 314, 316, and 317, except that the color difference signal Cr is used to obtain the R signal. .
[0055]
In step 411, the luminance value Y, the color difference signal Cr, and the corrected luminance value YG are calculated according to the equations (9), (10), and (11), respectively.
Y = 0.299 × R (x-1, y) + 0.587 × G (x-1, y) + 0.114 × B (x-1, y) (9)
Cr = 0.5 × R (x-1, y) -0.419 × G (x-1, y) -0.081 × B (x-1, y) (10)
YG = Y × G (x, y) / G (x-1, y) (11)
[0056]
In step 412, the R signal r of the target pixel is calculated according to the equation (12) using the corrected luminance value YG and the color difference signal Cr.
r = YG + 1.402 × Cr (12)
In equation (12), the color difference signal Cr is defined as Cr = (R−Y) × 0.5 / (1−0.299), and this definition equation is modified and the modified luminance value YG is used instead of the luminance value Y. Obtained by.
[0057]
In step 414, the luminance value Y, the color difference signal Cr, and the corrected luminance value YG are calculated according to the equations (9a), (10a), and (11a), respectively.
Y = 0.299 × R (x + 1, y) + 0.587 × G (x + 1, y) + 0.114 × B (x + 1, y) (9a)
Cr = 0.5 × R (x + 1, y) −0.419 × G (x + 1, y) −0.081 × B (x + 1, y) (10a)
YG = Y × G (x, y) / G (x + 1, y) (11a)
[0058]
In step 416, the luminance value Y, the color difference signal Cr, and the corrected luminance value YG are calculated according to the equations (9b), (10b), and (11b), respectively.
Y = 0.299 × R (x, y-1) + 0.587 × G (x, y-1) + 0.114 × B (x, y-1) (9b)
Cr = 0.5 * R (x, y-1) -0.419 * G (x, y-1) -0.081 * B (x, y-1) (10b)
YG = Y * G (x, y) / G (x, y-1) (11b)
[0059]
In step 417, the luminance value Y, the color difference signal Cr, and the corrected luminance value YG are calculated according to the equations (9c), (10c), and (11c), respectively.
Y = 0.299 × R (x, y + 1) + 0.587 × G (x, y + 1) + 0.114 × B (x, y + 1) (9c)
Cb = 0.5 × R (x, y + 1) −0.419 × G (x, y + 1) −0.081 × B (x, y + 1) (10c)
YG = Y × G (x, y) / G (x, y + 1) (11c)
[0060]
The R interpolation processing routine is executed for all pixels of the image belonging to the fourth pattern.
[0061]
As described above, in the R interpolation processing routine, similarly to the B interpolation processing routine, it is assumed that the color difference signal Cr of the target pixel is equal to the color difference signal Cr of the similar pixel, and the corrected luminance value YG is regarded as the luminance value of the target pixel. Thus, the R signal of the target pixel is obtained.
[0062]
As described above, in the present embodiment, in particular, in the B interpolation processing routine (FIGS. 7 and 8) and the R interpolation processing routine (FIG. 9), the luminance value is closest to the pixels located on the left and right and top and bottom of the target pixel. Those are extracted as similar pixels, and interpolation processing is performed. In this interpolation process, the closer the luminance values of the two pixels are, the stronger the color correlation is. Therefore, by using the color difference signal of the target pixel as the color difference signal of the similar pixel, a pixel signal closer to the actual color can be obtained. Therefore, according to the present embodiment, it is possible to reduce color bleeding in the reproduced image.
[0063]
A second embodiment will be described with reference to FIGS. 10 and 11. FIG. 10 shows the first half of a B interpolation processing routine for obtaining a B signal for each pixel of an image belonging to the first pattern, and FIG. 11 shows an R interpolation processing routine for obtaining an R signal for each pixel of an image belonging to the fourth pattern. The first half is shown. Other configurations are the same as those of the first embodiment, and thus are omitted.
[0064]
In step 501, it is determined whether or not the inequality (13) is established as a comparison of the luminance values of the pixel adjacent to the left and right sides of the target pixel and the target pixel.
| 0.587 × (G (x-1, y) -G (x, y)) + 0.299 × (R (x-1, y) -R (x, y)) | <
| 0.587 × (G (x + 1, y) −G (x, y)) + 0.299 × (R (x + 1, y) −R (x, y)) | (13)
When the inequality (13) is true, that is, when the luminance value of the left pixel is closer to the luminance value of the target pixel, the parameter p is set to −1 in step 502. On the other hand, when the inequality (13) is false, that is, when the luminance value of the right pixel is closer to or equal to the luminance value of the target pixel, the parameter p is set to 1 in step 503.
[0065]
In step 504, it is determined whether or not the inequality (14) is established as a comparison between the luminance values of the pixel adjacent to the upper side and the lower side of the target pixel and the target pixel.
| 0.587 × (G (x, y-1) -G (x, y)) + 0.299 × (R (x, y-1) -R (x, y)) | <
| 0.587 × (G (x, y + 1) −G (x, y)) + 0.299 × (R (x, y + 1) −R (x, y)) | (14)
When the inequality (14) is true, that is, when the luminance value of the upper pixel is closer to the luminance value of the target pixel, in step 505, the parameter q is set to -1. On the other hand, when the inequality (14) is false, that is, when the luminance value of the lower pixel is closer to or equal to the luminance value of the target pixel, the parameter q is set to 1 in step 506.
[0066]
In step 507, the luminance value is compared according to the inequality (15) with respect to the pixel adjacent to one of the left and right of the target pixel, the pixel adjacent to one of the top and bottom, and the target pixel.
| 0.587 × (G (x + p, y) -G (x, y)) + 0.299 × (R (x + p, y) -R (x, y)) | <
| 0.587 × (G (x, y + q) -G (x, y)) + 0.299 × (R (x, y + q) -R (x, y)) | (15)
When the parameters p and q are both −1 and the inequality (15) is true, the luminance value of the left pixel is closest to the luminance value of the target pixel. In this case, in step 508, the parameter s is p, that is, −1. Determined. On the other hand, when the inequality (15) is false, that is, when the luminance value of the upper pixel is closer to or equal to the luminance value of the target pixel, the parameter s is set to 2 × q, that is, −2 in step 509.
[0067]
When the parameters p and q are both 1, the parameters p and q are −1 and 1 respectively, and the parameters p and q are respectively 1 and −1, the same steps 507, 508 or 509 are executed. Is done. Thus, in the B interpolation processing routine, the luminance value is examined using the G signal and R signal of the target pixel and the G signal and R signal of the adjacent pixels included in the images belonging to the second and third patterns. The parameter s is set to -1 when the luminance value of the pixel adjacent on the left side is closest, the parameter s is set to 1 when the luminance value of the pixel adjacent to the right side is closest, and the luminance value of the pixel adjacent to the upper side is closest. For example, the parameter s is set to -2, and the parameter s is set to 2 if the luminance value of the adjacent pixel on the lower side is closest.
[0068]
After the similar pixel having the luminance value closest to the luminance value of the target pixel is extracted in this way, the luminance is obtained using the R, G, and B signals of the similar pixel by the same process as the flowchart shown in FIG. The value Y, the color difference signal Cb, and the corrected luminance value YG are obtained, and the B signal of the target pixel is obtained. The corrected luminance value YG is obtained according to equation (16) using the G signal and R signal of the target pixel and similar pixels. Other formulas are the same as those in the first embodiment.
YG = Y ×
(0.587 × G (x, y) + 0.299 × R (x, y)) / (0.587 × G (x ′, y ′) + 0.299 × R (x ′, y ′)) (16)
However, G (x ′, y ′) indicates the G signal of the similar pixel, and R (x ′, y ′) indicates the R signal of the similar pixel.
[0069]
In the R interpolation processing routine (FIG. 11), the R signal of the fourth pattern image is obtained. In step 601, it is determined whether or not the inequality (17) is established as a comparison of the luminance values of the pixel adjacent to the left and right sides of the target pixel and the target pixel.
| 0.587 × (G (x-1, y) -G (x, y)) + 0.144 × (B (x-1, y) -B (x, y)) | <
| 0.587 × (G (x + 1, y) -G (x, y)) + 0.144 × (B (x + 1, y) -B (x, y)) | (17)
When the inequality (17) is true, the parameter p is set to −1 at step 602, and when the inequality (17) is false, the parameter p is set to 1 at step 603.
[0070]
In step 604, it is determined whether or not the inequality (18) is established as a comparison of the luminance values of the target pixel and the pixels adjacent to the upper side and the lower side of the target pixel.
| 0.587 × (G (x, y-1) -G (x, y)) + 0.144 × (B (x, y-1) -B (x, y)) | <
| 0.587 × (G (x, y + 1) -G (x, y)) + 0.144 × (B (x, y + 1) -B (x, y)) | (18)
When the inequality (18) is true, the parameter q is set to −1 at step 605, and when the inequality (18) is false, the parameter q is set to 1 at step 606.
[0071]
In step 607, the luminance value is compared according to the inequality (19) with respect to the pixel adjacent to any of the left and right of the target pixel, the pixel adjacent to either of the top and bottom, and the target pixel.
| 0.587 × (G (x + p, y) -G (x, y)) + 0.144 × (B (x + p, y) -B (x, y)) | <
| 0.587 × (G (x, y + q) -G (x, y)) + 0.144 × (B (x, y + q) -B (x, y)) | (19)
When the parameters p and q are both −1 and the inequality (19) is true, the luminance value of the left pixel is closest to the luminance value of the target pixel. In this case, in step 608, the parameter s is p, that is, −1. Determined. On the other hand, when the inequality (19) is false, that is, when the luminance value of the upper pixel is closer to or equal to the luminance value of the target pixel, the parameter s is set to 2 × q, that is, −2 in step 609.
[0072]
When the parameters p and q are both 1, the parameters p and q are −1 and 1, respectively, and the parameters p and q are respectively 1 and −1, steps 607, 608 or 609 are executed in the same manner. Is done. In this way, in the R interpolation processing routine, the luminance value is examined using the G signal and B signal of the target pixel and the G signal and B signal of the adjacent pixels included in the images belonging to the second and third patterns. The parameter s is set to -1 if the luminance value of the pixel adjacent to the left side is closest, the parameter s is set to 1 if the luminance value of the pixel adjacent to the right side is closest, and the luminance value of the pixel adjacent to the upper side is closest. For example, the parameter s is set to -2, and the parameter s is set to 2 if the luminance value of the adjacent pixel on the lower side is closest.
[0073]
After the similar pixel having the luminance value closest to the luminance value of the target pixel is extracted in this way, the luminance value is obtained using the R, G, and B signals of the similar pixel by the same processing as the flowchart shown in FIG. Y, the color difference signal Cr and the corrected luminance value YG are obtained, and the R signal of the target pixel is obtained. The corrected luminance value YG is obtained according to the equation (20) using the G signal and B signal of the target pixel and similar pixels.
YG = Y ×
(0.587 × G (x, y) + 0.114 × B (x, y)) / (0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)) (20)
However, G (x ′, y ′) indicates the G signal of the similar pixel, and B (x ′, y ′) indicates the B signal of the similar pixel.
[0074]
As described above, in the present embodiment, the G signal and the R signal or the B signal are used as the luminance values in the B interpolation processing routine (FIG. 10) and the R interpolation processing routine (FIG. 11). Can be considered. Therefore, the color blur in the reproduced image can be reduced as compared with the first embodiment.
[0075]
【The invention's effect】
As described above, according to the present invention, it is possible to reduce color bleeding that occurs in a reproduced image by interpolation processing.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a schematic configuration of a digital camera including an image interpolation device according to a first embodiment of the present invention.
FIG. 2 is a diagram illustrating an array of color filter elements in a color filter and pixel signals of an image belonging to each pattern extracted by a pattern setting unit.
FIG. 3 is a diagram illustrating coordinates and colors of pixels constituting one image.
FIG. 4 is a flowchart of a G interpolation processing routine.
FIG. 5 is a flowchart of an R / B interpolation processing routine.
FIG. 6 is a diagram illustrating pixel signals obtained by executing a G interpolation process routine and an R / B interpolation process routine.
FIG. 7 is the first half of a flowchart of a B interpolation processing routine.
FIG. 8 is the latter half of the flowchart of the B interpolation processing routine.
FIG. 9 is the latter half of the flowchart of the R interpolation processing routine.
FIG. 10 is the first half of a flowchart of a B interpolation processing routine in the second embodiment.
FIG. 11 is the first half of a flowchart of an R interpolation processing routine in the second embodiment.
[Explanation of symbols]
12 Image sensor
13 Color filter

Claims

A first column in which red (R) and green (G) color filter elements are alternately arranged in the horizontal direction, and a color filter of G and blue (B) in the horizontal direction adjacent to the upper and lower sides of the first column A color filter composed of a second row of alternating elements;
An image sensor that generates R, G, and B signals that are pixel signals corresponding to the color filter elements;
From the R, G, and B signals generated by the image sensor, a first pattern in which the R signal is located at the upper left in the 2 × 2 pixel matrix, a second pattern in which the G signal is located in the upper right, and a G signal in the lower left Pattern setting means for extracting images belonging to the third pattern in which B is located and the fourth pattern in which the B signal is located in the lower right,
G interpolation processing means for obtaining a G signal using the G signal of an adjacent pixel for each pixel of the image belonging to the first and fourth patterns;
R / B interpolation processing means for obtaining R and B signals using R and B signals of adjacent pixels for each pixel of the images belonging to the second and third patterns;
For each pixel of the image belonging to the first pattern, a B interpolation process for extracting a similar pixel having the closest luminance value from adjacent pixels and obtaining a B signal based on the luminance value of the similar pixel and the color difference signal Cb Means,
For each pixel of the image belonging to the fourth pattern, an R interpolation process for extracting a similar pixel having the closest luminance value from adjacent pixels and obtaining an R signal based on the luminance value of the similar pixel and the color difference signal Cr And an image interpolation device.

2. The image interpolation apparatus according to claim 1, wherein in the G interpolation processing means, the adjacent pixels are included in an image belonging to the second and third patterns.

2. The image interpolation apparatus according to claim 1, wherein in the R / B interpolation processing means, the adjacent pixels are included in an image belonging to the first and fourth patterns.

The image interpolation apparatus according to claim 1, wherein in the B interpolation processing unit and the R interpolation processing unit, the adjacent pixels are included in an image belonging to the second and third patterns.

The image interpolation apparatus according to claim 1, wherein the B interpolation processing unit and the R interpolation processing unit extract a similar pixel having the closest luminance value by using a value of a G signal in the adjacent pixel. .

2. The B interpolation processing unit obtains the B signal on the assumption that the color difference signal Cb is equal to the color difference signal Cb of the similar pixel with respect to each pixel of the image belonging to the first pattern. The image interpolating device described.

2. The R signal is obtained by assuming that the color difference signal Cr is equal to the color difference signal Cr of the similar pixel with respect to each pixel of the image belonging to the fourth pattern. The image interpolating device described.

For each pixel of the image belonging to the first pattern, the B interpolation processing means multiplies the luminance value by the ratio between the G signal of the pixel and the G signal of the similar pixel, and the corrected luminance value and the color difference signal Cb The image interpolating apparatus according to claim 1, wherein the B signal is obtained by using.

The image interpolation apparatus according to claim 8, wherein the B interpolation processing unit obtains the B signal according to the following equation.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cb = −0.169 × R (x ′, y ′) − 0.331 × G (x ′, y ′) + 0.5 × B (x ′, y ′)
YG = Y × G (x, y) / G (x ′, y ′)
b = YG + 1.772 × Cb
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals of the similar pixel, G (x, y) is the G signal of the pixels of the image belonging to the first pattern, b is the B signal of the pixels of the image belonging to the first pattern obtained by the B interpolation processing means, and YG is the corrected luminance value.

For each pixel of the image belonging to the fourth pattern, the R interpolation processing means multiplies the luminance value by the ratio between the G signal of the pixel and the G signal of the similar pixel, and the corrected luminance value and color difference signal Cr The image interpolating apparatus according to claim 1, wherein the R signal is obtained using.

The image interpolation apparatus according to claim 10, wherein the R interpolation processing unit obtains the R signal according to the following equation.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cr = 0.5 × R (x ′, y ′) − 0.419 × G (x ′, y ′) − 0.081 × B (x ′, y ′)
YG = Y × G (x, y) / G (x ′, y ′)
r = YG + 1.402 × Cr
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals of the similar pixel, G (x, y) is the G signal of the pixels of the image belonging to the fourth pattern, r is the R signal of the pixels of the image belonging to the fourth pattern obtained by the R interpolation processing means, and YG is the corrected luminance value.

The image interpolation apparatus according to claim 1, wherein the B interpolation processing unit extracts a similar pixel having the closest luminance value by using values of a G signal and an R signal in the adjacent pixels.

The image interpolation apparatus according to claim 1, wherein the R interpolation processing unit extracts a similar pixel having the closest luminance value by using values of a G signal and a B signal in the adjacent pixels.

The B interpolation processing means, for each pixel of the image belonging to the first pattern, based on the first reference value obtained based on the G signal and R signal of the pixel and the G signal and R signal of the similar pixel The image interpolation apparatus according to claim 1, wherein the B signal is obtained by using the corrected luminance value obtained by multiplying the luminance value by a ratio with the obtained second reference value and the color difference signal Cb.

The image interpolation apparatus according to claim 14, wherein the B interpolation processing unit obtains the B signal according to the following equation.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cb = −0.169 × R (x ′, y ′) − 0.331 × G (x ′, y ′) + 0.5 × B (x ′, y ′)
YG = Y ×
(0.587 × G (x, y) + 0.299 × R (x, y)) / (0.587 × G (x ', y') + 0.299 × R (x ', y'))
b = YG + 1.772 × Cb
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals of the similar pixel, G (x, y) is the G signal of the pixels of the image belonging to the first pattern, b is the B signal of the pixels of the image belonging to the first pattern obtained by the B interpolation processing means, and YG is the corrected luminance value.

The R interpolation processing means, for each pixel of the image belonging to the fourth pattern, based on the first reference value obtained based on the G signal and B signal of the pixel and the G signal and B signal of the similar pixel The image interpolation apparatus according to claim 1, wherein the R signal is obtained by using the corrected luminance value obtained by multiplying the luminance value by a ratio with the obtained second reference value and the color difference signal Cr.

The image interpolation apparatus according to claim 16, wherein the R interpolation processing unit obtains the R signal according to the following equation.
Y = 0.299 × R (x ′, y ′) + 0.587 × G (x ′, y ′) + 0.114 × B (x ′, y ′)
Cr = 0.5 × R (x ′, y ′) − 0.419 × G (x ′, y ′) − 0.081 × B (x ′, y ′)
YG = Y ×
(0.587 × G (x, y) + 0.114 × B (x, y)) / (0.587 × G (x ', y') + 0.114 × B (x ', y'))
r = YG + 1.402 × Cr
Where Y is the luminance value of the similar pixel, R (x ′, y ′), G (x ′, y ′), B (x ′, y ′) are the R, G, B signals of the similar pixel, G (x, y) is the G signal of the pixels of the image belonging to the fourth pattern, r is the R signal of the pixels of the image belonging to the fourth pattern obtained by the R interpolation processing means, and YG is the corrected luminance value.