JP2004297267A - Pixel defect processor - Google Patents
Pixel defect processor Download PDFInfo
- Publication number
- JP2004297267A JP2004297267A JP2003084359A JP2003084359A JP2004297267A JP 2004297267 A JP2004297267 A JP 2004297267A JP 2003084359 A JP2003084359 A JP 2003084359A JP 2003084359 A JP2003084359 A JP 2003084359A JP 2004297267 A JP2004297267 A JP 2004297267A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- pixel defect
- signal
- luminance
- defect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
Description
【0001】
【発明の属する技術分野】
本発明は、色フィルタを配置したカラー固体撮像素子を用いたビデオカメラ、車載カメラ、監視カメラなどに適用できる画素欠陥処理装置に関し、特に、固体撮像素子の画素が欠陥している状態(以下、画素欠陥という)を処理する画素欠陥処理装置に関する。
【0002】
【従来の技術】
近年、画像撮像用のデバイスとして、CCD(Charge Coupled Device)撮像素子や、CMOS(Complementary Metal Oxide Semiconductor)撮像素子などの固体撮像素子を利用したビデオカメラや、車載カメラ、監視カメラなどが商品化されている。
【0003】
これらの機器に使用されている固体撮像素子は、固体撮像素子そのものの製造上の問題や、固体撮像素子を搭載した機器を製造する過程、また、製造後も経年変化などで画素欠陥が発生し、映像の質を劣化させることがある。
【0004】
この問題に対して従来からさまざまな解決方法が提案されており、大まかに分類すると、画素欠陥が発生している座標を予め不揮発性メモリなどに記憶させ、映像を読出す際、欠陥画素(欠陥状態の画素そのもの)を周辺の画素で置き換える欠陥画素座標指定方式(特許文献1参照)と、欠陥画素の座標は指定せず、対象画素とその周辺画素の信号レベルを比較し、孤立している場合は画素欠陥と判定して、欠陥画素周辺の画素で置き換える自動画素欠陥検出方式(特許文献2参照)の2つがある。
【0005】
欠陥画素座標指定方式は、機器製造時までに発生した画素欠陥に関しては確実に補正可能であり、補正誤りによる副作用も発生しにくい。
【0006】
しかし、多数の画素欠陥が発生した場合、対応するには欠陥画素の数だけ座標を記憶させるための不揮発性メモリが必要であり、また、機器製造後に発生した画素欠陥に関しては、特別な対応をとる必要がある。
【0007】
自動画素欠陥検出方式は、機器製造時、特別な設定などは必要なく、機器製造後に発生した画素欠陥に対しても対応可能である。また、多数の画素欠陥が発生しても対応可能である。
【0008】
しかし、この方法では、対象画素とその周辺画素の信号レベルを比較して画素欠陥を検出するため、被写体の状態によっては判定誤りが発生し、画素欠陥ではないのに画素欠陥として判定されたり、逆に画素欠陥であるのに画素欠陥として判定されなかったりして、映像の質を劣化させる原因となる。
【0009】
【特許文献1】
特開2001−177770号公報の明細書と図面
【0010】
【特許文献2】
特開2002−223391号公報の明細書と図面
【0011】
【発明が解決しようとする課題】
一般にカラーの固体撮像素子で自動画素欠陥検出方式を採用する場合、信号処理過程上、他への影響を小さくするため、できるだけ前段で画素欠陥の補正を行う方が有効である。
【0012】
しかし、信号処理の前段では、まだ画素データが固体撮像素子に配置されている色フィルタごとに分離されておらず、フィルタごとの画素データにばらつきがあるため、単純に対象画素と隣接画素間で信号レベルの比較を行い、画素欠陥を判定することができない。
【0013】
また、対象画素とその隣接する同色フィルタの画素データを比較する方法もあるが対象画素と最低1画素以上離れており、判定誤りが発生する可能性が高くなる。
【0014】
また、被写体の状態や、画素欠陥の信号レベルが低いと画素欠陥として判定されない可能性もある。
【0015】
また、判定誤りを少なくするためには、できるだけ広範囲の画素データを元に画素欠陥を判定する必要があるが、この場合複数の水平ラインを同時化する必要があり、多くのラインメモリが必要となるため機器のコストアップを招く。
【0016】
一般的に固体撮像素子からの信号を処理して映像信号に変換する場合、垂直エッジ処理などのために最低2水平ライン分のラインメモリが必要となる。そこで、映像信号処理に必要なラインメモリと画素欠陥判定を行うためのラインメモリを共有し、コストダウンを行う方法が提案されている。
【0017】
ラインメモリを2本使用した場合、現在の画素データ、1水平ライン前の画素データ、2水平ライン前の画素データの計3ライン分の画素データがそろうことになり、1水平ライン前の画素データを対象画素として画素欠陥判定を行うことになる。
【0018】
欠陥画素が1水平ライン前の画素データに入った場合、画素欠陥として判定され、補正が行われることになるが、問題は欠陥画素が現在の画素データ、もしくは、2水平ライン前の画素データに入った場合、画素欠陥として判定されないため、例えば垂直エッジを作成する際、欠陥画素のデータが使用され、実際には存在しない偽の垂直エッジが映像信号に載ることになり、映像の質は劣化する。
【0019】
本発明はこのような課題を解決するためのものであり、その目的は色フィルタが配置された固体撮像素子を使用した場合においても、画素欠陥の検出誤りを少なくする画素欠陥処理装置を提供することである。
【0020】
【課題を解決するための手段】
この発明のある局面に従う色フィルタが配置された固体撮像素子による画素欠陥を処理する装置は、固体撮像素子から映像信号を逐次入力して、映像信号に従う画像の所定範囲の画素を同時化する同時化手段と、同時化手段により同時化された所定範囲における画素欠陥検出の対象画素と隣接する画素とについて輝度成分を示す輝度信号を作成する輝度信号作成手段と、輝度信号作成手段により作成された対象画素と隣接画素との輝度信号どうしのレベル差に基づいて、対象画素の画素欠陥を検出する画素欠陥検出手段とを備える。
【0021】
画素欠陥処理装置によれば、画素欠陥の検出には輝度信号作成手段により作成された輝度成分を示す輝度信号が使用されるので、色フィルタが配置された固体撮像素子を使用して色フィルタ毎の画素の信号レベルのばらつきがあるにもかかわらず、輝度信号のレベル差に基づくことで正確に画素欠陥を検出できる。
【0022】
上述の輝度信号作成手段は好ましくは、各色のフィルタの信号を含んで輝度信号を作成する。
【0023】
上述の画素欠陥処理装置は好ましくは、画素欠陥検出手段により画素欠陥が検出されたとき、検出された画素欠陥を映像信号において補正する補正手段をさらに備える。したがって、検出された画素欠陥を補正することができる。
【0024】
上述の同時化手段は好ましくは、映像信号を逐次入力して複数個の水平ライン分の同時化を行う手段を有し、画素欠陥検出手段は、対象画素と上下左右に隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出し、対象画素の上下の水平ラインそれぞれにおける該対象画素と隣接する画素を対象として、対象とした画素と隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出する。
【0025】
したがって、画素欠陥検出の対象画素とその上下の水平ラインの画素とについて画素欠陥の検出と補正を行なうことができる。
【0026】
上述の画素欠陥処理装置により処理された映像信号は好ましくは予め準備された映像信号処理部に対して出力される。この映像信号処理部は、映像信号を入力して複数水平ラインの映像信号に基づいた処理を少なくとも施してビデオ信号として出力する。
【0027】
したがって、映像信号処理部の複数水平ラインの映像信号に基づいた処理は、複数水平ラインについての画素欠陥が補正された後に行なわれるので、欠陥画素によるノイズ(例えば、偽りの垂直エッジ)の発生を抑制できる。
【0028】
上述の同時化手段は好ましくは複数のラインメモリを有して、複数水平ラインの同時化は複数ラインメモリを用いて行なわれる。映像信号処理部の複数水平ラインの映像信号に基づいた処理は好ましくは複数ラインメモリを用いて行なわれる。したがって、複数ラインメモリを画素欠陥検出と映像信号処理とに共有できる。
【0029】
上述の輝度信号作成手段は好ましくは、隣接画素の映像信号レベルの平均値に、対象画素の映像信号レベルを加算することにより、輝度信号を作成する。
【0030】
したがって、画素欠陥の周辺画素を対象画素として画素欠陥検出が行なわれるとしても、周辺画素の画素欠陥の影響を小さくするように輝度信号を作成できる。それゆえに、画素欠陥の誤検出を抑制できる。
【0031】
上述の輝度信号作成手段は好ましくは、隣接画素の映像信号レベルを平均して輝度信号を作成する。
【0032】
上述の輝度信号作成手段は好ましくは、作成した輝度信号を増幅する。したがって、作成した輝度信号のレベルが低くても、増幅により画素欠陥検出可能なレベルにまで高めることができて、画素欠陥検出が容易となる。
【0033】
上述の輝度信号作成手段は好ましくは、対象画素と隣接画素それぞれの映像信号の高域周波数成分を、対象画素と隣接画素それぞれについて作成された輝度信号に加算する。
【0034】
したがって、作成された輝度信号の高周波数成分が強調されることにより画素欠陥の成分が強調されて、画素欠陥検出が容易となる。
【0035】
上述の輝度信号作成手段は、対象画素と隣接画素それぞれについて作成された輝度信号にオフセット信号を加算する。
【0036】
したがって、輝度信号からオフセット信号に相当のノイズ成分を除去できるから輝度信号に基づく画素欠陥検出を正確に行なえる。
【0037】
上述の画素欠陥検出手段は好ましくは、対象画素と隣接画素との輝度信号どうしのレベル差と所定の閾値とを比較して、比較結果に従い、対象画素の画素欠陥を検出する。
【0038】
上述の閾値は好ましくは、対象画素の周辺の画素の映像信号のレベルによって変更される。周辺画素の映像信号レベルにより画素欠陥検出のための閾値は変更されるから、画素欠陥を目立ち易い状態で画素欠陥の検出を行なうことができる。
【0039】
上述の閾値は好ましくは、対象画素の白点検出をする場合に、隣接画素の輝度信号のレベルが高いときは大きくされて低いときは小さくされて、対象画素の黒点検出をする場合に、隣接画素の輝度信号のレベルが高いとき小さくされて低いときは大きくされる。
【0040】
したがって、欠陥画素検出の際、欠陥画素の判定を行う閾値をその周辺画素の信号レベルによって変更することにより、欠陥画素が最も目立つ、白点の場合は周辺画素の信号レベルが低い時に、また黒点の場合は周辺画素の信号レベルが高い時に欠陥画素の検出抜けを防止でき、さらに欠陥画素の誤判定による副作用も減少する。
【0041】
上述の同時化手段は好ましくは、映像信号を逐次入力して、5水平ライン分の同時化を行う手段を有し、画素欠陥検出手段は、対象画素と上下左右に隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出し、対象画素の上下の水平ラインそれぞれにおける対象画素に隣接する画素を対象として、対象とした画素と上下左右に隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出する。
【0042】
したがって、5水平ライン分の画素欠陥検出を同時に行うことにより、画像の垂直方向のノイズを予め検出し、さらに画素欠陥を補正することで、映像信号処理で例えば、偽の垂直エッジ等が発生するのを回避できる。したがって、同一のラインメモリを用いて画素欠陥検出のための5水平ライン分同時化と映像信号処理とを行なうことができる。
【0043】
上述の同時化手段は好ましくは、映像信号を逐次入力して、3水平ライン分の同時化を行う手段を有し、画素欠陥検出手段は、対象画素と上下左右に隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出し、対象画素の上の水平ラインの対象画素と隣接する画素を対象として、対象とした画素と下左右に隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出し、対象画素の下の水平ラインの対象画素と隣接する画素を対象として、対象とした画素と上左右に隣接する画素それぞれとの輝度信号どうしのレベル差に基づいて画素欠陥を検出する。
【0044】
したがって3水平ライン分の画素欠陥検出を同時に行うことにより、画像の垂直方向のノイズを予め検出し、さらに画素欠陥を補正することで、映像信号処理で例えば、偽の垂直エッジ等が発生するのを回避できる。したがって、同一のラインメモリを用いて画素欠陥検出のための3水平ライン分同時化と映像信号処理とを行なうことができる。
【0045】
【発明の実施の形態】
以下、この発明の各実施の形態について図面を参照して説明する。各実施の形態では、補色タイプの色フィルタを配置したフィールド読出し型カラー固体撮像素子により被写体を撮影する撮影装置に搭載された画素欠陥検出補正部について説明する。
【0046】
(実施の形態1)
図1は実施の形態1に係る画素欠陥検出補正部の構成を示し、図2は各実施の形態に係る画素欠陥検出補正部が搭載される撮像装置の構成を示す。図2を参照して撮像装置は、被写体を結像させるためのレンズ91Aおよび色フィルタが配置されたカラー固体撮像素子92A、カラー固体撮像素子92Aから出力された映像信号を入力し、入力映像信号について画素欠陥を検出し、検出した画素欠陥を補正して出力する画素欠陥検出補正部93A(93B)、画素欠陥検出補正部93A(93B)が出力する信号を入力して処理してビデオ信号のための輝度信号Yおよび色信号Cを分離して導出するデジタル信号処理回路94A、およびデジタルの輝度信号Yおよび色信号Cを入力してエンコード処理してビデオ信号を出力するエンコーダ95Aを備える。画素欠陥検出補正部93Aは実施の形態1に適用されて、画素欠陥検出補正部93Bは、後述の実施の形態2に適用される。
【0047】
図1の画素欠陥検出補正部93Aはカラー固体撮像素子92Aからの信号を入力して水平ライン単位で遅延させる垂直ライン遅延部1、水平画素遅延部2、輝度信号作成部3、上画素欠陥検出部4、中画素欠陥検出部5、下画素欠陥検出部6、上画素欠陥補正部7、中画素欠陥補正部8および下画素欠陥補正部9を備える。
【0048】
垂直ライン遅延部1は、5本のラインメモリを使用して5水平ライン分の信号を同時化して出力することができる。水平画素遅延部2は垂直ライン遅延部1からの同時化された5水平ライン分の信号について、それぞれ水平方向に画素単位で遅延させて出力する。本実施の形態では、水平方向に4画素分遅延させることにより計5画素分の信号の同時化が可能である。輝度信号作成部3は、水平画素遅延部2からの同時化された信号を入力して、入力信号に基づいて映像の輝度成分を示す信号(以下、輝度信号という)を作成する。
【0049】
上画素欠陥検出部4は、輝度信号作成部3で作成された輝度信号について、画素欠陥検出対象画素の上ラインの画素欠陥を周辺画素と比較することにより検出して、検出結果を示す画素欠陥情報EH1を出力する。中画素欠陥検出部5は、輝度信号作成部3で作成された輝度信号について、画素欠陥検出対象画素の画素欠陥を周辺画素と比較することにより検出して、検出結果を示す画素欠陥情報EH2を出力する。下画素欠陥検出部6は、輝度信号作成部3で作成された輝度信号について、画素欠陥検出対象画素の下ラインの画素欠陥を周辺画素と比較することにより検出して、検出結果を示す画素欠陥情報EH3を出力する。
【0050】
上画素欠陥補正部7は、上画素欠陥検出部4から画素欠陥情報EH1を入力すると、対象画素の周辺画素の信号を利用して欠陥画素の信号レベルを推定し、置換を行う。中画素欠陥補正部8は、中画素欠陥検出部5から画素欠陥情報EH2を入力すると、対象画素の周辺画素の信号を利用して欠陥画素の信号レベルを推定し、置換を行う。下画素欠陥補正部9は、下画素欠陥検出部6から画素欠陥情報EH3を入力すると、対象画素の周辺画素の信号を利用して欠陥画素の信号レベルを推定し、置換を行う。
【0051】
次に本実施の形態に係る画素欠陥検出補正部93Aの動作を説明する。
被写体を撮影すると、カラー固体撮像素子92Aからの映像信号は垂直ライン遅延部1に入力する。ここで、カラー固体撮像素子92Aからの映像信号は、ディジタル化されているものとする。また、図1には明記していないが、場合によっては垂直ライン遅延部1に入力する前に処理をし易くするためにクランプ処理などの前処理を行うようにしてもよい。
【0052】
図3を参照して垂直ライン遅延部1は、5本のラインメモリ101〜105を有してカラー固体撮像素子92Aからの映像信号を5水平ライン分記憶して読出すことが可能なラインメモリ部10、ラインメモリ部10に対して書込みと読出しの制御を行うメモリ制御回路11、および5本のラインメモリから読出された映像信号および固体撮像素子92Aから出力された映像信号を入力しセレクトし順に信号L0〜L4として出力する出力データセレクタ12を有する。図4にカラー固体撮像素子92Aから入力された映像信号データがラインメモリ部10に書込まれるタイミングと信号L0〜L4として出力される映像信号の関係が示される。
【0053】
図4を参照して初めにラインメモリ部10への書込みについて説明する。カラー固体撮像素子92Aから垂直ライン遅延部1に入力された1水平ライン分の映像信号データH1は、ラインメモリ101に1水平ライン分のデータとして書込まれる(図4の斜線部分)。次に入力する水平ラインである映像信号データH2は、ラインメモリ102に書込まれる。同様に入力順に従い、ラインメモリ103、104および105には、映像信号データH3、H4およびH5が1水平ラインずつ書込まれる。映像信号データH6が入力されると、再びラインメモリ101に書込まれ同様の動作を繰り返す。ラインメモリからの読出しは、書込みが行なわれているラインメモリを除く4本のラインメモリに対して行われる。
【0054】
ラインメモリから読出された4水平ライン分の映像信号データにカラー固体撮像素子92Aから入力した映像信号データを加えて、計5水平ライン分の映像信号が同時化され、出力データセレクタ12を介し、5本の水平ラインそれぞれに対応した信号L0〜L4として水平画素遅延部2に出力される。
【0055】
本実施の形態では、5水平ライン分の映像信号を同時化するため、5本のラインメモリを使用したが、書込みと読出しを同時に行うことが可能なデュアルポートタイプのラインメモリや、1画素当りの時間の倍速で読み書きを行うことにより、4本のラインメモリで5水平ラインの同時化を行うことも可能である。
【0056】
水平画素遅延部2には、信号L0〜L4の5本の水平ラインそれぞれについて5水平画素分の同時化を行なうための回路を有する。ここでは説明を簡単にするために、水平画素遅延部2の1水平ライン分、例えば信号L0の水平ラインに対応の構成が図5に示される。他の水平ラインについても図5と同様な構成が設けられている。
【0057】
図5に示されるように水平画素遅延部2は信号L0の水平ラインについて1画素単位で水平方向に遅延を行い、計5水平画素分の同時化が可能な遅延素子部20を有する。遅延素子部20は遅延素子21〜24を有する。信号L0としてまず入力される映像信号L00は、遅延素子21で1画素分遅延させられる。遅延素子21から出力される1画素分遅延した映像信号L01は、さらに遅延素子22に入力され、映像信号L00よりも2画素分遅延した映像信号L02が作成される。同様な動作を遅延素子23、24に対しても行い3画素分および4画素分遅延した映像信号L03およびL04が導出されて、計5水平画素分の同時化が行われる。
【0058】
本実施の形態の水平画素遅延部2には、図5で示した構成のものが5水平ライン分含まれており、図6で示す画像の所定範囲(水平方向Xの5水平画素×垂直方向Yの5水平ライン=25画素)の映像信号を同時化することが可能である。水平画素遅延部2で同時化された映像信号は輝度信号作成部3に与えられる。ここでは信号L0の水平ラインについて同時化された信号L01、L02およびL03が輝度信号作成部3に出力される。同様に、信号L1の水平ラインについて同時化された信号L11、L12およびL13、信号L2の水平ラインについて同時化された信号L21、L22およびL23、信号L3の水平ラインについて同時化された信号L31、L32およびL33、および信号L4の水平ラインについて同時化された信号L41、L42およびL43も、輝度信号作成部3に出力される。
【0059】
図7の輝度信号作成部3は、同時化された映像信号から輝度信号を作成する輝度演算部30、輝度演算部30で作成された輝度信号について負のオフセットを加算し、ゲインを乗じるオフセット・ゲイン演算部31、およびオフセット・ゲイン演算された輝度信号に基づき水平の孤立点を強調する孤立点強調演算部32を備える。輝度演算部30は輝度演算回路300〜310を有し、オフセット・ゲイン演算部31は輝度演算回路300〜310それぞれに対応してオフセット・ゲイン演算回路400〜410を有する。動作において、同時化された水平ライン毎の映像信号は、輝度演算部30の輝度演算回路それぞれに入力され、輝度信号が演算される。
【0060】
図8に一般的な補色タイプのカラー撮像素子の色フィルタの構成を示す。図8において、Cyはシアン、Yeはイエロー、Gはグリーン、Mgはマゼンタの略である。図9に、図8の構成の色フィルタを持った撮像素子についてフィールド読出しを行った場合の映像信号出力の様子を示す。
【0061】
補色タイプのカラー撮像素子では、図8に示した4色のフィルタがモザイク状に配列されており、それをフィールド読出しすると、図9に示したように、上下2つのフィルタの信号が混合され、映像信号として読出される。
【0062】
このままの状態で画素欠陥検出対象画素とその周辺画素の信号レベルを調査することにより、画素欠陥の検出を行うことも可能であるが、画素欠陥の検出誤りが発生する可能性が大きくなる。それは4色のフィルタの光の透過度がそれぞれ異なっているため、図9における異なるフィルタの信号が混合された映像信号の信号レベルの絶対値が異なってくるからである。
【0063】
また、画素欠陥検出対象画素とその近傍にある同色フィルタが混合された画素とを比較することも可能であるが、その画素は、画素欠陥検出対象画素から少なくとも1画素幅以上離れており、被写体の状態の影響を受けやすい。そのため、単純に比較すると画素欠陥であるにもかかわらず、画素欠陥として判定されなかったり、また逆に画素欠陥でないのにもかかわらず画素欠陥であると判定されたりする可能性もある。そこで、本実施の形態では、輝度成分を示す輝度信号を作成し、これを使用する。
【0064】
一般に図9のような信号から、輝度成分を示す輝度信号を作成する方法は複数知られているが、左右に隣接する画素信号の平均から輝度信号を作成する場合が多い。作成する輝度成分を示す信号Yyxは、画素の映像信号レベルLyxを用いて(式1)で示される。
【0065】
Yyx=(Lyx+Ly(x+1))÷2…(式1)
このようにすると、輝度成分を示す信号Yyxには、常にCy、G,Ye、Mgの4色のフィルタの信号が含まれることになり、信号の絶対値が等しくなるため、正確な画素欠陥の検出が可能になる。ただし、(式1)では、画素欠陥があった場合、隣接する輝度信号に影響が広がってしまうため、画素欠陥検出が行いにくくなることがある。
【0066】
そのため本実施の形態では、以下の(式2)〜(式4)にて輝度成分を示す信号(以下、輝度信号という)を作成する。
【0067】
Yyx=(Ly(x−1)+Ly(x+1))÷2+Lyx …(式2)
YyxL=(L(y−1)(x−1)+L(y+1)(x−1))÷2+Ly(x−1)…(式3)
YyxR=(L(y−1)(x+1)+L(y+1)(x+1))÷2+Ly(x+1)…(式4)
これら式に関して、対象画素の上下方向の信号判定には輝度信号Yyxを、左方向の信号判定には輝度信号YyxL信号を、右方向の信号判定には輝度信号YyxR信号をそれぞれ使用する。輝度信号を算出するためのいずれの式においても、4色のフィルタ信号が等しく含まれており、絶対値が等しいため正確な画素欠陥の検出が可能である。また、(式1)に比較して(式2)は、画素欠陥検出対象画素の信号レベルLyxが加算されてより強調されており、欠陥画素の検出が行いやすくなっている。本実施の形態では(式2)の輝度信号を用いた処理を説明するが、これに代替して(式1)の輝度信号を適用した場合であっても同様に処理することができる。
【0068】
画素欠陥に対応の映像信号には画素欠陥に起因して高周波数成分が多く含まれているので、作成された画素の輝度信号に対応する映像信号から抽出した高周波数成分を加えてもよい。これにより、作成される輝度信号において画素欠陥に起因した信号成分が強調されるから、輝度信号に基づく欠陥画素の検出が容易となる。
【0069】
本実施の形態では輝度演算部30のうち、輝度演算回路300〜304は(式2)を使用して輝度信号Y0、Y1、Y2、Y3およびY4を作成し、輝度演算回路305、307および309は(式3)を使用して輝度信号Y1L、Y2LおよびY3Lを作成し、輝度演算回路306、308および310は(式4)を使用して輝度信号Y1R、Y2RおよびY3Rを作成する。輝度演算回路300〜310それぞれで作成された輝度信号は対応のオフセット・ゲイン演算回路400〜410それぞれに入力される。
【0070】
オフセット・ゲイン演算回路400〜410のそれぞれでは、入力される輝度信号に対して画素欠陥部分を強調するために、あらかじめ設定された負のオフセットを加算するとともに、あらかじめ設定されたゲインを乗じて出力する。
【0071】
このような演算を行うことにより、最も画素欠陥が目立ちやすい被写体が暗い場合の白点を検出する際、負のオフセットを加算し、ゲインをかけることによって、信号レベルの小さい信号を切り捨て、欠陥画素の信号レベルを増幅し、画素欠陥の検出をより確実なものにする効果がある。オフセット値やゲイン値は、システムごとにノイズの発生状況や、利用状態によって最適であると考えられる値を設定する。
【0072】
オフセット・ゲイン演算部31から出力された輝度信号は、孤立点強調演算部32の孤立点強調演算回路321〜323に入力され、孤立点強調のための演算がされて出力される。ここでは(式5)または(式6)に従い強調成分(YL+YR)を加算して孤立点の強調を行う。
【0073】
YE=Y−(YL+YR)…(式5)
YE=Y−G×(YL+YR)…(式6)
図10に(式5)に従い孤立点の強調を行った場合の様子を示す。図10において、画素欠陥検出対象画素の輝度信号Y、画素欠陥検出対象画素に隣接する1画素左側の画素の輝度信号YL、画素欠陥検出対象画素から1画素右側の画素の輝度信号YR、および孤立点強調を行った後の輝度信号YEが示される。孤立点強調を行うと、図10のように画素欠陥(画素欠陥E1、画素欠陥E2)は強調された画素欠陥(画素欠陥EE1、画素欠陥EE2)となり、画素欠陥の検出が容易になる。
【0074】
また(式6)に従い強調成分にゲインGを乗じて孤立点の強調を行ってもよい。(式6)に従うと、さらに画素欠陥が強調されて画素欠陥の検出がより容易になるが、映像信号にノイズが多く含まれる場合にはノイズ成分が強調されてしまい欠陥画素として誤判定されるかもしれない。したがって、システムの状態によってゲインGの値を設定するのが好ましい。
【0075】
輝度信号作成部3で作成された輝度信号のうち、輝度信号Y1、Y0、Y2、Y1LおよびY1Rは上画素検出部4に与えられて、輝度信号Y2、Y1、Y3、Y2LおよびY2Rは中画素検出部5に与えられて、輝度信号Y3、Y2、Y4、Y3LおよびY3Rは下画素欠陥検出部6に与えられる。図11に上画素欠陥検出部4の構成が示される。中画素欠陥検出部5および下画素欠陥検出部6それぞれも上画素欠陥検出部4と同様の構成を有するので、ここでは上画素欠陥検出部4の構成のみを説明し、中画素欠陥検出部5および下画素欠陥検出部6の説明は略す。
【0076】
図11において上画素欠陥検出部4は、画素欠陥検出対象画素の周辺画素の信号レベルにより画素欠陥(白点)の検出の閾値K1を決定する白点閾値制御部40、白点調査部41、黒点調査部42、画素欠陥検出対象画素の周辺画素の信号レベルにより画素欠陥(黒点)の検出の閾値K2を決定する黒点閾値制御部43、白点調査部41からの信号により画素欠陥検出対象画素が欠陥画素であるかどうかの判定を行う欠陥画素判定部44、および黒点調査部42からの信号により画素欠陥検出対象画素が欠陥画素であるかどうかの判定を行う欠陥画素判定部45を備える。欠陥画素判定部44および45は対象画素は欠陥画素であると判定したとき画素欠陥情報EH1を出力する。
【0077】
白点調査部41は、白点検出時、検出対象画素と上下左右方向に隣接する画素との信号レベルを閾値K1を用いて比較する白点上方向、白点下方向、白点左方向および白点右方向調査回路411、412、413および414を含む。黒点調査部42は、黒点検出時、検出対象画素と上下左右方向に隣接する画素との信号レベルを閾値K2を用いて比較する黒点上方向、黒点下方向、黒点左方向および黒点右方向調査回路421、422、423および424を含む。
【0078】
上画素欠陥検出部4では、画素欠陥検出対象画素の輝度信号とその上下左右方向に隣接する画素の輝度信号とのレベルを比較し、画素欠陥検出対象画素の輝度信号レベルが隣接する画素のそれよりも突出して孤立状態にあれば、対象画素は欠陥画素と判定する。具体的には白点検出を行う場合、(式7)〜(式10)の条件がすべて成立すれば画素欠陥と判定される。
【0079】
Yy−Y(y−1)>K1…(式7)、Yy−Y(y+1)>K1…(式8)
Yy−YyL>K1…(式9)、Yy−YyR>K1…(式10)
(式7)は、画素欠陥検出対象画素の上方向の調査を、(式8)は下方向の調査を、(式9)は左方向の調査を、(式10)は右方向の調査をそれぞれ行っている。(式7)〜(式10)の条件がすべて成立することは、画素欠陥検出対象画素が隣接する画素と比較して信号レベルが高い、つまり孤立しているということであり、画素欠陥(白点)と判定されて画素欠陥情報EH1が出力される。
【0080】
また、黒点検出を行う場合も同様に(式11)〜(式14)の条件がすべて成立すれば画素欠陥と判定される。
【0081】
Y(y−1)−Yy>K2…(式11)、Y(y+1)−Yy>K2…(式12)
YyL−Yy>K2…(式13)、YyR−Yy>K2…(式14)
(式11)は、画素欠陥検出対象画素の上方向の調査を、(式12)は下方向の調査を、(式13)は左方向の調査を、(式14)は右方向の調査をそれぞれ行っている。(式11)〜(式14)の条件がすべて成立することは、画素欠陥検出対象画素が隣接する画素と比較して信号レベルが低い、つまり孤立しているということであり、画素欠陥(黒点)と判定されて画素欠陥情報EH1が出力される。
【0082】
閾値K1、K2は、システムの状態に合わせた固定値としてもよいし、より画素欠陥の検出漏れを防止するために隣接する周辺画素の信号レベルに応じて可変設定するようにしてもよい。
【0083】
例えば、画素欠陥検出対象画素の上下左右方向の画素の輝度信号レベルの平均値を算出し、輝度信号レベルの平均値が高ければ閾値K1を大きくし閾値K2を小さくするように制御し、逆に輝度信号レベルの平均値が低ければ閾値K1を小さくし閾値K2を大きくするように制御する。
【0084】
閾値K1とK2について、このように制御すると、白(黒)点検出の場合に対象画素の周辺画素の信号レベルが高く(低く)、かつ対象画素が白(黒)点であったとしても、白(黒)点検出を容易にできて誤判定による画質劣化を防ぐことができる。
【0085】
また、周辺画素の信号レベルが低い場合は、白点が存在すると目立つため、必ず検出されるよう閾値K1を小さくし、白点の判定もれを防ぐ。
同様に、黒点検出の場合、周辺画素の信号レベルが低いとたとえ黒点が存在していて、検出されなくても黒点は目立たないため、閾値K2を大きくし、誤判定による画質の劣化を防ぐ。また、周辺画素の信号レベルが高い場合は、黒点が存在すると目立つため、必ず検出されるよう閾値K2を小さくし、黒点の判定もれを防ぐ。
【0086】
また、本実施の形態では、画素欠陥の検出を5本の水平ラインの信号L0〜L4の分の映像信号より、3本の水平ラインの信号L1、L2およびL3について同時に検出を行っている。これは、信号L2のみ画素欠陥補正を行ったのちに垂直エッジ処理など、複数の水平ラインの信号を使用する処理を行うと、偽の垂直エッジなど、画質に悪影響を及ぼす現象が発生するからである。
【0087】
具体的には、デジタル信号処理回路94Aにおいて、信号L2の映像信号にて輝度信号を作成した場合、一般に垂直エッジ処理は、信号L1とL3の映像信号を使用して行われる。なぜなら、信号L2の映像信号のみ補正を行うと、輝度信号自体の画素欠陥は補正されるが、画素欠陥が信号L1またはL3の水平ラインに存在する場合、垂直エッジ処理に欠陥画素が使用されてしまい、本来存在しないはずの偽の垂直エッジが現れるためである。
【0088】
本実施の形態では、上、中および下画素欠陥検出部4、5、および6において3水平ラインの信号L1、L2およびL3のすべてについて画素欠陥の検出をし、画素欠陥補正部7にて補正を行っているため、偽の垂直エッジなどの現象は発生しない。
【0089】
上画素欠陥検出部4、中画素欠陥検出部5、および下画素欠陥検出部6で画素欠陥が検出された場合、それぞれ、画素欠陥情報EH1、EH2およびEH3を上画素欠陥補正部7、中画素欠陥補正部8および下画素欠陥補正部9に出力するので、上画素欠陥補正部7は画素欠陥情報EH1を入力したとき、中画素欠陥補正部8は画素欠陥情報EH2を入力したとき、および下画素欠陥補正部9は画素欠陥情報EH3を入力したとき、それぞれ画素欠陥の補正を行う。
【0090】
図12に上画素欠陥補正部7の構成を示す。中画素欠陥補正部8および下画素欠陥補正部9も上画素欠陥補正部7と同様の構成であるから、ここでは上画素欠陥補正部7の構成のみ説明し、下画素欠陥補正部9と上画素欠陥補正部7の説明は略す。
【0091】
図12において上画素欠陥補正部7は、水平画素遅延部2から信号L10とL14を入力して、その平均値により欠陥画素の補正信号を作成して出力する補正値演算部50、およびセレクタ51を有する。セレクタ51は補正値演算部50からの補正信号と水平画素遅延部2からの信号L12(未補正信号)とを入力して、上画素欠陥検出部4から画素欠陥情報EH1が与えられるときは入力信号のうちの補正信号を導出し、そうでないときは信号L12(未補正信号)を導出する。
【0092】
水平画素遅延部2にて同時化された5水平画素分のデータのうち、画素欠陥検出対象画素である信号L12と同色のフィルタの信号L10およびL14についての平均値を補正値演算部50で算出することにより、信号L12の補正信号を作成している(図6と図8を参照)。これは、一般に映像信号において欠陥画素検出対象画素の信号L12と左右に隣接する同色フィルタの信号L10とL14は相関性が強いことを利用している。
【0093】
ここで作成された補正信号は、未補正信号である信号L12とともにセレクタ51に入力される。セレクタ51では、上画素欠陥検出部4から画素欠陥情報EH1が与えられず画素欠陥でないことが指示される場合は信号L12を出力し、画素欠陥情報EH1が与えられて画素欠陥であることが指示される場合は、補正値演算部58で作成された補正信号を出力することにより、画素欠陥の補正が行われる。
【0094】
上画素欠陥補正部7では信号L1の水平ラインについて欠陥画素補正を行うが、同様にして中画素欠陥補正部8では信号L2の水平ラインについて、下画素欠陥補正部9では信号L3の水平ラインについて欠陥画素の補正が同時に行なわれている。
【0095】
(実施の形態2)
実施の形態1の画素欠陥検出補正部93Aでは、垂直ライン遅延部1において、5水平ライン分のラインメモリを使用し、5水平ライン分の映像信号の同時化を行ったが、本実施の形態2の画素欠陥検出補正部93Bでは3水平ライン分のラインメモリを使用して、画素欠陥の検出と補正を行う。
【0096】
図13を参照して画素欠陥検出補正部93Bは、固体カラー撮像素子92Aからのデジタルの映像信号を水平ライン単位で遅延させて出力する垂直ライン遅延部60、垂直ライン遅延部60から出力される3水平ライン分の信号について、それぞれ水平方向に画素単位で遅延させて出力する水平画素遅延部61、水平画素遅延部61からの信号より、輝度信号を作成して出力する輝度信号作成部62、上画素欠陥検出部63、中画素欠陥検出部64、下画素欠陥検出部65、上画素欠陥補正部66、中画素欠陥補正部67および下画素欠陥補正部68を備える。
【0097】
垂直ライン遅延部60では3水平ライン分のラインメモリを使用し、3水平ライン分の信号の同時化が可能である。水平画素遅延部61では水平方向に4画素分遅延させ、計5水平画素分の信号の同時化が可能である。
【0098】
上画素欠陥検出部63は、輝度信号作成部62で作成された輝度信号より、画素欠陥検出対象画素の上ラインの画素欠陥を周辺画素と比較することにより検出する。中画素欠陥検出部64は、輝度信号作成部62で作成された輝度信号より、画素欠陥検出対象画素の画素欠陥を周辺画素と比較することにより検出する。下画素欠陥検出部65は、輝度信号作成部62で作成された輝度信号より、画素欠陥検出対象画素の下ラインの画素欠陥を周辺画素と比較することにより検出する。
【0099】
上画素欠陥補正部66は、上画素欠陥検出部63で検出された画素欠陥情報より、画素欠陥検出対象画素の周辺画素の信号を利用して欠陥画素の信号レベルを推定し、置換する。中画素欠陥補正部67は、中画素欠陥検出部64で検出された画素欠陥情報より、画素欠陥検出対象画素の周辺画素の信号を利用して欠陥画素の信号レベルを推定し、置換する。下画素欠陥補正部68は、下画素欠陥補正部65で検出された画素欠陥情報より、画素欠陥検出対象画素の周辺画素の信号を利用して欠陥画素の信号レベルを推定し、置換する。
【0100】
図14を参照して垂直ライン遅延部60は、3本のラインメモリ701、702および703を含み、カラー固体撮像素子92Aから入力した映像信号をラインメモリ701、702および703により3水平ライン分記憶し読出すことが可能なラインメモリ部70、3本のラインメモリに対して書込みと読出しの制御を行うメモリ制御回路部71、3本のラインメモリから読出された映像信号を信号L0からL2までの順番にセレクトし出力する出力データセレクタ72を備える。
【0101】
図15にカラー固体撮像素子92Aから入力された映像信号のデータがラインメモリ部70に書込まれるタイミングと信号L0、L1およびL2として導出される関係を示す。
【0102】
図15を参照して、カラー固体撮像素子92Aから垂直ライン遅延部60に入力された1水平ライン分の映像信号のデータH1は、ラインメモリ701に1水平ライン分のデータとして書込まれる。次の水平ラインである映像信号のデータH2は、ラインメモリ702に書込まれる。さらに次の水平ラインである映像信号のデータH3は、ラインメモリ703に書込まれる。
【0103】
さらに次に映像信号のデータH4が入力されると、再びラインメモリ701に書込まれ、以降、映像信号のデータが入力される毎にラインメモリへの書込みが行なわれる。ラインメモリ701〜703それぞれからの読出しは、書込みを行っていないラインメモリ2本に対して行われる。
【0104】
ラインメモリから読出された2水平ライン分の映像信号のデータにカラー固体撮像素子92Aから入力された映像信号のデータを加えて、計3水平ライン分の映像信号が同時化され、出力データセレクタ72を介し、信号L0、L1およびL2として出力される。
【0105】
本実施の形態2では、3水平ライン分の映像信号を同時化するため、3本のラインメモリ701〜702を使用したが、書込みと読出しを同時に行うことが可能なデュアルポートタイプのラインメモリや、1画素当りの時間の倍速で読み書きを行うことにより、2本のラインメモリで3水平ラインの同時化を行うことも可能である。
【0106】
垂直ライン遅延部60で同時化された3水平ライン分の映像信号データは、水平画素遅延部61に与えられる。水平画素遅延部61での動作は実施の形態1で説明した水平画素遅延部2と同じ動作なので説明は省略する。水平画素遅延部61で同時化された映像信号のデータは、輝度信号作成部62に与えられる。
【0107】
図16を参照して輝度信号作成部62は、同時化された映像信号から輝度信号を作成する輝度演算部80、輝度演算部80で作成された輝度信号より負のオフセットを加算し、ゲインをかけるオフセット・ゲイン演算部81、およびオフセット、ゲイン演算された輝度信号より水平の孤立点を強調する孤立点強調演算部82を備える。輝度演算部80は輝度演算回路800〜808を有し、オフセット・ゲイン演算部81は輝度演算回路800〜808それぞれに対応してオフセット・ゲイン演算回路900〜908を有する。動作において、同時化された水平ライン毎の映像信号は、輝度演算部80の輝度演算回路それぞれに入力され、輝度信号が演算される。
【0108】
本実施の形態2では、以下の3種類の式にて輝度成分を示す信号を作成する。
Yyx=(Ly(x−1)+Ly(x+1))÷2+Lyx…(式15)
YyxL=(L(y−1)(x−2)+L(y+1)(x−1))÷2…(式16)
YyxR=(L(y−1)(x+1)+L(y+1)(x+2))÷2…(式17)
対象画素の上下方向の信号判定には信号Yyxを、左方向の信号判定には信号YyxLを、右方向の信号判定には信号YyxRをそれぞれ使用する。上記のいずれの式においても、4色のフィルタ信号が等しく含まれており、絶対値が等しいため正確な画素欠陥の検出が可能である。作成された信号YyxL、信号YyxRおよび信号Yyxを、以下、輝度信号と呼ぶ。
【0109】
作成された輝度信号は、実施の形態1と同様に、オフセット・ゲイン演算部81で負のオフセットが加えられて、及びゲインが乗じられて、さらに孤立点強調演算部82で孤立点強調演算が行われ、画素欠陥検出部に与えられる。
【0110】
図17に上画素欠陥検出部63の構成を、図18に下画素欠陥検出部65の構成をそれぞれ示す。中画素欠陥検出部64の構成は、実施の形態1の中画素欠陥検出部5(図11参照)と同様である。
【0111】
図17を参照して上画素欠陥検出部63は、画素欠陥検出対象画素の周辺信号レベルより欠陥画素(白点)の検出閾値K1を決定する白点閾値制御部90、白点検出時、検出対象画素と下左右方向に隣接する画素の信号レベルを比較する白点調査部91、黒点検出時、検出対象画素と下左右方向に隣接する画素の信号レベルを比較する黒点調査部92、画素欠陥検出対象画素の周辺画素の信号レベルより欠陥画素(黒点)の検出閾値K2を決定する黒点閾値制御部93、白点調査部91からの信号により画素欠陥検出対象画素が欠陥画素であるかどうかの判定を行う欠陥画素判定(白点)部94、および黒点調査部92からの信号により画素欠陥検出対象画素が欠陥画素であるかどうかの判定を行う欠陥画素判定(黒点)部95を備える。
【0112】
図18を参照して下画素欠陥検出部65は、欠陥画素検出対象画素の周辺画素の信号レベルより欠陥画素(白点)の検出閾値K1を決定する白点閾値制御部100、白点検出時、検出対象画素と上左右方向に隣接する画素の信号レベルを比較する白点調査部101、黒点検出時、検出対象画素と上左右方向に隣接する画素の信号レベルを比較する黒点調査部102、画素欠陥検出対象画素の周辺画素の信号レベルより欠陥画素(黒点)の検出閾値K2を決定する黒点閾値制御部103、白点調査部101からの信号により画素欠陥検出対象画素が欠陥画素であるかどうかの判定を行う欠陥画素判定(白点)部104、および黒点調査部102からの信号により画素欠陥検出対象画素が欠陥画素であるかどうかの判定を行う欠陥画素判定(黒点)部105を備える。
【0113】
実施の形態1では、5水平ライン分の同時化された信号をもとに、画素欠陥検出対象画素とその隣接する上下左右方向の画素の信号レベルを比較して画素欠陥の判定を行っていたが、本実施の形態2では、3水平ライン分しか同時化されていないため、信号L0の水平ラインの画素欠陥検出には、画素欠陥検出対象画素に隣接する下左右の3方向の画素の信号レベルより、また、信号L2の水平ラインの画素欠陥検出には、画素欠陥検出対象画素に隣接する上左右の3方向の画素の信号レベルより画素欠陥の検出を行う。
【0114】
信号L1の水平ラインの画素欠陥検出に関しては、実施の形態1と同様に画素欠陥検出対象画素に隣接する上下左右の4方向の画素の信号レベルより画素欠陥の検出を行う。
【0115】
信号L0、信号L1の水平ラインの画素欠陥検出は、画素欠陥検出対象画素に隣接する3方向の画素の信号のみで行うため、実施の形態1に比較すると高い検出精度を得るのは困難である。しかし、ラインメモリが3ライン分でよいためコストを抑制できる。したがって、システムの構成に際しては、画質を重視するか、コストを重視するかで実施の形態1および2の構成のいずれかを選択すればよい。
【0116】
上画素欠陥検出部63、中画素欠陥検出部64および下画素欠陥検出部65は画素欠陥を検出すると画素欠陥情報EH0、EH1およびEH2それぞれを上画素欠陥補正部66、中画素欠陥補正部67および下画素欠陥補正部68に与える。上画素欠陥補正部66、中画素欠陥補正部67および下画素欠陥補正部68における画素欠陥情報EH0、EH1およびEH2それぞれが与えられたことに応じて実行される画素欠陥の補正は、実施の形態1と同様なので説明は省略する。
【0117】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【0118】
【発明の効果】
本発明によれば、画素欠陥の検出には輝度信号作成手段により作成された輝度成分を示す輝度信号が使用されるので、色フィルタが配置された固体撮像素子を使用して色フィルタ毎の画素の信号レベルのばらつきがあるにもかかわらず、この輝度信号のレベル差に基づくことで正確に画素欠陥を検出できる。
【図面の簡単な説明】
【図1】実施の形態1の画素欠陥検出補正部の構成図である。
【図2】各実施の形態に適用される撮像装置の構成図である。
【図3】垂直ライン遅延部1の構成図である。
【図4】撮像素子から入力された信号データがラインメモリに書込まれるタイミングと読出される信号L0〜L4の関係を示す図である。
【図5】水平画素遅延部2の一部(1水平ライン分)の構成図である。
【図6】垂直遅延部1と水平画素遅延部2で同時化される範囲を示す図である。
【図7】輝度信号作成部3の構成図である。
【図8】一般的な補色タイプのカラー撮像素子の色フィルタの構成図である。
【図9】フィールド読出しを行った場合の映像信号出力を示す図である。
【図10】孤立点強調演算を説明する図である。
【図11】上画素欠陥検出部4の構成図である。
【図12】上画素欠陥補正部7の構成図である。
【図13】実施の形態2の画素欠陥検出補正部の構成図である。
【図14】垂直ライン遅延部60の構成図である。
【図15】実施の形態2の撮像素子から入力された信号データがラインメモリに書込まれるタイミングと信号L0〜L2との関係を示す図である。
【図16】輝度信号作成部62の構成図である。
【図17】上画素欠陥検出部63の構成図である。
【図18】下画素欠陥検出部65の構成図である。
【符号の説明】
1,60 垂直ライン遅延部、2,61 水平画素遅延部、3,62 輝度信号作成部、4,63 上画素欠陥検出部、5,64 中画素欠陥検出部、6,65 下画素欠陥検出部、7,66 上画素欠陥補正部、8,67 中画素欠陥補正部、9,68 下画素欠陥補正部、10,70 ラインメモリ部、30 輝度演算部、31,81 オフセット・ゲイン演算部、32,82 孤立点強調演算部、93A,93B 画素欠陥検出補正部、K1,K2 閾値。[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a pixel defect processing apparatus that can be applied to a video camera, a vehicle-mounted camera, a surveillance camera, and the like using a color solid-state imaging device in which color filters are arranged. The present invention relates to a pixel defect processing apparatus for processing pixel defects.
[0002]
[Prior art]
2. Description of the Related Art In recent years, video cameras using a solid-state image sensor such as a CCD (Charge Coupled Device) image sensor, a CMOS (Complementary Metal Oxide Semiconductor) image sensor, a vehicle-mounted camera, and a monitoring camera have been commercialized as image pickup devices. ing.
[0003]
In the solid-state image sensors used in these devices, pixel defects occur due to manufacturing problems of the solid-state image sensors themselves, the process of manufacturing devices equipped with the solid-state image sensors, and aging after manufacturing. In some cases, the image quality may be degraded.
[0004]
Conventionally, various solutions to this problem have been proposed. When roughly classified, the coordinates at which a pixel defect has occurred are stored in a nonvolatile memory or the like in advance, and when a video is read, a defective pixel (defective pixel) is read. A defective pixel coordinate designating method (see Patent Document 1) in which the pixel in the state is replaced with a peripheral pixel, and the signal level of the target pixel is compared with the signal level of the peripheral pixel without specifying the coordinates of the defective pixel. In this case, there are two automatic pixel defect detection methods (see Patent Document 2) in which a pixel is determined to be defective and replaced with a pixel around the defective pixel.
[0005]
The defective pixel coordinate designation method can surely correct a pixel defect that has occurred up to the time of device manufacture, and is unlikely to cause side effects due to a correction error.
[0006]
However, when a large number of pixel defects occur, a non-volatile memory for storing coordinates corresponding to the number of defective pixels is required to cope with the defect. Need to be taken.
[0007]
The automatic pixel defect detection method does not require any special setting at the time of device manufacture, and can cope with a pixel defect occurring after device manufacture. Further, even if a large number of pixel defects occur, it can be dealt with.
[0008]
However, in this method, since the pixel level is detected by comparing the signal levels of the target pixel and its surrounding pixels, a determination error occurs depending on the state of the subject, and the pixel is determined to be a pixel defect even though it is not a pixel defect, On the other hand, although it is a pixel defect, it is not determined as a pixel defect, which causes deterioration in image quality.
[0009]
[Patent Document 1]
Japanese Patent Application Laid-Open No. 2001-177770 and drawings
[0010]
[Patent Document 2]
Japanese Patent Application Laid-Open No. 2002-223391 and drawings
[0011]
[Problems to be solved by the invention]
In general, when an automatic pixel defect detection method is used in a color solid-state imaging device, it is more effective to correct the pixel defect as early as possible in order to reduce the influence on others in the signal processing process.
[0012]
However, before the signal processing, the pixel data has not yet been separated for each color filter arranged in the solid-state imaging device, and the pixel data for each filter has a variation. A pixel defect cannot be determined by comparing signal levels.
[0013]
There is also a method of comparing the target pixel with pixel data of an adjacent same-color filter. However, the target pixel is separated from the target pixel by at least one pixel, and the possibility of occurrence of a determination error increases.
[0014]
In addition, if the state of the subject or the signal level of the pixel defect is low, it may not be determined that the pixel is defective.
[0015]
Further, in order to reduce the number of determination errors, it is necessary to determine a pixel defect based on the widest possible range of pixel data, but in this case, it is necessary to synchronize a plurality of horizontal lines, which requires a large number of line memories. This leads to an increase in equipment costs.
[0016]
Generally, when a signal from a solid-state image sensor is processed and converted into a video signal, a line memory for at least two horizontal lines is required for vertical edge processing and the like. Therefore, a method has been proposed in which a line memory required for video signal processing and a line memory for performing pixel defect determination are shared to reduce costs.
[0017]
When two line memories are used, pixel data for a total of three lines of current pixel data, pixel data for one horizontal line, pixel data for two horizontal lines, and pixel data for one horizontal line are aligned. Is determined as a target pixel.
[0018]
When a defective pixel enters the pixel data one horizontal line before, it is determined as a pixel defect and correction is performed. However, the problem is that the defective pixel is replaced with the current pixel data or the pixel data two horizontal lines before. If it does, it is not determined as a pixel defect.For example, when creating a vertical edge, the data of the defective pixel is used, and a false vertical edge that does not actually exist is included in the video signal, and the quality of the image is degraded I do.
[0019]
The present invention has been made to solve such a problem, and an object of the present invention is to provide a pixel defect processing apparatus that reduces a pixel error detection error even when a solid-state imaging device in which a color filter is arranged is used. That is.
[0020]
[Means for Solving the Problems]
According to an aspect of the present invention, there is provided an apparatus for processing a pixel defect by a solid-state imaging device in which a color filter is arranged, sequentially receiving a video signal from the solid-state imaging device, and synchronizing pixels in a predetermined range of an image according to the video signal. And a luminance signal generating unit that generates a luminance signal indicating a luminance component for a pixel adjacent to a target pixel for pixel defect detection in a predetermined range synchronized by the synchronizing unit, and a luminance signal generating unit that generates the luminance signal. A pixel defect detection unit that detects a pixel defect of the target pixel based on a level difference between luminance signals of the target pixel and adjacent pixels.
[0021]
According to the pixel defect processing apparatus, since the luminance signal indicating the luminance component generated by the luminance signal generating means is used for detecting the pixel defect, the solid-state imaging device in which the color filter is arranged is used to detect each pixel. Although there is a variation in the signal level of the pixel, the pixel defect can be accurately detected based on the level difference of the luminance signal.
[0022]
The above-mentioned luminance signal generating means preferably generates a luminance signal including a filter signal of each color.
[0023]
Preferably, the above-described pixel defect processing apparatus further includes a correction unit that corrects the detected pixel defect in the video signal when the pixel defect is detected by the pixel defect detection unit. Therefore, the detected pixel defect can be corrected.
[0024]
The above-mentioned synchronizing means preferably has means for sequentially inputting a video signal and synchronizing a plurality of horizontal lines, and the pixel defect detecting means is configured to detect a target pixel and each of pixels vertically and horizontally adjacent thereto. A pixel defect is detected based on the level difference between the luminance signals, and the pixels adjacent to the target pixel in each of the horizontal lines above and below the target pixel are targeted, and the luminance signals of the target pixel and the adjacent pixels are compared. A pixel defect is detected based on the level difference.
[0025]
Therefore, pixel defects can be detected and corrected for the target pixel for pixel defect detection and the pixels on the upper and lower horizontal lines.
[0026]
The video signal processed by the above-described pixel defect processing device is preferably output to a video signal processing unit prepared in advance. The video signal processing unit receives a video signal, performs at least processing based on the video signals of a plurality of horizontal lines, and outputs the processed video signal.
[0027]
Therefore, the processing based on the video signals of the plurality of horizontal lines in the video signal processing unit is performed after the pixel defect of the plurality of horizontal lines is corrected, so that the generation of noise (for example, a false vertical edge) due to the defective pixel is prevented. Can be suppressed.
[0028]
The above-mentioned synchronizing means preferably has a plurality of line memories, and the synchronizing of the plurality of horizontal lines is performed using the plurality of line memories. The processing based on the video signals of the plurality of horizontal lines in the video signal processing unit is preferably performed using a multi-line memory. Therefore, the multi-line memory can be shared for pixel defect detection and video signal processing.
[0029]
The above-mentioned luminance signal generating means preferably generates the luminance signal by adding the video signal level of the target pixel to the average value of the video signal levels of the adjacent pixels.
[0030]
Therefore, even if the pixel defect detection is performed with the peripheral pixel of the pixel defect as the target pixel, the luminance signal can be generated so as to reduce the influence of the pixel defect of the peripheral pixel. Therefore, erroneous detection of a pixel defect can be suppressed.
[0031]
The above-mentioned luminance signal generating means preferably generates a luminance signal by averaging the video signal levels of adjacent pixels.
[0032]
The above-described luminance signal generating means preferably amplifies the generated luminance signal. Therefore, even if the level of the created luminance signal is low, it can be increased to a level at which a pixel defect can be detected by amplification, and the pixel defect can be easily detected.
[0033]
The above-described luminance signal generating means preferably adds the high frequency component of the video signal of each of the target pixel and the adjacent pixel to the luminance signal generated for each of the target pixel and the adjacent pixel.
[0034]
Therefore, the high-frequency component of the created luminance signal is emphasized, so that the component of the pixel defect is emphasized, and the detection of the pixel defect becomes easy.
[0035]
The above-described luminance signal generation unit adds an offset signal to the luminance signal generated for each of the target pixel and the adjacent pixel.
[0036]
Therefore, since a noise component corresponding to the offset signal can be removed from the luminance signal, pixel defect detection based on the luminance signal can be accurately performed.
[0037]
The above-described pixel defect detection means preferably compares the level difference between the luminance signals of the target pixel and the adjacent pixels with a predetermined threshold value, and detects a pixel defect of the target pixel according to the comparison result.
[0038]
The above-mentioned threshold value is preferably changed according to the level of the video signal of the pixel around the target pixel. Since the threshold value for detecting a pixel defect is changed according to the video signal level of the peripheral pixel, the pixel defect can be detected in a state where the pixel defect is conspicuous.
[0039]
The above-mentioned threshold value is preferably increased when the level of the luminance signal of the adjacent pixel is high, and decreased when the level of the luminance signal of the adjacent pixel is low. It is decreased when the level of the luminance signal of the pixel is high, and is increased when the level is low.
[0040]
Therefore, when a defective pixel is detected, the threshold value for judging the defective pixel is changed according to the signal level of the peripheral pixel, so that the defective pixel is most conspicuous. In the case of (1), detection omission of a defective pixel can be prevented when the signal level of the peripheral pixel is high, and side effects due to erroneous determination of the defective pixel are reduced.
[0041]
The above-mentioned synchronizing means preferably has means for sequentially inputting video signals and performing synchronizing for five horizontal lines, and the pixel defect detecting means is configured to control the luminance of the target pixel and the brightness of each of the pixels adjacent vertically and horizontally. A pixel defect is detected based on a level difference between signals, and luminance signals of a pixel adjacent to the target pixel and a pixel adjacent to the target pixel on each of the horizontal lines above and below the target pixel are compared. Pixel defect is detected based on the level difference of.
[0042]
Therefore, by performing pixel defect detection for five horizontal lines simultaneously, noise in the vertical direction of the image is detected in advance, and pixel defects are corrected, so that, for example, a false vertical edge or the like occurs in video signal processing. Can be avoided. Accordingly, the same line memory can be used to perform synchronization and video signal processing for five horizontal lines for pixel defect detection.
[0043]
The above-mentioned synchronizing means preferably has means for sequentially inputting video signals and performing synchronizing for three horizontal lines, and the pixel defect detecting means is configured to control the luminance of the target pixel and the luminance of each of the vertically and horizontally adjacent pixels. A pixel defect is detected based on a level difference between signals, and a luminance signal of a target pixel and a luminance signal of a pixel adjacent to the target pixel and a pixel adjacent to the lower left and right are set for pixels adjacent to the target pixel on the horizontal line above the target pixel. A pixel defect is detected based on the level difference, and for a pixel adjacent to the target pixel on the horizontal line below the target pixel, the level difference between the luminance signal of the target pixel and each of the pixels adjacent to the upper and left and right sides is calculated. A pixel defect is detected based on this.
[0044]
Therefore, by simultaneously detecting pixel defects in three horizontal lines, noise in the vertical direction of the image is detected in advance, and by correcting the pixel defects, false vertical edges or the like are generated in the video signal processing. Can be avoided. Therefore, the same line memory can be used to perform synchronization for three horizontal lines for pixel defect detection and video signal processing.
[0045]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings. In each embodiment, a pixel defect detection and correction unit mounted on an image capturing apparatus that captures an image of a subject using a field-readout color solid-state imaging device in which complementary color filters are arranged will be described.
[0046]
(Embodiment 1)
FIG. 1 shows a configuration of a pixel defect detection / correction unit according to the first embodiment, and FIG. 2 shows a configuration of an imaging device equipped with the pixel defect detection / correction unit according to each embodiment. Referring to FIG. 2, the imaging apparatus receives a video signal output from a color solid-
[0047]
The pixel defect detection and
[0048]
The vertical
[0049]
The upper pixel defect detection unit 4 detects a pixel defect on the luminance signal created by the luminance
[0050]
Upon receiving the pixel defect information EH1 from the upper pixel defect detector 4, the upper
[0051]
Next, the operation of the pixel defect detection and
When a subject is photographed, a video signal from the color solid-
[0052]
Referring to FIG. 3, vertical
[0053]
First, writing to the line memory unit 10 will be described with reference to FIG. The video signal data H1 for one horizontal line input from the color solid-
[0054]
By adding the video signal data input from the color solid-
[0055]
In this embodiment, five line memories are used in order to synchronize video signals for five horizontal lines. However, a dual-port type line memory capable of performing writing and reading simultaneously, By performing reading and writing at double speed of the time, it is possible to synchronize five horizontal lines with four line memories.
[0056]
The horizontal
[0057]
As shown in FIG. 5, the horizontal
[0058]
The horizontal
[0059]
The luminance
[0060]
FIG. 8 shows a configuration of a color filter of a general complementary color type color image sensor. In FIG. 8, Cy is cyan, Ye is yellow, G is green, and Mg is magenta. FIG. 9 shows a state of a video signal output when performing field readout on an image sensor having a color filter having the configuration of FIG.
[0061]
In the complementary color type color image sensor, the filters of the four colors shown in FIG. 8 are arranged in a mosaic pattern, and when they are read out in the field, the signals of the upper and lower two filters are mixed as shown in FIG. Read as a video signal.
[0062]
In this state, it is possible to detect a pixel defect by examining the signal levels of the pixel for which a pixel defect is to be detected and its surrounding pixels, but the possibility of occurrence of a pixel defect detection error increases. This is because the light transmittances of the four color filters are different from each other, so that the absolute values of the signal levels of the video signals obtained by mixing the signals of the different filters in FIG. 9 are different.
[0063]
It is also possible to compare a pixel defect detection target pixel with a pixel in the vicinity thereof mixed with the same color filter. However, the pixel is separated from the pixel defect detection target pixel by at least one pixel width or more. Susceptible to the condition of For this reason, there is a possibility that a pixel defect is not determined as a pixel defect despite simple pixel comparison, or a pixel defect is determined even though the pixel defect is not a pixel defect. Therefore, in the present embodiment, a luminance signal indicating a luminance component is created and used.
[0064]
Generally, there are known a plurality of methods for generating a luminance signal indicating a luminance component from a signal as shown in FIG. 9, but a luminance signal is often generated from an average of pixel signals adjacent to the left and right. Signal Y indicating the luminance component to be created yx Is the video signal level L of the pixel yx Is given by (Equation 1).
[0065]
Y yx = (L yx + L y (x + 1) ) ÷ 2 ... (Equation 1)
Thus, the signal Y indicating the luminance component is obtained. yx Always include the signals of the four color filters of Cy, G, Ye, and Mg, and the absolute values of the signals become equal, so that accurate pixel defect detection becomes possible. However, in (Equation 1), if a pixel defect is present, the influence on the adjacent luminance signal is widened, so that it may be difficult to detect the pixel defect.
[0066]
Therefore, in the present embodiment, a signal indicating a luminance component (hereinafter, referred to as a luminance signal) is created by the following (Equation 2) to (Equation 4).
[0067]
Y yx = (L y (x-1) + L y (x + 1) ) ÷ 2 + L yx ... (Equation 2)
Y yx L = (L (Y-1) (x-1) + L (Y + 1) (x-1) ) ÷ 2 + L y (x-1) … (Equation 3)
Y yx R = (L (Y-1) (x + 1) + L (Y + 1) (x + 1) ) ÷ 2 + L y (x + 1) … (Equation 4)
Regarding these equations, the luminance signal Y is used for the signal determination in the vertical direction of the target pixel. yx And the luminance signal Y for the left signal determination. yx L signal, and the luminance signal Y yx R signals are used respectively. In any of the equations for calculating the luminance signal, the filter signals of four colors are equally included, and the absolute values are equal, so that accurate pixel defect detection is possible. Also, compared to (Equation 1), (Equation 2) shows that the signal level L of the pixel targeted for pixel defect detection is L yx Are added to the image to emphasize it, which makes it easier to detect a defective pixel. In the present embodiment, the processing using the luminance signal of (Equation 2) will be described, but the same processing can be performed even when the luminance signal of (Equation 1) is applied instead.
[0068]
Since the video signal corresponding to the pixel defect contains many high frequency components due to the pixel defect, a high frequency component extracted from the video signal corresponding to the created luminance signal of the pixel may be added. Thereby, the signal component due to the pixel defect is emphasized in the created luminance signal, so that the detection of the defective pixel based on the luminance signal becomes easy.
[0069]
In the present embodiment, the
[0070]
Each of the offset /
[0071]
By performing such an operation, when detecting a white point when a subject in which a pixel defect is most conspicuous is dark, a signal having a small signal level is truncated by adding a negative offset and applying a gain to detect a defective pixel. This has the effect of amplifying the signal level of the pixel signal to more reliably detect pixel defects. As the offset value and the gain value, values that are considered to be optimal depending on the noise generation state and usage state are set for each system.
[0072]
The luminance signal output from the offset /
[0073]
EY = Y- (YL + YR) (Equation 5)
YE = Y−G × (YL + YR) (Equation 6)
FIG. 10 shows a state in which an isolated point is emphasized according to (Equation 5). In FIG. 10, the luminance signal Y of the pixel defect detection target pixel, the luminance signal YL of the pixel one pixel left adjacent to the pixel defect detection target pixel, the luminance signal YR of the pixel one pixel right from the pixel defect detection target pixel, and the isolated signal The luminance signal YE after performing the point emphasis is shown. When the isolated point enhancement is performed, the pixel defect (pixel defect E1, pixel defect E2) becomes the emphasized pixel defect (pixel defect EE1, pixel defect EE2) as shown in FIG. 10, and the detection of the pixel defect becomes easy.
[0074]
Further, the isolated component may be emphasized by multiplying the emphasis component by the gain G according to (Equation 6). According to (Equation 6), the pixel defect is further emphasized and the detection of the pixel defect becomes easier. However, when the video signal contains much noise, the noise component is emphasized and is erroneously determined as a defective pixel. Maybe. Therefore, it is preferable to set the value of the gain G according to the state of the system.
[0075]
Among the luminance signals generated by the luminance
[0076]
In FIG. 11, an upper pixel defect detection unit 4 includes a white point
[0077]
When detecting a white point, the white
[0078]
The upper pixel defect detection unit 4 compares the level of the luminance signal of the pixel defect detection target pixel and the level of the luminance signal of the pixel adjacent in the vertical and horizontal directions, and determines that the luminance signal level of the pixel defect detection target pixel is that of the adjacent pixel. If it is more protruding and isolated, the target pixel is determined to be a defective pixel. Specifically, when white point detection is performed, it is determined that a pixel is defective if all of the conditions of (Expression 7) to (Expression 10) are satisfied.
[0079]
Y y -Y (Y-1) > K1 (Equation 7), Y y -Y (Y + 1) > K1 (Equation 8)
Y y -Y y L> K1 (Equation 9), Y y -Y y R> K1 (Equation 10)
(Equation 7) is an upward inspection of the pixel for pixel defect detection, (Equation 8) is an downward inspection, (Equation 9) is a leftward inspection, and (Equation 10) is a rightward inspection. Each has gone. When all of the conditions of (Equation 7) to (Equation 10) are satisfied, it means that the pixel defect detection target pixel has a higher signal level than the adjacent pixel, that is, is isolated, and the pixel defect detection target pixel is isolated. ) And pixel defect information EH1 is output.
[0080]
Similarly, when black point detection is performed, a pixel defect is determined if all of the conditions of (Equation 11) to (Equation 14) are satisfied.
[0081]
Y (Y-1) -Y y > K2 (Equation 11), Y (Y + 1) -Y y > K2 (Equation 12)
Y y LY y > K2 (Equation 13), Y y RY y > K2 (Equation 14)
(Equation 11) is an upward inspection of the pixel to be detected, (Equation 12) is an downward inspection, (Equation 13) is a leftward inspection, and (Equation 14) is a rightward inspection. Each has gone. The satisfaction of all of the conditions of (Equation 11) to (Equation 14) means that the pixel defect detection target pixel has a lower signal level than the adjacent pixel, that is, is isolated, and the pixel defect (black dot) ) And the pixel defect information EH1 is output.
[0082]
The thresholds K1 and K2 may be fixed values according to the state of the system, or may be variably set according to the signal levels of adjacent peripheral pixels in order to further prevent omission of pixel defect detection.
[0083]
For example, the average value of the luminance signal levels of the pixels in the vertical and horizontal directions of the pixel defect detection target pixel is calculated, and if the average value of the luminance signal levels is high, the threshold K1 is increased and the threshold K2 is decreased, and conversely, If the average value of the luminance signal levels is low, control is performed so that the threshold value K1 is reduced and the threshold value K2 is increased.
[0084]
By controlling the thresholds K1 and K2 in this way, even if the signal level of the peripheral pixel of the target pixel is high (low) and the target pixel is a white (black) point in the case of detecting a white (black) point, It is possible to easily detect a white (black) point and prevent image quality deterioration due to erroneous determination.
[0085]
Further, when the signal level of the peripheral pixel is low, the presence of a white point is noticeable, so that the threshold value K1 is reduced so as to be surely detected, thereby preventing the white point from being missed.
Similarly, in the case of black point detection, if the signal level of the peripheral pixel is low, the black point is present even if it is not detected, and the black point is not conspicuous even if it is not detected. Therefore, the threshold value K2 is increased to prevent image quality deterioration due to erroneous determination. In addition, when the signal level of the peripheral pixel is high, the presence of a black point is noticeable, so the threshold value K2 is set small so as to be surely detected, thereby preventing the black point from being missed.
[0086]
Further, in the present embodiment, the detection of pixel defects is performed simultaneously on the signals L1, L2 and L3 of three horizontal lines from the video signals of the signals L0 to L4 of the five horizontal lines. This is because performing processing using signals of a plurality of horizontal lines, such as vertical edge processing, after performing pixel defect correction on only the signal L2, causes a phenomenon that adversely affects image quality, such as false vertical edges. is there.
[0087]
Specifically, when the digital signal processing circuit 94A creates a luminance signal using the video signal of the signal L2, the vertical edge processing is generally performed using the video signals of the signals L1 and L3. This is because, if only the video signal of the signal L2 is corrected, the pixel defect of the luminance signal itself is corrected, but if the pixel defect exists in the horizontal line of the signal L1 or L3, the defective pixel is used for the vertical edge processing. This is because a false vertical edge that should not exist originally appears.
[0088]
In this embodiment, the upper, middle, and lower
[0089]
When a pixel defect is detected by the upper pixel defect detector 4, the middle
[0090]
FIG. 12 shows the configuration of the upper pixel
[0091]
In FIG. 12, the upper pixel
[0092]
The correction
[0093]
The correction signal created here is input to the
[0094]
The upper
[0095]
(Embodiment 2)
In the pixel defect detection and
[0096]
Referring to FIG. 13, pixel defect detection and
[0097]
The vertical
[0098]
The upper pixel
[0099]
The upper pixel
[0100]
Referring to FIG. 14, vertical
[0101]
FIG. 15 shows the relationship between the timing at which the data of the video signal input from the color solid-
[0102]
Referring to FIG. 15, data H1 of a video signal for one horizontal line input from color solid-
[0103]
Further, when the video signal data H4 is inputted next, the data is written into the
[0104]
By adding video signal data input from the color solid-
[0105]
In the second embodiment, three
[0106]
The video signal data for three horizontal lines synchronized by the vertical
[0107]
Referring to FIG. 16, a luminance
[0108]
In the second embodiment, a signal indicating a luminance component is created by the following three types of equations.
Y yx = (L y (x-1) + L y (x + 1) ) ÷ 2 + L yx … (Equation 15)
Y yx L = (L (Y-1) (x-2) + L (Y + 1) (x-1) ) ÷ 2 ... (Equation 16)
Y yx R = (L (Y-1) (x + 1) + L (Y + 1) (x + 2) ) ÷ 2 ... (Equation 17)
The signal Y is used to determine the signal in the vertical direction of the target pixel. yx And the signal Y yx L and the signal Y yx R is used for each. In any of the above equations, the filter signals of the four colors are equally included, and the absolute values are equal, so that accurate pixel defect detection is possible. Created signal Y yx L, signal Y yx R and signal Y yx Is hereinafter referred to as a luminance signal.
[0109]
As in the first embodiment, the created luminance signal is added with a negative offset by an offset /
[0110]
FIG. 17 shows the configuration of the upper
[0111]
Referring to FIG. 17, upper pixel
[0112]
Referring to FIG. 18, lower pixel
[0113]
In the first embodiment, based on the synchronized signals for five horizontal lines, the pixel defect is determined by comparing the signal levels of the pixel defect detection target pixel and its adjacent pixels in the vertical and horizontal directions. However, in the second embodiment, since only three horizontal lines are synchronized, the pixel defect detection of the horizontal line of the signal L0 is performed by the signals of the three pixels in the lower left and right directions adjacent to the pixel to be detected. For detecting a pixel defect in the horizontal line of the signal L2, the pixel defect is detected based on the signal levels of pixels in the three directions in the upper right and left directions adjacent to the pixel to be detected.
[0114]
As for the pixel defect detection of the horizontal line of the signal L1, the pixel defect is detected from the signal levels of the four pixels in the four directions (up, down, left, and right) adjacent to the pixel to be detected as in the first embodiment.
[0115]
Since the pixel defect detection of the horizontal line of the signal L0 and the signal L1 is performed only with the signal of the pixel in the three directions adjacent to the pixel defect detection target pixel, it is difficult to obtain high detection accuracy as compared with the first embodiment. . However, the cost can be reduced because the line memory is sufficient for three lines. Therefore, when configuring the system, one of the configurations of the first and second embodiments may be selected depending on whether image quality or cost is important.
[0116]
When the upper
[0117]
The embodiments disclosed this time are to be considered in all respects as illustrative and not restrictive. The scope of the present invention is defined by the terms of the claims, rather than the description above, and is intended to include any modifications within the scope and meaning equivalent to the terms of the claims.
[0118]
【The invention's effect】
According to the present invention, since a luminance signal indicating a luminance component generated by the luminance signal generating means is used for detecting a pixel defect, a pixel for each color filter is used by using a solid-state imaging device in which a color filter is arranged. Despite the variation in the signal level, the pixel defect can be accurately detected based on the level difference of the luminance signal.
[Brief description of the drawings]
FIG. 1 is a configuration diagram of a pixel defect detection and correction unit according to a first embodiment.
FIG. 2 is a configuration diagram of an imaging device applied to each embodiment.
FIG. 3 is a configuration diagram of a vertical
FIG. 4 is a diagram illustrating a relationship between timings at which signal data input from an image sensor is written to a line memory and signals L0 to L4 read out;
FIG. 5 is a configuration diagram of a part (for one horizontal line) of a horizontal
FIG. 6 is a diagram showing a range synchronized by a
FIG. 7 is a configuration diagram of a luminance
FIG. 8 is a configuration diagram of a color filter of a general complementary color type color imaging device.
FIG. 9 is a diagram showing a video signal output when field reading is performed.
FIG. 10 is a diagram illustrating an isolated point emphasis calculation.
FIG. 11 is a configuration diagram of an upper pixel defect detection unit 4;
FIG. 12 is a configuration diagram of an upper pixel
FIG. 13 is a configuration diagram of a pixel defect detection and correction unit according to the second embodiment.
14 is a configuration diagram of a vertical
FIG. 15 is a diagram illustrating a relationship between timings at which signal data input from an imaging element according to the second embodiment is written to a line memory and signals L0 to L2.
FIG. 16 is a configuration diagram of a luminance
FIG. 17 is a configuration diagram of an upper pixel
FIG. 18 is a configuration diagram of a lower pixel
[Explanation of symbols]
1,60 vertical line delay unit, 2,61 horizontal pixel delay unit, 3,62 luminance signal creation unit, 4,63 upper pixel defect detector, 5,64 middle pixel defect detector, 6,65 lower pixel defect detector , 7, 66 upper pixel defect corrector, 8, 67 middle pixel defect corrector, 9, 68 lower pixel defect corrector, 10, 70 line memory unit, 30 luminance calculator, 31, 81 offset / gain calculator, 32 , 82 Isolated point emphasis calculation section, 93A, 93B Pixel defect detection and correction section, K1, K2 threshold value.
Claims (11)
前記固体撮像素子から映像信号を逐次入力して、前記映像信号に従う画像の所定範囲の画素を同時化する同時化手段と、
前記同時化手段により同時化された前記所定範囲における画素欠陥検出の対象画素と隣接する画素とについて輝度成分を示す輝度信号を作成する輝度信号作成手段と、
前記輝度信号作成手段により作成された前記対象画素と前記隣接画素との前記輝度信号どうしのレベル差に基づいて、前記対象画素の画素欠陥を検出する画素欠陥検出手段とを備える、画素欠陥処理装置。An apparatus for processing a pixel defect by a solid-state imaging device in which a color filter is arranged,
A video signal is sequentially input from the solid-state imaging device, and a synchronization unit that synchronizes pixels in a predetermined range of an image according to the video signal,
A luminance signal generation unit that generates a luminance signal indicating a luminance component for a target pixel and an adjacent pixel in the pixel defect detection in the predetermined range synchronized by the synchronization unit;
A pixel defect detection unit configured to detect a pixel defect of the target pixel based on a level difference between the luminance signals of the target pixel and the adjacent pixels generated by the luminance signal generation unit. .
前記隣接画素の前記映像信号レベルの平均値に、前記対象画素の前記映像信号レベルを加算することにより、前記輝度信号を作成することを特徴とする、請求項1または2に記載の画素欠陥処理装置。The luminance signal creating means,
3. The pixel defect processing according to claim 1, wherein the luminance signal is created by adding the video signal level of the target pixel to an average value of the video signal levels of the adjacent pixels. 4. apparatus.
作成した前記輝度信号を増幅することを特徴とする、請求項1から3のいずれか1項に記載の画素欠陥処理装置。The luminance signal creating means,
The pixel defect processing apparatus according to any one of claims 1 to 3, wherein the created luminance signal is amplified.
前記対象画素と前記隣接画素それぞれの前記映像信号の高域周波数成分を、前記対象画素と前記隣接画素それぞれについて作成された前記輝度信号に加算することを特徴とする、請求項1から3のいずれか1項に記載の画素欠陥処理装置。The luminance signal creating means,
4. The method according to claim 1, wherein a high frequency component of the video signal of each of the target pixel and the adjacent pixel is added to the luminance signal created for each of the target pixel and the adjacent pixel. The pixel defect processing apparatus according to claim 1.
前記対象画素と前記隣接画素それぞれについて作成された前記輝度信号にオフセット信号を加算することを特徴とする、請求項1から5のいずれか1項に記載の画素欠陥処理装置。The luminance signal creating means,
The pixel defect processing apparatus according to any one of claims 1 to 5, wherein an offset signal is added to the luminance signal created for each of the target pixel and the adjacent pixel.
前記対象画素と前記隣接画素との前記輝度信号どうしのレベル差と所定の閾値とを比較して、比較結果に従い、前記対象画素の画素欠陥を検出することを特徴とする、請求項1から6のいずれか1項に記載の画素欠陥処理装置。The pixel defect detection means,
7. The method according to claim 1, wherein a level difference between the luminance signals of the target pixel and the adjacent pixels is compared with a predetermined threshold value, and a pixel defect of the target pixel is detected according to a comparison result. A pixel defect processing apparatus according to any one of the above.
前記画素欠陥検出手段は、
前記対象画素と上下左右に隣接する画素それぞれとの前記輝度信号どうしのレベル差に基づいて画素欠陥を検出し、
前記対象画素の上下の水平ラインそれぞれにおける前記対象画素に隣接する画素を対象として、対象とした画素と上下左右に隣接する画素それぞれとの前記輝度信号どうしのレベル差に基づいて画素欠陥を検出すること特徴とする、請求項1から9のいずれか1項に記載の画素欠陥処理装置。The synchronization means has means for sequentially inputting the video signal and performing synchronization for five horizontal lines,
The pixel defect detection means,
A pixel defect is detected based on a level difference between the luminance signals of the target pixel and each of pixels adjacent to the top, bottom, left, and right,
For a pixel adjacent to the target pixel in each of the horizontal lines above and below the target pixel, a pixel defect is detected based on a level difference between the luminance signals of the target pixel and each of the pixels adjacent to the upper, lower, left, and right sides. The pixel defect processing apparatus according to claim 1, wherein:
前記画素欠陥検出手段は、
前記対象画素と上下左右に隣接する画素それぞれとの前記輝度信号どうしのレベル差に基づいて画素欠陥を検出し、
前記対象画素の上の水平ラインの前記対象画素と隣接する画素を対象として、対象とした画素と下左右に隣接する画素それぞれとの前記輝度信号どうしのレベル差に基づいて画素欠陥を検出し、
前記対象画素の下の水平ラインの前記対象画素と隣接する画素を対象として、対象とした画素と上左右に隣接する画素それぞれとの前記輝度信号どうしのレベル差に基づいて画素欠陥を検出すること特徴とする、請求項1から9のいずれか1項に記載の画素欠陥処理装置。The synchronization means includes means for sequentially inputting the video signal and performing synchronization for three horizontal lines,
The pixel defect detection means,
A pixel defect is detected based on a level difference between the luminance signals of the target pixel and each of pixels adjacent to the top, bottom, left, and right,
For a pixel adjacent to the target pixel of the horizontal line above the target pixel, a pixel defect is detected based on a level difference between the luminance signals of the target pixel and pixels adjacent to the lower left and right,
For a pixel adjacent to the target pixel on the horizontal line below the target pixel as a target, detecting a pixel defect based on a level difference between the luminance signals of the target pixel and pixels adjacent to the upper and lower left and right, respectively. The pixel defect processing apparatus according to claim 1, wherein:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003084359A JP2004297267A (en) | 2003-03-26 | 2003-03-26 | Pixel defect processor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003084359A JP2004297267A (en) | 2003-03-26 | 2003-03-26 | Pixel defect processor |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004297267A true JP2004297267A (en) | 2004-10-21 |
Family
ID=33399547
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003084359A Withdrawn JP2004297267A (en) | 2003-03-26 | 2003-03-26 | Pixel defect processor |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004297267A (en) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005354278A (en) * | 2004-06-09 | 2005-12-22 | Seiko Epson Corp | Image data processing for processing image data of an image captured by an imaging means |
JP2006191454A (en) * | 2005-01-07 | 2006-07-20 | Sony Corp | Noise detection circuit, signal processing apparatus provided with the circuit, imaging apparatus provided with the apparatus, and noise elimination method |
KR100893306B1 (en) | 2005-12-20 | 2009-04-15 | 후지쯔 마이크로일렉트로닉스 가부시키가이샤 | Image processing circuit and image processing method |
US7777791B2 (en) | 2003-04-11 | 2010-08-17 | Mega Chips Corporation | Defective pixel correction device |
DE112011101066T5 (en) | 2010-03-26 | 2013-01-24 | Canon Kabushiki Kaisha | IMAGE PROCESSING DEVICE AND CONTROL PROCESS FOR IMAGE PROCESSING DEVICE |
JP2013106099A (en) * | 2011-11-10 | 2013-05-30 | Canon Inc | Semiconductor device and driving method of the same |
JP2016201117A (en) * | 2011-06-24 | 2016-12-01 | ソフトキネティック ソフトウェア | Improvement in quality of depth measurement |
CN114638815A (en) * | 2022-03-29 | 2022-06-17 | 深圳达四海科技有限公司 | Qualification testing method, device and computer equipment for LED lens group |
-
2003
- 2003-03-26 JP JP2003084359A patent/JP2004297267A/en not_active Withdrawn
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8023010B2 (en) | 2003-04-11 | 2011-09-20 | Mega Chips Corporation | Defective pixel correction device |
US7777791B2 (en) | 2003-04-11 | 2010-08-17 | Mega Chips Corporation | Defective pixel correction device |
US7812866B2 (en) | 2003-04-11 | 2010-10-12 | Mega Chips Corporation | Defective pixel correction device |
US7911514B2 (en) | 2003-04-11 | 2011-03-22 | Mega Chips Corporation | Defective pixel correction device |
JP2005354278A (en) * | 2004-06-09 | 2005-12-22 | Seiko Epson Corp | Image data processing for processing image data of an image captured by an imaging means |
JP2006191454A (en) * | 2005-01-07 | 2006-07-20 | Sony Corp | Noise detection circuit, signal processing apparatus provided with the circuit, imaging apparatus provided with the apparatus, and noise elimination method |
KR100893306B1 (en) | 2005-12-20 | 2009-04-15 | 후지쯔 마이크로일렉트로닉스 가부시키가이샤 | Image processing circuit and image processing method |
DE112011101066T5 (en) | 2010-03-26 | 2013-01-24 | Canon Kabushiki Kaisha | IMAGE PROCESSING DEVICE AND CONTROL PROCESS FOR IMAGE PROCESSING DEVICE |
US8922680B2 (en) | 2010-03-26 | 2014-12-30 | Canon Kabushiki Kaisha | Image processing apparatus and control method for image processing apparatus |
DE112011101066B4 (en) * | 2010-03-26 | 2020-02-06 | Canon Kabushiki Kaisha | IMAGE PROCESSING DEVICE AND CONTROL METHOD FOR AN IMAGE PROCESSING DEVICE |
JP2016201117A (en) * | 2011-06-24 | 2016-12-01 | ソフトキネティック ソフトウェア | Improvement in quality of depth measurement |
JP2013106099A (en) * | 2011-11-10 | 2013-05-30 | Canon Inc | Semiconductor device and driving method of the same |
CN114638815A (en) * | 2022-03-29 | 2022-06-17 | 深圳达四海科技有限公司 | Qualification testing method, device and computer equipment for LED lens group |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3984936B2 (en) | Imaging apparatus and imaging method | |
JP4388909B2 (en) | Pixel defect correction device | |
US8208046B2 (en) | Method of detecting defect in image pickup apparatus and the image pickup apparatus | |
US7164497B2 (en) | Color image processing apparatus | |
KR20010050876A (en) | Method for detecting a pixel defect and image processing device | |
US7812866B2 (en) | Defective pixel correction device | |
JP3544304B2 (en) | Pixel defect correction device and pixel defect correction method | |
JP2004297267A (en) | Pixel defect processor | |
JP2011114473A (en) | Pixel defect correction device | |
JP2010068329A (en) | Imaging apparatus | |
KR100831970B1 (en) | Defective pixel detection method and apparatus used therefor | |
JP4166974B2 (en) | Pixel scratch detection / correction device | |
JP2006211069A (en) | Defect detection apparatus and defect detection method, defect correction apparatus and defect correction method, and imaging apparatus | |
JPH077675A (en) | Pixel defect correction device | |
JP2002271806A (en) | Pixel defect signal correction circuit for CCD image sensor | |
JP2014158165A (en) | Image processing device, image processing method, and program | |
JP2010056817A (en) | Imaging apparatus | |
JP4130275B2 (en) | Video signal processing device | |
JP2006148748A (en) | Pixel defect correction apparatus and pixel defect correction method | |
JP7379217B2 (en) | Imaging system | |
JP2004350104A (en) | Signal processing apparatus and electronic camera | |
JP4397869B2 (en) | Smear correction method and smear correction circuit | |
JP4077956B2 (en) | Imaging apparatus and imaging method | |
JP2007158579A (en) | Imaging apparatus | |
JP2005278217A (en) | Pixel defect correction method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060606 |