以下、図面を参照して本発明の例示的かつ好適な実施形態について詳細に説明する。
〔第1の実施形態〕
図1は本発明の第1の実施形態に係る撮像装置の一例としてのデジタルカメラの構成例を示す図である。
第1レンズ群101は撮影光学系(結像光学系)の先端に配置され、光軸方向に移動可能に保持される。シャッタ102は、静止画撮影時の露光時間を制御するためのシャッタとしてだけでなく、開口径を調節することで撮影時の光量調節を行なう絞りとしても機能する。シャッタ102の背面(撮像素子側)に配置された第2レンズ群103は、シャッタ102と一体となって光軸方向に移動可能であり、第1レンズ群101とともにズーム機能を実現する。
第3レンズ群105はフォーカスレンズであり、光軸方向に移動可能である。光学ローパスフィルタ106は、撮像素子107の前方に配置され、撮影画像に発生する偽色やモアレを軽減する。撮像素子107は例えばCMOSイメージセンサとその周辺回路で構成される。本実施形態において、撮像素子107は、横方向にm個、縦方向にn個の受光素子が2次元配列され、その上に、ベイヤー配列の原色カラーモザイクフィルタがオンチップで形成された、2次元単板カラーイメージセンサである。カラーフィルタは受光素子に入射する透過光の波長を画素単位で制限する。
ズームアクチュエータ111は、ズーム駆動回路129の制御に従い、不図示のカム筒を回動して第1レンズ群101及び/又は第3レンズ群103を光軸方向に駆動する。シャッタアクチュエータ112は、シャッタ駆動回路128の制御に従い、所定の開口径で、かつ所定の開閉タイミングでシャッタ102を駆動する。
フォーカスアクチュエータ114は、フォーカス駆動回路126の制御に従い、第3レンズ群105を光軸方向に駆動する。
フラッシュ115は、好ましくはキセノン管を用いた閃光照明装置であるが、連続発光するLEDを備えた照明装置であってもよい。AF補助光出力部116は、所定の開口パターンのマスク像を被写界に投影し、暗所での撮影時や低コントラストの被写体に対する焦点検出を支援する。
CPU121は、デジタルカメラ全体の動作を制御し、図示しない演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有する。CPU121は、ROMに記憶されたプログラムを実行して、各種回路を制御し、AF、AE、画像処理、記録等、デジタルカメラの機能を実現する。
フラッシュ制御回路122は、撮影動作時にてフラッシュ115を点灯制御する。補助光制御回路123は、焦点検出動作時にAF補助光出力部116を点灯制御する。撮像素子駆動回路124は、撮像素子107の動作を制御するとともに、撮像素子107から読み出した画像信号をA/D変換してCPU121に出力する。画像処理回路125は、画像信号に対してγ変換、色補間、JPEG符号化などの画像処理を適用する。
フォーカス駆動回路126、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動し、第3レンズ群105を光軸方向に移動させて焦点調節を行なう。シャッタ駆動回路128は、シャッタアクチュエータ112を駆動してシャッタ102の開口径及び開閉タイミングを制御する。ズーム駆動回路129は、例えば操作スイッチ群132に含まれるズーム操作スイッチの押下によって撮影者から入力されるズーム操作に応じてズームアクチュエータ111を駆動する。
表示器131はLCD等であり、デジタルカメラの撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態の情報等を表示する。操作スイッチ群132は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等を含む。記録媒体133は例えば着脱可能な半導体メモリカードであり、撮影画像を記録する。
図2は本実施形態における撮像素子107の回路構成例を概略的に示す図である。
図2では、撮像素子107が有する多数の画素のうち、2列×4行の画素30−11〜30−42について示している。本実施形態においては、撮像素子107が、有効画素として横3000画素×縦2000画素(合計600万画素)を有し、画素ピッチが2μm、撮像画面サイズが横6mm×縦4mmであるものとする。
図2において、各画素は、MOSトランジスタゲートとゲート下の空乏層からなる光電変換部1と、フォトゲート2と、転送スイッチMOSトランジスタ3とを有している。また、リセット用MOSトランジスタ4と、ソースフォロワアンプMOSトランジスタ5と、水平選択スイッチMOSトランジスタ6とが、垂直方向の画素対ごとに設けられている。また、ソースフォロワの負荷CMOSトランジスタ7は、制御パルスΦLにより、垂直出力線をリセットする。暗出力転送MOSトランジスタ8、明出力転送MOSトランジスタ9、暗出力蓄積容量CTN10、明出力蓄積容量CTS11は、制御パルスΦTN及びΦTSに従って、暗電圧及び明電圧を蓄積する。
さらに、撮像素子107は、水平転送MOSトランジスタ12と、水平出力線リセットMOSトランジスタ13と、差動増幅器14と、水平走査回路15と、垂直走査回路16を有している。
図3は、垂直方向の2画素(例えば画素30−11及び30−21)の断面図と、周辺回路とを示す図である。
図3において、17はP型ウェル、18はゲート酸化膜、19はフォトゲート2の一層目ポリSi、20はフォトゲート2の二層目ポリSi、21はn+ フローティングディフュージョン部(FD)である。FD21は別の転送MOSトランジスタを介して別の光電変換部と接続される。図3の構成は、図2における2つの転送スイッチMOSトランジスタ3のドレインとFD21を共通化して微細化とFD21の容量低減による感度向上を図っているが、Al配線でFD21を接続しても良い。
次に、図4のタイミングチャートを用い、撮像素子107の動作を説明する。なお、図4は、全画素独立出力時のタイミングチャートである。
まず垂直走査回路16からのタイミング出力によって、制御パルスφLをハイとして負荷CMOSトランジスタ7を導通させ、垂直出力線をリセットする。また制御パルスφR0,φPG00,φPGe0をハイとし、リセット用MOSトランジスタ4をオンとし、フォトゲート2の一層目ポリSi19をハイとしておく。
時刻t0において、制御パルスφS0をハイとし、水平選択スイッチMOSトランジスタ6を導通させ、第1,第2ラインの画素部を選択する。次に、時刻(t0+T0)に制御パルスφR0をローとし、FD21のリセットを止めてフローティング状態とし、ソースフォロワアンプMOSトランジスタ5のゲート・ソース間をスルーとする。そして、時刻t1からT1の期間制御パルスφTNをハイとし、FD21の暗電圧をソースフォロワ動作で暗出力蓄積容量CTN10に出力させる。
次に、第1ラインの画素の光電変換出力を行うため、第1ラインの制御パルスφTX00をハイとして転送スイッチMOSトランジスタ3を導通した後、時刻t2からT2の期間において制御パルスφPG00をローとする。この時フォトゲート2の下に拡がっていたポテンシャル井戸を上げて、光発生キャリアをFD21に完全転送させるような電圧関係が好ましい。従って完全転送が可能であれば制御パルスφTXはパルスではなくある固定電位でもかまわない。
時刻t2から(t2+T2)の間に光電変換部1からの電荷がFD21に転送されることにより、FD21の電位が光量に応じて変化する。この時ソースフォロワアンプMOSトランジスタ5がフローティング状態であるので、時刻t3からT3の期間、制御パルスφTs をハイとしてFD21の電位を明出力蓄積容量CTS11に出力する。この時点で第1ラインの画素の暗出力と明出力はそれぞれ暗出力蓄積容量CTN10及び明出力蓄積容量CTS11に蓄積される。
時刻t4に制御パルスφHCを一時ハイとして水平出力線リセットMOSトランジスタ13を導通して水平出力線をリセットする。そして、水平転送期間において水平走査回路15の走査タイミング信号により暗出力蓄積容量CTN10と明出力蓄積容量CTS11から水平出力線に画素の暗出力と明出力が出力される。この時、差動増幅器14によって暗出力と明出力の差動出力VOUTを取れば、画素のランダムノイズ、固定パターンノイズを除去したS/Nの良い信号が得られる。
また画素30ー12、30ー22の光電荷は画素30ー11、30ー21の光電荷と同時に夫々の暗出力蓄積容量CTN10と明出力蓄積容量CTS11に蓄積される。この画素30ー12、30ー22の暗出力と明出力は、水平走査回路15からのタイミングパルスを1画素分遅らせて水平出力線に読み出し、差動増幅器14から出力する。
本実施形態では、差動出力VOUTを撮像素子107内で行う構成を示しているが、外部で従来のCDS(Correlated Double Sampling:相関二重サンプリング)回路を用いても同様の効果が得られる。
明出力蓄積容量CTS11に明出力を出力した後、制御パルスφR0をハイとしてリセット用MOSトランジスタ4を導通しFD21を電源VDDにリセットする。第1ラインの水平転送が終了した後、第2ラインの読み出しを行う。
第2ラインの読み出しは、制御パルスφTXe0,制御パルスφPGe0を同様に駆動させ、制御パルスφTN、φTSに夫々ハイパルスを供給して、暗出力蓄積容量CTN10と明出力蓄積容量CTS11に夫々光電荷を蓄積し、暗出力及び明出力を取り出す。以上の駆動により、第1,第2ラインの読み出しを夫々独立して行うことができる。
この後、垂直走査回路を走査させ、同様に第(2n+1),第(2n+2)(n=1,2,…)の読み出しを行えば全画素独立出力が行える。即ち、n=1の場合は、まず制御パルスφS1をハイとし、次に次にφR1をローとし、続いて制御パルスφTN、φTX01をハイとする。そして、制御パルスφPG01をロー、制御パルスφTSをハイ、制御パルスφHCを一時ハイとして画素30ー31,30ー32の画素信号を読み出す。続いて、制御パルスφTXe1,φPGe1及び上記と同様に制御パルスを印加して、画素30ー41,30ー42の画素信号を読み出す。
図5ないし図7は、撮像用画素と焦点検出用画素(AF画素)の構造を説明する図である。
本実施形態の撮像素子107は、2行×2列の4画素の対角2画素にG(緑色)の分光感度を有する画素を配置し、他の2画素にR(赤色)とB(青色)の分光感度を有する画素を各1個配置した、ベイヤー配列を採用している。また、ベイヤー配列の画素の一部として、後述する構造の焦点検出用画素が所定の規則に従って分散配置される。
図5に、本実施形態における撮像用画素の配置と構造の例を示す。
図5(a)は2行×2列の撮像用画素の平面図である。上述の通り、ベイヤー配列では対角方向に2つのG画素が、他の2画素にRとBの画素が配置される。そしてこのような2行×2列の配列が撮像素子107の全体にわたって繰り返される。
図5(b)は、図5(a)のA−A断面と、撮影光学系からの光路を示す図である。
MLは各画素の最前面に配置されたオンチップマイクロレンズ、CFRはR(Red)のカラーフィルタ、CFGはG(Green)のカラーフィルタである。PDは画素の光電変換部を模式的に示したもの、CLはCMOSイメージセンサ内の各種信号を伝達する信号線を形成するための配線層である。TLは撮影光学系を模式的に示したものである。
ここで、撮像用画素のオンチップマイクロレンズMLと光電変換部PDは、撮影光学系TLを通過した光束を可能な限り有効に取り込むように構成されている。換言すると、撮影撮像光学系TLの射出瞳EPと光電変換部PDは、マイクロレンズMLにより共役関係にあり、かつ光電変換部PDの有効面積は大面積に設計される。また、図5(b)ではR画素の入射光束について図示したが、G画素及びB(Blue)画素も同一の構造となっている。従って、撮像用のRGB各画素に対応した射出瞳EPは大径となり、被写体からの光束を効率よく取り込んで画像信号のS/Nを向上させている。
図6は、本実施形態において、撮影レンズの水平方向(横方向)に瞳分割を行なうための焦点検出用画素(AF画素)の配置と構造の例を示す。
図6(a)は、焦点検出用画素対を含む2行×2列の画素の平面図である。撮像信号を得る場合、G画素は輝度情報の主成分をなす。人間の画像認識特性は輝度情報に敏感であるため、G画素が欠損すると画質劣化が認められやすい。一方で緑色以外の色の画素、具体的にはR画素もしくはB画素は、色情報を取得する画素であるが、人間の画像認識特性は色情報に鈍感であるため、色情報を取得する画素は多少の欠損が生じても画質劣化に気づきにくい。そこで本実施形態においては、2行×2列の画素のうち、G画素は撮像用画素として残し、R画素とB画素の位置に焦点検出用画素対SHA及びSHBを配置している。
図6(b)は、図6(a)のA−A断面(すなわち、焦点検出用画素対の断面)と、撮影光学系からの光路を示す図である。
マイクロレンズMLと、光電変換部PDは図5(b)に示した撮像用画素と同一構造である。本実施形態においては、焦点検出用画素の信号は画像信号として利用しないため、色分離用カラーフィルタの代わりに無色透明なフィルタCFWが配置される。また、一対の画素で瞳分割を行なうため、配線層CLの開口部はマイクロレンズMLの中心線に対して一方向に偏倚している。すなわち、焦点検出用画素対を構成する第1のAF画素SHAと第2のAF画素SHBの開口は、互いに異なる方向に偏倚している。
具体的には、焦点検出用画素SHAの開口部OPHAは水平方向右側に偏倚しているため、撮影レンズTLの左側の射出瞳EPHAを通過した光束を受光する。同様に、焦点検出用画素SHBの開口部OPHBは水平方向左側に偏倚しているため、撮影レンズTLの右側の射出瞳EPHBを通過した光束を受光する。水平方向に規則的に配列した複数の焦点検出用画素画素SHAで取得した輝度波形をA像波形(第1の像波形)とする。また、水平方向に規則的に配列した複数の焦点検出用画素画素SHBで取得した輝度波形をB像波形(第2の像波形)とする。これらA像波形とB像波形の相対位置を検出することで、水平方向に輝度分布を有する被写体像のピントずれ量(デフォーカス量)が検出できる。
なお、焦点検出用画素対SHA及びSHBを用いることで、その配列方向に輝度分布を有する被写体、例えば縦線に対しては焦点検出可能だが、配列方向に直交する方向にのみ輝度分布を有する被写体である横線は焦点検出不能である。そこで本実施形態では、後者についても焦点検出できるよう、撮影レンズの垂直方向(縦方向)にも瞳分割を行なう焦点検出用画素も設けている。
図7は、本実施形態において、撮影レンズの垂直方向(縦方向)に瞳分割を行なうための焦点検出用画素の配置と構造の例を示す。
図7(a)は、焦点検出用画素を含む2行×2列の画素の平面図で、図6(a)と同様に、G画素は撮像用画素として残し、RとBの画素位置に焦点検出用画素対SVC及びSVDを配置している。
図7(b)は、図7(a)のA−A断面(すなわち、焦点検出用画素対の断面)と、撮影光学系からの光路を示す図である。
図6(b)との比較から分かるように、図7(b)の画素は瞳分離方向が縦方向になっていること以外、焦点検出用画素の構造は共通である。すなわち、焦点検出用画素SVCの開口部OPVCは垂直方向下側に偏倚しているため、撮影レンズTLの上側の射出瞳EPVCを通過した光束を受光する。同様に、焦点検出用画素SVDの開口部OPVDは垂直方向上側に偏倚しているため、撮影レンズTLの下側の射出瞳EPVDを通過した光束を受光する。
垂直方向に規則的に配列した複数の焦点検出用画素画素SVCで取得した被写体像をC像波形とする。また、垂直方向に規則的に配列した複数の焦点検出用画素画素SVDで取得した被写体像をD像波形とする。これらC像波形とD像波形の相対位置を検出することで、垂直方向に輝度分布を有する被写体像のピントずれ量(デフォーカス量)が検出できる。
以下、焦点検出用画素SHA又はSVCを第1のAF画素、焦点検出用画素SHB又はSVDを第2のAF画素と呼ぶことがある。
図8は、第1の実施形態における瞳分割を概念的に説明する図である。
図8において、OBJは被写体、IMGは被写体OBJの光学像である。
図5で説明したように、撮像用画素は撮影レンズの射出瞳全域EPを通過した光束を受光する。一方、焦点検出用画素は図6及び図7で説明したように、瞳分割機能を有している。具体的には、図6の画素SHAは撮像面からレンズ後端を見て左側の瞳を通過した光束、すなわち図8の瞳EPHAを通過した光束を受光する。同様に画素SHB,SVC及びSVDはそれぞれ瞳EPHB,EPVC及びEPVDを通過した光束を受光する。そして、焦点検出用画素SHA,SHB,SVC及びSVDが、撮像素子107の全体に渡って規則的に分布するように配置することで、撮像領域全域で焦点検出することが可能になる。
図9は、本実施形態のデジタルカメラにおいて、焦点検出時に取得した画像と焦点検出領域の例を模式的に説明する図である。
図9において、撮像素子107の撮像面に形成された被写体像には、中央に人物、左側に近景の樹木、右側に遠景の山並みが写っている。
本実施形態の撮像素子は、水平方向に輝度分布を有する被写体の焦点検出を行うための第1の焦点検出用画素対SHA及びSHBと、垂直方向に輝度分布を有する被写体の焦点検出を行うための第2の焦点検出用画素対SVC及びSVDを有する。第1の焦点検出用画素対及び第2の焦点検出用画素対は、均等な密度で撮像素子107の全体に分散して配置されている。
第1の焦点検出用画素対SHA及びSHBと、第2の焦点検出用画素対SVC及びSVDの配置方法の詳細については後述する。水平方向の位相差検出には、第1の焦点検出用画素対SHA及びSHBから得られる一対の画像信号を使用する。また、垂直方向の位相差検出には、第2の焦点検出用画素対SVC及びSVDから得られる一対の画像信号を使用する。そのため、本明細書において、第1の焦点検出用画素対を水平方向の位相差検出用画素対、第2の焦点検出用画素対を垂直方向の位相差検出用画素対とも呼ぶ。よって、第1及び第2の焦点検出用画素対を含む領域を設定することにより、撮像領域の任意位置において水平方向及び垂直方向の位相差検出のための焦点検出領域が設定可能である。
図9に示す例では、画面中央に人物の顔が存在している。例えば画像処理回路125において撮像画像に対して公知の顔認識技術を適用し、顔の存在が検出された場合には、顔領域を中心に焦点検出領域を設定することができる。
具体的には、図9に示すように、顔領域を中心として、水平方向の位相差検出のための焦点検出領域AFARh(x1, y1)と、垂直方向の位相差検出のための焦点検出領域AFARv(x3, y3)を設定することができる。なお、添え字のhは水平方向を表わし、(x1, y1)及び(x3, y3)は焦点検出領域の左上隅の画素座標値を表わす。また、ここで焦点検出領域AFARh(x1, y1)には第1の焦点検出用画素対SHA及びSHBが30対、焦点検出領域AFARv(x3, y3)には第2の焦点検出用画素対SVC及びSVDが30対含まれているものとする。
そして、焦点検出領域AFARh(x1, y1)に含まれる30個の第1のAF画素SHAで得られた画像信号を水平方向に連結した位相差検出用のA像波形をAFSIGh(A1)とする。また、同様にして30個の第2のAF画素SHBで得られた画像信号を水平方向に連結した位相差検出用のB像波形がAFSIGh(B1)とする。
そして、A像波形AFSIGh(A1)とB像波形AFSIGh(B1)の水平方向の位相差を公知の相関演算によって計算することで、水平方向における焦点ずれ量(デフォーカス量)を求めることができる。
焦点検出領域AFARv(x3, y3)についても同様にして、30個の焦点検出用画素SVCとSVDから得たC像波形AFSIGv(C3)とD像波形AFSIGv(D3)を求め、さらに垂直方向における焦点ずれ量を求める。
そして、2つの焦点検出領域AFARh(x1, y1)及びAFARv(x3, y3)で検出した2つの焦点ずれ量を比較し、信頼性の高い値を採用すればよい。
一方、画面左側の樹木の幹部は、縦線成分が主体、すなわち水平方向に輝度分布を有しているため、水平方向の位相差検出に適した被写体と判断し、水平方向の位相差検出のための焦点検出領域AFARh(x2, y2)を設定する。また、画面右側の山並みの稜線部は、横線成分が主体、すなわち縦方向の輝度分布が主体であるため、垂直方向の位相差検出のための焦点検出領域AFARv(x4, y4)を設定する。
このように、本実施形態においては、水平方向及び垂直方向の位相差検出のための焦点検出領域を画面(撮像素子)の任意領域に設定可能なため、被写体の画面内位置や輝度分布の方向性が様々であっても、適切な焦点検出を行うことができる。
図10は、本実施形態における焦点検出用画素対の配列規則の例を説明するための図である。図10では、説明及び理解を容易にするため、第1の焦点検出用画素対SHA及びSHBの配置のみを示している。
撮像用画素を、所定の大きさの正方形領域を1ブロックとしてグループ化し、各正方形領域内に、第1の焦点検出用画素対SHA及びSHBを一対ずつ配置していく。正方形領域の一辺の長さをBLK(単位:pixel)とすると、1ブロックはBLK [pixel]×BLK [pixel]の画素を含む正方形領域となる。第1の実施形態では、BLK=8 [pixel]とし、一辺の長さが8 [pixel]の正方形領域をブロックとする。
図10において、各ブロックの左下角の画素のアドレスを(0,0)とし、水平方向右に1画素移動するたびにアドレスの第2項を1増やし、垂直方向上に1画素移動するたびにアドレスの第1項を1増やすアドレスを定義する。この定義に従うと、本実施形態では、第1のAF画素SHAを各ブロックの画素(1,0)に、第2のAF画素SHBを画素(0,1)にそれぞれ配置する。
従来技術の課題として説明したように、第1のAF画素SHAと第2のAF画素SHBは異なる位置に配置されるため、受光する像波形にはずれが生じる。このずれの量は、1つの焦点検出用画素対を構成する第1のAF画素SHAと第2のAF画素SHBとの距離に比例するため、焦点検出用画素対のピッチよりも短い距離を持つように近接させて配置することが望ましい。そこで、第1の実施形態では、第1のAF画素SHA及び第2のAF画素SHBの距離が最も短くなるよう、隣接配置する。なお、後述するように、第2の焦点検出用画素対を構成する第1のAF画素SVC及び第2のAF画素SVDについても同様の理由から隣接配置する。
ここで、水平方向の位相差を検出する第1の焦点検出用画素対SHA,SHBは、図6を参照して説明した通り、撮影レンズTLの射出瞳EPを水平方向に分割した領域瞳EPHA,EPHBを透過した光束だけを受光する。
そのため、第1の焦点検出用画素対SHA及びSHBをそのまま撮像用画素としても使用すると、画質に悪影響を及ぼす恐れがある。従って、焦点検出用画素の画像情報を生成するには、周辺の撮像用画素で得られた画像信号から補間するなどの対策が必要になる。
上述のように、G画素の出力は、輝度情報に寄与する割合が大きいため、B画素やR画素の出力に比べて画質に与える影響が大きい。
従って、本実施形態においては、第1のAF画素SHA及び第2のAF画素SHBを隣接させながら、画質に与える影響を抑制するため、対角方向に隣接するR画素とB画素の位置に、第1のAF画素SHA及び第2のAF画素SHBを配置する。なお、後述するように、第2の焦点検出用画素対を構成する第1のAF画素SVC及び第2のAF画素SVDについても同様の理由から、対角方向に隣接するR画素やB画素の位置に配置する。
水平方向に隣接するブロックでは、同じアドレスに第1のAF画素SHA及び第2のAF画素SHBを配置する。これにより、第1のAF画素SHAと第2のAF画素SHBのそれぞれは、水平方向にBLK [pixel]のピッチで分布する。そして、ピッチ BLK [pixel]で分布した複数の焦点検出用画素SHAから得られる信号を水平方向に連結して、水平方向の位相差を演算するための一方の像信号(A像波形)とする。また、A像波形の生成に用いた複数の第1のAF画素SHAと焦点検出用画素対を形成する複数の第2のAF画素SHBから得られる信号を水平方向に連結して、水平方向の位相差を演算するための他方の像信号(B像波形)とする。
図8を参照して説明したように、A像波形とB像波形は、撮影レンズTLの射出瞳EPの異なる領域瞳EPHA,EPHBを透過した光束によって形成されている。そのため、撮影レンズの焦点状態に応じて、A像波形とB像波形の位相差が変わる。そこで、この位相差を算出し、撮影レンズの焦点状態を検出するのが、本実施形態における焦点検出の原理である。
図11及び図12を参照して、第1の焦点検出用画素対SHA,SHBが、異なる画素で構成されることにより生じるA像波形とB像波形のずれについて説明する。
図11に、アドレス(1,0)に焦点検出用の第1のAF画素SHAを、アドレス(0,1)に焦点検出用の第2のAF画素SHBを配置したブロックが、水平方向にブロック1からブロック5まで、5個並んでいる状態を示す。
今、幅が2*BLK [pixel]の白い縦線部203を挟んで黒地部202が存在する模様を有する被写体201が、ピントの合った状態で撮像素子107の撮像面上に結像している場合を考える。ピントが合っているので、第1のAF画素SHAと第2のAF画素SHBから得られるA像波形とB像波形との位相差は無く、同一となるべきである。
図11において、(1)は、白い縦線部203が、ブロック2の左端からブロック3の右端にかけて位置している場合を示している。この場合、各ブロックの第1のAF画素SHA(a1)〜SHA(a5)に着目した場合、ブロック1では黒、ブロック2では白、ブロック3では白、ブロック4では黒、ブロック5では黒となる。同様に、第2のAF画素SHB(b1)〜SHB(b5)に着目した場合にも、ブロック1では黒、ブロック2では白、ブロック3では白、ブロック4では黒、ブロック5では黒となる。
図12の(1)に、図11の(1)の状態で得られるA像波形とB像波形を示す。
図12において、ブロック1〜5における第1のAF画素SHA(a1)〜SHA(a5)から得られる信号がa1〜a5である。同様に、ブロック1〜5の第2のAF画素SHB(b1)〜SHB(b5)から得られる信号がb1〜b5である。図12の(1)に示すように、図11の(1)の状態で得られるA像波形とB像波形は一致し、焦点状態も合焦と正しく判定される。
次に、図11の(2)は、(1)と同じ模様が、1画素分右に移動した状態を示している。すなわち、白い縦線部203が、ブロック2の焦点検出用画素対SHAとSHBの境界線から、ブロック3の焦点検出用画素対SHAとSHBの境界線にかけて位置している場合を示している。
この場合、第1のAF画素SHAに着目した場合、ブロック1では黒、ブロック2では黒、ブロック3では白、ブロック4では白、ブロック5では黒となる。一方、第2のAF画素SHBに着目した場合には、ブロック1では黒、ブロック2では白、ブロック3では白、ブロック4では黒、ブロック5では黒となる。つまりブロック2とブロック4において、第1及び第2のAF画素SHAとSHBとで、異なる模様を見ていることになってしまう。
図12の(2)に、図11の(2)の状態で得られるA像波形とB像波形を示す。この状態では、A像波形とB像波形は1ピッチ分の位相差を有してしまう。従って、実際にはピントが合った状態であるにも関わらず、A像波形とB像波形が位相差を有するので、ピントが合っていないという判定がなされてしまう。つまり、焦点状態が正しく判定されない。
次に、(1)と同じ模様がさらに右へ1画素分移動した状態を示すて図11の(3)では、ブロック2の焦点検出用画素SHA,SHBが共に黒、ブロック4の焦点検出用画素SHA,SHBが共に白となる。これにより、得られるA像波形及びB像波形も、図12の(3)に示すように一致する。
以降、(1)に対して模様が8画素右に移動した状態を示す図11の(9)及び図12の(9)まで、どのブロックにおいても第1及び第2のAF画素SHAとSHBとが模様の同じ色に対応するので、A像波形及びB像波形は一致する。
第1の実施形態では、一対で用いられる焦点検出用画素SHAとSHBとを隣接させて配置し、可能な限り両者の距離を短くしている。このような配置により、合焦状態であるにもかかわらずA像波形とB像波形とが異なってしまうのは、図11の(2)に示すような、被写体像のエッジが第1及び第2のAF画素SHAとSHBの境界に位置する場合だけになる。
図11の例では、第1の焦点検出用画素対を構成する第1及び第2のAF画素SHA及びSHBを隣接配置し、かつ第1の焦点検出用画素対の水平方向のピッチを8 [pixel]としている。従って、被写体像のエッジが第1及び第2のAF画素SHAとSHBの境界に位置する確率は、ほぼ1/8と考えられる。
一方、上述の特許文献3に開示されているように、異種の焦点検出用画素(SHA,SHBに相当)が、同種の焦点検出画素(例えばSHA)のピッチの半分のピッチで配置されているとする。この場合、同じブロック内の焦点検出用画素SHA,SHBが異なる模様のところを見てしまう確率は、ほぼ1/2と非常に高くなる。
図11及び図12の例では理解及び説明を容易にするため、単純な被写体像を例示したが、一般的な被写体像はエッジを多数有する場合が多い。そのため、第1及び第2のAF画素SHAとSHBが同じ模様のところを見ているブロックと、異なる模様のところを見ているブロックが混在し、これらの割合で検出誤差の大きさが決まる。本実施形態では、焦点検出用画素対を構成する第1及び第2のAF画素SHA及びSHBを隣接させて配置し、それらが異なる模様のところを見てしまう可能性を抑制し、焦点検出誤差を軽減している。
次に、本実施形態における、水平方向の位相差検出用である第1の焦点検出用画素対の垂直方向における配置方法について説明する。
図13は、本実施形態における第1の焦点検出用画素対SHA,SHBの配置例を、縦4ブロック、横4ブロックの16ブロックについて示す図である。
また、図14は、図13に示すように配置した焦点検出用画素対に対し、図11と同様に模様をずらしながら適用した場合に得られるA像波形及びB像波形を示す。
ここでは、一番上のブロック行に配置された第1の焦点検出用画素対SHA,SHBの集合を水平第1ライン、2番目のブロック行の第1の焦点検出用画素対SHA,SHBの集合を水平第2ラインとし、以降同様に、水平第3ライン、水平第4ラインとよぶ。
水平第1ラインでは、各ブロックにおいて、第1の焦点検出用画素対のうち、第1のAF画素SHAをアドレス(1,0)に、第2のAF画素SHBをアドレス(0,1)に配置する。そのため、図11の(2)で説明したように、被写体像のエッジが焦点検出用画素SHAとSHBの境界に位置する場合、図14の水平第1ライン(2)に示すように、A像波形に対してB像波形が左側にずれる。
一方、本実施形態において、水平第2ラインでは、ブロック内における第1及び第2のAF画素の配置を、水平第1ライン及び水平第3ラインでの配置と逆転させる。すなわち、第1のAF画素SHAをアドレス(0,1)に、第2のAF画素SHBをアドレス(1,0)に入れ替えて配置する。
より一般的に述べれば、焦点検出用画素対を構成する第1及び第2のAF画素の水平方向における位置が等しく、瞳分割方向(位相差検出の方向)と直交する方向に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。
これにより、被写体像のエッジが焦点検出用画素SHAとSHBの境界に位置する場合、図14の水平第2ライン(2)に示すように、A像波形に対して右側にずれたB像波形が得られる。
水平第1ラインと水平第2ラインにおいて、焦点検出用画素SHAとSHBの水平方向における位置は等しい。従って、被写体のエッジ位置が水平第1ライン及び水平第2ラインとで同一であれば、A像波形とB像波形の位相ずれは、水平第1ライン及び水平第2ラインで同時に発生する。しかも、そのずれ量は等しく、方向が逆向きとなる。
そこで本実施形態では、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対から得られる2組の像波形を平均した像波形を用いて位相差検出する。これにより、焦点検出誤差を打ち消し合うことができる。なお、平均した像波形を用いて位相差検出する代わりに、隣接する2つのラインの各々で得られた位相差検出結果を平均しても同様の効果が得られ、どちらの構成を採用してもよい。本明細書では、説明を簡単にするため、これら2つの等価構成の一方のみを記載することがあるが、記載されていない構成を取りうることは自明である。
以後、水平第3ライン、水平第5ライン、・・・では、水平第1ラインと同様に、また水平第4ライン、水平第6ライン、・・・では、水平第2ラインと同様に、第1及び第2のAF画素SHA,SHBを配置する。
すなわち、水平第3ラインでは、水平方向に輝度分布を有する被写体像のピントずれ量(デフォーカス量)を検出するための第1の焦点検出用画素対のうち、SHAを(1,0)にSHBを(0,1)に配置する。一方、水平第4ラインでは、画素SHAと画素SHBの配置を入れ替え、画素SHAを(1,0)に配置し、画素SHBを(0,1)に配置する。そして水平第3ラインと水平第4ラインの検出結果を平均することで、焦点検出誤差を打ち消し合うようにしている。
そして、本実施形態の撮像装置では、最終的に水平第1〜第4ラインの検出結果を平均する。これにより、A像用画素(第1のAF画素)とB像用画素(第2のAF画素)を異なる画素で構成することにより発生する焦点検出誤差を、軽減することができる。
また、本実施形態の撮像装置は、水平第1〜第4ラインの像信号を加算して一つの像信号を生成し、その加算像波形を用いた焦点検出結果も算出する。加算像波形を求める複数ラインの数に制限はないが、焦点検出用画素の配置が等しいラインが同数ずつ含まれることが好ましい。
図14に示すように、水平第1〜第4ラインから得られたA像信号a1〜a5とB像信号b1〜b5を、それぞれ画素単位で出力を加算する。図14の画素加算後という列が、加算後の像信号である。すると、得られるA像波形a1〜a5とB像波形b1〜b5は、図14の「画素加算後」(2)に示す通り、被写体像のエッジが焦点検出用画素SHAとSHBの境界に位置する場合でも、A像波形とB像波形の位相ずれは生じない。
このように、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対ラインの、位相差検出の方向における位置が等しい焦点検出用画素の出力を加算することでも、焦点検出用画素対を異なる画素で構成することによる焦点検出誤差を軽減可能である。
このように、本実施形態の撮像装置では、隣接するラインの位相差検出結果を平均した結果と、隣接するラインの加算像波形による位相差検出結果の、二種類の位相差検出結果が得られることになる。
焦点検出しようとする被写体が低輝度被写体であった場合には、水平第1ライン〜水平第4ラインから得られる像信号の出力レベルは非常に小さくなる。そのため、ノイズと被写体のコントラストパターンとを識別しにくくなり、A像波形とB像波形の位相差検出が困難となる。
従って、低輝度被写体に対しては、隣接するラインで検出された同種の像信号を加算し、ノイズの影響を軽減した加算像波形を用いて位相差検出することが有効である。一方、加算像波形による位相差検出は、位相差検出方向と垂直な方向のコントラストパターンの影響を受けやすいという特性を有する。
図23〜25を用いて、加算像波形による位相差検出の特性について説明する。
図23は、水平方向の位相差検出を行うための第1の焦点検出用画素対SHA,SHBが図13に示したように配置されている場合に、図11に示した被写体の白い縦線部203が垂直方向にコントラストパターンを有する場合を示している。
すなわち、図23においては、黒地部202に、幅が2*BLK [pixel]の白い縦線部(白部)203と、グレーの縦線部(グレー部)204の模様を有した被写体201が、ピントが合った状態で撮像面上に結像しているものとする。そして、水平第1ライン〜第3ラインまではグレー部204に対応しており、水平第4ラインは白部203が対応しているものとする。また、黒地部202と、白部203及びグレー部204との左側の境界はブロック2の第1の焦点検出用画素対SHAとSHBの境界部に、右側の境界はブロック4の第1の焦点検出用画素対SHAとSHBの境界部に位置しているものとする。
図24は、図23のような模様の被写体像から第1の焦点検出用画素対SHA,SHBで得られるAB像波形を示す図である。
図23において、水平第1ラインおよび第3ラインでは、
第1のAF画素SHA 第2のAF画素SHB
ブロック1 黒 黒
ブロック2 黒 グレー
ブロック3 グレー グレー
ブロック4 グレー 黒
ブロック5 黒 黒
となる。
また、水平第2ラインでは、
第1のAF画素SHA 第2のAF画素SHB
ブロック1 黒 黒
ブロック2 グレー 黒
ブロック3 グレー グレー
ブロック4 黒 グレー
ブロック5 黒 黒
となる。
また、水平第4ラインでは、
第1のAF画素SHA 第2のAF画素SHB
ブロック1 黒 黒
ブロック2 白 黒
ブロック3 白 白
ブロック4 黒 白
ブロック5 黒 黒
となる。
図24(1)に示すように、水平第1ラインでは、A像とB像は1ピッチ分だけずれた波形となる。
図24(2)に示すように、水平第2ラインでは、A像とB像は、水平第1ラインと逆方向に1ピッチ分だけずれた波形となる。
図24(3)に示すように、水平第3ラインでは、A像とB像は、水平第1ラインと同じ方向に1ピッチ分だけずれた波形となる。
また、水平第4ラインでは、図24(4)に示すようなA像波形およびB像波形が得られる。
図25は、図24で示した水平第1〜第4ラインのA像波形とB像波形をそれぞれ加算して得られる加算像波形を示す。
グレー部204よりも白部203の方が高輝度であるため、白部203に対応する水平第4ラインで得られる像信号の出力が、グレー部204に対応する他のラインの像信号の出力に比べて大きくなる。その結果、加算像波形における水平第4ラインの像信号の影響が相対的に大きくなり、A像波形の重心がa1側に、B像波形の重心がb5側に偏ったようになる。このような加算像波形に基づいて位相差検出すると、A像に対してB像が左側にずれているという誤検出が生じる。
このように、加算像波形を用いた位相差検出は、低輝度被写体等、像波形の信号レベルが小さい被写体に対する位相差検出結果におけるノイズの影響を軽減できるという長所を有する。その一方で、加算像波形を用いた位相差検出は、位相差検出方向と垂直な方向にコントラストパターンを有する被写体に対して、位相差を誤検出してしまうという短所を有する。
そこで本実施形態の撮像装置では、隣接する2ラインで得られた位相差検出結果の平均と、隣接ラインの像信号を加算して得られる像信号(加算像波形)を用いた位相差検出結果の両方を求め、適切な結果を選択して使用する。これにより、焦点検出用画素対を異なる画素で構成することにより発生する焦点検出誤差を軽減することができる。
なお、位相差検出結果の選択方法としては、被写体が低輝度被写体であれば加算像波形による位相差検出結果を用い、低輝度被写体でなければ隣接する2ラインで得られた位相差検出結果の平均を用いることができる。被写体が低輝度被写体か否かは、例えば像信号の出力レベルに基づいて判定することができる。選択動作(相関演算)の詳細については図26に示すフローチャートを用いて後述する。
図13では説明を分かりやすくするため、4ブロック×4ブロックの領域だけ抜き出して描いた。図13に示す配置規則を撮像素子107の全領域について適用することで、焦点検出用画素対を異なる画素で構成することによる焦点検出誤差を、撮像領域の任意の場所において軽減可能である。
以上、本実施形態における水平方向の位相差検出用画素対(第1の焦点検出用画素対)SHA,SHBの配置について説明した。
次に、図15を用いて、水平方向の位相差検出用画素対SHA,SHBに加え、垂直方向の位相差検出用画素対SVC,SVDを配置する際の規則について説明する。
上述の通り、各焦点検出用画素SHA,SHB,SVC,SVDは、撮影レンズTLの射出瞳EPのうち、左右上下の領域瞳EPHA,EPHB,EPVC,EPVDを透過した光束だけを受光する。従って、焦点検出用画素をそのまま撮影用画素としても利用すると、画質に悪影響を与えてしまう。そのため、焦点検出用画素における画像情報は、その周囲の撮影用画素からの出力を用いて補間して生成するといった処理が必要となる。
焦点検出用画素SHA,SHB,SVC,SVDの分布が不均一な場合、補間生成される画素が一部の領域に多く含まれたり、補間に用いる情報量が不足したりする場合が生じ、画質に悪影響を与える可能性がある。そこで、垂直方向の位相差を検出するための第2の焦点検出用画素対SVC,SVDは、垂直方向、水平方向とも、隣接する2つの水平方向の位相差検出用画素対SHA,SHBの中間に位置するように配置する。
本実施形態では、水平方向の位相差検出用画素対SHA,SHBが水平方向にも垂直方向にも等しいピッチ(8 [pixel])で正方配置されている。この場合、垂直方向の位相差検出用画素対SVC,SVDは、水平方向、垂直方向とも半ピッチずれて正方配置され、全体として千鳥配置となる。
図15に示すように、第1の焦点検出用画素対の第1及び第2のAF画素SHA及びSHBを各ブロックのアドレス(1,0)、(0,1)に配置したとする。この場合、第2の焦点検出用画素対の第1及び第2のAF画素SVC,SVDは各ブロックのアドレス(5,4)、(4,5)に配置する。これにより、焦点検出用画素が偏在することによる画質劣化を軽減することが可能である。
なお、水平方向の位相差検出用画素対SHA,SHBは、被写体像のエッジが画素対の境界に位置した場合の像信号のずれを相殺するため、水平ライン毎に第1及び第2のAF画素の位置を入れ替えて配置していた。これと同様の理由により、垂直方向の位相差検出用画素対SVC,SVDでは、垂直ラインごとに第1及び第2のAF画素の位置を入れ替えて配置する。
つまり、第1の焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向(水平方向)における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。また、第2の焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向(垂直方向)における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。
図15において、垂直第1ラインでは、各ブロックにおいて、第2の焦点検出用画素対における第1のAF画素SVCを(5,4)に配置し、第2のAF画素SVDを(4,5)に配置する。そのため、図11、図12を用いて水平方向の位相差検出用画素SHA,SHBについて説明したように、被写体像のエッジが画素SVCとSVDの境界に位置する場合には、C像波形に対してD像波形が上側にずれることになる。
一方、垂直第2ラインでは、各ブロックにおいて、第2の焦点検出用画素対における第1のAF画素SVCを(4,5)に配置し、第2のAF画素SVDを(5,4)に配置する。第1のAF画素SVCと第2のAF画素SVDの配置が入れ替わっているので、被写体像のエッジが画素SVCとSVDの境界に位置する場合には、C像波形に対してD像波形が下側にずれることになる。
垂直第1ラインと垂直第2ラインにおいて、焦点検出用画素SVCとSVDの垂直方向における位置は等しい。従って、被写体のエッジ位置が垂直第1ライン及び垂直第2ラインとで同一であれば、C像波形とD像波形の位相ずれは、垂直第1ライン及び垂直第2ラインで同時に発生する。しかも、そのずれ量は等しく、方向が逆向きとなる。これは、図14を用いて水平方向の位相差検出用画素対SHA,SHBについて説明したのと同じ原理である。
上述の通り、本実施形態では、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対から得られる2組の像波形を平均した像波形の位相差を検出する。または、隣接する2ラインの各々で得られた位相差検出結果を平均して用いる。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
以後、垂直第3ライン、垂直第5ライン、・・・では、垂直第1ラインと同様に、また垂直第4ライン、垂直第6ライン、・・・では、垂直第2ラインと同様に、第1及び第2のAF画素SVC,SVDを配置する。
なお、C像波形及びD像波形についても、A像波形及びB像波形と同様に平均して位相差検出してもよい。また、隣接する2つの垂直ラインで得られた位相差検出結果を平均してもよい。
このようにして、水平方向の位相差検出用画素対SHA,SHBと垂直方向の位相差検出用画素対SVC,SVDを配置する。そして、隣接する2ラインで得られた位相差検出結果の平均と、隣接ラインの像信号を加算して得られる像信号(加算像波形)を用いた位相差検出結果の両方を求め、被写体の輝度に応じていずれかの検出結果を選択することにより、
・焦点検出用画素対の偏在による画質劣化の軽減、
・一対の焦点検出用画素を異なる画素で構成することによる焦点検出誤差の軽減、
を両立することができる。
なお、上述の通り、位相差検出結果の平均の代わりに、平均した像波形に基づく位相差検出結果を用いてもよい。
図16〜図18は、本実施形態におけるデジタルカメラの焦点調節及び撮影動作を説明するためのフローチャートである。
図16は、本実施形態に係るデジタルカメラの全体的な動作を説明するためのフローチャートである。
撮影者が操作スイッチ群132の電源スイッチをオン操作すると、S103においてCPU121はカメラ内の各アクチュエータや撮像素子の動作確認を行ない、メモリ内容や実行プログラムの初期化を行なうと共に、撮影準備動作を実行する。
S105でCPU121は撮像素子駆動回路124を通じて撮像素子107の撮像動作を開始する。また、画像処理回路125によって撮像画像を処理し、表示用(記録用よりも低解像度)の画像を生成する。画像処理回路125はさらに、表示用画像から人物の顔を検出する。
S107でCPU121は、画像処理回路125が生成する表示用の画像を表示器131に逐次出力して、表示器131をEVFとして機能させる。撮影者は表示器131に表示される画像を見ながら、撮影時の構図決定を行なう。
S109で、CPU121は、画像処理回路125から、顔検出結果と、顔が検出されていれば顔領域に関する情報を取得する。そして、顔が検出されている場合には、S111からS113に移行し、CPU121は焦点調節モードを顔AFモードに設定する。ここで顔AFモードとは、顔領域に焦点検出領域を設定するAFモードを指す。
一方、表示用画像から顔が検出されなかった場合、S111からS115に移行し、CPU121は焦点調節モードを多点AFモードに設定する。ここで多点AFモードとは、撮影領域を複数の領域(例えば縦3、横5の15領域)に分割し、各分割領域で焦点検出を行ない、焦点検出結果と被写体の輝度情報から推定される主被写体の存在する分割領域を最終的な焦点検出領域とするモードを指す。
S113あるいはS115でAFモードを決定したら、CPU121は、S117で焦点検出領域を決定する。S121では、撮影準備スイッチがオン操作されたか否かを判別し、オン操作されていなければS105に戻り、撮像素子駆動からS117の焦点検出領域の決定を繰り返し実行する。
S121でCPU121は操作スイッチ群132の撮影準備スイッチの状態を検出し、オンであればS131へ、オンでなければS105へ処理を移す。撮影準備スイッチは、例えばレリーズボタンが半押しされるとオンするスイッチであって良い。
図17は、S131で行う焦点検出処理の詳細を説明するためのフローチャートである。
S133において、CPU121は、予め記憶された配置情報に基づき、S117で決定した焦点検出領域に含まれる焦点検出用画素を撮像素子駆動回路124を介して読み出す。
S137でCPU121は、第1の焦点検出用画素対及び第2の焦点検出用画素対について、それぞれ第1のAF画素群及び第2のAF画素群から読み出した信号を結合して、図9、図12、及び図14で示したような位相差検出用の像波形対を生成する。具体的には、図9に示したAFSIGh(A1)とAFSIGh(B1)、あるいはAFSIGv(C3)とAFSIGv(D3)等の対の信号を生成する。
S200でCPU121は位相差検出用の像波形対の相関演算を行ない、像波形の位相差を計算する。この相関演算の詳細については、図26を用いて後述する。
S141でCPU121は、相関演算結果の信頼性を判定する。ここで信頼性とは、像波形対の一致度(波形の類似度)を指し、一致度が良い場合は一般的に焦点検出結果の信頼性が高い。そこで、複数の焦点検出領域が選択されている場合は、信頼性の高い像波形対に基づく位相差を優先的に使用する。
S143でCPU121は、信頼性の高い像波形対から求められた位相差に基づいて最終的な焦点ずれ量を演算し、焦点検出処理を終了する。
図16に戻り、S151でCPU121は、焦点検出処理で計算した焦点ずれ量が許容値以下か(合焦と判定可能か)否かを判断する。焦点ずれ量が許容値より大きい場合、CPU121は非合焦と判断し、S153でフォーカス駆動回路126を通じてフォーカスレンズ(第3のレンズ群)105を所定方向に所定量駆動する。そして、S151で合焦と判定されるまでS131及びS153の処理を繰り返し実行する。
そしてS151にて合焦状態に達したと判定されると、CPU121はS155にて表示器131に合焦表示を行ない、S157に移行する。
S157でCPU121は、撮影開始スイッチがオン操作されたか否かを判別し、オン操作されていなければS157にて撮影待機状態を維持する。S157で撮影開始スイッチがオン操作されるとS161に移行し、撮影処理を実行する。撮影開始スイッチは、例えばレリーズボタンが全押しされるとオンするスイッチであって良い。
図26は、図16における相関演算ステップ(S200)の詳細の一例を示すフローチャートである。
S201でCPU121は、水平第1〜第4ラインで得られた同種の像信号を加算し、加算像波形を生成する。
S202でCPU121は、水平第1〜第4ラインの各々で得られたA像波形およびB像波形と、S201で生成した加算像波形の5組の像波形についてそれぞれ相関演算を行ない、5つの位相差を検出する。
S203でCPU121は、水平第1〜第4ラインの信号レベルに基づいて被写体輝度を検出する。具体的には、CPU121は水平第1〜第4ラインの全焦点検出用画素出力値の平均値を被写体輝度として算出する。
S204でCPU121は、S203で算出した被写体輝度が予め定めた閾値より低い場合には低輝度被写体と判定し、閾値以上の場合には低輝度被写体でないと判定する。S204で低輝度被写体と判定された場合、CPU121は、S202で検出した5つの位相差のうち、加算像波形から検出した位相差を最終的な位相差検出結果として設定する(S207)。
一方、S203で低輝度被写体でないと判定された場合、CPU121は、S202で検出した5つの位相差のうち、水平第1〜第4ラインの各々における位相差検出結果を平均する(S205)。そしてCPU121は、S205で得られた位相差検出結果の平均値を検出結果として設定する(S206)。
なお、S202において、水平第1〜第4ラインの各々で得られたA像波形を平均した平均A像波形と、水平第1〜第4ラインの各々で得られたB像波形を平均した平均B像波形とを算出し、平均A像波形と平均B像波形とから位相差を検出してもよい。すなわち、S202でCPU121は、加算像波形の位相差と、平均像波形の位相差を検出する。そして、S203で低輝度被写体でないと判定された場合、CPU121は、S205を行わずに、S206で、平均A像波形と平均B像波形とから検出した位相差を最終的な位相差検出結果として設定する。
S203とS204で、CPU121は、水平第1〜4ラインの全焦点検出用画素出力値の平均値に基づいて被写体輝度を推定し、その被写体輝度が予め定めた閾値より高いか低いかによって、水平第1〜第4ラインの各々における位相差検出結果を平均するか(S205)、加算像波形から検出した位相差を最終的な位相差検出結果として設定するか(S207)を判定していた。このように、焦点検出用画素出力で被写体輝度を推定することで、被写体輝度を測定するための別センサが不要で、焦点検出に用いる信号のレベルを直接的に測定することが可能になる。
なお、S203において、水平第1〜第4ラインの全撮像用画素出力値の平均値を被写体輝度としても良い。図6に示したように、焦点検出用画素よりも撮像用画素の方がより多くの光を受光できるため、より低輝度まで被写体輝度の推定を行なうことが可能となる。
また、S203において、水平第1〜第4ラインの焦点検出用画素と撮像用画素を含めた全画素出力値の平均値を被写体輝度としても良い。
さらに、被写体輝度を測定するための別センサを設け、S203において、そのセンサ出力が予め定めた閾値より高いか低いかによって、水平第1〜第4ラインの各々における位相差検出結果を平均するか(S205)、加算像波形から検出した位相差を最終的な位相差検出結果として設定するか(S207)を判定してもよい。撮像素子107から得られる画素出力は、プレビュー画像表示(S107)の撮影条件に応じて変わる。そのため、画素出力に撮影条件を加味して被写体輝度を推定する必要がある。そこで、別センサからの出力を用いることで、プレビュー画像表示(S107)の撮影条件の制約を受けることなく、被写体輝度を推定することが可能となる。
また、S203において、水平第1〜第4ラインの焦点検出用画素出力値に含まれるノイズ量を算出してもよい。具体的には、焦点検出用画素の隣接画素出力値の絶対和もしくは二乗和をノイズ量として算出する。そしてS204で、そのノイズ量が予め定めた閾値より高いか低いかによって、水平第1〜第4ラインの各々における位相差検出結果を平均するか(S205)、加算像波形から検出した位相差を最終的な位相差検出結果として設定するか(S207)を判定する。焦点検出誤差の要因となるノイズ量に応じて判定することで、焦点検出誤差を軽減することが可能となる。
図18はS161で行う撮影処理の詳細を説明するためのフローチャートである。
S163でCPU121はシャッタ駆動回路128を通じてシャッタ102の開口量と開閉タイミングを制御し、露光処理を行う。なお、特に説明しなかったが、一般的に行われているように、焦点検出処理と並行して自動露出制御処理も行われ、絞り値及びシャッタースピードが決定されているものとする。
S165でCPU121は、撮像素子駆動回路124を介して記録用画像生成のための画像読み出し、すなわち全画素の読み出しを行なう。
S167でCPU121は、画像処理回路125を用い、読み出した画像信号の欠損画素補間を行なう。ここで、欠損画素には、撮像素子107の製造時に生じた欠陥画素と、焦点検出用画素が含まれる。上述の通り、焦点検出用画素にはRGBのカラーフィルタが設けられておらず、また射出瞳の一部からしか受光しないので、通常の欠陥画素と同様、周囲の撮像用画素の情報から補間により画像信号を生成する。
S169でCPU121は、画像処理回路125により、色補間、画像のγ補正、エッジ強調等の所謂現像処理と、設定に応じて符号化等の画像処理を行う。
S171において、CPU121は、記録媒体133に撮影画像を記録する。
S173でCPU121は、表示器131に撮影済み画像を表示し、撮影処理を終了する。
以上説明したように、本実施形態によれば、撮像素子に含まれる画素の一部として、瞳分割機能を有する焦点検出用画素対を所定ピッチで配置する際に、画素対を形成する画素の間隔が画素対のピッチよりも短くなる様に配置する。これにより、焦点検出誤差の発生確率を低下させることができる。さらに、隣接するR画素とB画素に画素対を配置することで、G画素に配置した場合と比較して画質に対する影響も抑制することができる。
また、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対では、第1の焦点検出用画素と第2の焦点検出用画素の配置が入れ替わるように配置する。そして、隣接する偶数ラインで得られる位相差検出結果の平均値もしくは、隣接する偶数ラインで得られる像信号を加算した加算像波形の位相差検出結果の両方を求める。
そして、被写体像のノイズが大きいと判断される場合には加算像波形の位相差検出結果を、被写体像のノイズが大きいと判断されない場合には位相差検出結果の平均値を、当該隣接する偶数ラインにおける最終的な位相差検出結果として設定する。
ノイズの大小は例えば被写体輝度に基づいて判断することができ、具体的には、隣接する偶数ラインで検出した被写体輝度が予め定めた閾値未満であればノイズが大きいと判断することができる。
これにより、低輝度被写体などにおいて、ノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、被写体像のノイズが大きくない場合は、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
〔第2の実施形態〕
次に、本発明の第2の実施形態について説明する。本実施形態に係る撮像装置は、撮像素子107における焦点検出用画素の配置を除き、第1の実施形態と同様であるので、以下、本実施形態に特徴的な焦点検出用画素の配置についてのみ説明する。
図19は、本発明の第2の実施形態における焦点検出用画素対の配置例を、縦4ブロック、横4ブロックの16ブロックについて示す図である。
第1の実施形態では、水平方向の位相差を検出するための第1の焦点検出用画素対SHA,SHBと、垂直方向の位相差を検出するための第2の焦点検出用画素対SVC,SVDは、それぞれ正方配置されていた。そして、第1の焦点検出用画素対SHA,SHBと、第2の焦点検出用画素対SVC,SVDは、水平及び垂直方向とも互いに半ピッチずらして配置することで、全体として千鳥配置になるようにしていた。
本実施形態では、位相差検出の方向が等しい複数の焦点検出用画素対を位相差検出の方向に等しいピッチで配置したラインを、位相差検出の方向と直交する方向に複数配置する。そして、位相差検出の方向と直交する方向に隣接するラインの焦点検出用画素対が位相差検出の方向に半ピッチずれるように配置する。具体的には例えば、複数の第1の焦点検出用画素対SHA,SHBを水平方向に等ピッチで配置した水平ラインを、水平ライン毎に水平方向に半ピッチずらしながら垂直方向に配置することを特徴とする。これにより、垂直方向に隣接する2つの水平ラインを合わせると、第1の焦点検出用画素対の水平方向のピッチが半分になり、水平方向における像波形の解像度を向上させることができる。
一番上のブロック行に配置された第1の焦点検出用画素対SHA,SHBの集合を水平第1ライン、2番目のブロック行の第1の焦点検出用画素対SHA,SHBの集合を水平第2ラインとし、以降同様に、水平第3ライン、水平第4ライン、・・・とする。これは第1の実施形態において説明した図15と同様である。
水平第1ラインでは、第1の実施形態と同様、各ブロックにおいて、第1の焦点検出用画素対のうち、第1のAF画素SHAをアドレス(1,0)に、第2のAF画素SHBをアドレス(0,1)に配置する。
次に水平第2ラインでは、各ブロックにおいて、第1の焦点検出用画素対のうち、第1のAF画素SHAをアドレス(1,4)に、第2のAF画素SHBをアドレス(0,5)に配置する。つまり、水平第2ラインでは、水平第1ラインに対して、水平方向に半ピッチ分だけずらした位置に第1の焦点検出用画素対SHA,SHBを配置する。
そして、水平第1ラインにおけるAF画素と水平第2ラインにおけるAF画素とで得られる信号の両方を用いることで、水平方向の解像度が2倍向上したのと等価の像波形を得ることができる。
水平第3ラインと水平第1ラインに配置される第1の焦点検出用画素対は、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向(水平方向)における位置が等しく、かつ位相差検出の方向と直交する方向に隣接している。ここでは、第1および第2のAF画素を隣接配置した例を示しているが、第1の実施形態において説明したように、第1および第2のAF画素の間隔は、第1の焦点検出用画素対のピッチよりも短ければよい。
そのため、第1の実施形態における水平第2ラインと同様、各ブロックにおいて、第1の焦点検出用画素対のうち、第1のAF画素SHAをアドレス(0,1)に、第2のAF画素SHBをアドレス(1,0)に配置する。つまり、水平第1ラインに対して、第1のAF画素SHAと第2のAF画素SHBの配置を入れ替える。
同様に、水平第4ラインと水平第2ラインに配置される第1の焦点検出用画素対は、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向(水平方向)における位置が等しく、かつ位相差検出の方向と直交する方向に隣接している。
そのため、水平第4ラインでは、各ブロックにおいて、第1の焦点検出用画素対のうち、第1のAF画素SHAをアドレス(0,5)に、第2のAF画素SHBをアドレス(1,4)に配置する。つまり、水平第2ラインに対して、第1のAF画素SHAと第2のAF画素SHBの配置を入れ替える。
本実施形態では、水平第1ラインと水平第3ラインにおいて、第1の焦点検出用画素対SHAとSHBの水平方向における位置は等しい。従って、被写体のエッジ位置が水平第1ライン及び水平第3ラインとで同一であれば、A像波形とB像波形の位相ずれは、水平第1ライン及び水平第3ラインで同時に発生する。しかも、そのずれ量は等しく、方向が逆向きとなる。また、水平第2ラインと水平第4ラインについても同様の関係が成立する。
そこで本実施形態では、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対から得られる2組の像波形を平均した像波形の位相差を検出する。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。また、第1の実施形態と同様、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく配置された隣接する2つのラインの各々で得られた位相差検出結果を平均してもよい。
また、第1の実施形態と同様、隣接する複数ラインの像波形を加算した加算像波形を求め、加算像波形の位相差も検出する。加算像波形を求める複数ラインには、焦点検出用画素の配置が等しいラインが同数ずつ含まれることが好ましい。
本実施形態では、第1の実施形態と同様、水平第1〜第4ラインと同様の組み合わせを有する隣接4ラインについて加算像波形を求めるものとする。
さらに、本実施形態では、水平第1ライン、水平第3ラインに対して、水平第2ライン、水平第4ラインにおける第1の焦点検出用画素対の位置を半ピッチ分ずらして配置(千鳥配置)することにより、水平方向の解像度向上を実現している。
一方、垂直方向の位相差を検出するための第2の焦点検出用画素対SVC,SVDは、第1の実施形態と同様の正方配置としている。これは、第2の焦点検出用画素対SVC,SVDについても位相差検出の方向に直交する方向(水平方向)に隣接する焦点検出用画素対を位相差検出の方向(垂直方向)に半ピッチずつずらして配置すると、焦点検出用画素が偏在する箇所ができるためである。
第1の実施形態で説明したように、焦点検出用画素SHA,SHB,SVC,SVDが偏在する箇所があると、補間処理に必要が周辺画素の数が少なくなり、画質に悪影響を与える可能性がある。そのため、本実施形態では、第1の焦点検出用画素対SHA,SHBについては水平ライン毎に半ピッチずらしながら配置する一方、第2の焦点検出用画素対SVC,SVDについては正方配置する。これにより、水平方向の解像度向上と、焦点検出用画素の偏在による画質劣化の発生の抑制を実現している。
なお、本実施形態においても、第2の焦点検出用画素対SVC,SVDについて、垂直ラインごとに第1及び第2のAF画素の位置を入れ替えて配置する。つまり、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向(垂直方向)における位置が等しく、位相差検出の方向と直交する方向(水平方向)に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。
図19に示すように、第1の実施形態と同様、垂直第1ラインでは、各ブロックにおいて、第2の焦点検出用画素対における第1のAF画素SVCを(5,4)に配置し、第2のAF画素SVDを(4,5)に配置する。
一方、垂直第2ラインでは、各ブロックにおいて、第2の焦点検出用画素対における第1のAF画素SVCを(4,5)に配置し、第2のAF画素SVDを(5,4)に配置する。つまり、垂直第1ラインに対して、第1のAF画素SVCと第2のAF画素SVDの配置を入れ替える。
そして、本実施形態でも、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対から得られる2組の像波形を平均した像波形の位相差を検出する。あるいは、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく配置された隣接する2つのラインの各々で得られた位相差検出結果を平均してもよい。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
また、第1の実施形態と同様、隣接する複数ラインの像波形を加算した加算像波形を求め、加算像波形の位相差も検出する。本実施形態についても、第1の実施形態において図14を用いて説明した原理と同じ原理により、加算像信波形を用いて位相差検出することで、低輝度被写体に対する位相差検出誤差を軽減することができる。
本実施形態の撮像装置においても、隣接する複数のラインの各々から得られる位相差検出結果の平均値と、加算像波形から検出した位相差の両方を算出し、低輝度被写体であれば加算像波形から検出した位相差を選択する。
これにより、低輝度被写体においてはノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、低輝度被写体以外においては、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
このようにして焦点検出用画素対を配置した撮像素子107を用いた撮像装置の焦点調節動作及び撮影動作は、第1の実施形態と同じでよいため、説明を省略する。
以上説明したように、第2の実施形態では、第1の実施形態と同様、位相差検出の方向が等しい複数の焦点検出用画素対を位相差検出の方向に等しいピッチで配置したラインを、位相差検出の方向と直交する方向に複数配置する。それに加え、一方の焦点検出用画素対については、位相差検出の方向と直交する方向に隣接するラインの焦点検出用画素対が位相差検出の方向に半ピッチずれるように配置する。つまり、他方の焦点検出用画素対は正方配置のままであるが、一方の焦点検出用画素対は千鳥配置する。
これにより、第1の実施形態の効果に加え、一方の焦点検出用画素対で得る像波形の解像度を向上させることが可能になり、より精度の良い焦点検出を行うことができる。
また、一方の焦点検出用画素対のみ千鳥配置することで、焦点検出用画素の偏在による撮影画像の画質劣化を抑制することができる。
また、隣接する複数のラインの各々から得られる位相差検出結果の平均値と、加算像波形から検出した位相差の両方を算出し、低輝度被写体であれば加算像波形から検出した位相差を選択する。
これにより、低輝度被写体等、ノイズが大きくなる場合においてはノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、ノイズが大きくないと判断される場合には、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
なお、本実施形態では水平方向の位相差検出を行う焦点検出用画素対のピッチを変更する例を説明したが、垂直方向の位相差検出を行う焦点検出用画素対のピッチを変更してもよい。
〔第3の実施形態〕
次に、本発明の第3の実施形態について説明する。本実施形態に係る撮像装置は、撮像素子107における焦点検出用画素の配置を除き、第1の実施形態と同様であるので、以下、本実施形態に特徴的な焦点検出用画素の配置についてのみ説明する。
図20は、本発明の第3の実施形態における焦点検出用画素対の配置例を、縦4ブロック、横4ブロックの16ブロックについて示す図である。
第1及び第2の実施形態では、ベイヤー配列を有するカラーフィルタを適用した撮像素子を対象としていた。すなわち、2×2の4画素を1単位として、対角2画素にG(緑色)の分光感度を有する画素を、他の2画素にR(赤色)とB(青色)の分光感度を有する画素を各1個配置した撮像素子を対象としていた。第3の実施形態では、より高解像度の輝度情報取得を目的として、G(緑色)の分光感度を有する画素の割合を増やした画素配列を採用した撮像素子を対象とした場合の焦点検出用画素対の配置に関する。
まず、本実施形態の撮像素子107が有するカラーフィルタについて説明する。4×4の16画素を1単位として、G画素が12画素、R画素とB画素がそれぞれ2画素ずつ存在する。具体的には、4×4の16画素内において、左下角の画素のアドレスを(0,0)とし、水平方向右に移動するたびにアドレスの第2項を一つ増やし、垂直方向上に移動するたびにアドレスの第1項を一つ増やすアドレスを定義する。このアドレス規則に基づいて表現すると、R画素を(3,0)と(1,2)に、B画素を(1,0)と(3,2)に配置し、残りの12画素全てにG画素を配置した構成を有する。
先に説明したベイヤー配列では、全画素のうち50%がG画素であるが、本実施形態の配列では75%がG画素である。上述のように、G画素の出力は、輝度情報に寄与する割合が大きいため、B画素やR画素の出力に比べて、画質に与える影響が大きい。そこで本実施形態では、G画素の割合を増やし、より高解像度の輝度情報取得を実現している。
図20において、垂直方向一番上のブロック行に設けられる複数の第1の焦点検出用画素対SHA,SHBを水平第1ラインと呼ぶ。また上から2番目を水平第2ライン、3番目を水平第3ライン、4番目を水平第4ラインとする。また、水平方向一番左のブロック列に設けられる複数の第2の焦点検出用画素対SVC,SHDを垂直第1ライン、左から2番目を垂直第2ライン、3番目を垂直第3ライン、4番目を垂直第4ラインとする。
撮像用画素は、第1及び第2の実施形態と同様、所定の大きさの正方領域を1ブロックとし、各ブロックに第1の焦点検出用画素対SHA,SHBと、第2の焦点検出用画素対SVC,SVDを1組ずつ配置していく。本実施形態でも、第1及び第2の実施形態と同様、8×8画素の正方領域を1ブロックとする。
また、ブロック内の画素位置を示すアドレスとして、左下角の画素のアドレスを(0,0)とし、水平方向右に移動するたびにアドレスの第2項を一つ増やし、垂直方向上に移動するたびにアドレスの第1項を一つ増やすアドレスを定義する。
このアドレスを用いて、まず、水平方向の位相差を検出するための第1の焦点検出用画素対SHA,SHBの配置規則について説明する。水平第1ラインでは、第1の焦点検出用画素対の第1のAF画素SHAをアドレス(3,0)に、第2のAF画素SHBをアドレス(1,0)に配置する。
上述の通り、焦点検出用画素SHA,SHBは、画質の劣化を抑制するために、B画素やR画素の位置に配置する。また、第1の焦点検出用画素対SHA,SHBは水平方向のコントラストパターンに基づいて焦点検出を行なうため、水平方向における位置はできる限り一致させるのが望ましい。さらに、上述したように、焦点検出用画素対を構成する第1のAF画素SHAと第2のAF画素SHBとの間隔は短い方ことが好ましい。
そこで、これらの条件をできるだけ満足するよう、第3の実施形態では、第1及び第2のAF画素SHAとSHBを垂直に配置して水平方向の位置を一致させ、かつB画素を避けながら隣接させる。そして、このような配置により、第1及び第2のAF画素SHA及びSHBが異なる画素であることにより発生する焦点検出誤差を軽減している。
水平第1ラインの各ブロックに設けた第1の焦点検出用画素対の第1及び第2のAF画素SHA及びSHBの水平方向の位置は一致している。そのため、水平方向のみにコントラストパターンがある被写体像(例えば縦線など)については、第1及び第2のAF画素SHA及びSHBは常に同じ模様の部位を見ていることになる。従って、異なる画素で得られる像波形を用いて焦点検出することを要因とする焦点検出誤差は発生しない。
しかしながら、水平方向のみならず垂直方向にもコントラストパターンがある被写体像については、第1及び第2のAF画素SHA及びSHBは垂直方向に2画素分離れた部位を見るので、焦点検出誤差が若干生じる恐れがある。特に、斜め45°に傾いた線を撮像した場合、この焦点検出誤差が大きくなるおそれがある。
そこで、本実施形態においても第1の実施形態や第2の実施形態同様、水平第2ラインでは、水平第1ラインに対して第1のAF画素SHAと第2のAF画素SHBの配置を入れ替える。すなわち、水平第2ラインでは、水平方向の位相差検出用の第1の焦点検出用画素対における第1のAF画素SHAをアドレス(1,0)に、第2のAF画素SHBをアドレス(3,0)に配置する。そして、水平第1ラインから得られる像波形と水平2ラインから得られる像波形を平均または加算して最終的な1組の像波形を生成することで、焦点検出誤差を打ち消し合うようにしている。
このように、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。そして、隣接する2つの焦点検出用画素対から得られる像波形を平均した像波形の位相差を検出する。または、隣接する2ラインの各々で得られた位相差検出結果を平均して用いる。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
水平方向のみにコントラストパターンがある被写体(例えば縦線など)については、水平第1ライン、水平第2ラインともに、焦点検出用画素SHAとSHBを異なる画素で構成することによる焦点検出誤差は発生しない。
しかし例えば斜め45°に傾いた線を撮影した場合には、第1及び第2のAF画素SHA及びSHBが垂直方向に離間した異なる画素であることによる焦点検出誤差が発生する。しかし、この場合でも、斜め45°線のエッジは、水平第1ラインと水平第2ラインの焦点検出用画素対SHAとSHBの境界に同時にかかるため、AB像波形の位相ずれは同時に発生する。しかもそのずれ量は等しく、方向が逆向きとなる。
そこで第3の実施形態においても、位相差検出の方向と直交する方向に隣接するライン同士の、像波形を平均又は加算することで、焦点検出誤差を打ち消し合うようにしている。これにより、A像波形を生成する第1のAF画素とB像波形を生成する第2のAF画素が異なる画素であることにより発生する焦点検出誤差を、軽減することができる。
水平第3ラインは、水平第1ラインと同じアドレスに第1及び第2のAF画素SHA及びSHBを配置する。水平第4ラインは、水平第2ラインと同じアドレスに第1及び第2のAF画素SHA,SHBを配置する。水平第3ラインと水平第4ラインについても、水平第1ラインと水平第2ラインの関係と同様に、焦点検出用画素SHAとSHBの位置が入れ替わっている。そのため、両ラインから得られた像波形を平均して最終的な像波形として位相差検出することで、焦点検出誤差を軽減することができる。あるいは両ラインで得られた位相差検出結果を平均してもよい。
次に、本実施形態における、垂直方向の位相差を検出するための第2の焦点検出用画素対VC,SVDの配置規則について説明する。
垂直第1ラインでは、第2の焦点検出用画素対の第1のAF画素SVCをアドレス(5,4)に、第2のAF画素SVDをアドレス(5,6)に配置する。これら焦点検出用画素SVC,SVDは、画質の劣化を抑制するために、B画素やR画素のアドレスに配置する。また、第2の焦点検出用画素対SVC,SVDは垂直方向のコントラストパターンに基づいて焦点検出を行なうため、垂直方向における位置はできる限り一致させるのが望ましい。さらに、上述したように、焦点検出用画素対を構成する第1のAF画素SVCと第2のAF画素SVDとの間隔は短い方ことが好ましい。
そこで、これらの条件をできるだけ満足するよう、第3の実施形態では、第2の焦点検出用画素対の第1及び第2のAF画素SVCとSVDを水平に配置して垂直方向の位置を一致させ、かつB画素を避けながら隣接させる。このような配置により、第1及び第2のAF画素SVC及びSVDが異なる画素であることにより発生する焦点検出誤差を軽減している。
また、水平第1ラインと水平第2ラインの関係同様、垂直方向のみにコントラストパターンがある被写体(例えば横線)については、異なる画素で得られる像波形を用いて焦点検出することを要因とする焦点検出誤差は発生しない。しかし、例えば斜め45°線を撮像した場合などには焦点検出誤差を生じる恐れがある。
そこで、第1及び第2の実施形態と同様、垂直第2ラインでは、垂直第1ラインに対して、第1のAF画素SHAと第2のAF画素SHBの配置を入れ替える。すなわち、垂直第2ラインでは、垂直方向の位相差検出用の第1の焦点検出用画素対における第1のAF画素SVCを(5,6)に配置し、第2のAF画素SVDを(5,4)に配置する。そして、垂直第1ラインから得られる像波形と垂直第2ラインから得られる像波形した像波形の位相差を検出する。または、隣接する2ラインの各々で得られた位相差検出結果を平均して用いる。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
また、第1の実施形態と同様、隣接する複数ラインの像波形を加算した加算像波形を求め、加算像波形の位相差も検出する。本実施形態についても、第1の実施形態において図14を用いて説明した原理と同じ原理により、加算像信波形を用いて位相差検出することで、低輝度被写体に対する位相差検出誤差を軽減することができる。
本実施形態の撮像装置においても、隣接する複数のラインの各々から得られる位相差検出結果の平均値と、加算像波形から検出した位相差の両方を算出し、低輝度被写体であれば加算像波形から検出した位相差を選択する。
これにより、低輝度被写体においてはノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、低輝度被写体以外においては、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
また、第1の焦点検出用画素対と第2の焦点検出用画素対はいずれも水平方向、垂直方向とも同じピッチで正方配置するとともに、第1の焦点検出用画素対群と第2の焦点検出用画素対群とを縦横方向半ピッチずらして配置している。
具体的には、第1の焦点検出用画素対SHA,SHBをアドレス(1,0)、(3,0)に配置した場合には、第2の焦点検出用画素対VC,SVDはアドレス(5,6)、(5,4)に配置する。これにより、焦点検出用画素が偏在することによる画質劣化を軽減することが可能である。
このようにして焦点検出用画素対を配置した撮像素子107を用いた撮像装置の焦点調節動作及び撮影動作は、第1の実施形態と同じでよいため、説明を省略する。
以上説明したように、第3の実施形態においても、撮像素子に含まれる画素の一部に瞳分割機能を有する焦点検出用画素対を配置する際に、画素対を形成する画素をG画素を避けて最も近接する様に配置する。これにより、より高解像度の輝度情報取得を目的としてG画素の比率を増やした画素配列を有する撮像素子を用いる場合であっても、画質の低下を抑制しながら、焦点検出誤差の発生確率を低下させることができる。
また、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。そして、隣接する2つの焦点検出用画素対から得られる像波形を平均した像波形の位相差を検出する。または、隣接する2ラインの各々で得られた位相差検出結果を平均して用いる。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
また、隣接する複数のラインの各々から得られる位相差検出結果の平均値と、加算像波形から検出した位相差の両方を算出し、低輝度被写体であれば加算像波形から検出した位相差を選択する。
これにより、低輝度被写体においてはノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、低輝度被写体以外においては、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
〔第4の実施形態〕
次に、本発明の第4の実施形態について説明する。本実施形態に係る撮像装置は、撮像素子107における焦点検出用画素の配置を除き、第1の実施形態と同様であるので、以下、本実施形態に特徴的な焦点検出用画素の配置についてのみ説明する。
図21は、本発明の第4の実施形態における焦点検出用画素対の配置例を、縦4ブロック、横4ブロックの16ブロックについて示す図である。
第1及び第2の実施形態では、焦点検出用画素対を構成する第1及び第2のAF画素は、常に−45°の角度で隣接するように配置されていた。これに対し、第4の実施形態では、2ライン単位で、第1及び第2のAF画素の並ぶ角度が変化するように焦点検出用画素対を配置することを特徴とする。
図21を参照して、第1の焦点検出用画素対SHA,SHBの配置規則について説明する。水平第1ラインでは、第1のAF画素SHAをアドレス(1,0)に、第2のAF画素SHBをアドレス(0,1)に配置する。そして、水平第2ラインでは、第1の実施形態や第2の実施形態と同様に、第1及び第2のAF画素SHA及びSHBの配置を入れ替える。すなわち、第1のAF画素SHAをアドレス(0,1)に、第2のAF画素SHBをアドレス(1,0)に配置する。
そして、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対から得られる2組の像波形を平均した像波形の位相差を検出する。または、隣接する2ラインの各々で得られた位相差検出結果を平均して用いる。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
また、第1の実施形態と同様、隣接する複数ラインの像波形を加算した加算像波形を求め、加算像波形の位相差も検出する。本実施形態についても、第1の実施形態において図14を用いて説明した原理と同じ原理により、加算像信波形を用いて位相差検出することで、低輝度被写体に対する位相差検出誤差を軽減することができる。
本実施形態の撮像装置においても、隣接する複数のラインの各々から得られる位相差検出結果の平均値と、加算像波形から検出した位相差の両方を算出し、低輝度被写体であれば加算像波形から検出した位相差を選択する。
これにより、低輝度被写体においてはノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、低輝度被写体以外においては、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
次に水平第3ラインでは、第1のAF画素SHAをアドレス(2,1)に、第2のAF画素SHBを(1,0)に配置する。つまり、水平第1ラインの配置を水平方向に反転した配置としている。これにより、水平第1ラインと水平第3ラインとで第1及び第2のAF画素SHA及びSHBの並ぶ角度が直交する。
なお、本実施形態においてもG画素には焦点検出用画素を配置しないようにしている。そのため、水平第3ラインは水平第1ラインと比較して、ブロックに対して1画素上にずれている。従って、本実施形態においては、第1の焦点検出用画素対の垂直方向のピッチは一定ではない。
水平第1ラインでは、−45°の方向に第1及び第2のAF画素SHA及びSHBが並んでいる。従って、45°方向にコントラストパターンを有する被写体(例えば―45°に傾いた線)に対しては、第1及び第2のAF画素SHA及びSHBが異なる画素であることによる焦点検出誤差は発生しない。しかし、−45°方向にコントラストパターンを有する被写体(例えば45°に傾いた線)に対しては、第1及び第2のAF画素SHA及びSHBが異なる画素であることによる焦点検出誤差はもっとも発生しやすくなる。
一方、水平第2ラインでは、45°方向に第1及び第2のAF画素SHA及びSHBが並んでいる。そのため、水平第1ラインと逆に、第1及び第2のAF画素SHA及びSHBが異なる画素であることによる焦点検出誤差は、−45°方向にコントラストパターンを有する被写体に対しては発生しない。しかし、45°方向にコントラストパターンを有する被写体に対しては発生するおそれが最も高い。
つまり、水平第1ラインで焦点検出誤差が大きくなりやすい状況において、水平第3ラインでは焦点検出誤差は発生しにくい状況にある。また、逆に水平第3ラインで焦点検出誤差が大きくなりやすい状況において、水平第1ラインでは焦点検出誤差が発生しにくい状況にある。
そこで、撮像用画素から得られた被写体像の情報に基づいて、水平第1ラインと水平第3ラインのうち、焦点検出誤差が少ないと判断されるラインで得られる像波形を用いて焦点検出を行うことにより、焦点検出誤差を軽減することができる。
水平第4ラインについても同様に、水平第2ラインに対して、第1及び第2のAF画素SHA及びSHBの並ぶ角度が直交するよう、第1のAF画素SHAをアドレス(1,0)に、第2のAF画素SHBを(2,1)に配置する。そして、撮像用画素から得られた被写体像の情報に基づいて、水平第2ラインと水平第4ラインのうち、焦点検出誤差が少ないと判断されるラインで得られる像波形を用いて焦点検出を行うことにより、焦点検出誤差を軽減することができる。
垂直方向の位相差検出用画素については、第1の実施形態や第2の実施形態と同様に、正方配置とする。
すなわち、垂直第1ライン及び垂直第3ラインでは、各ブロックにおいて、第2の焦点検出用画素対の第1のAF画素SVCをアドレス(5,4)に配置し、第2のAF画素SVDをアドレス(4,5)に配置する。
一方、垂直第2ライン及び垂直第4ラインでは、各ブロックにおいて、第1のAF画素SVCをアドレス(4,5)に、第2のAF画素SVDをアドレス(5,4)に配置する。つまり、垂直第1ライン及び垂直第3ラインに対して、第1のAF画素SVCと第2のAF画素SVDの配置を入れ替える。これにより、一対の焦点検出用画素を異なる画素で構成することにより発生する焦点検出誤差を、軽減することができる。
このようにして焦点検出用画素対を配置した撮像素子107を用いた撮像装置の焦点調節動作及び撮影動作は、位相差検出用の像波形を生成するS137(図17)の動作以外は第1の実施形態と同じでよい。
位相差検出用の像波形を生成する際、CPU121は、画像処理回路125を用いて撮像用画素から得られた被写体像の情報に基づいて、エッジの方向を検出する。そして、そのエッジが交差するラインのうち、第1及び第2のAF画素の並ぶ方向が互いに直交するラインの組を検出する。そして、このラインの組のうち、エッジの方向と画素の並ぶ方向とが90°に近いラインから得られる像波形を用いて位相差検出用の像波形を生成する。あるいは、ラインの組を検出せずに、単にエッジの方向に対して十分な信頼性を有すると考えられるラインから得られる像波形を用いるようにしてもよい。
以上説明したように、第4の実施形態では、第1の実施形態における焦点検出用画素配置において、第1及び第2のAF画素の並ぶ方向が互いに直交したラインを設ける。そして、被写体像の情報に基づいてより信頼性が高いと判定されるラインで得られる像波形を用いて焦点検出を行うことにより、さらに焦点検出誤差の発生を抑制することができる。
〔第5の実施形態〕
次に、本発明の第5の実施形態について説明する。第1乃至第4の実施形態では、四角形状の画素が水平及び垂直方向に並んだ構成の撮像素子であった。これに対し、第5の実施形態では、八角形状の撮像用画素を45度方向に傾けて配列した、いわゆるハニカム配列の撮像素子を用いる点が特徴である。
図22は、本実施形態の撮像素子107における焦点検出用画素の配置例を示す図である。
本実施形態の撮像素子107では、45度方向に傾いた2×2の4画素を一単位として、上下に2画素にG(緑色)の分光感度を有する画素を配置し、左右にR(赤色)とB(青色)の分光感度を有する画素を各1個配置している。
図22においては、縦5 [pixel]×横10[pixel]の領域をブロックとする。そして、各ブロックに、水平方向の位相差を検出するための第1の焦点検出用画素対SHA,SHBと、垂直方向の位相差を検出するための第2の焦点検出用画素対SVC,SVDの合計4画素を配置していく。
垂直方向一番上のブロック行の複数の第1の焦点検出用画素対SHA,SHBを水平第1ライン、上から2番目を水平第2ライン、3番目を水平第3ライン、4番目を水平第4ラインとする。また、水平方向一番左のブロック列の複数の第2の焦点検出用画素対SVC,SHDを垂直第1ライン、左から2番目を垂直第2ライン、3番目を垂直第3ライン、4番目を垂直第4ラインとする。
第1の焦点検出用画素対SHA,SHBの配置規則について説明する。水平第1ライン及び水平第3ラインでは、第1のAF画素SHAをアドレス(1,0)に配置し、第2のAF画素SHBをアドレス(0,0)に配置する。
そして、水平第2及び4ラインでは、第1の実施形態や第2の実施形態と同様に、第1のAF画素SHAと第2のAF画素SHBの配置を入れ替える。すなわち、第1のAF画素SHAをアドレス(0,0)に配置し、第2のAF画素SHBをアドレス(1,0)に配置する。
焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対から得られる2組の像波形を平均した像波形の位相差を検出する。または、隣接する2ラインの各々で得られた位相差検出結果を平均して用いる。これにより、被写体像のエッジがAF画素の境界に位置する際の像波形のずれを相殺することができ、焦点検出誤差の発生確率をさらに抑制することができる。
また、第1の実施形態と同様、隣接する複数ラインの像波形を加算した加算像波形を求め、加算像波形の位相差も検出する。本実施形態についても、第1の実施形態において図14を用いて説明した原理と同じ原理により、加算像信波形を用いて位相差検出することで、低輝度被写体に対する位相差検出誤差を軽減することができる。
本実施形態の撮像装置においても、隣接する複数のラインの各々から得られる位相差検出結果の平均値と、加算像波形から検出した位相差の両方を算出し、低輝度被写体であれば加算像波形から検出した位相差を選択する。
これにより、低輝度被写体においてはノイズが位相差検出結果に与える影響を低減して精度の良い位相差検出結果を得ることができる。また、低輝度被写体以外においては、位相差検出方向に垂直な方向のコントラストパターンが存在する被写体に対する位相差検出誤差を抑制することができる。
このように、本実施形態においても、第1及び第2のAF画素が隣接するように配置する。また、水平方向の位相差を検出するための第1の焦点検出用画素対の第1のAF画素SHA及び第2のAF画素SHBを、水平方向における位置が等しくなるように配置する。さらには、G画素を避け、R画素及びB画素に配置する。
垂直方向の位相差を検出用するための第2の焦点検出用画素対SVC,SVDについても、同様に説明する。垂直第1ライン及び垂直第3ラインでは、第1のAF画素SVCをアドレス(3,4)に、第2のAF画素SVDを(3,6)に配置する。そして、垂直第2ライン及び垂直第4ラインでは、第1及び第2のAF画素の配置を入れ替える。すなわち、第1のAF画素SVCをアドレス(3,6)に、第2のAF画素SVDをアドレス(3,4)に配置する。
そして、水平第1ライン及び水平第3ラインから得られた像波形と、水平第2ライン及び水平第4ラインから得られた像波形を平均又は加算して、最終的に位相差検出に用いる像波形を生成する。
また、垂直第1ライン及び垂直第3ラインから得られた像波形と、垂直第2ライン及び垂直第4ラインから得られた像波形を平均又は加算して、最終的に位相差検出に用いる像波形を生成する。
このようにして焦点検出用画素対を配置した撮像素子107を用いた撮像装置の焦点調節動作及び撮影動作は、第1の実施形態と同じでよいため、説明を省略する。
以上説明したように、ハニカム配列を有する撮像素子に対しても本発明は適用可能であり、第1の実施形態と同様の効果を得ることができる。
すなわち、撮像素子に含まれる画素の一部に瞳分割機能を有する焦点検出用画素対を配置する際に、画素対を形成する画素を隣接する様に配置することで、焦点検出誤差の発生確率を低下させることができる。さらに、隣接するR画素とB画素に画素対を配置することで、G画素に配置した場合と比較して画質に対する影響も抑制することができる。
また、焦点検出用画素対を構成する第1及び第2のAF画素の位相差検出の方向における位置が等しく、位相差検出の方向と直交する方向に隣接する2つの焦点検出用画素対では、第1及び第2のAF画素が入れ替わるように配置する。そして、隣接する2つの焦点検出用画素対から得られる像波形を平均又は加算して用いることにより、さらに焦点検出誤差の発生確率を抑制することができる。