JP4639555B2 - 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 - Google Patents
動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 Download PDFInfo
- Publication number
- JP4639555B2 JP4639555B2 JP2001264381A JP2001264381A JP4639555B2 JP 4639555 B2 JP4639555 B2 JP 4639555B2 JP 2001264381 A JP2001264381 A JP 2001264381A JP 2001264381 A JP2001264381 A JP 2001264381A JP 4639555 B2 JP4639555 B2 JP 4639555B2
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- detection
- value
- reliability
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
- Adjustment Of Camera Lenses (AREA)
Description
【発明の属する技術分野】
この発明は、例えば手振れによる動きベクトルを検出する動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置に関する。
【0002】
【従来の技術】
カメラ一体型撮像装置により被写体を撮影する時に、手振れによって撮像画像が揺れる問題があり、これを補正するために、動きベクトルを検出し、撮像画像の揺れを補正する手振れ補正が行なわれている。動きベクトルは、前のフィールド(またはフレーム)と現在のフィールド(またはフレーム)間の相関を検出することで求められる。手振れ補正による動きは、画面全体の動きであり、画面全体の動きベクトルが検出される。
【0003】
従来の動きベクトル検出装置は、前フィールドに設定された代表点と現フィールドにおける画素の輝度レベルの相関を演算することで動きベクトルを検出していた。例えば代表点と現フィールドのサーチ範囲内の複数の画素の値のフィールド差の絶対値を演算し、1フィールドまたは1検出領域に関して差の絶対値を積分し、積分値の最小値の位置から動きベクトルを検出していた。さらに、検出された動きベクトルが手振れを反映したものであるかどうかの信頼性を判断し、信頼性が低い、すなわち、動きベクトルが手振れを反映したものでないと判断される場合では、検出された動きベクトルを無効として扱っていた。従来、動きベクトルの信頼性は、積分値の最小値、平均値、勾配等に基づいて判別していた。
【0004】
【発明が解決しようとする課題】
しかしながら、撮影画像が縞模様の場合に、手振れを検出すると、本来の手振れではない動きベクトルを検出する場合がある。この本来の手振れと異なった動きベクトルは、信頼性判別で無効としなければならないが、従来の信頼性の判別方法は、縞模様の信号の場合に検出された動きベクトルを排除することが難しかった。
【0005】
したがって、この発明の目的は、かかる問題点を解決し、縞模様を撮像した時の本来の手振れとは異なった動きベクトルを排除することができる動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置を提供することにある。
【0006】
【課題を解決するための手段】
上述した課題を解決するために、請求項1の発明は、撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出する動きベクトル検出装置において、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶手段と、
現在のフィールドまたはフレームに代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と代表点との相関値を演算する相関値演算手段と、
入力映像信号の画面が分割されて複数の検出領域が設定され、相関値演算手段からの相関値を検出領域のそれぞれの範囲で積分する積分手段と、
積分手段からの相関値の積分値に基づいて検出領域毎に動きベクトルを検出する動きベクトル検出手段と、
積分手段からの相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定手段と、
動きベクトル検出手段からの動きベクトルと、信頼性判定手段からの信頼性の情報とが供給され、画面全体の動きベクトルを決定する動きベクトル決定手段とを備え、
信頼性判定手段は、検出領域内に積分値の極値が複数存在することを検出し、極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、動きベクトル検出手段によって検出された検出領域の動きベクトルの信頼性が低いと判定し、
動きベクトル決定手段が信頼性が低いと判定された動きベクトルを除外して画面全体の動きベクトルを決定する動きベクトル検出装置である。請求項2の発明は、このような信頼性の判定を行う動きベクトル検出方法である。
【0007】
請求項3の発明は、撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出し、検出された動きベクトルによって手振れを補正する手振れ補正装置において、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶手段と、
現在のフィールドまたはフレームに代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と代表点との相関値を演算する相関値演算手段と、
入力映像信号の画面が分割されて複数の検出領域が設定され、相関値演算手段からの相関値を検出領域のそれぞれの範囲で積分する積分手段と、
積分手段からの相関値の積分値に基づいて検出領域毎に動きベクトルを検出する動きベクトル検出手段と、
積分手段からの相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定手段と、
動きベクトル検出手段からの動きベクトルと、信頼性判定手段からの信頼性の情報とが供給され、画面全体の動きベクトルを決定する動きベクトル決定手段とを備え、
信頼性判定手段は、検出領域内に積分値の極値が複数存在することを検出し、極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、動きベクトル検出手段によって検出された検出領域の動きベクトルの信頼性が低いと判定し、
動きベクトル決定手段が信頼性が低いと判定された動きベクトルを除外して画面全体の動きベクトルを決定し、決定された動きベクトルによって手振れを補正する手振れ補正装置である。請求項4の発明は、動きベクトル決定手段で求められた信頼性が高い動きベクトルに基づいて、手振れを補正する手振れ補正方法である。
【0008】
請求項5の発明は、撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出し、検出された動きベクトルによって手振れを補正する手振れ補正装置を備えた撮像装置において、
手振れ補正装置は、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶手段と、
現在のフィールドまたはフレームに代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と代表点との相関値を演算する相関値演算手段と、
入力映像信号の画面が分割されて複数の検出領域が設定され、相関値演算手段からの相関値を検出領域のそれぞれの範囲で積分する積分手段と、
積分手段からの相関値の積分値に基づいて検出領域毎に動きベクトルを検出する動きベクトル検出手段と、
積分手段からの相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定手段と、
動きベクトル検出手段からの動きベクトルと、信頼性判定手段からの信頼性の情報とが供給され、画面全体の動きベクトルを決定する動きベクトル決定手段とを備え、
信頼性判定手段は、検出領域内に積分値の極値が複数存在することを検出し、極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、動きベクトル検出手段によって検出された検出領域の動きベクトルの信頼性が低いと判定し、
動きベクトル決定手段が信頼性が低いと判定された動きベクトルを除外して画面全体の動きベクトルを決定し、決定された動きベクトルによって手振れを補正するように構成された撮像装置である。
【0009】
この発明では、積分値の極値が複数存在することを検出し、極値の一番目のものと、少なくとも2番目に小さい極値が近いレベルであることを検出した場合には、縞模様の画像によって積分値が生成されたものと推定し、その場合では、検出された動きベクトルを信頼性が低いと判定する。したがって、信頼性の低い動きベクトルを用いて手振れ補正をすることを回避できる。
【0010】
【発明の実施の形態】
以下、この発明の一実施形態について図面を参照して説明する。この発明の理解を容易とするために、手振れ補正装置の一例を説明する。図1は、かかる手振れ補正装置を示し、参照符号1は、手振れ補正の対象となるディジタル映像信号の入力端子である。入力映像信号は、撮像装置により撮像されたものである。入力映像信号が動きベクトル検出装置2およびフィールドメモリ4に供給される。動きベクトル検出装置2が動きベクトルを検出し、検出した動きベクトルの信頼性を判断し、信頼性の高い動きベクトルから画面全体の動きベクトルを検出する。動きベクトル検出装置2で検出された動きベクトルが補正制御部3に供給される。
【0011】
補正制御部3は、検出された動きベクトルに基づいた手振れ補正を行う。補正制御部3からの動きベクトルがフィールドメモリ4に供給される。フィールドメモリ4には、撮像部からの入力映像信号(ディジタル)が蓄積されている。例えば撮像部は、出力画像領域より大きな領域とされ、それによって生じた余剰エリアを使用して手振れ補正を行うようにされている。フィールドメモリ4には、かかる余剰エリアを含む画像が蓄積され、動きベクトルに基づいて出力画像領域として切り出す位置を変更することによって手振れを補正している。フィールドメモリ4は、手振れ補正の内で、整数画素単位の補正を行う。すなわち、手振れと逆の方向に画像をシフトする処理がなさる。このシフトの処理を行う時に、余剰エリアを利用することによって画像の欠落を生じないようになされる。撮像部の読み出しを制御したり、撮像した画像を拡大してフィールドメモリ4に蓄積しても良い。
【0012】
フィールドメモリ4から読み出された映像信号が補間部5に供給される。補間部5では、補正制御部3で求められた動きベクトルに基づく補正量のうちで、整数画素以下の補正量が補間によって補正される。補間は、整数画素以下の補正量に応じた重み付け加算で実現される。水平方向の動きベクトルの成分が例えば0.5画素であれば、隣接する2画素の平均値によって水平方向に0.5画素ずれた画像が生成される。垂直方向に関しても同様の補間がなされる。
【0013】
なお、本説明では、1フィールドを1画面として扱うが、1フレームを1画面として扱うようにしても良い。また、映像信号は、インターレース信号およびノンインターレース信号の何れでも良い。さらに、この発明は、カラー映像信号の手振れ補正に対しても適用できる。但し、動きベクトルは、輝度信号を使用して検出され、手振れ補正が輝度信号およびカラーコンポーネント信号の両者に施される。
【0014】
動きベクトル検出装置2では、代表点マッチング法によって動きベクトルを検出する。代表点マッチング法は、前フィールドに代表点を設定し、現フィールドのサーチ範囲の画素の輝度レベルと前フィールドの代表点の輝度レベルとを比較し、サーチ範囲の画素のうち代表点の画素に最も近い画素から動きベクトルを検出する方法である。
【0015】
図2は、代表点マッチング法による動きベクトル検出方法を示すものである。
現フィールドに複数の画素からなるサーチ範囲SRnが設定される。サーチ範囲SRnと同一位置で、同一の大きさの前フィールドの領域SRn-1 の例えば中心位置の画素の値が代表点St-1(Xk,Yk)とされる。代表点St-1(Xk,Yk)と 、サーチ範囲SRn内の複数の画素との輝度レベルの差の絶対値が演算される。サーチ範囲で発生した差の絶対値が相関値である。1フィールド内には、複数のサーチ範囲が設定され、各サーチ範囲で求められた相関値が1フィールドにわたって積分されることによって、相関値の積分値が形成される。この積分値から動きベクトルが検出される。
【0016】
このように、輝度レベルの相関を表す相関値は、代表点の輝度レベルとサーチ範囲SRnの各画素の輝度レベルの差の絶対値であり、相関が高い場合では、相関値が小さくなる関係にある。相関値としては、差の自乗を使用しても良い。相関値が積分された積分値から動きベクトルが検出される。サーチ範囲SRnを相関値の積分値とした場合、積分値が最小の位置aが検出される。代表点の位置と検出された位置aとの偏移から動きベクトルMvが検出される。
【0017】
撮影時の手振れにより発生する画像の揺れは、画面全体の揺れであり、手振れ補正は、フィールドメモリ4を使用して画面全体を手振れで発生した動きベクトルと逆の方向にシフトする処理である。画面全体の動きベクトルを求める方法の一例についてより具体的に説明する。
【0018】
図3は、撮像された1画面に設定される検出領域の例である。各フィールド(各画面)をほぼ4分割した各分割領域に検出領域D0,D1,D2,D3が設定される。各検出領域の動きベクトルが求められ、各検出領域の動きベクトルの中で信頼性の高いものを使用して画面全体の動きベクトルが求められる。
【0019】
図4は、検出領域Di(i=0,1,2,3)の一例を詳細に示す。前フィールドの検出領域には、複数例えば水平方向に8個、垂直方向に6個の合計48個の代表点が含まれる。各代表点に対応する空間的位置に、代表点と同数のサーチ範囲SRn(n=0〜47)が現フィールドに設定される。サーチ範囲は、水平方向の位置が(0,1,2,・・・,X)とされ、垂直方向の位置が(0,1,2,・・・,Y)とされる。この両方の位置によって、各画素の位置が規定される。代表点の位置は、例えばサーチ範囲と同一位置の領域の中心位置である。そして、代表点の位置に対する偏移x、偏移yが規定される。代表点と同一位置では、偏移xおよびyが共に0である。
【0020】
検出領域Diのそれぞれにおいて、各サーチ範囲で、各画素毎に相関値例えば代表点と各画素の差の絶対値が求められる。相関値が検出領域毎に積分され、相関値の積分値(以下、適宜検出領域の積分値と称する)からその検出領域の動きベクトルが求められる。図5は、相関値の積分値を求める方法を示す。図5では、1つの検出領域内にZ+1個のサーチ範囲SR0〜SRzが含まれる例である。
【0021】
図5の最上段には、サーチ範囲SR0で求められた相関値が示されている。各画素の位置に対応して相関値が発生するので、各相関値の位置が示されている。他のサーチ範囲の相関値も、同様に各画素の位置で発生する。そして、検出領域内の全てのサーチ範囲の相関値の中で、同じ位置のものが加算されることによって、相関値の積分値SRdが求められる。例えば(0,0,0)の位置の相関値、(0,0,1)の位置の相関値、・・・、(0,0,Z)の位置の相関値が合計された値が相関値の積分値SRdの(0,0)の位置の成分である。
【0022】
図6は、このようにして求められた1つの検出領域の相関値の積分値を3次元(偏移xおよびyと相関値の大きさ)で表すものである。図6において、積分値が最小となる位置aから動きベクトルを検出する。すなわち、位置aに対応する偏移xおよびyの値をその検出領域の相関値積分値の最小値とする。なお、上述したように、1つの検出領域内に複数のサーチ範囲を持つことによって、検出精度の低下を防止することができる。さらに、1つの検出領域内に設定される複数のサーチ範囲が互いにオーバーラップ部分を持つようにしても良い。
【0023】
図7は、動きベクトル検出装置2における動きベクトル検出部20の一例の構成を示す。入力端子21から映像信号が入力され、フィルタ処理回路22に供給される。フィルタ処理回路22によって動き検出に不要な周波数成分を除去する。フィルタ処理回路22の出力信号が代表点記憶回路23および減算器24の一方の入力端子に供給される。減算器24の他方の入力端子には、代表点記憶回路23からの代表点の値が供給される。
【0024】
代表点記憶回路23によって、サーチ範囲に対応する2次元領域の中心位置の画素の値が代表点として記憶される。例えば、代表点記憶回路23は、現フィールドの代表点を選択的に記憶するメモリと、前フィールドの代表点を保持するメモリとから構成される。代表点記憶回路23から減算器24の他方の入力端子に対しては、前フィールドの代表点の値が供給される。
【0025】
減算器24では、代表点からサーチ範囲内の各画素値が減算される。減算器24からの差のデータが絶対値変換回路25に供給され、差の絶対値に変換される。差の絶対値が相関値である。相関値が累積加算回路26に供給され、図5を参照して説明したように、検出領域に含まれる全ての相関値が積分される。累積加算回路26によって、1検出領域の相関値の積分値が得られる。
【0026】
累積加算回路26からの相関値の積分値が動きベクトル発生回路27に供給される。動きベクトル発生回路27では、積分値の最小値を検出し、その偏移xおよびyから動きベクトルを検出し、出力する。出力される動きベクトルは、1つの検出領域で検出されたものである。
【0027】
図8は、動きベクトル検出装置2の構成の一例を示す。動きベクトル検出装置2の内の動きベクトル検出部20については、図7と対応する部分に同一符号を付してその説明は、重複を避けるために省略する。動きベクトル検出装置2は、動きベクトル検出部20の他に、ベクトル特徴検出回路31、信頼性判別回路32およびベクトル決定回路33によって構成される。動きベクトル検出部20の累算加算回路26から出力される相関値の積分値が動きベクトル発生回路27と共に、ベクトル特徴検出回路31に供給される。
【0028】
ベクトル特徴検出回路31は、図6に示す最小値の点aの周辺の特徴、相関値積分値の特徴を検出する回路である。ベクトル特徴検出回路31で検出された特徴が信頼性判別回路32に供給される。信頼性判別回路32は、検出された特徴に基づいて信頼性の程度を示す信頼性情報を生成し、信頼性情報をベクトル決定回路33に供給する。ベクトル決定回路33では、信頼性情報を使用して信頼性の高い動きベクトルを決定する。動きベクトル決定回路33は、信頼性情報と各検出領域の動きベクトルとを使用して画面全体の動きベクトルを決定し、決定された動きベクトルを出力する。
【0029】
図3を参照して説明したように、1画面に4個の検出領域D1〜D4を設定している。動きベクトル検出部20では、D1から順に各検出領域の動きベクトルを検出し、ベクトル決定回路33には、検出領域D1、D2、D3、D4の順で、検出された動きベクトルと各検出領域の信頼性情報とが供給される。なお、各検出領域の動きベクトルを並列的に求めても良い。また、動きベクトル検出装置2の全体または一部の機能をソフトウェア処理で実現しても良い。
【0030】
ベクトル決定回路33では、4個の検出領域でそれぞれ求められた動きベクトルと信頼性の情報から画面全体の動きベクトルを検出する。このアルゴリズムは、種々のものが可能である。単純な例としては、最も信頼性が高いと判別された動きベクトルが画面全体の動きベクトルとして選択される。他の例としては、信頼性の高い動きベクトルが複数あった場合に、それらの平均値を画面全体の動きベクトルとして採用する。これら以外の方法も可能である。
【0031】
信頼性判別回路32は、動きベクトル検出部20から出力される動きベクトルが本来の手振れによる動きベクトルと異なることがあるために設けられている。
従来では、最小値、積分値の平均値に基づいて信頼性が判別されていた。
【0032】
図9において、参照符号41は、通常の被写体の偏移に対する積分値の変化を示し、41avがその平均値を示す。積分値の分布は、図6に示すように、3次元分布であるが、図9では、簡単のため1つの偏移(例えばXまたはY)に沿ったレベル変化が示されている。参照符号42は、移動物体が画面に進入した場合の積分値の変化を示す。この場合では、極値のレベルが通常の場合のものに比して大きくなる。参照符号43は、低コントラスト時の積分値の変化を示す。低コントラスト時では、平均値が小さくなる。これらの場合に検出された動きベクトルは、手振れを正確に反映しないことが多いので、信頼性が低いものと判別される。
【0033】
縞模様でない被写体の場合では、図6および図10に示すように、偏移に対する相関値の積分値のレベル分布は、1つの極値のみ存在するか、たとえ複数の極値が存在しても図11に示すようにそれらのレベルは、最小の極値と大きく異なっている。これらの場合では、従来の信頼性判定の方法を検出された動きベクトルに対して適用することができる。
【0034】
しかしながら、検出領域内の被写体の輝度レベルが2値的な縞模様の場合では、図12に示すように、積分値の分布として、複数の極値(図12では、位置aおよびb)が存在する場合が多く、レベルが比較的近い極値が存在する。また、図13に示すように、レベルが比較的近い複数の極値が存在する場合もある。そのため、本来の動きベクトルを点bの位置から検出すべきであるにもかかわらず、レベルが最小の極値の位置aから動きベクトルが検出される。この動きベクトルは、本来の手振れベクトルとは異なるものである。
【0035】
被写体が縞模様である場合では、積分値の最小値のレベルや、平均値に基づく従来の信頼性の判別構成では、本来手振れ動きベクトルとは異なったものが有効な動きベクトルとして扱われ、その結果、手振れ補正時に不自然な手振れ補正がなされる問題があった。
【0036】
この発明は、検出領域に縞模様が存在する場合においても、信頼性を判別できるようにするものである。すなわち、積分値の分布の中で複数の極値を検出し、最も積分値が小さい極値を最小(1番目の)極値とし、それ以外の極値と比較することによって、最小極値と、少なくとも2番目に小さい極値が近いレベルであることを検出した場合に、検出された動きベクトルの信頼性が低いと判定するものである。これは、動きベクトルとして検出される最小極値に対してレベルが近い極値が存在することによる誤動作を防止するためである。但し、信頼性判別回路がこの発明による信頼性判別の方法と共に、従来の最小値のレベル、平均値等の特徴を使用した信頼性の判別を併用するようにしても良い。
【0037】
最小極値と全ての極値を比較するのが1つの方法である。他の方法は、2番目に積分値が小さい点(第2極値)だけを最小極値と比較する方法である。第2極値以外に、極値の積分値に関する情報が無くても、充分に判別を行うことができる。このように、全ての極値ではなく、二つの極値しか扱わなければ、回路規模を抑えることができる。
【0038】
そこで、図12に示したように、偏移−相関値のグラフにおいて、複数の極値が存在する場合、最小極値と第2極値(2番目に小さい値)を用いて、次式に示す判別式を満たす場合に信頼性がないと判定される。ABS( )は、絶対値を意味する。
【0039】
第2極値/最小極値 ≦しきい値
【0040】
または、ABS(第2極値−最小極値)≦しきい値
【0041】
存在する極値を全て用いる場合では、次式によって信頼性が判定される。Σは、最小極値以外に存在する全ての極値の数の総和を意味する。
【0042】
ΣABS(極値−最小極値)/最小極値以外の全極値の数≦しきい値
【0043】
一実施形態では、ベクトル特徴検出回路31において、積分値の分布に存在する複数の極値の位置と、極値のレベルを検出する。検出された極値の位置とレベルの情報が信頼性判別回路32に供給され、信頼性判別回路32が上述した判別式に基づいて動きベクトルの信頼性を判別する。信頼性の有無の情報がベクトル決定回路33に供給され、ベクトル決定回路33は、例えば4個の検出領域のそれぞれで検出され、且つ信頼性が高いと判別された動きベクトルのみを使用して画面全体の動きベクトルを決定する。
【0044】
この発明は、上述したこの発明の一実施形態等に限定されるものでは無く、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。例えば極値のレベルは、0からのレベルに限らず、積分値の最大値(例えば8ビットデータの場合の255)との差によって規定しても良い。
【0045】
【発明の効果】
この発明では、輝度レベルが2値的な被写体例えば縞模様の被写体を撮影した場合では、積分値の分布において、複数の極値が発生し、しかも、1番目のものと少なくとも2番目のものとが近いレベルとなることに着目し、そのような場合では、検出された動きベクトルの信頼性を低いものと判定する。この信頼性判定処理によって、画面全体の動きベクトルを決定する場合に、信頼性の低い動きベクトルを排除することができ、手振れ補正時に不自然な補正をする等の誤動作を防止することができる。
【図面の簡単な説明】
【図1】手振れ補正装置の一例を示すブロック図である。
【図2】動きベクトル検出方法の説明に用いる略線図である。
【図3】動きベクトル検出のための検出領域を示す略線図である。
【図4】動きベクトル検出のための代表点とサーチ範囲の関係を示す略線図である。
【図5】相関値の積分値を説明するための略線図である。
【図6】相関値の積分値を3次元的に示す略線図である。
【図7】動きベクトル検出部の一例のブロック図である。
【図8】動きベクトル検出装置の一例のブロック図である。
【図9】偏移−積分値の例を示す略線図である。
【図10】通常の被写体から求められた偏移−積分値の例を示す略線図である。
【図11】通常の被写体から求められた偏移−積分値の例を示す略線図である。
【図12】縞模様のような2値的な被写体から求められた偏移−積分値の例を示す略線図である。
【図13】縞模様のような2値的な被写体から求められた偏移−積分値の例を示す略線図である。
【符号の説明】
2・・・動きベクトル検出装置、3・・・補正制御部、4・・・フィールドメモリ、31・・・ベクトル特徴検出回路、32・・・信頼性判別回路、33・・・動きベクトル決定回路
Claims (5)
- 撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出する動きベクトル検出装置において、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶手段と、
現在のフィールドまたはフレームに上記代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と上記代表点との相関値を演算する相関値演算手段と、
上記入力映像信号の画面が分割されて複数の検出領域が設定され、上記相関値演算手段からの相関値を上記検出領域のそれぞれの範囲で積分する積分手段と、
上記積分手段からの相関値の積分値に基づいて上記検出領域毎に動きベクトルを検出する動きベクトル検出手段と、
上記積分手段からの相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定手段と、
上記動きベクトル検出手段からの上記動きベクトルと、上記信頼性判定手段からの信頼性の情報とが供給され、画面全体の動きベクトルを決定する動きベクトル決定手段とを備え、
上記信頼性判定手段は、上記検出領域内に上記積分値の極値が複数存在することを検出し、上記極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、上記動きベクトル検出手段によって検出された上記検出領域の動きベクトルの信頼性が低いと判定し、
上記動きベクトル決定手段が上記信頼性が低いと判定された動きベクトルを除外して画面全体の動きベクトルを決定する動きベクトル検出装置。 - 撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出する動きベクトル検出方法において、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶ステップと、
現在のフィールドまたはフレームに上記代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と上記代表点との相関値を演算する相関値演算ステップと、
上記入力映像信号の画面が分割されて複数の検出領域が設定され、上記相関値演算手段からの相関値を上記検出領域のそれぞれの範囲で積分する積分ステップと、
求められた相関値の積分値に基づいて上記検出領域毎に動きベクトルを検出する動きベクトル検出ステップと、
上記相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定ステップと、
上記動きベクトル検出ステップにより検出された上記動きベクトルと、上記信頼性の情報とから、画面全体の動きベクトルを決定する動きベクトル決定ステップとを有し、
上記信頼性判定ステップは、上記検出領域内に上記積分値の極値が複数存在することを検出し、上記極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、上記動きベクトル検出ステップによって検出された上記検出領域の動きベクトルの信頼性が低いと判定し、
上記動きベクトル決定ステップにおいて上記信頼性が低いと判定された動きベクトルを除外して上記画面全体の動きベクトルを決定する動きベクトル検出方法。 - 撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出し、検出された動きベクトルによって手振れを補正する手振れ補正装置において、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶手段と、
現在のフィールドまたはフレームに上記代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と上記代表点との相関値を演算する相関値演算手段と、
上記入力映像信号の画面が分割されて複数の検出領域が設定され、上記相関値演算手段からの相関値を上記検出領域のそれぞれの範囲で積分する積分手段と、
上記積分手段からの相関値の積分値に基づいて上記検出領域毎に動きベクトルを検出する動きベクトル検出手段と、
上記積分手段からの相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定手段と、
上記動きベクトル検出手段からの上記動きベクトルと、上記信頼性判定手段からの信頼性の情報とが供給され、画面全体の動きベクトルを決定する動きベクトル決定手段とを備え、
上記信頼性判定手段は、上記検出領域内に上記積分値の極値が複数存在することを検出し、上記極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、上記動きベクトル検出手段によって検出された上記検出領域の動きベクトルの信頼性が低いと判定し、
上記動きベクトル決定手段が上記信頼性が低いと判定された動きベクトルを除外して上記画面全体の動きベクトルを決定し、決定された動きベクトルによって手振れを補正する手振れ補正装置。 - 撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出し、検出された動きベクトルによって手振れを補正する手振れ補正方法において、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶ステップと、
現在のフィールドまたはフレームに上記代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と上記代表点との相関値を演算する相関値演算ステップと、
上記入力映像信号の画面が分割されて複数の検出領域が設定され、上記相関値演算手段からの相関値を上記検出領域のそれぞれの範囲で積分する積分ステップと、
求められた相関値の積分値に基づいて上記検出領域毎に動きベクトルを検出する動きベクトル検出ステップと、
上記相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定ステップと、
上記動きベクトル検出ステップにより検出された上記動きベクトルと、上記信頼性の情報とから、画面全体の動きベクトルを決定する動きベクトル決定ステップとを有し、
上記信頼性判定ステップは、上記検出領域内に上記積分値の極値が複数存在することを検出し、上記極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、上記動きベクトル検出ステップによって検出された上記検出領域の動きベクトルの信頼性が低いと判定し、
上記動きベクトル決定ステップにおいて上記信頼性が低いと判定された動きベクトルを除外して上記画面全体の動きベクトルを決定し、決定された動きベクトルによって手振れを補正する手振れ補正方法。 - 撮像装置の手振れにより生じる動きベクトルを入力映像信号から検出し、検出された動きベクトルによって手振れを補正する手振れ補正装置を備えた撮像装置において、
上記手振れ補正装置は、
時間的に前のフィールドまたはフレームから複数の代表点を抽出して記憶する代表点記憶手段と、
現在のフィールドまたはフレームに上記代表点のそれぞれと同一の位置の画素を含む複数のサーチ範囲を設定し、各サーチ範囲内の複数の画素と上記代表点との相関値を演算する相関値演算手段と、
上記入力映像信号の画面が分割されて複数の検出領域が設定され、上記相関値演算手段からの相関値を上記検出領域のそれぞれの範囲で積分する積分手段と、
上記積分手段からの相関値の積分値に基づいて上記検出領域毎に動きベクトルを検出する動きベクトル検出手段と、
上記積分手段からの相関値の積分値を使用して検出された動きベクトルの信頼性を判定する信頼性判定手段と、
上記動きベクトル検出手段からの上記動きベクトルと、上記信頼性判定手段からの信頼性の情報とが供給され、画面全体の動きベクトルを決定する動きベクトル決定手段とを備え、
上記信頼性判定手段は、上記検出領域内に上記積分値の極値が複数存在することを検出し、上記極値の1番目のものと、少なくとも2番目の極値が近いレベルであることを検出した場合に、上記動きベクトル検出手段によって検出された上記検出領域の動きベクトルの信頼性が低いと判定し、
上記動きベクトル決定手段が上記信頼性が低いと判定された動きベクトルを除外して上記画面全体の動きベクトルを決定し、決定された動きベクトルによって手振れを補正するように構成された撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001264381A JP4639555B2 (ja) | 2001-08-31 | 2001-08-31 | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001264381A JP4639555B2 (ja) | 2001-08-31 | 2001-08-31 | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003078807A JP2003078807A (ja) | 2003-03-14 |
JP4639555B2 true JP4639555B2 (ja) | 2011-02-23 |
Family
ID=19090987
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001264381A Expired - Fee Related JP4639555B2 (ja) | 2001-08-31 | 2001-08-31 | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4639555B2 (ja) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3867691B2 (ja) * | 2003-07-15 | 2007-01-10 | ソニー株式会社 | 撮像装置 |
JP4539152B2 (ja) * | 2003-11-07 | 2010-09-08 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP4671696B2 (ja) * | 2004-01-14 | 2011-04-20 | パナソニック株式会社 | 動きベクトル検出装置 |
WO2005084036A1 (ja) | 2004-03-01 | 2005-09-09 | Sony Corporation | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム |
JP4622265B2 (ja) * | 2004-03-01 | 2011-02-02 | ソニー株式会社 | 動きベクトル検出装置、および動きベクトル検出方法、並びにプログラム |
JP4622264B2 (ja) * | 2004-03-01 | 2011-02-02 | ソニー株式会社 | 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム |
WO2006075394A1 (ja) * | 2005-01-14 | 2006-07-20 | Morhpo, Inc. | 動きベクトル演算方法とこの方法を用いた手ぶれ補正装置、撮像装置、並びに動画生成装置 |
JP2006295350A (ja) | 2005-04-07 | 2006-10-26 | Sony Corp | 撮像装置及び撮像結果の処理方法 |
KR100748174B1 (ko) * | 2005-12-27 | 2007-08-09 | 엠텍비젼 주식회사 | 동영상의 손떨림 검출 및 보정 장치 |
JP4620607B2 (ja) | 2006-02-24 | 2011-01-26 | 株式会社モルフォ | 画像処理装置 |
JP2007279800A (ja) * | 2006-04-03 | 2007-10-25 | Seiko Epson Corp | 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置 |
JP4178480B2 (ja) | 2006-06-14 | 2008-11-12 | ソニー株式会社 | 画像処理装置、画像処理方法、撮像装置および撮像方法 |
JP4982286B2 (ja) | 2007-07-25 | 2012-07-25 | 株式会社リコー | 撮像装置 |
US8265158B2 (en) * | 2007-12-20 | 2012-09-11 | Qualcomm Incorporated | Motion estimation with an adaptive search range |
JP5657391B2 (ja) | 2007-12-20 | 2015-01-21 | クゥアルコム・インコーポレイテッドQualcomm Incorporated | ハローを低減する画像補間 |
JP4480760B2 (ja) | 2007-12-29 | 2010-06-16 | 株式会社モルフォ | 画像データ処理方法および画像処理装置 |
JP4623111B2 (ja) | 2008-03-13 | 2011-02-02 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP5177513B2 (ja) * | 2008-04-24 | 2013-04-03 | 京セラ株式会社 | 動きベクトル検出装置およびその方法、並びに撮像装置 |
JP5388910B2 (ja) | 2010-03-10 | 2014-01-15 | パナソニック株式会社 | 画像揺れ補正装置および画像揺れ補正方法 |
US8537283B2 (en) | 2010-04-15 | 2013-09-17 | Qualcomm Incorporated | High definition frame rate conversion |
CN115174807B (zh) * | 2022-06-28 | 2024-08-02 | 上海艾为电子技术股份有限公司 | 防抖检测方法、装置、终端设备和可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06217187A (ja) * | 1992-10-14 | 1994-08-05 | Mitsubishi Electric Corp | 撮像装置,動きベクトル検出装置及び画像揺れ補正装置 |
JP2000032331A (ja) * | 1998-07-13 | 2000-01-28 | Kawasaki Steel Corp | 自動露光制御装置 |
-
2001
- 2001-08-31 JP JP2001264381A patent/JP4639555B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06217187A (ja) * | 1992-10-14 | 1994-08-05 | Mitsubishi Electric Corp | 撮像装置,動きベクトル検出装置及び画像揺れ補正装置 |
JP2000032331A (ja) * | 1998-07-13 | 2000-01-28 | Kawasaki Steel Corp | 自動露光制御装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2003078807A (ja) | 2003-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4639555B2 (ja) | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 | |
EP2101486B1 (en) | Image processing apparatus and image processing method | |
JP5057974B2 (ja) | 取得された画像フレーム間の意図的でないカメラ運動を補正するためのビデオデータの処理 | |
EP2111046A2 (en) | Image processing apparatus and image processing method | |
US8085986B2 (en) | Image processing apparatus and method for processing images more naturally and sharply | |
WO2011129249A1 (ja) | 画像処理装置、撮像装置、プログラム及び画像処理方法 | |
JP2009290827A (ja) | 画像処理装置および画像処理方法 | |
JP3866957B2 (ja) | 画像合成装置 | |
KR20180102639A (ko) | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체 | |
KR20070088836A (ko) | 영상 신호의 떨림 보정 장치와 그를 포함하는 영상 시스템및 그 방법 | |
EP1968308B1 (en) | Image processing method, image processing program, image processing device, and imaging device | |
JP2507138B2 (ja) | 動きベクトル検出装置及び画像揺れ補正装置 | |
JP2004088234A (ja) | ノイズ低減装置 | |
JP2011055259A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが格納されたプログラム記憶媒体 | |
JP4001979B2 (ja) | カムコーダの動き補正装置 | |
JP3534551B2 (ja) | 動き検出装置 | |
JP2003078808A (ja) | 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置 | |
JP2005130159A (ja) | 撮像装置および撮像装置の手振れ補正方法 | |
JP3465264B2 (ja) | ビデオデータの動き検出装置および方法 | |
JP4052348B2 (ja) | 画像処理装置、及び画像処理方法 | |
JP2009065283A (ja) | 画像ぶれ補正装置 | |
JP3639640B2 (ja) | 動きベクトル検出装置 | |
JP3601506B2 (ja) | 動きベクトル検出装置及び方法、並びに、画像の振動補正装置及び方法 | |
CN113658053B (zh) | 图像校正方法、装置、电子设备、计算机可读存储介质 | |
JP5506374B2 (ja) | 撮像装置及びその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080707 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100428 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100608 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100805 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101102 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101115 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131210 Year of fee payment: 3 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100805 |
|
LAPS | Cancellation because of no payment of annual fees |