[go: up one dir, main page]

JP6828069B2 - 撮像装置、撮像方法およびプログラム - Google Patents

撮像装置、撮像方法およびプログラム Download PDF

Info

Publication number
JP6828069B2
JP6828069B2 JP2019026720A JP2019026720A JP6828069B2 JP 6828069 B2 JP6828069 B2 JP 6828069B2 JP 2019026720 A JP2019026720 A JP 2019026720A JP 2019026720 A JP2019026720 A JP 2019026720A JP 6828069 B2 JP6828069 B2 JP 6828069B2
Authority
JP
Japan
Prior art keywords
imaging
image
images
focus
composite image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2019026720A
Other languages
English (en)
Other versions
JP2020136866A (ja
Inventor
鴻生 武智
鴻生 武智
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019026720A priority Critical patent/JP6828069B2/ja
Priority to US16/786,388 priority patent/US11057560B2/en
Publication of JP2020136866A publication Critical patent/JP2020136866A/ja
Application granted granted Critical
Publication of JP6828069B2 publication Critical patent/JP6828069B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、ピント位置の異なる複数の画像の撮像を行う撮像装置に関するものである。
デジタルカメラなどの撮像装置からの距離が互いに大きく異なる複数の被写体を撮像する場合や、奥行き方向に長い被写体を撮像する場合に、被写界深度が足りないために被写体の一部にしかピントを合わせられない場合がある。または、解像感の極めて高い画像を取得したい場合、被写界深度を浅くして撮像しなければならず、被写体の全部が被写界深度に入らないことがある。これを解決するため、特許文献1には、ピント位置の異なる複数の画像を撮像し、各画像から合焦領域のみを抽出して1枚の画像に合成し、撮像領域全体に合焦している合成画像を生成する、所謂、深度合成の技術が開示されている。
特開平10―290389号公報
しかしながら、特許文献1に記載の深度合成の技術では、合成処理によって被写界深度が拡張されるため、撮像を行う前に被写界深度が拡張された状態を確認することができない。そのため、ユーザは撮像時に深度合成の結果を予測して、撮像枚数、ピント位置の変化量を適切な値に設定しなければ期待する合成画像を得ることはできない。一旦、期待していなかった合成画像ができてしまうと、初めから撮像をやり直すしかなく、すでに合成した画像が無駄になる。
本発明は、上記の課題を鑑みてなされたものであり、異なるピント位置で撮像された画像を用いて複数の合成画像を作成するとき、始めから撮像をやり直すことなく意図した合成画像を生成できる撮像装置を提供することを目的とする。
上記課題を解決するため、本願発明は、少なくとも一部の画角が重なる複数の第1の画像と少なくとも1枚の第2の画像とを撮像する撮像手段と、前記複数の第1の画像からそれぞれの合焦している部分を抽出して、第1の合成画像を生成する合成手段と、前記第1の合成画像を表示する表示手段と、を有し、前記撮像手段が、前記複数の第1の画像を撮像した後、前記複数の第1の画像のピント位置の間のピント位置に、前記第2の画像を撮像し、前記合成手段が、さらに、前記第1の合成画像と前記第2の画像とから合焦している部分を抽出して、第2の合成画像を生成することを特徴とする撮像装置を提供する。
本発明の構成によれば、深度合成の合成を行うとき、期待していなかった合成画像ができても、始めから撮像をやり直すことなく意図した合成画像を生成する撮像装置を提供することができる。
本発明の実施形態におけるデジタルカメラのハードウェア構成を示すブロック図である。 本発明の実施形態における合成画像の生成について説明するためのフローチャートである。 本発明の実施形態における追加撮像の提示の一例を説明するための図である。 本発明の実施形態における撮像情報の記憶について説明するためのフローチャートである。 本発明の実施形態における追加撮像時の撮像の方法の設定について説明するためのフローチャートである。 本発明の実施形態における撮像を説明するための図である。 本発明の実施形態における追加撮像を説明するための図である。
以下では、添付の図面を参照しながら、本発明の好適な実施形態について詳細に説明する。
図1は、本実施形態におけるデジタルカメラのハードウェア構成を示すブロック図である。デジタルカメラ100は、静止画を撮像することができ、かつ、合焦位置の情報を記録し、コントラスト値の算出および画像の合成が可能なものである。さらに、デジタルカメラ100は、撮像して保存した画像、または、外部から入力した画像に対して、拡大処理または縮小処理を行うことができる。
制御部101は、例えばCPUやMPUなどのシグナルプロセッサであり、予め後述するROM105に内蔵されたプログラムを読み出しながら、デジタルカメラ100の各部分を制御する。たとえば、後述するように、制御部101が、後述する撮像部104に対して撮像の開始と終了について指令を出す。または、後述する画像処理部107に対して、ROM105に内蔵されたプログラムに基づいて、画像処理の指令を出す。ユーザによる指令は、後述する操作部110によってデジタルカメラ100に入力され、制御部101を通して、デジタルカメラ100の各部分に達する。
駆動部102は、モーターなどによって構成され、制御部101の指令の下で、後述する光学系103を機械的に動作させる。たとえば、制御部101の指令に基づいて、駆動部102が光学系103に含まれるフォーカスレンズの位置を移動させ、光学系103のピント位置を調整する。
光学系103は、ズームレンズ、フォーカスレンズ、および絞りなどにより構成される。絞りは、透過する光量を調整する機構である。レンズの位置を変えることによって、合焦位置を変えることができる。
撮像部104は、光電変換素子であり、入射された光信号を電気信号に変換する光電変換を行うものである。たとえば、撮像部104に、CCDやCMOSセンサなどを適用することができる。撮像部104は、動画撮像モードを設け、時間的に連続する複数の画像を動画の各々のフレームとして、撮像することができる。
ROM105は、記録媒体としての読み出し専用の不揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作プログラムに加え、各ブロックの動作に必要なパラメータ等を記憶している。RAM106は、書き換え可能な揮発性メモリであり、デジタルカメラ100が備える各ブロックの動作において出力されたデータの一時的な記憶領域として用いられる。
画像処理部107は、撮像部104から出力された画像、あるいは後述する内蔵メモリ109に記録されている画像信号のデータに対して、ホワイトバランス調整、色補間、フィルタリングなど、様々な画像処理を行う。また、撮像部104が撮像した画像信号のデータに対して、JPEGなどの規格で、圧縮処理を行う。
画像処理部107は、特定の処理を行う回路を集めた集積回路(ASIC)で構成される。あるいは、制御部101がROM105から読み出したプログラムに従って処理することで、制御部101が画像処理部107の機能の一部または全部を兼用するようにしてもよい。制御部101が画像処理部107の全ての機能を兼用する場合には、画像処理部107をハードウェアとして有する必要はなくなる。
具体的に、画像処理部107は合成の処理として、加算合成処理、加重加算合成処理、などが可能である。合成前の画像データのそれぞれの画素値をI_i(x,y)(i=1〜N,x,yは画面内の座標を表す)、それらのN枚の画像の合成後の画像の画素値をI(x,y)とする。ここで画素値としては、AWB処理がなされた後に出力されるベイヤー配列のR、G1、G2、Bの各信号の値でもよいし、R、G1、G2、Bの信号のグループから得られる輝度信号の値(輝度値)でもよい。このとき、ベイヤー配列の信号を、画素毎にR、G、Bの信号が存在するように補間処理してから、画素毎に輝度値を算出しても良い。輝度値は、たとえば下記の(式1)を用いて算出される。
Y=0.3×R+0.59×G+0.11×B ・・・(式1)
複数の画像データ間で必要に応じて位置合わせ等の処理を行い対応づけられた各画素値について、各処理は下記の式に従って行われる。
加算合成処理は、下記の(式2)を用いて算出できる。
I(x,y)=I_1(x,y)+I_2(x,y)+・・・+I_N(x,y) ・・・・・・(式2)
加重加算合成処理は、akを重み付け係数として、下記の(式3)を用いて算出できる。
I(x,y)=(a1×I_1(x,y)+a2×I_2(x,y)+・・・+aN×I_N(x,y))/N ・・・(式3)
表示部108は、RAM106に一時保存されている画像、または、後述する内蔵メモリ109に保存されている画像、あるいは、デジタルカメラ100の設定画面などを表示するための液晶ディスプレイや有機ELディスプレイなどである。
内蔵メモリ109は、撮像部104が撮像した画像や画像処理部107の処理を得た画像、および、画像撮像時の合焦位置の情報などを記録する場所である。内蔵メモリの代わりに、メモリカードなどを用いてもよい。
操作部110は、たとえば、デジタルカメラ100につけるボタンやスイッチ、キー、モードダイアルなど、あるいは、表示部108に兼用されるタッチパネルなどである。ユーザによる指令は、操作部110を経由して、制御部101に達する。
図2は、本実施形態における合成画像の生成について説明するためのフローチャートである。
ステップS201で、制御部101は、ユーザの指令のもとで、撮像のための設定を行う。ユーザの指令は、操作部110を通じて制御部101に達する。ここでの撮像のための設定は、たとえば、1枚目の画像を撮像するときのピント位置と、2枚目以降の画像を撮像するときの画像間のピント位置移動間隔、および撮像枚数などを指す。ユーザの操作の一例としては、ユーザがタッチパネルでピント位置を指定し、そのピント位置を中心に制御部101が複数のピント位置を予め定められたピント間隔で設定する。
次にステップS202で制御部101は光学系103を構成するレンズをステップS201で設定したピント位置のそれぞれにデジタルカメラ100のピントを変えながら、撮像部104を制御して各々のピント位置で撮像する。撮像を行ううちに、デジタルカメラ100のピント以外の設定は変更しないが、撮像した画像の画角が、ピント位置を異ならせることにより若干に変化する。
制御部101はステップS203で、ピント位置、ピント位置移動間隔、撮像枚数といったステップS203での撮像情報を記憶する。撮像情報の記憶の詳細については後述する。
ステップS204で、画像処理部107は、ステップS202で撮像部104が撮像した画像に対して深度合成を行う。
深度合成の方法の一例について説明する。まず、制御部101は、合成の対象となる2つの画像の位置のずれ量を算出する。算出方法の一例は、以下に述べる。まず、制御部101は、片方の画像に、複数のブロックを設定する。制御部101は、各々のブロックのサイズが同じになるように設定することが好ましい。次に、制御部101は、もう片方の画像に、設定したそれぞれのブロックと同じ位置に、該ブロックよりも広い範囲を、探索範囲を設定する。最後に、制御部101は、もう片方の画像のそれぞれの探索範囲に、最初に設定したブロックとの輝度の差分絶対値和(Sum of Absolute Difference、以下、SADをいう)が最小となる対応点を算出する。制御部101は、最初に設定したブロックの中心と前述した対応点から、位置のずれをベクトルとして算出する。制御部101は、前述する対応点の算出において、SADのほかに、差分二乗和(Sum of Squared Difference、以下SSDをいう)や正規化相互相関(Normalized Cross Correlation、以下NCCをいう)などを用いてもよい。
次に、制御部101は位置のずれ量から変換係数を算出する。制御部101は、変換係数として、例えば射影変換係数を用いる。ただし、変換係数として射影変換係数だけに限定するわけではなく、アフィン変換係数や水平垂直シフトのみの簡略化した変換係数を用いてもよい。
たとえば、制御部101は、(式4)に示した式を用いて変形を行うことができる。
Figure 0006828069
(式4)では、(x´,y´)は変形を行った後の座標を示し、(x,y)は変形を行う前の座標を示す。
次に、画像処理部107は、位置合わせを行った後のそれぞれの画像に対してコントラスト値を算出する。コントラスト値の算出方法の一例としては、たとえば、まず、画像処理部107は、それぞれの画素の色信号Sr、Sg、Sbから、下記の(式5)を用いて輝度Yを算出する。
Y=0.299Sr+0.587Sg+0.114Sb・・・(式5)
次に、3×3の画素の輝度Yの行列Lに、下記の(式6)乃至(式8)に示したように、ソーベルフィルタを用いてコントラスト値Iを算出する。
Figure 0006828069
Figure 0006828069
Figure 0006828069
また、上述のコントラスト値の計算方法は一例にすぎず、たとえば、使用するフィルタをラプラシアンフィルタ等のエッジ検出フィルタや所定の帯域を通過するバンドパスフィルタを用いることも可能である。
次に、画像処理部107は、合成マップを生成する。合成マップの生成方法としては、画像処理部107は、それぞれの画像の同じ位置にある画素のコントラスト値を比較し、コントラスト値の最も高い画素の合成比率を100%とし、同じ位置にあるほかの画素の合成比率を0%とする。画像処理部107は、こうした合成比率の設定を、画像のすべての位置に対して行う。
最後に、画像処理部107は、合成マップに従い画素の置き換えを行い、合成画像を生成する。なお、このようにして算出した合成比率に対して、隣接画素間で合成比率が0%から100%に変化(あるいは100%から0%に変化)すると、合成境界での不自然さが目立つようになる。そのため、合成マップに対して所定の画素数(タップ数)を持つフィルタをかけ、隣接画素間で合成比率が急激に変化しないようにする。
ステップS205で、表示部108は、ステップS204で生成した合成画像を表示する。
ステップS206で、表示部108は、追加撮像の有無や方法を提示し、ユーザに選択させる。
図3は、本実施形態における追加撮像の提示の一例を説明するための図である。たとえば、ステップS206で、表示部108は、図3に示すような画面を表示することで、ユーザに追加撮像の選択を促す。図3では、表示部108はステップS205で表示した合成画像とともに、ボタン301ないし304も表示する。ボタン301ないし304は、それぞれ、「至近側で追加撮像」、「無限遠側で追加撮像」、「ピント位置の補間で追加撮像」、「追加撮像しない」を意味する。ユーザが、表示部108が兼用するタッチパネルにあるボタン301ないし304のいずれかをタッチすることによって、追加撮像の方法、または、追加撮像しないことを選択する。
ただし、上記の内容は一例にすぎず、ほかに様々な方法でユーザに追加撮像の選択をさせることができる。たとえば、表示部108がステップS205で先に合成画像を表示した後、ステップS206で合成画像を表示せずに、ボタン301ないし304を表示する。または、表示部108が先に「追加撮像する」「追加撮像しない」とのボタンを表示し、「追加撮像する」が選ばれたら、「至近側で追加撮像」、「無限遠側で追加撮像」、「ピント位置の補間で追加撮像」を表示する。
次に、ステップS207で制御部101がユーザの指令で、追加撮像を行うかどうかを判断する。追加撮像を行わない場合、図2のフローが終了する。追加撮像を行う場合、ステップS208に進み、制御部101が、追加撮像時の撮像の方法の設定を行う。追加撮像時の撮像の方法の設定の詳細について後述する。
ステップS203での撮像情報の記憶について説明する。図4は、本実施形態における撮像情報の記憶について説明するためのフローチャートである。
撮像情報の記憶の処理が始まると制御部101は、ステップS401で、直前のステップS202での撮像が初回の撮像か追加撮像かを判断する。初回の撮像であれば、ステップS402に進み、制御部101が撮像時のピント間隔を記憶し、次にステップS403で、制御部101が撮像したピント位置の中で最も至近側のピント位置と最も無限遠側のピント位置とを記憶する。そして、制御部101はステップS404へと進み、制御部101が撮像枚数を記憶する。
一方で、ステップS401で、直前の撮像が追加撮像だった場合は、フローはステップS405に進む。
ステップS405とステップS406で、制御部101は直前の追加撮像の方法を判断する。ステップS405で制御部101は直前の追加撮像の方法が補間で追加かどうかを判断する。補間で追加であればステップS407に進み、補間で追加でなければステップS406に進む。ステップS406でさらに制御部101は直前の追加撮像の方法が至近側から追加するかどうかを判断する。至近側から追加するのであればステップS408に進み、至近側から追加するのでなければ、つまり、無限遠側から追加するのであればステップS409に進む。
ステップS407で、制御部101が記憶していたピント間隔を更新して記憶する。ステップS408で、制御部101が記憶していた最も至近側のピント位置を更新して記憶する。ステップS409で、制御部101が記憶していた最も無限遠側のピント位置を更新して記憶する。ステップS407ないし409のいずれの次も、ステップS404に進み、制御部101が撮像枚数を記憶する。
なお、ステップS404で制御部101が記憶した撮像枚数は、後から設定したピント位置の数から算出することができ、ここでステップS404での記憶を行わなくてもよい。
次に、ステップS208での追加撮像時の撮像の方法の設定について説明する。図5は、本実施形態における追加撮像時の撮像の方法の設定について説明するためのフローチャートである。ステップS501で、制御部101が、追加撮像の方法が補間で追加かどうかを判断する。補間で追加であればステップS507に進み、補間で追加でなければステップS502に進む。
補間で追加撮像を行う場合、ステップS507で、直前の撮像で記憶したピント間隔を追加撮像のピント間隔として使うことを制御部101が設定する。ステップS508で、制御部101が追加撮像の開始のピント位置およびピントの移動方向を決める。たとえば、制御部101が、追加したピント位置の中で両端のピント位置のどちらかを開始のピント位置として決め、合わせてピントの移動方向を決める。
ステップS502で、制御部101が、追加撮像の方法が至近側から追加するかを判断する。至近側から追加であればステップS503に進み、至近側から追加でなければ、つまり無限遠側から追加であれば、ステップS505に進む。
追加撮像の方法が至近側から追加であれば、ステップS503で、制御部101が、追加撮像の開始位置を追加したピント位置のうち、最も至近側のピント位置に設定する。ここでいう最も至近側のピント位置の決め方について一例をあげる。たとえば、ユーザが合成画像を観察し、被写界深度を拡張させたい限界に相当する箇所を指示し、該箇所に最も至近側のピント位置が設定され、追加撮像の開始位置とされる。次に、ステップS504で、制御部101が、追加撮像のピント位置の移動方向を至近側から無限遠側へと設定する。次にステップS509に進み、制御部101が、記憶したピント間隔を追加撮像のピント間隔として設定する。つまり、制御部101が、追加撮像のピント間隔を直前の撮像のピント間隔と同じなるようにする。
追加撮像の方法が無限遠側から追加であれば、ステップS505で、制御部101が、追加撮像の開始位置を追加したピント位置のうち、最も無限遠側のピント位置に設定する。たとえば、同様に、ユーザが合成画像を観察し、被写界深度を拡張させたい限界に相当する箇所を指示し、該箇所に最も無限遠側のピント位置が設定され、追加撮像の開始位置とされる。次に、ステップS506で、制御部101が、追加撮像のピント位置の移動方向を無限遠側から至近側へと設定する。次にステップS509に進み、制御部101が、記憶したピント間隔を追加撮像のピント間隔として設定する。つまり、制御部101が、追加撮像のピント間隔を直前の撮像のピント間隔と同じなるようにする。
なお、以上の説明において、ピント位置の移動方向が逆でも構わない。また、ここでのピント間隔の設定は、追加撮像と直前の撮像と同じにしているが、これに限らず、状況に応じて適宜変化させてもよい。たとえば、解像感を特にあげたい物体が追加撮像の合焦範囲にあれば、ピント間隔をもっと細かくしてもよい。
以上はステップS208での追加撮像時の撮像の方法の設定について説明であった。
以下では、図を用いながら本実施形態における撮像のシーンについて例を挙げて説明する。
図6は、本実施形態における撮像を説明するための図である。
図6(a)は、デジタルカメラが光軸方向での距離が異なる3つの被写体601、602、603に向き、表示部108が被写体601、602、603を表示することを示している。
図6(b)は、デジタルカメラが複数のピント位置604において撮像を行い、深度合成を行い、合成画像を作成する様子を示している。複数のピント位置604が被写体601および603に置かれていないため、合成画像において被写体601と603がぼけている。
図6(c)は、デジタルカメラが複数のピント位置において撮像を行い、深度合成を行い、合成画像を作成する様子を示している。複数のピント位置の間の距離は、それぞれの被写界深度よりも遠いため、ピントがぬけた範囲605ができてしまう。合成画像において、被写体602の一部がぼける画像になってしまう。
図7は本実施形態における追加撮像を説明するための図である。
図7(a)は、被写体601にも合焦する合成画像を得るために、至近側で追加撮像の様子を示している。制御部101が、ピント位置701よりも至近側に追加撮像のピント位置を設定する。具体的に、被写体601に位置を考慮し、最も至近側のピント位置703を設定し、それに追加撮像のピント間隔が直前のピント間隔702と等しくなるように、他の追加撮像のピント位置を設定する。
図7(b)は、被写体603にも合焦する合成画像を得るために、無限遠側で追加撮像の様子を示している。制御部101が、ピント位置401よりも無限遠側に追加撮像のピント位置を設定する。具体的に、被写体603に位置を考慮し、最も無限遠のピント位置705を設定し、それに追加撮像のピント間隔が直前のピント間隔702と等しくなるように、他の追加撮像のピント位置を設定する。
図7(c)は、被写体602にぼける部分が発生しないように、制御部101が直前の撮像のピント位置の間に、新たにピント位置を設定する様子を示している。追加撮像した後のピント間隔707が、追加撮像する前のピント間隔の半分になる。つまり、追加撮像した画像ピント位置が、直前に撮像した画像のうち隣り合う画像のピント位置の中央にある。
なお、上記の実施方法は一例にすぎず、さまざまな変形をして実施することができる。たとえば、以上の記載では、ユーザが「至近側で追加撮像」、「無限遠側で追加撮像」、「ピント位置の補間で追加撮像」のいずれかを選択するようにしているが、必ず1つ選択する必要がない。たとえば、ユーザが「至近側で追加撮像」と「無限遠側で追加撮像」とを同時に選択することができる。至近側と無限遠側との両方で追加撮像することで、たとえば、図6(b)に示したような場合、1回の追加撮像で、被写体601と603との両方に合焦する合成画像ができる。
このように、本実施形態によれば、深度合成のための撮像を行うとき、たとえ意図していなかった合成画像ができてしまうとしても、一から撮像をやり直さずに、すでに撮像した画像を利用し、追加撮像で意図していた合成画像が得られる。
なお、以上に説明した実施形態では、撮像から合成までの処理は、同一の装置内において行われるが、これに限るわけではない。たとえば、撮像の処理を撮像装置などで実行し、合成の処理を、PCやサーバーといった別の処理装置を用いて実行するようにしてもよい。
また、上記の至近側で追加撮像および無限遠側で追加撮像は、光学系103などの制限を超えていないことを前提としているが、もしさらに至近側または無限遠側にピントを動かせない場合、デジタルカメラ100が適宜警告を出す。
(その他の実施形態)
以上の実施形態は、デジタルカメラでの実施をもとに説明したが、デジタルカメラに限定するものではない。たとえば、撮像素子が内蔵した携帯機器などで実施してもよく、画像を撮像することができるネットワークカメラなどでもよい。
なお、本発明は、上述の実施形態の1つ以上の機能を実現するプログラムを、ネットワークまたは記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読み出し作動させる処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 デジタルカメラ
101 制御部
102 駆動部
103 光学系
104 撮像部
105 ROM
106 RAM
107 画像処理部
108 表示部
109 内蔵メモリ
110 操作部

Claims (10)

  1. 少なくとも一部の画角が重なる複数の第1の画像と少なくとも1枚の第2の画像とを撮像する撮像手段と、
    前記複数の第1の画像からそれぞれの合焦している部分を抽出して、第1の合成画像を生成する合成手段と、
    前記第1の合成画像を表示する表示手段と、を有し、
    前記撮像手段が、前記複数の第1の画像を撮像した後、前記複数の第1の画像のピント位置の間のピント位置に、前記第2の画像を撮像し、
    前記合成手段が、さらに、前記第1の合成画像と前記第2の画像とから合焦している部分を抽出して、第2の合成画像を生成することを特徴とする撮像装置。
  2. 前記複数の第1の画像と前記第2の画像とは、互いに光軸方向にピント位置が異なる画像であることを特徴とする請求項1に記載の撮像装置。
  3. 前記複数の第1の画像と前記第2の画像とは、少なくとも一部の画像が前記ピント位置の間隔が等しいことを特徴とする請求項2に記載の撮像装置。
  4. 前記合成手段が前記第1の合成画像を生成した後、前記撮像手段が前記第2の画像を撮像することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記撮像手段が、前記表示手段が前記第1の合成画像を表示した後、前記第2の画像を撮像することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 第1の指示を取得する取得手段を有し、
    前記表示手段が前記第1の合成画像を表示した後、前記取得手段が前記第1の指示を取得してから、前記撮像手段が前記第2の画像の撮像を行うことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記取得手段が、さらに第2の指示を取得し、
    前記撮像手段が、前記第2の指示に応じて前記第2の画像を撮像する方法を決めることを特徴とする請求項6に記載の撮像装置。
  8. 前記撮像手段が、前記第2の画像の前記ピント位置を隣り合う前記第1の画像の前記ピント位置の中央に設定することを特徴とする請求項7に記載の撮像装置。
  9. 少なくとも一部の画角が重なる複数の第1の画像と少なくとも1枚の第2の画像とを撮像する撮像ステップと、
    前記複数の第1の画像からそれぞれの合焦している部分を抽出して、第1の合成画像を生成する合成ステップと、
    前記第1の合成画像を表示する表示ステップと、を有し、
    前記撮像ステップにおいて、前記複数の第1の画像を撮像した後、前記複数の第1の画像のピント位置の間のピント位置に、前記第2の画像を撮像し、
    前記合成ステップにおいて、さらに、前記第1の合成画像と前記第2の画像とから合焦している部分を抽出して、第2の合成画像を生成することを特徴とする撮像方法。
  10. 撮像装置をコンピュータに動作させるコンピュータのプログラムであって、
    少なくとも一部の画角が重なる複数の第1の画像と少なくとも1枚の第2の画像とを撮像する撮像ステップと、
    前記複数の第1の画像からそれぞれの合焦している部分を抽出して、第1の合成画像を生成する合成ステップと、
    前記第1の合成画像を表示する表示ステップと、を行わせ、
    前記撮像ステップにおいて、前記複数の第1の画像を撮像した後、前記複数の第1の画像のピント位置の間のピント位置に、前記第2の画像を撮像し、
    前記合成ステップにおいて、さらに、前記第1の合成画像と前記第2の画像とから合焦している部分を抽出して、第2の合成画像を生成することを特徴とするコンピュータのプログラム。
JP2019026720A 2019-02-18 2019-02-18 撮像装置、撮像方法およびプログラム Expired - Fee Related JP6828069B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019026720A JP6828069B2 (ja) 2019-02-18 2019-02-18 撮像装置、撮像方法およびプログラム
US16/786,388 US11057560B2 (en) 2019-02-18 2020-02-10 Image pickup apparatus, image pickup method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019026720A JP6828069B2 (ja) 2019-02-18 2019-02-18 撮像装置、撮像方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2020136866A JP2020136866A (ja) 2020-08-31
JP6828069B2 true JP6828069B2 (ja) 2021-02-10

Family

ID=72042562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019026720A Expired - Fee Related JP6828069B2 (ja) 2019-02-18 2019-02-18 撮像装置、撮像方法およびプログラム

Country Status (2)

Country Link
US (1) US11057560B2 (ja)
JP (1) JP6828069B2 (ja)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10290389A (ja) 1997-04-16 1998-10-27 Toyota Motor Corp マルチフォーカス画像作成方法及び画像作成装置
US8111300B2 (en) * 2009-04-22 2012-02-07 Qualcomm Incorporated System and method to selectively combine video frame image data
US9047666B2 (en) * 2013-03-12 2015-06-02 Futurewei Technologies, Inc. Image registration and focus stacking on mobile platforms
JP5662511B2 (ja) * 2013-04-10 2015-01-28 シャープ株式会社 撮像装置
JP6147347B2 (ja) * 2013-08-07 2017-06-14 シャープ株式会社 撮像装置
JP6325816B2 (ja) * 2013-12-27 2018-05-16 株式会社キーエンス 拡大観察装置、拡大画像観察方法、拡大画像観察プログラム及びコンピュータで読み取り可能な記録媒体
TWI706181B (zh) * 2015-09-11 2020-10-01 新加坡商海特根微光學公司 具有自動對焦控制的成像裝置
JP2018046543A (ja) * 2016-09-13 2018-03-22 パナソニックIpマネジメント株式会社 画像処理装置及び撮像装置
US10282825B2 (en) * 2016-09-13 2019-05-07 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus and imaging apparatus

Also Published As

Publication number Publication date
US11057560B2 (en) 2021-07-06
JP2020136866A (ja) 2020-08-31
US20200267316A1 (en) 2020-08-20

Similar Documents

Publication Publication Date Title
JP5036599B2 (ja) 撮像装置
US9538085B2 (en) Method of providing panoramic image and imaging device thereof
JP5578442B2 (ja) 撮像装置、画像合成方法、及びプログラム
JP2018107526A (ja) 画像処理装置、撮像装置、画像処理方法およびコンピュータのプログラム
CN107205112A (zh) 摄像装置、摄像方法以及记录介质
JP6529533B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP2018101951A (ja) 撮像装置、撮像方法およびコンピュータのプログラム
JP6833801B2 (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2009053786A (ja) 画像処理装置、撮像装置、画像処理方法、および、プログラム
JP6961423B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体
JP2020160773A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP5673137B2 (ja) 撮像装置および撮像方法
JP6828069B2 (ja) 撮像装置、撮像方法およびプログラム
JP7458769B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP2007096588A (ja) 画像撮影装置および画像表示方法
JP2021180366A (ja) 撮像装置及びその制御方法、並びにプログラム
JP2022083147A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP5417920B2 (ja) 画像処理装置、画像処理方法、電子カメラおよび画像処理プログラム
JP2014236244A (ja) 画像処理装置、画像処理プログラム、およびデジタルカメラ
JP7225281B2 (ja) 撮像装置、撮像装置の制御方法、コンピュータのプログラムおよび記録媒体
WO2010131724A1 (ja) デジタルカメラ
JP7409604B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP6953594B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
JP7608119B2 (ja) 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体
US20240127398A1 (en) Image capturing apparatus and image capturing method for generating high-resolution image, and non-transitory computer-readable storage medium storing program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190930

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210120

R151 Written notification of patent or utility model registration

Ref document number: 6828069

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees