[go: up one dir, main page]

JP6104060B2 - 撮像装置、撮像方法 - Google Patents

撮像装置、撮像方法 Download PDF

Info

Publication number
JP6104060B2
JP6104060B2 JP2013120068A JP2013120068A JP6104060B2 JP 6104060 B2 JP6104060 B2 JP 6104060B2 JP 2013120068 A JP2013120068 A JP 2013120068A JP 2013120068 A JP2013120068 A JP 2013120068A JP 6104060 B2 JP6104060 B2 JP 6104060B2
Authority
JP
Japan
Prior art keywords
time
image data
image
division
dark
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013120068A
Other languages
English (en)
Other versions
JP2014239299A (ja
Inventor
義尚 島田
義尚 島田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013120068A priority Critical patent/JP6104060B2/ja
Priority to US14/270,102 priority patent/US9247137B2/en
Priority to CN201410239480.7A priority patent/CN104243863B/zh
Publication of JP2014239299A publication Critical patent/JP2014239299A/ja
Application granted granted Critical
Publication of JP6104060B2 publication Critical patent/JP6104060B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6842Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by controlling the scanning position, e.g. windowing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、明時画像データと暗時画像データとを取得して暗電流を補正する撮像装置、撮像方法に関する。
暗電流により発生する画像のノイズは、S/N比が低下する場合、例えば低輝度の被写体を長時間露光して画像を取得する場合などに目立つために、こうした暗電流ノイズの除去については従来より種々の提案がなされている。
例えば、特開2000−209506号公報には、暗電流が撮像素子の温度や露出時間に応じて増減することに鑑みて、明時画像を撮像した直後に、撮像素子全体を遮光した状態で明時画像と同じ露出時間だけ電荷蓄積動作を行って暗電流成分に起因する暗時画像を取得し、明時画像から暗時画像を減算することにより、暗電流による画質の低下を低減する技術が記載されている。
また、特開2004−229032号公報には、明時画像の撮影に伴って暗時画像の撮影を行う煩雑さを軽減するための、次のような技術が記載されている。すなわち、デジタルカメラを出荷する前に、シャッタ速度とカメラ感度の組み合わせを異ならせて複数回のダーク露光撮影を行い、得られた複数のダーク画像データをメモリに記憶させておく。そして、実撮影時には、実撮影画像データを得たときのシャッタ速度とカメラ感度に対応するノイズ補正データを、メモリから読み出したダーク画像データに基づき算出し、算出したノイズ補正データを実撮影画像データから減算してノイズを除去する。
ところで、長時間露光を行う際に、露光中の画像の様子を確認することができる技術として、いわゆるライブバルブ撮影の技術が提案され製品化されている。このライブバルブ撮影は、長時間露光画像を複数の露光画像に時分割して読み出し表示することにより、画像が露光されていく様子を観察することができるようにする技術である。
このライブバルブ撮影において、暗電流ノイズを除去する処理を、図24および図25を参照して説明する。図24は明時画像をライブバルブ撮影するときの動作を示すタイミングチャート、図25は暗時画像をライブバルブ撮影するときの動作を示すタイミングチャートである。なお、図24および図25には、全露光時間Texpを3つの分割露光時間Texp1,Texp2,Texp3に分割する場合を例示している。
図24に示すように、明時画像のライブバルブ撮影は、メカニカルシャッタ(以下では、「メカニカル」を適宜「メカ」と省略する)を開いて、画素にリセットパルスRSTを印加してリセットすることにより開始される。
そして露光開始から第1の分割露光時間Texp1が経過したところで、垂直同期信号VDに同期して読出パルスRDの印加を開始することにより第1回目の画素の読み出しを行い、撮像データとして第1の時分割明時画像データA1を取得する。取得した時分割明時画像データA1は、必要な画像処理を行った後に、撮像装置の表示部に表示される。
続いて、第1回目の画素の読み出しから第2の分割露光時間Texp2が経過したところで、垂直同期信号VDに同期して読出パルスRDの印加を開始することにより第2回目の画素の読み出しを行い、撮像データとして第2の時分割明時画像データA2を取得する。取得した時分割明時画像データA2は、第1の時分割明時画像データA1と加算され、必要な画像処理を行った後に、撮像装置の表示部に表示される。これにより、露光開始時点から露光時間(Texp1+Texp2)だけの露光を行ったのに等しい画像が表示部に表示されることになる。
さらに、第2回目の画素の読み出しから第3の分割露光時間Texp3が経過したところで、垂直同期信号VDに同期して読出パルスRDの印加を開始することにより第3回目の画素の読み出しを行い、撮像データとして第3の時分割明時画像データA3を取得する。なお、全画素の読み出しが終了したところで、メカシャッタを閉じる。取得した時分割明時画像データA3は、第1の時分割明時画像データA1および第2の時分割明時画像データA2と加算され(つまり、明時画像データA=A1+A2+A3が算出され)、必要な画像処理を行った後に、撮像装置の表示部に表示される。これにより、露光開始時点から全露光時間Texpだけの露光を行ったのに等しい画像が表示部に表示されることになる。
このような明時画像の撮像を行ったら、明時画像を撮像した時点の暗電流とできるだけ相関性の高い暗電流を取得するために、遅滞なく引き続いて暗時画像の撮像を行う。
この暗時画像の取得は図25に示すように行われ、撮像がメカシャッタを閉じた状態で行われること以外は、撮像データの取得までの処理は明時画像のライブバルブ撮影と同様となる。ただし、時分割露光により取得される時分割暗時画像データは、時分割明時画像データとは異なり、表示部には表示されない。
こうして全ての時分割暗時画像データB1,B2,B3が取得されたら、これらを加算して、露光開始時点から全露光時間Texpだけの露光を行ったのに等しい暗時画像データB=B1+B2+B3を算出する。そして、明時画像データA=A1+A2+A3から暗時画像データB=B1+B2+B3を減算することにより、暗電流成分が低減された画像データを生成して、その後にゲインアップやその他の画像処理等を行って保存する。
このような処理により、バルブ撮影時に形成されていく画像の様子をライブビューで確認することができるとともに、固定パターンノイズ(FPN)が低減された画像を取得することが可能となる。
上述したようなライブバルブ撮影は、露光時間が長時間となるために、撮像装置を三脚などにより固定して実施することが前提となっている。
特開2000−209506号公報 特開2004−229032号公報
ここでもし、上述したようなライブバルブ撮影を、三脚等を利用することなく手持ちで行おうとする場合には、ブレ補正が必須になると考えられる。
ブレ補正には、レンズまたは撮像素子をブレ補正方向に駆動するメカブレ補正と、撮像素子の撮像面に相対する被写体像の移動に応じて一定の被写体部分が常に収まるように画像の一部を切り出す電子的ブレ補正と、がある。
メカブレ補正は、撮像素子に対する光学的な被写体像の位置を一定に保つようにブレを補正するものであるために、上述したように明時画像から暗時画像を減算することでFPNを除去することが可能である。
一方、電子的ブレ補正は、FPNが撮像素子の撮像面における固定位置に発生するのに対して、画像の切り出し部分はブレに応じて変化し、つまり電子的ブレ補正を行った明時画像中のFPNの位置が変化することになるために、明時画像から暗時画像を単純に減算してもFPNを良好に除去することはできない。
従って、ライブバルブ撮影においてはメカブレ補正のみを行うことが考えられるが、メカブレ補正だけでは長時間露光となるバルブ撮影に対して補正量が十分であるとはいえず、強力なメカブレ補正機能を搭載しようとすると、コストが増加して撮像装置が大型化してしまうことになる。
本発明は上記事情に鑑みてなされたものであり、手持ちによるライブバルブ撮影を、撮像装置を大型化させることなく低コストで実現することができる撮像装置、撮像方法を提供することを目的としている。
本発明の第1の態様による撮像装置は、結像した被写体像を、1回の撮影における露光時間を複数の分割露光時間に分割して撮像素子により撮像し、複数枚の時分割明時画像データから構成される明時画像データを取得する明時画像撮像部と、上記撮像素子を遮光して、上記明時画像データを取得したのと同一の露光時間の暗時画像データを取得する暗時画像撮像部と、ブレを検出するブレ検出部と、上記ブレ検出部により検出されたブレに基づいて、上記時分割明時画像データ毎にブレが補正された時分割切出明時画像データを切り出す電子的ブレ補正部と、表示部と、上記明時画像撮像部が分割露光をする毎に、上記ブレが補正された後の時分割切出明時画像データを、過去に取得された時分割切出明時画像データと加算し、加算後の時分割切出明時画像データから表示用画像を生成して、上記表示部に表示させる画像処理部と、上記暗時画像データの画素値を、上記露光時間に対する上記分割露光時間の比である露光時間比に分割して、上記時分割明時画像データに各対応する上記暗時画像データを構成する時分割暗時画像データを取得し、上記時分割暗時画像データ毎に、上記時分割切出明時画像データと同じ切り出し位置の時分割切出暗時画像データを切り出す暗時画像切出部と、上記時分割切出明時画像データから上記時分割切出暗時画像データを減算することにより、暗電流が補正された補正画像データを生成する暗電流補正部と、を備えている。
本発明の第2の態様による撮像方法は、結像した被写体像を、1回の撮影における露光時間を複数の分割露光時間に分割して撮像素子により撮像し、複数枚の時分割明時画像データから構成される明時画像データを取得する明時画像撮像ステップと、上記撮像素子を遮光して、上記明時画像データを取得したのと同一の露光時間の暗時画像データを取得する暗時画像撮像ステップと、ブレを検出するブレ検出ステップと、上記ブレ検出ステップにより検出されたブレに基づいて、上記時分割明時画像データ毎にブレが補正された時分割切出明時画像データを切り出す電子的ブレ補正ステップと、上記明時画像撮像ステップが分割露光をする毎に、上記ブレが補正された後の時分割切出明時画像データを、過去に取得された時分割切出明時画像データと加算し、加算後の時分割切出明時画像データから表示用画像を生成して、表示部に表示させる画像処理ステップと、上記暗時画像データの画素値を、上記露光時間に対する上記分割露光時間の比である露光時間比に分割して、上記時分割明時画像データに各対応する上記暗時画像データを構成する時分割暗時画像データを取得し、上記時分割暗時画像データ毎に、上記時分割切出明時画像データと同じ切り出し位置の時分割切出暗時画像データを切り出す暗時画像切出ステップと、上記時分割切出明時画像データから上記時分割切出暗時画像データを減算することにより、暗電流が補正された補正画像データを生成する暗電流補正ステップと、を備えている。
本発明の撮像装置、撮像方法によれば、手持ちによるライブバルブ撮影を、撮像装置を大型化させることなく低コストで実現することが可能となる。
本発明の実施形態1における撮像装置の構成を示すブロック図。 上記実施形態1において、被写体像が撮像素子に結像している様子を示す図。 上記実施形態1において、図2よりも撮像装置がやや左上に移動したときに被写体像が撮像素子に結像している様子を示す図。 上記実施形態1において、図2および図3よりも撮像装置がさらに左上に移動したときに被写体像が撮像素子に結像している様子を示す図。 上記実施形態1において、図2〜図4の状態で撮像された各時分割画像を加算して得られる加算画像の様子を示す図。 上記実施形態1において、図2に対応するメカブレ補正の初期状態を示す図。 上記実施形態1において、図3に対応して撮像素子をやや左上に移動しメカブレ補正を行うときの様子を示す図。 上記実施形態1において、図4に対応して撮像素子をさらに左上に移動しメカブレ補正を行うときの様子を示す図。 上記実施形態1において、図6〜図8の状態で撮像された各時分割画像を加算して得られる加算画像の様子を示す図。 上記実施形態1において、図2に対応する画像中の被写体像のブレの様子を示す図。 上記実施形態1において、図3に対応する画像中の被写体像のブレの様子を示す図。 上記実施形態1において、図4に対応する画像中の被写体像のブレの様子を示す図。 上記実施形態1において、図10に対応する電子的ブレ補正の初期状態を示す図。 上記実施形態1において、図11に対応して切出領域をやや右下へ移動し電子的ブレ補正を行うときの様子を示す図。 上記実施形態1において、図12に対応して切出領域をさらに右下へ移動し電子的ブレ補正を行うときの様子を示す図。 上記実施形態1において、明時画像をライブバルブ撮影するときの動作を示すタイミングチャート。 上記実施形態1において、暗時画像をライブバルブ撮影するときの動作を示すタイミングチャート。 上記実施形態1において、時分割切出明時画像データと時分割切出暗時画像データとに基づき暗電流が補正された補正画像データを生成する様子を示す図。 上記実施形態1におけるブレ補正ライブバルブの処理を示すフローチャート。 上記実施形態1において、図19のステップS2における明時撮影の処理を示すフローチャート。 上記実施形態1において、図19のステップS3における暗時撮影の処理を示すフローチャート。 本発明の実施形態2において、暗時画像をライブバルブ撮影するときの動作を示すタイミングチャート。 上記実施形態2において、図19のステップS3における暗時撮影の処理を示すフローチャート。 従来において、明時画像をライブバルブ撮影するときの動作を示すタイミングチャート。 従来において、暗時画像をライブバルブ撮影するときの動作を示すタイミングチャート。
以下、図面を参照して本発明の実施の形態を説明する。
[実施形態1]
図1から図21は本発明の実施形態1を示したものであり、図1は撮像装置の構成を示すブロック図である。
この撮像装置は、図1に示すように、レンズ1と、撮像部2と、画像処理部3と、AF評価値演算部4と、表示部5と、ブレ検出部7と、メカニカルブレ補正部8と、露光制御部9と、フォーカス制御部10と、カメラ操作部11と、カメラ制御部12と、メカニカルシャッタ13と、を備えている。なお、図1にはメモリカード6も記載されているが、このメモリカード6は撮像装置に対して着脱可能に構成されているために、撮像装置に固有の構成でなくても構わない。
レンズ1は、光学的な被写体像を撮像部2に含まれる撮像素子2aの撮像領域に結像するものである。このレンズ1は、フォーカスレンズやズームレンズ、絞り等を備え、さらに本実施形態においてはブレ補正機能も備えたものとなっている。
メカニカルシャッタ13は、レンズ1から撮像素子2aへの光路上に配設されていて、被写体像の撮像素子2aへの通過と、撮像素子2aの遮光とを制御するものである。
撮像部2は、レンズ1により結像された被写体像を光電変換して画像信号として出力する撮像素子2aや、この撮像素子2aから出力された画像信号を増幅した後にデジタル信号に変換する信号処理回路などを含んでいる。なお、本実施形態においては、撮像部2はレンズ1の撮影光軸に垂直な面内を移動可能に構成されていて、ブレ補正機能を備えたものとなっている。そして、撮像部2は、結像した被写体像を撮像素子2aにより撮像して明時画像データを取得する明時画像撮像部と、撮像素子2aをメカニカルシャッタ13により遮光して明時画像データを取得したのと同一の露光時間の暗時画像データを取得する暗時画像撮像部と、を兼ねたものとなっている。これら明時画像データおよび暗時画像データは、本実施形態においては、カメラ制御部12および露光制御部9の制御に基づいて時分割露光を行うことにより、時分割明時画像データおよび時分割暗時画像データとして取得されるようになっている。
画像処理部3は、撮像部2から出力される画像信号に、デモザイキングや色補正、エッジ補正、色空間変換、ガンマ変換などの各種の画像処理を行うものである。この画像処理部3は、撮像素子2aの全撮像領域の画像の一部を切り出す画像切出部3aを備えている。この画像切出部3aは、ブレ検出部7により検出されたブレに基づいて明時画像データからブレが補正された切出明時画像データを切り出す電子的ブレ補正部と、暗時画像データから切出明時画像データと同じ切り出し位置の切出暗時画像データを切り出す暗時画像切出部と、を兼ねたものとなっている。また、画像処理部3は、切出明時画像データから切出暗時画像データを減算することにより、暗電流が補正された補正画像データを生成する暗電流補正部として機能する。さらに、画像処理部3は、時分割露光で取得された画像データを加算する処理も行う。
AF評価値演算部4は、撮像部2から出力された画像信号に基づいてAF評価値を算出し、カメラ制御部12へ出力するものである。すなわち、この撮像装置は、例えば像面位相差AF、あるいはコントラストAFによりオートフォーカスを行うように構成されたものとなっている。なお、像面位相差AFを行う場合には、撮像素子2aも位相差検出用画素を備えた構成となっている。
表示部5は、画像処理部3により表示用に画像処理された画像信号に基づき、画像を表示するものである。この表示部5は、ライブビュー表示(ライブバルブ表示を含む)や静止画像表示を行うとともに、この撮像装置に係る各種の情報等も表示するようになっている。
メモリカード6は、画像処理部3により記録用に画像処理された画像信号を保存するための記録媒体である。
ブレ検出部7は、加速度センサ等を有して構成され、この撮像装置のブレを検出してカメラ制御部12へ出力するものである。
メカニカルブレ補正部8は、カメラ制御部12の制御の下に、ブレ検出部7により検出されたブレと画像切出部3aの切出領域の位置(切出位置)とに基づいて、撮像素子2a(より詳しくは、撮像素子2aの切出領域)と被写体像との相対的なブレを機械的に補正するものである。具体的に、メカニカルブレ補正部8は、ブレ検出部7により検出されたブレのベクトルから画像切出部3aによる切出位置のベクトル(標準切出位置を規準とした現在の切出位置のベクトル)を減算した結果のブレのベクトルを相殺するように、レンズ1と撮像素子2aとの少なくとも一方を移動させてブレを軽減する。なお、以下においては簡単のために、撮像素子2aを移動させてブレを軽減するものとして説明するが、レンズ1を移動させてブレを軽減しても良いし、撮像素子2aの移動とレンズ1の移動とを併用してブレを軽減しても構わない。メカニカルブレ補正部8は、撮像素子2aのメカブレ補正量をカメラ制御部12へ出力するようになっている。
露光制御部9は、カメラ制御部12により決定されたシャッタ速度(露光時間)に基づいて、該カメラ制御部12の制御の下に、メカニカルシャッタ13と撮像素子2aの素子シャッタとを制御し画像を取得するものである。露光制御部9は、カメラ制御部12により決定された絞り値に基づいて、レンズ1に含まれる絞りの制御等も行うようになっている。また、露光制御部9は、撮像素子2a、メカニカルシャッタ13、および絞りの駆動情報をカメラ制御部12へ出力するようになっている。
フォーカス制御部10は、焦点を調節するためにレンズ1を駆動するものである。すなわち、フォーカス制御部10は、AF評価値演算部4からAF評価値を受けたカメラ制御部12の制御に基づいて、レンズ1に含まれるフォーカスレンズを駆動し、撮像素子2aに結像される被写体像が合焦に至るようにする。また、フォーカス制御部10は、レンズ位置などのレンズ駆動情報をカメラ制御部12へ出力するようになっている。
カメラ操作部11は、この撮像装置に対する各種の操作入力を行うための操作部である。このカメラ操作部11には、撮像装置の電源をオン/オフするための電源スイッチ、静止画撮影、動画撮影などを指示入力するためのレリーズボタン、撮影モードや再生モード、ライブビューモードなどを設定するためのモードボタン等の操作部材が含まれている。ここに、モードボタンにより設定可能な撮影モードは、大きく分けて静止画撮影モードと動画撮影モードとがあり、静止画撮影モードにおいてはオート、絞り優先、シャッタ速度優先、マニュアル、バルブ等の各撮影モードをさらに設定可能となっている。そしてライブバルブ撮影は、バルブ撮影モードにおいてライブビューモードが設定されているときに、例えばレリーズボタンの入力操作に応じて実行される。
カメラ制御部12は、フォーカス制御部10からのレンズ駆動情報やAF評価値演算部4からのAF評価値、露光制御部9からの各駆動情報、ブレ検出部7からの撮像装置のブレ、メカニカルブレ補正部8からのメカブレ補正量、画像処理部3からの情報、カメラ操作部11からの操作入力などに基づいて、画像処理部3、メモリカード6、メカニカルブレ補正部8、露光制御部9、フォーカス制御部10等を含むこの撮像装置全体を制御するものである。また、カメラ制御部12は、図示しない内部メモリを備えており、後述する時分割切出明時画像データの各切出位置を記憶するようになっている。
次に、図2〜図5を参照して、撮像装置のブレにより発生する画像中の被写体像のブレについて説明する。ここに図2は被写体像が撮像素子2aに結像している様子を示す図、図3は図2よりも撮像装置がやや左上に移動したときに被写体像が撮像素子2aに結像している様子を示す図、図4は図2および図3よりも撮像装置がさらに左上に移動したときに被写体像が撮像素子2aに結像している様子を示す図、図5は図2〜図4の状態で撮像された各時分割画像を加算して得られる加算画像の様子を示す図である。
まず、図2に示すように、被写体OBJ上の一点の像が、レンズ1により撮像素子2a上のある点に結像しているものとする。なお、図2において、被写体OBJ上の一点からレンズ1の開口中心を通って撮像素子2aに至る主光線を一点鎖線で示している(なお、比較のために図3および図4に示す一点鎖線も、この図2に示す位置関係における主光線である(つまり、図3または図4に示す位置関係における主光線ではない))。
この図2に示す状態よりも撮像装置がやや左上に移動すると、図3に示すように、上述した被写体OBJ上の一点の像は、撮像素子2aの撮像面上において図2によりもやや左上の位置に結像する。
図2および図3よりも撮像装置がさらに左上に移動すると、図4に示すように、上述した被写体OBJ上の一点の像は、撮像素子2aの撮像面上において、図3よりもさらに左上の位置に結像する。
従って、図2〜図4の状態でそれぞれ撮像された画像における電子的な被写体像Iobj1〜Iobj3の位置は各異なるために、加算して得られる加算画像IMGは図5に示すように被写体がブレた画像となる。ここで、撮像装置が左上に移動しているために、撮像範囲内の被写体像は図5に示すように右下にずれて写ることになる。
次に、図6〜図9を参照して、メカニカルブレ補正部8により撮像素子2aを駆動してブレ補正を行う場合について説明する。ここに図6は図2に対応するメカブレ補正の初期状態を示す図、図7は図3に対応して撮像素子2aをやや左上に移動しメカブレ補正を行うときの様子を示す図、図8は図4に対応して撮像素子2aをさらに左上に移動しメカブレ補正を行うときの様子を示す図、図9は図6〜図8の状態で撮像された各時分割画像を加算して得られる加算画像の様子を示す図である。なお、図6〜図8においては、撮像素子2aのセンサシフト移動範囲SAを2点鎖線により示している。また、図6〜図8は横方向から見た模式図であるため、左右方向については明示されていないが、撮像部2は左右方向にも移動可能であり、上下方向と同様に左右方向にもセンサシフト移動範囲SAが存在する。
図6に示す初期状態はメカブレ補正を開始する時点であるために、撮像素子2aはまだシフトされておらず、センサシフト移動範囲SAの中央に位置している。
図7に示す状態では、図3に示したように撮像面の左上方向に移動した被写体像を、図6に示した撮像面上における被写体像の位置と同じ位置に結像させるために、撮像素子2aをセンサシフト移動範囲SAの左上の位置にシフトしている。
図8に示す状態では、図4に示したように撮像面のさらに左上方向に移動した被写体像を、図6に示した撮像面上における被写体像の位置と同じ位置に結像させるために、撮像素子2aをセンサシフト移動範囲SAのさらに左上の位置にシフトしている。
こうして、図6〜図8の状態でそれぞれ撮像された画像における被写体像Iobj1〜Iobj3の位置はほぼ同一となるために、加算して得られる加算画像IMGは図9に示すように被写体像のブレが低減された画像となる。
続いて、図10〜図12を参照して、画像の切り出しを行う場合における、撮像装置のブレにより発生する画像中の被写体像のブレについて説明する。ここに図10は図2に対応する画像中の被写体像のブレの様子を示す図、図11は図3に対応する画像中の被写体像のブレの様子を示す図、図12は図4に対応する画像中の被写体像のブレの様子を示す図である。なお、図10〜図12および後述する図13〜図15においては、撮像素子2aの全撮像領域をEA、切出領域をIAによりそれぞれ示している。
図10〜図12においてはブレ補正を行っていないために、全撮像領域EAの中心と同一位置を中心とする標準切出位置の切出領域IAは変更されない。従って、図10〜図12における被写体像Iobj1〜Iobj3の位置は図2〜図4における位置(図5参照)と同一であり、切出領域IAが記録画像や表示画像として用いられることになるために幾らか電子ズームでズームアップした状態の画像となる点のみが異なる。従って、図10〜図12の切出領域IAを加算して得られる加算画像は、ややズームアップされている点を除いて、図5に示したような被写体がブレた画像と同様である。
次に、図13〜図15を参照して、電子的ブレ補正部として機能する画像切出部3aによりブレ補正を行う場合について説明する。ここに図13は図10に対応する電子的ブレ補正の初期状態を示す図、図14は図11に対応して切出領域IAをやや右下へ移動し電子的ブレ補正を行うときの様子を示す図、図15は図12に対応して切出領域IAをさらに右下へ移動し電子的ブレ補正を行うときの様子を示す図である。
図13〜図15においては、図10〜図12に対応した全撮像領域EAにおける被写体像Iobj1〜Iobj3の移動に応じて、切出領域IAにおける被写体像Iobj1〜Iobj3の位置が同一となるように切出領域IAをシフトしたものである。このような図13〜図15の切出領域IAを加算して得られる加算画像は、ややズームアップされている点を除いて、図9に示したような被写体像のブレが低減された画像と同様である。
そして本実施形態においては、上述したようなメカニカルブレ補正部8による機械的なブレ補正と、画像切出部3aによる電子的なブレ補正と、を組み合わせることで強力なブレ補正を実現し、長時間露光となるライブバルブ撮影を行うようになっている。
このようなライブバルブ撮影について、図16〜図21を参照して説明する。ここに、図16は明時画像をライブバルブ撮影するときの動作を示すタイミングチャート、図17は暗時画像をライブバルブ撮影するときの動作を示すタイミングチャート、図18は時分割切出明時画像データと時分割切出暗時画像データとに基づき暗電流が補正された補正画像データを生成する様子を示す図、図19はブレ補正ライブバルブの処理を示すフローチャート、図20は図19のステップS2における明時撮影の処理を示すフローチャート、図21は図19のステップS3における暗時撮影の処理を示すフローチャートである。
図19に示すように、撮像装置がライブバルブ撮影モードに設定されてこのブレ補正ライブバルブの処理が開始されると、カメラ操作部11のレリーズボタンによりライブバルブ撮影の開始が指示されるのを待機する(ステップS1)。
ここでレリーズ操作が行われた場合には、図20に示す明時撮影の処理を行う(ステップS2)。この明時撮影の処理は、明時画像データを、露光時間を複数の分割露光時間に分割した複数枚の時分割明時画像データとして取得し、時分割明時画像データ毎にブレが補正された時分割切出明時画像データを切り出す処理である。
この明時撮影の処理に入ると、まず、メカニカルブレ補正部8によるメカブレ補正を開始する(ステップS11)。
次に、図16に示すように、メカニカルシャッタ13を開いて(ステップS12)、垂直同期信号VDに同期してリセットパルスRSTの印加を開始することにより露光を開始する(ステップS13)。なお、この図16にはリセットパルスRSTがライン毎に順次印加されるローリング読み出しの例を示しているが、一括読み出しであっても勿論構わない。
そして、分割露光の回数をカウントするカウンタnに1を設定し、第1回目の時分割露光に係るメカブレ補正量(水平方向補正量ΔMx1、垂直方向補正量ΔMy1)にそれぞれ0を設定するなどの初期設定を行う(ステップS14)。このメカブレ補正量の初期値は、後段の暗時撮影において用いるために、カメラ制御部12の内部メモリに補正量動作プロファイルとして記憶しておく。
そして、分割露光時間Texpn(図16に示す例では、Texp1〜Texp3の内の分割露光回数nに対応する時間)が経過するのを待機する(ステップS15)。この分割露光時間Texpnが経過している最中もメカニカルブレ補正部8が動作してメカブレ補正が継続的に行われているために、露光中の画像のブレは低減されている。
分割露光時間Texpnが経過したら、垂直同期信号VDに同期して読出パルスRDの印加を開始することにより第n回目の時分割露光に係る画素の読み出しを行うとともに、読み出し後の画素における次の(つまり、(n+1)回目の)時分割露光を開始する(ステップS16)。
このステップS16において撮像データとして読み出されるのは、第n回目の時分割露光に係る全撮像領域EAの時分割明時画像データである。
ステップS16の処理を行ったら、メカニカルブレ補正部8をリセットして初期位置に戻すとともに(ステップS17)、リセット直前のメカニカルブレ補正部8の駆動量を、次の時分割露光における切出位置として用いるために(さらに、後段の暗時撮影において用いるために)、カメラ制御部12の内部メモリにメカブレ補正量(ΔMx(n+1),ΔMy(n+1))として記憶しておく(ステップS18)。このメカブレ補正量(ΔMx(n+1),ΔMy(n+1))も、上述した補正量動作プロファイルである。
このような処理を行うのは、次の理由による。リアルタイムのブレ補正を電子的ブレ補正で行おうとすると、ブレの周期よりも十分に短い時間間隔を時分割露光時間として画像を時分割読み出ししなければならず、読み出し回数が多くなって消費電力が増すとともに、読出ノイズが増加してしまうことになる。そこで、リアルタイムのブレ補正はメカニカルブレ補正部8により行うことにし、各時分割露光中にメカニカルブレ補正部8が十分な機能を発揮することができるように、1枚の時分割明時画像データが取得される毎に(つまり、各時分割露光を開始する時点で)メカニカルブレ補正部8をリセットして初期位置に戻す。そして、リセット直前までメカニカルブレ補正が担っていたメカブレ補正量は電子的ブレ補正により担うこととする。これにより、メカニカルブレ補正の特長と電子的ブレ補正の特長とをうまく組み合わせて、消費電力や読出ノイズを増加させることなく、強力なブレ補正をリアルタイムで行うことが可能となる。
こうして、第n回目の時分割露光に係るメカニカルブレ補正部8の駆動量である画像切出位置(ΔBxn,ΔByn)を、n=1のときにはステップS14において初期設定されたメカブレ補正量(ΔMx1,ΔMy1)、n≧2のときには第(n−1)回目の時分割露光が終了する直前のメカブレ補正量(ΔMxn,ΔMyn)に設定して、全撮像領域EAの時分割明時画像データから切出領域IAの時分割切出明時画像データAn(図16に示す例では、A1〜A3の内の分割露光回数nに対応する時分割切出明時画像データ)を切り出す電子ブレ補正を行う(ステップS19)。ここで(ΔBxn,ΔByn)は、前回の切り出し位置に対する差分切り出し位置である。つまり、前回切り出し位置に対して切り出し位置を(ΔBxn,ΔByn)ずらして切り出す。ただしここで、画像切出位置がピクセルを単位とし、メカブレ補正量がμmを単位とするなどの単位系の相違等がある場合には、適宜の定数を乗算することはいうまでもない。このときには、時分割切出明時画像データAnの切出位置は、第(n−1)回目の時分割露光を終了してメカニカルブレ補正部8をリセットする直前のメカニカルブレ補正部8の駆動量に相当する位置である。
そして、画像処理部3により、切り出した時分割切出明時画像データAnを過去に取得した時分割切出明時画像データA1〜A(n−1)と加算して、表示用の画像処理を行い、表示部5に表示する(ステップS20)。このような処理を行うことにより、露光開始時点から露光時間(Texp1+…+Texpn)だけの露光を行ったのに等しい画像が表示部に表示されることになり、バルブ撮影時に形成されていく画像の様子をライブビューで確認することが可能となる。しかも、表示される画像は、ブレが低減されたものとなっている。
その後、レリーズボタンが例えば押圧されない状態に移行したか否か等に基づき、明時撮影の処理を終了するか否かを判定する(ステップS21)。
ここで明時撮影の処理をまだ終了しない場合には、nの値を1つ増加させてから(ステップS22)、ステップS15へ戻って上述したような処理を繰り返して行う。
また、ステップS21において、明時撮影の処理を終了すると判定された場合には、カウンタnの値を明時撮影時のカウンタ最大数nmaxとしてカメラ制御部12の内部メモリに記憶するとともに、電力消費量を低減するためにメカブレ補正部8の駆動を停止してステップS11で開始したメカブレ補正を終了し(ステップS23)、図19に示したブレ補正ライブバルブの処理へ復帰する。ここで明時撮影終了はレリーズスイッチの操作によって指示され、分割露光時間はこのレリーズ操作のタイミングで決定される。よって、一般的に最後の分割露光時間は他の分割露光時間と異なることになる。
再び図19の処理に戻ると、次に、図21に示す暗時撮影の処理を行う(ステップS3)。この暗時撮影の処理は、ステップS2の処理により取得した複数枚の時分割明時画像データと同一の複数の分割露光時間に分割して時分割暗時画像データを取得し、時分割明時画像データに各対応する暗時画像データを構成する時分割暗時画像データ毎に、時分割切出明時画像データと同じ切り出し位置の時分割切出暗時画像データを切り出す処理である。
この暗時撮影の処理に入ると、まず図16の右端に示すように、メカニカルシャッタ13を閉じる(ステップS31)。従って、図17においても、メカニカルシャッタ13は引き続き閉じた状態となっている。
この暗時状態で、垂直同期信号VDに同期してリセットパルスRSTの印加を開始することにより露光を開始する(ステップS32)。
次に、分割露光の回数をカウントするカウンタnに1を設定するなどの初期設定を行う(ステップS33)。
続いて、第n回目の分割露光における、明時撮影と同一の分割露光時間Texpnが経過するのを待機する(ステップS34)。
分割露光時間Texpnが経過したら、垂直同期信号VDに同期して読出パルスRDの印加を開始することにより第n回目の時分割露光に係る画素の読み出しを行うとともに、読み出し後の画素における次の(つまり、(n+1)回目の)時分割露光を開始する(ステップS35)。
ステップS35の処理を行ったら、暗時撮影の第n回目の時分割露光に係る画像切出位置(ΔDxn,ΔDyn)を、明時撮影の第n回目の時分割露光に係る画像切出位置(ΔBxn,ΔByn)に、つまり、図20のステップS14およびステップS18においてカメラ制御部12の内部メモリに明時撮影時の電子ブレ補正の補正量動作プロファイルとして記憶しておいたメカブレ補正量(ΔMxn,ΔMyn)に設定して、全撮像領域EAの時分割暗時画像データから切出領域IAの時分割切出暗時画像データBn(図17に示す例では、B1〜B3の内の分割露光回数nに対応する時分割暗時画像データ)を切り出す暗時画像切出を行う(ステップS36)。ここで(ΔDxn,ΔDyn)は、前回の切り出し位置に対する差分切り出し位置である。つまり、前回切り出し位置に対して切り出し位置を(ΔDxn,ΔDyn)ずらして切り出す。
その後、カウンタnが明時撮影時のカウンタ最大数nmaxに達したか否かに基づき、暗時撮影の処理を終了するか否かを判定する(ステップS37)。
ここで暗時撮影の処理をまだ終了しない場合には、nの値を1つ増加させてから(ステップS38)、ステップS34へ戻って上述したような処理を繰り返して行う。
また、ステップS37において、暗時撮影の処理を終了すると判定された場合には、図19に示したブレ補正ライブバルブの処理へ復帰する。
再び図19の処理に戻ると、図18に示すように、時分割切出明時画像データA1〜Anmaxを加算することにより、全露光時間Texp=(Texp1+Texp2+…+Texpnmax)の加算明時画像データAをA=A1+A2+…+Anmaxのように算出する(ステップS4)。
同様に、図18に示すように、時分割切出暗時画像データB1〜Bnmaxを加算することにより、全露光時間Texp=(Texp1+Texp2+…+Texpnmax)の加算暗時画像データBをB=B1+B2+…+Bnmaxのように算出する(ステップS5)。なお、図18には、加算暗時画像データB中に被写体像を1点鎖線で示しているが、この被写体像は参考のために記載したものであり、実際に露光されるものではない。
そして、暗電流補正部として機能する画像処理部3は、加算明時画像データAから加算暗時画像データBを減算することにより、暗電流ノイズを除去した補正画像データA’をA’=A−Bのように算出する(ステップS6)。ここに、「暗電流ノイズの除去」は、暗電流ノイズを完全に除去する場合だけでなく、暗電流ノイズを一部除去する場合も含み、「暗電流ノイズの低減(軽減)」と言い替えることも可能である。
なお、ここでは、時分割切出明時画像データA1〜Anmax同士、および時分割切出暗時画像データB1〜Bnmax同士をそれぞれ加算してから暗電流ノイズを除去した補正画像データA’を算出したが、この演算順序に限るものではなく、同一の結果が得られればどのような順序で演算を行っても構わない。例えば、暗電流ノイズを除去した時分割明時画像データを(A1−B1),(A2−B2),…,(Anmax−Bnmax)のようにまず算出してから、これらを加算することにより暗電流ノイズを除去した補正画像データA’を得るようにしても構わない。
その後、図18に示すように補正画像データA’にゲインGを乗算して、増幅された補正画像データA”を算出し(ステップS7)、画像処理部3により各種の画像処理を行ってメモリカード6に記録し、あるいは表示部5に撮影結果として得られた画像を表示して(ステップS8)、このブレ補正ライブバルブの処理を終了する。
このような実施形態1によれば、明時画像を時分割で撮影して表示するようにしたために、バルブ撮影時に形成されていく画像の様子をライブビューで確認することが可能となる。
また、メカニカルブレ補正はメカブレ補正量がセンサシフト移動範囲SAの境界に達したところで限界となり、電子的ブレ補正は切出領域IAが全撮像領域EAの境界に達したところで限界となるが、これらのメカニカルブレ補正と電子的ブレ補正とを組み合わせたために、強力なブレ補正を実現して手持ち撮影にも対応することが可能となる。加えて、本実施形態の構成によれば、メカニカルブレ補正のみで強力なブレ補正を実現する場合のようなコストの増加および撮像装置の大型化を抑制することができる。
さらに、分割露光中のリアルタイムのブレ補正をメカニカルブレ補正により行い、1回の分割露光が終了する毎にメカニカルブレ補正をリセットして、リセット直前のメカブレ補正量を電子的ブレ補正により担うようにしたために、リアルタイムのブレ補正を電子的ブレ補正により行う必要がなく消費電力や読出ノイズの増加を抑制することができる。
そして、明時画像から暗時画像を減算するようにしたために、暗電流ノイズを除去した画像を得ることができる。
このとき、明時画像の電子的ブレ補正の切出位置を記憶して、暗時画像についても明時画像と同じ切出位置から切り出すようにしたために、明時画像と暗時画像とで固定パターンノイズ(FPN)の位置がずれることがなくなり、補正を高精度に行うことが可能となる。
こうして、手持ちによるライブバルブ撮影を、撮像装置を大型化させることなく低コストで実現することが可能となる。
[実施形態2]
図22および図23は本発明の実施形態2を示したものであり、図22は暗時画像をライブバルブ撮影するときの動作を示すタイミングチャート、図23は図19のステップS3における暗時撮影の処理を示すフローチャートである。
この実施形態2において、上述の実施形態1と同様である部分については同一の符号を付すなどして説明を適宜省略し、主として異なる点についてのみ説明する。
本実施形態2は、上述した実施形態1に対して、暗時画像を取得して加算暗時画像データBを得るまでの処理を異ならせるようにしたものである。
この暗時撮影の処理は、暗時画像切出部として機能する画像切出部3aにより、暗時画像データの画素値を、露光時間Texpに対する分割露光時間Texpnの比である露光時間比に分割して時分割暗時画像データを取得し、時分割明時画像データに各対応する暗時画像データを構成する時分割暗時画像データ毎に、時分割切出明時画像データと同じ切り出し位置の時分割切出暗時画像データを切り出す処理である。
すなわち、図19のステップS3において暗時撮影の処理に入ると、本実施形態においては図22に示す処理を実行する。
するとまず、ステップS31と同様にメカニカルシャッタ13を閉じ(ステップS41)、ステップS32と同様に露光を開始する(ステップS42)。
そして、本実施形態では、分割露光時間Texpnに代えて、全露光時間Texpが経過するのを待機する(ステップS43)。すなわち、本実施形態では暗時画像に関しては分割露光を行わず、全露光時間Texpの露光を1回で行うようになっている。
全露光時間Texpが経過したら、垂直同期信号VDに同期して読出パルスRDの印加を開始することにより画素の読み出しを行う(ステップS44)。
続いて、得られた全露光時間Texpの暗時画像データを、明時撮影時のカウンタ最大数nmax個に分割して、複数枚の時分割暗時画像データを取得する(ステップS45)。この分割は、画素数等は変更することなく画素値のみを分ける分割である。つまり、時分割暗時画像データは、暗時画像切出部として機能する画像切出部3aにより、暗時画像データの各画素の画素値を、全露光時間Texpに対する分割露光時間Texpnの比である露光時間比に分割して取得される。
その後、時分割暗時画像データの処理枚数をカウントするためのカウンタnに1を設定するなどの初期設定を行う(ステップS46)。
そして、第n枚目の時分割暗時画像データの画像切出位置(ΔDxn,ΔDyn)を、明時撮影の第n回目の時分割露光に係る画像切出位置(ΔBxn,ΔByn)、つまりメカブレ補正量(ΔMxn,ΔMyn)に設定して、全撮像領域EAの時分割暗時画像データから切出領域IAの時分割切出暗時画像データBnを切り出す暗時画像切出を行う(ステップS47)。
その後、カウンタnが明時撮影時のカウンタ最大数nmaxに達したか否かに基づき、暗時撮影の処理を終了するか否かを判定する(ステップS48)。
ここで暗時撮影の処理をまだ終了しない場合には、nの値を1つ増加させてから(ステップS49)、ステップS47へ戻って上述したような処理を繰り返して行う。
また、ステップS48において、暗時撮影の処理を終了すると判定された場合には、図19に示したブレ補正ライブバルブの処理へ復帰する。
なお、上述した実施形態1においては、暗時撮影に先だって明時撮影を行っていたが、これは、明時撮影を先に行わないと、暗時撮影における分割露光時間および切出領域が決定されないためであった。しかし、本実施形態の場合には、全ての時分割明時画像データおよび暗時画像データが取得された後に、暗時画像データを分割して時分割暗時画像データを取得する手順であるために、明時撮影に先だって暗時撮影を行うことも可能となっている。
このような実施形態2によれば、上述した実施形態1とほぼ同様の効果を奏するとともに、暗時画像の読み出し回数が1回で済むために、読み出し時の電力を削減することができる。さらに、上述した実施形態1の処理では明時画像の読出回数がnmax回、暗時画像の読出回数がnmax回の合計2nmax回であったが、本実施形態の処理では、明時画像の読出回数がnmax回、暗時画像の読出回数が1回の合計(nmax+1)回となるために、読み出しノイズを低減することが可能となる。読み出しノイズ量が読み出し回数の平方根に比例するノイズモデルを例に挙げれば、実施形態1のノイズ量√(2nmax)に対する実施形態2のノイズ量√(nmax+1)は、nmaxが大きくなるほど1/√2≒0.7に漸近するために、nmaxが大きい値であればおよそ3割の読み出しノイズを削減することができることになる。また、実施形態1,2では、メカニカルブレ補正を毎回、初期位置にリセットするような処理として説明したが、初期位置へのリセットを毎回行わなければならないわけではないことは言うまでもない。つまり、初期位置にリセットするのに代えて、メカニカルブレ補正駆動範囲の初期位置(中心)に近い領域側に(初期位置寄りに)セットすることによっても、ほぼ同様の目的を達成することが可能である。これは例えば、メカニカルブレ補正の駆動初期位置にリセットするための駆動時間が露光時間に対して比較的長い場合には、初期位置まで戻すことなく初期位置に近付ける駆動だけを行って、駆動時間を制限すべき場合も発生するためである。
[変形技術]
次に、上述した各実施形態の変形技術について説明する。ここでも、上述の各実施形態と同様である部分については説明を適宜省略する。
上述において、補正画像の算出に関して、
(A1+A2+…+Anmax)−(B1+B2+…+Bnmax)
=(A1−B1)+(A2−B2)+…+(Anmax−Bnmax)
が成り立つために、左辺の演算に代えて右辺の演算を行っても良いことを述べた。
これらの数式に表れるAn,Bn(ここに、n=1,2,…,nmax)は、それぞれ切出領域IAから得られた時分割切出明時画像データ、時分割切出暗時画像データであり、全撮像領域EAから得られる切り出し前の時分割明時画像データをαn、時分割暗時画像データをβnで表すとする。
また、切り出しは、nの数字が同じであればαnとβnとで切出領域が同一となるために、nに対応する切り出し演算子(作用素)を「fn・」で表すものとする。さらに、n=1〜nmaxまでの加算をΣにより表すことにする。
すると、上記数式は、次のように書き換えられる。
Σfn・αn−Σfn・βn=Σ(fn・αn−fn・βn)
この数式(の例えば右辺)は、さらに、次のように変形可能である。
Σ(fn・αn−fn・βn)=Σfn・(αn−βn)
従って、全撮像領域EAから得られる時分割明時画像データαnから、全撮像領域EAから得られる時分割暗時画像データβnを減算して暗電流ノイズを低減した補正時分割画像データを取得した後に、この補正時分割画像データに対して切り出し演算「fn・」を行って電子的ブレ補正を行った切出補正時分割画像データを取得しても、同様の結果を得ることが可能である。この切出補正時分割画像データは、その後に加算されて補正画像データが生成される。
ただしこの場合には、暗時撮影と明時撮影との内の、先に撮影が行われる方の時分割明時画像データαnまたは時分割暗時画像データβnを全て記憶しておくことが必要である。この全時分割画像を記憶するための複数フレーム分のバッファメモリ等でなる記憶部としては、メモリカード6を利用することが可能であり、あるいは撮像装置内に専用の記憶部を設けても構わない。なお、時分割暗時画像データβnは、上述した実施形態1のように時分割露光を行って取得したものであっても良いし、上述した実施形態2のように1回の露光を行った後に分割して取得したものであっても構わない。
この変形技術の場合の構成は、例えば次のようになる。
[構成1]
露光時間を複数の分割露光時間に分割して結像した被写体像を撮像素子により撮像し複数枚の時分割明時画像データを取得する明時撮影と、上記撮像素子を遮光して上記露光時間の暗時画像データを取得する暗時撮影と、を任意の順序で行う撮像部と、
上記明時撮影と上記暗時撮影との内の、先行して行われた方の画像データを少なくとも記憶する記憶部と、
上記明時撮影時のブレを検出するブレ検出部と、
上記時分割明時画像データから、上記時分割明時画像データに各対応する上記暗時画像データを構成する時分割暗時画像データを減算することにより、暗電流が補正された補正時分割画像データを取得する暗電流補正部と、
上記ブレ検出部により検出されたブレに基づいて、上記補正時分割画像データ毎にブレが補正された切出補正時分割画像データを切り出す電子的ブレ補正部と、
切出補正時分割画像データを加算して補正画像データを生成する加算部と、
を備えたことを特徴とする撮像装置。
[構成2]
上記時分割暗時画像データは、上記撮像部により、複数枚の上記時分割明時画像データと同一の複数の分割露光時間に分割して取得されたものであることを特徴とする構成1に記載の撮像装置。
[構成3]
上記暗時画像データの画素値を、上記露光時間に対する上記分割露光時間の比である露光時間比に分割して上記時分割暗時画像データを取得する分割部をさらに備えたことを特徴とする構成1に記載の撮像装置。
これらの構成における具体的な構成としては、例えば、撮像部は撮像部2が対応し、記憶部は上述したようにメモリカード6や撮像装置内に設けた専用の記憶部等が対応し、加算部は画像処理部3が対応し、分割部は画像処理部3が対応する。また、撮像装置としての構成1〜3を説明したが、撮像装置と同様の処理を行う撮像方法であっても良い。
この変形技術によっても、上述した各実施形態とほぼ同様の効果を奏することができる。
なお、上述した各実施形態等では、メカブレ補正と電子的ブレ補正との両方を用いる例を説明した。しかし、電子的ブレ補正は、ブレの典型的な周期よりも十分に短い時間を時分割露光時間とする前提の下で、全撮像領域EAに対する切出領域IAの大きさをより小さくすれば、より強力なブレ補正能力を獲得することができる。従って、切出領域IAが小さくなっても良いのであれば、つまり画角が狭くなったり記録画像の画素数が少なくなったりしても構わないのであれば、電子的ブレ補正のみでも上述した各実施形態等とほぼ同様の効果を奏することができる。従ってこの場合には、電子的ブレ補正に、メカブレ補正を併用しなくても構わない。そして、この場合には、手持ちによるライブバルブ撮影を、撮像装置を大型化させることなく低コストで実現することができるだけでなく、メカブレ補正が不要であるために、より一層の低コスト化を図ることができる。
また、上述では主として撮像装置について説明したが、撮像装置と同様の処理を行う撮像方法であっても良いし、撮像装置と同様の処理をコンピュータに実行させるための撮像プログラム、該撮像プログラムを記録するコンピュータにより読み取り可能な一時的でない記録媒体、等であっても構わない。
本発明は上述した実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明の態様を形成することができる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除しても良い。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。このように、発明の主旨を逸脱しない範囲内において種々の変形や応用が可能であることは勿論である。
1…レンズ
2…撮像部
2a…撮像素子
3…画像処理部
3a…画像切出部
4…AF評価値演算部
5…表示部
6…メモリカード
7…ブレ検出部
8…メカニカルブレ補正部
9…露光制御部
10…フォーカス制御部
11…カメラ操作部
12…カメラ制御部
13…メカニカルシャッタ

Claims (3)

  1. 結像した被写体像を、1回の撮影における露光時間を複数の分割露光時間に分割して撮像素子により撮像し、複数枚の時分割明時画像データから構成される明時画像データを取得する明時画像撮像部と、
    上記撮像素子を遮光して、上記明時画像データを取得したのと同一の露光時間の暗時画像データを取得する暗時画像撮像部と、
    ブレを検出するブレ検出部と、
    上記ブレ検出部により検出されたブレに基づいて、上記時分割明時画像データ毎にブレが補正された時分割切出明時画像データを切り出す電子的ブレ補正部と、
    表示部と、
    上記明時画像撮像部が分割露光をする毎に、上記ブレが補正された後の時分割切出明時画像データを、過去に取得された時分割切出明時画像データと加算し、加算後の時分割切出明時画像データから表示用画像を生成して、上記表示部に表示させる画像処理部と、
    上記暗時画像データの画素値を、上記露光時間に対する上記分割露光時間の比である露光時間比に分割して、上記時分割明時画像データに各対応する上記暗時画像データを構成する時分割暗時画像データを取得し、上記時分割暗時画像データ毎に、上記時分割切出明時画像データと同じ切り出し位置の時分割切出暗時画像データを切り出す暗時画像切出部と、
    上記時分割切出明時画像データから上記時分割切出暗時画像データを減算することにより、暗電流が補正された補正画像データを生成する暗電流補正部と、
    を備えたことを特徴とする撮像装置。
  2. 上記ブレ検出部により検出されたブレに基づいて、上記撮像素子と上記被写体像との相対的なブレを機械的に補正するメカニカルブレ補正部をさらに備え、
    上記メカニカルブレ補正部は、複数枚の上記時分割明時画像データのそれぞれを露光している最中に動作するとともに、1枚の時分割明時画像データが取得される毎に初期位置あるいは初期位置寄りにセットされ、
    上記電子的ブレ補正部は、初期位置あるいは初期位置寄りへのセット直前の上記メカニカルブレ補正部の駆動量に相当する切出位置の時分割切出明時画像データを、初期位置あるいは初期位置寄りへのセット後の上記時分割明時画像データが取得される際に切り出すことを特徴とする請求項1に記載の撮像装置。
  3. 結像した被写体像を、1回の撮影における露光時間を複数の分割露光時間に分割して撮像素子により撮像し、複数枚の時分割明時画像データから構成される明時画像データを取得する明時画像撮像ステップと、
    上記撮像素子を遮光して、上記明時画像データを取得したのと同一の露光時間の暗時画像データを取得する暗時画像撮像ステップと、
    ブレを検出するブレ検出ステップと、
    上記ブレ検出ステップにより検出されたブレに基づいて、上記時分割明時画像データ毎にブレが補正された時分割切出明時画像データを切り出す電子的ブレ補正ステップと、
    上記明時画像撮像ステップが分割露光をする毎に、上記ブレが補正された後の時分割切出明時画像データを、過去に取得された時分割切出明時画像データと加算し、加算後の時分割切出明時画像データから表示用画像を生成して、表示部に表示させる画像処理ステップと、
    上記暗時画像データの画素値を、上記露光時間に対する上記分割露光時間の比である露光時間比に分割して、上記時分割明時画像データに各対応する上記暗時画像データを構成する時分割暗時画像データを取得し、上記時分割暗時画像データ毎に、上記時分割切出明時画像データと同じ切り出し位置の時分割切出暗時画像データを切り出す暗時画像切出ステップと、
    上記時分割切出明時画像データから上記時分割切出暗時画像データを減算することにより、暗電流が補正された補正画像データを生成する暗電流補正ステップと、
    を備えたことを特徴とする撮像方法。
JP2013120068A 2013-06-06 2013-06-06 撮像装置、撮像方法 Active JP6104060B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013120068A JP6104060B2 (ja) 2013-06-06 2013-06-06 撮像装置、撮像方法
US14/270,102 US9247137B2 (en) 2013-06-06 2014-05-05 Image pickup apparatus and image pickup method which acquires bright-time image data and dark-time image data to correct dark current
CN201410239480.7A CN104243863B (zh) 2013-06-06 2014-05-30 拍摄装置、拍摄方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013120068A JP6104060B2 (ja) 2013-06-06 2013-06-06 撮像装置、撮像方法

Publications (2)

Publication Number Publication Date
JP2014239299A JP2014239299A (ja) 2014-12-18
JP6104060B2 true JP6104060B2 (ja) 2017-03-29

Family

ID=52005171

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013120068A Active JP6104060B2 (ja) 2013-06-06 2013-06-06 撮像装置、撮像方法

Country Status (3)

Country Link
US (1) US9247137B2 (ja)
JP (1) JP6104060B2 (ja)
CN (1) CN104243863B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015109502A (ja) * 2013-12-03 2015-06-11 ソニー株式会社 イメージセンサおよびイメージセンサの動作方法、撮像装置、電子機器、並びにプログラム
JP2016167767A (ja) 2015-03-10 2016-09-15 オリンパス株式会社 撮像装置、合成撮影方法及び合成撮影プログラム
JP6535524B2 (ja) * 2015-06-30 2019-06-26 オリンパス株式会社 撮像装置
JPWO2018062561A1 (ja) * 2016-09-29 2019-07-11 株式会社ニコン 撮像素子およびカメラ
WO2018062560A1 (ja) 2016-09-30 2018-04-05 株式会社ニコン 撮像装置および撮像素子
KR102581210B1 (ko) * 2019-01-10 2023-09-22 에스케이하이닉스 주식회사 이미지 신호 처리 방법, 이미지 신호 프로세서 및 이미지 센서 칩
JP2021077935A (ja) * 2019-11-05 2021-05-20 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、制御方法、及びプログラム
CN112585938B (zh) * 2019-11-05 2022-11-22 深圳市大疆创新科技有限公司 控制装置、摄像装置、控制方法以及程序
JP7098773B2 (ja) * 2021-03-08 2022-07-11 ローム株式会社 アクチュエータドライバ
CN115134527B (zh) * 2022-06-29 2024-03-12 上海传英信息技术有限公司 处理方法、智能终端及存储介质
CN117671226B (zh) * 2023-12-06 2024-07-23 重庆医科大学 一种脑肿瘤图像特征提取装置及方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0729270B1 (en) * 1995-02-24 2002-12-18 Eastman Kodak Company Black pattern correction for a charge transfer sensor
JP2000209506A (ja) 1999-01-14 2000-07-28 Toshiba Corp 撮像装置および撮像方法
JP2004229032A (ja) 2003-01-24 2004-08-12 Kyocera Corp 固体撮像素子を備える撮影機のノイズ補正装置
JP3826904B2 (ja) * 2003-07-08 2006-09-27 ソニー株式会社 撮像装置およびフリッカ低減方法
JP2005117395A (ja) * 2003-10-08 2005-04-28 Konica Minolta Photo Imaging Inc 撮像装置
JP4401949B2 (ja) * 2004-11-26 2010-01-20 キヤノン株式会社 動画撮像装置及び動画撮像方法
JP2006339979A (ja) * 2005-06-01 2006-12-14 Olympus Imaging Corp 撮像装置
JP4662880B2 (ja) * 2006-04-03 2011-03-30 三星電子株式会社 撮像装置,及び撮像方法
MY151485A (en) * 2007-06-14 2014-05-30 Sony Corp Imaging apparatus, imaging control method, and imaging control program
JP2009265126A (ja) * 2008-04-22 2009-11-12 Hitachi Ltd 手ブレ補正装置
US7832928B2 (en) * 2008-07-24 2010-11-16 Carestream Health, Inc. Dark correction for digital X-ray detector
JP2010193376A (ja) * 2009-02-20 2010-09-02 Nikon Corp 撮像装置
JP5374217B2 (ja) * 2009-04-22 2013-12-25 キヤノン株式会社 画像処理装置およびその方法
JP5395512B2 (ja) * 2009-05-26 2014-01-22 オリンパスイメージング株式会社 撮影装置
JP2011146767A (ja) * 2010-01-12 2011-07-28 Panasonic Corp 撮像装置
JP5484310B2 (ja) * 2010-12-24 2014-05-07 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
JP5889323B2 (ja) * 2011-10-12 2016-03-22 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP5678911B2 (ja) * 2012-03-12 2015-03-04 カシオ計算機株式会社 画像合成装置、その画像合成方法、及びプログラム

Also Published As

Publication number Publication date
CN104243863A (zh) 2014-12-24
CN104243863B (zh) 2018-07-06
US9247137B2 (en) 2016-01-26
JP2014239299A (ja) 2014-12-18
US20140362241A1 (en) 2014-12-11

Similar Documents

Publication Publication Date Title
JP6104060B2 (ja) 撮像装置、撮像方法
JP4445567B2 (ja) 写真を生成する方法及び装置
JP6460653B2 (ja) 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム
JP5889323B2 (ja) 撮像装置及び撮像装置の制御方法
JP2007300595A (ja) 静止画像撮影の手ブレ回避方法
JP6370207B2 (ja) 撮像装置、画像処理装置、撮像方法、およびプログラム
US10257437B2 (en) Imaging apparatus and control method for positioning a plurality of images continuously captured by an image sensor
JP5889324B2 (ja) 撮像装置及び撮像装置の制御方法
JP2008236661A (ja) 撮像装置及び暗電流成分キャンセル処理方法
JP2018031877A (ja) 撮像装置および焦点調節方法
JP6634298B2 (ja) 撮像装置および撮像方法
JP5701942B2 (ja) 撮像装置、カメラシステム及び画像処理方法
KR100819811B1 (ko) 촬상 장치 및 촬상 방법
WO2015049990A1 (ja) 撮像装置および撮像方法
JP2007082044A (ja) 撮像方法および撮像装置
US11832020B2 (en) Image pickup apparatus, image pickup method, and storage medium
JP2013218031A (ja) 撮像装置
JP2002300460A (ja) 画像処理装置および画像処理プログラム
JP6547742B2 (ja) 撮像制御装置、撮像装置および撮像制御方法
JP2013118563A (ja) 撮像装置
JP2013118474A (ja) 撮像装置及び撮像装置の制御方法
JP2021016037A (ja) 撮像装置およびその制御方法
JP6631589B2 (ja) 撮像装置
JP2009153046A (ja) ぶれ補正装置及び方法並びに撮像装置
JP7358653B2 (ja) 撮像装置、駆動方法、及び撮像プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160923

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170228

R151 Written notification of patent or utility model registration

Ref document number: 6104060

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250