JP5367094B2 - 撮像装置及びその制御方法 - Google Patents

Description

本発明は、撮像装置及びその制御方法に関し、特に、露光期間において合焦位置を変化させる撮像装置に関する。

一般的に被写界深度拡張（以下、ＥＤＯＦと称する）を実現する方式としては、主に以下の３つの方式が挙げられる。１つ目の方式は、位相板と呼ばれる光学素子を光学系に挿入することで深度方向のボケを均一化する。そして、当該方式は、得られた画像に対して、予め測定されたボケパターン、又はシミュレーションにより算出されたボケパターンを用いて画像復元処理を行う。これにより、当該方式は、ＥＤＯＦ画像を生成する。この方式は、Ｗａｖｅｆｒｏｎｔ Ｃｏｄｉｎｇ（以下、ＷＦＣと称する）と称されている（非特許文献１参照）。

２つ目の方式は、絞り形状を工夫することで画像の部分領域ごとに高精度な距離測定を行う。そして、当該方式は、各部分領域に対して、予め測定しておいたそれぞれの距離に応じたボケパターンを用いて画像復元処理を行う。これにより、当該方式は、ＥＤＯＦ画像を生成する。この方式は、Ｃｏｄｅｄ Ａｐｅｒｔｕｒｅ（以下、ＣＡと称する）と称されている（非特許文献２参照）。

３つ目の方式は、露光時間中にフォーカスレンズ又は撮像素子を動かすことで、深度方向に一律に合焦した画像を畳み込む（つまり各深度でボケを均一化することと同義）。そして、当該方式は、得られた画像に対して、予め測定されたボケパターン、又はシミュレーションにより算出されたボケパターンを用いて画像復元処理を行う。これにより、当該方式は、ＥＤＯＦ画像を生成する。この方式は、Ｆｌｅｘｉｂｌｅ ＤＯＦ（以下、Ｆ−ＤＯＦと称する）と称されている（非特許文献３）。

上記の他にも、レンズの軸上色収差を利用して深度推定又は画像のシャープネス検知を行うとともに、画像処理により全体が鮮鋭な画像を生成する方式（非特許文献４）、及び、多重焦点レンズを使って深度方向のボケを均一化し、予め測定したボケパターン、又はシミュレーションにより算出されたボケパターンを用いて画像復元処理を行う方式（非特許文献５）などもある。しかし、これらの方式は原理上、上記３つの方式と比べてＥＤＯＦ効果が小さいという欠点がある。

さらに、Ｆｏｃａｌ Ｓｔａｃｋと呼ばれる方式も古くから存在する。この方式は、合焦位置（フォーカス位置）の異なる複数枚の画像を撮影し、合焦していると思われる領域をそれぞれの画像から抽出する。そして、当該方式は、抽出した画像を合成することで、ＥＤＯＦ画像を生成する。この方式の場合、多くの撮像枚数を必要とするため、撮像に比較的時間を要するという問題と、メモリ量を多く消費してしまうという問題とがある。

前述における３方式のうち１つ目のＷＦＣでは、様々な位相板の種類が提案されている。その中でも、最もＥＤＯＦ効果の得られるものとして、Ｃｕｂｉｃ Ｐｈａｓｅ Ｍａｓｋ（以下、ＣＰＭと称する）、及びＦｒｅｅ−Ｆｏｒｍ Ｐｈａｓｅ Ｍａｓｋ（以下、ＦＰＭと称する）がある。復元後の画質（アーティファクトの少なさ）の観点からＦＰＭが有力とされている（非特許文献６）。しかしながら、ＷＦＣ共通の欠点として、位相板を挿入することで、レンズの光軸外の特性が悪化するという性質がある（非特許文献７）。具体的には、正面からの入射光と比べ、正面以外からの入射光に対して、同じだけのボケ均一効果が得られない。これにより、画像復元時に軸上のボケパターンで復元処理を行うと、復元後の光軸外の画質が劣化してしまう。

前述における３方式のうち２つ目のＣＡは、変わった絞り形状を用いることで距離測定精度を高める。この方式そのものがもつこのような特性により、撮影された画像及び復元処理後に得られる画像の特定周波数成分が失われてしまう。つまり、この方式は、画質劣化してしまうという欠点がある。また、この方式は、一般的に絞り形状に関わらず通常の撮影方法よりも光量が減るため、暗い場所での撮影に向かない。

前述における３方式のうち３つ目のＦ−ＤＯＦは、この中で最も良好な画質が得られる方式であり、ＥＤＯＦ効果も高い。また、軸外特性もレンズ特性そのものに依存するため、性能を高めやすい。ただし光学的な条件として、露光中に合焦位置を動かしても、同一被写体が同一の画像位置上に畳み込まれる必要があることから、像側テレセントリックレンズを用いる必要がある。

上記ＥＤＯＦ技術の応用先として、最も古い歴史があるのは顕微鏡用途である。本用途の場合、静物体をじっくり撮影することができることから、Ｆｏｃａｌ Ｓｔａｃｋ方式が古くから採用されてきた。ただしこの方式の場合、前述のとおり手間と時間とを要することから、Ｆ−ＤＯＦ方式のアイデアも合わせて、いくつかの文献に開示されてきている（特許文献１〜４）。Ｆ−ＤＯＦを顕微鏡用途で用いる方法として、露光中に被写体である試料側を動かす場合と、レンズ鏡筒を動かす場合とが開示されている。なお露光後の画像復元処理を前提とする場合、像のボケが常に均一になるように動かし方を制御すれば、単一のボケパターンを使った画像復元処理方法が適用できるため合理的であることが知られている（特許文献５）。そのためには、動かす対象が撮像素子の場合、これを等速度で動かす必要がある。またフォーカスレンズを動かす場合も、撮像面が等速度で動くのに相当するフォーカス変位を行う必要がある（非特許文献３）。動かすパターンとしては、奥側合焦端位置から手前側合焦端位置まで、又はその逆でもよいことが知られている。

ＥＤＯＦ技術のその他の応用先として、近年、携帯電話などに搭載されるカメラが挙げられる。ＥＤＯＦ技術を当該カメラに用いることで、当該カメラの小型化を実現できる。すなわちＥＤＯＦ効果により、オートフォーカス機構を持つことなく、全焦点画像（全ての被写体に焦点が合っている画像）を得ることができるからである。

本応用先の観点からは、上記方式のうちＦ−ＤＯＦそのものはフォーカスレンズ又は撮像素子を動かす機構が必要になるので採用されておらず、ＷＦＣ又は軸上色収差を使った方式などが採用されている。

さらにもう１つの応用先としては、通常のデジタルスチルカメラ、及びデジタルビデオカメラが考えられる。これらデジタルスチルカメラ及びデジタルビデオカメラの近年のトレンドとして、より簡単にかつ失敗の少ない撮影が求められている。ＥＤＯＦ技術は全焦点画像、すなわち合焦ミスからの開放という効果が期待できる。本応用先の観点からは、高画質であること、ＥＤＯＦ効果の大きさ、合焦範囲の任意変更が可能なこと、通常のオートフォーカス機構を応用することで実現可能なこと（特別な光学系を用意しなくてすむこと）、及びＥＤＯＦ撮影と通常撮影との切り替えが容易なこと、などから、上記方式のうち最も優れているのはＦ−ＤＯＦである。

Ｆ−ＤＯＦを実現するのに必要な構成を、図１及び図２を用いて説明する。図１は露光期間中にフォーカスレンズを変位させる場合の撮像装置５００の構成を示している。図１に示す撮像装置５００は、撮像素子１と、レンズ２と、シャッター３と、フォーカスレンズ変位制御部４と、シャッター開閉指示部５と、レリーズ受付部６と、フォーカスレンズ初期位置検出部７と、露光時間決定部８と、フォーカスレンズ位置初期化部１８と、同期管理部１０と、画像復元処理部１１と、ＰＳＦ記憶部１２と、撮像データ記録部１３とを備える。また、レンズ２は、フォーカスレンズ２０とその他のレンズ群により構成される。

レリーズ受付部６がユーザから露光開始指示を受け付けると、フォーカスレンズ初期位置検出部７は、フォーカスレンズ２０のそのときの位置（初期位置）を検出する。検出後、フォーカスレンズ位置初期化部１８は、フォーカスレンズ２０の位置を所定の端位置、例えば最近端又は最遠端へ変位させる。ここで所定の合焦範囲のうち撮像装置５００を基準に最も撮像装置５００に近い距離を最近端とし、最も撮像装置５００より遠い距離を最遠端とする。

フォーカスレンズ２０の初期化作業と同時に、露光時間決定部８は、シャッター速度及び絞り値などの撮影パラメータを決定する。上記の作業終了後すみやかに、同期管理部１０は、露光開始の指示をフォーカスレンズ変位制御部４とシャッター開閉指示部５とへ出す。同時にフォーカスレンズ変位制御部４へは、同期管理部１０は、フォーカスレンズ位置初期化部１８で初期化されたフォーカスレンズ２０の端位置に基づき、端位置が最近端であれば最近端から最遠端へ、端位置が最遠端であれば最遠端から最近端へ、露光期間内にフォーカスレンズ２０を変位させるよう指示を出す。

図３は、露光前のフォーカスレンズ２０の位置の初期化と露光中の撮像素子面における焦点位置（像面側距離）の変位との様子を示す図である。なおその変位速度は、撮像素子面で等速に合焦位置が変位するよう、フォーカスレンズ２０に対して変位制御指示が出されるものとする。図４に示すように、被写体、レンズ、撮像素子それぞれの間の距離をｕ、ｖ、焦点距離をｆとすると、一般的にレンズの公式より、下記（式１）の関係が成り立つ。

また、レンズが複数枚存在するときは、レンズ主点位置で考慮する。一例として、ｆが１８［ｍｍ］のときのｕとｖとの関係を図５に示す。フォーカスレンズ２０が変位することで、レンズ主点と撮像素子間の距離である像面側距離ｖが変位する。ここで、撮像素子面で等速に合焦位置が変位するよう、フォーカスレンズ２０に対して変位制御指示するとは、この像面側距離ｖの変化速度が一定であることを意味する。なお、図５に示すように、像面側距離ｖが等速度で変位しても、被写体側の焦点面とレンズ主点との間の距離である被写体距離ｕが等速度で変位するわけではない。また図３の縦軸は像面側距離ｖである。つまり、露光時間と被写体距離ｕとの関係は、露光時間と像面側距離ｖとの関係に対して、大小が逆の関係になることに注意が必要である。すなわち、被写体距離側での最近端及び最遠端は、像面側に対して大小が入れ替わることになる。

図２は露光時間中撮像素子を変位させる場合の撮像装置５０１の構成を示す図である。図２に示す撮像装置５０１は、撮像素子１と、シャッター３と、シャッター開閉指示部５と、レリーズ受付部６と、露光時間決定部８と、画像復元処理部１１と、ＰＳＦ記憶部１２と、撮像データ記録部１３と、撮像素子初期位置検出部１４と、同期管理部１６と、撮像素子変位制御部１７と、撮像素子位置初期化部１９とを備える。なお、図１と同様の要素には同一の符号を付しており、重複する説明は省略する。

レリーズ受付部６がユーザから露光開始指示を受け付けると、撮像素子初期位置検出部１４は、撮像素子１のそのときの位置（初期位置）を検出する。検出後、撮像素子位置初期化部１９は、撮像素子１の位置を所定の端位置、例えば最近端又は最遠端へ変位させる。 撮像素子１の初期化作業と同時に、露光時間決定部８は、シャッター速度及び絞り値などの撮影パラメータを決定する。上記の作業終了後すみやかに、同期管理部１６は、露光開始の指示を、撮像素子変位制御部１７及びシャッター開閉指示部５へ出す。同時に撮像素子変位制御部１７へは、同期管理部１６は、撮像素子位置初期化部１９で初期化された撮像素子１の端位置に基づき、端位置が最近端であれば最近端から最遠端へ、端位置が最遠端であれば最遠端から最近端へ、露光時間内に撮像素子１を変位させるよう指示を出す。なお撮像素子１の変位速度は等速とする。

西独国特許第２３０１８００号明細書（ドイツ特許：出願１９７３／１／１５） 特公平５−２７０８４号公報 特許第３１９１９２８号公報 米国特許出願公開第２００８／００１３９４１号明細書 特許第３０８４１３０号公報

Ｅ．Ｒ．Ｄｏｗｓｋｉ ａｎｄ Ｗ．Ｔ．Ｃａｔｈｅｙ，"Ｅｘｔｅｎｄｅｄ ｄｅｐｔｈ ｏｆ ｆｉｅｌｄ ｔｈｒｏｕｇｈ ｗａｖｅ−ｆｒｏｎｔ ｃｏｄｉｎｇ"，Ａｐｐｌｉｅｄ Ｏｐｔｉｃｓ，Ｖｏｌ．３４，Ｎｏ．１１，Ｐ．１８５９−１８６６（１９９５） Ａ．Ｌｅｖｉｎ，Ｒ．Ｆｅｒｇｕｓ，Ｆ．Ｄｕｒａｎｄ ａｎｄ Ｗ．Ｔ．Ｆｒｅｅｍａｎ，"Ｉｍａｇｅ ａｎｄ Ｄｅｐｔｈ ｆｒｏｍ ａ Ｃｏｎｖｅｎｔｉｏｎａｌ Ｃａｍｅｒａ ｗｉｔｈ ａ Ｃｏｄｅｄ Ａｐｅｒｔｕｒｅ"，ＡＣＭ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｇｒａｐｈｉｃｓ，Ｖｏｌ．２６，Ｎｏ．３，Ａｒｔｉｃｌｅ ７０，７０−１ − ７０−９（２００７） Ｈ．Ｎａｇａｈａｒａ，Ｓ．Ｋｕｔｈｉｒｕｍｍａｌ，Ｃ．Ｚｈｏｕ ａｎｄ Ｓ．Ｎａｙａｒ，"Ｆｌｅｘｉｂｌｅ Ｄｅｐｔｈ ｏｆ Ｆｉｅｌｄ Ｐｈｏｔｏｇｒａｐｈｙ"，Ｅｕｒｏｐｅａｎ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ （ＥＣＣＶ），Ｏｃｔ．１６ｔｈ，Ｍｏｒｎｉｎｇ Ｓｅｓｓｉｏｎ２：Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｐｈｏｔｏｇｒａｐｈｙ（２００８） Ｃ．Ｔｉｓｓｅ，Ｈ．Ｐ．Ｎｇｕｙｅｎ，Ｒ．Ｔｅｓｉｅｒｅｓ，Ｍ．Ｐｙａｎｅｔ ａｎｄ Ｆ．Ｇｕｉｃｈａｒｄ，"Ｅｘｔｅｎｄｅｄ Ｄｅｐｔｈ−ｏｆ−ｆｉｅｌｄ（ＥＤＯＦ） ｕｓｉｎｇ ｓｈａｒｐｎｅｓｓ ｔｒａｎｓｐｏｒｔ ａｃｒｏｓｓ ｃｏｌｏｕｒ ｃｈａｎｎｅｌｓ"，Ｏｐｔｉｃａｌ Ｅｎｇｉｎｅｅｒｉｎｇ＋Ａｐｐｌｉｃａｔｉｏｎｓ，Ｐａｒｔ ｏｆ ＳＰＩＥ Ｏｐｔｉｃｓ＋Ｐｈｏｔｏｎｉｃｓ，Ｓｅｓｓｉｏｎ１−−Ｉｍａｇｉｎｇ ｉｎ ｔｈｅ Ｏｐｔｉｃａｌ Ｄｅｓｉｇｎ Ｐｒｏｃｅｓｓ：Ｄｅｐｔｈ ｏｆ Ｆｉｅｌｄ（２００８） Ｗ．Ｃｈｉ ａｎｄ Ｎ．Ｇｅｏｒｇｅ，"Ｃｏｍｐｕｔａｔｉｏｎａｌ ｉｍａｇｉｎｇ ｗｉｔｈ ｔｈｅ ｌｏｇａｒｉｔｈｍｉｃ ａｓｐｈｅｒｅ： ｔｈｅｏｒｙ"，Ｏｐｔｉｃａｌ Ｓｏｃｉｅｔｙ ｏｆ Ａｍｅｒｉｃａ，Ｖｏｌ．２０，Ｎｏ．１２，Ｄｅｃｅｍｂｅｒ（２００３） Ｙ．Ｔａｋａｈａｓｈｉ ａｎｄ Ｓ．Ｋｏｍａｔｓｕ，"Ｏｐｔｉｍｉｚｅｄ ｆｒｅｅ−ｆｏｒｍ ｐｈａｓｅ ｍａｓｋ ｆｏｒ ｅｘｔｅｎｓｉｏｎ ｏｆ ｄｅｐｔｈ ｏｆ ｆｉｅｌｄ ｉｎ ｗａｖｅｆｒｏｎｔ−ｃｏｄｅｄ ｉｍａｇｉｎｇ"，Ｏｐｔｉｃａｌ Ｓｏｃｉｅｔｙ ｏｆ Ａｍｅｒｉｃａ，Ｏｐｔｉｃｓ Ｌｅｔｔｅｒｓ，Ｖｏｌ．３３，Ｎｏ．１３，Ｊｕｌｙ １，（２００８） 高橋康久，尾花亮，小松進一，「ウェイブフロント・コーディング用最適化位相板―軸外の被写界深度拡張効果―」，Ｏｐｔｉｃｓ ＆ Ｐｈｏｔｏｎｉｃｓ Ｊａｐａｎ ２００７（日本光学会年次学術講演会），予稿集，Ｐ．４６４−４６５（２７ｐＣ２），（２００７）

このように、デジタルスチルカメラ及びデジタルビデオカメラ用途としては、様々なＥＤＯＦ方式がある中でＦ−ＤＯＦ方式が有力である。また、動画撮影の際は、１コマ１コマの間にタイムラグが発生することなく連続撮影することが求められる。よって、動画撮影中は図６に示すように往復変位を実施するとともに、往路と復路とをそれぞれ１ビデオフレームずつ交互に割り振ることで、ＥＤＯＦ動画撮影が可能であることが知られている。

しかしながら、図６のような撮像素子の変位パターン又はフォーカスレンズの変位パターンは、最近端部及び最遠端部での鋭角的な折り返しを含んでいるので、実現可能性が低い。このような鋭角的な折り返しを実現するためには、撮像素子又はフォーカスレンズの駆動部に対して、瞬間的に大きなトルクを発生させる必要がある。機器の小型化及び省電力化の観点から、このような大きなトルクを発生させる変位制御は、持ち運び可能なデジタルスチルカメラ及びデジタルビデオカメラにおいて、現実的とはいえない。また駆動部の消耗も激しくなり、品質面からも許容されないことが多い。

さらに図３及び図６の変位で得られる画像の鮮鋭度について議論する。図７は通常撮影時の被写界深度、すなわち合焦範囲を模式的に示したものであり、スルーフォーカス特性と呼ばれる。縦軸が鮮鋭度（画像のシャープさ）を表しており、一般的にはＭＴＦ（Ｍｏｄｕｌａｔｉｏｎ Ｔｒａｎｓｆｅｒ Ｆｕｎｃｔｉｏｎ）などで表現されることが多い。横軸は像面側距離である。また、横軸を、図５に示した関係に基づき大小反転しスケーリングしなおすと被写体距離になる。露光中の変位を伴わない通常撮影の場合、一般的にある被写体距離に焦点を合わせていると、その部分が最も鮮鋭となり、前後の被写体距離にあるものは、その合焦位置から離れていくにつれて、鮮鋭さが失われる。

図８は、図３のように露光中等速度で変位を行った場合のスルーフォーカス特性を模式的に示したものである。点線は、図７の模式図で表現した通常撮影時のスルーフォーカス特性をそれぞれ最遠端から最近端へ変位させた様子を表している。また、実線は、変位の結果得られるスルーフォーカス特性を示している。この実線のスルーフォーカス特性は、点線の積分によって得られることが、例えば非特許文献３などに示されている。この模式図によると、像面側距離を最遠端から最近端へ変位させた場合、その端部において、中心部よりもその鮮鋭度がやや劣ることがわかる。これは、以下の理由により起こる現象である。中心部においてはその場所で合焦する点線と、その前後で合焦する点線との和が得られる。これに対して、端部においては変位が打ち切られることにより、その場所で合焦する点線と、片側の前又は後で合焦する点線との和しか得られない。このため図６に示す従来の変位方法では、最遠端及び最近端で復元される被写体位置の画質が、その中心部で復元される画質と比較して、劣化してしまうという問題も内包している。

本発明は、上記従来の課題を解決するもので、Ｆ−ＤＯＦにおいて、最遠端及び最近端における復元画質の劣化を抑制できる撮像装置及びその制御方法を提供することを目的とする。

上記の課題を解決するために、本発明の一形態に係る撮像装置は、撮像装置であって、撮像素子と、前記撮像素子に対して結像及び集光を行うレンズと、前記撮像素子と前記レンズとの距離である像面側距離を変位させることにより、当該撮像装置の被写体側の合焦位置を変位させる変位制御部と、撮像シーンに基づいて露光時間を決定する露光時間決定部と、前記露光時間の長さの露光期間の間に、前記合焦位置が、予め定められた合焦範囲の一方端から他方端へ移動するように、前記露光期間を含むフレーム期間における、前記変位制御部による前記像面側距離の変位パターンを決定する変位パターン決定部とを備え、前記変位パターン決定部は、前記フレーム期間に含まれる加速期間の間、前記像面側距離の変位速度が速度ゼロから増加し、前記フレーム期間に含まれる、前記加速期間の後の等速期間の間、前記像面側距離が等速で変位し、前記フレーム期間に含まれる前記等速期間の後の減速期間の間、前記像面側距離の変位速度が速度ゼロまで減少するように、前記変位パターンを決定し、前記加速期間及び前記減速期間の各々の長さは、前記フレーム期間の長さの１／１０以上である。

この構成によれば、本発明の一形態に係る撮像装置は、Ｆ−ＤＯＦ方式において、あるフレーム期間の露光期間とその次のフレーム期間の露光期間との間、鋭角的に像面側距離を変位する必要がない。さらに、本発明の一形態に係る撮像装置は、合焦範囲の最遠端及び最近端（一方端及び他方端）での画像鮮鋭度を、中間領域の鮮鋭度に近づけることができる。このように、本発明の一形態に係る撮像装置は、Ｆ−ＤＯＦにおいて、最遠端及び最近端での復元画質の劣化を抑制できる。これにより、本発明の一形態に係る撮像装置は、合焦範囲内の画像の鮮鋭さを均一化することができるため、高画質なＥＤＯＦ画像を生成できる。

また、前記加速期間及び前記減速期間の各々の長さは、前記フレーム期間の長さの１／４以下であってもよい。

この構成によれば、本発明の一形態に係る撮像装置は、中心部での復元画質の低下を抑制できる。

また、前記変位パターン決定部は、前記加速期間の間、前記像面側距離の変位速度が一定の加速度で増加し、前記減速期間の間、前記像面側距離の変位速度が一定の減速度で減少するように、前記変位パターンを決定してもよい。

この構成によれば、本発明の一形態に係る撮像装置は、変位パターンに従った、合正位置を変位させる機構を容易に実現できる。

また、前記フレーム期間は、前記露光期間と、前記露光期間より前の第１非露光期間と、前記露光期間より後の第２非露光期間とを含み、前記加速期間の少なくとも一部は、前記第１非露光期間に含まれ、前記減速期間の少なくとも一部は、前記第２非露光期間に含まれてもよい。

この構成によれば、本発明の一形態に係る撮像装置は、合焦範囲内において、等しいＥＤＯＦ復元処理画質を得ることができる。

また、前記変位制御部は、前記レンズの位置を移動させることにより前記像面側距離を変位させてもよい。

この構成によれば、本発明の一形態に係る撮像装置では、Ｆ−ＤＯＦ方式においても、あるフレーム期間の露光期間とその次のフレーム期間の露光期間との間、鋭角的にフォーカスレンズを変位する必要がない。

また、前記変位制御部は、前記撮像素子の位置を移動させることにより前記像面側距離を変位させてもよい。

この構成によれば、本発明の一形態に係る撮像装置では、撮像素子を変位させることで、合焦位置を変位できる。

また、前記撮像装置は、さらに、復元用ＰＳＦ（Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）を予め記憶しておくＰＳＦ記憶部と、前記撮像素子により生成された撮像データに対して、前記復元用ＰＳＦを用いて画像復元処理を行う画像復元処理部と、前記画像復元処理部にて復元された復元画像を記録する撮像データ記録部とを備えてもよい。

なお、本発明は、このような撮像装置として実現できるだけでなく、撮像装置に含まれる特徴的な手段をステップとする撮像装置の制御方法として実現したり、そのような特徴的なステップをコンピュータに実行させるプログラムとして実現したりすることもできる。そして、そのようなプログラムは、ＣＤ−ＲＯＭ等の非一時的なコンピュータ読み取り可能な記録媒体、及びインターネット等の伝送媒体を介して流通させることができるのは言うまでもない。

さらに、本発明は、このような撮像装置の機能の一部を実現する半導体集積回路（ＬＳＩ）として実現できる。

以上より、本発明は、Ｆ−ＤＯＦにおいて、最遠端及び最近端における復元画質の劣化を抑制できる撮像装置及びその制御方法を提供できる。

図１は、従来の撮像装置のブロック図である。 図２は、従来の撮像装置のブロック図である。 図３は、従来の撮像装置における変位パターンの一例を示す図である。 図４は、被写体距離と像面側距離との位置関係を示す図である。 図５は、被写体距離と像面側距離との関係の一例を示すグラフである。 図６は、従来の撮像装置による動画撮影時における変位パターンの一例を示す図である。 図７は、一般的なレンズ構成で得られるスルーフォーカス特性を示す図である。 図８は、従来のＦ−ＤＯＦ変位で得られるスルーフォーカス特性を示す図である。 図９は、本発明の実施の形態１に係る撮像装置のブロック図である。 図１０は、本発明の実施の形態１に係る撮像装置のブロック図である。 図１１は、本発明の実施の形態１に係る変位パターンの一例を示す図である。 図１２は、本発明の実施の形態１に係る変位速度の一例を示す図である。 図１３は、本発明の実施の形態１に係るスルーフォーカス特性を示す図である。 図１４Ａは、本発明の実施の形態１に係る加速／減速時間と要求加速度との関係を示す図である。 図１４Ｂは、本発明の実施の形態１に係る加速／減速時間と中心部における変位速度との関係を示す図である。 図１５Ａは、本発明の実施の形態１に係る、合焦範囲の端部における復元処理後のＭＴＦを示す図である。 図１５Ｂは、本発明の実施の形態１に係る、合焦範囲の端部における復元処理後のＭＴＦを示す図である。 図１５Ｃは、本発明の実施の形態１に係る、合焦範囲の端部における復元処理後のＭＴＦを示す図である。 図１５Ｄは、本発明の実施の形態１に係る、合焦範囲の端部における復元処理後のＭＴＦを示す図である。 図１６Ａは、本発明の実施の形態１に係る、合焦範囲の中心部における復元処理前のＭＴＦを示す図である。 図１６Ｂは、本発明の実施の形態１に係る、合焦範囲の中心部における復元処理前のＭＴＦを示す図である。 図１６Ｃは、本発明の実施の形態１に係る、合焦範囲の中心部における復元処理前のＭＴＦを示す図である。 図１６Ｄは、本発明の実施の形態１に係る、合焦範囲の中心部における復元処理前のＭＴＦを示す図である。 図１７は、本発明の実施の形態１に係る、変位パターンの変形例を示す図である。 図１８は、本発明の実施の形態１に係る撮像装置による撮像動作のフローチャートである。 図１９は、本発明の実施の形態１に係る撮像装置の変形例のブロック図である。 図２０は、本発明の実施の形態２に係る撮像装置のブロック図である。 図２１は、本発明の実施の形態２に係る撮像装置の変形例のブロック図である。

以下、本発明の各実施の形態について図面を参照しながら説明する。

（実施の形態１）
本発明の実施の形態１に係る撮像装置は、Ｆ−ＤＯＦ方式において、合焦範囲の端部で像面側距離の変位速度を減速又は加速する。これにより、本発明の実施の形態１に係る撮像装置は、合焦範囲の端部において、鋭角的に像面側距離を変位する必要がない。さらに、本発明の実施の形態１に係る撮像装置は、合焦範囲の端部での画像鮮鋭度を、中間領域の鮮鋭度に近づけることができる。このように、本発明の実施の形態１に係る撮像装置は、Ｆ−ＤＯＦにおいて、最遠端及び最近端における復元画質の劣化を抑制できる。

本発明の実施の形態１における撮像装置について、図９〜図１９を参照しながら説明する。

まず、本発明の実施の形態１に係る撮像装置の概略構成を説明する。

図９は、本発明の実施の形態１に係る撮像装置１００の概略構成を示す図である。

図９に示す撮像装置１００は、露光時間決定部８と、変位パターン決定部２１と、変位制御部２２と、撮像素子１と、レンズ２とを備える。

レンズ２は、撮像素子１に対して結像及び集光を行う。

変位制御部２２は、撮像素子１とレンズ２との相対距離（像面側距離ｖ）を変位させることにより、撮像装置１００の被写体側の合焦位置（被写体距離ｕ）を変位させる。なお、以下では、被写体側の合焦位置を単に合焦位置とも記す。

露光時間決定部８は、撮像シーンに基づいて露光時間を決定する。

図１０は、本発明の実施の形態１に係る撮像装置１００の詳細な構成を示す図である。図１０に示すように、撮像装置１００は、撮像素子１と、レンズ２と、シャッター３と、フォーカスレンズ変位制御部４Ａと、シャッター開閉指示部５と、レリーズ受付部６と、フォーカスレンズ初期位置検出部７と、露光時間決定部８と、フォーカスレンズ変位パターン決定部９と、同期管理部１０Ａと、画像復元処理部１１と、ＰＳＦ記憶部１２と、撮像データ記録部１３と、フォーカスレンズ位置初期化部１８とを備える。

フォーカスレンズ変位制御部４Ａは、図９に示す変位制御部２２の具体例である。このフォーカスレンズ変位制御部４Ａは、フォーカスレンズ２０の位置を移動させることにより合焦位置を変位させる。

また、フォーカスレンズ変位パターン決定部９は、図９に示す変位パターン決定部２１の具体例である。

シャッター３は、撮像素子１への露光の開始及び終了を物理的に行う。シャッター開閉指示部５は、シャッター３の開閉を指示する。

シャッター３が開状態のとき、レンズ２により撮像素子１に被写体の光学像が結像されると、結像した光学像は、撮像素子１によって電気信号に変換される。なお通常、光学像結像の際、所望の被写体に対して合焦させるため、レンズ２はフォーカスレンズ２０とその他のレンズ群により構成される。なお、フォーカスレンズ２０は、複数枚のレンズで構成されていてもよい。このフォーカスレンズ２０は、他のレンズ群に対する相対的な位置を変位可能であり、当該相対的な位置を変位することにより合焦位置を変位させる。

レリーズ受付部６はユーザから、露光開始指示（シャッターを切る指示）を受け付ける。

フォーカスレンズ初期位置検出部７は、レリーズ受付部６がユーザから露光開始指示を受け付けると、フォーカスレンズ２０のそのときの位置（初期位置）を検出する。

フォーカスレンズ位置初期化部１８は、フォーカスレンズ初期位置検出部７により初期位置が検出された後、当該初期位置に基づき、フォーカスレンズ２０の位置を初期化する。具体的には、フォーカスレンズ位置初期化部１８は、フォーカスレンズ２０の位置を所定の端位置、例えば最近端又は最遠端へ変位させる。ここで所定の合焦範囲のうち撮像装置１００を基準に最も撮像装置１００に近い距離を最近端とし、最も撮像装置１００より遠い距離を最遠端とする。

また、露光時間決定部８は、レリーズ受付部６がシャッターを切る指示を受け付けると、ただちに撮像シーンに基づいて露光時間を決定する。さらに、フォーカスレンズ２０の初期化作業と同時に、露光時間決定部８は、シャッター速度及び絞り値などの撮影パラメータを決定する。

フォーカスレンズ変位パターン決定部９は、フォーカスレンズ位置初期化部１８にてフォーカスレンズ位置の初期化終了後、露光時間決定部８で決定された露光時間の長さの露光期間の間に、合焦位置が、予め定められた合焦範囲の一方端から他方端へ移動するように、露光期間を含むフレーム期間における、変位制御部２２による、フォーカスレンズ２０と撮像素子１との相対距離の変位パターン、つまり像面側距離ｖの変位パタ−ンを決定する。例えば、フォーカスレンズ変位パターン決定部９は、図１１に示すような変位パターンを決定する。

ここで、フレーム期間とは、動画撮影における１ビデオフレーム期間、又は、静止画連続撮影時の連射要求速度に基づく１枚の静止画の撮影時間である。

また、フォーカスレンズ変位パターン決定部９は、像面側距離ｖの変位パターン決定後、この変位パターンに準じるフォーカスレンズ２０の変位パターンを決定し、同期管理部１０Ａへその変位パターンを通知する。そして同期管理部１０Ａは、その変位パターンに基づき、フォーカスレンズ変位制御部４Ａ及びシャッター開閉指示部５に対し、露光開始及び終了時の同期管理を行う。

具体的には、同期管理部１０Ａは、フォーカスレンズ変位パターン決定部９によりフォーカスレンズ２０の変位パターンが決定され、かつ露光時間決定部８にて露光時間が決定されたことを検知すると、すみやかに、露光開始の指示をフォーカスレンズ変位制御部４Ａ及びシャッター開閉指示部５へ出す。

シャッター開閉指示部５は、露光開始指示が出されるとすぐに、シャッター３が開くよう制御を行う。また露光時間経過後、同期管理部１０Ａは、フォーカスレンズ変位制御部４Ａへフォーカスレンズ２０の変位終了を指示すると同時に、シャッター開閉指示部５へ露光終了を指示する。シャッター開閉指示部５は露光終了指示が出されるとすぐに、シャッター３が閉まるよう制御を行う。

上記手順にて撮像素子１に被写体の光学像を結像すると、結像した光学像は、撮像素子１によって電気信号である画像信号に変換され、変換された画像信号が画像復元処理部１１へ移される。同時に同期管理部１０Ａより画像復元処理部１１へ、露光が終了したこととＦ−ＤＯＦによるフォーカス変位の撮影が行われたことが通知される。

ＰＳＦ記憶部１２は、画像信号を復元するための復元用ＰＳＦ（Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）を予め記憶している。

画像復元処理部１１は画像信号を受領後、ＰＳＦ記憶部１２に記憶されている復元用ＰＳＦを読み込み、当該復元用ＰＳＦを用いて、画像信号に画像復元処理を行う。具体的には、ＰＳＦ記憶部１２は、予め測定された、又はシミュレーションで求められた、フォーカス変位によるボケパターンを復元用ＰＳＦとして保持しておく。また画像復元の方法は、Ｗｉｅｎｅｒ Ｆｉｌｔｅｒ、Ｌｕｃｙ−Ｒｉｃｈａｒｄｓｏｎなどの様々な手法が知られているが、どの手法を用いてもよい。

撮像データ記録部１３は、復元された画像信号を撮像データとして記録する。

以下、フォーカスレンズ変位パターン決定部９により決定される変位パターンについて詳細に説明する。

図１１は、本発明の実施の形態１に係る像面側距離ｖの変位パターンの一例を示す図である。また、図１２は、この場合の像面側距離ｖの変位速度を示す図である。

図１１及び図１２に示すように、変位パターンにおいて、例えば動画撮影であれば、最遠端から最近端へ変位するまでの時間は、１ビデオフレーム期間（１フレーム期間）の露光時間と同一である。

また、図１１及び図１２に示すように、１フレーム期間は、加速期間と、その後の等速期間と、その後の減速期間とを含む。

加速期間の間、像面側距離ｖの変位速度が速度ゼロから一定の加速度で増加する。また、等速期間の間、像面側距離ｖが等速で変位する。そして、減速期間の間、像面側距離ｖの変位速度が、最近端で速度ゼロとなるよう一定の減速度で減少する。このように、フォーカスレンズ変位パターン決定部９は、像面側距離ｖの変位パターンを制御するために、フォーカスレンズ２０の変位パターンを制御する。

もちろんこれを図５のような考え方に基づいて応用し、次のビデオフレームの露光期間においては最近端から最遠端へ変位するよう制御してもよく、これを繰り返すことで動画撮影を実現する。また静止画の連続撮影においても、ここに示した動画撮影時の手法を用いてもよい。

なお、ここで示した１ビデオフレームの露光期間内での変位パターンは一例であり、これ以外の変位パターンであってもよい。例えば、変位パターンは、ここに示した片道変位パターンだけではなく、１ビデオフレームの露光期間内に１往復半、又は２往復半など、整数回往復後に片道変位させるようなパターンであっても同等の効果が得られる。

また、上記説明では、加速期間の間、像面側距離ｖの変位速度が一定の加速度で増加するとしたが、この加速度は一定でなくてもよい。同様に、上記説明では、減速期間の間、像面側距離ｖの変位速度が、一定の減速度で減少するとしたが、この減速度は一定でなくてもよい。ただし、変位パターンの実現が容易なので、一定の加速度及び減速度を用いることが好ましい。

また、加速期間及び減速期間の各々の長さである加速／減速時間ｔは、１フレーム期間の長さである１フレーム時間Ｔの１／１０以上、かつ、１／４以下であることが好ましい。その理由を以下に述べる。

上述したとおり、合焦範囲の全てにおいて等速変位を用いた場合、合焦範囲の端部での復元処理画質がやや劣化する。一方、本発明の実施の形態１のような変位パターンを採用することで、合焦範囲の端部の復元処理画質は改善する。図１３は、本発明の実施の形態１に係る変位パターンを採用したときのスルーフォーカス特性を示す図である。図１３に示すように、合焦範囲の端部における滞留時間が中心部と比べて増加することにより、合焦範囲の端部の鮮鋭度は中心部よりも増加する。結果として所望の合焦範囲において均等な鮮鋭度が得られることになる。

図１４Ａは、像面側の変位距離を１００μｍとし、１フレーム時間Ｔを１／６０秒としたときの、加速／減速時間ｔと要求加速度ａとの関係を示すグラフである。図１４Ｂは、同条件における、加速／減速時間ｔと、中心部の変位速度ｖとの関係を示すグラフである。

また、一般的に像面側変位距離Ｓｄ、１フレーム時間Ｔ、加速／減速時間ｔ、合焦範囲の端部での要求加速度ａ、及び、中心部の変位速度ｖは、以下の関係が成り立つ。

図１４Ａ及び図１４Ｂでは、横軸に加速／減速時間ｔを設定している。また、図１４Ａでは、縦軸に要求加速度ａを設定しており、図１４Ｂでは縦軸に中心部の変位速度ｖを設定している。

図１４Ａに示すように、加速／減速時間ｔを短くするほど、合焦範囲の端部で必要となる加速度ａ（減速度）が急激に上昇する。つまり、加速／減速時間ｔを短くすると、非常に大きい加速度を用いる必要があるので、実現が困難である。

また、図１４Ｂに示す加速／減速時間ｔを長くするほど、中心部での変位速度ｖは大きくなる。つまり、加速／減速時間ｔを大きく取って端部における滞留時間を長くすることで、端部の復元処理画質が向上するが、同時に、図１４Ｂに示すように中心部での変位速度ｖが大きくなってしまう。これにより、中心部を含め全体の鮮鋭度は低下してしまうことが予想できる。これは、変位したときの復元処理前のＭＴＦが低下することにより、ノイズ等の影響が大きくなることを意味している。

図１５Ａ〜図１５Ｄ及び図７Ａ〜図１６Ｄは、具体的にこれらの現象を定量的に評価した実験データである。焦点距離を４．８ｍｍとし、Ｆ値を２．８とし、合焦位置を無限遠とし、波長を５５０ｎｍとし、合焦範囲として、無限遠を中心に手前側被写体距離を０．４８ｍまで変位させる実験を行った。この場合、像面側の変位はレンズの公式より、４．７５ｍｍ〜４．８５ｍｍとなる。

図１５Ａ〜図１５Ｄは、手前側の端部である０．４８ｍにおける、復元処理前のＭＴＦ（単に変位させたときに得られる画像のＭＴＦ）と復元処理後のＭＴＦ（復元用ＰＳＦとして無限遠に被写体を想定したときの変位時に得られるＰＳＦを採用）とを示すグラフである。また、図１５Ａはｔ＝０．０Ｔ（すなわち全て等速変位）の場合を示し、図１５Ｂはｔ＝０．１Ｔの場合を示し、図１５Ｃはｔ＝０．２５Ｔの場合を示し、図１５Ｄはｔ＝０．４Ｔの場合を示している。

端部の復元処理後のＭＴＦに注目すると、図１５Ａに示す等速変位では、当該復元処理後のＭＴＦはおよそ０．６近辺であるが、図１５Ｂに示すｔ＝０．１Ｔでは当該復元処理後のＭＴＦは０．８弱であり、図１５Ｃに示すｔ＝０．２５Ｔ、及び図１５Ｄに示すｔ＝０．４Ｔでは当該復元処理後のＭＴＦは０．８強であることがわかる。またｔが０．２５Ｔより大きくなっても、端部のＭＴＦは増加しないことがわかる。

つまり、図１５Ａ〜図１５Ｄにより、加速期間及び減速期間を設けることにより、端部における鮮明度が改善されることがわかる。また、ある程度の時間までは、加速／減速時間ｔを長くするほど、端部における鮮明度がより改善されるが、ある時間以上の加速／減速時間ｔを長くしても、端部における鮮明度はあまり変化しない（改善効果が少なくなる）ことがわかる。

図１６Ａ〜図１６Ｄは、無限遠位置（すなわちＥＤＯＦ中心部）における復元処理前のＭＴＦ特性を示している。例えばＭＴＦの値０．１のときの空間周波数に着目すると、図１６Ａに示すｔ＝０．０Ｔ（すなわち等速変位）の場合、当該空間周波数は約１８０ｌｐｍｍであり、図１６Ｂに示すｔ＝０．１Ｔの場合、当該空間周波数は約１６０ｌｐｍｍであり、図１６Ｃに示すｔ＝０．２５Ｔの場合、当該空間周波数は約１４５ｌｐｍｍであり、図１６Ｄに示すｔ＝０．４Ｔの場合、当該空間周波数は約１３０ｌｐｍｍである。

これは前述の予想のとおり、加速／減速時間ｔを大きくすることで端部における滞留時間を大きくした場合、中心部での変位速度が大きくなることで、中心部のＭＴＦが相対的に低下することを示している。このため、加速／減速時間ｔを大きくした場合、画像データがノイズに埋もれやすくなり、画像復元処理において復元画質に支障をきたす可能性が高くなってしまう。そこで本発明の実施の形態１では、この加速／減速時間ｔを１フレーム時間（露光時間）Ｔに対して０．１から０．２５に限定するものである。

なお、少なくとも加速／減速時間ｔを１フレーム時間Ｔの１／１０以上とすることで、最遠端及び最近端での復元画質を向上できる。さらに、加速／減速時間ｔを１フレーム時間Ｔの１／４以下とすることで、中心部での復元画質の低下を抑制できる。

また、加速期間の長さ、及び減速期間の長さは同じでもよいし、異なってもよい。言い換えると、加速期間における加速度と、減速期間における減速度とは異なってもよい。

また、上記では、１フレーム期間と露光期間とが同じ場合の例を説明したが、１フレーム期間に露光期間と非露光期間が含まれてもよい。つまり、これは、露光時間決定部８で決定された１ビデオフレームの露光時間、又は静止画連続撮影時の１枚の露光時間が、ビデオフレームレート（１／３０又は１／６０）、又は連射要求速度に基づく１枚の静止画の撮影時間よりも短い場合である。このような場合、図１１のような変位パターンにおいては、非露光時間中は変位速度ゼロとなった端部において変位せずとどまるよう制御することが考えられる。

また、図１７のように、合焦位置を、実際に要求される変位量（最遠端と最近端との距離）よりも所定量多く変位させ、要求される変位量（最遠端と最近端の距離）の範囲内においては、等速変位となるよう制御させることも考えられる。この場合前述のように速度ゼロとなった端部で滞留するのではなく、加速／減速時間を非露光時間に含めるよう制御することとなる。つまり、加速期間が、１フレーム期間に含まれる、露光期間の前に位置する非露光期間に含まれ、減速期間が、１フレーム期間に含まれる、露光期間の後に位置する非露光期間に含まれてもよい。こうすることで、所望の変位量（最遠端と最近端の距離）の範囲内においては、等しいＥＤＯＦ復元処理画質を得ることが可能である。なお、加速期間の一部が、非露光期間に含まれ、加速期間のそれ以外の部分が露光期間に含まれてもよい。同様に、減速期間の一部が非露光期間に含まれ、減速期間のそれ以外の部分が露光期間に含まれてもよい。

以下、撮像装置１００による動作の流れを説明する。図１８は、撮像装置１００による撮像動作のフローチャートである。

まず、露光時間決定部８は、撮像シーンに基づいて露光時間を決定する（Ｓ１０１）。

次に、フォーカスレンズ変位パターン決定部９は、ステップＳ１０１で決定された露光時間の長さの露光期間の間に、合焦位置が、予め定められた合焦範囲の一方端から他方端へ移動するように、露光期間を含むフレーム期間における、像面側距離の変位パターンを決定する（Ｓ１０２）。

また、フォーカスレンズ変位パターン決定部９は、変位パターン決定後、この変位パターンに準じるフォーカスレンズ２０の変位パターンを決定し、同期管理部１０Ａへその変位パターンを通知する。そして同期管理部１０Ａは、その変位パターンに基づき、フォーカスレンズ変位制御部４Ａ及びシャッター開閉指示部５に対し、露光開始及び終了時の同期管理を行う。これにより、フォーカスレンズ変位制御部４Ａは、ステップＳ１０２で決定された変位パターンのように、１フレーム期間内において像面側距離を変位させる（Ｓ１０３）。

以上より、本発明の実施の形態１に係る撮像装置１００は、このような制御を行うことで、Ｆ−ＤＯＦを採用したＥＤＯＦを用いた動画及び連続静止画撮影を実現することができる。さらに、本発明の実施の形態１に係る撮像装置１００は、同時に合焦範囲の端部の画質向上も実現できる。

なお、本発明に係る撮像装置１００は、図１０に示す全ての処理部を備えなくてもよい。

図１９は、本実施の形態１に係る撮像装置１００の変形例である撮像装置１０１のブロック図である。その構成と作用は、ほぼ図１０に準じる。この撮像装置１０１は、図１０と比較して、露光により得られた画像を直接撮像データ記録部１３へ記録するのが特徴である。これは、画像復元処理を撮像装置内ではなく、その後段の別の装置、例えばパーソナルコンピュータ、画像ビューワ、又はネットワークサーバ等にて実現することを意図したものである。これにより、撮像装置１０１は、図１０に示す構成と比較して、撮像装置としての演算量を抑えつつ、シャッタータイムラグの大幅な縮小を実現できる。

（実施の形態２）
本発明の実施の形態２では、撮像素子１の位置を移動させることにより合焦位置を変位する例について述べる。また、本発明の実施の形態２に係る撮像装置２００の概略構成は、図９と同様である。

本発明の実施の形態２における撮像装置について、図２０及び図２１を参照しながら説明する。

図２０は、本発明の実施の形態２に係る撮像装置２００のブロック図である。この撮像装置２００は、図１０に示す撮像装置１００の構成に対して、フォーカスレンズ初期位置検出部７、フォーカスレンズ位置初期化部１８、フォーカスレンズ変位パターン決定部９、同期管理部１０Ａ及びフォーカスレンズ変位制御部４Ａの代わりに、撮像素子初期位置検出部１４、撮像素子位置初期化部１９、撮像素子変位パターン決定部１５、同期管理部１６Ａ及び撮像素子変位制御部１７Ａを備える。なお、図１０と同様の要素には同一の符号を付しており、以下では相違点を主に説明する。

また、図２０にはレンズ２を記載していないが、撮像装置２００はレンズ２を備えてもよい。

本発明の実施の形態２に係る撮像装置１００では、例えば、レンズ２は固定されており、撮像素子１は、レンズ２に対する相対的な位置を変位可能である。

撮像素子変位制御部１７Ａは、図９に示す変位制御部２２の具体例である。この撮像素子変位制御部１７Ａは、撮像素子１の位置を移動させることにより合焦位置を変位する。

撮像素子変位パターン決定部１５は、図９に示す変位パターン決定部２１の具体例である。

レリーズ受付部６がユーザから露光開始指示を受け付けると、撮像素子初期位置検出部１４は、撮像素子１のそのときの位置（初期位置）を検出する。

撮像素子位置初期化部１９は、撮像素子初期位置検出部１４により初期位置が検出された後、当該初期位置に基づき、撮像素子１の位置を初期化する。具体的には、撮像素子位置初期化部１９は、撮像素子１の位置を所定の端位置、例えば最近端又は最遠端へ変位させる。

また、露光時間決定部８は、レリーズ受付部６がシャッターを切る指示を受け付けると、ただちに撮像シーンに基づいて露光時間を決定する。さらに、撮像素子１の初期化作業と同時に、露光時間決定部８は、シャッター速度及び絞り値などの撮影パラメータを決定する。

一方、撮像素子変位パターン決定部１５は、撮像素子位置初期化部１９にて撮像素子位置の初期化終了後、露光時間決定部８にて決定された露光時間の情報を用いて、例えば、図１１に示すような合焦位置の変位パターンを決定する。そして、撮像素子変位パターン決定部１５は、この合焦位置の変位パターンに準じる撮像素子の変位パターンを決定し、同期管理部１６Ａへその変位パターンを通知する。なお撮像素子１を変位させる場合、図４から明らかなように、レンズ位置を変位させなければ、合焦位置の変位パターンは撮像素子自身の変位パターンそのものとなる。同期管理部１６Ａは、その変位パターンに基づき、撮像素子変位制御部１７Ａ及びシャッター開閉指示部５に対し、露光開始及び終了時の同期管理を行う。

具体的には、同期管理部１６Ａは、露光開始の指示を、撮像素子変位制御部１７Ａ及びシャッター開閉指示部５へ出す。シャッター開閉指示部５は露光開始指示が出されるとすぐに、シャッター３が開くよう制御を行う。また所定の露光時間経過後、同期管理部１６Ａは、シャッター開閉指示部５へ露光終了を指示する。

シャッター開閉指示部５は露光終了指示が出されるとすぐに、シャッター３が閉まるよう制御を行う。

上記手順にて撮像素子１に被写体の光学像を結像すると、結像した光学像は、撮像素子１によって電気信号である画像信号に変換され、変換された画像信号が画像復元処理部１１へ移される。同時に同期管理部１６Ａは、画像復元処理部１１へ、露光が終了したこととＦ−ＤＯＦによる撮像素子変位の撮影が行われたこととを通知する。これ以外の構成は、図１０のフォーカスレンズ変位の場合に準じる。

なお、撮像素子の変位パターンについては、実施の形態１に示した図１１のパターンに準じる。実施の形態１と比較して、撮像素子１そのものが変位する構成が実施の形態２の差異であり、変位パターンについては共通である。加速／減速時間ｔを１フレーム時間Ｔに対して０．１から０．２５に限定するのも、実施の形態１と同様である。

以上のより、本発明の実施の形態２に係る撮像装置２００は、このような制御を行うことで、実施の形態１と同様に、Ｆ−ＤＯＦを採用したＥＤＯＦを用いた動画及び連続静止画撮影を実現することができる。さらに、本発明の実施の形態２に係る撮像装置２００は、同時に合焦範囲の端部の画質向上も実現できる。

なお、本発明に係る撮像装置２００は、図２０に示す全ての処理部を備えなくてもよい。

図２１は、本発明の実施の形態２に係る撮像装置２００の変形例である撮像装置２０１のブロック図である。その構成と作用は、ほぼ図２０に準じる。この撮像装置２０１は、図２０と比較して、露光により得られた画像を直接撮像データ記録部１３へ記録するのが特徴である。これは、画像復元処理を撮像装置内ではなく、その後段の別の装置、例えばパーソナルコンピュータ、画像ビューワ、又はネットワークサーバ等にて実現することを意図したものである。これにより、撮像装置２０１は、図２０に示す構成と比較して、撮像装置としての演算量を抑えつつ、シャッタータイムラグの大幅な縮小を実現できる。

以上、本発明の実施の形態に係る撮像装置について説明したが、本発明は、この実施の形態に限定されるものではない。

また、上記実施の形態に係る撮像装置に含まれる複数の処理部のうち少なくとも一部は集積回路であるＬＳＩとして実現される。これらは個別に１チップ化されてもよいし、一部又は全てを含むように１チップ化されてもよい。

また、集積回路化はＬＳＩに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）、又はＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。

また、本発明の実施の形態に係る撮像装置の機能の一部を、ＣＰＵ等のプロセッサがプログラムを実行することにより実現してもよい。

さらに、本発明は上記プログラムであってもよいし、上記プログラムが記録された非一時的なコンピュータ読み取り可能な記録媒体であってもよい。また、上記プログラムは、インターネット等の伝送媒体を介して流通させることができるのは言うまでもない。

また、上記実施の形態に係る、撮像装置、及びその変形例の機能のうち少なくとも一部を組み合わせてもよい。

また、上記で用いた数字は、全て本発明を具体的に説明するために例示するものであり、本発明は例示された数字に制限されない。

更に、本発明の主旨を逸脱しない限り、本実施の形態に対して当業者が思いつく範囲内の変更を施した各種変形例も本発明に含まれる。

本発明は、撮像装置及びその制御方法に適用でき、特に、Ｆ−ＤＯＦ方式を用いた動画撮影及び連続静止画撮影に適用できる。また、本発明は、例えば民生用及び業務用撮像装置（デジタルスチルカメラ）などの分野において有用である。

１ 撮像素子
２ レンズ
３ シャッター
４、４Ａ フォーカスレンズ変位制御部
５ シャッター開閉指示部
６ レリーズ受付部
７ フォーカスレンズ初期位置検出部
８ 露光時間決定部
９ フォーカスレンズ変位パターン決定部
１０、１０Ａ 同期管理部
１１ 画像復元処理部
１２ ＰＳＦ記憶部
１３ 撮像データ記録部
１４ 撮像素子初期位置検出部
１５ 撮像素子変位パターン決定部
１６、１６Ａ 同期管理部
１７、１７Ａ 撮像素子変位制御部
１８ フォーカスレンズ位置初期化部
１９ 撮像素子位置初期化部
２０ フォーカスレンズ
２１ 変位パターン決定部
２２ 変位制御部
１００、１０１、２００、２０１、５００、５０１ 撮像装置

Claims (8)

1. 撮像装置であって、
   撮像素子と、
   前記撮像素子に対して結像及び集光を行うレンズと、
   前記撮像素子と前記レンズとの距離である像面側距離を変位させることにより、当該撮像装置の被写体側の合焦位置を変位させる変位制御部と、
   撮像シーンに基づいて露光時間を決定する露光時間決定部と、
   前記露光時間の長さの露光期間の間に、前記合焦位置が、予め定められた合焦範囲の一方端から他方端へ移動するように、前記露光期間を含むフレーム期間における、前記変位制御部による前記像面側距離の変位パターンを決定する変位パターン決定部とを備え、
   前記変位パターン決定部は、
   前記フレーム期間に含まれる加速期間の間、前記像面側距離の変位速度が速度ゼロから増加し、
   前記フレーム期間に含まれる、前記加速期間の後の等速期間の間、前記像面側距離が等速で変位し、
   前記フレーム期間に含まれる前記等速期間の後の減速期間の間、前記像面側距離の変位速度が速度ゼロまで減少するように、
   前記変位パターンを決定し、
   前記加速期間及び前記減速期間の各々の長さは、前記フレーム期間の長さの１／１０以上である
   撮像装置。
2. 前記加速期間及び前記減速期間の各々の長さは、前記フレーム期間の長さの１／４以下である
   請求項１記載の撮像装置。
3. 前記変位パターン決定部は、
   前記加速期間の間、前記像面側距離の変位速度が一定の加速度で増加し、
   前記減速期間の間、前記像面側距離の変位速度が一定の減速度で減少するように、
   前記変位パターンを決定する
   請求項１又は２記載の撮像装置。
4. 前記フレーム期間は、前記露光期間と、前記露光期間より前の第１非露光期間と、前記露光期間より後の第２非露光期間とを含み、
   前記加速期間の少なくとも一部は、前記第１非露光期間に含まれ、
   前記減速期間の少なくとも一部は、前記第２非露光期間に含まれる
   請求項１〜３のいずれか１項に記載の撮像装置。
5. 前記変位制御部は、前記レンズの位置を移動させることにより前記像面側距離を変位させる
   請求項１〜４のいずれか１項に記載の撮像装置。
6. 前記変位制御部は、前記撮像素子の位置を移動させることにより前記像面側距離を変位させる
   請求項１〜４のいずれか１項に記載の撮像装置。
7. 前記撮像装置は、さらに、
   復元用ＰＳＦ（Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）を予め記憶しておくＰＳＦ記憶部と、
   前記撮像素子により生成された撮像データに対して、前記復元用ＰＳＦを用いて画像復元処理を行う画像復元処理部と、
   前記画像復元処理部にて復元された復元画像を記録する撮像データ記録部とを備える
   請求項１〜６のいずれか１項に記載の撮像装置。
8. 撮像素子と、前記撮像素子に対して結像及び集光を行うレンズとを備える撮像装置の制御方法であって、
   前記撮像素子と前記レンズとの距離である像面側距離を変位させることにより、当該撮像装置の被写体側の合焦位置を変化させる変位制御ステップと、
   撮像シーンに基づいて露光時間を決定する露光時間決定ステップと、
   前記露光時間の長さの露光期間の間に、前記合焦位置が、予め定められた合焦範囲の一方端から他方端へ移動するように、前記露光期間を含むフレーム期間における、前記変位制御ステップにおける前記像面側距離の変位パターンを決定する変位パターン決定ステップとを含み、
   変位パターン決定ステップでは、
   前記フレーム期間に含まれる加速期間の間、前記像面側距離の変位速度を速度ゼロから増加し、
   前記フレーム期間に含まれる、前記加速期間の後の等速期間の間、前記像面側距離を等速で変位し、
   前記フレーム期間に含まれる前記等速期間の後の減速期間の間、前記像面側距離の変位速度を速度ゼロまで減少するように、
   前記像面側距離の変位パターンを決定し、
   前記加速期間及び前記減速期間の各々は、前記フレーム期間の１／１０以上の期間である
   撮像装置の制御方法。

Images