[go: up one dir, main page]

JP7603053B2 - 固体撮像装置及び電子機器 - Google Patents

固体撮像装置及び電子機器 Download PDF

Info

Publication number
JP7603053B2
JP7603053B2 JP2022503135A JP2022503135A JP7603053B2 JP 7603053 B2 JP7603053 B2 JP 7603053B2 JP 2022503135 A JP2022503135 A JP 2022503135A JP 2022503135 A JP2022503135 A JP 2022503135A JP 7603053 B2 JP7603053 B2 JP 7603053B2
Authority
JP
Japan
Prior art keywords
pixel
image
unit
filter
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022503135A
Other languages
English (en)
Other versions
JPWO2021171797A1 (ja
Inventor
隆行 小笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2021171797A1 publication Critical patent/JPWO2021171797A1/ja
Application granted granted Critical
Publication of JP7603053B2 publication Critical patent/JP7603053B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/73—Colour balance circuits, e.g. white balance circuits or colour temperature control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/77—Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本技術は、固体撮像装置及び電子機器に関する。
従来、ベイヤー配列の１画素を複数画素に分割した構成の固体撮像装置が提案されている（例えば、特許文献１参照。）。特許文献１に記載の固体撮像装置では、フル解像度デモザイク処理（リモザイク処理後に、デモザイク処理を行う一連の処理）を行うことで、高解像度の撮像画像を得ることができ、また、ビニング処理を行うことで、ＳＮ比に優れた撮像画像を得ることができ、さらには、複数画素のそれぞれで露光条件を変えることで、高ダイナミックレンジ(ＨＤＲ：High Dynamic Range)の撮像画像を得ることができる。
特開２０１９－１７５９１２号公報
しかしながら、特許文献１に記載の固体撮像装置では、一回の撮像で、被写体のＲＧＢ画像、ＣＭＹ画像及び輝度情報のすべてを取得することができなかった。
本開示は、一回の撮像で、ＲＧＢ画像、ＣＭＹ画像及び輝度情報を取得可能な固体撮像装置及び電子機器を提供することを目的とする。
本開示の固体撮像装置は、（ａ）光電変換部と、光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が、複数配列されている画素アレイ部を備え、（ｂ）画素ユニット群のそれぞれは、画素ユニット群を構成する４つの画素ユニットのうちの、第１の画素ユニットに、赤色光を透過させるＲフィルタと、赤色光と補色関係にあるシアン色光を透過させるＣフィルタとをカラーフィルタとして含み、第２及び第３の画素ユニットそれぞれに、緑色光を透過させるＧフィルタと、緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタとをカラーフィルタとして含み、第４の画素ユニットに、青色光を透過させるＢフィルタと、青色光と補色関係にある黄色光を透過させるＹフィルタとをカラーフィルタとして含む。
本開示の電子機器は、（ａ）光電変換部と、光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が、複数配列されている画素アレイ部を備え、画素ユニット群のそれぞれは、画素ユニット群を構成する４つの画素ユニットのうちの、第１の画素ユニットに、赤色光を透過させるＲフィルタと、赤色光と補色関係にあるシアン色光を透過させるＣフィルタとをカラーフィルタとして含み、第２及び第３の画素ユニットそれぞれに、緑色光を透過させるＧフィルタと、緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタとをカラーフィルタとして含み、第４の画素ユニットに、青色光を透過させるＢフィルタと、青色光と補色関係にある黄色光を透過させるＹフィルタをカラーフィルタとして含む固体撮像装置と、（ｂ）被写体からの像光を固体撮像装置の撮像面上に結像させる光学レンズと、（ｃ）固体撮像装置から出力される信号に信号処理を行う信号処理回路とを備える。
本開示の第１の実施形態に係る電子機器の全体構成を示す図である。 本開示の第１の実施形態に係る固体撮像装置の全体構成を示す図である。 図２のＡ－Ａ線で破断した場合の、画素アレイ部の断面構成を示す図である。 図３ＡのＢ－Ｂ線で破断した場合の、カラーフィルタの最小単位配列を示す図である。 変形例に係るカラーフィルタの最小単位配列を示す図である。 赤色画素及びシアン色画素の透過率を示す図である。 緑色画素及びマゼンタ色画素の透過率を示す図である。 青色画素及び黄色画素の透過率を示す図である。 カラーフィルタアレイの構成を示す図である。 変形例に係るマイクロレンズの配置を示す図である。 画像生成処理を示すフローチャートである。 信号処理回路で生成される撮像画像を示す図である。 リモザイク処理の処理内容を示す図である。 リモザイク処理の処理内容を示す図である。 ビニング処理の処理内容を示す図である。 ビニング処理の処理内容を示す図である。 ビニング処理の処理内容を示す図である。 輝度合成処理の処理内容を示す図である。 輝度合成処理の処理内容を示す図である。 本開示の第２の実施形態に係る電子機器の全体構成を示す図である。 画像生成処理を示すフローチャートである。 ＨＤＲ画像生成処理の処理内容を示す図である。 ＨＤＲ画像生成処理の処理内容を示す図である。 信号線の接続状態を示す図である。 信号線の接続状態を示す図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。
以下に、本開示の実施形態に係る固体撮像装置１及び電子機器の一例を、図１～図２８を参照しながら説明する。本開示の実施形態は以下の順序で説明する。なお、本開示は以下の例に限定されるものではない。また、本明細書に記載された効果は例示であって限定されるものではなく、また他の効果があってもよい。
１．第１の実施形態：電子機器
１－１ 電子機器の全体の構成
１－２ 要部の構成
１－３ 画像生成処理
２．第２の実施形態：電子機器
２－１ 要部の構成
２－２ 変形例
３．移動体への応用例
４．内視鏡手術システムへの応用例
〈１．第１の実施形態：電子機器〉
［１－１ 電子機器の全体の構成］
本開示の第１の実施形態に係る電子機器１００について説明する。電子機器１００としては、例えば、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置、撮像機能を備えた携帯電話機、又は撮像機能を備えた他の機器といった各種の電子機器を採用できる。図１は、本開示の第１の実施形態に係る電子機器１００の全体を示す概略図である。
図１に示すように、電子機器１００は、固体撮像装置１０１（以下、「固体撮像装置１」とも呼ぶ）と、光学レンズ１０２と、シャッタ装置１０３と、駆動回路１０４と、信号処理回路１０５とを備えている。信号処理回路１０５は、モザイク画像生成部１０６と、ホワイトバランス調整部１０７と、モード判定部１０８と、リモザイク処理部１０９と、ビニング処理部１１０と、輝度値算出部１１１と、輝度合成部１１２とを備えている。電子機器１００では、光学レンズ１０２が、被写体からの像光（入射光１１３）を固体撮像装置１０１の撮像面上に結像させ、固体撮像装置１０１が、入射光１１３の光量を画素単位で電気信号に変換して画素信号を出力し、信号処理回路１０５が、固体撮像装置１０１から出力される画素信号に信号処理を行う。その際、シャッタ装置１０３は、固体撮像装置１０１への光照射期間及び遮光期間を制御する。また、駆動回路１０４は、画素信号の転送動作、及びシャッタ装置１０３のシャッタ動作を制御する駆動信号を供給する。
図２は、固体撮像装置１を示す概略構成図である。図２の固体撮像装置１は、裏面照射型のＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサである。
図２に示すように、固体撮像装置１は、基板２と、画素アレイ部３と、垂直駆動回路４と、カラム信号処理回路５と、水平駆動回路６と、出力回路７と、制御回路８とを備えている。
画素アレイ部３は、基板２上に、行列状に配列された複数の画素９を有している。画素９のそれぞれは、図３Ａ及び図３Ｂに示すように、光電変換部２４、光電変換部２４に対応して形成されたカラーフィルタ１９及びマイクロレンズ２０を有している。画素９は、２×２の行列状に配置された４つの画素９で１つの画素ユニット１０を構成している。また、画素ユニット１０は、２×２の行列状に配置された４つの画素ユニット１０で１つの画素ユニット群１１を構成している。即ち、画素アレイ部３は、画素ユニット群１１が行列状に複数配列されて構成されている。
なお、第１の実施形態では、１つの画素ユニット１０を、２×２の行列状に配置された画素９で構成する例を示したが、他の構成を採用することもできる。例えば、図４に示すように、ｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素９で構成してもよい。図４では、ｍが５以上である場合を例示している。
垂直駆動回路４は、例えば、シフトレジスタによって構成され、所望の画素駆動配線１２を選択し、選択した画素駆動配線１２に画素９を駆動するためのパルスを供給し、各画素９を行単位で駆動する。即ち、垂直駆動回路４は、画素アレイ部３の各画素９を行単位で順次垂直方向に選択走査し、各画素９の光電変換部２４において受光量に応じて生成した信号電荷に基づく画素信号を垂直信号線１３経由でカラム信号処理回路５に供給する。
カラム信号処理回路５は、例えば、画素９の列毎に配置されており、１行分の画素９から出力される信号に対して画素列毎にノイズ除去等の信号処理を行う。例えばカラム信号処理回路５は画素固有の固定パターンノイズを除去するためのＣＤＳ(Correlated Double Sampling：相関２重サンプリング)及びＡＤ(Analog Digital)変換等の信号処理を行う。
水平駆動回路６は、例えば、シフトレジスタによって構成され、水平走査パルスをカラム信号処理回路５に順次出力して、カラム信号処理回路５の各々を順番に選択し、カラム信号処理回路５の各々から信号処理が行われた画素信号（以下、「画素値」とも呼ぶ）を水平信号線１４に出力させる。
出力回路７は、カラム信号処理回路５の各々から水平信号線１４を通して、順次に供給される画素信号（画素値）に対し信号処理を行って出力する。信号処理としては、例えば、バファリング、黒レベル調整、列ばらつき補正、各種デジタル信号処理を採用できる。
制御回路８は、垂直同期信号、水平同期信号、及びマスタクロック信号に基づいて、垂直駆動回路４、カラム信号処理回路５、及び水平駆動回路６等の動作の基準となるクロック信号や制御信号を生成する。そして、制御回路８は、生成したクロック信号や制御信号を、垂直駆動回路４、カラム信号処理回路５、及び水平駆動回路６等に出力する。
［１－２ 要部の構成］
次に、図１の固体撮像装置１の詳細構造について説明する。図３Ａは、固体撮像装置１の画素アレイ部３の断面構成を示す図である。図３Ｂは、図３ＡのＢ－Ｂ線で破断した場合の、カラーフィルタ１９の最小単位配列を示す図である。図３Ａ及び図３Ｂでは、固体撮像装置１として、裏面照射型のＣＭＯＳイメージセンサを用いている。
図３Ａ及び図３Ｂに示すように、第１の実施形態の固体撮像装置１は、基板２、絶縁膜１５、遮光膜１６及び平坦化膜１７がこの順に積層されてなる受光層１８を備えている。また、受光層１８の絶縁膜１５側の面（以下、「裏面Ｓ１」とも呼ぶ）には、カラーフィルタ１９及びマイクロレンズ２０（オンチップレンズ）がこの順に積層されてなる集光層２１が形成されている。さらに、受光層１８の基板２側の面（以下、「表面Ｓ２」とも呼ぶ）には、配線層２２及び支持基板２３がこの順に積層されている。なお、受光層１８の裏面Ｓ１と平坦化膜１７の裏面とは同一の面であるため、以下の記載では、平坦化膜１７の裏面についても「裏面Ｓ１」と表す。また、受光層１８の表面Ｓ２と基板２の表面とは同一の面であるため、以下の記載では、基板２の表面についても「表面Ｓ２」と表す。
基板２は、例えば、シリコン（Si）からなる半導体基板によって構成され、図１に示した画素アレイ部３を形成している。画素アレイ部３には、基板２に形成された複数の光電変換部２４が行列状に配置されている。光電変換部２４では、入射光１１３の光量に応じた信号電荷が生成されて蓄積される。また、互いに隣接する光電変換部２４間には、他の光電変換部２４を透過した光が侵入しないように、画素分離部２５が配置されている。
絶縁膜１５は、基板２の裏面Ｓ１側の全体（受光面側の全体）を連続的に被覆している。また、遮光膜１６は、絶縁膜１５の裏面Ｓ３側の一部（受光面側の一部）に、複数の光電変換部２４のそれぞれの受光面が開口されるように、格子状に形成されている。
カラーフィルタ１９は、絶縁膜１５の裏面Ｓ１側（受光面側）に、各光電変換部２４に対応して形成されている。即ち、１つの光電変換部２４（画素９）に対して１つのカラーフィルタ１９が形成されている。これにより、カラーフィルタ１９は、行列状に規則的に配列されてなるカラーフィルタアレイ２６を形成している。カラーフィルタ１９のそれぞれは、入射光１１３の特定の波長の光（赤色光、緑色光、青色光、シアン色光、マゼンタ色光、黄色光）を透過し、透過した光を光電変換部２４に入射させる構成となっている。
カラーフィルタ１９としては、赤色光を透過させるＲフィルタ１９R、緑色光を透過させるＧフィルタ１９G、青色光を透過させるＢフィルタ１９B、Ｒフィルタ１９Rが透過させる赤色光と補色関係にあるシアン色光を透過させるＣフィルタ１９C、Ｇフィルタ１９Gが透過させる緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタ１９M、Ｂフィルタ１９Bが透過させる青色光と補色関係にある黄色光を透過させるＹフィルタ１９Yが用いられる。言い換えると、Ｃフィルタ１９Cは、図５に示すように、分光分布図において、Ｒフィルタ１９Rの透過率が大きくなる波長で透過率が小さくなり、Ｒフィルタ１９Rの透過率が小さくなる波長で透過率が大きくなるカラーフィルタである。Ｍフィルタ１９Mは、図６に示すように、分光分布図において、Ｇフィルタ１９Gの透過率が大きくなる波長で透過率が小さくなり、Ｇフィルタ１９Gの透過率が小さくなる波長で透過率が大きくなるカラーフィルタである。また、Ｙフィルタ１９Yは、図７に示すように分光分布図において、Ｂフィルタ１９Bの透過率が大きくなる波長で透過率が小さくなり、Ｂフィルタ１９Bの透過率が小さくなる波長で透過率が大きくなるカラーフィルタである。
図３Ａ及び図３Ｂ中、符号ＲはＲフィルタ１９Rを示し、以下同様に、符号ＧはＧフィルタ１９Gを示し、符号ＢはＢフィルタ１９Bを示し、符号ＣはＣフィルタ１９Cを示し、符号ＭはＭフィルタ１９Mを示し、符号ＹはＹフィルタ１９Yを示す。また、以下の記載では、Ｒフィルタ１９Rを含む画素９を赤色画素９Rと表し、Ｇフィルタ１９Gを含む画素９を緑色画素９Gと表し、Ｂフィルタ１９Bを含む画素９を青色画素９Bと表し、Ｃフィルタ１９Cを含む画素９をシアン色画素９Cと表し、Ｍフィルタ１９Mを含む画素９をマゼンタ色画素９Mと表し、Ｙフィルタ１９Yを含む画素９を黄色画素９Yと表す。
また、カラーフィルタ１９（Ｒフィルタ１９R、Ｇフィルタ１９G、Ｂフィルタ１９B、Ｃフィルタ１９C、Ｍフィルタ１９M、Ｙフィルタ１９Y）の配列パターンは、図３Ｂに示すような４×４の行列状に配置されたカラーフィルタ１９の配列をカラーフィルタ１９の配列の最小単位（以下「最小単位配列」とも呼ぶ）とし、図８に示すように、その最小単位配列が画素アレイ部３のすべての画素ユニット群１１に配置された構成となっている。
カラーフィルタ１９の最小単位配列は、図３Ｂに示すように、画素ユニット群１１を構成する４つの画素ユニット１０のうちの、右上側の画素ユニット１０（以下、「第１の画素ユニット１０1」とも呼ぶ）にＲフィルタ１９Rが配置され、左上側の画素ユニット１０（以下、「第２の画素ユニット１０2」とも呼ぶ）及び右下側の画素ユニット１０（以下「第３の画素ユニット１０3」とも呼ぶ）にＧフィルタ１９Gが配置され、左下側の画素ユニット１０（以下「第４の画素ユニット１０4」とも呼ぶ）にＢフィルタ１９Bが配置されてなる４分割ベイヤー配列の一部が修正された配列となっている。具体的には、４分割ベイヤー配列の、第１の画素ユニット１０1を構成する２×２の画素９のうちの、右上側及び左下側の画素９のＲフィルタ１９RがＣフィルタ１９Cに置き換えられている。また、第２の画素ユニット１０2及び第３の画素ユニット１０3のそれぞれを構成する２×２の画素９のうちの、右上側及び左下側の画素９のＧフィルタ１９GがＭフィルタ１９Mに置き換えられている。また、第４の画素ユニット１０4を構成する２×２の画素９のうちの、右上側及び左下側の画素９のＢフィルタ１９BがＹフィルタ１９Yに置き換えられている。
即ち、カラーフィルタ１９の最小単位配列では、第１の画素ユニット１０1内の対角位置に配置されている画素対（１つの組をなす２つの画素９）のうちの、一方の画素対にＲフィルタ１９Rが含まれ、他方の画素対にＣフィルタ１９Cが含まれている。以下同様に、第２の画素ユニット１０2内の対角位置に配置されている画素対のうちの、一方の画素対にＧフィルタ１９Gが含まれ、他方の画素対にＭフィルタ１９Mが含まれている。また、第３の画素ユニット１０3内の対角位置に配置されている画素対のうちの、一方の画素対にＧフィルタ１９Gが含まれ、他方の画素対にＭフィルタ１９Mが含まれている。また、第４の画素ユニット１０4内の対角位置に配置されている画素対のうちの、一方の画素対にＢフィルタ１９Bが含まれ、他方の画素対にＹフィルタ１９Yが含まれている。
このような最小単位配列におけるカラーフィルタ１９の配置により、第１の画素ユニット１０1に含まれるカラーフィルタ１９全体では、図５に示すように、Ｒフィルタ１９Rと、Ｒフィルタ１９Rの透過率が小さくなる波長で透過率が大きくなるＣフィルタ１９Cとが組み合わされるため、短波長側～長波長側のすべての光に対して透過率がほぼフラットとなる。以下同様に、第２の画素ユニット１０2に含まれるカラーフィルタ１９全体では、図６に示すように、Ｇフィルタ１９Gと、Ｇフィルタ１９Gの透過率が小さくなる波長で透過率が大きくなるＭフィルタ１９Mとが組み合わされるため、短波長側～長波長側のすべての光に対して透過率がほぼフラットとなる。また、第４の画素ユニット１０4に含まれるカラーフィルタ１９全体では、図７に示すように、Ｂフィルタ１９Bと、Ｂフィルタ１９Bの透過率が小さくなる波長で透過率が大きくなるＹフィルタ１９Yとが組み合わされるため、短波長側～長波長側のすべての光に対して透過率がほぼフラットとなる。
なお、図４に示すように、画素ユニット１０がｍ× ｍの行列状に配置された画素９から構成され、ｍが３以上の自然数である場合には（図４では、ｍが５以上である場合を例示している）、互いに市松状に配置された画素９がＲフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bを含む構成としてもよい。具体的には、第１の画素ユニット１０1は、ｍ× ｍの行列状に配置された複数の画素９のうち互いに市松状に位置する一部の画素９がＲフィルタ１９Rを含み、残りの画素９がＣフィルタ１９Cを含む構成とする。以下同様に、第２の画素ユニット１０2は、ｍ× ｍの行列状に配置された複数の画素９のうち互いに市松状に位置する一部の画素９がＧフィルタ１９Gを含み、残りの画素９がＭフィルタ１９Mを含む構成とする。また、第３の画素ユニット１０3は、ｍ× ｍの行列状に配置された複数の画素９のうち互いに市松状に位置する一部の画素９がＧフィルタ１９Gを含み、残りの画素９がＭフィルタ１９Mを含む構成とする。また、第４の画素ユニット１０4は、ｍ× ｍの行列状に配置された複数の画素９のうち互いに市松状に位置する一部の画素９がＢフィルタ１９Bを含み、残りの画素９がＹフィルタ１９Yを含む構成とする。
このように、第１の実施形態に係る固体撮像装置１では、カラーフィルタ１９として、Ｒフィルタ１９R、Ｇフィルタ１９G及びＢフィルタ１９Bに加え、Ｃフィルタ１９C、Ｍフィルタ１９M、Ｙフィルタ１９Yも含む構成とした。それゆえ、Ｒフィルタ１９Rを含む赤色画素９R、Ｇフィルタ１９Gを含む緑色画素９G、及びＢフィルタ１９Bを含む青色画素９Bの画素信号を用いることで、ＲＧＢ画像（図１４のＲＧＢモザイク画像３８）を生成できる。また、Ｃフィルタ１９Cを含むシアン色画素９C、Ｍフィルタ１９Mを含むマゼンタ色画素９M、及びＹフィルタ１９Yを含む黄色画素９Yの画素信号を用いることで、ＣＭＹ画像（図１５のＣＭＹモザイク画像３９）を生成できる。さらに、同じ画素ユニット１０内の各画素９の画素値を加算することで、輝度情報（図１６の輝度画像４１）を生成できる。そのため、一回の撮像で、ＲＧＢ画像、ＣＭＹ画像及び輝度情報を取得できる。ＲＧＢ画像は、カラーフィルタ１９の感度が低いため、暗所での撮影に弱いが、カラーフィルタ１９の分光感度の重なりが小さいため、色再現性が良好である。ＣＭＹ画像は、カラーフィルタ１９の分光感度の重なりが大きいため、色再現性が良くないが、カラーフィルタ１９の感度が低いため、ＲＧＢ画像に比べて暗所での撮影に強い。また、ＲＧＢ画像及びＣＭＹ画像を組み合わせて６色を用いることで、色再現性をより向上することもできる。
また、第１の実施形態に係る固体撮像装置１のように、第１の画素ユニット１０1内の対角位置に配置されている画素対のうちの、一方の画素対にＲフィルタ１９Rが含まれ、他方の画素対にＣフィルタ１９Cが含まれる構成とした場合、図１４に示すように、カラーフィルタ１９の配列に対応するモザイク画像３０のうちの、赤色の色情報のみを有する画像画素３１Rの重心と、その赤色の色情報のみを有する画像画素３１Rへのビニング処理で生成される画像画素３７Rの重心とが等しくなるため、ビニング処理において、赤色の画像画素３１Rの重心を補正する必要がない。また、図１４及び図１５に示すように、緑色の色情報のみを有する画像画素３１G、青色の色情報のみを有する画像画素３１B、シアン色の色情報のみを有する画像画素３１C、マゼンタ色の色情報のみを有する画像画素３１M、及び黄色の色情報のみを有する画像画素３１Yにおいても同様である。それゆえ、より適切なＲＧＢ画像及びＣＭＹ画像を取得できる。図１４及び図１５中、符号Ｒは赤色の色情報のみを有する画像画素（以下、「赤色の画像画素」とも呼ぶ）３１Rを示し、以下同様に、符号Ｇは緑色の色情報のみを有する画像画素（以下、「緑色の画像画素」とも呼ぶ）３１Gを示し、符号Ｂは青色の色情報のみを有する画像画素（以下、「青色の画像画素」とも呼ぶ）３１Bを示し、符号Ｃはシアン色の色情報のみを有する画像画素（以下、「シアン色の画像画素」とも呼ぶ）３１Cを示し、符号Ｍはマゼンタ色の色情報のみを有する画像画素（以下、「マゼンタ色の画像画素」とも呼ぶ）３１Mを示し、符号Ｙは黄色の色情報のみを有する画像画素（以下、「黄色の画像画素」とも呼ぶ）３１Yを示す。
なお、第１の実施形態では、左上側及び右下側の画素ユニット１０を、第２の画素ユニット１０2及び第３の画素ユニット１０3とする例を示したが、他の構成を採用することもできる。例えば、第２の画素ユニット１０2及び第３の画素ユニット１０3を、右上側及び左下側の画素ユニット１０に配置する構成や、左上側及び左下側の画素ユニット１０に配置する構成、右上側及び右下側の画素ユニット１０に配置する構成を採用することもできる。また、例えば、第１の画素ユニット１０1を下側に配置し、第４の画素ユニット１０4を上側に配置する構成を採用することもできる。即ち、画素ユニット群１１のそれぞれが、画素ユニット群１１を構成する４つの画素ユニット１０のうちの、第１の画素ユニット１０1にＲフィルタ１９RとＣフィルタ１９Cとをカラーフィルタ１９として含み、第２の画素ユニット１０2及び第３の画素ユニット１０3それぞれにＧフィルタ１９G及びＭフィルタ１９Mをカラーフィルタ１９として含み、第４の画素ユニット１０4にＢフィルタ１９B及びＹフィルタ１９Yをカラーフィルタ１９として含む構成であればよい。
マイクロレンズ２０は、カラーフィルタ１９の裏面Ｓ４側（受光面側）に、各光電変換部２４に対応して形成されている。即ち、１つの光電変換部２４（画素９）に対して１つのマイクロレンズ２０が形成されている。これにより、マイクロレンズ２０は、行列状に規則的に配列されてなるマイクロレンズアレイ２７を形成している。マイクロレンズ２０のそれぞれは、被写体からの像光（入射光１１３）を集光し、集光した入射光１１３をカラーフィルタ１９を介して光電変換部２４裏面（受光面）付近に導く構成となっている。
なお、第１の実施形態では、１つの光電変換部２４に対して１つのマイクロレンズ２０を形成する例を示したが、他の構成を採用することもできる。例えば、緑色画素９Gを位相差画素として使用する場合、図９に示すように、１×２の行列状に２つの緑色画素９Gを配置し、配置した２つの緑色画素９G（位相差画素）に対して１つのマイクロレンズ２０を形成する構成としてもよい。このような構成によれば、１つのマイクロレンズ２０を共有する２つの緑色画素９G（位相差画素）間で撮像画像の位相差を検出することができる。
配線層２２は、基板２の表面Ｓ２側に形成されており、層間絶縁膜２８と、層間絶縁膜２８を介して複数層に積層された配線２９とを含んで構成されている。そして、配線層２２は、複数層の配線２９を介して、各画素９を構成する画素トランジスタを駆動する。
支持基板２３は、配線層２２の基板２に面する側とは反対側の面に形成されている。支持基板２３は、固体撮像装置１の製造段階において、基板２の強度を確保するための基板である。支持基板２３の材料としては、例えば、シリコン(Si)を用いることができる。
［１－３ 画像生成処理］
次に、信号処理回路１０５（モザイク画像生成部１０６、ホワイトバランス調整部１０７、モード判定部１０８、リモザイク処理部１０９、ビニング処理部１１０、輝度値算出部１１１、輝度合成部１１２）で実行される画像生成処理について説明する。
画像生成処理が実行されると、図１０に示すように、まずステップＳ１０１で、モザイク画像生成部１０６が、赤色画素９R、緑色画素９G、青色画素９B、シアン色画素９C、マゼンタ色画素９M及び黄色画素９Yから出力される画素信号（画素値）に基づき、図１１に示すように、カラーフィルタ１９の配列に対応するモザイク画像３０を生成する。
続いてステップＳ１０２に移行して、ホワイトバランス調整部１０７が、ステップＳ１０１で生成したモザイク画像３０の各画像画素３１の画素値に基づき、光源の色温度を推定し、推定した色温度に基づき、モザイク画像３０のホワイトバランスを調整する。
続いてステップＳ１０３に移行して、モード判定部１０８が、電子機器１００のユーザによって選択された撮影モードが高解像度モード及び高ＳＮ比モードの何れであるかを判定する。そして、高解像度モードであると判定した場合には、ステップＳ１０４に移行する。一方、高ＳＮ比モードであると判定した場合には、ステップＳ１０５に移行する。
ステップＳ１０４では、リモザイク処理部１０９が、ステップＳ１０２でホワイトバランスを修正したモザイク画像３０に対してリモザイク処理を行う。リモザイク処理では、図１２に示すように、モザイク画像３０を構成する赤色、緑色及び青色の画像画素３１R、３１G、３１Bの画素配列をベイヤー配列に変換し、ベイヤー配列の赤色、緑色及び青色の画像画素３２R、３２G、３２BからなるＲＧＢモザイク画像３３を生成する。また、図１３に示すように、シアン色、マゼンタ色及び黄色の画像画素３１C、３１M、３１Yの画素配列を予め定められた所定配列に変換し、所定配列のシアン色、マゼンタ色及び黄色の画像画素３４C、３４M、３４YからなるＣＭＹモザイク画像３５を生成する。図１３では、所定配列として、ベイヤー配列の赤色、緑色及び青色の画像画素３２R、３２G、３２Bのそれぞれをシアン色、マゼンタ色及び黄色の画像画素３４C、３４M、３４Yに置き換えてなる画素配列を用いた場合を例示している。図１２は、モザイク画像３０及びＲＧＢモザイク画像３３の一部を拡大して示している。また、図１３は、モザイク画像３０及びＣＭＹモザイク画像３５の一部を拡大して示している。
一方、ステップＳ１０５では、ビニング処理部１１０が、ステップＳ１０２でホワイトバランスを修正したモザイク画像３０に対してビニング処理を行った後、ステップＳ１０６に移行する。ビニング処理では、図１４に示すように、モザイク画像３０のうちの、第１の画素ユニット１０1に対応する画素群３６1のそれぞれで赤色の画像画素３１Rの画素値を加算して１つの赤色の画像画素３７Rの画素値とする。以下同様に、第２の画素ユニット１０2に対応する画素群３６2のそれぞれで緑色の画像画素３１Gの画素値を加算して１つの緑色の画像画素３７Gの画素値とする。また、第３の画素ユニット１０3に対応する画素群３６3のそれぞれで緑色の画像画素３１Gの画素値を加算して１つの緑色の画像画素３７Gの画素値とする。また、第４の画素ユニット１０4に対応する画素群３６4のそれぞれで青色の画像画素３１Bの画素値を加算して１つの青色の画像画素３７Bの画素値とする。これにより、赤色の画像画素３７R（赤色の色情報のみを有する画像画素３７R）、緑色の画像画素３７G（緑色の色情報のみを有する画像画素３７G）、青色の画像画素３７G（青色の色情報のみを有する画像画素３７B）からなるＲＧＢモザイク画像３８を生成する。ＲＧＢモザイク画像３８の画素数はモザイク画像３０の画素数の１/４となる。図１４は、モザイク画像３０、ＲＧＢモザイク画像３８の一部を拡大して示している。
また、ビニング処理では、図１５に示すように、ステップＳ１０２でホワイトバランスを修正したモザイク画像３０のうちの、第１の画素ユニット１０1に対応する画素群３６1のそれぞれでシアン色の画像画素３１Cの画素値を加算して１つのシアン色の画像画素３８Cの画素値とする。以下同様に第２の画素ユニット１０2に対応する画素群３６2のそれぞれでマゼンタ色の画像画素３１Mの画素値を加算して１つのマゼンタ色の画像画素３８Mの画素値とする。また第３の画素ユニット１０3に対応する画素群３６3のそれぞれでマゼンタ色の画像画素３１Mの画素値を加算して１つのマゼンタ色の画像画素３８Mの画素値とする。また第４の画素ユニット１０4に対応する画素群３６4のそれぞれで黄色の画像画素３１Yの画素値を加算して１つの黄色の画像画素３８Yの画素値とする。これにより、シアン色の画像画素３８C（シアン色の色情報のみを有する画像画素３８C）、マゼンタ色の画像画素３８M（マゼンタ色の色情報のみを有する画像画素３８M）、黄色の画像画素３８Y（黄色の色情報のみを有する画像画素３８Y）からなるＣＭＹモザイク画像３９を生成する。ＣＭＹモザイク画像３９の画素数はモザイク画像３０の画素数の１/４となる。図１５は、モザイク画像３０、ＣＭＹモザイク画像３９の一部を拡大して示している。
また、ビニング処理では、輝度値算出部１１１が、図１６に示すように、ステップＳ１０２でホワイトバランスを修正したモザイク画像３０のうちの、第１の画素ユニット１０1に対応する画素群３６1のそれぞれで赤色及びシアン色の色情報を有する画像画素３１R、３１Cの画素値を加算して１つの画像画素４０の輝度値を算出する。以下同様に、第２の画素ユニット１０2に対応する画素群３６2のそれぞれで緑色及びマゼンタ色の色情報を有する画像画素３１G、３１Mの画素値を加算して１つの画像画素４０の輝度値を算出する。また、第３の画素ユニット１０3に対応する画素群３６3のそれぞれで緑色及びマゼンタ色の色情報を有する画像画素３１G、３１Mの画素値を加算して１つの画像画素４０の輝度値を算出する。また、第４の画素ユニット１０4に対応する画素群３６4のそれぞれで青色及び黄色の色情報を有する画像画素３１B、３１Mの画素値を加算して１つの画像画素４０の輝度値を算出する。これにより、各画像画素４０の輝度値のみ表された輝度画像４１を生成する。輝度画像４１の画素数は、モザイク画像３０の画素数の１/４となる。図１６は、モザイク画像３０及び輝度画像４１の一部を拡大して示している。
なお、輝度値の算出に用いる画素値として、ステップＳ１０２でホワイトバランスを修正したモザイク画像３０の画素値に補正係数を乗算した数値を用いる構成としてもよい。具体的には、モザイク画像３０の各画像画素３１の画素値Ｒ、Ｇ、Ｂ、Ｃy、Ｍg、Ｙeと、予め定められた補正係数ａ11、ａ21、ａ12、ａ22、ａ13、ａ23とに基づき、下記（１）式に従って、輝度画像４１の各画像画素４０の輝度値Ｂr1、Ｂr2、Ｂr3を算出する。
Figure 0007603053000001
 上記（１）式において、Ｒは赤色の画像画素３１Rの画素値、Ｇは緑色の画像画素３１Gの画素値、Ｂは青色の画像画素３１Bの画素値、Ｃyはシアン色の画像画素３１Cの画素値、Ｍgはマゼンタ色の画像画素３１Mの画素値、Ｙeは黄色の画像画素３１Yの画素値である。また、Ｂr1は赤色及びシアン色の画像画素３１R、３１Cの画素値Ｒ、Ｃyから得られる輝度値、Ｂr2は緑色及びマゼンタ色の画像画素３１G、３１Mの画素値Ｇ、Ｍgから得られる輝度値、Ｂr3は青色及び黄色の画像画素３１B、３１Yの画素値Ｂ、Ｙeから得られる輝度値である。補正係数ａ11、ａ21、ａ12、ａ22、ａ13、ａ23としては、Ｂr1＝Ｂr2＝Ｂr3となるように、光源の色温度毎に異なる数値が設定された数値を用いる。これにより、図５、図６及び図７に示すように、輝度値Ｂr1、Ｂr2、Ｂr3間の差を低減することができる。
続いてステップＳ１０６に移行して、輝度合成部１１２が、ステップＳ１０５で生成したＲＧＢモザイク画像３８又はＣＭＹモザイク画像３９に対して輝度合成処理を行う。輝度合成処理では、まずステップＳ１０１で生成したモザイク画像３０の各画像画素３１の画素値に基づき、被写体が明るいかを判定する。そして、被写体が明るいと判定した場合には、図１７に示すように、ＲＧＢモザイク画像３８に輝度画像４１の輝度値を合成して合成画像４２を生成する。ＲＧＢモザイク画像３８に輝度画像４１を合成することにより、高色再現性と高解像度との両立を図ることができる。また、例えば、ＲＧＢモザイク画像３８を得るための固体撮像装置と、輝度画像４１を得るための固体撮像装置とを別々に有する複眼カメラと異なり、視差補正が不要である。
ＲＧＢモザイク画像３８と輝度画像４１との合成では、まずＲＧＢモザイク画像３８の各画素３７の画素値Ｒ、Ｇ、Ｂと、予め定められた係数ｂ11、ｂ21、ｂ31、ｂ12、ｂ22、ｂ32、ａ13、ａ23、ａ33とに基づき、下記（２）式に従って、各画素のＹ1信号、Ｃb信号、Ｃr信号を算出する。続いて、算出したＹ1信号、及び輝度画像４１の各画像画素４０の輝度値（Ｙ2信号）に基づき、下記（３）式に従って、合成画像４２の各画素４３の輝度信号Ｙを算出する。即ち、Ｙ1信号をＹ2信号で補正して輝度信号Ｙとする。その際、各画素４３の色情報としては、上記（２）式で算出したＣb信号、Ｃr信号を用いる。
Figure 0007603053000002
 Ｙ＝αＹ1＋（１－α）Ｙ2 …（３）
ここで、信号値Ｙ1ＣbＣrは、隣接画素から補完処理によって求められるため、解像度（Ｙ1信号に相当）は劣化する傾向がある。これに対し、Ｙ2信号は、解像度の劣化はほとんどない。それゆえ、上記（３）式によれば、解像度が高い画像を得ることができる。
一方、被写体が暗いと判定した場合には、色変換マトリックスを用いて、図１８に示すように、ＣＭＹモザイク画像３９をＲＧＢモザイク画像４４に変換する。続いて、変換したＲＧＢモザイク画像４４に輝度画像４１を合成して合成画像４５を生成する。ＲＧＢモザイク画像４４に輝度画像４１を合成することにより、高ＳＮ比と高解像度との両立を図ることができる。また、例えば、上述の複眼カメラと異なり、視差補正が不要である。
以上説明したように、本開示の第１の実施形態に係る固体撮像装置１は、画素ユニット群１１のそれぞれが、画素ユニット群１１を構成する４つの画素ユニット１０のうちの、第１の画素ユニット１０1にＲフィルタ１９RとＣフィルタ１９Cとをカラーフィルタ１９として含み、第２及び第３の画素ユニット１０2、１０3それぞれにＧフィルタ１９GとＭフィルタ１９Mとをカラーフィルタ１９として含み、第４の画素ユニット１０4にＢフィルタ１９BとＹフィルタ１９Yとをカラーフィルタ１９として含むようにした。それゆえ、赤色画素９R、緑色画素９G及び青色画素９Bの画素信号を用いることで、ＲＧＢ画像を生成できる。また、シアン色画素９C、マゼンタ色画素９M及び黄色画素９Yの画素信号を用いることで、ＣＭＹ画像を生成できる。さらに、同じ画素ユニット１０内の各画素９の画素値を加算することで、輝度情報を生成できる。そのため、一回の撮像で、ＲＧＢ画像、ＣＭＹ画像、及び輝度情報を取得可能な固体撮像装置１を提供することができる。
〈２．第２の実施形態：電子機器〉
［２－１ 要部の構成］
次に、本開示の第２の実施形態に係る電子機器１００について説明する。図１９は、第２の実施形態に係る電子機器１００の全体構成を示す図である。また、図２０は、第１の実施形態の画像生成処理を示すフローチャートである。図１９及び図２０において、図１及び図１０に対応する部分には同一符号を付し重複説明を省略する。
第２の実施形態に係る電子機器１００は、図１９に示すように、信号処理回路１０５がＨＤＲ画像生成部１１４を備え、図２０に示すように、画像生成処理が図１０のステップＳ１０６に代えてステップＳ２０１を有する点が、第１の実施形態と異なっている。
ステップＳ２０１では、ＨＤＲ画像生成部１１４が、ステップＳ１０５で生成したＲＧＢモザイク画像３８及びＣＭＹモザイク画像３９（図１４、図１５参照）に基づきＨＤＲ画像生成処理を行う。ＨＤＲ画像生成処理では、色変換マトリックスを用い、図２１及び図２２に示すように、ＣＭＹモザイク画像３９をＲＧＢモザイク画像４６に変換する。続いて、変換したＲＧＢモザイク画像４６と、ステップＳ１０５で生成したＲＧＢモザイク画像３８とを合成してＨＤＲ画像４７を生成する。ＣＭＹモザイク画像３９から得たＲＧＢモザイク画像４６と、ステップＳ１０５で生成したＲＧＢモザイク画像３８との合成方法としては、例えば、各画像画素４８毎に、ＲＧＢモザイク画像４６の画素値とＲＧＢモザイク画像３８の画素値とを加算する方法を採用できる。
以上説明したように、本開示の第２の実施形態に係る電子機器１００は、ＣＭＹモザイク画像３９をＲＧＢモザイク画像４６に変換し、変換したＲＧＢモザイク画像４６と、ビニング処理部１１０で生成したＲＧＢモザイク画像３８とを合成してＨＤＲ画像４７（高ダイナミックレンジ画像）を生成するようにした。それゆえ、一回の撮影で、ＲＧＢ画像、ＣＭＹ画像及び輝度情報に加え、ＨＤＲ画像４７を生成することができる。
［２－２ 変形例］
なお、本開示の第１及び第２の実施形態に係る電子機器１００では、ビニング処理を、固体撮像装置１の外部の信号処理回路１０５でデジタル的に行う例を示したが、他の構成を採用することもできる。例えば、固体撮像装置１の画素９から画素信号を読み出す際にアナログ的に行う構成としてもよい。具体的には、図２３に示すように、画素ユニット１０を構成する各画素９のフローティングディフュージョン４９に接続されている信号線５０のうち、同色の画素９のフローティングディフュージョン４９に接続されている信号線５０を電気的に接続し、同色の画素９の画素信号を加算してＣＤＳ回路５１に出力する構成を採用できる。これにより、同色の画素９の画素値の加算結果を得ることができる。
また、図２４に示すように、画素ユニット１０を構成する各画素９のフローティングディフュージョン４９に接続されている信号線５０を電気的に接合し、複数の画素９の画素信号を加算してＣＤＳ回路５１に出力する構成を採用することもできる。これにより、図１６に示した輝度画像４１の各画像画素４０の輝度値（輝度情報）を得ることができる。
〈３．移動体への応用例〉
本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図２５は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図２５に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（ｉｎｔｅｒｆａｃｅ）１２０５３が図示されている。
駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Ａｄｖａｎｃｅｄ Ｄｒｉｖｅｒ Ａｓｓｉｓｔａｎｃｅ Ｓｙｓｔｅｍ）の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図２５の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図２６は、撮像部１２０３１の設置位置の例を示す図である。
図２６では、車両１２１００は、撮像部１２０３１として、撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５を有する。
撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２，１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。撮像部１２１０１及び１２１０５で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図２６には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。
撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０ｋｍ／ｈ以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部１２０３１に適用され得る。具体的には、図１及び図２の固体撮像装置１０１、１、図１の信号処理回路１０５は、撮像部１２０３１に適用することができる。撮像部１２０３１に本開示に係る技術を適用することにより、より見やすい撮影画像を得ることができるため、ドライバの疲労を軽減することが可能になる。
〈４．内視鏡手術システムへの応用例〉
本開示に係る技術（本技術）は、例えば、内視鏡手術システムに適用されてもよい。
図２７は、本開示に係る技術（本技術）が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
図２７では、術者（医師）１１１３１が、内視鏡手術システム１１０００を用いて、患者ベッド１１１３３上の患者１１１３２に手術を行っている様子が図示されている。図示するように、内視鏡手術システム１１０００は、内視鏡１１１００と、気腹チューブ１１１１１やエネルギー処置具１１１１２等の、その他の術具１１１１０と、内視鏡１１１００を支持する支持アーム装置１１１２０と、内視鏡下手術のための各種の装置が搭載されたカート１１２００と、から構成される。
内視鏡１１１００は、先端から所定の長さの領域が患者１１１３２の体腔内に挿入される鏡筒１１１０１と、鏡筒１１１０１の基端に接続されるカメラヘッド１１１０２と、から構成される。図示する例では、硬性の鏡筒１１１０１を有するいわゆる硬性鏡として構成される内視鏡１１１００を図示しているが、内視鏡１１１００は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
鏡筒１１１０１の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡１１１００には光源装置１１２０３が接続されており、当該光源装置１１２０３によって生成された光が、鏡筒１１１０１の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者１１１３２の体腔内の観察対象に向かって照射される。なお、内視鏡１１１００は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
カメラヘッド１１１０２の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ： Ｃａｍｅｒａ Ｃｏｎｔｒｏｌ Ｕｎｉｔ）１１２０１に送信される。
ＣＣＵ１１２０１は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）やＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）等によって構成され、内視鏡１１１００及び表示装置１１２０２の動作を統括的に制御する。さらに、ＣＣＵ１１２０１は、カメラヘッド１１１０２から画像信号を受け取り、その画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
表示装置１１２０２は、ＣＣＵ１１２０１からの制御により、当該ＣＣＵ１１２０１によって画像処理が施された画像信号に基づく画像を表示する。
光源装置１１２０３は、例えばＬＥＤ（Ｌｉｇｈｔ Ｅｍｉｔｔｉｎｇ Ｄｉｏｄｅ）等の光源から構成され、術部等を撮影する際の照射光を内視鏡１１１００に供給する。
入力装置１１２０４は、内視鏡手術システム１１０００に対する入力インタフェースである。ユーザは、入力装置１１２０４を介して、内視鏡手術システム１１０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡１１１００による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示等を入力する。
処置具制御装置１１２０５は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具１１１１２の駆動を制御する。気腹装置１１２０６は、内視鏡１１１００による視野の確保及び術者の作業空間の確保の目的で、患者１１１３２の体腔を膨らめるために、気腹チューブ１１１１１を介して当該体腔内にガスを送り込む。レコーダ１１２０７は、手術に関する各種の情報を記録可能な装置である。プリンタ１１２０８は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
なお、内視鏡１１１００に術部を撮影する際の照射光を供給する光源装置１１２０３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置１１２０３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
また、光源装置１１２０３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
また、光源装置１１２０３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Ｎａｒｒｏｗ Ｂａｎｄ Ｉｍａｇｉｎｇ）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること（自家蛍光観察）、又はインドシアニングリーン（ＩＣＧ）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置１１２０３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
図２８は、図２７に示すカメラヘッド１１１０２及びＣＣＵ１１２０１の機能構成の一例を示すブロック図である。
カメラヘッド１１１０２は、レンズユニット１１４０１と、撮像部１１４０２と、駆動部１１４０３と、通信部１１４０４と、カメラヘッド制御部１１４０５と、を有する。ＣＣＵ１１２０１は、通信部１１４１１と、画像処理部１１４１２と、制御部１１４１３と、を有する。カメラヘッド１１１０２とＣＣＵ１１２０１とは、伝送ケーブル１１４００によって互いに通信可能に接続されている。
レンズユニット１１４０１は、鏡筒１１１０１との接続部に設けられる光学系である。鏡筒１１１０１の先端から取り込まれた観察光は、カメラヘッド１１１０２まで導光され、当該レンズユニット１１４０１に入射する。レンズユニット１１４０１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
撮像部１１４０２は、撮像素子で構成される。撮像部１１４０２を構成する撮像素子は、１つ（いわゆる単板式）であってもよいし、複数（いわゆる多板式）であってもよい。撮像部１１４０２が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部１１４０２は、３Ｄ（Ｄｉｍｅｎｓｉｏｎａｌ）表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者１１１３１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部１１４０２が多板式で構成される場合には、各撮像素子に対応して、レンズユニット１１４０１も複数系統設けられ得る。
また、撮像部１１４０２は、必ずしもカメラヘッド１１１０２に設けられなくてもよい。例えば、撮像部１１４０２は、鏡筒１１１０１の内部に、対物レンズの直後に設けられてもよい。
駆動部１１４０３は、アクチュエータによって構成され、カメラヘッド制御部１１４０５からの制御により、レンズユニット１１４０１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部１１４０２による撮像画像の倍率及び焦点が適宜調整され得る。
通信部１１４０４は、ＣＣＵ１１２０１との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４０４は、撮像部１１４０２から得た画像信号をＲＡＷデータとして伝送ケーブル１１４００を介してＣＣＵ１１２０１に送信する。
また、通信部１１４０４は、ＣＣＵ１１２０１から、カメラヘッド１１１０２の駆動を制御するための制御信号を受信し、カメラヘッド制御部１１４０５に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてＣＣＵ１１２０１の制御部１１４１３によって自動的に設定されてもよい。後者の場合には、いわゆるＡＥ（Ａｕｔｏ Ｅｘｐｏｓｕｒｅ）機能、ＡＦ（Ａｕｔｏ Ｆｏｃｕｓ）機能及びＡＷＢ（Ａｕｔｏ Ｗｈｉｔｅ Ｂａｌａｎｃｅ）機能が内視鏡１１１００に搭載されていることになる。
カメラヘッド制御部１１４０５は、通信部１１４０４を介して受信したＣＣＵ１１２０１からの制御信号に基づいて、カメラヘッド１１１０２の駆動を制御する。
通信部１１４１１は、カメラヘッド１１１０２との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４１１は、カメラヘッド１１１０２から、伝送ケーブル１１４００を介して送信される画像信号を受信する。
また、通信部１１４１１は、カメラヘッド１１１０２に対して、カメラヘッド１１１０２の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
画像処理部１１４１２は、カメラヘッド１１１０２から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。
制御部１１４１３は、内視鏡１１１００による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部１１４１３は、カメラヘッド１１１０２の駆動を制御するための制御信号を生成する。
また、制御部１１４１３は、画像処理部１１４１２によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置１１２０２に表示させる。この際、制御部１１４１３は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部１１４１３は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具１１１１２の使用時のミスト等を認識することができる。制御部１１４１３は、表示装置１１２０２に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者１１１３１に提示されることにより、術者１１１３１の負担を軽減することや、術者１１１３１が確実に手術を進めることが可能になる。
カメラヘッド１１１０２及びＣＣＵ１１２０１を接続する伝送ケーブル１１４００は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
ここで、図示する例では、伝送ケーブル１１４００を用いて有線で通信が行われていたが、カメラヘッド１１１０２とＣＣＵ１１２０１との間の通信は無線で行われてもよい。
以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、カメラヘッド１１１０２の撮像部１１４０２や、ＣＣＵ１１２０１の画像処理部１１４１２等に適用され得る。具体的には、図１及び図２の固体撮像装置１０１、１は、撮像部１０４０２に適用することができ、図１の信号処理回路１０５は、画像処理部１１４１２に適用することができる。撮像部１０４０２、画像処理部１１４１２に本開示に係る技術を適用することにより、より鮮明な術部画像を得ることができるため、術者が術部を確実に確認することが可能になる。
なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
なお、本技術は、以下のような構成を取ることができる。
（１）
光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が配列されている画素アレイ部を備え、
前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、第１の画素ユニットに、赤色光を透過させるＲフィルタと、当該赤色光と補色関係にあるシアン色光を透過させるＣフィルタとを前記カラーフィルタとして含み、第２及び第３の画素ユニットそれぞれに、緑色光を透過させるＧフィルタと、当該緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタとを前記カラーフィルタとして含み、第４の画素ユニットに、青色光を透過させるＢフィルタと、当該青色光と補色関係にある黄色光を透過させるＹフィルタとを前記カラーフィルタとして含む
固体撮像装置。
（２）
ｍは３以上の自然数であり、
前記第１の画素ユニットは、前記ｍ×ｍの行列状に配置された複数の前記画素のうち互いに市松状に位置する一部の前記画素が前記Ｒフィルタを含み、残りの前記画素が前記Ｃフィルタを含んでおり、
前記第２の画素ユニットは、前記ｍ×ｍの行列状に配置された複数の前記画素のうち互いに市松状に位置する一部の前記画素が前記Ｇフィルタを含み、残りの前記画素が前記Ｍフィルタを含んでおり、
前記第３の画素ユニットは、前記ｍ×ｍの行列状に配置された複数の前記画素のうち互いに市松状に位置する一部の前記画素が前記Ｂフィルタを含み、残りの前記画素が前記Ｙフィルタを含んでいる
前記（１）に記載の固体撮像装置。
（３）
ｍ＝２であり、
前記第１の画素ユニットは、対角位置に配置されている画素対のうちの、一方の画素対が前記Ｒフィルタを含み、他方の画素対が前記Ｃフィルタを含んでおり、
前記第２の画素ユニットは、対角位置に配置されている画素対のうちの、一方の画素対が前記Ｇフィルタを含み、他方の画素対が前記Ｍフィルタを含んでおり、
前記第３の画素ユニットは、対角位置に配置されている画素対のうちの、一方の画素対が前記Ｂフィルタを含み、他方の画素対が前記Ｍフィルタを含んでいる
前記（１）に記載の固体撮像装置。
（４）
光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が、複数配列されている画素アレイ部を備え、前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、第１の画素ユニットに、赤色光を透過させるＲフィルタと、赤色光と補色関係にあるシアン色光を透過させるＣフィルタとを前記カラーフィルタとして含み、第２及び第３の画素ユニットそれぞれに、緑色光を透過させるＧフィルタと、緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタとを前記カラーフィルタとして含み、第４の画素ユニットに、青色光を透過させるＢフィルタと、青色光と補色関係にある黄色光を透過させるＹフィルタを前記カラーフィルタとして含む固体撮像装置と、
被写体からの像光を前記固体撮像装置の撮像面上に結像させる光学レンズと、
前記固体撮像装置から出力される信号に信号処理を行う信号処理回路とを備える
電子機器。
（５）
前記信号処理回路は、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれで赤色の色情報のみを有する画像画素の画素値を加算して１つの赤色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれで緑色の色情報のみを有する画像画素の画素値を加算して１つの緑色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで青色の色情報のみを有する画像画素の画素値を加算して１つの青色の色情報のみを有する画像画素の画素値とすることで、ＲＧＢモザイク画像を生成するビニング処理部を備える
前記（４）に記載の電子機器。
（６）
前記信号処理回路は、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれでシアン色の色情報のみを有する画像画素の画素値を加算して１つのシアン色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれでマゼンタ色の色情報のみを有する画像画素の画素値を加算して１つのマゼンタ色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで黄色の色情報のみを有する画像画素の画素値を加算して１つの黄色の色情報のみを有する画像画素の画素値とすることで、ＣＭＹモザイク画像を生成するビニング処理部を備える
前記（４）又は（５）に記載の電子機器。
（７）
前記信号処理回路は、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれで赤色及びシアン色の色情報を有する画像画素の画素値を加算して１つの画像画素の輝度値を算出し、前記第２及び第３の画素ユニットに対応する画素群のそれぞれで緑色及びマゼンタ色の色情報を有する画像画素の画素値を加算して１つの画像画素の輝度値を算出し、前記第４の画素ユニットに対応する画素群のそれぞれで青色及び黄色の色情報を有する画像画素の画素値を加算して１つの画像画素の輝度値を算出するビニング処理部を備える
前記（４）から（６）の何れかに記載の電子機器。
（８）
前記ビニング処理部は、前記輝度値の算出に用いる画素値として、光源の色温度毎に設定された補正係数を前記モザイク画像の画素値に乗算した数値を用いる
前記（７）に記載の電子機器。
（９）
前記信号処理回路は、
前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれで赤色の色情報のみを有する画像画素の画素値を加算して１つの赤色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれで緑色の色情報のみを有する画像画素の画素値を加算して１つの緑色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで青色の色情報のみを有する画像画素の画素値を加算して１つの青色の色情報のみを有する画像画素の画素値とすることで、ＲＧＢモザイク画像を生成するビニング処理部と、
前記ＲＧＢモザイク画像に前記輝度値を合成する輝度合成部とを備える
前記（７）又は（８）に記載の電子機器。
（１０）
前記信号処理回路は、
前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれでシアン色の色情報のみを有する画像画素の画素値を加算して１つのシアン色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれでマゼンタ色の色情報のみを有する画像画素の画素値を加算して１つのマゼンタ色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで黄色の色情報のみを有する画像画素の画素値を加算して１つの黄色の色情報のみを有する画像画素の画素値とすることで、ＣＭＹモザイク画像を生成するビニング処理部と、
前記ＣＭＹモザイク画像をＲＧＢモザイク画像に変換した後、変換した前記ＲＧＢモザイク画像に前記輝度値を合成する輝度合成部とを備える
前記（７）又は（８）に記載の電子機器。
（１１）
前記ビニング処理部は、前記ＲＧＢモザイク画像を生成するとともに、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれでシアン色の色情報のみを有する画像画素の画素値を加算して１つのシアン色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれでマゼンタ色の色情報のみを有する画像画素の画素値を加算して１つのマゼンタ色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで黄色の色情報のみを有する画像画素の画素値を加算して１つの黄色の色情報のみを有する画像画素の画素値とすることで、ＣＭＹモザイク画像を生成し、
前記信号処理回路は、前記ＣＭＹモザイク画像をＲＧＢモザイク画像に変換し、変換したＲＧＢモザイク画像と前記ビニング処理部で生成した前記ＲＧＢモザイク画像とを合成して高ダイナミックレンジ画像を生成するＨＤＲ画像生成部を備える
前記（５）に記載の電子機器。
１…固体撮像装置、２…基板、３…画素アレイ部、４…垂直駆動回路、５…カラム信号処理回路、６…水平駆動回路、７…出力回路、８…制御回路、９…画素、１０…画素ユニット、１１…画素ユニット群、１２…画素駆動配線、１３…垂直信号線、１４…水平信号線、１５…絶縁膜、１６…遮光膜、１７…平坦化膜、１８…受光層、１９…カラーフィルタ、２０…マイクロレンズ、２１…集光層、２２…配線層、２３…支持基板、２４…光電変換部、２５…画素分離部、２６…カラーフィルタアレイ、２７…マイクロレンズアレイ、２８…層間絶縁膜、２９…配線、３０…モザイク画像、３１…画像画素、３２…画像画素３３…ＲＧＢモザイク画像、３４…画像画素、３５…ＣＭＹモザイク画像、３６1、３６2、３６3、３６4…画素群、３７…画像画素、３８…画像画素、３９…ＣＭＹモザイク画像、４０…画像画素、４１…輝度画像、４２…合成画像、４３…画像画素、４４…ＲＧＢモザイク画像、４５…合成画像、４６…ＲＧＢモザイク画像、４７…ＨＤＲ画像、４８…画像画素、１００…電子機器、１０１…固体撮像装置、１０２…光学レンズ、１０３…シャッタ装置、１０４…駆動回路、１０５…信号処理回路、１０６…モザイク画像生成部、１０７…ホワイトバランス調整部、１０８…モード判定部、１０９…リモザイク処理部、１１０…ビニング処理部、１１１…輝度値算出部、１１２…輝度合成部、１１３…入射光、１１４…ＨＤＲ画像生成部

Claims (11)

  1. 光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が配列されている画素アレイ部を備え、
    前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、第１の画素ユニットに、赤色光を透過させるＲフィルタと、当該赤色光と補色関係にあるシアン色光を透過させるＣフィルタとを前記カラーフィルタとして含み、第２及び第３の画素ユニットそれぞれに、緑色光を透過させるＧフィルタと、当該緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタとを前記カラーフィルタとして含み、第４の画素ユニットに、青色光を透過させるＢフィルタと、当該青色光と補色関係にある黄色光を透過させるＹフィルタとを前記カラーフィルタとして含む
    固体撮像装置。
  2. ｍは３以上の自然数であり、
    前記第１の画素ユニットは、前記ｍ×ｍの行列状に配置された複数の前記画素のうち互いに市松状に位置する一部の前記画素が前記Ｒフィルタを含み、残りの前記画素が前記Ｃフィルタを含んでおり、
    前記第２の画素ユニットは、前記ｍ×ｍの行列状に配置された複数の前記画素のうち互いに市松状に位置する一部の前記画素が前記Ｇフィルタを含み、残りの前記画素が前記Ｍフィルタを含んでおり、
    前記第３の画素ユニットは、前記ｍ×ｍの行列状に配置された複数の前記画素のうち互いに市松状に位置する一部の前記画素が前記Ｂフィルタを含み、残りの前記画素が前記Ｙフィルタを含んでいる
    請求項１に記載の固体撮像装置。
  3. ｍ＝２であり、
    前記第１の画素ユニットは、対角位置に配置されている画素対のうちの、一方の画素対が前記Ｒフィルタを含み、他方の画素対が前記Ｃフィルタを含んでおり、
    前記第２の画素ユニットは、対角位置に配置されている画素対のうちの、一方の画素対が前記Ｇフィルタを含み、他方の画素対が前記Ｍフィルタを含んでおり、
    前記第３の画素ユニットは、対角位置に配置されている画素対のうちの、一方の画素対が前記Ｂフィルタを含み、他方の画素対が前記Ｍフィルタを含んでいる
    請求項１に記載の固体撮像装置。
  4. 光電変換部と、前記光電変換部に対応して形成されたカラーフィルタとを有する画素がｍ×ｍ（ｍは２以上の自然数）の行列状に配置されてなる画素ユニットを、２×２の行列状に配置してなる複数の画素ユニット群が、複数配列されている画素アレイ部を備え、前記画素ユニット群のそれぞれは、前記画素ユニット群を構成する４つの前記画素ユニットのうちの、第１の画素ユニットに、赤色光を透過させるＲフィルタと、赤色光と補色関係にあるシアン色光を透過させるＣフィルタとを前記カラーフィルタとして含み、第２及び第３の画素ユニットそれぞれに、緑色光を透過させるＧフィルタと、緑色光と補色関係にあるマゼンタ色光を透過させるＭフィルタとを前記カラーフィルタとして含み、第４の画素ユニットに、青色光を透過させるＢフィルタと、青色光と補色関係にある黄色光を透過させるＹフィルタを前記カラーフィルタとして含む固体撮像装置と、
    被写体からの像光を前記固体撮像装置の撮像面上に結像させる光学レンズと、
    前記固体撮像装置から出力される信号に信号処理を行う信号処理回路とを備える
    電子機器。
  5. 前記信号処理回路は、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれで赤色の色情報のみを有する画像画素の画素値を加算して１つの赤色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれで緑色の色情報のみを有する画像画素の画素値を加算して１つの緑色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで青色の色情報のみを有する画像画素の画素値を加算して１つの青色の色情報のみを有する画像画素の画素値とすることで、ＲＧＢモザイク画像を生成するビニング処理部を備える
    請求項４に記載の電子機器。
  6. 前記信号処理回路は、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれでシアン色の色情報のみを有する画像画素の画素値を加算して１つのシアン色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれでマゼンタ色の色情報のみを有する画像画素の画素値を加算して１つのマゼンタ色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで黄色の色情報のみを有する画像画素の画素値を加算して１つの黄色の色情報のみを有する画像画素の画素値とすることで、ＣＭＹモザイク画像を生成するビニング処理部を備える
    請求項４に記載の電子機器。
  7. 前記信号処理回路は、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれで赤色及びシアン色の色情報を有する画像画素の画素値を加算して１つの画像画素の輝度値を算出し、前記第２及び第３の画素ユニットに対応する画素群のそれぞれで緑色及びマゼンタ色の色情報を有する画像画素の画素値を加算して１つの画像画素の輝度値を算出し、前記第４の画素ユニットに対応する画素群のそれぞれで青色及び黄色の色情報を有する画像画素の画素値を加算して１つの画像画素の輝度値を算出する輝度値算出部を備える
    請求項４に記載の電子機器。
  8. 前記輝度値算出部は、前記輝度値の算出に用いる画素値として、光源の色温度毎に設定された補正係数を前記モザイク画像の画素値に乗算した数値を用いる
    請求項７に記載の電子機器。
  9. 前記信号処理回路は、
    前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれで赤色の色情報のみを有する画像画素の画素値を加算して１つの赤色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれで緑色の色情報のみを有する画像画素の画素値を加算して１つの緑色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで青色の色情報のみを有する画像画素の画素値を加算して１つの青色の色情報のみを有する画像画素の画素値とすることで、ＲＧＢモザイク画像を生成するビニング処理部と、
    前記ＲＧＢモザイク画像に前記輝度値を合成する輝度合成部とを備える
    請求項７に記載の電子機器。
  10. 前記信号処理回路は、
    前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれでシアン色の色情報のみを有する画像画素の画素値を加算して１つのシアン色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれでマゼンタ色の色情報のみを有する画像画素の画素値を加算して１つのマゼンタ色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで黄色の色情報のみを有する画像画素の画素値を加算して１つの黄色の色情報のみを有する画像画素の画素値とすることで、ＣＭＹモザイク画像を生成するビニング処理部と、
    前記ＣＭＹモザイク画像をＲＧＢモザイク画像に変換した後、変換した前記ＲＧＢモザイク画像に前記輝度値を合成する輝度合成部とを備える
    請求項７に記載の電子機器。
  11. 前記ビニング処理部は、前記ＲＧＢモザイク画像を生成するとともに、前記信号から得られる前記カラーフィルタの配列に対応するモザイク画像のうちの、前記第１の画素ユニットに対応する画素群のそれぞれでシアン色の色情報のみを有する画像画素の画素値を加算して１つのシアン色の色情報のみを有する画像画素の画素値とし、前記第２及び第３の画素ユニットに対応する画素群のそれぞれでマゼンタ色の色情報のみを有する画像画素の画素値を加算して１つのマゼンタ色の色情報のみを有する画像画素の画素値とし、前記第４の画素ユニットに対応する画素群のそれぞれで黄色の色情報のみを有する画像画素の画素値を加算して１つの黄色の色情報のみを有する画像画素の画素値とすることで、ＣＭＹモザイク画像を生成し、
    前記信号処理回路は、前記ＣＭＹモザイク画像をＲＧＢモザイク画像に変換し、変換したＲＧＢモザイク画像と前記ビニング処理部で生成した前記ＲＧＢモザイク画像とを合成して高ダイナミックレンジ画像を生成するＨＤＲ画像生成部を備える
    請求項５に記載の電子機器。
JP2022503135A 2020-02-26 2021-01-07 固体撮像装置及び電子機器 Active JP7603053B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020030458 2020-02-26
JP2020030458 2020-02-26
PCT/JP2021/000380 WO2021171797A1 (ja) 2020-02-26 2021-01-07 固体撮像装置及び電子機器

Publications (2)

Publication Number Publication Date
JPWO2021171797A1 JPWO2021171797A1 (ja) 2021-09-02
JP7603053B2 true JP7603053B2 (ja) 2024-12-19

Family

ID=77491376

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022503135A Active JP7603053B2 (ja) 2020-02-26 2021-01-07 固体撮像装置及び電子機器

Country Status (5)

Country Link
US (1) US11889206B2 (ja)
JP (1) JP7603053B2 (ja)
CN (1) CN115004692A (ja)
DE (1) DE112021001250T5 (ja)
WO (1) WO2021171797A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11778337B2 (en) * 2021-11-09 2023-10-03 Samsung Electronics Co., Ltd. Image sensor and method for sensing image
WO2023132137A1 (ja) * 2022-01-06 2023-07-13 ソニーセミコンダクタソリューションズ株式会社 撮像素子および電子機器
KR20230173508A (ko) * 2022-06-17 2023-12-27 에스케이하이닉스 주식회사 이미지 센서
JP2024079230A (ja) 2022-11-30 2024-06-11 ソニーセミコンダクタソリューションズ株式会社 撮像装置
WO2024176748A1 (ja) * 2023-02-22 2024-08-29 ソニーセミコンダクタソリューションズ株式会社 画像処理装置および画像処理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007219346A (ja) 2006-02-20 2007-08-30 Seiko Epson Corp 液晶装置、及び電子機器
JP2009017152A (ja) 2007-07-04 2009-01-22 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2009157198A (ja) 2007-12-27 2009-07-16 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
WO2010100896A1 (ja) 2009-03-05 2010-09-10 パナソニック株式会社 撮像装置および両面照射型固体撮像素子
WO2011024705A1 (ja) 2009-08-24 2011-03-03 シャープ株式会社 表示装置およびカラーフィルタ基板
JP2013013142A (ja) 2008-10-25 2013-01-17 Omnivision Technologies Inc 不完全色および全色性ｃｆａ画像の改善

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5259381B2 (ja) * 2008-12-25 2013-08-07 京セラ株式会社 撮像装置および撮像方法
JP5675391B2 (ja) * 2011-01-21 2015-02-25 株式会社ザクティ 画像処理装置
JP2013125861A (ja) * 2011-12-14 2013-06-24 Sony Corp 固体撮像素子および電子機器
US9584745B2 (en) * 2013-11-11 2017-02-28 Semiconductor Components Industries, Llc Image sensors with N-row parallel readout capability
JP6473350B2 (ja) * 2015-03-05 2019-02-20 独立行政法人国立高等専門学校機構 カラー撮像素子
KR102412278B1 (ko) * 2017-11-06 2022-06-24 삼성전자 주식회사 보색관계의 필터 어레이를 포함하는 카메라 모듈 및 그를 포함하는 전자 장치
JP2019175912A (ja) 2018-03-27 2019-10-10 ソニーセミコンダクタソリューションズ株式会社 撮像装置、及び、画像処理システム
CN113676629B (zh) * 2021-08-09 2024-01-09 Oppo广东移动通信有限公司 图像传感器、图像采集装置、图像处理方法及图像处理器

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007219346A (ja) 2006-02-20 2007-08-30 Seiko Epson Corp 液晶装置、及び電子機器
JP2009017152A (ja) 2007-07-04 2009-01-22 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2009157198A (ja) 2007-12-27 2009-07-16 Nikon Corp 固体撮像素子及びこれを用いた撮像装置
JP2013013142A (ja) 2008-10-25 2013-01-17 Omnivision Technologies Inc 不完全色および全色性ｃｆａ画像の改善
WO2010100896A1 (ja) 2009-03-05 2010-09-10 パナソニック株式会社 撮像装置および両面照射型固体撮像素子
WO2011024705A1 (ja) 2009-08-24 2011-03-03 シャープ株式会社 表示装置およびカラーフィルタ基板

Also Published As

Publication number Publication date
DE112021001250T5 (de) 2023-01-12
JPWO2021171797A1 (ja) 2021-09-02
US11889206B2 (en) 2024-01-30
US20230127881A1 (en) 2023-04-27
WO2021171797A1 (ja) 2021-09-02
CN115004692A (zh) 2022-09-02

Similar Documents

Publication Publication Date Title
JP7603053B2 (ja) 固体撮像装置及び電子機器
JPWO2018043654A1 (ja) 固体撮像装置およびその製造方法、並びに電子機器
JP7629867B2 (ja) 固体撮像装置及び電子機器
JP7631226B2 (ja) 固体撮像装置および電子機器
US20240347557A1 (en) Imaging device
US20240395838A1 (en) Imaging device
US20230343802A1 (en) Solid-state imaging device and electronic device
WO2023195315A1 (en) Light detecting device
WO2023195316A1 (en) Light detecting device
EP4489075A1 (en) Imaging device
WO2024095832A1 (en) Photodetector, electronic apparatus, and optical element
WO2021166672A1 (ja) 撮像装置、電子機器
US20240379706A1 (en) Image pickup element and electronic device
WO2023132137A1 (ja) 撮像素子および電子機器
WO2024075253A1 (ja) 光検出装置および電子機器
WO2023067935A1 (ja) 撮像装置
JP2025026279A (ja) 撮像装置
JP2023069798A (ja) 撮像装置及び電子機器
WO2024252897A1 (ja) 光検出装置および電子機器
WO2025033411A1 (ja) 撮像装置
WO2023012989A1 (ja) 撮像装置
JP2021125574A (ja) 受光素子、固体撮像装置及び電子機器
JP2021072397A (ja) 固体撮像装置及び電子機器

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241209

R150 Certificate of patent or registration of utility model

Ref document number: 7603053

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150