[go: up one dir, main page]

JP5545016B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5545016B2
JP5545016B2 JP2010109984A JP2010109984A JP5545016B2 JP 5545016 B2 JP5545016 B2 JP 5545016B2 JP 2010109984 A JP2010109984 A JP 2010109984A JP 2010109984 A JP2010109984 A JP 2010109984A JP 5545016 B2 JP5545016 B2 JP 5545016B2
Authority
JP
Japan
Prior art keywords
color
monochrome
image data
light
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010109984A
Other languages
English (en)
Other versions
JP2011239260A (ja
Inventor
功一 吉川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010109984A priority Critical patent/JP5545016B2/ja
Priority to EP11162439A priority patent/EP2387231A2/en
Priority to TW100114879A priority patent/TWI434574B/zh
Priority to US13/100,568 priority patent/US8576302B2/en
Priority to KR1020110042438A priority patent/KR20110125173A/ko
Priority to CN2011101193493A priority patent/CN102244789A/zh
Publication of JP2011239260A publication Critical patent/JP2011239260A/ja
Application granted granted Critical
Publication of JP5545016B2 publication Critical patent/JP5545016B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • H04N23/21Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only from near infrared [NIR] radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • H04N9/78Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase for separating the brightness signal or the chrominance signal from the colour television signal, e.g. using comb filter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Exposure Control For Cameras (AREA)

Description

本発明は、撮像装置に関する。
屋外などを撮影する広域監視カメラでは、以下の3点が主に要求される。第一の要求は、霧や霞などで見えにくい撮影条件であっても注目する被写体を鮮明に撮像できることである。第二の要求は、照度の低い暗い環境でも被写体を撮像できることである。第三の要求は、服の色等の色情報による識別が重視される場合も多いため、カラー画像が得られることである。
従来の単板カラー撮像素子を用いたカメラを使用した場合の上述した3つの要求の具備又は不具備について説明する。
まず、第一の要求について説明する。被写体を鮮明に撮像するには、被写体で反射した光がカメラの撮像素子まで減衰せずに到達することが重要である。被写体で反射した光がカメラまで届くまでの空間には、空気(N分子等)、霧などの水分、スモッグや砂などの浮遊粒子などが存在する。そして、これらの物体が光を散乱させることで鮮明な撮影を阻害する。
直径0.37nmの空気分子や一部のスモッグのように浮遊粒子が小さい場合に成り立つRayleighの散乱式によれば、散乱強度は光線波長の−4乗に比例する。また、直径が1000nm〜50μm程度といわれる霧などの粒子径の場合には、Mieの散乱式が適用され、散乱強度は光線波長の−2乗程度に比例する。波長400nm〜700nmの可視光では、特に青や緑の波長が散乱されやすく、青や緑の波長がカメラに到達しない。そのため、可視光を受光するカメラでは、得られる画像は眼で見た状態に近く遠方は霞み見通しが利かなくなる。
次に、第二の要求について説明する。単板カラー撮像素子は、受光素子の前に赤・緑・青の色フィルタを設置しているため、赤・緑・青の各色の受光素子がいずれも、モノクロ撮像素子と比べて感度が低くなる。照度の低い暗い環境での撮像における感度不足を補うため、撮像素子の前に設置してあるIRカットフィルタを一時的に退避し、かつ赤外光で被写体を照明する方法(例えばナイトモード撮影)もある。しかし、赤外線撮影では、カラー撮影できないことに加え、受光素子の前の赤・緑・青の色フィルタを通過することから大幅な感度向上が難しい。
これに対して、単板モノクロ撮像素子は、単板カラー撮像素子と比較して、高感度でかつ空間解像度の高い撮影が可能という利点がある。しかしながら、モノクロ撮像素子は、当然ながら色情報を取得することが不可能であるため、上述した第三の要求を満たすことができない。
特開2007−110209号公報
特許文献1では、モノクロ撮像素子とカラー撮像素子をそれぞれ有し、更に入射した光を分岐させ分岐した光をそれぞれモノクロ撮像素子とカラー撮像素子に照射する光学部材が配置された撮像装置が開示されている。しかし、特許文献1の光学部材は、入射光を反射光と透過光に分岐するハーフミラーであり、反射光と透過光の波長成分はいずれも同じである。そのため、モノクロ撮像素子とカラー撮像素子には、同じ波長成分の光が入射する。そのため、モノクロ撮像素子も可視光領域の波長成分も受光していたため、輝度情報を抽出する際に可視光を含有する画像データを使用することになる。従って、上述した第一の要求を満たさず、被写体を鮮明に撮像できないという問題があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、霞などで見えにくい撮影条件や、照度の低い暗い環境でも被写体を撮像可能で、カラー画像を得ることが可能な、新規かつ改良された撮像装置を提供することにある。
上記課題を解決するために、本発明のある観点によれば、被写体から入射した光を可視光領域の波長成分のみからなる第一の光と、第一の光を含まず可視光領域以外の波長成分のみからなる第二の光に分光する光学部材と、光学部材から照射された第一の光を受光するカラー撮像素子と、光学部材から照射された第二の光を受光するモノクロ撮像素子とを備える撮像装置が提供される。
上記光学部材は、第一の光を反射し第二の光を透過する分光ミラーであるとよい。
上記カラー撮像素子とモノクロ撮像素子の光学サイズが同等である場合、カラー撮像素子の画素数をCn、モノクロ撮像素子の画素数をMnとすると、Mn≧Cnであるとよい。
上記カラー撮像素子からカラー画像データを取得し、モノクロ画像素子からモノクロ画像データを取得する画像取得部と、カラー画像データから色情報を抽出する色情報抽出部と、モノクロ画像データから輝度情報を抽出する輝度情報抽出部と、抽出された色情報と輝度情報とを合成し合成画像データを生成する合成部とを備えてもよい。
上記カラー撮像素子とモノクロ撮像素子は、カラー画像データの被写体像とモノクロ画像データの被写体像とが一致するように位置決めされてもよい。
以上説明したように本発明によれば、霞などで見えにくい撮影条件や、照度の低い暗い環境でも被写体を撮像可能で、カラー画像を得ることができる。
同実施形態に係る撮像装置100を示すブロック図である。 同実施形態に係る光学系101を示す説明図である。 本発明の一実施形態に係る画像処理装置102を示すブロック図である。 同実施形態に係る画像処理装置102の合成処理を示すフローチャートである。 分光ミラー152で反射する光線の分光反射率を示すグラフである。 分光ミラー152を透過する光線の分光透過率を示すグラフである。 人間の錐体細胞(S,M,L)と桿体細胞(R)が含む視物質の吸収スペクトルを示すグラフである。 カラー撮像素子154の分光感度特性を示すグラフである。 モノクロ撮像素子156の分光感度特性を示すグラフである。 Rayleighの散乱式による散乱量と波長の関係を示すグラフである。 モノクロカメラとカラーカメラの感度及び最低被写体照度例を示す表である。 本発明の一実施形態の変更例に係る撮像装置200及び画像処理装置102を示すブロック図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.一実施形態の構成及び動作
2.変更例
<1.一実施形態の構成及び動作>
[撮像装置100]
まず、本発明の一実施形態に係る撮像装置100について説明する。撮像装置100は、画像処理装置102が信号処理回路として内蔵されている。
図1は、本実施形態に係る撮像装置100を示すブロック図である。撮像装置100は、例えば光学系101と画像処理装置102からなる。光学系101は、図1に示すようにカラー画像データとモノクロ画像データを別々に画像処理装置102に送る。
図2は、本実施形態に係る光学系101を示す説明図である。図2は、各光学部品の概略的な外観と光路を示している。
光学系101は、前玉レンズ151と、分光ミラー152と、レンズ群153と、カラー撮像素子154と、レンズ群155と、モノクロ撮像素子156などからなる。光学系101は、分光ミラー152が、可視光領域の波長成分のみからなる第一の光と、第一の光を含まず可視光領域以外の波長成分のみからなる第二の光に分光する。そして、カラー撮像素子154が、光学部材から照射された第一の光を受光し、モノクロ撮像素子156が、光学部材から照射された第二の光を受光する。
前玉レンズ151は、被写体で反射した光を受けて、被写体からの光を透過屈折させ、光を分光ミラー152に照射する。
分光ミラー152は、表面にダイクロイック膜が蒸着されている。そして、分光ミラー152は、入射した光のうち可視光領域の波長成分である例えば675nm以下の可視光波長成分を反射し、入射した光のうち可視光領域以外の波長成分である例えば675nm以上の近赤外光線波長成分を透過させる。675nm以下の波長成分は、レンズ群153を透過してカラー撮像素子154に照射され結像し、675nm以上の波長成分は、レンズ群155を透過してモノクロ撮像素子156に照射され結像する。なお、分光ミラー152による波長成分の分光の境界値は、675nmに限定されず、他の値でもよい。
図5は、分光ミラー152で反射する光線の分光反射率を示すグラフである。図5に示すように、分光ミラー152によって、主に波長675nm以下の光がカラー撮像素子154に導かれる。人の眼の分光感度は、図7のように示されるといわれるため、カラー撮像素子154に導かれる光線の波長は、概ね可視光領域であるといえる。図7は、人間の錐体細胞(S,M,L)と桿体細胞(R)が含む視物質の吸収スペクトルを示すグラフである。
図6は、分光ミラー152を透過する光線の分光透過率を示すグラフである。図6に示すように、分光ミラー152によって、主に波長675nm以上の光がモノクロ撮像素子156に導かれる。図7を参照すると、モノクロ撮像素子156に導かれる光線の波長は、概ね可視光領域以外の領域であるといえる。
なお、撮影レンズを含む他の光学部品は、波長400nm〜1100nmにおいて十分な透過率を有しており、カラー撮像素子154やモノクロ撮像素子156に到達する光を遮断することはない。
カラー撮像素子154及びモノクロ撮像素子156としては、CCD固体撮像素子、MOS型固体撮像素子、CMOS型固体撮像素子等の各種の固体撮像素子を使用することができる。カラー撮像素子154は、受光素子の前に赤・緑・青の色フィルタが設置された撮像素子であり、赤成分・緑成分・青成分からなるカラー画像データを出力する。モノクロ撮像素子156は、受光素子の前に色フィルタが設置されない撮像素子であり、輝度情報からなるモノクロ画像データを出力する。
図8は、カラー撮像素子154の分光感度特性を示すグラフである。図5で示した分光ミラー152で反射し、カラー撮像素子154に入射する波長675nm以下の波長領域と、図8で示したカラー撮像素子154が分光感度を有する領域が適合していることが分かる。従って、カラー撮像素子154は、無駄なく可視光をとらえることが可能となっている。
図9は、モノクロ撮像素子156の分光感度特性を示すグラフである。図9に示すように、モノクロ撮像素子156は、可視光域に最大感度を示すものの、波長675nm〜1000nmの近赤外線領域においても、十分な感度を持っている。よって、モノクロ撮像素子156は、分光ミラー152を透過し、モノクロ撮像素子156に入射する可視光より波長の長い675nm以上の波長成分を受光することが可能である。
カラー撮像素子154とモノクロ撮像素子156は、カラー画像データの被写体像とモノクロ画像データの被写体像とが一致するように位置決めされる。被写体像の一致のための位置決めは、機械的に行う方法と、画像合成時にソフトウエアを使用して行う方法と、双方を使用する方法がある。
カラー撮像素子154とモノクロ撮像素子156の光学サイズは、ほぼ同等であるとよい。この構成によれば、特に調整をしなくても、分光ミラー152で分岐された2つの光学系において、画角や焦点深度、並びに撮像領域をほぼ同等とすることができる利点を有する。
カラー撮像素子154とモノクロ撮像素子156の光学サイズが同等である場合、カラー撮像素子154の画素数をCn、モノクロ撮像素子156の画素数をMnとしたとき、Mn≧Cnを満たすように構成する。この構成によれば、カラー撮像素子154の画素数Cnがモノクロ撮像素子156の画素数Mn以下であるため、カラー撮像素子154の各画素サイズがモノクロ撮像素子156の画素サイズに比べて大きくなる。その結果、カラー撮像素子154の感度を高くすることができ、画素数の多いカラー撮像素子と比較して感度を向上させることができる。一方、モノクロ撮像素子156の画素数Mnが多いので、モノクロ撮像素子156によって高い解像度が確保される。
[画像処理装置102の構成]
次に、図3を参照して、本発明の一実施形態に係る画像処理装置102の構成について説明する。図3は、本実施形態に係る画像処理装置102を示すブロック図である。
画像処理装置102は、可視光領域の波長成分のみからなるカラー画像データから色情報を抽出し、可視光領域の波長成分を含まず可視光領域外の波長成分のみからなるモノクロ画像データから輝度情報を抽出して、色情報と輝度情報を合成し画像データを生成する。これによって、輝度情報を抽出する際に可視光を含有する画像データを使用しないため、被写体像が鮮明に表示される画像データを得られる。
画像処理装置102は、カラー画像データ取得部112と、モノクロ画像データ取得部114と、色情報抽出部122と、輝度情報抽出部124と、合成部130等からなる。
カラー画像データ取得部112は、画像取得部の一例であり、カラー撮像素子を使用して撮像された結果得られるカラー画像データを取得する。カラー撮像素子は、受光素子の前に赤・緑・青の色フィルタが設置された撮像素子であり、赤成分・緑成分・青成分からなるカラー画像データを出力する。
カラー撮像素子から取得するカラー画像データが、可視光領域の波長成分のみからなる場合、カラー画像データ取得部112は、そのまま可視光領域の波長成分のみからなるカラー画像データを色情報抽出部122に送る。または、カラー撮像素子から取得するカラー画像データが、可視光領域以外の赤外光成分等の波長成分を含む場合は、カラー画像データ取得部112は、可視光領域以外の波長成分を除去して、可視光領域の波長成分のみからなるカラー画像データを色情報抽出部122に送る。
カラー画像データにおいて、赤外光成分等の波長成分が除去されることにより、人の知覚に合致した人の目に分かりやすいカラー画像が得られる。
モノクロ画像データ取得部114は、画像取得部の一例であり、モノクロ撮像素子を使用して撮像された結果得られるモノクロ画像データを取得する。モノクロ撮像素子は、受光素子の前に色フィルタが設置されない撮像素子であり、輝度情報からなるモノクロ画像データを出力する。モノクロ撮像素子は、色フィルタが設置されていないためカラー撮像素子に比べて高感度であり、かつ空間解像度が高い撮像が可能となる。
モノクロ撮像素子から取得するモノクロ画像データが、可視光領域以外の波長成分のみからなる場合、モノクロ画像データ取得部114は、そのまま可視光領域以外の波長成分のみからなるモノクロ画像データを輝度情報抽出部124に送る。または、モノクロ撮像素子から取得するモノクロ画像データが、可視光領域の波長成分を含む場合は、モノクロ画像データ取得部114は、可視光領域の波長成分を除去して、可視光領域以外の波長成分のみからなるモノクロ画像データを輝度情報抽出部124に送る。
モノクロ画像データにおいて、可視光成分が除去されることにより、霧や霞などで見えにくい環境でも、被写体が鮮明なモノクロ画像が得られる。
上記カラー画像データは、所定値、例えば675nm以下の波長成分のみからなり、モノクロ画像データは、所定値、例えば675nm以上の波長成分のみからなるとよい。なお、所定値は上記例に限定されず、例えば上記カラー画像データは、400nm〜700nmの波長成分を含み、モノクロ画像データは、700nm〜1000nmの波長成分を含むようにしてもよい。また、上記カラー画像データは、短波長側半値波長が420nm〜460nmで長波長側半値波長が610nm〜650nmの波長成分を含み、モノクロ画像データは、短波長側半値波長が650nm〜750nmの波長成分を含むようにしてもよい。
色情報抽出部122は、カラー画像データ取得部112から受けた可視光領域の波長成分のみからなるカラー画像データを輝度情報Y1と、色差情報Cb,Crに分解し、色差情報Cb,Crを抽出する。色差情報Cb,Crは色情報の一例である。色情報抽出部122は、抽出した色差情報Cb,Crを合成部130に送る。輝度情報Y1は、合成部130における合成処理に使用されないため、合成部130に送らなくてもよい。
RGB各8bitのカラー画像データを輝度情報Y1と、色差情報Cb,Crに分解するには、例えばRGB信号をYCbCr信号に変換する下記の数式1〜3を使用する。
Y1= 0.257R+0.504G+0.098B+ 16 ……(数式1)
Cb=−0.148R−0.291G+0.439B+128 ……(数式2)
Cr= 0.439R−0.368G−0.071B+128 ……(数式3)
輝度情報抽出部124は、モノクロ画像データ取得部114から受けた可視光領域以外の波長成分のみからなるモノクロ画像データを輝度情報Y2とする。そして、輝度情報抽出部124は、抽出した輝度情報Y2を合成部130に送る。
合成部130は、色情報抽出部122から受けた色差情報Cb,Crと、輝度情報抽出部124から受けた輝度情報Y2を合成し、合成画像データを生成する。色差情報Cb,Crと輝度情報Y2を合成して、RGB各8bitのカラーの合成画像データを生成するには、例えばYCbCr信号をRGB信号に変換する下記の数式4〜6を使用する。
R=1.164(Y2−16) −1.596(Cr−128) ……(数式4)
G=1.164(Y2−16)−0.391(Cb−128)−0.813(Cr−128) ……(数式5)
B=1.164(Y2−16)−2.018(Cb−128) ……(数式6)
[画像処理装置102の動作]
次に、図4を参照して、上述した本実施形態に係る画像処理装置102の合成処理について説明する。図4は、本実施形態に係る画像処理装置102の合成処理を示すフローチャートである。
まず、画像処理装置102は、可視光領域の波長成分のみからなるカラー画像データと、可視光領域以外の波長成分のみからなるモノクロ画像データを取得する(ステップS1)。
次に、カラー画像データが輝度情報Y1、色差情報Cb,Crに分解され、カラー画像データから色差情報Cb,Crが抽出される。また、モノクロ画像データから輝度情報Y2が抽出される(ステップS2)。
その後、カラー画像データから抽出された色差情報Cb,Crと、モノクロ画像データから抽出された輝度情報Y2が合成されて合成画像データが生成される(ステップS3)。
[本実施形態の効果]
本実施形態の撮像装置100は、例えば広域監視カメラに適用して最適な結果が得られる。本実施形態によれば、広域監視カメラにおける特に以下の三つの要求を満たすことが可能である。
第一の要求は、霧や霞などで見えにくい撮影条件であっても注目する被写体を鮮明に撮像できることである。第二の要求は、照度の低い暗い環境でも被写体を撮像できることである。第三の要求は、服の色等の色情報による識別が重視される場合も多いため、カラー画像が得られることである。
まず、第一の要求について説明する。被写体を鮮明に撮像するには、被写体で反射した光が撮像素子まで減衰せずに到達することが重要である。本実施形態では、画像の解像度に支配的な輝度信号として、可視光より波長の長い675nm〜1000nmの近赤外光(NIR)を用いる。
図10は、Rayleighの散乱式による散乱量と波長の関係を示すグラフである。Rayleighの散乱式は、下記の数式7で表される。Rayleighの散乱式によれば、d≦λ/πの場合、散乱強度は光線波長の−4乗に比例する。
Figure 0005545016
ここで、n:粒子数、d:粒子径(空気分子d=0.37nm、スモッグd=1nm〜1000nm)、m:反射係数、λ:光の波長である。反射係数mは自然条件で与えられ、光の波長λは撮像装置100の設計条件に応じて変化させることができる。
Rayleighの散乱式によれば、近赤外光(NIR)は、400〜675nmの可視光より散乱量が小さい。そのため、空気中や、直径が光線波長のおおよそ1/3以下の浮遊粒子が漂う環境では、遠方や霞などで見えにくい撮影条件であっても、本実施形態の技術を適用することにより、通常のカメラよりも、注目する被写体を鮮明に撮像できる。
また、光線波長のおおよそ1/3以上の直径の浮遊粒子が漂う環境に適用できるMieの散乱式によれば、散乱量は波長の0〜−2乗に比例する。そのため、霧などの環境でも、近赤外光(NIR)は、可視光よりも散乱されにくい。よって、近赤外光(NIR)を利用する本実施形態では、通常のカメラよりも、霧などの環境でも被写体を鮮明に撮像できる。
次に、第二の要求について説明する。本実施形態によれば、照度の低い暗い環境でも被写体を撮像できる。本実施形態では、まず、通常のカラーカメラでは未使用の近赤外光(NIR)も利用し、かつ、夕暮れや人工照明はNIRを含むため、本実施形態は低照度時に有利である。加えて、本実施形態では、NIRを受光するために、カラー撮像素子154と比較して、より高感度でかつ空間解像度の高い撮影が可能なモノクロ撮像素子156を使用しているため、本実施形態は低照度時に有利である。
図11は、モノクロカメラとカラーカメラの感度及び最低被写体照度例を示す表である。同一の受光素子の前にR、G、Bの色フィルタを設置したカラーカメラと、受光素子前に色フィルタのない白黒カメラにおいて比較した例である。白黒カメラはカラーカメラと比べ、高感度で、最低被写体照度も低くなっていることが分かる。カラー撮像素子は、受光素子の前にR、G、Bの色フィルタを設置しているため、RGBの各色の画素が、いずれも、モノクロ撮像素子と比べて感度が低くなる。
次に、第三の要求について説明する。本実施形態によれば、カラー画像が得られる。モノクロ撮像素子は、低照度時の撮影が可能であるが、当然ながら色情報を取得することが不可能である。一方、本実施形態では、カラー撮像素子154から得た色情報とモノクロ撮像素子156から得た輝度情報双方を利用することで、第一、第二の要求を満たしつつ、第三の要求も満たしカラー撮影も可能である。
<2.変更例>
上述の撮像装置100は、画像処理装置102が信号処理回路として内蔵される場合について説明したが、本発明はこの例に限定されない。例えば、図12に示すように、撮像装置200の外部に画像処理装置102が設けられてもよい。図12は、本実施形態の変更例に係る撮像装置200及び画像処理装置102を示すブロック図である。このとき、画像処理装置102は、例えばパーソナルコンピュータ、サーバ装置等である。撮像装置200は、上述した光学系101を有して、可視光領域の波長成分のみからなるカラー画像データと、可視光領域の波長成分を含まず可視光領域以外の波長成分のみからなるモノクロ画像データを出力する。
なお、上述した画像処理を行う時期は、特に限定されず、リアルタイムや撮影完了後等、様々な時期が考えられる。例えば、リアルタイムに画像処理を行う場合には、カラー撮像素子154及びモノクロ撮像素子156で撮影して得られる画像データを信号処理するため、短時間で合成した画像を作成できる。一方、例えば、カラー撮像素子154及びモノクロ撮像素子156で撮影して得られる画像を一旦記録媒体に記録しておいて、後で画像を呼び出して画像処理を行うことも可能である。
上述した一実施形態に係る撮像装置100や変更例に係る撮像装置200では、モノクロ撮像素子156及びカラー撮像素子154がカメラを共通としていることにより、視差や合わせズレは生じない、という利点がある。
また、カラー撮像素子154及びモノクロ撮像素子156と、画像処理装置102や記録媒体の記録装置との間の接続は、有線(例えば、ケーブル、電話回線)又は無線等を通じてデータのやり取りが可能な構成とすることも考えられる。更に、例えばネットワーク(イントラネット、インターネット等)上のサーバ装置に画像処理を行うソフトウエア(コンピュータプログラム)を置き、ネットワークを通じてこのソフトウエアにアクセスして、カラー撮像素子154及びモノクロ撮像素子156によって撮影した画像の信号処理を行うことも考えられる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
上述の本実施形態に係る撮像装置100では、入射光を分岐させる分光ミラー152を前玉レンズ151とレンズ群153,155との間に配置したが、本発明において、入射光を分岐させる光学部材の位置は特に限定されず、その他の位置に配置することも考えられる。例えば、レンズ群の中間や、レンズ群と撮像素子との間に配置することが考えられる。また、前玉レンズを設けない代わりに、それぞれのレンズ群の手前に同様の機能を有するレンズを配置して、最初に光学部材によって入射光を分岐させることも考えられる。
但し、上述の本実施形態に係る撮像装置100のように、分光ミラー152を前玉レンズ151とレンズ群153,155との間に配置した場合には、前玉レンズ151が共通になる。そのため、前玉レンズ151の収差等の影響が等しくなることや、レンズ群153,155として、従来のカメラに使用されているものをそのまま使用することが可能になる、という利点を有する。
本発明において、入射光を分岐させる光学部材は、分光ミラー152に限られず、プリズムの組み合わせ等の他の光学部材を使用することも可能である。
本発明において、光路の分岐の数は、2つに限定されるものではなく、全体として3つ以上に分岐させても構わない。即ち、カラー撮像素子又はモノクロ撮像素子を複数備えて撮像装置を構成してもよい。例えば、カラー撮像素子として、R,G,Bの3色に対応して色毎に撮像素子を設けた3板式のカラー撮像素子があるが、この3板式のカラー撮像素子とモノクロ撮像素子とを組み合わせて撮像装置を構成することも可能である。この場合、光路が4つ以上に分岐することになる。
100,200 撮像装置
101 光学系
102 画像処理装置
112 カラー画像データ取得部
114 モノクロ画像データ取得部
122 色情報抽出部
124 輝度情報抽出部
130 合成部
151 前玉レンズ
152 分光ミラー
153,155 レンズ群
154 カラー撮像素子
156 モノクロ撮像素子

Claims (4)

  1. 被写体から入射した光を可視光領域の波長成分のみからなる第一の光と、前記第一の光を含まず前記可視光領域以外の波長成分のみからなる第二の光に分光する光学部材と、
    前記光学部材から照射された前記第一の光を受光するカラー撮像素子と、
    前記光学部材から照射された前記第二の光を受光するモノクロ撮像素子と、
    を備え
    前記カラー撮像素子と前記モノクロ撮像素子の光学サイズが同等である場合、前記カラー撮像素子の画素数をCn、前記モノクロ撮像素子の画素数をMnとすると、Mn≧Cnである、撮像装置。
  2. 前記光学部材は、前記第一の光を反射し前記第二の光を透過する分光ミラーである、請求項1に記載の撮像装置。
  3. 前記カラー撮像素子からカラー画像データを取得し、前記モノクロ撮像素子からモノクロ画像データを取得する画像取得部と、
    前記カラー画像データから色情報を抽出する色情報抽出部と、
    前記モノクロ画像データから輝度情報を抽出する輝度情報抽出部と、
    抽出された前記色情報と前記輝度情報とを合成し合成画像データを生成する合成部と、
    を備える、請求項1または2に記載の撮像装置。
  4. 前記カラー撮像素子と前記モノクロ撮像素子は、前記カラー画像データの被写体像と前記モノクロ画像データの被写体像とが一致するように位置決めされた、請求項に記載の撮像装置。
JP2010109984A 2010-05-12 2010-05-12 撮像装置 Expired - Fee Related JP5545016B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2010109984A JP5545016B2 (ja) 2010-05-12 2010-05-12 撮像装置
EP11162439A EP2387231A2 (en) 2010-05-12 2011-04-14 Imaging apparatus
TW100114879A TWI434574B (zh) 2010-05-12 2011-04-28 成像設備
US13/100,568 US8576302B2 (en) 2010-05-12 2011-05-04 Imaging apparatus comprising color image pickup device and monochrome image pickup device
KR1020110042438A KR20110125173A (ko) 2010-05-12 2011-05-04 촬상 장치
CN2011101193493A CN102244789A (zh) 2010-05-12 2011-05-05 成像设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010109984A JP5545016B2 (ja) 2010-05-12 2010-05-12 撮像装置

Publications (2)

Publication Number Publication Date
JP2011239260A JP2011239260A (ja) 2011-11-24
JP5545016B2 true JP5545016B2 (ja) 2014-07-09

Family

ID=44276002

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010109984A Expired - Fee Related JP5545016B2 (ja) 2010-05-12 2010-05-12 撮像装置

Country Status (6)

Country Link
US (1) US8576302B2 (ja)
EP (1) EP2387231A2 (ja)
JP (1) JP5545016B2 (ja)
KR (1) KR20110125173A (ja)
CN (1) CN102244789A (ja)
TW (1) TWI434574B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI711497B (zh) 2016-08-01 2020-12-01 日商新東工業股份有限公司 輥壓方法及輥壓系統

Families Citing this family (65)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11792538B2 (en) 2008-05-20 2023-10-17 Adeia Imaging Llc Capturing and processing of images including occlusions focused on an image sensor by a lens stack array
US8866920B2 (en) 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
KR101733443B1 (ko) * 2008-05-20 2017-05-10 펠리칸 이매징 코포레이션 이종 이미저를 구비한 모놀리식 카메라 어레이를 이용한 이미지의 캡처링 및 처리
US8514491B2 (en) 2009-11-20 2013-08-20 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
WO2011143501A1 (en) 2010-05-12 2011-11-17 Pelican Imaging Corporation Architectures for imager arrays and array cameras
US8878950B2 (en) 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP2014519741A (ja) 2011-05-11 2014-08-14 ペリカン イメージング コーポレイション アレイカメラ画像データを伝送および受信するためのシステムおよび方法
US20130070060A1 (en) 2011-09-19 2013-03-21 Pelican Imaging Corporation Systems and methods for determining depth from multiple views of a scene that include aliasing using hypothesized fusion
US8542933B2 (en) 2011-09-28 2013-09-24 Pelican Imaging Corporation Systems and methods for decoding light field image files
US9412206B2 (en) 2012-02-21 2016-08-09 Pelican Imaging Corporation Systems and methods for the manipulation of captured light field image data
GB201204129D0 (en) 2012-03-08 2012-04-25 Supponor Oy Apparatus and method for image content detection and image content replacement system
US9210392B2 (en) 2012-05-01 2015-12-08 Pelican Imaging Coporation Camera modules patterned with pi filter groups
EP2873028A4 (en) 2012-06-28 2016-05-25 Pelican Imaging Corp SYSTEMS AND METHOD FOR DETECTING DEFECTIVE CAMERA ARRAYS, OPTICAL ARRAYS AND SENSORS
US20140002674A1 (en) 2012-06-30 2014-01-02 Pelican Imaging Corporation Systems and Methods for Manufacturing Camera Modules Using Active Alignment of Lens Stack Arrays and Sensors
EP3869797B1 (en) 2012-08-21 2023-07-19 Adeia Imaging LLC Method for depth detection in images captured using array cameras
CN104685513B (zh) 2012-08-23 2018-04-27 派力肯影像公司 根据使用阵列源捕捉的低分辨率图像的基于特征的高分辨率运动估计
CN104685860A (zh) 2012-09-28 2015-06-03 派力肯影像公司 利用虚拟视点从光场生成图像
WO2014078443A1 (en) 2012-11-13 2014-05-22 Pelican Imaging Corporation Systems and methods for array camera focal plane control
US9462164B2 (en) 2013-02-21 2016-10-04 Pelican Imaging Corporation Systems and methods for generating compressed light field representation data using captured light fields, array geometry, and parallax information
WO2014133974A1 (en) 2013-02-24 2014-09-04 Pelican Imaging Corporation Thin form computational and modular array cameras
WO2014138697A1 (en) 2013-03-08 2014-09-12 Pelican Imaging Corporation Systems and methods for high dynamic range imaging using array cameras
US8866912B2 (en) 2013-03-10 2014-10-21 Pelican Imaging Corporation System and methods for calibration of an array camera using a single captured image
US9519972B2 (en) 2013-03-13 2016-12-13 Kip Peli P1 Lp Systems and methods for synthesizing images from image data captured by an array camera using restricted depth of field depth maps in which depth estimation precision varies
US9106784B2 (en) 2013-03-13 2015-08-11 Pelican Imaging Corporation Systems and methods for controlling aliasing in images captured by an array camera for use in super-resolution processing
US9124831B2 (en) 2013-03-13 2015-09-01 Pelican Imaging Corporation System and methods for calibration of an array camera
WO2014164909A1 (en) 2013-03-13 2014-10-09 Pelican Imaging Corporation Array camera architecture implementing quantum film sensors
US9578259B2 (en) 2013-03-14 2017-02-21 Fotonation Cayman Limited Systems and methods for reducing motion blur in images or video in ultra low light with array cameras
US9100586B2 (en) 2013-03-14 2015-08-04 Pelican Imaging Corporation Systems and methods for photometric normalization in array cameras
US9497429B2 (en) 2013-03-15 2016-11-15 Pelican Imaging Corporation Extended color processing on pelican array cameras
EP2973476B1 (en) 2013-03-15 2025-02-26 Adeia Imaging LLC Systems and methods for stereo imaging with camera arrays
US9445003B1 (en) 2013-03-15 2016-09-13 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using image deconvolution based on motion and depth information
US10122993B2 (en) 2013-03-15 2018-11-06 Fotonation Limited Autofocus system for a conventional camera that uses depth information from an array camera
US9898856B2 (en) 2013-09-27 2018-02-20 Fotonation Cayman Limited Systems and methods for depth-assisted perspective distortion correction
US9706116B2 (en) * 2013-10-31 2017-07-11 Ricoh Co., Ltd. Plenoptic color imaging system with enhanced resolution
EP3066690A4 (en) 2013-11-07 2017-04-05 Pelican Imaging Corporation Methods of manufacturing array camera modules incorporating independently aligned lens stacks
US10119808B2 (en) 2013-11-18 2018-11-06 Fotonation Limited Systems and methods for estimating depth from projected texture using camera arrays
US9456134B2 (en) 2013-11-26 2016-09-27 Pelican Imaging Corporation Array camera configurations incorporating constituent array cameras and constituent cameras
WO2015134996A1 (en) 2014-03-07 2015-09-11 Pelican Imaging Corporation System and methods for depth regularization and semiautomatic interactive matting using rgb-d images
EP3201877B1 (en) 2014-09-29 2018-12-19 Fotonation Cayman Limited Systems and methods for dynamic calibration of array cameras
EP3148177A4 (en) * 2014-10-22 2018-01-24 Yulong Computer Telecommunication Technologies (Shenzhen) Co., Ltd. Image generation method based on dual camera module and dual camera module
US9942474B2 (en) 2015-04-17 2018-04-10 Fotonation Cayman Limited Systems and methods for performing high speed video capture and depth estimation using array cameras
KR102347591B1 (ko) * 2015-08-24 2022-01-05 삼성전자주식회사 이미지 센싱 장치 및 이미지 프로세싱 시스템
JP2017135493A (ja) * 2016-01-26 2017-08-03 池上通信機株式会社 屋外監視用撮影装置
WO2017166057A1 (en) * 2016-03-29 2017-10-05 Huawei Technologies Co., Ltd. Image processing method, image processing apparatus, portable multifunction device, and computer readable storage medium
US10547829B2 (en) 2016-06-16 2020-01-28 Samsung Electronics Co., Ltd. Image detecting device and image detecting method using the same
US10313642B2 (en) * 2017-01-18 2019-06-04 Omnivision Technologies, Inc. Imaging system having dual image sensors
JP6939000B2 (ja) * 2017-03-23 2021-09-22 株式会社Jvcケンウッド 撮像装置及び撮像方法
US10482618B2 (en) 2017-08-21 2019-11-19 Fotonation Limited Systems and methods for hybrid depth regularization
JP7144926B2 (ja) 2017-09-26 2022-09-30 ソニーセミコンダクタソリューションズ株式会社 撮像制御装置、撮像装置、および、撮像制御装置の制御方法
DE102019118508B3 (de) * 2019-07-09 2020-12-24 Carl Zeiss Meditec Ag Optische Abbildungsvorrichtung und Verfahren zur Verbesserung dargestellter Bilder
EP3821267A4 (en) 2019-09-17 2022-04-13 Boston Polarimetrics, Inc. SYSTEMS AND METHODS FOR SURFACE MODELING USING POLARIZATION TRIGGERS
EP4042101A4 (en) 2019-10-07 2023-11-22 Boston Polarimetrics, Inc. SYSTEMS AND METHODS FOR DETECTING SURFACE NORMALS USING POLARIZATION
CN110868551A (zh) * 2019-11-23 2020-03-06 英特灵达信息技术(深圳)有限公司 一种时间同步和空间对齐的暗光-亮光成对视频获取系统
WO2021108002A1 (en) 2019-11-30 2021-06-03 Boston Polarimetrics, Inc. Systems and methods for transparent object segmentation using polarization cues
CN115552486A (zh) 2020-01-29 2022-12-30 因思创新有限责任公司 用于表征物体姿态检测和测量系统的系统和方法
US11797863B2 (en) 2020-01-30 2023-10-24 Intrinsic Innovation Llc Systems and methods for synthesizing data for training statistical models on different imaging modalities including polarized images
WO2021243088A1 (en) 2020-05-27 2021-12-02 Boston Polarimetrics, Inc. Multi-aperture polarization optical systems using beam splitters
US12020455B2 (en) 2021-03-10 2024-06-25 Intrinsic Innovation Llc Systems and methods for high dynamic range image reconstruction
US12069227B2 (en) 2021-03-10 2024-08-20 Intrinsic Innovation Llc Multi-modal and multi-spectral stereo camera arrays
US11954886B2 (en) 2021-04-15 2024-04-09 Intrinsic Innovation Llc Systems and methods for six-degree of freedom pose estimation of deformable objects
US11290658B1 (en) 2021-04-15 2022-03-29 Boston Polarimetrics, Inc. Systems and methods for camera exposure control
US12067746B2 (en) 2021-05-07 2024-08-20 Intrinsic Innovation Llc Systems and methods for using computer vision to pick up small objects
US12175741B2 (en) 2021-06-22 2024-12-24 Intrinsic Innovation Llc Systems and methods for a vision guided end effector
US12172310B2 (en) 2021-06-29 2024-12-24 Intrinsic Innovation Llc Systems and methods for picking objects using 3-D geometry and segmentation
US11689813B2 (en) 2021-07-01 2023-06-27 Intrinsic Innovation Llc Systems and methods for high dynamic range imaging using crossed polarizers

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1229392A (en) * 1984-02-28 1987-11-17 Hirosato Yamane Method and apparatus for detection of surface defects of hot metal body
US5311018A (en) * 1993-02-11 1994-05-10 The United States Of America As Represented By The Secretary Of The Air Force Optical system for obtaining separate and simultaneous near-infrared and visible light images
US5408535A (en) * 1993-09-07 1995-04-18 Miles Inc. Video test strip reader and method for evaluating test strips
JP2001145118A (ja) * 1999-11-16 2001-05-25 Konica Corp 撮像装置
JP2002016931A (ja) * 2000-06-29 2002-01-18 Victor Co Of Japan Ltd 撮像装置
JP2003169260A (ja) * 2001-09-18 2003-06-13 Fuji Photo Optical Co Ltd 可視赤外撮像装置およびシステム
JP2004304718A (ja) * 2003-04-01 2004-10-28 Nara Institute Of Science & Technology 近接領域画像抽出装置及び近接領域画像抽出方法
JP2005004181A (ja) * 2003-05-21 2005-01-06 Fujinon Corp 可視光・赤外光撮影用レンズシステム
JP2005012497A (ja) * 2003-06-19 2005-01-13 Fuji Photo Optical Co Ltd 赤外光撮影用アダプタ
US8473035B2 (en) * 2003-09-15 2013-06-25 Beth Israel Deaconess Medical Center Medical imaging systems
JP2008511080A (ja) * 2004-08-23 2008-04-10 サーノフ コーポレーション 融合画像を形成するための方法および装置
JP4534756B2 (ja) * 2004-12-22 2010-09-01 ソニー株式会社 画像処理装置、画像処理方法、撮像装置、プログラム、及び記録媒体
JP2007110209A (ja) 2005-10-11 2007-04-26 Matsushita Electric Ind Co Ltd スピーカ
JP4769079B2 (ja) * 2005-12-15 2011-09-07 日本放送協会 カメラ情報解析装置
JP4466569B2 (ja) * 2006-01-10 2010-05-26 株式会社豊田中央研究所 カラー画像再生装置
US8242426B2 (en) * 2006-12-12 2012-08-14 Dolby Laboratories Licensing Corporation Electronic camera having multiple sensors for capturing high dynamic range images and related methods
US8245029B2 (en) 2008-10-31 2012-08-14 Fujitsu Limited System and method for enhanced network entrance into a wireless network
US8326142B2 (en) * 2010-02-12 2012-12-04 Sri International Optical image systems
JP2011239259A (ja) * 2010-05-12 2011-11-24 Sony Corp 画像処理装置、画像処理方法及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI711497B (zh) 2016-08-01 2020-12-01 日商新東工業股份有限公司 輥壓方法及輥壓系統

Also Published As

Publication number Publication date
JP2011239260A (ja) 2011-11-24
CN102244789A (zh) 2011-11-16
TW201216719A (en) 2012-04-16
US20110298951A1 (en) 2011-12-08
EP2387231A2 (en) 2011-11-16
KR20110125173A (ko) 2011-11-18
US8576302B2 (en) 2013-11-05
TWI434574B (zh) 2014-04-11

Similar Documents

Publication Publication Date Title
JP5545016B2 (ja) 撮像装置
JP2011239259A (ja) 画像処理装置、画像処理方法及びプログラム
CN109196850B (zh) 摄像装置和摄像系统
JP7314976B2 (ja) 撮像装置及び撮像方法
JP2002515195A (ja) 像の背景の交換
US10863116B2 (en) Solid-state image capture device, image capture system, and object identification system
JP2019036947A (ja) 色画像を生成するカメラおよび方法
CN109565577A (zh) 色彩校正装置、色彩校正系统、色彩校正用全息图、色彩校正方法以及程序
JP2024159782A (ja) 撮像装置
CN107197168A (zh) 图像采集方法以及应用该方法的图像采集系统
EP2907300A1 (en) System for capturing scene and nir relighting effects in movie postproduction transmission
JP5108013B2 (ja) カラー撮像素子及びこれを用いた撮像装置及びフィルタ
CN111783563B (zh) 基于双光谱的人脸抓拍和监控方法及系统、设备
CN109714542A (zh) 成像方法
TW202117304A (zh) 光譜照相裝置與方法
CN118483856A (zh) 色彩滤镜阵列、图像获取方法、图像传感器及采集装置
JPH06121325A (ja) カラー撮像装置
AU709844B2 (en) Method for replacing the background of an image
JP2022179259A (ja) 光束分離光学系および画像処理装置
Adham Khiabani Terrestial implementation of UNB Super Camera and improvements to UNB-PanSharp
JP2010161450A (ja) 赤外線照射式撮像装置
JP2017135493A (ja) 屋外監視用撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140312

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140428

LAPS Cancellation because of no payment of annual fees