[go: up one dir, main page]

JP6470589B2 - IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM - Google Patents

IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM Download PDF

Info

Publication number
JP6470589B2
JP6470589B2 JP2015033194A JP2015033194A JP6470589B2 JP 6470589 B2 JP6470589 B2 JP 6470589B2 JP 2015033194 A JP2015033194 A JP 2015033194A JP 2015033194 A JP2015033194 A JP 2015033194A JP 6470589 B2 JP6470589 B2 JP 6470589B2
Authority
JP
Japan
Prior art keywords
imaging
signal
image sensor
image
stress
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015033194A
Other languages
Japanese (ja)
Other versions
JP2016158033A (en
JP2016158033A5 (en
Inventor
優作 元長
優作 元長
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015033194A priority Critical patent/JP6470589B2/en
Publication of JP2016158033A publication Critical patent/JP2016158033A/en
Publication of JP2016158033A5 publication Critical patent/JP2016158033A5/ja
Application granted granted Critical
Publication of JP6470589B2 publication Critical patent/JP6470589B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置およびその制御方法に関する。   The present invention relates to an imaging apparatus and a control method thereof.

CMOSやCCDなどの固体撮像素子を用いて撮影を行うデジタルカメラなどの撮像装置において、レンズ収差を補正するために、撮像面を湾曲させた構造の撮像素子が提案されている(特許文献1参照)。特許文献1のように、撮像素子の撮像面を湾曲させることで、レンズから入射してくる被写体からの光線と撮像面を直交させることが可能となる。   In an imaging apparatus such as a digital camera that performs imaging using a solid-state imaging element such as a CMOS or a CCD, an imaging element having a structure in which an imaging surface is curved has been proposed in order to correct lens aberration (see Patent Document 1). ). As in Patent Document 1, it is possible to make the imaging plane orthogonal to the light beam from the subject incident from the lens by curving the imaging plane of the imaging device.

特許第4604307号公報Japanese Patent No. 4604307

しかしながら、上記特許文献1のように、撮像素子の撮像面を湾曲させると画素の周辺回路に影響を及ぼす可能性がある。撮像素子の周辺回路は、平面基板上に回路素子が積層配置されている。回路素子の中には、素子を構成する部品の間隔や形状によって特性が変化するものがある。そのため、撮像素子を湾曲させることで周辺回路が変形したりすると、設計上の特性が得られなくなる場合がある。   However, as in Patent Document 1, if the imaging surface of the imaging device is curved, there is a possibility of affecting the peripheral circuits of the pixels. In the peripheral circuit of the image sensor, circuit elements are stacked on a flat substrate. Some circuit elements have characteristics that change depending on the interval and shape of the components that make up the element. Therefore, design characteristics may not be obtained if the peripheral circuit is deformed by curving the image sensor.

本発明は、上記課題に鑑みてなされ、その目的は、画像撮影時に撮像素子や周辺回路の特性の変化に応じて撮像素子に加える力を適切に制御することができる技術を実現することである。   The present invention has been made in view of the above problems, and an object thereof is to realize a technique capable of appropriately controlling a force applied to an image sensor in accordance with a change in characteristics of the image sensor and peripheral circuits during image capturing. .

上記課題を解決し、目的を達成するために、本発明の撮像装置は、複数の画素が2次元状に配列され、前記画素に蓄積された信号を読み出す読み出し回路を含む撮像素子と、前記撮像素子に応力を発生させ、撮像面を湾曲させる駆動手段と、前記撮像面が湾曲することにより変化する前記読み出し回路の信号読み出し特性に応じて、前記撮像素子の信号蓄積動作を行う場合に前記撮像素子が受ける応力が前記撮像素子の信号読み出し動作を行う場合に前記撮像素子が受ける応力よりも大きくなるように前記駆動手段を制御する制御手段と、を有することを特徴とする。 In order to solve the above-described problems and achieve the object, an imaging device according to the present invention includes an imaging device including a readout circuit in which a plurality of pixels are arranged two-dimensionally and reads a signal accumulated in the pixels, and the imaging element stress is generated on, wherein when the drive means Ru is curved imaging surface, in accordance with the signal reading characteristics of the reading circuit in which the imaging surface is changed by bending, performs the signal accumulation operation of the image sensor And control means for controlling the driving means so that the stress received by the image sensor becomes larger than the stress received by the image sensor when performing a signal reading operation of the image sensor.

また、本発明の撮像装置は、複数の画素が2次元状に配列され、前記画素に蓄積された信号を読み出す読み出し回路を含む撮像素子と、前記撮像素子の撮像面を湾曲させる駆動手段と、前記撮像面が湾曲することにより変化する前記読み出し回路の信号読み出し特性に応じて、前記撮像素子の信号蓄積動作を行う場合の前記撮像の曲率が前記撮像素子の信号読み出し動作を行う場合の前記撮像の曲率よりも大きくなるように前記駆動手段を制御する制御手段と、を有することを特徴とする。 In addition, an imaging device according to the present invention includes an imaging device including a readout circuit that reads out signals accumulated in the plurality of pixels in a two-dimensional manner, and a driving unit that curves the imaging surface of the imaging device. wherein when in accordance with a signal reading characteristics of the reading circuit in which the imaging surface is changed by bending, the curvature of the imaging surface in the case of performing the signal accumulation operation of the image pickup device performs a signal read operation of the imaging device Control means for controlling the driving means so as to be larger than the curvature of the imaging surface .

本発明によれば、撮像素子や周辺回路の特性の変化に応じて撮像素子が受ける応力を適切に制御することができる。   ADVANTAGE OF THE INVENTION According to this invention, the stress which an image pick-up element receives according to the change of the characteristic of an image pick-up element or a peripheral circuit can be controlled appropriately.

本実施形態の撮像装置の構成を示すブロック図。1 is a block diagram illustrating a configuration of an imaging apparatus according to an embodiment. 本実施形態の撮像素子の電気的な構成を示す回路図。FIG. 3 is a circuit diagram showing an electrical configuration of the image sensor of the present embodiment. 本実施形態の応力制御部の構成を示す図。The figure which shows the structure of the stress control part of this embodiment. 本実施形態の撮像素子の容量特性の説明図。Explanatory drawing of the capacitance characteristic of the image sensor of this embodiment. 本実施形態の撮像素子の列アンプ回路の説明図。Explanatory drawing of the column amplifier circuit of the image pick-up element of this embodiment. 実施形態1の通常の画像撮影時のフローチャート。5 is a flowchart at the time of normal image capturing according to the first embodiment. 実施形態1の通常の画像撮影時のタイミングチャート。3 is a timing chart at the time of normal image capturing according to the first embodiment. 実施形態2の黒引き処理用の遮光画像撮影時のフローチャート。9 is a flowchart at the time of capturing a shaded image for blackening processing according to the second embodiment. 実施形態2の黒引き処理用の遮光画像撮影時のタイミングチャート。9 is a timing chart at the time of capturing a shaded image for blackening processing according to the second embodiment.

以下に、添付図面を参照して本発明を実施するための形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成しても良い。   EMBODIMENT OF THE INVENTION Below, the form for implementing this invention with reference to an accompanying drawing is demonstrated in detail. The embodiment described below is an example for realizing the present invention, and should be appropriately modified or changed according to the configuration and various conditions of the apparatus to which the present invention is applied. It is not limited to the embodiment. Moreover, you may comprise combining suitably one part of each embodiment mentioned later.

[実施形態1]以下、本発明を、静止画や動画を撮影可能なデジタルカメラなどの撮像装置に適用した実施形態について説明する。なお、本発明は、撮像素子に力を加えて曲げ応力を発生させ、撮像面を湾曲させる制御が可能な機能を有する他の装置にも適用可能である。   [Embodiment 1] An embodiment in which the present invention is applied to an image pickup apparatus such as a digital camera capable of taking a still image or a moving image will be described below. The present invention can also be applied to other devices having a function capable of controlling the bending of the imaging surface by applying a force to the imaging element to generate a bending stress.

<装置構成>図1を参照して、本発明に係る実施形態の撮像装置の構成および機能の概略について説明する。   <Apparatus Configuration> With reference to FIG. 1, an outline of a configuration and functions of an imaging apparatus according to an embodiment of the present invention will be described.

図1において、本実施形態の撮像装置は、光学系101、撮像素子102、撮像制御部103、前処理部104、信号処理部105、メモリ部106、表示部107、記録部108、操作部109、主制御部110および応力制御部111を有する。   In FIG. 1, the imaging apparatus of the present embodiment includes an optical system 101, an imaging element 102, an imaging control unit 103, a preprocessing unit 104, a signal processing unit 105, a memory unit 106, a display unit 107, a recording unit 108, and an operation unit 109. The main control unit 110 and the stress control unit 111 are included.

光学系101は、被写体像を撮像素子102に結像させるフォーカスレンズ、光学的にズーミングを行うズームレンズ、被写体像の明るさを調整する絞り、露光を制御するメカニカルシャッター(以下、シャッター)などを含む。   The optical system 101 includes a focus lens that forms a subject image on the image sensor 102, a zoom lens that optically zooms, a diaphragm that adjusts the brightness of the subject image, a mechanical shutter that controls exposure (hereinafter referred to as a shutter), and the like. Including.

撮像素子102は、2次元状に配列された複数の画素と、これら画素から読み出された信号を所定の順番で読み出す回路とを備える。   The image sensor 102 includes a plurality of pixels arranged in a two-dimensional manner and a circuit that reads signals read from these pixels in a predetermined order.

撮像制御部103は、主制御部110からの制御信号により動作し、定電圧や駆動能力を強化させたパルスを供給することで光学系101および撮像素子102の各要素を駆動する。また、撮像制御部103は、主制御部110からの制御信号に基づいて、撮像素子102の読み出しモードを後述する通常の画像撮影モードや黒引き撮影モードに切り替える。   The imaging control unit 103 operates in accordance with a control signal from the main control unit 110, and drives each element of the optical system 101 and the imaging element 102 by supplying a pulse with enhanced constant voltage and driving capability. Further, the imaging control unit 103 switches the readout mode of the imaging element 102 to a normal image shooting mode and a black-drawing shooting mode, which will be described later, based on a control signal from the main control unit 110.

前処理部104は、主制御部110からの制御信号により動作し、アナログ信号である撮像素子102の出力信号に含まれるリセットノイズなどのノイズ成分を除去する相関2重サンプリング回路(CDS回路)、ノイズが除去された出力信号の振幅を調整するゲインコントールアンプ、および、振幅が調整されたアナログ信号である出力信号をデジタル信号に変換するA/D変換回路などを含む。なお、前処理部104に含まれるこれらの構成要素は、撮像素子102に内蔵されていてもかまわない。   The preprocessing unit 104 operates in accordance with a control signal from the main control unit 110, and a correlated double sampling circuit (CDS circuit) that removes noise components such as reset noise included in the output signal of the image sensor 102 that is an analog signal. It includes a gain control amplifier that adjusts the amplitude of the output signal from which noise has been removed, an A / D conversion circuit that converts the output signal, which is an analog signal whose amplitude has been adjusted, into a digital signal, and the like. Note that these components included in the preprocessing unit 104 may be incorporated in the image sensor 102.

信号処理部105は、主制御部110からの制御信号により動作し、前処理部104から出力されるデジタル信号に対して色変換処理やガンマ補正処理、欠陥画素補正処理などを行い、圧縮処理を行って画像データを生成する。また、信号処理部105は、画像データをメモリ部106や記録部108へ出力したり、メモリ部106や記録部108から読み出した画像データに所定の信号処理を施す。さらに、信号処理部105は、撮像素子102からの信号から合焦状態や露光量等の測光データを検出し、主制御部110に出力する機能も有する。   The signal processing unit 105 operates in accordance with a control signal from the main control unit 110, performs color conversion processing, gamma correction processing, defective pixel correction processing, and the like on the digital signal output from the preprocessing unit 104, and performs compression processing. To generate image data. The signal processing unit 105 outputs image data to the memory unit 106 and the recording unit 108 and performs predetermined signal processing on the image data read from the memory unit 106 and the recording unit 108. Further, the signal processing unit 105 has a function of detecting photometric data such as an in-focus state and an exposure amount from a signal from the image sensor 102 and outputting the photometric data to the main control unit 110.

メモリ部106は、主制御部110からの制御信号に基づいて、前処理部104から出力されるデジタル信号や信号処理部105から出力される画像データを一時的に記憶する。また、信号処理部105は、表示用の画像データを表示部107へ出力する。   The memory unit 106 temporarily stores a digital signal output from the preprocessing unit 104 and image data output from the signal processing unit 105 based on a control signal from the main control unit 110. In addition, the signal processing unit 105 outputs display image data to the display unit 107.

表示部107は、例えば電子ビューファインダー(EVF)や液晶ディスプレイ(LCD)などが用いられ、主制御部110からの制御信号に基づいてメモリ部106に記憶された表示用の画像データを表示する。ユーザは、表示部107に表示された画像を見ながら、撮影前の構図決めや撮影後の画像の確認を行うことができる。   The display unit 107 uses, for example, an electronic viewfinder (EVF) or a liquid crystal display (LCD), and displays display image data stored in the memory unit 106 based on a control signal from the main control unit 110. While viewing the image displayed on the display unit 107, the user can determine the composition before shooting and confirm the image after shooting.

記録部108は、主制御部110からの制御信号に基づいて、信号処理部105から出力される画像データを記録したり、既に記録されている画像データを出力する。記録部108は、撮像装置に装着されるメモリカードやハードディスクドライブなどであっても良いし、撮像装置に内蔵されたフラッシュメモリやハードディスクドライブであってもよい。また、上述したメモリ部106と同一の構成としもよい。   The recording unit 108 records image data output from the signal processing unit 105 based on a control signal from the main control unit 110 or outputs already recorded image data. The recording unit 108 may be a memory card or a hard disk drive mounted on the imaging apparatus, or may be a flash memory or a hard disk drive built in the imaging apparatus. Further, the same configuration as that of the memory unit 106 described above may be used.

操作部109は、撮像装置100への各種指示を入力するためのユーザ操作を受け付ける操作手段であり、ボタンやスイッチなどの物理的な操作部材や、タッチパネルを通じたオンスクリーンでの入力手段など様々な形態が利用可能である。操作部109は、例えば、画像の撮影時や再生時の各種設定を行うメニュースイッチ、ズーム動作を指示するズームレバー、撮影モードや再生モードなどの動作モードの切替スイッチ、シャッタースイッチ、電源スイッチなどを含む。主制御部110は、ユーザが操作部109を介して入力した指示や設定に基づいて撮像装置を制御すると共に、表示部107に設定情報や動作状態、画像などを表示する。   The operation unit 109 is an operation unit that receives a user operation for inputting various instructions to the imaging apparatus 100, and includes various operation units such as a physical operation member such as a button or a switch, or an on-screen input unit through a touch panel. Forms are available. The operation unit 109 includes, for example, a menu switch for performing various settings at the time of image shooting and playback, a zoom lever for instructing a zoom operation, a switch for switching an operation mode such as a shooting mode and a playback mode, a shutter switch, and a power switch. Including. The main control unit 110 controls the imaging device based on instructions and settings input by the user via the operation unit 109, and displays setting information, operation states, images, and the like on the display unit 107.

主制御部110は、CPU、メインメモリ(RAM)、入出力回路、タイマー回路などを有し、CPUがメモリ部106に格納されたプログラムをRAMの作業エリアに展開し、実行することにより、装置全体の動作を制御する。なお、メインメモリとメモリ部106とを同一の構成としもよい。   The main control unit 110 includes a CPU, a main memory (RAM), an input / output circuit, a timer circuit, and the like. The CPU expands the program stored in the memory unit 106 in the RAM work area and executes the program, thereby Control overall operation. Note that the main memory and the memory unit 106 may have the same configuration.

主制御部110は、操作部109からの指示により、例えば信号処理部105で得られた合焦状態や露光量等の測光データに応じて、光学系101を制御して、最適な被写体像を撮像素子102に結像させる。また、操作部109からの指示や予め決められた撮影条件に応じて応力制御部111へ制御信号を出力し、撮像素子102に外力を加えて所定の応力を発生させる。さらに、主制御部110は、メモリ部106や記録部108の使用状況を監視することもできる。   In response to an instruction from the operation unit 109, the main control unit 110 controls the optical system 101 in accordance with photometric data such as an in-focus state and an exposure amount obtained by the signal processing unit 105, so that an optimal subject image is obtained. An image is formed on the image sensor 102. Further, a control signal is output to the stress control unit 111 according to an instruction from the operation unit 109 or a predetermined photographing condition, and an external force is applied to the image sensor 102 to generate a predetermined stress. Further, the main control unit 110 can monitor the usage status of the memory unit 106 and the recording unit 108.

応力制御部111は、主制御部110からの制御信号に応じて動作し、後述するように撮像素子102に力を加えて曲げ応力を発生させ、撮像面を湾曲させる。   The stress control unit 111 operates in response to a control signal from the main control unit 110, applies a force to the image sensor 102 to generate a bending stress as described later, and curves the imaging surface.

本実施形態の撮像装置の動作は、下記のように行うものとする。   The operation of the imaging apparatus according to the present embodiment is performed as follows.

<表示画像の制御>
(1)操作部109の電源スイッチからの指示により電源がオンする。
<Control of display image>
(1) The power is turned on by an instruction from the power switch of the operation unit 109.

(2)信号処理部105で、撮像素子102からの出力信号を表示用の画像データに変換して、表示部107に表示すると共に、測光データを検出し、主制御部110に出力する。   (2) The signal processing unit 105 converts the output signal from the image sensor 102 into image data for display, displays the image data on the display unit 107, detects photometric data, and outputs it to the main control unit 110.

(3)測光データを元にして、主制御部110が光学系101を制御する。   (3) The main control unit 110 controls the optical system 101 based on the photometric data.

(4)(2)および(3)を繰り返すとともに、操作部109からの指示を待つ。   (4) Repeat (2) and (3) and wait for an instruction from the operation unit 109.

<静止画撮影の制御>
(1)操作部109の撮影スイッチからの指示により静止画撮影の制御が始まる。
<Control of still image shooting>
(1) Still image shooting control is started by an instruction from the shooting switch of the operation unit 109.

(2)信号処理部105で、撮像素子102からの出力信号から測光データを検出し、主制御部110に出力する。   (2) The signal processing unit 105 detects photometric data from the output signal from the image sensor 102 and outputs it to the main control unit 110.

(3)測光データを元にして、主制御部110が光学系101を制御する。   (3) The main control unit 110 controls the optical system 101 based on the photometric data.

(4)撮像素子102において、静止画記録用の露光と信号の出力を行う。   (4) The image sensor 102 performs exposure for recording a still image and outputs a signal.

(5)信号処理部105で、撮像素子102からの出力信号を記録用の画像データに変換して、記録部108に出力し、記録すると共に、表示用の画像データに変換して、表示部107に表示する。   (5) The signal processing unit 105 converts the output signal from the image sensor 102 into image data for recording, outputs it to the recording unit 108, records it, and converts it into image data for display. 107.

(6)表示画像の制御に戻る。   (6) Return to display image control.

<撮像素子>次に、図2を参照して、本実施形態の撮像素子102の詳細な構成について説明する。   <Image Sensor> Next, the detailed configuration of the image sensor 102 of the present embodiment will be described with reference to FIG.

図2は、本実施形態の撮像素子102の電気的な構成を示す回路図である。なお、図2では説明の簡略化のために、単位画素201を4行×4列のみ示しているが、実際には多数の単位画素201が2次元状に配置されている。   FIG. 2 is a circuit diagram showing an electrical configuration of the image sensor 102 of the present embodiment. In FIG. 2, for simplification of explanation, only the unit pixels 201 are shown as 4 rows × 4 columns, but in reality, a large number of unit pixels 201 are two-dimensionally arranged.

図2において、単位画素201は、フォトダイオード(PD)202、転送スイッチ203、フローティングディフュージョン(FD)204、ソースフォロアとして機能する増幅MOSアンプ205、選択スイッチ206、リセットスイッチ207を備える。PD202において光が電荷に変換され、PD202で発生した電荷は転送信号φTXを転送スイッチ203に印加することによりPD202からFD204に転送され、FD204に一時的に蓄積される。FD204、増幅MOSアンプ205、及び増幅MOSアンプ205の負荷となる定電流源209によりフローティングディフュージョンアンプが構成される。そして、選択信号φSELを印加することにより選択スイッチ206がオンになり、選択された画素のFD204に蓄積された信号電荷が電圧に変換され、信号出力線208を介して読み出し回路213に出力される。さらに、水平走査回路214により選択信号線210に選択信号を出力することで読み出し回路213から出力する信号が選択され、選択された出力信号が出力アンプ211を介して画素信号が撮像素子102の外部に出力される。FD204に蓄積された電荷の除去は、リセット信号φRESをリセットスイッチ207に印加することにより行われる。また、垂直走査回路212は、転送スイッチ203、選択スイッチ206、リセットスイッチ207を選択的にオンオフする駆動を行う。   In FIG. 2, a unit pixel 201 includes a photodiode (PD) 202, a transfer switch 203, a floating diffusion (FD) 204, an amplification MOS amplifier 205 that functions as a source follower, a selection switch 206, and a reset switch 207. Light is converted into electric charge in the PD 202, and the electric charge generated in the PD 202 is transferred from the PD 202 to the FD 204 by applying the transfer signal φTX to the transfer switch 203 and temporarily stored in the FD 204. A floating diffusion amplifier is configured by the FD 204, the amplification MOS amplifier 205, and the constant current source 209 serving as a load of the amplification MOS amplifier 205. Then, by applying the selection signal φSEL, the selection switch 206 is turned on, the signal charge accumulated in the FD 204 of the selected pixel is converted into a voltage, and is output to the readout circuit 213 via the signal output line 208. . Further, the horizontal scanning circuit 214 outputs a selection signal to the selection signal line 210 to select a signal to be output from the reading circuit 213, and the selected output signal is output from the image sensor 102 via the output amplifier 211. Is output. The charge accumulated in the FD 204 is removed by applying a reset signal φRES to the reset switch 207. The vertical scanning circuit 212 performs driving to selectively turn on / off the transfer switch 203, the selection switch 206, and the reset switch 207.

<応力制御部>次に、図3を参照して、撮像素子102に力を加える応力制御部111の構成について説明する。   <Stress Control Unit> Next, the configuration of the stress control unit 111 for applying a force to the image sensor 102 will be described with reference to FIG.

撮像素子102に力を加える方式として、磁力や負圧を用いた方法などがある。本実施形態では、気体または液体の負圧を用いて撮像素子102に引っ張り方向の力を加える応力制御機構について説明する。   As a method for applying force to the image sensor 102, there is a method using magnetic force or negative pressure. In the present embodiment, a stress control mechanism that applies a tensile force to the image sensor 102 using a negative pressure of gas or liquid will be described.

図3は、応力制御機構が接続された撮像素子102の断面構成を示している。図3(a)は撮像素子102に力を加えていない状態、図3(b)は撮像素子102に力を加えている状態をそれぞれ示している。   FIG. 3 shows a cross-sectional configuration of the image sensor 102 to which the stress control mechanism is connected. 3A shows a state where no force is applied to the image sensor 102, and FIG. 3B shows a state where a force is applied to the image sensor 102.

図3(a)において、撮像素子102は、画素チップ部301、保持部302、蓋部303、空間部304、吸引部305を備えている。撮像素子102の画素チップ部301は、中央部分に単位画素201が2次元状に配列された撮像領域(撮像面)を有し、周辺部分に図2の各回路部209〜215を有する半導体基板である。保持部302は、画素チップ部301を湾曲可能な状態で保持している。蓋部303は、保持部302と接合している。空間部304は画素チップ部301、保持部302、蓋部303、吸引部305で囲まれた密閉空間であり、内部には気体または液体が充てんされている。   3A, the image sensor 102 includes a pixel chip portion 301, a holding portion 302, a lid portion 303, a space portion 304, and a suction portion 305. The pixel chip portion 301 of the image sensor 102 has an imaging region (imaging surface) in which unit pixels 201 are two-dimensionally arranged in the central portion, and a semiconductor substrate having the circuit portions 209 to 215 in FIG. 2 in the peripheral portion. It is. The holding unit 302 holds the pixel chip unit 301 in a bendable state. The lid part 303 is joined to the holding part 302. The space portion 304 is a sealed space surrounded by the pixel chip portion 301, the holding portion 302, the lid portion 303, and the suction portion 305, and is filled with gas or liquid.

吸引部305は、空間部304から気体または液体の媒体を外部に排出したり、反対に空間部304に媒体を導入することができる。すなわち、空間部304内の媒体は吸引部305を通じて内外に出し入れされる。   The suction unit 305 can discharge a gas or liquid medium from the space 304 to the outside, or can introduce the medium into the space 304. That is, the medium in the space 304 is taken in and out through the suction part 305.

空間部304に対する媒体の導入量および排出量を制御することで、空間部304内の圧力を変化させ、画素チップ部301に加わる力(すなわち、画素チップ部301が受ける応力)を制御することができる。   By controlling the amount of medium introduced into and discharged from the space portion 304, the pressure in the space portion 304 can be changed to control the force applied to the pixel chip portion 301 (that is, the stress received by the pixel chip portion 301). it can.

図3(a)の状態では、吸引部305が空間部304に対して負圧を発生させていないため、画素チップ部301には曲げ応力が発生していない。このときに画素チップ部301が受ける応力をF0とし、本実施形態では、この状態で撮像素子102の信号読み出し動作を行うように制御する。このような曲げ応力がゼロの状態から吸引部305により空間部304内の媒体を吸引・排出し、画素チップ部301に曲げ応力を発生させた状態を図3(b)に示す。   In the state of FIG. 3A, since the suction part 305 does not generate a negative pressure with respect to the space part 304, no bending stress is generated in the pixel chip part 301. At this time, the stress received by the pixel chip unit 301 is F0, and in this embodiment, control is performed so that the signal reading operation of the image sensor 102 is performed in this state. FIG. 3B shows a state where the bending stress is generated in the pixel chip portion 301 by sucking and discharging the medium in the space portion 304 by the suction portion 305 from the state where the bending stress is zero.

図3(b)では、画素チップ部301の下方向に吸引される力が加わることで、画素チップ部301が画素チップ部301’のように曲げ変形して湾曲する。   In FIG. 3B, the pixel chip portion 301 is bent and deformed and bent like the pixel chip portion 301 ′ by applying a downward suction force to the pixel chip portion 301.

このとき、図3(b)の画素チップ部301’には所定の曲げ応力が発生している。このときに画素チップ部301が受ける応力をF1とし、本実施形態では、この状態で撮像素子102の信号蓄積動作を行うように制御する。   At this time, a predetermined bending stress is generated in the pixel chip portion 301 ′ in FIG. At this time, the stress received by the pixel chip unit 301 is F1, and in this embodiment, control is performed so that the signal storage operation of the image sensor 102 is performed in this state.

<撮像素子の光電変換特性>次に、図4を参照して、撮像素子102の光電変換特性について説明する。   <Photoelectric Conversion Characteristics of Image Sensor> Next, the photoelectric conversion characteristics of the image sensor 102 will be described with reference to FIG.

図4(a)に示すように、撮像素子102の単位画素201の各々に含まれるFD204は、陽電極401、陰電極402、陽極板403、陰極板404から構成される。そして、陽電極401と陰電極402の間に電圧Vを印加したときに電荷Qを蓄えることができる容量Cを備える。   As shown in FIG. 4A, the FD 204 included in each unit pixel 201 of the image sensor 102 includes a positive electrode 401, a negative electrode 402, an anode plate 403, and a cathode plate 404. A capacitor C is provided that can store a charge Q when a voltage V is applied between the positive electrode 401 and the negative electrode 402.

容量C[F]を決定するパラメータは、極板間距離d[m]、陽極板403と陰極板404とが重なる極板面積S[m2]、極板間誘電体406の誘電率εとなる。   The parameters for determining the capacitance C [F] are the electrode plate distance d [m], the electrode plate area S [m 2] where the anode plate 403 and the cathode plate 404 overlap, and the dielectric constant ε of the electrode plate dielectric 406. .

このときの容量Cは、式1から求められる。   The capacity C at this time is obtained from Equation 1.

C=ε×S/d・・・(1)
次に、撮像素子が応力を受けるなどしてFD204の容量Cが変形したときの光電変換特性の変化について図4(b)を用いて説明する。
C = ε × S / d (1)
Next, a change in photoelectric conversion characteristics when the capacitance C of the FD 204 is deformed due to stress applied to the imaging element will be described with reference to FIG.

図3(a)の無負荷状態から吸引部305により図3(b)の状態へ空間部304の負圧が変化すると、画素チップ部301は画素チップ部301’のように湾曲する。このとき、上記極板面積Sが変化するため、画素チップ部301の各画素のFD204の容量Cが変化し、画素チップ部301’の各画素のFD204の容量C’は画素チップ部301とは異なる値を示す。   When the negative pressure in the space 304 is changed from the no-load state of FIG. 3A to the state of FIG. 3B by the suction unit 305, the pixel chip unit 301 is bent like a pixel chip unit 301 '. At this time, since the electrode plate area S changes, the capacitance C of the FD 204 of each pixel of the pixel chip unit 301 changes, and the capacitance C ′ of the FD 204 of each pixel of the pixel chip unit 301 ′ differs from that of the pixel chip unit 301. Indicates a different value.

図4(b)は、図4(a)の状態から曲げ応力が発生し、陽極板403および陰極板404が変形して陽極板403’および陰極板404’のようになった状態を示している。   FIG. 4B shows a state in which bending stress is generated from the state of FIG. 4A, and the anode plate 403 and the cathode plate 404 are deformed to become the anode plate 403 ′ and the cathode plate 404 ′. Yes.

画素チップ部301’のFD204の容量C’[F]を決定するパラメータは、極板間距離d’[m]、陽極板403’と陰極板404’とが重なる極板面積S’[m2]、極板間誘電体406’の誘電率ε(極板間誘電体406の誘電率εと同じ)となる。   Parameters for determining the capacitance C ′ [F] of the FD 204 of the pixel chip portion 301 ′ are the electrode plate distance d ′ [m], and the electrode plate area S ′ [m2] where the anode plate 403 ′ and the cathode plate 404 ′ overlap. The dielectric constant ε of the interelectrode dielectric 406 ′ (same as the dielectric constant ε of the interelectrode dielectric 406).

このときの容量C’は、式2から求められる。   The capacitance C ′ at this time is obtained from Equation 2.

C’=ε×S’/d’・・・(2)
このとき、式3となり、CとC’とは式4の関係になる。
C ′ = ε × S ′ / d ′ (2)
At this time, Equation 3 is obtained, and C and C ′ have the relationship of Equation 4.

S/d≠S’/d’・・・(3)
C≠C’・・・(4)
このように、本実施形態の撮像素子102は、曲げ変形することにより画素部のFD容量が変動し、光電変換特性が変化する特性を有する。
S / d ≠ S ′ / d ′ (3)
C ≠ C '(4)
As described above, the imaging element 102 according to the present embodiment has a characteristic in which the FD capacitance of the pixel portion varies due to bending deformation, and the photoelectric conversion characteristics change.

<撮像素子の周辺回路特性>次に、図5を参照して、本実施形態の撮像素子102の周辺回路を構成する列アンプ回路の特性について説明する。   <Peripheral Circuit Characteristics of Image Sensor> Next, the characteristics of the column amplifier circuit constituting the peripheral circuit of the image sensor 102 of this embodiment will be described with reference to FIG.

図5は、図2の読み出し回路213に含まれる列アンプの回路図である。   FIG. 5 is a circuit diagram of a column amplifier included in the read circuit 213 of FIG.

列アンプは、差動増幅回路501、容量C0,C1,C2、トランジスタTr1、Tr2から構成される。   The column amplifier includes a differential amplifier circuit 501, capacitors C0, C1, and C2, and transistors Tr1 and Tr2.

差動増幅回路501には、基準電圧として定電圧Vrefが入力される。   A constant voltage Vref is input to the differential amplifier circuit 501 as a reference voltage.

入力端子Vinには、画素部201から出力された画素信号が入力される。差動増幅回路501により増幅された画素信号は、出力端子Voutから出力される。   The pixel signal output from the pixel unit 201 is input to the input terminal Vin. The pixel signal amplified by the differential amplifier circuit 501 is output from the output terminal Vout.

差動増幅回路501の増幅率は、入力容量C0により決定される。容量C1,C2は、差動増幅回路501の帰還容量である。   The amplification factor of the differential amplifier circuit 501 is determined by the input capacitor C0. Capacitors C1 and C2 are feedback capacitors of the differential amplifier circuit 501.

制御線G1、G2の状態によって、トランジスタTr1、Tr2を接続または切断し、帰還容量C1,C2を選択的に接続することで差動増幅回路501の増幅率を切り替える。   Depending on the state of the control lines G1 and G2, the transistors Tr1 and Tr2 are connected or disconnected, and the feedback capacitors C1 and C2 are selectively connected to switch the amplification factor of the differential amplifier circuit 501.

ここで、図5の列アンプの動作について説明する。   Here, the operation of the column amplifier of FIG. 5 will be described.

列アンプは、入力容量C0と帰還容量C1、C2の組み合わせで増幅率を切り替えることができる。   The column amplifier can switch the amplification factor by a combination of the input capacitor C0 and the feedback capacitors C1 and C2.

例えば、制御線G1,G2によってトランジスタTr1を切断、トランジスタTr2を接続した場合、容量C1は帰還容量として機能せず、容量C2が帰還容量となる。この場合、出力端子Voutの出力電圧Vout1は、式5から求められる。   For example, when the transistor Tr1 is disconnected by the control lines G1 and G2 and the transistor Tr2 is connected, the capacitor C1 does not function as a feedback capacitor, and the capacitor C2 becomes a feedback capacitor. In this case, the output voltage Vout1 of the output terminal Vout is obtained from Equation 5.

Vout1=(Vref−Vin)×(C1/C0)・・・(5)
また、トランジスタTr1を接続、トランジスタTr2を切断した場合、容量C1が帰還容量となり、容量C2は帰還容量として機能しない。
Vout1 = (Vref−Vin) × (C1 / C0) (5)
Further, when the transistor Tr1 is connected and the transistor Tr2 is disconnected, the capacitor C1 serves as a feedback capacitor, and the capacitor C2 does not function as a feedback capacitor.

この場合、出力端子Voutの出力電圧Vout2は、式6から求められる。   In this case, the output voltage Vout2 of the output terminal Vout is obtained from Equation 6.

Vout2=(Vref−Vin)×(C2/C0)・・・(6)
例えば、C1=2×C0、C2=4×C0の場合、出力電圧Vout1が増幅率2倍の出力、Vout2が増幅率4倍の出力となる。
Vout2 = (Vref−Vin) × (C2 / C0) (6)
For example, when C1 = 2 × C0 and C2 = 4 × C0, the output voltage Vout1 is an output with a double amplification factor, and Vout2 is an output with a fourfold amplification factor.

上述した構成を有する列アンプは、容量精度を必要とする。   The column amplifier having the above-described configuration requires capacity accuracy.

上記式5、6からわかるように、容量C0と容量C1、容量C0と容量C2の容量比が、入力電圧Vinの増幅率に関係している。   As can be seen from the above formulas 5 and 6, the capacitance ratio between the capacitor C0 and the capacitor C1 and between the capacitor C0 and the capacitor C2 is related to the amplification factor of the input voltage Vin.

一方、撮像素子102に曲げ応力が発生して変形すると、図4(a)、(b)で説明したFD204の容量と同様に、列アンプを構成する入力容量C0、帰還容量C1,C2の容量値も変化する。このため、入力容量C0の容量値と帰還容量C1,C2の容量値とが異なる割合で変化すると、設計上の増幅率を得ることができなくなる。   On the other hand, when bending stress is generated in the image pickup element 102 and deformed, the capacitances of the input capacitance C0 and the feedback capacitances C1 and C2 constituting the column amplifier are the same as the capacitance of the FD 204 described with reference to FIGS. The value also changes. For this reason, if the capacitance value of the input capacitor C0 and the capacitance values of the feedback capacitors C1 and C2 change at different rates, it becomes impossible to obtain a designed amplification factor.

前述の例では、撮像素子102が変形していない場合は、C1=2×C0、C2=4×C0が成り立つが、撮像素子102が変形して応力が変化すると、C1≠2×C0、C2≠4×C0となる。この場合、出力電圧Vout1の増幅率2倍、出力電圧Vout2の増幅率4倍が成り立たなくなる。   In the above example, when the image sensor 102 is not deformed, C1 = 2 × C0 and C2 = 4 × C0 hold. However, when the image sensor 102 is deformed and the stress changes, C1 ≠ 2 × C0, C2 ≠ 4 × C0. In this case, the amplification factor of the output voltage Vout1 is twice and the amplification factor of the output voltage Vout2 is four times.

同様に、水平方向に並ぶ列アンプの中心部と周辺部とで増幅率が異なるなど、撮像素子の内部で容量の変化にバラツキが発生すると、列アンプごとに異なる増幅率で各列の入力電圧Vinが増幅されることになる。   Similarly, if there is a variation in capacitance inside the image sensor, such as when the amplification factor is different between the center and the periphery of column amplifiers arranged in the horizontal direction, the input voltage of each column varies with the amplification factor for each column amplifier. Vin will be amplified.

本実施形態では、上述した撮像素子の画素部の容量変化やそれに起因する周辺回路の特性変化を勘案して画像撮影時に撮像素子に加える力を適切に制御するものである。   In the present embodiment, the force applied to the image sensor at the time of image capturing is appropriately controlled in consideration of the change in the capacitance of the pixel portion of the image sensor and the change in the characteristics of the peripheral circuit resulting therefrom.

<撮像素子の応力制御>次に、図6および図7を参照して、本実施形態の通常の画像撮影時における撮像素子102の応力制御処理ついて説明する。   <Stress Control of Image Sensor> Next, with reference to FIGS. 6 and 7, the stress control process of the image sensor 102 at the time of normal image capturing of this embodiment will be described.

本実施形態では、通常の画像撮影時に、撮像素子102の周辺回路である、図2の読み出し回路213などが設計通りに動作するように、撮像素子102に力を加えて曲げ応力を発生させ、撮像面を湾曲させる制御を行う。   In the present embodiment, during normal image capturing, a force is applied to the image sensor 102 to generate a bending stress so that the peripheral circuit of the image sensor 102, such as the readout circuit 213 in FIG. 2, operates as designed, Control is performed to curve the imaging surface.

具体的には、撮像素子102の信号蓄積動作を行う場合と信号読み出し動作を行う場合とで撮像素子102に加える力、すなわち撮像素子102が受ける応力を変化させる。本実施形態では、信号蓄積動作を行う際は画素部の光電変換特性を良くするために、撮像素子102が受ける応力がF1になるように力を加え、信号読み出し動作を行う際は画素部の容量が変化せず周辺回路が設計通りに動作するように、撮像素子102が受ける応力がF0になるように制御する(曲げ応力ゼロの状態にする)。さらに言えば、信号蓄積動作を行う場合に撮像素子102が受ける応力(つまり撮像素子102の撮像面の曲率)が信号読み出し動作を行う場合に受ける応力(曲率)よりも大きくなるように制御する。   Specifically, the force applied to the image sensor 102, that is, the stress applied to the image sensor 102, is changed between when the signal storage operation of the image sensor 102 is performed and when the signal read operation is performed. In this embodiment, in order to improve the photoelectric conversion characteristics of the pixel unit when performing the signal accumulation operation, a force is applied so that the stress received by the image sensor 102 becomes F1, and when performing the signal readout operation, Control is performed so that the stress applied to the image sensor 102 is F0 so that the peripheral circuit operates as designed without changing the capacitance (the bending stress is zero). In other words, control is performed so that the stress that the image sensor 102 receives when performing the signal accumulation operation (that is, the curvature of the imaging surface of the image sensor 102) is larger than the stress (curvature) that is received when the signal read operation is performed.

このように、通常の画像撮影時において、撮像素子102の信号蓄積動作を行う場合に信号読み出し動作を行う場合とで異なる応力制御を行うことで、撮像動作に合わせて撮像素子の光電変換特性や周辺回路特性を適切に変化させることができる。   As described above, during normal image shooting, by performing different stress control when performing signal accumulation operation of the image sensor 102 and when performing signal readout operation, photoelectric conversion characteristics of the image sensor and The peripheral circuit characteristics can be appropriately changed.

図6は、通常の画像撮影時における撮像素子102の応力制御処理を示すフローチャートである。   FIG. 6 is a flowchart showing stress control processing of the image sensor 102 during normal image capturing.

以下では、信号蓄積動作を行う場合に撮像素子102が受ける応力をF1、信号読み出し動作を行う場合に撮像素子102が受ける応力をF0とした場合の処理を説明するが、加える力の大きさや種類はこの例に限られるものではない。   In the following, the processing when the stress received by the image sensor 102 when performing the signal accumulation operation is F1 and the stress received by the image sensor 102 when performing the signal readout operation is F0 will be described. Is not limited to this example.

なお、図6に示す処理は、主制御部110と応力制御部111が協働し、主制御部110のCPUがメモリ部106から読み出したプログラムをメインメモリに展開して実行することで実現される。後述する実施形態2の図8の処理についても同様である。   The process shown in FIG. 6 is realized by the main control unit 110 and the stress control unit 111 working together, and the CPU of the main control unit 110 developing the program read from the memory unit 106 and executing it in the main memory. The The same applies to the processing of FIG.

ステップS601では、主制御部110は、応力制御部111の吸引部305を制御して撮像素子102に信号蓄積動作を行う場合の力を加えて曲げ応力F1を発生させ、撮像面を湾曲させる。これにより、適切な光電変換特性で、撮像素子102の撮像面に像面湾曲を低減した画像が結像される。なお、この場合、撮像素子102の撮像面の変形によって、設計上の周辺回路特性は得られなくなる。   In step S <b> 601, the main control unit 110 controls the suction unit 305 of the stress control unit 111 to apply a force for performing a signal accumulation operation to the image sensor 102 to generate the bending stress F <b> 1 and bend the imaging surface. Thus, an image with reduced curvature of field is formed on the imaging surface of the imaging element 102 with appropriate photoelectric conversion characteristics. In this case, design peripheral circuit characteristics cannot be obtained due to deformation of the imaging surface of the image sensor 102.

ステップS602では、主制御部110は、撮像制御部103を制御してシャッターを開く。   In step S602, the main control unit 110 controls the imaging control unit 103 to open the shutter.

ステップS603では、主制御部110は、撮像制御部103を制御して撮像素子102の一括リセット処理を行い、露光を開始する。   In step S603, the main control unit 110 controls the image capturing control unit 103 to perform batch reset processing of the image sensor 102 and starts exposure.

ステップS604では、主制御部110は、撮像制御部103を制御してシャッターを閉じて、露光を終了する。ここではシャッター閉動作により露光を終了しているが、撮像素子102にグローバルシャッター回路が実装されている場合はグローバルシャッター読み出し動作により露光終了処理を行ってもよい。   In step S604, the main control unit 110 controls the imaging control unit 103 to close the shutter and end the exposure. Here, the exposure is ended by the shutter closing operation, but when the global shutter circuit is mounted on the image sensor 102, the exposure end processing may be performed by the global shutter reading operation.

ステップS605では、主制御部110は、応力制御部111の吸引部305を制御して撮像素子102に力が加わらないようにし、曲げ応力をF0(=ゼロ)にする。これにより、撮像素子102の湾曲がなくなり、信号読み出し動作を行う際に設計上の周辺回路特性が得られる。   In step S605, the main control unit 110 controls the suction unit 305 of the stress control unit 111 so that no force is applied to the image sensor 102, and the bending stress is set to F0 (= zero). Thereby, the curvature of the image sensor 102 is eliminated, and the designed peripheral circuit characteristics can be obtained when the signal reading operation is performed.

ステップS606では、主制御部110は、撮像制御部103を制御して撮像素子102から信号読み出し動作を行う。   In step S <b> 606, the main control unit 110 controls the imaging control unit 103 to perform a signal reading operation from the imaging element 102.

図7は、通常の画像撮影時の信号蓄積動作から信号読み出し動作までのタイミングチャートを示している。   FIG. 7 shows a timing chart from a signal accumulation operation to a signal readout operation during normal image capturing.

応力制御信号φStは、応力制御部111が吸引部305を駆動制御するための信号である。応力制御信号φStがHighのときに撮像素子102に曲げ応力F1が発生し、Lowのときに撮像素子102の曲げ応力がF0になるように吸引部305が駆動制御される。   The stress control signal φSt is a signal for the stress control unit 111 to drive and control the suction unit 305. The suction unit 305 is driven and controlled so that a bending stress F1 is generated in the image sensor 102 when the stress control signal φSt is High and the bending stress of the image sensor 102 is F0 when the stress control signal φSt is Low.

シャッター制御信号φShは、撮像制御部103がシャッターを駆動制御するための信号である。シャッター制御信号φShがHighのときにシャッターが開いた状態になり、Lowのときにシャッターが閉じた状態になる。   The shutter control signal φSh is a signal for the imaging control unit 103 to drive and control the shutter. When the shutter control signal φSh is High, the shutter is opened, and when the shutter control signal φSh is Low, the shutter is closed.

リセット制御信号φRESは、撮像制御部103がリセットスイッチ207のオンオフを切り替えるための信号であり、Highのときにはリセットスイッチ207を接続してFD204をリセットし、Lowのときにはリセットスイッチ207を切断する。   The reset control signal φRES is a signal for the imaging control unit 103 to switch the reset switch 207 on and off. The reset switch 207 is connected to reset the FD 204 when High, and the reset switch 207 is disconnected when Low.

転送制御信号φTXnは、撮像制御部103が転送スイッチ203のオンオフを切り替えるための信号であり、Highのときには転送スイッチ203を接続してPD202の信号をFD204へ転送し、Lowのときには転送スイッチ203を切断する。   The transfer control signal φTXn is a signal for the imaging control unit 103 to switch on / off of the transfer switch 203. When the transfer control signal φTX is High, the transfer switch 203 is connected to transfer the signal of the PD 202 to the FD 204, and when it is Low, the transfer switch 203 is turned on. Disconnect.

選択制御信号φSELnは、撮像制御部103が選択スイッチ206のオンオフを切り替えるための信号であり、Highのときには選択スイッチ206を接続してFD204の信号を増幅MOSアンプ205で増幅して出力し、Lowのときには選択スイッチ206を切断する。   The selection control signal φSELn is a signal for the imaging control unit 103 to switch the selection switch 206 on and off. When the selection control signal φSELn is High, the selection switch 206 is connected and the signal of the FD 204 is amplified by the amplification MOS amplifier 205 and output. In this case, the selection switch 206 is disconnected.

なお、リセット制御信号φRES、転送制御信号φTXn、選択制御信号φSELnは、図2に示すように各行に存在する。例えば、1行目の転送制御信号φTXはφTX1、2行目の転送制御信号φTXはφTX2、...n行目の転送制御信号φTXはφTXnとなる。   Note that the reset control signal φRES, the transfer control signal φTXn, and the selection control signal φSELn exist in each row as shown in FIG. For example, the transfer control signal φTX in the first row is φTX1, the transfer control signal φTX in the second row is φTX2,. . . The transfer control signal φTX in the nth row becomes φTXn.

本実施形態の撮像素子102は、読み出し回路213が1行ごとに信号読み出し動作を実行するため、転送制御信号φTXと選択制御信号φSELは行ごとに制御される。   In the image sensor 102 of the present embodiment, since the readout circuit 213 performs a signal readout operation for each row, the transfer control signal φTX and the selection control signal φSEL are controlled for each row.

図7における各動作のタイミングについて説明する。   The timing of each operation in FIG. 7 will be described.

時刻t701は、図6のステップS601で撮像素子102に信号蓄積動作を行う場合の力を加えるタイミングに対応する。   Time t701 corresponds to the timing at which a force is applied when performing a signal accumulation operation on the image sensor 102 in step S601 of FIG.

時刻t702は、図6のステップS602でシャッターを開動作するタイミングに対応する。   Time t702 corresponds to the timing at which the shutter is opened in step S602 in FIG.

時刻t703は、図6のステップS603で全行のPD202を同時にリセットする処理の開始タイミングに対応する。   Time t703 corresponds to the start timing of the process of simultaneously resetting the PDs 202 in all rows in step S603 in FIG.

時刻t704は、図6のステップS603での一括リセット処理を終了し、露光が開始されるタイミングに対応する。   Time t704 corresponds to the timing when the batch reset process in step S603 in FIG. 6 ends and exposure is started.

時刻t705は、図6のステップS604でシャッターを閉動作し、露光が終了するタイミングに対応する。   Time t705 corresponds to the timing when the shutter is closed in step S604 in FIG.

時刻t706は、図6のステップS605で撮像素子102に力が加わらないように制御するタイミングに対応する。   Time t706 corresponds to the timing at which control is performed so that no force is applied to the image sensor 102 in step S605 of FIG.

時刻t707以降は、図6のステップS606の各行の信号読み出し動作に対応する。   After time t707, this corresponds to the signal read operation for each row in step S606 of FIG.

時刻t707では、1行目の転送スイッチ203を接続し、PD202の画素信号をFD204へ転送する。   At time t707, the transfer switch 203 in the first row is connected, and the pixel signal of the PD 202 is transferred to the FD 204.

時刻t708では、1行目の転送スイッチ203を切断し、1行目のPD202の画素信号の転送を停止する。   At time t708, the transfer switch 203 in the first row is disconnected, and the pixel signal transfer of the PD 202 in the first row is stopped.

時刻t709では、1行目の信号読み出し動作を実行する。   At time t709, the signal read operation for the first row is executed.

時刻t710では、1行目の信号読み出し動作を終了する。   At time t710, the signal reading operation for the first row is finished.

時刻t711では、2行目の転送スイッチ203を接続し、2行目のPD202の画素信号をFD204へ転送する。   At time t711, the transfer switch 203 in the second row is connected, and the pixel signal of the PD 202 in the second row is transferred to the FD 204.

時刻t712では、2行目の転送スイッチ203を切断し、PD202の画素信号の転送を停止する。   At time t712, the transfer switch 203 in the second row is disconnected, and the pixel signal transfer of the PD 202 is stopped.

時刻t713では、2行目の信号読み出し動作を実行する。   At time t713, the signal read operation for the second row is executed.

時刻t714では、2行目の信号読み出し動作を終了する。   At time t714, the signal reading operation for the second row is finished.

時刻t715以降は、同様の処理を行ごとに行う。   After time t715, the same processing is performed for each row.

時刻t715では、n行目の転送スイッチ203を接続し、n行目PD202の画素信号をFD204へ転送する。   At time t715, the transfer switch 203 in the n-th row is connected, and the pixel signal of the n-th row PD 202 is transferred to the FD 204.

時刻t716では、n行目の転送スイッチ203を切断し、PD202の画素信号の転送を停止する。   At time t716, the transfer switch 203 in the n-th row is disconnected, and the pixel signal transfer of the PD 202 is stopped.

時刻t717では、n行目の信号読み出し動作を実行する。   At time t717, the signal reading operation on the nth row is executed.

時刻t718では、n行目の信号読み出し動作を終了する。   At time t718, the signal reading operation on the nth row is finished.

上述した実施形態1によれば、通常の画像撮影時において撮像素子102の信号蓄積動作を行う場合と信号読み出し動作を行う場合とで異なる応力制御を行うことで、撮像動作に合わせて撮像素子の光電変換特性や周辺回路特性を適切に変化させることができる。   According to the first embodiment described above, by performing different stress control in the case of performing the signal accumulation operation of the image sensor 102 and in the case of performing the signal read operation during normal image capturing, the image sensor is adjusted in accordance with the image capturing operation. Photoelectric conversion characteristics and peripheral circuit characteristics can be appropriately changed.

[実施形態2]次に、実施形態2の通常の画像撮影時および黒引き処理用の画像撮影時における撮像素子102の応力制御処理ついて説明する。   [Embodiment 2] Next, the stress control processing of the image sensor 102 during normal image shooting and black drawing processing image shooting in Embodiment 2 will be described.

上述した実施形態1では通常の画像撮影時の応力制御について説明した。これに対して、実施形態2では黒引き処理用の遮光画像撮影時の応力制御処理を説明する。黒引き処理とは、撮像素子102に起因する暗電流ノイズなどの固定パターンノイズを除去するために、通常露光して撮影した第1の画像(露光画像)から遮光して撮影した第2の画像(黒画像または遮光画像)を減算する補正処理である。   In the first embodiment described above, stress control during normal image capturing has been described. On the other hand, in the second embodiment, a stress control process at the time of capturing a light-shielded image for blackening processing will be described. The blacking process is a second image captured by shading from a first image (exposure image) captured with normal exposure in order to remove fixed pattern noise such as dark current noise caused by the image sensor 102. This is a correction process for subtracting (a black image or a light-shielded image).

この黒引き処理用の遮光画像は、露光画像と同じ条件で信号読み出し動作を行うことが望ましい。この理由は、露光画像と遮光画像とで条件が異なると、露光画像の固定パターンノイズを遮光画像で正しく読み出すことができなくなるからである。よって、黒引き処理用の遮光画像の撮像処理時も、露光画像の撮像処理時と同じ条件で信号蓄積動作時と信号読み出し動作時の応力制御を行う必要がある。   It is desirable to perform a signal reading operation on the blackout shading image under the same conditions as the exposure image. This is because, if the conditions for the exposure image and the light-shielded image are different, the fixed pattern noise of the exposure image cannot be read correctly by the light-shielded image. Therefore, it is necessary to perform stress control during the signal accumulation operation and the signal read operation under the same conditions as during the exposure image capturing process even during the blackout shading image capturing process.

図8は、通常の画像撮影時および黒引き処理用の画像撮影時における撮像素子102の応力制御処理を示すフローチャートである。   FIG. 8 is a flowchart showing stress control processing of the image sensor 102 at the time of normal image shooting and at the time of black shooting image shooting.

なお、ステップS801からステップS806は、図6のステップS601からステップS606と同様の通常の露光画像の撮像処理であるため説明を省略する。   Steps S801 to S806 are normal exposure image capturing processes similar to steps S601 to S606 in FIG.

ステップS807からステップS810が黒引き処理用の遮光画像撮影時の応力制御シーケンスであるが、露光画像撮影時と異なるのは、シャッター閉状態で応力制御および信号蓄積動作/読み出し動作を行う点である。   Steps S807 to S810 are a stress control sequence at the time of capturing a light-shielded image for blackening processing, but differ from that at the time of capturing an exposed image in that stress control and signal accumulation / readout operations are performed in the shutter closed state. .

ステップS807では、主制御部110は、応力制御部111の吸引部305を制御して撮像素子102に信号蓄積動作を行う場合の力を加えて曲げ応力F1を発生させ、撮像面を湾曲させる。これにより、露光画像撮影時と同じ条件で遮光画像の信号蓄積動作を行うことができる。   In step S <b> 807, the main control unit 110 controls the suction unit 305 of the stress control unit 111 to apply a force for performing a signal accumulation operation to the image sensor 102 to generate the bending stress F <b> 1 and bend the imaging surface. Thereby, the signal accumulation operation of the light-shielded image can be performed under the same conditions as when the exposure image was captured.

ステップS808では、主制御部110は、撮像制御部103を制御して撮像素子102の一括リセット処理を行い、信号蓄積動作を開始する。   In step S808, the main control unit 110 controls the image capturing control unit 103 to perform batch reset processing of the image sensor 102 and starts a signal accumulation operation.

ステップS809では、主制御部110は、応力制御部111の吸引部305を制御して撮像素子102に力が加わらないようにし、曲げ応力をF0(=ゼロ)にする。これにより、撮像素子102の湾曲がなくなり、露光画像撮影を行う場合と同じ条件で遮光画像の信号読み出し動作を行うことができる。   In step S809, the main control unit 110 controls the suction unit 305 of the stress control unit 111 so that no force is applied to the image sensor 102, and the bending stress is set to F0 (= zero). As a result, the image sensor 102 is not curved, and the signal reading operation of the light-shielded image can be performed under the same conditions as when the exposure image is captured.

ステップS810では、主制御部110は、撮像制御部103を制御して撮像素子102から信号読み出し動作を行う。   In step S810, the main control unit 110 controls the imaging control unit 103 to perform a signal read operation from the imaging element 102.

その後、主制御部110は、ステップS806で読み出した露光画像とステップS810で読み出した遮光画像を用いて黒引き処理を実行する。   Thereafter, the main control unit 110 executes blacking processing using the exposure image read in step S806 and the light-shielded image read in step S810.

図9は、露光画像撮影時および遮光画像撮影時の信号蓄積動作から信号読み出し動作までのタイミングチャートを示している。   FIG. 9 shows a timing chart from signal accumulation operation to signal readout operation at the time of exposure image shooting and light-shielded image shooting.

なお、図9の各制御信号は図7と同様である。また、時刻t901から時刻t918は、図7の時刻t701から時刻t718と同様の露光画像の撮像処理であるため説明を省略する
時刻t919は、図8のステップS807で撮像素子102に信号蓄積動作を行う場合の力を加えるタイミングに対応する。
The control signals in FIG. 9 are the same as those in FIG. In addition, since the exposure image capturing process from time t901 to time t918 is similar to that from time t701 to time t718 in FIG. 7, the description is omitted. At time t919, the signal storage operation is performed on the image sensor 102 in step S <b> 807 in FIG. 8. Corresponds to the timing of applying force when performing.

時刻t920は、図8のステップS808で全行のPD202を同時にリセットする処理の開始タイミングに対応する。   Time t920 corresponds to the start timing of the process of simultaneously resetting the PDs 202 in all rows in step S808 in FIG.

時刻t921は、図8のステップS808での一括リセット処理を終了し、信号蓄積動作が開始されるタイミングに対応する。   Time t921 corresponds to the timing at which the batch reset process in step S808 in FIG. 8 ends and the signal accumulation operation starts.

時刻t922は、図8のステップS809の処理で撮像素子102に力が加わらないように制御するタイミング対応する。   Time t922 corresponds to the timing at which control is performed so that no force is applied to the image sensor 102 in the processing of step S809 in FIG.

時刻t923以降は、図8のステップS810の各行の信号読み出し動作に対応する。   After time t923, this corresponds to the signal read operation for each row in step S810 of FIG.

時刻t923では、1行目の転送スイッチ203を接続し、PD202の画素信号をFD204へ転送する。   At time t923, the transfer switch 203 in the first row is connected, and the pixel signal of the PD 202 is transferred to the FD 204.

時刻t924では、1行目の転送スイッチ203を切断し、1行目のPD202の画素信号の転送を停止する。   At time t924, the transfer switch 203 in the first row is disconnected and the pixel signal transfer of the PD 202 in the first row is stopped.

時刻t925では、1行目の信号読み出し動作を実行する。   At time t925, a signal read operation for the first row is executed.

時刻t926では、1行目の信号読み出し動作を終了する。   At time t926, the signal reading operation for the first row is finished.

時刻t927では、2行目の転送スイッチ203を接続し、2行目のPD202の画素信号をFD204へ転送する。   At time t927, the transfer switch 203 in the second row is connected, and the pixel signal of the PD 202 in the second row is transferred to the FD 204.

時刻t928では、2行目の転送スイッチ203を切断し、PD202の画素信号の転送を停止する。   At time t928, the transfer switch 203 in the second row is disconnected, and the pixel signal transfer of the PD 202 is stopped.

時刻t929では、2行目の信号読み出し動作を実行する。   At time t929, the signal read operation for the second row is executed.

時刻t930では、2行目の信号読み出し動作を終了する。   At time t930, the signal reading operation for the second row is finished.

時刻t931以降は、同様の処理を行ごとに行う。   After time t931, the same processing is performed for each row.

時刻t931では、n行目の転送スイッチ203を接続し、n行目PD202の画素信号をFD204へ転送する。   At time t931, the transfer switch 203 in the n-th row is connected, and the pixel signal of the n-th row PD 202 is transferred to the FD 204.

時刻t932では、n行目の転送スイッチ203を切断し、PD202の画素信号の転送を停止する。   At time t932, the transfer switch 203 in the n-th row is disconnected, and the pixel signal transfer of the PD 202 is stopped.

時刻t933では、n行目の信号読み出し動作を実行する。   At time t933, the signal reading operation on the n-th row is executed.

時刻t934では、n行目の信号読み出し動作を終了する。   At time t934, the signal reading operation on the nth row is finished.

上述した実施形態2によれば、黒引き処理用の遮光画像を撮影する場合にも、露光画像撮影時と同じように信号蓄積動作を行う場合と信号読み出し動作を行う場合とで異なる応力制御を行うことで、撮像動作に合わせて撮像素子の光電変換特性や周辺回路特性を適切に変化させることができる。   According to the above-described second embodiment, even when a light-shielded image for blackening processing is captured, different stress control is performed depending on whether the signal accumulation operation is performed or the signal readout operation is performed as in the exposure image capturing. By doing so, it is possible to appropriately change the photoelectric conversion characteristics and the peripheral circuit characteristics of the imaging device in accordance with the imaging operation.

[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
[Other Embodiments]
The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

102…撮像素子、103…撮像制御部、104…前処理部、105…信号処理部、106…メモリ部、110…主制御部、111…応力制御部 DESCRIPTION OF SYMBOLS 102 ... Imaging device 103 ... Imaging control part 104 ... Pre-processing part 105 ... Signal processing part 106 ... Memory part 110 ... Main control part 111 ... Stress control part

Claims (10)

複数の画素が2次元状に配列され、前記画素に蓄積された信号を読み出す読み出し回路を含む撮像素子と、
前記撮像素子に応力を発生させ、撮像面を湾曲させる駆動手段と、
前記撮像面が湾曲することにより変化する前記読み出し回路の信号読み出し特性に応じて、前記撮像素子の信号蓄積動作を行う場合に前記撮像素子が受ける応力が前記撮像素子の信号読み出し動作を行う場合に前記撮像素子が受ける応力よりも大きくなるように前記駆動手段を制御する制御手段と、
を有することを特徴とする撮像装置。
An imaging device including a readout circuit in which a plurality of pixels are arranged in a two-dimensional manner and reads out signals accumulated in the pixels ;
The imaging element stress is generated, the driving means Ru is curved imaging surface,
When the signal receiving operation of the image sensor performs the signal read operation of the image sensor when performing the signal accumulation operation of the image sensor in accordance with the signal readout characteristics of the readout circuit that change due to the imaging surface being curved. Control means for controlling the drive means so as to be greater than the stress experienced by the image sensor;
An imaging device comprising:
前記制御手段は、前記信号読み出し動作を行う場合に前記撮像素子が受ける応力がゼロになるように前記駆動手段を制御することを特徴とする請求項1に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the control unit controls the driving unit so that a stress applied to the imaging element is zero when the signal reading operation is performed. 複数の画素が2次元状に配列され、前記画素に蓄積された信号を読み出す読み出し回路を含む撮像素子と、
前記撮像素子の撮像面を湾曲させる駆動手段と、
前記撮像面が湾曲することにより変化する前記読み出し回路の信号読み出し特性に応じて、前記撮像素子の信号蓄積動作を行う場合の前記撮像の曲率が前記撮像素子の信号読み出し動作を行う場合の前記撮像の曲率よりも大きくなるように前記駆動手段を制御する制御手段と、
を有することを特徴とする撮像装置。
An imaging device including a readout circuit in which a plurality of pixels are arranged in a two-dimensional manner and reads out signals accumulated in the pixels ;
Driving means for bending the imaging surface of the imaging element;
Wherein when in accordance with a signal reading characteristics of the reading circuit in which the imaging surface is changed by bending, the curvature of the imaging surface in the case of performing the signal accumulation operation of the image pickup device performs a signal read operation of the imaging device Control means for controlling the drive means so as to be larger than the curvature of the imaging surface ;
An imaging device comprising:
前記撮像素子に対する露光を制御するシャッターをさらに有し、
前記制御手段は、前記信号蓄積動作を行う場合に前記シャッターを開動作させ、前記信号読み出し動作を行う場合に前記シャッターを閉動作させるように制御することを特徴とする請求項1ないし3のいずれか1項に記載の撮像装置。
A shutter for controlling exposure to the image sensor;
4. The control unit according to claim 1, wherein the control unit performs control so that the shutter is opened when the signal accumulation operation is performed, and the shutter is closed when the signal read operation is performed. The imaging apparatus of Claim 1.
前記制御手段は、前記撮像素子を露光して第1の画像を撮像する第1の撮像処理と、前記撮像素子を遮光した状態で第2の画像を撮像する第2の撮像処理を実行し、
前記第1の撮像処理時と前記第2の撮像処理時とで前記駆動手段が前記撮像素子に対して同様の制御を行うように制御することを特徴とする請求項1ないし4のいずれか1項に記載の撮像装置。
The control means executes a first imaging process for exposing the imaging element to capture a first image, and a second imaging process for capturing a second image in a state where the imaging element is shielded from light,
5. The control unit according to claim 1, wherein the driving unit performs control so as to perform the same control on the image sensor during the first imaging process and the second imaging process. 6. The imaging device according to item.
前記第1の撮像処理により得た第1の画像を、前記第2の撮像処理により得た第2の画像を用いて補正する処理手段をさらに有することを特徴とする請求項5に記載の撮像装置。   6. The imaging according to claim 5, further comprising processing means for correcting the first image obtained by the first imaging process using the second image obtained by the second imaging process. apparatus. 駆動手段が、複数の画素が2次元状に配列され、前記画素に蓄積された信号を読み出す読み出し回路を含む撮像素子に応力を発生させ、撮像面を湾曲させる駆動ステップと、
制御手段が、前記撮像面が湾曲することにより変化する前記読み出し回路の信号読み出し特性に応じて、前記撮像素子の信号蓄積動作を行う場合に前記撮像素子が受ける応力が前記撮像素子の信号読み出し動作を行う場合に前記撮像素子が受ける応力よりも大きくなるように前記駆動手段を制御する制御ステップと、
を有することを特徴とする撮像装置の制御方法。
Drive means, a plurality of pixels are arranged two-dimensionally, wherein to generate a stress to the imaging device including a reading circuit for reading the accumulated signal to the pixel, and a driving step of Ru is curved imaging surface,
When the control means performs a signal accumulation operation of the image sensor in accordance with the signal readout characteristic of the readout circuit that changes as the imaging surface is curved, the stress that the image sensor receives is a signal readout operation of the image sensor. A control step of controlling the driving means so as to be larger than the stress that the image sensor receives when performing
A method for controlling an imaging apparatus, comprising:
駆動手段が、複数の画素が2次元状に配列され、前記画素に蓄積された信号を読み出す読み出し回路を含む撮像素子の撮像面を湾曲させる駆動ステップと、
制御手段が、前記撮像面が湾曲することにより変化する前記読み出し回路の信号読み出し特性に応じて、前記撮像素子の信号蓄積動作を行う場合の前記撮像の曲率が前記撮像素子の信号読み出し動作を行う場合の前記撮像の曲率よりも大きくなるように前記駆動手段を制御する制御ステップと、
を有することを特徴とする撮像装置の制御方法。
A driving step in which a driving unit is configured to bend an imaging surface of an imaging element including a readout circuit in which a plurality of pixels are arranged two-dimensionally and read out signals accumulated in the pixels ;
Control means, in response to the signal reading characteristics of the reading circuit in which the imaging surface is changed by bending, the curvature of the imaging surface in the case of performing the signal accumulation operation of the image pickup device a signal read operation of the imaging device A control step of controlling the driving means so as to be larger than the curvature of the imaging surface when performing;
A method for controlling an imaging apparatus, comprising:
コンピュータを、請求項1ないし6のいずれか1項に記載された撮像装置の各手段として機能させるためのプログラム。   The program for functioning a computer as each means of the imaging device described in any one of Claims 1 thru | or 6. コンピュータを、請求項1ないし6のいずれか1項に記載された撮像装置の各手段として機能させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。   A computer-readable storage medium storing a program for causing a computer to function as each unit of the imaging apparatus according to any one of claims 1 to 6.
JP2015033194A 2015-02-23 2015-02-23 IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM Expired - Fee Related JP6470589B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015033194A JP6470589B2 (en) 2015-02-23 2015-02-23 IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015033194A JP6470589B2 (en) 2015-02-23 2015-02-23 IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM

Publications (3)

Publication Number Publication Date
JP2016158033A JP2016158033A (en) 2016-09-01
JP2016158033A5 JP2016158033A5 (en) 2018-03-15
JP6470589B2 true JP6470589B2 (en) 2019-02-13

Family

ID=56826496

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015033194A Expired - Fee Related JP6470589B2 (en) 2015-02-23 2015-02-23 IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM

Country Status (1)

Country Link
JP (1) JP6470589B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2809215B2 (en) * 1996-09-26 1998-10-08 日本電気株式会社 Solid-state imaging camera
JP2004166157A (en) * 2002-11-15 2004-06-10 Olympus Corp Image pickup device
JP2005278133A (en) * 2003-07-03 2005-10-06 Fuji Photo Film Co Ltd Solid state imaging device and optical device
JP5720306B2 (en) * 2011-02-28 2015-05-20 ソニー株式会社 Manufacturing method of solid-state imaging device

Also Published As

Publication number Publication date
JP2016158033A (en) 2016-09-01

Similar Documents

Publication Publication Date Title
JP4455215B2 (en) Imaging device
JP5026951B2 (en) Imaging device driving device, imaging device driving method, imaging device, and imaging device
JP5835996B2 (en) Imaging device
JP5911445B2 (en) Imaging apparatus and control method thereof
CN109997352B (en) Imaging device, camera, and imaging method
JP5255790B2 (en) Imaging device
JP5317591B2 (en) Imaging device
CN103139494B (en) Camera head
US11290648B2 (en) Image capture apparatus and control method thereof
CN107306326A (en) Camera device and image capture method
JP2016134857A (en) Imaging device and control method therefor, program, storage medium
JP5235701B2 (en) Imaging device
JP6470589B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP2013192058A (en) Imaging apparatus
JP2018093301A (en) Image sensor and control method of image sensor
JP6463159B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP2008118378A (en) Photographing device and its driving method
JP5424767B2 (en) Imaging device
JP5311927B2 (en) Imaging apparatus and imaging method
JP5376966B2 (en) Imaging device and imaging apparatus
JP6798532B2 (en) Image sensor and image sensor
JP2018133600A (en) Imaging apparatus, imaging apparatus control method and program
JP2007143067A (en) Image sensing device and image sensing system
JP2006093815A (en) Imaging apparatus
JP6700728B2 (en) Imaging device and imaging device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180130

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190118

R151 Written notification of patent or utility model registration

Ref document number: 6470589

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees