[go: up one dir, main page]

JP5032911B2 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP5032911B2
JP5032911B2 JP2007199902A JP2007199902A JP5032911B2 JP 5032911 B2 JP5032911 B2 JP 5032911B2 JP 2007199902 A JP2007199902 A JP 2007199902A JP 2007199902 A JP2007199902 A JP 2007199902A JP 5032911 B2 JP5032911 B2 JP 5032911B2
Authority
JP
Japan
Prior art keywords
grid
correction
image
histogram
multidimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007199902A
Other languages
English (en)
Other versions
JP2009038523A (ja
JP2009038523A5 (ja
Inventor
清 梅田
良介 井口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007199902A priority Critical patent/JP5032911B2/ja
Priority to US12/168,252 priority patent/US8600154B2/en
Priority to CN2008101444714A priority patent/CN101360178B/zh
Publication of JP2009038523A publication Critical patent/JP2009038523A/ja
Publication of JP2009038523A5 publication Critical patent/JP2009038523A5/ja
Application granted granted Critical
Publication of JP5032911B2 publication Critical patent/JP5032911B2/ja
Priority to US14/061,040 priority patent/US8929681B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6016Conversion to subtractive colour signals
    • H04N1/6022Generating a fourth subtractive colour signal, e.g. under colour removal, black masking
    • H04N1/6025Generating a fourth subtractive colour signal, e.g. under colour removal, black masking using look-up tables

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Color Image Communication Systems (AREA)
  • Color, Gradation (AREA)

Description

本発明は、入力画像に対して補正処理を行う画像処理装置及び画像処理方法に関する。
従来、デジタルカメラやデジタルビデオカメラ、プリンタなどのデバイス内部、或いはパーソナルコンピュータ(PC)上で動作するソフトウェアにおいて、取得した画像データに対して様々な画像補正および加工処理を行うことが提案されている。
例えば、特許文献1には、画像データに階調補正を施し、その後、色補正を行う場合に、正確に色補正を行うために、階調補正後の画像データから色補正量を算出し、所望のデータを得ることが記載されている。
また、特許文献2には、カラーネガをスキャンして得られた画像データに対して、硬調化処理を施し、硬調化処理後の画像データに対して、特定の色相を所望の色相に変換することが記載されている。
特開2001-313839号公報 特許3584389号公報
例えば、入力画像が極度の青かぶりを生じている場合、入力画像にどの程度肌色が含まれているかを検出することは困難である。このような画像に対して、何らかの肌色補正を行う場合、まず入力画像に対して色かぶり補正を行って画像全体を適切なカラーバランスに修正する。そして、その結果から得られた中間画像をメモリに格納し、該中間画像から肌色領域を検出し、適切な補正を行うことが考えられる。
上述の状況では、色かぶり補正と肌色補正という目的が異なる2つの補正機能を直列に処理することで、所望の画像データを生成することが可能となる。
しかし、このような方法には二つの問題点がある。まず一つ目は、2つの補正を直列に処理する場合には、前段の処理を施した結果の中間画像を格納するためのメモリが必要であることである。二つ目は、例えば上述した例では、色かぶり補正を入力画像の各画素に対して行うが、例えば入力画像が比較的小さいVGAサイズであったとしても、色かぶり補正のためには30万回以上の演算処理が必要になることである。
従って、入力画像に対して複数の画像補正処理を直列に施す場合には、できるだけ入力画像サイズを小さくし、中間画像のサイズや中間画像を生成するための演算量を削減することが考えられる。
しかし、入力画像や中間画像のサイズを小さくしてしまうと、それだけ画像の解像度が低下するため、補正量を算出するための画像特徴量を正確に算出することが困難となり、その結果、所望の画像が得られにくくなる状況が考えられる。
また、一般的な画像解析においては、輝度やRGB成分毎の1次元ヒストグラムを算出し、同ヒストグラムを用いて画像補正パラメータを算出する方法が提案されている。
しかし、このような1次元ヒストグラムでは、輝度の分布の変化や、RGB毎の成分の分布は把握することができない。例えば、肌色やピンク色やエメラルドグリーンの分布がどうなっているかは、これらの情報では把握することができず、入力画像を再度参照して画像解析するしか方法がなかった。
本発明は、中間画像を生成しない状態で、低演算量で正確な画像補正量を算出することを目的とする。
本発明は、入力画像に対して複数の補正処理を行う画像処理装置であって、前記入力画像に基づき多次元グリッドヒストグラムを算出し、該算出された多次元グリッドヒストグラムの各グリッドの値に対して特定の補正処理が行われた後の多次元グリッドヒストグラムの各グリッドの値と前記各グリッドの度数とに基づき、前記特定の補正処理が行われた後の多次元グリッドヒストグラムの特徴量を解析する手段と、前記解析した結果に基づき、前記特定の補正処理の後に行われる補正処理で用いる補正パラメータを算出する手段とを有することを特徴とする。
また、本発明は、入力画像に対して複数の補正処理を行う画像処理装置によって実行される画像処理方法であって、解析する手段が、前記入力画像に基づき多次元グリッドヒストグラムを算出し、該算出された多次元グリッドヒストグラムの各グリッドの値に対して特定の補正処理が行われた後の多次元グリッドヒストグラムの各グリッドの値と前記各グリッドの度数とに基づき、前記特定の補正処理が行われた後の多次元グリッドヒストグラムの特徴量を解析する工程と、前記解析した結果に基づき、前記特定の補正処理の後に行われる補正処理で用いる補正パラメータを算出する工程とを有することを特徴とする。
本発明によれば、中間画像を生成しない状態で、低演算量で正確な画像補正量を算出することができる。
以下、図面を参照しながら発明を実施するための最良の形態について詳細に説明する。
[第1の実施形態]
図1は、第1の実施形態における画像処理装置のハードウェア構成の一例を示す図である。図1において、101はCPU、102はROM、103はRAMである。104はプリンタエンジン、105はキーボード、ボタン、タッチパネルなどで構成されたユーザインターフェースである。
106は液晶ディスプレイなどの表示装置、107はメモリカードリーダー、108はUSBなどのインターフェースである。これらの各部がシステムバス109に接続されている。また、インターフェース108はUSBケーブルを介してパーソナルコンピュータ(PC)110に接続される場合もある。
CPU101は、ROM102に格納されたプログラム(以下で説明する画像処理のプログラムを含む)をワークメモリであるRAM103にロードして当該プログラムを実行する。そして、当該プログラムに従いシステムバス109を介して上記の各構成を制御することで、当該プログラムの機能を実現する。
尚、第1の実施形態では、プリンタを例に挙げて説明するが、本発明はこれだけに限定されるものではなく、例えばデジタルカメラや複写機、ファクシミリやテレビなど、他のデバイスに適用できることは言うまでもない。
図2は、第1の実施形態における処理ブロックを示す図で、CPU101によって実行される処理である。まず、画像データは、一般的には、Exif-JPEGデータであり、メモリカードリーダー107やインターフェース108を介して入力される。次に、JPEGデコーダにより復号化(JPEGデコード)200が行われ、YCbCrデータとしてメモリに展開される。このYCbCrデータは縮小画像生成処理201に入力され、公知の技術により縮小画像が生成される。
尚、縮小画像を生成する理由は、後述するグリッドヒストグラム(GH)算出処理での演算量やWBパラメータ算出処理で各種画像特性を抽出するが、この時の演算量を削減するためである。そのため、この縮小画像は、画像のディテールをある程度残しておくことが前提となり、サイズは最小でVGA(640×480画素)程度が望ましい。
次に、この縮小画像は、YCC−RGB変換処理202を介してグリッドヒストグラム(GH)算出処理203に入力され、入力画像のグリッドヒストグラムを算出する。尚、YCC−RGB変換処理202は公知の輝度色差変換であり、詳細な説明は省略する。
ここで、多次元ヒストグラムであるグリッドヒストグラムについて説明する。グリッドヒストグラムとは、図3に示すような多次元空間におけるRGBヒストグラムである。図3に示す例は、24ビット(RGB各8ビット)のRGB3次元空間において、16間隔でグリッドを生成した場合である。
また、図4は、GH算出処理203の処理手順を示すフローチャートである。S401において、入力されたRGB縮小画像の各画素に対してGHのグリッド位置を算出する。この算出処理は、各画素の(R,G,B)値を用いて、以下のように行う。
Figure 0005032911
上記算出式において、GR、GG、GBは、グリッドヒストグラムの各グリッドを示し、例えば(R,G,B)=(16,16,16)であれば、グリッド位置は(1,1,1)と計算される。
次に、S402において、以下の3次元配列GHを用いて算出したグリッド位置の度数をカウントアップする。
Figure 0005032911
そして、上記処理を縮小画像の全ての画素に対して行うことで(S403でYes)、GHを算出することができる。
尚、第1の実施形態では、縮小画像をYCbCrデータからRGBデータに変換し、RGB3次元空間においてGHを算出したが、本発明はこれに限定されるものではない。例えば、YCbCr空間で3次元グリッドを構成し、同様にGHを算出しても良く、更に3次元以上の空間、例えばCMYKの4次元空間において、同様にGHを算出しても良い。
但し、上述したRGB空間におけるGHの算出はYCbCr空間において同数のグリッドで構成されたGHよりも優位である。つまり、一般的な画像データでは、輝度が高く彩度も高い画素、例えば(Y,Cb,Cr)=(255,128,128)となるような画素が存在しない。そのため、YCbCr空間では、度数が0となるグリッド位置が多数存在し、空間を有効利用できないからである。
一方、RGB空間であれば、画像データは(R,G,B)=(255,255,255)から(R,G,B)=(0,0,0)の全域に渡って存在する。このため、全てのグリッド位置を有効利用でき、その結果、YCbCr空間に比べ、詳細な画像情報の解析を行うことができる。従って、第1の実施形態においては、RGB3次元のGHを用いることを前提に説明する。
ここで図2に戻り、ホワイトバランス(WB)パラメータ算出処理204に進み、入力画像全体のWBの状態を推定し、適切なWBに補正するための補正パラメータを求める。このWB補正方法については、本発明の限定するところではなく、公知の技術を用いても構わないが、ここでは画像の明るい領域(ハイライト領域)と暗い領域(シャドー領域)の2領域を使用したWB補正方法を例に挙げて説明する。
入力画像が適正なホワイトバランスとなっている場合、輝度色差空間(例えばYCbCr空間)における入力画像の分布は、図5に示すように、ハイライト(HL)・シャドー(SD)領域500がグレー軸(Y軸)の近辺に分布することが知られている。
これに対して、撮影時の光源の影響などで入力画像が色かぶりを起こすなど、ホワイトバランスが崩れている場合、輝度色差空間における画像の分布は、図6に示す600のようになる。このような分布となっている画像に対してWB補正を行うには、輝度色差空間において、ハイライトとシャドー領域をグレー軸に載せるような回転行列を生成し、以下のような変換式によって補正することが知られている。この変換式における3×3の回転行列がWB補正パラメータとなる。
Figure 0005032911
ここで、3次元の回転行列を生成することによりWB補正パラメータを算出する方法を、図7を用いて説明する。
図7は、第1の実施形態におけるWB補正パラメータ算出処理を示すフローチャートである。まず、S700において、縮小画像のヒストグラムを算出する。ヒストグラムは、累積輝度ヒストグラムと、各輝度における平均Cb,Cr値を算出する。そして、S701において、ハイライトとシャドーのポイントを算出する。両ポイントは、例えば上述の累積輝度ヒストグラムを参照し、累積度数が縮小画像全体の99%と1%の位置をそれぞれハイライトポイントとシャドーポイントとする。
次に、S702において、ハイライトポイントとシャドーポイントの2点をグレー軸に乗せるような3×3の回転行列を生成する。尚、3×3回転行列の生成方法については、各種文献で公知であるため、詳細な説明は省略する。
ここで図2に戻り、特徴量解析処理205に進み、入力画像にWB補正を適用した後の各種画像の特徴量を解析する解析パラメータを算出する。
図8は、各種画像解析パラメータを算出する処理を示すフローチャートである。まず、S800において、GHの各グリッド値(R,G,B)と各グリッドの度数を取得する。そして、S801において、各(R,G,B)値を(Y,Cb,Cr)値に変換する。変換した(Y,Cb,Cr)値に対して、WBパラメータ算出処理204で算出した回転行列を用いて、WB補正後の(Y’,Cb’,Cr’)値を求める。
次に、S802において、S801で求めたWB補正後の値と、そのグリッドの度数を用いて、輝度の平均値、輝度のヒストグラム、色相のヒストグラム、平均彩度などを算出する。色相や彩度の算出については、HIS系の算出でも良いし、Cb−Cr平面における色相角と原点までの距離で算出しても良い。そして、上述の処理をGHの全てのグリッドに対して行う(S803でYes)。
上述のように、WB補正後の画像状態から様々な解析パラメータを算出する際に、縮小画像の各画素に対してヒストグラムを算出することを考えた場合、VGAサイズの画像であれば、約30万回の演算処理が必要となる。
しかし、第1の実施形態で説明したようなグリッドヒストグラムを用いた方法であれば、例えばGHの格子間隔が16であれば、全格子点数は173=4913となるため、約5千回の演算でおよその画像の特徴を掴むことが可能である。このことは、図1に示すCPUの処理能力が貧弱な環境では、極めて重要な利点となる。
これらの解析情報を元に、階調補正カーブ算出処理や彩度補正係数算出処理において、階調補正のための1次元トーンカーブの選択や彩度補正のための係数値を算出する。
これらの値は、図9に示すシーン分類表に従って決定される。図9は、第1の実施形態におけるシーン分類を説明するための図である。図9では、非常に簡略化したシーン分類(判定)を示している。具体的には、GHとWB補正パラメータから解析した画像解析値(平均輝度、平均彩度)の関係によって4つのシーンに分類している。
平均輝度と平均彩度が閾値(Th_Y, Th_S)以上の場合は風景シーンと分類し、閾値未満の場合は露出不足シーンと分類する。また、平均彩度が閾値以上で、平均輝度が閾値未満の場合は夜景シーンと分類し、何れのシーンにも属さない場合は標準シーンと分類する。このようなシーン分類を図2に示すシーン分類処理206で行う。
このように、第1の実施形態では入力画像に対してWB補正を適用した後の画像状態をGHを用いて解析することにより、カラーバランスを整えた後の状態で正しいシーン分類処理を行うことが可能となる。
階調補正カーブ算出処理207では、上述のシーン分類結果に応じて、階調補正カーブを決定する。図10は、第1の実施形態で用いる階調補正カーブの一例を示す図である。ここでは簡単のため4つのトーンカーブのみを示しているが、本発明はこれに限定されるものではない。
具体的には、露出不足シーンに対しては、全体の明るさを上げるための直線(図10に示す露出不足)が設定されている。また、風景シーンに対しては、全体のコントラストを上げるためのカーブ(図10に示す風景)が設定されている。また、夜景シーンに関しては、暗部が浮くことのないようにし、明るい領域を強調させるような直線(図10に示す夜景)が設定されている。そして、標準シーンの場合は、何もしない直線(図10に示す標準)が設定されている。シーン分類結果に応じて、それぞれのカーブを選択し、1次元ルックアップテーブル(1DLUT)としてメモリに格納する。
また、図11は、シーン毎に彩度強調係数を算出するための重み直線を示す図である。図11において、縦軸は彩度強調ゲイン(SG)であり、横軸はWB補正後の特徴量解析処理205で求めた平均彩度である。彩度補正係数算出処理208は、シーン分類が風景シーンと夜景シーンの場合は上段のカーブに基づき、標準シーンの場合は下段のカーブに基づき、SGを算出する。
尚、何れのカーブも、平均彩度が低い場合は彩度強調を積極的に行い、平均彩度がある一定値以上の場合はSG=1.0とすることで、行き過ぎた彩度強調を行わないようにしている。
上述した処理により、確定したWB補正パラメータ、階調補正用の1次元ルックアップテーブル、彩度強調ゲインを用いて、3DLUT生成処理209で補正用のRGB3次元ルックアップテーブルを生成する。
図12は、3次元ルックアップテーブルを生成する処理を示すフローチャートである。まず、S1200において、LUTの各グリッド値(R,G,B)を(Y,Cb,Cr)に変換する。次に、S1201において、変換した(Y,Cb,Cr)にWB補正を行うための回転行列を適用し、(Y’,Cb’,Cr’)を算出する。そして、S1202において、Y’値に対して階調補正用の1DLUTを適用し、輝度補正後の値Y''を算出する。
次に、S1203において、(Cb’,Cr’)に対してSGを乗じ、彩度補正後の値(Cb'',Cr'')を算出する。そして、S1204において、補正後の値(Y'',Cb'',Cr'')をRGB値に変換し、グリッド値として3DLUTに格納する。上述した処理を3DLUTの全グリッドに対して行い(S1205でYes)、補正用のテーブル作成を完了する。
その後、補正処理210において、元の解像度、プリント解像度、或いは表示解像度になるように、縮小・拡大した入力画像に対して、生成した補正用の3DLUTを用いて、公知の補間方法(四面体補間など)により出力画像を生成する。
生成した出力画像は、記憶装置に保存したり、表示装置に表示したり、或いはプリンタエンジンに送られて印刷されても良い。
第1の実施形態によれば、入力画像を縮小した縮小画像に対してRGBグリッドヒストグラムを生成し、縮小画像からWB補正パラメータを算出する。そして、WB補正パラメータを縮小画像ではなくグリッドヒストグラムに適用することで、低メモリかつ低演算量であるにも関わらず、正確にWB補正後の画像状態を推定することができる。
第1の実施形態では、この推定により、その後のシーン分類や階調補正カーブ、或いは彩度強調係数を求めるため、従来に比べて、より正確なシーン分類と補正量の算出が可能となる。
[第2の実施形態]
次に、図面を参照しながら本発明に係る第2の実施形態を詳細に説明する。第2の実施形態では、色かぶりが生じている入力画像から肌色領域を検出し、その状態に応じて適切な肌色補正を行う場合を説明する。
尚、第2の実施形態における画像処理装置の構成は、図1を用いて説明した第1の実施形態の画像処理装置の構成と同様であり、その説明は省略する。
図13は、第2の実施形態における処理ブロックを示す図である。尚、入力画像に対してGH、WB補正パラメータを算出し、シーン分類を行い、最初の3DLUTを生成する処理(1300〜1308)は、第1の実施形態と同様であるため、ここでの説明は省略する。
第2の実施形態では、この3DLUTとGHを利用して第2の特徴量解析処理1309で肌色領域の分布を解析する。図14は、第2の特徴量解析処理を示すフローチャートである。
まず、S1400において、GHの各グリッド値(R,G,B)を3DLUT生成処理1308で生成した3DLUTを用いて、公知の補間方法(四面体補間など)により補正後の値(R’,G’,B’)を算出する。そして、S1401において、算出した(R’,G’,B’)を(Y’,Cb’,Cr’)に変換する。
次に、S1401で変換した(Cb’,Cr’)が、定義した肌色領域に含まれているか否かを判定する。図15は、肌色領域の定義の一例を示す図である。図15では、簡単化のため、Cb−Cr平面において、中心位置が(STr,STy)で、半径がSTrとなる円の領域1500を肌色領域と定義している。しかし、本発明はこれに限定するものではなく、その他、どのような形状の定義や面積の定義を用いても良い。
判定した結果、(Cb’,Cr’)が定義した肌色領域に含まれている場合、S1402で肌色領域の平均輝度を算出するために、グリッドの度数と輝度Y’を乗じて積算する。そして、上述した処理をGHの全グリッドに対して行い(S1403でYes)、S1404で、その積算値をGHの度数の総和で除算することで、WB補正後の肌色領域の平均輝度を算出する。
ここで図13に戻り、算出した肌色領域の平均輝度に応じて、輝度補正カーブ生成処理1310により肌色の明るさ補正用のカーブを算出する。図16は、肌色領域の輝度補正カーブの一例を示す図である。
図16に示すように、算出した肌色領域の平均輝度をInSkinToneとすると、その値が目標明るさであるOutSkinToneになり、かつ(InY、OutY)が(0,0)、(255,255)となるような輝度補正カーブを生成する。この輝度補正カーブは、単純なガンマ曲線でも良いし、上述の条件を満たすような直線で構成されたカーブでも良い。そして、生成したカーブは1DLUTとして、メモリに格納される。
次に、輝度補正カーブの生成が完了すると、3DLUT修正処理1311で3DLUTの修正を行う。図17は、3DLUT修正処理を示すフローチャートである。
まず、S1700において、補正用3DLUTのグリッド値(R,G,B)を取得し、S1701において、同値をYCbCrに変換する。次に、S1702において、Yに対して上述した輝度補正カーブを適用し、Y’を得る。そして、S1703において、(Y’、Cb,Cr)を(R’,G’,B’)に変換し、グリッド値に格納する。上述した処理を補正用3DLUTの全グリッドに対して行い(S1704でYes)、このLUTの修正処理を完了する。
その後、補正処理1312において、元の解像度の入力画像に対して補正用3DLUTを用いて、公知の補間方法(四面体補間など)により出力画像を生成する。
生成した出力画像は、記憶装置に保存したり、表示装置に表示したり、或いはプリンタエンジンに送られて印刷されても良い。
第2の実施形態によれば、GHを用いて、WB補正や階調補正、彩度補正など基本画像補正処理を行った後の画像状態をシミュレートし、そこから基本補正後の肌色領域の分布を正確に推定することが可能となる。推定にはGHのみを持てば良いため、VGAサイズの中間画像を持つ場合に比べ、極めて省メモリ、かつ低演算量で、正確な補正パラメータの算出を行うことが可能となる。
また、入力画像に対して一般的に求められる1次元のヒストグラム(輝度やRGB成分毎のヒストグラム)ではなく、RGB空間における3次元のヒストグラムを用いる。この3次元ヒストグラムを用いて画像解析を行うことで、一般的な1次元のヒストグラムでは算出できなかったような色の分布を解析することが可能となる。従って、1次元のヒストグラムでは求められなかったような補正パラメータを算出することが可能となる。
第2の実施形態では、まず、基本画像補正用の3DLUTを生成し、GHを用いて肌色領域を推定して補正量を算出し、生成した3DLUTを修正している。この処理により、最後に一度だけ元解像度の画像に対して補正処理を実行すれば良く、効率的な処理で最終出力画像を生成することができるという利点もある。
また、第2の実施形態では、基本的な画像補正処理の後に、肌色領域の輝度を補正する処理について説明したが、本発明はこれに限定されるものではない。例えば、GHを用いて、基本的な画像補正処理後の空や山の緑などの特定色の分布を解析し、その結果に適した処理(例えば彩度補正や色相補正など)を行うことも可能である。
また、第1の実施形態と第2の実施形態では、縮小画像に対してホワイトバランス補正を行い画像の特徴量を解析したが、縮小画像に行う補正はホワイトバランス補正以外のあらゆる画像補正処理でも良い。その場合、該画像補正処理された画像に対して特徴量の解析が行われる。
また、RGBとYCbCrデータによる画像処理を説明したが、本発明はこれに限定するものではない。例えば、YCbCrは、輝度と色差に分解して取り扱うことを意味しているため、それと同等の色空間、例えばYC1C2やL*a*b*などの均等色空間で処理を行うことなども、当然本発明の範疇に含まれる。
尚、本発明は複数の機器(例えば、ホストコンピュータ,インターフェース機器,リーダ,プリンタなど)から構成されるシステムに適用しても、1つの機器からなる装置(例えば、複写機,ファクシミリ装置など)に適用しても良い。
また、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(CPU若しくはMPU)が記録媒体に格納されたプログラムコードを読出し実行する。これによっても、本発明の目的が達成されることは言うまでもない。
この場合、コンピュータ読み取り可能な記録媒体から読出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記録媒体は本発明を構成することになる。
このプログラムコードを供給するための記録媒体として、例えばフレキシブルディスク,ハードディスク,光ディスク,光磁気ディスク,CD−ROM,CD−R,磁気テープ,不揮発性のメモリカード,ROMなどを用いることができる。
また、コンピュータが読出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、次の場合も含まれることは言うまでもない。即ち、プログラムコードの指示に基づき、コンピュータ上で稼働しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理により前述した実施形態の機能が実現される場合である。
更に、記録媒体から読出されたプログラムコードがコンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込む。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理により前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
第1の実施形態における画像処理装置のハードウェア構成の一例を示す図である。 第1の実施形態における処理ブロックを示す図である。 16間隔でグリッドを生成した場合のRGB3次元空間を示す図である。 GH算出処理203の処理手順を示すフローチャートである。 輝度色差空間(例えばYCbCr空間)における入力画像の分布を示す図である。 ホワイトバランスが崩れている場合の輝度色差空間における入力画像の分布を示す図である。 第1の実施形態におけるWB補正パラメータ算出処理を示すフローチャートである。 各種画像解析パラメータを算出する処理を示すフローチャートである。 第1の実施形態におけるシーン分類を説明するための図である。 第1の実施形態で用いる階調補正カーブの一例を示す図である。 シーン毎に彩度強調係数を算出するための重み直線を示す図である。 3次元ルックアップテーブルを生成する処理を示すフローチャートである。 第2の実施形態における処理ブロックを示す図である。 第2の特徴量解析処理を示すフローチャートである。 肌色領域の定義の一例を示す図である。 肌色領域の輝度補正カーブの一例を示す図である。 3DLUT修正処理を示すフローチャートである。
符号の説明
101 CPU
102 ROM
103 RAM
104 プリンタエンジン
105 ユーザインターフェース(UI)
106 表示装置
107 メモリカードリーダー
108 インターフェース(IF)
109 システムバス
110 パーソナルコンピュータ(PC)

Claims (12)

  1. 入力画像に対して複数の補正処理を行う画像処理装置であって、
    前記入力画像に基づき多次元グリッドヒストグラムを算出し、該算出された多次元グリッドヒストグラムの各グリッドの値に対して特定の補正処理が行われた後の多次元グリッドヒストグラムの各グリッドの値と前記各グリッドの度数とに基づき、前記特定の補正処理が行われた後の多次元グリッドヒストグラムの特徴量を解析する手段と、
    前記解析した結果に基づき、前記特定の補正処理の後に行われる補正処理で用いる補正パラメータを算出する手段とを有することを特徴とする画像処理装置。
  2. 前記算出された多次元グリッドヒストグラムの各グリッドの値に対して前記特定の補正処理を行い、前記各グリッドの値を更新する更新手段を更に有し、
    前記解析する手段は、前記更新手段によって更新された多次元グリッドヒストグラムの各グリッドの値と前記各グリッドの度数とに基づき、前記特定の補正処理が行われた後の多次元グリッドヒストグラムの特徴量を解析することを特徴とする請求項1に記載の画像処理装置。
  3. 前記特定の補正処理に用いる補正パラメータと前記特定の補正処理の後に行われる補正処理で用いる補正パラメータに基づき、多次元のルックアップテーブルを生成する手段と、
    前記多次元のルックアップテーブルを用いて前記画像に補正を行い出力画像を生成する手段とを更に有することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記多次元グリッドヒストグラム出は、前記多次元グリッドヒストグラムをRGBの3次元空間で算出することを特徴とする請求項2に記載の画像処理装置。
  5. 前記特定の補正処理は、画像のホワイトバランスを補正する補正処理であることを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
  6. 前記入力画像から生成された縮小画像の各画素に対して、多次元グリッドヒストグラムのグリッド位置を求め、前記求めたグリッド位置に対応する画素の度数を積算することにより、前記多次元グリッドヒストグラムを算出することを特徴とする請求項2に記載の画像処理装置。
  7. 前記特定の補正処理に用いる補正パラメータと前記特定の補正処理の後に行われる補正処理で用いる補正パラメータとに基づき、多次元のルックアップテーブルを生成する手段と、
    前記多次元のルックアップテーブルを用いて、前記算出された多次元グリッドヒストグラムのグリッド値を補正し、前記補正されたグリッド値に基づいて特定色の分布を解析する解析手段と
    を更に有することを特徴とする請求項に記載の画像処理装置。
  8. 前記解析手段によって解析された特定色の分布に基づき、前記入力画像における特定色領域の輝度を補正するための補正パラメータを算出する手段を更に有することを特徴とする請求項7に記載の画像処理装置。
  9. 前記特定色は、肌色であることを特徴とする請求項7又は8に記載の画像処理装置。
  10. 入力画像に対して複数の補正処理を行う画像処理装置によって実行される画像処理方法であって、
    解析する手段が、前記入力画像に基づき多次元グリッドヒストグラムを算出し、該算出された多次元グリッドヒストグラムの各グリッドの値に対して特定の補正処理が行われた後の多次元グリッドヒストグラムの各グリッドの値と前記各グリッドの度数とに基づき、前記特定の補正処理が行われた後の多次元グリッドヒストグラムの特徴量を解析する工程と、
    前記解析した結果に基づき、前記特定の補正処理の後に行われる補正処理で用いる補正パラメータを算出する工程とを有することを特徴とする画像処理方法。
  11. 請求項1乃至9の何れか1項に記載の画像処理装置の各手段としてコンピュータを機能させるためのプログラム。
  12. 請求項11に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2007199902A 2007-07-31 2007-07-31 画像処理装置及び画像処理方法 Active JP5032911B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007199902A JP5032911B2 (ja) 2007-07-31 2007-07-31 画像処理装置及び画像処理方法
US12/168,252 US8600154B2 (en) 2007-07-31 2008-07-07 Image processing apparatus and image processing method
CN2008101444714A CN101360178B (zh) 2007-07-31 2008-07-31 图像处理装置和图像处理方法
US14/061,040 US8929681B2 (en) 2007-07-31 2013-10-23 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007199902A JP5032911B2 (ja) 2007-07-31 2007-07-31 画像処理装置及び画像処理方法

Publications (3)

Publication Number Publication Date
JP2009038523A JP2009038523A (ja) 2009-02-19
JP2009038523A5 JP2009038523A5 (ja) 2010-09-24
JP5032911B2 true JP5032911B2 (ja) 2012-09-26

Family

ID=40332506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007199902A Active JP5032911B2 (ja) 2007-07-31 2007-07-31 画像処理装置及び画像処理方法

Country Status (3)

Country Link
US (2) US8600154B2 (ja)
JP (1) JP5032911B2 (ja)
CN (1) CN101360178B (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8295593B2 (en) * 2009-01-07 2012-10-23 Seiko Epson Corporation Method of detecting red-eye objects in digital images using color, structural, and geometric characteristics
JP5743384B2 (ja) * 2009-04-14 2015-07-01 キヤノン株式会社 画像処理装置及び画像処理方法とコンピュータプログラム
JP5183568B2 (ja) * 2009-05-21 2013-04-17 キヤノン株式会社 画像処理装置及び方法、及びプログラムを記録した記憶媒体
JP5300595B2 (ja) * 2009-05-28 2013-09-25 キヤノン株式会社 画像処理装置及び方法、及びコンピュータプログラム
US8311355B2 (en) * 2009-06-05 2012-11-13 Apple Inc. Skin tone aware color boost for cameras
JP5487737B2 (ja) * 2009-06-08 2014-05-07 カシオ計算機株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP5814799B2 (ja) * 2012-01-06 2015-11-17 キヤノン株式会社 画像処理装置及び画像処理方法
US9025867B2 (en) * 2012-05-31 2015-05-05 Apple Inc. Systems and methods for YCC image processing
JP6071289B2 (ja) 2012-07-09 2017-02-01 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP5956860B2 (ja) 2012-07-09 2016-07-27 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
JP6039942B2 (ja) 2012-07-09 2016-12-07 キヤノン株式会社 情報処理装置及びその制御方法及びプログラム
JP6012310B2 (ja) 2012-07-09 2016-10-25 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP5962428B2 (ja) * 2012-10-22 2016-08-03 セイコーエプソン株式会社 画像処理装置の調整方法、調整装置、画像処理装置、及び表示モジュール
US9088753B2 (en) 2013-01-11 2015-07-21 Canon Kabushiki Kaisha Image forming apparatus, luminance correction method, and storage medium storing program
JP6417154B2 (ja) 2014-08-27 2018-10-31 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP6386841B2 (ja) 2014-09-12 2018-09-05 キヤノン株式会社 画像処理装置、プログラム、画像処理システム、及び、画像処理方法
JP6322099B2 (ja) 2014-09-12 2018-05-09 キヤノン株式会社 画像処理装置、及び、画像処理方法
JP6397284B2 (ja) 2014-09-16 2018-09-26 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2016063324A (ja) 2014-09-16 2016-04-25 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US10530995B2 (en) * 2015-06-12 2020-01-07 Gopro, Inc. Global tone mapping
CN105139338B (zh) * 2015-07-24 2018-08-21 珠海奔图电子有限公司 多维查找表的生成方法及装置、图像缩放处理方法及装置
CN106571127B (zh) * 2015-10-08 2019-06-14 小米科技有限责任公司 一种显示目标图像的方法和装置
US9959604B2 (en) * 2016-06-13 2018-05-01 Gopro, Inc. Dynamic global tone mapping with integrated 3D color look-up table
JP6902860B2 (ja) 2016-12-09 2021-07-14 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP6942464B2 (ja) 2016-12-09 2021-09-29 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN106600555B (zh) * 2016-12-16 2019-04-16 中国航空工业集团公司洛阳电光设备研究所 一种抗单粒子翻转的dvi图像畸变校正装置
WO2018136037A1 (en) * 2017-01-17 2018-07-26 Hewlett-Packard Development Company, L.P. Assessing print quality using intensity histograms and perimeter lengths
JP6902886B2 (ja) 2017-03-14 2021-07-14 キヤノン株式会社 画像処理装置、方法およびプログラム
CN110599553B (zh) * 2019-09-10 2021-11-02 江南大学 一种基于YCbCr的肤色提取及检测方法
US11062507B2 (en) * 2019-11-04 2021-07-13 Apple Inc. Compression techniques for pixel write data

Family Cites Families (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4907075A (en) * 1987-07-28 1990-03-06 International Business Machines Corporation Method for selecting colors
JPH087553B2 (ja) * 1988-10-27 1996-01-29 インターナショナル・ビジネス・マシーンズ・コーポレーション 色画像量子化方法及び装置
EP0693738A3 (en) * 1994-06-23 1996-11-06 Dainippon Screen Mfg Device and method for producing colored masks
JP3778229B2 (ja) * 1996-05-13 2006-05-24 富士ゼロックス株式会社 画像処理装置、画像処理方法、および画像処理システム
US5874988A (en) * 1996-07-08 1999-02-23 Da Vinci Systems, Inc. System and methods for automated color correction
JP3584389B2 (ja) 1998-03-25 2004-11-04 富士写真フイルム株式会社 画像処理方法および画像処理装置
US6791711B1 (en) * 1998-06-24 2004-09-14 Canon Kabushiki Kaisha Image processing method, image processing apparatus, and recording medium
US6628830B1 (en) * 1998-06-24 2003-09-30 Canon Kabushiki Kaisha Image processing method and apparatus and storage medium
US7417640B1 (en) * 1999-01-29 2008-08-26 Lg Electronics Inc. Method for dominant color setting of video region and data structure and method of confidence measure extraction
US7006668B2 (en) 1999-12-28 2006-02-28 Canon Kabushiki Kaisha Image processing method and image processing apparatus
JP2001313839A (ja) 2000-04-28 2001-11-09 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
US7196724B2 (en) * 2000-12-08 2007-03-27 Nikon Corporation Image signal processing device, digital camera and computer program product that perform white balance adjustment using pixel outputs from extracted areas
JP4095265B2 (ja) 2001-09-06 2008-06-04 キヤノン株式会社 画像処理装置、画像処理方法、コンピュータ読み取り可能な記憶媒体、及びコンピュータプログラム
JP4294896B2 (ja) * 2001-09-26 2009-07-15 富士フイルム株式会社 画像処理方法および装置並びにそのためのプログラム
EP1311111A3 (en) * 2001-11-08 2004-12-08 Fuji Photo Film Co., Ltd. Method and apparatus for correcting white balance, method for correcting density and program recording medium
JP4011933B2 (ja) * 2002-02-22 2007-11-21 キヤノン株式会社 画像処理装置およびその方法
US6995791B2 (en) * 2002-04-02 2006-02-07 Freescale Semiconductor, Inc. Automatic white balance for digital imaging
JP3514257B2 (ja) 2002-05-20 2004-03-31 セイコーエプソン株式会社 画像処理システム、プロジェクタ、画像処理方法、プログラムおよび情報記憶媒体
JP4803944B2 (ja) * 2002-07-19 2011-10-26 大日本スクリーン製造株式会社 印刷物測定方法および印刷物測定装置
JP2004202968A (ja) * 2002-12-26 2004-07-22 Dainippon Screen Mfg Co Ltd インキ供給量制御方法およびインキ供給量制御装置
JP4248947B2 (ja) * 2003-06-11 2009-04-02 グローリー株式会社 画像減色装置、画像減色方法および画像減色プログラム
US7860339B2 (en) * 2003-09-11 2010-12-28 Panasonic Corporation Visual processing device, visual processing method, visual processing program, intergrated circuit, display device, image-capturing device, and portable information terminal
JP2005151282A (ja) * 2003-11-18 2005-06-09 Fuji Xerox Co Ltd 画像処理装置、画像処理方法、およびプログラム
JP4480677B2 (ja) * 2003-12-11 2010-06-16 富士通株式会社 画像補正方法及びプログラム、並びに装置
JP4362479B2 (ja) * 2003-12-12 2009-11-11 富士通株式会社 カラーバランス補正プログラム、カラーバランス補正装置およびカラーバランス補正方法
US7668365B2 (en) * 2004-03-08 2010-02-23 Seiko Epson Corporation Determination of main object on image and improvement of image quality according to main object
JP4468734B2 (ja) * 2004-04-27 2010-05-26 オリンパス株式会社 映像信号処理装置と映像信号処理プログラム
JP4474335B2 (ja) * 2004-06-30 2010-06-02 キヤノン株式会社 撮像装置及びその制御方法並びにダイレクトプリントシステム
CA2600185C (fr) * 2005-03-07 2016-04-26 Dxo Labs Procede pour commander une action, notamment une modification de nettete, a partir d'une image numerique en couleurs
JP2006254136A (ja) * 2005-03-11 2006-09-21 Seiko Epson Corp 出力データを生成する画像処理
US7586653B2 (en) * 2005-04-22 2009-09-08 Lexmark International, Inc. Method and system for enhancing an image using luminance scaling
JP2006343989A (ja) * 2005-06-08 2006-12-21 Fuji Xerox Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP2007067815A (ja) * 2005-08-31 2007-03-15 Olympus Imaging Corp 画像処理装置及び画像処理方法
KR100691250B1 (ko) * 2005-10-20 2007-03-12 삼성전자주식회사 휴대용 단말기의 자동 색 온도 보정 촬영 방법
JP4935049B2 (ja) * 2005-10-27 2012-05-23 セイコーエプソン株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP4577845B2 (ja) * 2005-12-15 2010-11-10 株式会社リコー 画像処理装置、画像処理方法、プログラム及びプログラムを格納した記憶媒体
JP4646130B2 (ja) * 2005-12-15 2011-03-09 株式会社リコー 画像処理装置、画像処理方法、プログラム及びプログラムを格納した記憶媒体
US7715047B2 (en) * 2006-02-17 2010-05-11 Seiko Epson Corporation Image editing device
JP4854340B2 (ja) * 2006-03-08 2012-01-18 キヤノン株式会社 画像処理方法及び装置
US20070248330A1 (en) * 2006-04-06 2007-10-25 Pillman Bruce H Varying camera self-determination based on subject motion
US20070237514A1 (en) * 2006-04-06 2007-10-11 Eastman Kodak Company Varying camera self-determination based on subject motion
US8022964B2 (en) * 2006-04-21 2011-09-20 Apple Inc. 3D histogram and other user interface elements for color correcting images
US20080123929A1 (en) * 2006-07-03 2008-05-29 Fujifilm Corporation Apparatus, method and program for image type judgment
JP4835865B2 (ja) * 2006-08-08 2011-12-14 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP4315176B2 (ja) * 2006-09-29 2009-08-19 セイコーエプソン株式会社 印刷装置、印刷方法、および、印刷用プログラム
US20080107341A1 (en) * 2006-11-02 2008-05-08 Juwei Lu Method And Apparatus For Detecting Faces In Digital Images
JP4850689B2 (ja) * 2006-12-22 2012-01-11 キヤノン株式会社 画像処理装置、画像処理方法、画像処理プログラム並びに記憶媒体
US20080181507A1 (en) * 2007-01-29 2008-07-31 Intellivision Technologies Corp. Image manipulation for videos and still images
US20080304736A1 (en) * 2007-02-20 2008-12-11 Masahiro Nakagawa Method of estimating a visual evaluation value of skin beauty
JP5221886B2 (ja) * 2007-03-07 2013-06-26 富士重工業株式会社 物体検出装置
US8711249B2 (en) * 2007-03-29 2014-04-29 Sony Corporation Method of and apparatus for image denoising
JP4837009B2 (ja) * 2008-09-12 2011-12-14 ミツミ電機株式会社 液晶表示装置
JP5178473B2 (ja) * 2008-11-20 2013-04-10 株式会社東芝 画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US8600154B2 (en) 2013-12-03
CN101360178B (zh) 2012-07-04
JP2009038523A (ja) 2009-02-19
CN101360178A (zh) 2009-02-04
US8929681B2 (en) 2015-01-06
US20140044354A1 (en) 2014-02-13
US20090034840A1 (en) 2009-02-05

Similar Documents

Publication Publication Date Title
JP5032911B2 (ja) 画像処理装置及び画像処理方法
JP5116393B2 (ja) 画像処理装置及び画像処理方法
JP5424712B2 (ja) 画像処理装置及びその制御方法とプログラム
CN101331515B (zh) 色调校正方法、色调校正装置以及图像设备
US6608926B1 (en) Image processing method, image processing apparatus and recording medium
JP5743384B2 (ja) 画像処理装置及び画像処理方法とコンピュータプログラム
JP5300595B2 (ja) 画像処理装置及び方法、及びコンピュータプログラム
US8310726B2 (en) Image processing apparatus, image processing method, image processing program, and printing apparatus
US20100020341A1 (en) Image Processing Apparatus, Image Processing Method, Image Processing Program, and Image Printing Apparatus
JP5451213B2 (ja) 画像処理装置及び画像処理方法並びにコンピュータプログラム
JP2001186365A (ja) 画像処理方法、装置および記録媒体
US20090027732A1 (en) Image processing apparatus, image processing method, and computer program
JP4428742B2 (ja) 画像処理装置及びその方法
JP2005190435A (ja) 画像処理方法、画像処理装置及び画像記録装置
JP4208396B2 (ja) 画像処理方法、装置および記録媒体
JPH11120325A (ja) 画像評価方法、画像評価プログラムを記録した媒体および画像評価装置
JP2012060459A (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP4018245B2 (ja) 画像処理方法、装置および記録媒体
JP2003234916A (ja) 画像処理装置、画像処理方法、印刷装置、画像処理プログラムおよび画像処理プログラムを記録した媒体
JP2005192158A (ja) 画像処理方法、画像処理装置及び画像記録装置
JP3990816B2 (ja) 画像処理方法、装置および記録媒体
JP5116873B2 (ja) 画像処理装置及び画像処理方法
JP6166768B2 (ja) 画像処理装置及び画像処理方法とプログラム
JP2000105820A (ja) モノト―ン変換装置、モノト―ン変換方法およびモノト―ン変換プログラムを記録した媒体
JP2000123165A (ja) 画像処理装置及びその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120601

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120629

R151 Written notification of patent or utility model registration

Ref document number: 5032911

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150706

Year of fee payment: 3