JP4322310B2 - Color pattern extraction apparatus and color pattern extraction program - Google Patents
Color pattern extraction apparatus and color pattern extraction program Download PDFInfo
- Publication number
- JP4322310B2 JP4322310B2 JP2008507347A JP2008507347A JP4322310B2 JP 4322310 B2 JP4322310 B2 JP 4322310B2 JP 2008507347 A JP2008507347 A JP 2008507347A JP 2008507347 A JP2008507347 A JP 2008507347A JP 4322310 B2 JP4322310 B2 JP 4322310B2
- Authority
- JP
- Japan
- Prior art keywords
- color
- pattern
- background
- basic
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/62—Retouching, i.e. modification of isolated colours only or in isolated picture areas only
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
- Image Analysis (AREA)
Description
本発明は、カラー画像から特定色のパターンを抽出するカラーパターン抽出装置、及び、このような装置としてコンピュータを機能させるカラーパターン抽出プログラムに関し、特に、カラー用紙上にポストプリントされたスタンプ等のパターンを抽出するのに適した手法に関する。 The present invention relates to a color pattern extraction apparatus that extracts a pattern of a specific color from a color image, and a color pattern extraction program that causes a computer to function as such an apparatus, and more particularly to a pattern such as a stamp post-printed on color paper. It is related with the technique suitable for extracting.
カラー画像から特定色のパターンを抽出する技術は、例えばスタンプや印鑑等のパターンがポストプリントされたカラー帳票からスタンプ等のパターンを抽出する等の用途に従来から利用されている。例えば、ポストプリントされるパターンの色を登録しておき、帳票等を光学的に読み取って得られた画像から登録された色に近似する色のパターンを抽出する方法が知られている。ただし、スタンプ等のインクにより形成されるパターンの色は、インクの色が同一であっても、用紙の色である背景色が異なると、背景色との混色を生じて異なる色になる場合がある。このように読み取られた画像内のパターンの色が混色により変化すると、登録されたパターンの色との近似性が失われ、パターンを抽出できなくなる可能性がある。 A technique for extracting a pattern of a specific color from a color image has been conventionally used, for example, for extracting a pattern such as a stamp from a color form on which a pattern such as a stamp or a seal is post-printed. For example, a method is known in which the color of a post-printed pattern is registered, and a color pattern that approximates the registered color is extracted from an image obtained by optically reading a form or the like. However, even if the color of the pattern formed by ink such as a stamp is the same, if the background color, which is the color of the paper, is different, it may be mixed with the background color and become a different color. is there. If the color of the pattern in the image read in this way changes due to color mixing, the approximation with the color of the registered pattern is lost and the pattern may not be extracted.
これに対して特許文献1には、背景色との混色の影響を除去するため、画像中の背景色を基準にして画像中のパターン色と登録色とを比較する手法が開示されている。この手法では、画像中の対象パターンの色ベクトルと背景色の色ベクトルのなす角度θcと、登録色の色ベクトルと画像中の背景色の色ベクトルとのなす角度θtとを算出し、これらの角度の差が所定の閾値より小さいときに、対象パターンの色が当該登録色に一致すると判断する。複数の登録色について角度θtを計算しておくことにより、対象パターンの色を角度差が最も小さくなる登録色に割り当て、指定された色に対応するパターンを抽出することができる。 On the other hand, Patent Document 1 discloses a method of comparing a pattern color in an image with a registered color on the basis of the background color in the image in order to remove the influence of the color mixture with the background color. In this method, the angle θc formed by the color vector of the target pattern in the image and the color vector of the background color, and the angle θt formed by the color vector of the registered color and the color vector of the background color in the image are calculated. When the angle difference is smaller than a predetermined threshold, it is determined that the color of the target pattern matches the registered color. By calculating the angle θt for a plurality of registered colors, the color of the target pattern can be assigned to the registered color with the smallest angle difference, and the pattern corresponding to the designated color can be extracted.
しかしながら、特許文献1の方法では、画像中のパターンと背景との混色の度合が大きく、画像中のパターン色と登録色との色ずれが大きくなると、上記の角度差が大きくなり、色の判定を誤り、パターンの抽出に失敗する可能性が高くなる。 However, in the method of Patent Document 1, if the degree of color mixture between the pattern in the image and the background is large, and the color shift between the pattern color in the image and the registered color increases, the angle difference increases, and the color determination There is a high possibility that pattern extraction will fail.
また、特許文献1の方法では、画像に同色系でRGB値が異なる色のパターンが混在する場合、登録色で指定したものとは異なる色のパターンが抽出される可能性がある。例えば、登録時の基本背景色と異なる彩色領域上にRGB値は異なるが同色系のスタンプと文字とが存在し、ポストプリントされたスタンプのパターンのみを抽出しようとする場合、インクにより表されるスタンプの色は背景色との混色により登録された基本背景色上のスタンプの色とは離れる。このとき、印刷された文字の色が、登録された基本背景色上のスタンプの色に近い場合には、文字のパターンが誤って抽出される。 Further, in the method of Patent Document 1, when a pattern of colors having the same color system and different RGB values is mixed in an image, there is a possibility that a pattern of a color different from that designated by the registered color may be extracted. For example, if there are stamps and characters of the same color but different RGB values on a chromatic area that is different from the basic background color at the time of registration, and only the post-printed stamp pattern is to be extracted, it is represented by ink. The stamp color is different from the stamp color on the basic background color registered by the color mixture with the background color. At this time, if the color of the printed character is close to the stamp color on the registered basic background color, the character pattern is erroneously extracted.
本発明は、上記の問題点に鑑みてなされたものであり、その課題は、対象パターンの色が背景との混色により大きく変化した場合にも、登録色に基づいてパターンを正確に抽出することができるカラーパターン抽出装置、及び、コンピュータをこのような装置として機能させるカラーパターン抽出プログラムを提供することにある。 The present invention has been made in view of the above problems, and the problem is to accurately extract a pattern based on a registered color even when the color of the target pattern changes greatly due to color mixing with the background. Another object of the present invention is to provide a color pattern extraction apparatus capable of performing the above and a color pattern extraction program that causes a computer to function as such an apparatus.
本発明にかかるカラーパターン抽出装置は、上記の課題を解決するため、カラー画像から特定色のパターンを抽出する装置であって、抽出対象となる特定色のパターンの基本背景色上での色である基本パターン色と基本背景色との組、及び、特定色のパターンの基本背景色とは異なる参照背景色上での色である参照パターン色と参照背景色との組の少なくとも2組の色情報に基づいて、特定色のパターンを任意の背景色上に表示した場合に得られるパターン色を、基本背景色上に表示させた際に得られると推定される色に変換するための補正パラメータを求める学習手段と、入力された画像を対象パターンと背景とに分離して対象パターン色と背景色とを求め、これらの値と学習手段により得られた補正パラメータとを用いて、対象パターン色を基本背景色上に表示した際に得られると推定される色に変換し、変換された対象パターンから基本パターン色に一致するパターンを抽出する抽出手段と、を備えることを特徴とする。 In order to solve the above problems, a color pattern extraction apparatus according to the present invention is an apparatus that extracts a specific color pattern from a color image, and uses a color on the basic background color of the specific color pattern to be extracted. A set of a basic pattern color and a basic background color, and at least two sets of a reference pattern color and a reference background color, which are colors on a reference background color different from the basic background color of a specific color pattern Based on information, a correction parameter for converting a pattern color obtained when a pattern of a specific color is displayed on an arbitrary background color into a color estimated to be obtained when displayed on a basic background color The target pattern is obtained using the learning means for obtaining the target pattern color and the background color by separating the input image into the target pattern and the background, and using these values and the correction parameter obtained by the learning means. Is converted to a color that is estimated to be obtained upon display on a basic background color, characterized in that it comprises an extraction means for extracting a matching pattern from the transformed object pattern to the basic pattern color.
学習手段は、基本背景色上に特定色のパターンが表された基本画像と、参照背景色上に特定色のパターンが表された参照画像とを登録する学習パターン登録部と、基本画像及び参照画像のそれぞれについて、パターンと背景とに分離する分離部と、分離されたパターンと背景との代表色を求める色計算部と、求められた代表色に基づいて補正パラメータを求める補正パラメータ設定部と、を備えることが望ましい。 The learning means includes a learning pattern registration unit that registers a basic image in which a pattern of a specific color is represented on a basic background color and a reference image in which a pattern of a specific color is represented on a reference background color, a basic image, and a reference For each of the images, a separation unit that separates the pattern and the background, a color calculation unit that obtains a representative color of the separated pattern and the background, a correction parameter setting unit that obtains a correction parameter based on the obtained representative color, It is desirable to provide.
また、抽出手段は、入力された画像を対象パターンと背景とに分離する分離部と、分離された対象パターンと背景との代表色を求める色計算部と、求められた代表色と補正パラメータとに基づいて対象パターンの代表色を変換する混色補正部と、色変換された対象パターンの色が基本パターン色に一致するか否かを判定する判定部と、を備えることが望ましい。 In addition, the extraction unit includes a separation unit that separates the input image into a target pattern and a background, a color calculation unit that obtains a representative color of the separated target pattern and the background, and the obtained representative color and correction parameter. It is desirable to include a color mixture correction unit that converts the representative color of the target pattern based on the above and a determination unit that determines whether or not the color of the target pattern subjected to color conversion matches the basic pattern color.
学習手段及び抽出手段における色の重なりモデルとしては、粒子密度モデルを適用すると共に、少なくともパターンの色に関しては粒子密度モデルの密度係数にパラメータを導入してパターンの部分毎の色の相違を色変換に反映させるようにすることが望ましい。 As a color overlap model in the learning means and extraction means, a particle density model is applied, and at least for the pattern color, a parameter is introduced into the density coefficient of the particle density model to convert the difference in color for each part of the pattern. It is desirable to be reflected in
一方、本発明にかかるカラーパターン抽出プログラムは、コンピュータに、抽出対象となる特定色のパターンの基本背景色上での色である基本パターン色と基本背景色との組、及び、特定色のパターンの基本背景色とは異なる参照背景色上での色である参照パターン色と参照背景色との組の少なくとも2組の色情報に基づいて、特定色のパターンを任意の背景色上に表示した場合に得られるパターン色を、基本背景色上に表示させた際に得られると推定される色に変換するための補正パラメータを求める学習機能と、入力された画像を対象パターンと背景とに分離して対象パターン色と背景色とを求め、これらの値と学習手段により得られた補正パラメータとを用いて、対象パターン色を基本背景色上に表示した際に得られると推定される色に変換し、変換された対象パターンから基本パターン色に一致するパターンを抽出する抽出機能と、を実行させることを特徴とする。 On the other hand, the color pattern extraction program according to the present invention allows a computer to set a combination of a basic pattern color and a basic background color that is a color on a basic background color of a specific color pattern to be extracted, and a specific color pattern. A pattern of a specific color is displayed on an arbitrary background color based on color information of at least two sets of a reference pattern color and a reference background color, which is a color on a reference background color different from the basic background color of A learning function to obtain correction parameters for converting the pattern color obtained in this case into a color estimated to be obtained when displayed on the basic background color, and separating the input image into the target pattern and the background The target pattern color and the background color are obtained, and the estimated color obtained when the target pattern color is displayed on the basic background color using these values and the correction parameter obtained by the learning means. Converted to an extracting function of extracting a pattern matching the basic pattern color from the converted target pattern, characterized in that for the execution.
以上のように構成された本発明のカラーパターン抽出装置によれば、背景色上にポストプリントされたパターンの色が背景色と混色を生じて大きく変化した場合にも、パターンの色を基本背景色上に表示された際の色に補正することができ、指定色との一致判定を正確に実行し、カラーパターンを抽出することができる。 According to the color pattern extraction apparatus of the present invention configured as described above, even when the color of the pattern post-printed on the background color changes greatly due to color mixing with the background color, the pattern color is used as the basic background. It is possible to correct the color when it is displayed on the color, and it is possible to accurately execute the matching determination with the designated color and extract the color pattern.
以下、本発明にかかるカラーパターン抽出装置及びカラーパターン抽出プログラムの実施形態を図面に基づいて説明する。最初に、図1に基づいて本実施形態のカラーパターン抽出装置を含むシステム全体の概要を説明する。図1に示されるように、実施形態のシステム1は、カラーパターン抽出装置10と、これに接続されたディスプレイ30、プリンタ31、スキャナ32とを備えている。 Embodiments of a color pattern extraction apparatus and a color pattern extraction program according to the present invention will be described below with reference to the drawings. First, an overview of the entire system including the color pattern extraction apparatus of the present embodiment will be described based on FIG. As shown in FIG. 1, the system 1 according to the embodiment includes a color pattern extraction device 10, a display 30, a printer 31, and a scanner 32 connected to the color pattern extraction device 10.
カラーパターン抽出装置10は、パーソナルコンピュータ等の汎用コンピュータにより構成され、CPU11、並びにこのCPU11に接続されたハードディスク(HD)20、メモリ(RAM)12及びインターフェイス13を備えている。HD20には、図示せぬオペレーティングシステムがインストールされると共に、カラーパターン抽出プログラム21がインストールされている。ディスプレイ30、プリンタ31、スキャナ32は、インターフェイス13を介してCPU11に接続されている。CPU11は、カラーパターン抽出プログラム21を必要に応じてRAM12上に展開して実行する。対象となるカラー画像は、スキャナ32により読み取られ、あるいは、画像ファイルとして提供される。また、抽出の過程、結果は、必要に応じてディスプレイ30に表示され、プリンタ31によりプリントアウトされる。 The color pattern extraction apparatus 10 is configured by a general-purpose computer such as a personal computer, and includes a CPU 11, a hard disk (HD) 20, a memory (RAM) 12, and an interface 13 connected to the CPU 11. An operating system (not shown) is installed in the HD 20 and a color pattern extraction program 21 is installed. The display 30, the printer 31, and the scanner 32 are connected to the CPU 11 via the interface 13. The CPU 11 develops and executes the color pattern extraction program 21 on the RAM 12 as necessary. The target color image is read by the scanner 32 or provided as an image file. Further, the extraction process and results are displayed on the display 30 as necessary, and printed out by the printer 31.
カラーパターン抽出プログラム21は、抽出の前処理としてパターンや背景色を登録して補正パラメータを求める学習モジュール22と、実際の画像からパターンを抽出する抽出モジュール23とを備えている。 The color pattern extraction program 21 includes a learning module 22 that registers a pattern and a background color as extraction pre-processing and obtains a correction parameter, and an extraction module 23 that extracts a pattern from an actual image.
学習モジュール(学習手段)22は、抽出対象となる特定色のパターンの基本背景色上での色である基本パターン色と基本背景色との組、及び、特定色のパターンの基本背景色とは異なる参照背景色上での色である参照パターン色と参照背景色との組の少なくとも2組の色情報に基づいて、特定色のパターンを任意の背景色上に表示した場合に得られるパターン色を、基本背景色上に表示させた際に得られると推定される色に変換するための補正パラメータを求める機能を持つ。そして、学習モジュール22には、基本背景色上に特定色のパターンが表された基本画像と、参照背景色上に特定色のパターンが表された参照画像とを登録する学習パターン登録部22aと、基本画像及び参照画像のそれぞれについて、パターンと背景とに分離する分離部22bと、分離されたパターンと背景との代表色を計算する色計算部22cと、求められた代表色に基づいて補正パラメータを求める補正パラメータ設定部22dとが含まれる。代表色とは、パターンを構成する画素の色の平均をとるなどして、各パターンに一色を割り当てたものである。各色は、正確にはパターンを抽出した後に平均値をとるなどして求められる。 The learning module (learning means) 22 is a combination of a basic pattern color and a basic background color, which is a color on a basic background color of a specific color pattern to be extracted, and a basic background color of the specific color pattern. A pattern color obtained when a specific color pattern is displayed on an arbitrary background color based on at least two sets of color information of a reference pattern color and a reference background color, which are colors on different reference background colors Has a function for obtaining a correction parameter for converting to a color estimated to be obtained when the image is displayed on the basic background color. In the learning module 22, a learning pattern registration unit 22a that registers a basic image in which a specific color pattern is represented on the basic background color and a reference image in which the specific color pattern is represented on the reference background color; For each of the basic image and the reference image, a separation unit 22b that separates the pattern and the background, a color calculation unit 22c that calculates a representative color of the separated pattern and the background, and correction based on the obtained representative color And a correction parameter setting unit 22d for obtaining parameters. The representative color is one in which one color is assigned to each pattern, for example, by averaging the colors of the pixels constituting the pattern. Each color is obtained by, for example, taking an average value after extracting a pattern.
一方、抽出モジュール(抽出手段)23は、入力された画像を対象パターンと背景とに分離して対象パターン色と背景色とを求め、これらの値と学習モジュール22により得られた補正パラメータとを用いて、対象パターン色を基本背景色上に表示した際に得られると推定される色に変換し、変換された対象パターンから基本パターン色に一致するパターンを抽出する機能を持つ。そして、抽出モジュール23には、入力された画像を対象パターンと背景とに分離する分離部23aと、対象パターンを連結成分毎に分ける連結成分計算部23bと、背景色と各連結成分との代表色を求める色計算部23cと、求められた代表色と補正パラメータとに基づいて対象パターンの代表色を変換する混色補正部23dと、色変換された対象パターンの色が基本パターン色に一致するか否かを判定する判定部23eとが含まれる。判定部23eは、公知の手法を用いて補正後の対象パターンと指定された基本パターン色との一致を判断する。例えば、補正後の対象パターンの色ベクトルと基本パターン色の色ベクトルとの間の角度が閾値以下である場合を一致、閾値を超える場合を不一致と判定する。 On the other hand, the extraction module (extraction means) 23 obtains the target pattern color and the background color by separating the input image into the target pattern and the background, and uses these values and the correction parameter obtained by the learning module 22. The target pattern color is converted into a color estimated to be obtained when displayed on the basic background color, and a pattern matching the basic pattern color is extracted from the converted target pattern. The extraction module 23 includes a separation unit 23a that separates the input image into a target pattern and a background, a connected component calculation unit 23b that separates the target pattern for each connected component, and representatives of the background color and each connected component. The color calculation unit 23c for obtaining a color, the color mixing correction unit 23d for converting the representative color of the target pattern based on the obtained representative color and the correction parameter, and the color of the color-converted target pattern matches the basic pattern color And a determination unit 23e for determining whether or not. The determination unit 23e determines a match between the corrected target pattern and the designated basic pattern color using a known method. For example, the case where the angle between the color vector of the target pattern after correction and the color vector of the basic pattern color is equal to or smaller than a threshold value is determined to be coincident, and the case where the angle exceeds the threshold value is determined to be inconsistent.
続いて、本発明のカラーパターン抽出装置の抽出原理を具体例に基づいて説明する。なお、以下の説明では、インクによる手書きパターンがポストプリントされた用紙をスキャナ32で読み取った画像を処理対象とし、用紙の色を背景色、ポストプリントされた手書きのパターンを抽出対象とする。また、基本背景色は白色とする。 Next, the extraction principle of the color pattern extraction apparatus of the present invention will be described based on specific examples. In the following description, an image obtained by reading a paper on which a handwritten pattern with ink is post-printed by the scanner 32 is a processing target, a paper color is a background color, and a post-printed handwritten pattern is an extraction target. The basic background color is white.
図2(A)に示すように、基本背景色S0上に特定色のインクでポストプリントされた対象パターン(手書きのA)の代表色をCAとする。CAは基本パターン色に対応する。また、図2(B)に示すように、基本背景色とは異なる参照背景色S1のカラー帳票に、上記と同じ特定色のインクでポストプリントされた対象パターン(手書きのABCD)の代表色をCA’とする。CA’は参照パターン色に対応する。なお、図2(B)には、同一画像内に抽出対象ではない代表色Dのパターン「項目名」がプリントされている。As shown in FIG. 2A, the representative color of the target pattern (handwritten A) post-printed with a specific color ink on the basic background color S 0 is C A. C A corresponds to the basic pattern color. In addition, as shown in FIG. 2 (B), the representative color of the target pattern (handwritten ABCD) that is post-printed with the same specific color ink as above on a color form with a reference background color S 1 different from the basic background color. Is C A '. C A 'corresponds to the reference pattern color. In FIG. 2B, the pattern “item name” of the representative color D that is not the extraction target is printed in the same image.
学習モジュール22は、上記の2組の色情報(S0, CA)、(S1, CA’)に基づいて補正パラメータを求める。この例では、色の重なりを定義する混色モデルとして、公知の粒子密度モデル(Terai他, ”Base Color Recognition by Tetragonal Regression for Overlapped Watercolors”, Proc. of IWFHR-9, 2004)をベースとしている。このモデルを用いると、背景色S0、S1上にポストプリントされた対象パターンの色CA、 CA ’は、それぞれ式(1), (2)のように表される。S0は基本背景色(白色)であるため、CA ’は式(3)に示すように、CAとS1との混色となる。The learning module 22 obtains a correction parameter based on the two sets of color information (S0, CA) and (S1, CA ′). In this example, a known particle density model (Terai et al., “Base Color Recognition by Tetragonal Regression for Overlapped Watercolors”, Proc. Of IWFHR-9, 2004) is used as a color mixture model for defining color overlap. When this model is used, the colors C A and C A ′ of the target pattern post-printed on the background colors S 0 and S 1 are expressed as equations (1) and (2), respectively. Since S 0 is a basic background color (white), C A ′ is a mixed color of C A and S 1 as shown in Expression (3).
上式中、TAは対象パターンのインク色(特定色)、ρAは対象パターンのインク密度に対応する係数であり、対象とする色の面に対し色が一様である場合には0.0≦ρA≦1.0の値をとる定数と考えることができる。上記のように、二組の背景色とパターン色とがわかれば、ρAを求めることができる。そして、ρAが定まれば、任意の背景色上に特定色のインクでポストプリントして混色を生じたパターンの色を補正して基本背景色上に表示させた際に得られると推定される色に変換(混色補正)することができる。ρAは一般的に、パターンを構成する各画素の色分布(パターンの代表色ではない)によって決定される。In the above equation, T A is the ink color (specific color) of the target pattern, ρ A is a coefficient corresponding to the ink density of the target pattern, and 0.0 when the color is uniform with respect to the target color surface. ≦ ρ A ≦ 1.0 can be considered as a constant. As described above, if two sets of background color and pattern color are known, ρ A can be obtained. If ρ A is determined, it is estimated that it can be obtained when the color of the pattern that has undergone post-printing with a specific color ink on any background color is corrected and displayed on the basic background color. Can be converted (mixed color correction). ρ A is generally determined by the color distribution (not the representative color of the pattern) of each pixel constituting the pattern.
例えば、図2(B)の画像を対象画像として混色補正すると、パターンの色CA’, Dが基本背景色S0上に表示させた際に得られると推定される色CA’+, D+に変換され、図2(C)に示すような画像が得られる。図3(A)は、図2(B)の画像の背景色、パターン色の代表色を示すベクトル、図3(B)は、混色補正後の図2(C)の画像の背景色、パターン色の代表色を示すベクトルである。For example, when color mixture correction is performed using the image of FIG. 2B as the target image, the color C A ' + , which is estimated to be obtained when the pattern colors C A ', D are displayed on the basic background color S 0 , The image is converted to D + and an image as shown in FIG. 2C is obtained. 3A is a vector representing the background color and pattern color of the image of FIG. 2B, and FIG. 3B is the background color and pattern of the image of FIG. 2C after color mixture correction. It is a vector which shows the representative color of a color.
ここで、図3(A)は、基本パターン色CAの色ベクトルに対して非対象パターン「項目名」の色Dの色ベクトルがなす角度θ1が、基本パターン色CAの色ベクトルに対して対象パターン(手書きのABCD)の色ベクトルがなす角度θ2より小さい場合を想定している。この場合、従来のように図3(A)に示す状態で混色補正をしないでパターンを抽出しようとすると、同一色とみなす判定の閾値をθ1にすると、図4(A)に示すように非対象パターンのみが抽出され、本来抽出すべきパターンが抜け落ち、閾値をθ2にすると、図4(B)に示すように対象パターンのみでなく、非対象のパターンも抽出される。Here, FIG. 3 (A), an angle theta 1 formed by the color vectors of the color D of the non-target pattern "item name" for color vectors of the basic pattern color C A is the color vector of the basic pattern color C A On the other hand, a case is assumed where the color vector of the target pattern (handwritten ABCD) is smaller than the angle θ 2 . In this case, if it is attempted to extract a pattern without performing color mixture correction in the state shown in FIG. 3A as in the prior art, if the threshold value for determining the same color is θ 1 , as shown in FIG. 4A. only non-target pattern is extracted, the pattern to be extracted originally coming off, when the threshold theta 2, not only the target pattern as shown in FIG. 4 (B), of the non-target patterns are extracted.
一方、混色補正を実行すると、図3(B)に示すように、対象パターンの色はCA’からCA’+に変換されて特定色の基本パターン色CAに近づき、非対象パターンの色はDからD+に変換されて基本パターン色CAから遠ざかる。この結果、基本パターン色CAの色ベクトルに対して非対象パターンの補正後の色D+の色ベクトルがなす角度θ1 +が、基本パターン色CAの色ベクトルに対して対象パターンの色ベクトルがなす角度θ2 +より大きい。このため、同一色とみなす判定の閾値をθ2 +にすると、図4(C)に示すように対象パターンのみが抽出される。On the other hand, when executing the color mixing correction, as shown in FIG. 3 (B), the color of the target pattern approaches 'to C A' C A to a specific color are converted to + basic pattern color C A, of the non-target pattern The color is converted from D to D + and away from the basic pattern color C A. As a result, the angle theta 1 + formed by the color D + color vector after the correction of the non-target patterns for color vectors of the basic pattern color C A is the target pattern for the color vector of the basic pattern color C A color It is larger than the angle θ 2 + formed by the vector. For this reason, when the threshold value for determining that the colors are the same is θ 2 + , only the target pattern is extracted as shown in FIG.
なお、対象パターンが文字等の線画である場合には、線パターンを構成する各画素の色分布はひとつの軸方向の分散が極端に高くなり、線上にのった分布形となり、ρAが定数であるという仮定は成立しにくい。ただし、背景部は面図形と同様に、ほぼ一様と仮定できる。パターンが線画である場合の画素毎の色分布の例を図5に基づいて説明する。図5は、基本背景色上にポストプリントされたパターンを構成する各画素の色分布Eと、基本色とは異なる所定の背景色上に同じインクでポストプリントされたパターンを構成する各画素の色分布F、基本背景色の背景の各画素の色分布G、上記の所定の背景色の背景の各画素の色分布Hを表す。混色補正とは、FからGへの変換を意味する。When the target pattern is a line drawing of characters or the like, the color distribution of each pixel constituting the line pattern has an extremely high variance in one axial direction, a distribution form on the line, and ρ A is The assumption that it is a constant is difficult to hold. However, it can be assumed that the background portion is substantially uniform, as is the case with the surface figure. An example of the color distribution for each pixel when the pattern is a line drawing will be described with reference to FIG. FIG. 5 shows a color distribution E of each pixel constituting a pattern post-printed on the basic background color, and each pixel constituting a pattern post-printed with the same ink on a predetermined background color different from the basic color. The color distribution F, the color distribution G of each background pixel of the basic background color, and the color distribution H of each background pixel of the predetermined background color are shown. The color mixture correction means conversion from F to G.
そこで、実施形態では、ρAの変動を表すパラメータtを導入し、式(4)のように置き換える。tの範囲は式(5)に示す通りである。Therefore, in the embodiment, a parameter t representing the variation of ρ A is introduced and replaced as shown in Equation (4). The range of t is as shown in Equation (5).
また、ρA(0)=0, ρA (1)=1とする。よって、式(1)〜(3)は以下の式(6)〜(8)ように書き換えられる。Further, ρ A (0) = 0 and ρ A (1) = 1 are set. Therefore, the equations (1) to (3) can be rewritten as the following equations (6) to (8).
(6)、(7)式よりt=1、t=0でそれぞれ、式(10),(11)が成立する。 From equations (6) and (7), equations (10) and (11) are established at t = 1 and t = 0, respectively.
よって、CA(t)-S0、CA’(t)-S1の2直線の近似直線をそれぞれ分布から求め、2直線の交点座標を求めることでTAを求めることができる。ある画素に対しCA’(t)を観測し、このときt=tpであるとする。式(7)より以下の式(12)が導かれる。一方、背景色はそれぞれ分布平均値を用いることで式(13)のように近似する。Therefore, T A can be obtained by obtaining two approximate straight lines of C A (t) -S 0 and C A ′ (t) -S 1 from the respective distributions and obtaining the intersection coordinates of the two straight lines. C A ′ (t) is observed for a certain pixel, and t = t p at this time. The following formula (12) is derived from the formula (7). On the other hand, the background colors are approximated as shown in Expression (13) by using the distribution average value.
上式と式(8)より式(14)が導かれ、この式を利用して、入力された画像のパターン色CA’(t)に基づいて、これを基本背景色上に表示した場合の色CA(t)を推定することができる。When equation (14) is derived from the above equation and equation (8), and this is used to display this on the basic background color based on the pattern color C A '(t) of the input image The color C A (t) can be estimated.
以上の導出により、背景色とその背景色上のパターン色との組み合わせを2組用意することにより、任意の背景色上でのパターン色が復元可能となることがわかる。学習モジュール22は、2組の色の組から上記のTAを学習する。From the above derivation, it can be seen that by preparing two combinations of the background color and the pattern color on the background color, the pattern color on an arbitrary background color can be restored. The learning module 22 learns the above T A from the two sets of colors.
なお、ここで前述した論文に掲載されたTerai他の粒子密度モデルと、ρAにパラメータを導入した本願の拡張粒子密度モデルとの違いを図6及び図7を用いて概念的に説明する。背景画素の色分布は、いずれのモデルでもほぼ一様と仮定し、S0, S1で示している。一方、背景色上にポストプリントされたパターンの各画素の色分布については、Terai他の粒子密度モデルではほぼ一様と仮定し、CA, CA’で示しているのに対し、本願の拡張粒子密度モデルでは、ρAにパラメータを導入することにより、実際の分布を考慮して直線にのった分布と仮定している。Here, the difference between the particle density model of Terai et al. Published in the aforementioned paper and the extended particle density model of the present application in which a parameter is introduced into ρ A will be conceptually described with reference to FIGS. 6 and 7. The color distribution of the background pixels is assumed to be almost uniform in all models, and is indicated by S 0 and S 1 . On the other hand, the color distribution of each pixel of the pattern post-printed on the background color is assumed to be almost uniform in Terai et al.'S particle density model and is indicated by C A and C A ′. In the extended particle density model, by introducing a parameter to ρ A , the distribution is assumed to be a straight line in consideration of the actual distribution.
Terai他のモデルで基本背景色とは異なる背景色上にポストプリントされた線画パターンの色分布を、基本背景色上での色に変換しようとすると、図8に示すように、正しい分布には変換されない。したがって、線画パターンを正しく抽出できない可能性がある。これに対して、本願のモデルによれば、CA(t)-S0、CA’(t)-S1の2直線の近似直線を求めることにより、基本背景色とは異なる背景色上にポストプリントされた線画パターンの色分布を、基本背景色上に表示した場合に得られると推定される色分布に正しく変換することができる。したがって、文字などの線画パターンを抽出する場合には、本願の拡張粒子密度モデルを用いる方が抽出精度を高めることができる。If you try to convert the color distribution of a line drawing pattern printed on a background color different from the basic background color in Terai et al. To a color on the basic background color, the correct distribution is shown in Fig. 8. Not converted. Therefore, there is a possibility that the line drawing pattern cannot be extracted correctly. On the other hand, according to the model of the present application, by calculating an approximate straight line of C A (t) -S 0 and C A ′ (t) -S 1 , the background color different from the basic background color is obtained. It is possible to correctly convert the color distribution of the line drawing pattern post-printed to the color distribution estimated to be obtained when displayed on the basic background color. Therefore, when extracting a line drawing pattern such as characters, the extraction accuracy can be improved by using the extended particle density model of the present application.
続いて、実施形態のカラーパターン抽出プログラム21の処理の流れをフローチャートに基づいて説明する。学習モジュール22の処理がスタートすると、図9に示すように、学習パターン登録部22aの作用により、学習画像パターンが登録される(S01)。ここでは、抽出したい基本背景色上にポストプリントされた対象パターンの画像と、この基本背景色とは異なる参照背景色上に同じインクでポストプリントされた対象パターンの画像とが登録される。図10(A)は、登録される画像の例を示す。 Next, the flow of processing of the color pattern extraction program 21 of the embodiment will be described based on a flowchart. When the process of the learning module 22 starts, as shown in FIG. 9, a learning image pattern is registered by the action of the learning pattern registration unit 22a (S01). Here, an image of the target pattern post-printed on the basic background color to be extracted and an image of the target pattern post-printed with the same ink on a reference background color different from the basic background color are registered. FIG. 10A shows an example of an image to be registered.
次に、分離部22bの作用により、登録された2組の画像のそれぞれを、既存の手法で2値化し、パターンと背景とに分離する(S02)。図10(B)は、背景から分離されたパターンの二値画像を示す。そして、色計算部22cは、基本背景色の代表色と各画素の色、参照背景色の代表色と各画素の色、それぞれの背景色上におけるポストプリントされた対象パターンの代表色と各画素の色を計算する(S03)。図10(C)は、各画像について、背景とパターンとをそれぞれの代表色で表示した例を示す。 Next, each of the registered two sets of images is binarized by an existing method and separated into a pattern and a background by the action of the separation unit 22b (S02). FIG. 10B shows a binary image of a pattern separated from the background. The color calculation unit 22c then displays the representative color of the basic background color and the color of each pixel, the representative color of the reference background color and the color of each pixel, the representative color of the target pattern post-printed on each background color, and each pixel. The color of is calculated (S03). FIG. 10C shows an example in which a background and a pattern are displayed in respective representative colors for each image.
補正パラメータ設定部22dは、上記の拡張粒子密度モデルにしたがって、対象パターンの混色補正式におけるパラメータを計算する(S04)。学習パターン登録部22aで登録した基本背景色上の対象パターンの代表色は、ユーザがパターン抽出時に指定する際に選択可能な色として登録され、基本背景色と補正パラメータとは、補正計算に用いられる係数としてパラメータファイルに登録される。 The correction parameter setting unit 22d calculates the parameters in the color mixture correction formula of the target pattern according to the above extended particle density model (S04). The representative color of the target pattern on the basic background color registered by the learning pattern registration unit 22a is registered as a color that can be selected when the user specifies at the time of pattern extraction, and the basic background color and the correction parameter are used for correction calculation. Is registered in the parameter file as a coefficient.
抽出モジュール23の処理が開始すると、ユーザは、学習モジュール22の処理で登録された色から抽出したいパターン色(抽出インク色)を選択して指定する(S11)。続いて、任意の背景色上に同インクでパターンがポストプリントされた抽出対象画像を入力する(S12)。入力画像の例を図12(A)に示す。分離部23aは、2値化により入力された画像をパターンと背景とに分離する(S13)。分離されたパターンの二値画像を図12(B)に示す。 When the process of the extraction module 23 starts, the user selects and specifies a pattern color (extracted ink color) to be extracted from the colors registered in the process of the learning module 22 (S11). Subsequently, an extraction target image in which a pattern is post-printed with the same ink on an arbitrary background color is input (S12). An example of the input image is shown in FIG. The separation unit 23a separates the image input by binarization into a pattern and a background (S13). A binary image of the separated pattern is shown in FIG.
連結成分計算部23bは、二値画像に対してラベリングなどを行い、パターンから連結成分を抽出する(S14)。図12(C)は、連結成分の計算結果を示し、点線の外接矩形で囲まれた部分が1つの連結成分である。続いて、色計算部23cは、背景色の代表色とパターンの各連結成分の代表色とを計算する(S15)。図12(D)は、連結成分毎の代表色を示す。 The connected component calculation unit 23b performs labeling on the binary image and extracts the connected component from the pattern (S14). FIG. 12C shows a calculation result of a connected component, and a portion surrounded by a dotted circumscribed rectangle is one connected component. Subsequently, the color calculation unit 23c calculates a representative color of the background color and a representative color of each connected component of the pattern (S15). FIG. 12D shows a representative color for each connected component.
混色補正部23dは、学習モジュール22で求めた補正式を使い、連結成分毎に背景色と連結成分の代表色を用いて混色補正を行い、基本背景色上に表示した場合の色を推定する(S16)。図12(E)は、補正後のパターンを示す。判定部23eは、各連結成分の混色補正後の代表色と、指定色(抽出を指定したパターンの代表色)とを照合し(S17)、補正後のパターン色が指定色と一致するか否かを図13に示すように、閾値処理によって連結成分毎に判断する(S18)。一致すると判定された場合には、対象連結成分を対象パターンとして抽出し(S19)、一致しないと判定された場合には、対象連結成分を消去する(S20)。なお、連結成分より細かい単位で、例えば画素単位で判定したい場合には、S14の連結成分計算を行わずに、画素単位で混色補正、指定色との一致判定を実行すればよい。 The color mixture correction unit 23d uses the correction formula obtained by the learning module 22 to perform color mixture correction for each connected component using the background color and the representative color of the connected component, and estimates the color when displayed on the basic background color. (S16). FIG. 12E shows the corrected pattern. The determination unit 23e collates the representative color after the color mixture correction of each connected component with the designated color (representative color of the pattern for which extraction is designated) (S17), and whether or not the corrected pattern color matches the designated color. As shown in FIG. 13, it is determined for each connected component by threshold processing (S18). If it is determined that they match, the target connected component is extracted as a target pattern (S19), and if it is determined that they do not match, the target connected component is deleted (S20). Note that if it is desired to make a determination in units smaller than the connected components, for example, in units of pixels, the color mixture correction and determination of matching with the specified color may be performed in units of pixels without performing the connected component calculation in S14.
抽出結果は、ユーザの要求に応じて、ディスプレイ30に表示され、あるいは、プリンタ31によりプリントアウトされる。その際、図14(A)に示すようにカラー画像(図ではグレースケールで示される)で出力してもよいし、図14(B)に示すように2値画像で出力してもよい。 The extraction result is displayed on the display 30 or printed out by the printer 31 according to the user's request. At that time, a color image (shown in gray scale in the figure) may be output as shown in FIG. 14A, or a binary image may be output as shown in FIG. 14B.
10 カラーパターン抽出装置
11 CPU
13 RAM
14 インターフェイス
20 HD
21 カラーパターン抽出プログラム
22 学習部
23 抽出部10 Color pattern extraction device 11 CPU
13 RAM
14 interface 20 HD
21 Color pattern extraction program 22 Learning unit 23 Extraction unit
Claims (5)
抽出対象となる特定色のパターンの基本背景色上での色である基本パターン色と前記基本背景色との組、及び、前記特定色のパターンの前記基本背景色とは異なる参照背景色上での色である参照パターン色と前記参照背景色との組の少なくとも2組の色情報に基づいて、前記特定色のパターンを任意の背景色上に表示した場合に得られるパターン色を、前記基本背景色上に表示させた際に得られると推定される色に変換するための補正パラメータを求める学習手段と、
入力された画像を対象パターンと背景とに分離して対象パターン色と背景色とを求め、これらの値と前記学習手段により得られた補正パラメータとを用いて、対象パターン色を前記基本背景色上に表示した際に得られると推定される色に変換し、変換された対象パターンから前記基本パターン色に一致するパターンを抽出する抽出手段と、
を備えることを特徴とするカラーパターン抽出装置。A color pattern extraction apparatus for extracting a specific color pattern from a color image,
On the reference background color that is different from the basic background color of the pattern of the specific color and the basic background color of the basic pattern color that is a color on the basic background color of the pattern of the specific color to be extracted A pattern color obtained when a pattern of the specific color is displayed on an arbitrary background color based on at least two sets of color information of a reference pattern color that is a color of the reference color and the reference background color. Learning means for obtaining a correction parameter for conversion to a color estimated to be obtained when displayed on a background color;
The input image is separated into the target pattern and the background to obtain the target pattern color and the background color, and using these values and the correction parameter obtained by the learning means, the target pattern color is determined as the basic background color. An extraction means for converting to a color estimated to be obtained when displayed above, and extracting a pattern that matches the basic pattern color from the converted target pattern;
A color pattern extraction apparatus comprising:
前記基本背景色上に前記特定色のパターンが表された基本画像と、前記参照背景色上に前記特定色のパターンが表された参照画像とを登録する学習パターン登録部と、
前記基本画像及び前記参照画像のそれぞれについて、パターンと背景とに分離する分離部と、
分離されたパターンと背景との代表色を求める色計算部と、
求められた代表色に基づいて前記補正パラメータを求める補正パラメータ設定部と、
を備えることを特徴とする請求項1に記載のカラーパターン抽出装置。The learning means includes
A learning pattern registration unit for registering a basic image in which the pattern of the specific color is represented on the basic background color and a reference image in which the pattern of the specific color is represented on the reference background color;
For each of the basic image and the reference image, a separation unit that separates a pattern and a background;
A color calculation unit for obtaining a representative color of the separated pattern and the background;
A correction parameter setting unit for obtaining the correction parameter based on the obtained representative color;
The color pattern extraction apparatus according to claim 1, further comprising:
入力された画像を対象パターンと背景とに分離する分離部と、
分離された対象パターンと背景との代表色を求める色計算部と、
求められた代表色と前記補正パラメータとに基づいて前記対象パターンの代表色を変換する混色補正部と、
色変換された対象パターンの色が前記基本パターン色に一致するか否かを判定する判定部と、
を備えることを特徴とする請求項1または2に記載のカラーパターン抽出装置。The extraction means includes
A separation unit that separates an input image into a target pattern and a background;
A color calculator for obtaining representative colors of the separated target pattern and the background;
A color mixing correction unit that converts a representative color of the target pattern based on the obtained representative color and the correction parameter;
A determination unit that determines whether or not the color of the target pattern subjected to color conversion matches the basic pattern color;
The color pattern extraction apparatus according to claim 1, further comprising:
コンピュータに、
抽出対象となる特定色のパターンの基本背景色上での色である基本パターン色と前記基本背景色との組、及び、前記特定色のパターンの前記基本背景色とは異なる参照背景色上での色である参照パターン色と前記参照背景色との組の少なくとも2組の色情報に基づいて、前記特定色のパターンを任意の背景色上に表示した場合に得られるパターン色を、前記基本背景色上に表示させた際に得られると推定される色に変換するための補正パラメータを求める学習機能と、
入力された画像を対象パターンと背景とに分離して対象パターン色と背景色とを求め、これらの値と前記学習手段により得られた補正パラメータとを用いて、対象パターン色を前記基本背景色上に表示した際に得られると推定される色に変換し、変換された対象パターンから前記基本パターン色に一致するパターンを抽出する抽出機能と、
を実行させることを特徴とするカラーパターン抽出プログラム。A color pattern extraction program that causes a computer to operate yesterday as a color pattern extraction device that extracts a pattern of a specific color from a color image,
On the computer,
On the reference background color that is different from the basic background color of the pattern of the specific color and the basic background color of the basic pattern color that is a color on the basic background color of the pattern of the specific color to be extracted A pattern color obtained when a pattern of the specific color is displayed on an arbitrary background color based on at least two sets of color information of a reference pattern color that is a color of the reference color and the reference background color. A learning function for obtaining a correction parameter for conversion to a color estimated to be obtained when displayed on a background color;
The input image is separated into the target pattern and the background to obtain the target pattern color and the background color, and using these values and the correction parameter obtained by the learning means, the target pattern color is determined as the basic background color. An extraction function that converts to a color estimated to be obtained when displayed above and extracts a pattern that matches the basic pattern color from the converted target pattern;
A color pattern extraction program characterized in that
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2006/306585 WO2007110965A1 (en) | 2006-03-29 | 2006-03-29 | Color pattern extracting device and color pattern extracting program |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2007110965A1 JPWO2007110965A1 (en) | 2009-08-06 |
JP4322310B2 true JP4322310B2 (en) | 2009-08-26 |
Family
ID=38540905
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008507347A Expired - Fee Related JP4322310B2 (en) | 2006-03-29 | 2006-03-29 | Color pattern extraction apparatus and color pattern extraction program |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4322310B2 (en) |
WO (1) | WO2007110965A1 (en) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2783033B2 (en) * | 1992-01-13 | 1998-08-06 | 日本電気株式会社 | Method and apparatus for extracting area of color image |
JPH06203157A (en) * | 1992-10-14 | 1994-07-22 | Fujitsu Ltd | Color image processing method and apparatus |
JP3501907B2 (en) * | 1996-09-27 | 2004-03-02 | グローリー工業株式会社 | Color identification device |
-
2006
- 2006-03-29 JP JP2008507347A patent/JP4322310B2/en not_active Expired - Fee Related
- 2006-03-29 WO PCT/JP2006/306585 patent/WO2007110965A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2007110965A1 (en) | 2007-10-04 |
JPWO2007110965A1 (en) | 2009-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8331670B2 (en) | Method of detection document alteration by comparing characters using shape features of characters | |
CN110390260B (en) | Picture scanning piece processing method and device, computer equipment and storage medium | |
JP4006224B2 (en) | Image quality determination method, determination device, and determination program | |
US7889929B2 (en) | Image processing apparatus, image processing method, computer readable medium storing program and data signal embedded with the program | |
JP5559619B2 (en) | A method for detecting changes in printed documents using image comparison analysis | |
JP4877374B2 (en) | Image processing apparatus and program | |
JP5387193B2 (en) | Image processing system, image processing apparatus, and program | |
US20210064859A1 (en) | Image processing system, image processing method, and storage medium | |
CN109948549B (en) | OCR data generation method and device, computer equipment and storage medium | |
TW200842734A (en) | Image processing program and image processing device | |
KR20210081267A (en) | Apparatus for processing image, storage medium, and image processing method | |
JP4748234B2 (en) | Image processing apparatus and image forming apparatus | |
CN111241974A (en) | Bill information acquisition method and device, computer equipment and storage medium | |
JP4322310B2 (en) | Color pattern extraction apparatus and color pattern extraction program | |
JP4632443B2 (en) | Image processing apparatus, image processing method, and program | |
WO2006080568A1 (en) | Character reader, character reading method, and character reading control program used for the character reader | |
JP2017138743A (en) | Image processing apparatus, image processing method, and program | |
CN113569916A (en) | Tile label recognition model training method and tile label recognition method | |
JP2010219848A (en) | Document image processor and document image processing method | |
JP6613625B2 (en) | Image processing program, image processing apparatus, and image processing method | |
JP6459528B2 (en) | Image correction apparatus, image correction system, image correction method, and image correction program | |
CN111210455B (en) | Method and device for extracting preprinted information in image, medium and electronic equipment | |
JP4974794B2 (en) | Document recognition apparatus, document recognition method, and computer program | |
US20090316210A1 (en) | Image forming apparatus, image forming method and computer readable medium | |
JP2000155806A (en) | Character recognition method and its device and dictionary preparation method and its device and character quality judgment method and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090526 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090602 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4322310 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120612 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120612 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130612 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130612 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |