JP3957495B2 - 画像センサ - Google Patents
画像センサ Download PDFInfo
- Publication number
- JP3957495B2 JP3957495B2 JP2001358084A JP2001358084A JP3957495B2 JP 3957495 B2 JP3957495 B2 JP 3957495B2 JP 2001358084 A JP2001358084 A JP 2001358084A JP 2001358084 A JP2001358084 A JP 2001358084A JP 3957495 B2 JP3957495 B2 JP 3957495B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- image
- region
- image sensor
- shadow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Description
【発明の属する技術分野】
本発明は、撮影した画像を解析し、画像に現れる変化の要因を特定することにより、移動体を検出する画像センサに関する。
【0002】
【従来の技術】
従来、監視カメラにて監視領域を撮影し、画像中で変化した領域(変化領域)が人間の特徴を示す領域であるか否かを分析し、監視領域内における侵入者の有無を判定する画像センサが提案されている。
このような画像センサにおいて、監視領域内に外部から光が差し込むと、光が映った部分が変化領域として検出されることがある。この変化領域を人間によるものと判定することを防止するため、光の入射により発生した変化領域を光領域として判定できるようにした画像センサが提案されている(特開2000−341677)。
【0003】
この画像センサにおいては、更に、外部にいる人の影が光領域内に映った場合、影の移動に伴い変化領域が移動をしたことを検出したときに、これを影による変化領域として検出することが行われる。これにより、影による変化領域を人によるものと誤判定をすることを防止している。
また、画像中の変化領域について、光、影、小動物などの外乱の特徴を示す領域であるかを分析し、監視領域内における侵入者の有無の判定から外乱による影響を排除する画像センサが提案されている(特開2001−243475)。
【0004】
これらの画像センサは、監視領域を撮影した画像であって、侵入者が写っていない画像、所定時間前の画像、あるいはこれら複数の画像を合成した画像などを基準画像とする。この基準画像と同じ監視領域を撮影した画像(現画像)とを比較し、画像中で変化があった領域(変化領域)に対して種々の分析を行い、侵入者の有無を検出している。
【0005】
上記画像センサにおける変化領域の分析方法を説明すると次のとおりである。画像処理部で、変化領域について画像情報から人間らしさを多値で示す人属性情報と人間以外の要因らしさを多値で示す外乱属性情報とを算出する。なお、外乱としては、光、影、又は猫などの小動物に起因するものがある。判定部で、人属性情報と外乱属性情報との比率に基づき人間の存在の有無を判定する。判定部が人が存在すると判定した場合、出力部は、警報装置やベルなどにより人を検知した旨を通報する。このように人間と外乱との区別を行うことにより、人間の存在の検出を精度良く行うことができる。
【0006】
上記の各画像センサにおいては、変化領域を整合化処理し、整合化された一塊の領域を同一原因による変化、すなわち同一移動体と判断している。同一移動体と認識された変化領域は分析の一単位とされ、変化領域全体のエッジの変化、テクスチャの変化、輝度ヒストグラムの変化などの特徴量が算出される。そして、これらの特徴量に基づいて、変化領域が人に起因する特徴を有するのか、外乱に起因する特徴を有するのかを判断していた。
例えば、変化領域におけるテクスチャの変化は、基準画像における変化領域に対する対応領域が異なると、変化領域におけるテクスチャの変化として現れる特徴量も異なる。したがって、基準画像における対応領域のテクスチャの変化により、分析のための判定ロジックを選択しなければならない。
【0007】
図を用いて基準画像のテクスチャの変化により判定ロジックを選択する理由を説明する。
図1は、太陽光が窓から入射している領域とその外の領域とで影による変化を判定するロジックが異なることを説明するための図である。
A−1は基準画像を示す。ここには、窓から太陽光が入射して床面1に映った領域(太陽光領域2)があることを示す。A−2は現画像を示す。ここには、窓の外を人が通ったことにより、太陽光領域2内に人の影3が映っている状態を示す。A−3は、基準画像A−1と現画像A−2を比較した結果の変化領域4を示す。
【0008】
B−1は、太陽光領域がない監視領域を撮影した基準画像を示す。B−2は現画像で、監視領域内にいる人の影5が映っている状態を示す。B−3は、変化領域6を示す。
太陽光領域2内の影3は強い影であるためテクスチャが保存されにくく(テクスチャが透けて見えにくく)、また、変化領域4が太陽光領域2内から出ないという性質がある。他方、太陽光領域の外の影5は、淡い影であるためテクスチャが保存される(テクスチャが透けて見える)という性質がある。
【0009】
したがって、太陽光領域2内とそれ以外の領域とでは、同じ影による変化を判定する場合であっても、判定ロジックを変える必要がある。従来の画像センサにおいては、変化領域4、6が太陽光領域2内にあるかそれ以外の領域にあるかを判断してから、判定ロジックの選択を行っていた。
なお、判定ロジックの選択は、テクスチャの変化だけでなく、エッジの変化、輝度レベルの変化によっても行われる。
【0010】
【発明が解決しようとする課題】
しかしながら、変化領域全体についてエッジの変化、テクスチャの変化、輝度ヒストグラムの変化などの特徴量を算出して、これらの特徴量に基づいて、変化領域が人に起因する特徴を有するのか、あるいは外乱に起因する特徴を有するのかを判断するだけでは、以下に示すような新たな問題が発生することが判明した。
【0011】
この点について図2を用いて説明する。
図2のC−1は基準画像で、太陽光が窓から差し込んで、太陽光領域2が床面1にできたことを示している。C−2は現画像で、窓の外を通る人の影9が太陽光領域2内に映っている。このような状況では、影9が接する太陽光領域2の縁10に接して、太陽光領域2の外側に淡い影(はみ出し影)8が出現することがある。C−3は変化領域を示し、二つの影8、9は一塊の変化領域7として検出されている。
【0012】
変化領域7が人に起因するものか影などの外乱に起因するものかが判定される場合、変化領域7における二つの影8と9が占める割合の差が大きければ、大きいほうの特徴量に基づいて強い影又は淡い影と判定することができる。つまり、判定ロジック使用時における小さい方の特徴量による全体の特徴量への影響は少ない。
しかし、二つの影8と9が占める割合の差が小さい場合は、相互の特徴量への影響が大きくなり、適切な判定結果が得られない場合が生じる。その結果、変化領域が影領域であるにもかかわらず、強い影領域でも淡い影領域でもないと判定されることがある。これにより、画像センサが誤報又は失報をすることがある。
【0013】
このような現象は、基準画像の領域ごとに異なった特性の差(輝度の差、エッジの差、テクスチャの差など)があり、この特性の差が移動体検出の判定に使用する特徴量に影響を及ぼすことに起因するものである。したがって、同様な状態は太陽光領域に限らず発生する。例えば、監視領域にテクスチャの強い領域と弱い領域が並存する場合などにおいても生じる。
【0014】
図3は、監視領域の背景のテクスチャが領域ごとに変化する例を示す。
D−1は基準画像で、背景となる壁面11にはテクスチャが少なく、床面1にはテクスチャが多いことを示している。D−2は現画像で、人12が映っており、上半身は壁面11を背景とし、下半身は床面1を背景としている。D−3は変化領域13を示し、その上半分には壁面11のテクスチャによる人の画像が持つテクスチャへの影響があまり出ておらず、下半分は床面1のテクスチャによる人の画像が持つテクスチャへの影響が多く出ている。
【0015】
人属性情報について判定をするときは、基準画像との正規化相関が低い(以下「F1」とする。)、エッジ消去度が高い(F2)、エッジ増加度が高い(F3)という判定ロジックが用いられる。これらの特徴は背景画像のテクスチャの度合いによって信頼性が変化する。
この判定ロジックを図3の例に適用する場合、変化領域13の上半分においては、F1、F2を用いた判定は信頼性が低く、F3を用いた判定は信頼性が高くなる。逆に、下半分においては、F1、F2を用いた判定は信頼性が高く、F3を用いた判定は信頼性が低くなる。
【0016】
したがって、図3に示した例においても、一つの判定ロジックを用いただけでは変化領域13を人12によるものと判定せずに、外乱によるものと判定することが発生し得る。
なお、図2及び3を用いて説明した例では、基準画像にテクスチャが異なる領域がある場合の誤判定について説明をしたが、基準画像にエッジ、輝度レベルが異なる領域がある場合も同様に誤判定が発生する。
【0017】
本発明は、基準画像において特性の異なる領域がある場合でも、変化領域に対して適切な特徴量の算出を可能とし、確実に移動体を検出できる画像センサの実現を目的とするものである。
【0018】
【課題を解決するための手段】
本願発明は上記目的を達成するためになされたものである。本発明の画像センサは、入力された画像から移動体を検出する画像センサであって、撮影された監視画像を取得する入力手段と、基準画像と前記監視画像とを比較し、画像中の変化領域を抽出する変化領域抽出手段と、前記変化領域を基準画像の領域特性が所定値以上の領域とその所定値未満の領域とに分割する分割手段と、前記変化領域の分割された領域ごとに移動体としての特徴量を算出する特徴量算出手段と、前記分割された領域ごとの特徴量から前記変化領域全体について移動体判定を行う統合判定手段とを具備する。
【0019】
本発明の画像センサによれば、変化領域を基準画像の領域特性に基づいて分割し、分割領域ごとの特徴量について分析を行い、この分析結果から変化領域全体について移動体判定を行う。これにより、異なる特徴量を有する領域が整合化された一つの変化領域として検出された場合であっても、適切な判定結果を得ることができる。
【0020】
【発明の実施の形態】
本発明の実施形態について図を用いて説明する。
図4は画像センサの構成を示す。
画像センサ21は、監視領域を撮影する撮像部22、取得した画像情報を画像処理して人属性情報と外乱属性情報を算出する画像処理部23、人属性情報と外乱属性情報から人間の存在の有無を判定する判定部24、判定結果を外部に対して出力する出力部25から構成される。
【0021】
撮像部22は、光学系、CCD素子又はC−MOS素子などの素子から構成され、監視領域を撮影した撮像データをA/D変換したディジタル画像を画像処理部23に出力する。
画像処理部23は、撮像部22から取得した画像情報を処理し、特徴量の抽出、各属性の算出などを行う。画像処理部23のハード構成は、画像処理用のICチップや画像用のメモリなど一般に使用されるものが用いられるが、本発明の本質でないので、詳細は省略する。
【0022】
画像処理部23は、人属性算出部26と外乱属性算出部27から構成される。さらに、外乱属性算出部27は、光属性算出部28、影属性算出部29、小動物属性算出部30から構成される。
判定部24は、人属性情報と外乱属性情報との比率に基づいて、人間の存在の有無を判定する。判定のアルゴリズムについては後述する。
出力部25は、判定部24の判定結果に応じて、警報装置やベルなどにより、人を検知した旨を通報する。
【0023】
以下、人属性算出部26と外乱属性算出部27の動作を説明する。なお、外乱属性算出部27に関しては、影属性算出部29についてのみ説明する。その外の光属性算出部28、小動物属性算出部30も同様な処理を行うものである。
また、各属性算出部26、28〜30は、以下に説明する処理を実行するだけでなく外の算出方法、例えば特開2001−243475に開示された算出方法を併用することも可能である。
【0024】
図5のフローチャートを用いて影属性算出部29における算出処理を説明する。本処理は、図2に示した影の分析に適しているので、図2を参照しながら説明をする。
ステップS1で、変化領域7を、太陽光領域2と重なる領域A(影9)と重ならない領域B(影8)に分割する。
【0025】
なお、太陽光領域2の決定方法は、基準画像上で絶対輝度又は相対輝度が所定値を超える画素による領域を太陽光領域2とすることにより行われる。ここで、絶対輝度とは、シャッタスピード、AGCゲイン値などの画像制御量から、画像上の輝度値を監視領域における実際の輝度に変換したものである。相対輝度とは、基準画像上の輝度値をそのまま採用したものである。絶対輝度を採用する方法によれば正確な結果が得られ、相対輝度を採用する方法によれば処理を簡単にすることができる。
【0026】
ステップS2で、領域Aと領域Bのそれぞれの面積が共に特徴量として使用するために必要な画素数として20画素以上であるか否かが判定される。ここでYES(領域A、Bが共に20画素以上)であれば、変化領域7が太陽光領域2とその他の領域にまたがっていると判定してステップS3へ進み、NO(領域A、Bの一方又は両方が小さい。)であれば、変化領域7が太陽光領域2とその他の領域にまたがっていないと判定してステップS11へ進む。
【0027】
ステップS3で、領域A(太陽光領域2と重なる領域)において、強い影の特徴を有する度合い(0〜1の値)を計算する。例えば、背景画像におけるテクスチャとの類似度により強い影か否かを判定する。領域Aが強い影によるものであれば背景画像のテクスチャは検出されず、変化領域の輪郭線以外にエッジは検出されない。図2の例であれば、影9が強い影の特徴を有する度合いは高いものとなる。
【0028】
ステップS4で、領域B(太陽光領域2と重ならない領域)において、淡い影の特徴を有する度合い(0〜1の値)を計算する。領域Bが淡い影によるものであれば背景画面におけるテクスチャが保存される。図2の例であれば、影8が淡い影の特徴を有する度合いは高いものとなる。
ステップS5で、領域Aでは強い影の特徴をもち、領域Bでは淡い影の特徴をもつ度合いを混合影領域度として計算する。例えば、
混合影領域度=(領域Aの強い影の特徴を有する度合い)×(領域Bの淡い影の特徴を有する度合い)で計算する。
ステップS6で、計算した混合影領域度を影属性度として記憶する。その後、ステップS7へ進む。
【0029】
ステップS2でNO(はみ出し影なし)のとき、ステップS11で、変化領域全体について強い影の特徴を有する度合い(強い影特徴度、0〜1の値)を計算する。ここでの計算方法はステップS3と同様である。
ステップS12で、変化領域全体について淡い影の特徴を有する度合い(淡い影特徴度、0〜1の値)を計算する。ここでの計算方法はステップS4と同様である。
【0030】
ステップS13で、淡い影特徴度と強い影特徴度の値から影属性度の値を決定する。例えば、淡い影特徴度と強い影特徴度の内の最大値を影属性度の値として採用する。変化領域が強い影によるものであれば、ステップS11で計算された度合いが高いものとなる。変化領域7が淡い影によるものであれば、ステップS12で計算された度合いが高いものとなる。その後、ステップS7へ進む。
【0031】
ステップS7で、ステップS6又はステップS13で計算した影属性度を記憶する。
以上の処理と同様の処理が光属性算出部28及び小動物属性算出部30においても行われ、それぞれ光属性度、小動物属性度を記憶する。
【0032】
図6のフローチャートを用いて人属性算出部26における人属性算出処理を説明する。本処理は、図3に示した人の分析に適しているので、図3を参照しながら説明をする。
人の領域らしい特徴としては、図3の説明で述べたように、基準画像との正規化相関が低い(F1)、エッジ消去度が高い(F2)、エッジ増加度が高い(F3)がある。
【0033】
ステップS21で、変化領域13を、テクスチャ領域(床面1)と重なる領域Aと、そうでない領域(壁面11)と重なる領域Bとに分割する。
ここで、テクスチャ領域の作成方法を説明する。基準画像(D−1)を小領域にブロック分割(例、3×4に分割)して、平均エッジ量が多い、又は、分散値が高いなどと判定された分割領域をテクスチャのある分割領域とする。
【0034】
ステップS22で、領域Aについて、F1とF2の特徴量の重みを高くした人の領域らしさHA を計算する。例えば、
HA=α1×F1の度合い+α2×F2の度合い+α3×F3の度合い
ただし、重み係数をαは、α1>α2>α3で、α1+α2+α3=1の関係にある。
ステップS23で、領域Bについて、F3の特徴量の重みを高くした人の領域らしさHB を計算する。
HB=α4×F1の度合い+α5×F2の度合い+α6×F3の度合い
ただし、重み係数をαは、α4<α5<α6で、α4+α5+α6=1の関係にある。
【0035】
ステップS24で、領域Aと領域Bにおけるそれぞれの人の領域らしさから、変化領域13全体の人の領域らしさを計算する。例えば、変化領域13全体における領域Aの比率SA (0〜1の値)と領域Bの比率SB (0〜1の値)を求め(SA+SB=1である。)、変化領域13全体の人の領域らしさHALLを、
HALL=SA×HA+SB×HBで計算する。
ステップS25でHALLを記憶する。
【0036】
判定部24は、人属性算出部26に記憶してある人属性情報と、光属性算出部28、影属性算出部29、小動物属性算出度30に記憶してある光属性情報、影属性情報、出力動物属性情報との比率に基づき、変化領域13が人によるものかその外の外乱によるものかを判定し、人の存在の有無を判定する。
判定部24において人が存在すると判定すると、出力部25は警報装置やベルなどにより人を検知した旨を通報する。
【0037】
【発明の効果】
本発明によれば、変化領域が特性の異なる領域を有する場合に、分割領域ごとに特徴量の算出をするので、変化領域が人によるものか、外乱によるものかを正確に判定することができる。
【図面の簡単な説明】
【図1】異なる影の特性を説明する図である。
【図2】異なる影の特性を示す変化領域を説明する図である。
【図3】異なる背景を含む変化領域を説明する図である。
【図4】本発明の画像センサの回路構成を示す図である。
【図5】図4の画像センサにおける影属性算出処理を示すフローチャートである。
【図6】図4の画像センサにおける人属性算出処理を示すフローチャートである。
【符号の説明】
1…床面
2…太陽光領域
3…影
4…変化領域
5…影
6…変化領域
7…変化領域
8…影
9…影
10…縁
11…壁面
12…人
13…変化領域
21…画像センサ
22…撮像部
23…画像処理部
24…判定部
25…出力部
26…人属性算出部
27…外乱属性算出部
28…光属性算出部
29…影属性算出部
30…小動物属性算出部
Claims (8)
- 入力された画像から移動体を検出する画像センサであって、
撮影された監視画像を取得する入力手段と、
基準画像と前記監視画像とを比較し、画像中の変化領域を抽出する変化領域抽出手段と、
前記変化領域を前記基準画像の領域特性が所定値以上の領域と該所定値未満の領域とに分割する分割手段と、
前記変化領域の分割された領域ごとに、移動体としての特徴量を算出する特徴量算出手段と、
前記分割された領域ごとの特徴量から前記変化領域全体について移動体判定を行う統合判定手段と、
を具備することを特徴とした画像センサ。 - 前記領域特性が輝度レベルである請求項1に記載の画像センサ。
- 前記領域特性が、前記基準画像を複数の小領域に分割したときの各小領域ごとの平均エッジ量又は分散値である請求項1に記載の画像センサ。
- 前記特徴量算出手段は、前記分割手段にて領域分割する根拠とした前記領域特性が前記所定値以上か前記所定値未満かに応じて、前記分割された領域ごとに算出する特徴量を選択する請求項1〜3のいずれか1項に記載された画像センサ。
- 前記特徴量は、影属性である請求項4に記載の画像センサ。
- 前記特徴量算出手段は、前記分割手段にて分割する根拠とした前記領域特性に応じて算出する特徴量に重み付けを行う請求項1〜3のいずれか1項に記載された画像センサ。
- 前記重み付けを行う特徴量は、人属性である請求項6に記載の画像センサ。
- 前記分割手段は、分割領域が所定画素以上であるときに分割を実行する請求項1〜7のいずれか1項に記載された画像センサ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001358084A JP3957495B2 (ja) | 2001-11-22 | 2001-11-22 | 画像センサ |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001358084A JP3957495B2 (ja) | 2001-11-22 | 2001-11-22 | 画像センサ |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003162724A JP2003162724A (ja) | 2003-06-06 |
JP3957495B2 true JP3957495B2 (ja) | 2007-08-15 |
Family
ID=19169324
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001358084A Expired - Fee Related JP3957495B2 (ja) | 2001-11-22 | 2001-11-22 | 画像センサ |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3957495B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4533836B2 (ja) * | 2005-12-01 | 2010-09-01 | 株式会社東芝 | 変動領域検出装置及びその方法 |
AU2007231552B2 (en) | 2006-03-29 | 2011-10-20 | Dti Group Ltd | Testing surveillance camera installations |
JP5218168B2 (ja) | 2009-03-11 | 2013-06-26 | ソニー株式会社 | 撮像装置、動体検知方法、動体検知回路、プログラム、及び監視システム |
JP6124739B2 (ja) * | 2013-08-29 | 2017-05-10 | セコム株式会社 | 画像センサ |
JP6687659B2 (ja) * | 2018-03-26 | 2020-04-28 | セコム株式会社 | 領域区分装置 |
-
2001
- 2001-11-22 JP JP2001358084A patent/JP3957495B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003162724A (ja) | 2003-06-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2071280B1 (en) | Normal information generating device and normal information generating method | |
JP4308319B2 (ja) | 画像処理装置および画像処理方法 | |
US8660317B2 (en) | Object image detection method and object image detection device for detecting an object image from an input image | |
JP4232078B2 (ja) | 不良ピクセルを検出し補正するセンサ装置 | |
JP5106356B2 (ja) | 画像監視装置 | |
US7177445B2 (en) | Discriminating between changes in lighting and movement of objects in a series of images using different methods depending on optically detectable surface characteristics | |
KR20090086898A (ko) | 비디오 카메라를 사용한 연기 검출 | |
JP2009217835A (ja) | 非動作検出方法 | |
JPH07302328A (ja) | 背景差分による動物体領域抽出方法 | |
JP4389602B2 (ja) | 物体検出装置、物体検出方法、プログラム | |
JP2010003177A (ja) | 画像処理装置 | |
KR101769741B1 (ko) | 동공 탐지를 통한 홍채 인식 방법 및 홍채 인식 장치 | |
JP4740755B2 (ja) | 画像を用いた監視装置 | |
JP3957495B2 (ja) | 画像センサ | |
JP3134845B2 (ja) | 動画像中の物体抽出装置及び方法 | |
JP7074174B2 (ja) | 識別器学習装置、識別器学習方法およびコンピュータプログラム | |
US20230377170A1 (en) | Method for motion detection and circuit system | |
CN114124397B (zh) | 用于确定视频的真实性的方法和设备 | |
JPH05300516A (ja) | 動画処理装置 | |
JPH057363A (ja) | 画像監視装置 | |
KR101648562B1 (ko) | 이동 물체 탐지 장치 | |
JP4544955B2 (ja) | 画像監視装置 | |
JP4565738B2 (ja) | 画像センサ | |
JP2503613B2 (ja) | 異常監視装置 | |
JP3490196B2 (ja) | 画像処理装置及びその方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041028 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070109 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070308 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070410 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070508 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3957495 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100518 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110518 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110518 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120518 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130518 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130518 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |