JPH0993581A - 動画像符号化装置の動き検出装置 - Google Patents
動画像符号化装置の動き検出装置Info
- Publication number
- JPH0993581A JPH0993581A JP24205795A JP24205795A JPH0993581A JP H0993581 A JPH0993581 A JP H0993581A JP 24205795 A JP24205795 A JP 24205795A JP 24205795 A JP24205795 A JP 24205795A JP H0993581 A JPH0993581 A JP H0993581A
- Authority
- JP
- Japan
- Prior art keywords
- arithmetic unit
- block
- search
- pixel
- motion detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 31
- 230000000593 degrading effect Effects 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 12
- 238000006073 displacement reaction Methods 0.000 description 9
- 230000001186 cumulative effect Effects 0.000 description 7
- 238000000034 method Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
の動き検出装置に関し、動き検出の検索精度を低下させ
ることなく回路規模を削減することを目的とする。 【解決手段】ブロックマッチングにより動き検出を行う
動き補償予測型動画像符号化装置の動き検出装置であっ
て、現画面のブロックと前画面のブロックの各画素の差
分を計算する複数の演算器からなる第1の演算器群を備
え、該第1の演算器群の各演算器は画素桁精度よりも低
い計算精度で構成し、動き検出は、第1段階として該第
1の演算器群を用いて検索し、第2段階として該第1の
演算器群を2以上の演算器を互いに組み合わせて高精度
化した複数の演算器組に分けて第2の演算器群を構成し
てこの該第2の演算器群を用い複数回の演算を行うこと
で検索することで行うように構成した。
Description
動画像符号化装置の動き検出装置に関する。
いった最近の国際標準動画像符号化方式では、動きをブ
ロックマッチングで検出するフレ−ム間動き補償予測が
採用されている。図5はこの動き検出のためのブロック
マッチングの概念を説明する図である。図示するよう
に、現画面中の画素のブロックを前画面中の所定の検索
範囲内の複数のブロックと比較して両者の各画素値の差
分合計値が最も少ないブロックを検索し、その検索した
ブロックが前画面から現画面のブロックに移動したとし
て動きを検出するものである。
き補償予測を行うためには、探索範囲をある程度広くす
ることが必要であるが、これに伴って演算量と画像メモ
リからのデ−タ読出しが膨大なものとなる。
のサイズを720画素×480ライン、フレ−ム周波数
を30Hz、1画素あたりの値(輝度値)を8ビット、
マッチングを行うブロックサイズを16画素×16ライ
ン、探索範囲をそれぞれ上下15ライン、左右15画素
とした場合、 ブロック数は 720×480 ×30÷(16 ×16) =40,500 ブロ
ック/秒 ベクトル数は (15×2+1)×(15 ×2+1)=961ベクトル/ブ
ロック となり、したがって差分演算は 16 ×16×961 ×40,500=9,963,648,000回/秒 が必要である。
ると、 9,963,648,000/50MHZ =199.27 となるから、200以上の演算を並行して行わなければ
ならないことが判る。実際にはこの値を上回り、かつブ
ロックサイズである256とも整合性があり、さらにL
SIの高集積化もあって、演算器を256個並べること
が多くなってきている。この演算器は画像の精度のビッ
ト精度でそれぞれ構成される。
がかなり大きくなるので、回路規模を削減することが要
求される。そこで画像の精度を例えば8ビットとする
と、演算にはその8ビット中の例えば上位4ビットのみ
を用いることにすれば、各演算器を4ビットで構成する
ことができるので、回線規模はほぼ半分となる。しかし
下位ビットが表す詳細な情報を切り捨てることから、動
き検出性能が低下するという問題がある。
画素デ−タが存在する整数位置だけでなく、水平・垂直
それぞれの中間位置に周辺の画素の値を用いて画素を補
間し、それを予測値の候補とする方式が導入されてい
る。
図6において、実線で示す○は整数位置にある参照画
素、点線の○は隣接する実線の画素から補間された参照
画素である。参照される画面にある実線の○画素から成
るブロックと、点線の○から成るブロックを合わせたも
のの中から最適なブロックが選択(探索)される。
動き検出では、演算量を減らすために、まず第1段階と
して整数画素(実線の○)のみを対象として最適位置を
探索し、次いで第2段階として第1段階で検索した最適
位置の周囲の8個の半画素精度の補間画素(点線の○)
を対象として更に探索が行われる。
いて説明する。以降、説明を簡単にするために1次元の
画素列の場合について考えることにする。2次元につい
ては同じ処理を垂直方向に並列に行うことによって可能
だからである。
X 、参照する画像の画素列をB0 〜Bz とする。まず、
第1段階の整数画素単位探索とはA0 〜AX と最も近い
By〜By+x を求めることである。つまり図7で下式の
合計値Sumが最小となる位置yを求めることである。 Sum(y)=Σ|Ai −By+i | (1) 但し、Σはi=0からxまでの加算
トとする。この探索に必要な回路を図8に示す。S0 〜
Sx はそれぞれ減算器であり、nビットの入力をもち、
画素A,Bがそれぞれ入力されて両者の減算結果を絶対
値として出力する。加算器4は各減算器S0 〜Sx の減
算結果を加算して合計値Sumとして出力する。この回
路では、比較する画素の個数x+1と同じ数の減算器が
必要になる。探索範囲内でyを変化させ合計値Sumが
最小である変位yを求め、これを検索結果の変位Yとす
る。
図9に示す画素A,Cについて下式に示す合計値Sum
が最小となる位置Uを求めることである。ここで画素C
は参照画素Bから補間により求めた半画素精度の補間画
素である。 Ci (u)=(Bi+u +Bi+u+1 )/2 (2) Sum(u)=Σ|Ai −Ci (u)| (3) Sum(u)= minu Sum(u) (4)
ットとする。通常、半画素単位の探索は整数画素単位で
求められたYの周辺の隣り合った位置(Y−1≦u≦Y
+1)につていてだけ計算する。この探索に必要な回路
を図10に示す。やはり比較する画素の個数x+1と同
じ数の減算器が必要になり、各減算器の精度はnビット
が必要である。
規模の削減のために減算器の演算精度を落とすことが考
えられる。しかしその場合には前述同様に、探索精度が
著しく低下する。
一の構成をもつため、個々の演算器の回線規模を削減す
ることができれば演算器の数が多いだけその効果は大で
ある。例えば前述の例では1個の演算器の削減効果の2
56倍にもなる。
てなされたものであり、動き検出の検索精度を低下させ
ることなく回路規模を削減することを目的とする。
めに、本発明においては、ブロックマッチングにより動
き検出を行う動き補償予測型動画像符号化装置の動き検
出装置であって、現画面のブロックと前画面のブロック
の各画素の差分を計算する複数の演算器からなる第1の
演算器群を備え、該第1の演算器群の各演算器は画素桁
精度よりも低い計算精度で構成し、動き検出は、第1段
階として該第1の演算器群を用いて検索範囲内のブロッ
クのうちから差分の最も小さいブロックを検索し、第2
段階として該第1の演算器群を2以上の演算器を互いに
組み合わせて高精度化した複数の演算器組に分けて第2
の演算器群を構成し、該第1段階で検索したブロックを
含むその周辺のブロックに対して1ブロックの画素を複
数に分割して該第2の演算器群を用い複数回の演算を行
うことで差分の最も小さいブロックを検索することで行
うように構成した動画像符号化装置の動き検出装置が提
供される。
は、演算精度の低減である。そこで、本発明の動き検出
装置では、第1段階の検索ではブロックの画素の下位桁
を省略して第1の演算器群で検索を行うことでこの検索
に必要な演算器の計算精度を低くして全体の回路規模を
削減している。そして、第2段階の検索では第2の演算
器群により第1段階の検索よりも多い桁を演算に用いる
ことで検索精度を上げている。
る。ここでは前述同様に、説明を簡単化するために1次
元の画素列の場合を例にする。2次元については同じ処
理を垂直方向に並列に行うことによって行える。
X 、参照する画像の画素列をB0 〜Bz とする。第1段
階の探索ではA0 〜AX と最も近いBy 〜By+x を求め
る。つまり前記の(1)式のSumが最小となる位置y
を求める。
とする。この第1段階の探索に必要な回路を図2に示
す。第1段階の検索では、演算器S0 〜Sx に計算精度
(n−m)ビットのものを用いて行い、画素列A,Bは
最上位桁(MSB)側の(n−m)ビットを各演算器S
0 〜Sx に入力する。
〜By+x が求められたら、その検索した画素列を含むそ
の周辺にある画素列を求め、これを画素列Cとする。
に使用する演算器をp個にし、演算精度をA,Cそれぞ
れp倍{p×(n−m)ビット}として行う(図1)。
この場合、同時に差分計算する画素数が1/p個になる
ため(x+1)個画素の差分を求めるためにp回の演算
が必要になる。よって各回の演算結果を加算器4とメモ
リ7を用いて順次に累算していき、p回演算した後に最
終結果を得る。
時間の増加は避けられない。しかし第2段階の検索は第
1段階の探索範囲より狭い範囲(第1段階で検索したブ
ロックとその周辺ブロック)で行うため、処理時間の増
加は少ない。例えば第1段階で2次元でブロックの探索
を水平、垂直方向の31点について行い、第2段階の探
索は第1段階の探索で求めたYの周辺の8点について行
う場合を考える。このとき第1段階の探索に312 =9
61点での演算が必要となるのに対し、第2段階の探索
に必要な演算回数pの割合は全体の1%以下である。
を減らす一方、第2段階の探索の演算精度を上げること
で、第1段階と第2段階で演算器を共有しながら、最終
的に求まる探索誤差を少なく抑えることができる。
を、第1段階で検索したブロックを含むその周辺の補間
により求めたブロックに対して行うように構成すること
ができる。
−2では、画素デ−タが存在する整数位置だけでなく、
水平・垂直それぞれの中間位置に周辺の画素の値を用い
て画素を補間し、それを予測値の候補とする方式が導入
されている。本発明はこの方式にも適用できる。
す整数位置にある参照画素に対して行い、第2段階の検
索を第1段階の検索で求めた参照画素とその周辺の点線
の○で示す隣接する実線の画素から補間された参照画素
に対して行う。第1段階の整数画素探索には下位ビット
を省略し、第2段階の半画素探索は全てビット、あるい
は整数画素探索よりも多いビットを演算に用いること
で、検出精度を上げ、画質向上を図る。
の検索を、検索範囲内における全ブロックに対して行う
ことに代えて画素複数個置き(例えば1画素置き)の各
ブロックに対して行うように構成できる。
照して説明する。図3、図4には本発明の一実施例とし
ての動画像符号化装置の動き検出装置が示される。この
実施例装置は、画素デ−タが存在する整数位置だけでな
く、水平・垂直それぞれの中間位置に周辺の画素の値を
用いて画素を補間し、それを予測値の候補とする方式の
動画像符号化装置に本発明を適用したものである。
フレームメモリ、2は前画面の画像データを記憶するフ
レームメモリであり、画像データの各画素は8ビットか
らなる。3はフレームメモリ2から検索範囲にあるブロ
ックを読み出すアドレスを発生するアドレス発生器であ
る。
あり、フレームメモリ1からの画素データとフレームメ
モリ2からの画素データがそれぞれ入力されて両者の差
分を計算する。4は各減算器S0 〜S15からの差分値を
加算する加算器である。5は比較器、6はメモリであ
り、比較器5はメモリ6の内容(SumMin)と加算器4
の加算値SumTmpを比較し、加算値SumTmpが小さい場
合にそれを新たな加算値SumMinとしてメモリ6に送出
する。このメモリ6には加算値SumMinとともにその加
算値SumMinに対応する変位Yも記憶される。
あり、メモリ7の出力を加算器4の入力側に戻すことに
より、複数回の演算にわたる加算器4の加算結果をメモ
リ7に累算できるようになっている。また8は補間画素
生成回路であり、フレームメモリ2の画素を補間して半
画素精度の補間画素を生成し、各減算器S0 〜S15に供
給する。
動作を説明する。この図3と図4は同じ減算器S0 〜S
15を使って、整数画素単位の検索を行う時(図3)と、
半画素単位の探索を行う時(図4)のそれぞれの接続形
態を示したものである。説明を簡略化するため、ここで
はベクトル探索の対象とする画素の個数を水平方向の1
6個のみとする。2次元画像については同様の回路を垂
直方向に並列にならべることで実現する。またそれぞれ
の画素値は8ビットで表現されるものとする。
る。まず原画像の格納されたフレ−ムメモリ1から画素
A0 〜A15を順次読み出し、それぞれを減算器S0 〜S
15の入力とする。ここで各減算器S0 〜S15は減算結果
の絶対値をとって出力するものとする。またそれぞれの
減算器S0 〜S15の入力は4ビットのものを使用する。
そのため8ビットの画素AのMSB側の4ビットを入力
する。
較する画素By ,By+1 , ・・・,By+15を読みだし、
やはり減算器S0 〜S15の入力とする。こちらもやはり
MSB側の4ビットだけを使用する。減算器S0 〜S15
によって入力されたA,Bの差分計算を行い、この差分
累積和を加算器4で求める。この計算をyの値を探索範
囲内で変化させながら減算器S0 〜S15に順次に入力し
て行い、加算器4で求めた差分累積和SumTmpをメモリ
6に格納されているそれまでの最小の差分累積和SumM
inと比較器5で比較する。加算器4の差分累積値SumT
mpがそれまでの差分累積和の最小値より小さい場合、そ
の差分累積値SumTmpとその時の変位yを新たに最小値
SumMinとしてメモリ6に格納する。このようにして全
検索範囲について検索して求めた最小値をSumMin、そ
の時の変位をYとする。
のような構成に接続を切り替える。まず原画像の格納さ
れたフレ−ムメモリ1から画素A0 〜A15のうちの半分
にあたる画素A0 〜A7 を順次に読み出し、それぞれを
減算器S0 , S1 , ・・・S 14,S15の入力とする。今
度はAの精度を8ビットのままにするが、かわりに減算
器を1画素あたり2個使用して接続することにより8ビ
ット計算精度の減算器を構成する。すなわち16個の減
算器S0 〜S15をそれぞれ二つずつ組み合わせてキャリ
ー信号線を接続し8ビット精度の減算器ペアーS0 +S
1 、S2 +S3,・・・S14+S15を8個構成する。こ
の減算器ペアーの一方に画素データのMSB側4ビット
を、もう一方にLSB側4ビットを入力する。
め、参照画像用のフレ−ムメモリ2から画素Bu ,B
u+1 (Y−1≦u≦Y+1)を読み出して補間画素生成
回路8に入力し、ここで平均値を算出することで補間画
素Cu 〜Cu+7 を生成し、やはり減算器S0 〜S15の入
力とする。A0 〜A7 とCu 〜Cu+7 の差分を計算し、
絶対値累積和とその変位uをメモリ7に格納する。
8 〜A15についても同様に計算し、既に求めてメモリ7
に格納してあるA0 〜A7 の結果と合わせることで、A
0 〜A15とCu 〜Cu+15についての差分絶対値和SumT
mpを求め、これをメモリ7にその時の変位uとともに格
納する。このため演算回数は整数画素単位の探索時の2
倍になるが、探索単位が少ないので処理時間の増加は大
きくない。
リ6のそれまでの最小値SumMinと比較して、最小値S
umMinよりも小さければその値を新たな最小値SumMin
としてその時の変位Uと共にメモリ6に格納する。この
ようにしてA0 〜A15にもっとも近いCu 〜Cu+15とな
る変位Uを求めることができる。
が可能である。例えば上述の実施例は補間画素を作って
半画素精度の動き検出を行える動画像符号化装置に本発
明を適用した場合のものであるが、もちろん本発明はか
かる半画素精度の動き検出を行わない方式の動画像符号
化装置にも適用できる。この場合、図6に○で示す整数
画素を対象として第1段階、第2段階の検索を行うこと
になる。またその場合、第1段階の検索は例えば画素一
つ置きにブロックを抽出してそれらのブロックに対して
行い、第2段階の検索で、第1段階で検索されたブロッ
クの周辺にある第1段階で一つ置きにより飛ばされたブ
ロックに対して検索を行うようにすれば、演算回数を削
減することができる。
ば、動き検出の検索精度を低下させることなく回路規模
を削減することができる。
ある。
ある。
動き検出装置(第1段階の接続形態)を示す図である。
動き検出装置(第2段階の接続形態)を示す図である。
図である。
画素検索を説明する図である。
画素検索を行う回路を示す図である。
素検索を説明する図である。
画素検索を行う回路を示す図である。
Claims (3)
- 【請求項1】ブロックマッチングにより動き検出を行う
動き補償予測型動画像符号化装置の動き検出装置であっ
て、現画面のブロックと前画面のブロックの各画素の差
分を計算する複数の演算器からなる第1の演算器群を備
え、該第1の演算器群の各演算器は画素桁精度よりも低
い計算精度で構成し、動き検出は、第1段階として該第
1の演算器群を用いて検索範囲内のブロックのうちから
差分の最も小さいブロックを検索し、第2段階として該
第1の演算器群を2以上の演算器を互いに組み合わせて
高精度化した複数の演算器組に分けて第2の演算器群を
構成し、該第1段階で検索したブロックを含むその周辺
のブロックに対して1ブロックの画素を複数に分割して
該第2の演算器群を用い複数回の演算を行うことで差分
の最も小さいブロックを検索することで行うように構成
した動画像符号化装置の動き検出装置。 - 【請求項2】上記第2段階での検索は、上記第1段階で
検索したブロックを含むその周辺の補間により求めたブ
ロックに対して行うように構成した請求項1記載の動画
像符号化装置の動き検出装置。 - 【請求項3】上記第1段階での検索は、検索範囲内にお
ける全ブロックに対して行うことに代えて画素複数個置
きの各ブロックに対して行うように構成した請求項1記
載の動画像符号化装置の動き検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24205795A JP3580612B2 (ja) | 1995-09-20 | 1995-09-20 | 動画像符号化装置の動き検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24205795A JP3580612B2 (ja) | 1995-09-20 | 1995-09-20 | 動画像符号化装置の動き検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH0993581A true JPH0993581A (ja) | 1997-04-04 |
JP3580612B2 JP3580612B2 (ja) | 2004-10-27 |
Family
ID=17083646
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24205795A Expired - Fee Related JP3580612B2 (ja) | 1995-09-20 | 1995-09-20 | 動画像符号化装置の動き検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3580612B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007201880A (ja) * | 2006-01-27 | 2007-08-09 | Victor Co Of Japan Ltd | 画像符号化装置および画像復号装置 |
JP2011004051A (ja) * | 2009-06-17 | 2011-01-06 | Nippon Telegr & Teleph Corp <Ntt> | 動画像符号化方法,動画像符号化装置および動画像符号化プログラム |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6502485B2 (ja) | 2015-05-21 | 2019-04-17 | オリンパス株式会社 | 撮像装置 |
-
1995
- 1995-09-20 JP JP24205795A patent/JP3580612B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007201880A (ja) * | 2006-01-27 | 2007-08-09 | Victor Co Of Japan Ltd | 画像符号化装置および画像復号装置 |
JP2011004051A (ja) * | 2009-06-17 | 2011-01-06 | Nippon Telegr & Teleph Corp <Ntt> | 動画像符号化方法,動画像符号化装置および動画像符号化プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP3580612B2 (ja) | 2004-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3611507B2 (ja) | 動きベクトル検出装置 | |
US4937666A (en) | Circuit implementation of block matching algorithm with fractional precision | |
US5838828A (en) | Method and apparatus for motion estimation in a video signal | |
JP3089165B2 (ja) | 動きベクトル探索装置 | |
EP0643538A2 (en) | Motion vector detecting apparatus and methods | |
KR20050097936A (ko) | 효과적인 예측 이미지 파라미터 추정 | |
JPH04314290A (ja) | 動きベクトル検出装置 | |
Baglietto et al. | Parallel implementation of the full search block matching algorithm for motion estimation | |
JPH0993581A (ja) | 動画像符号化装置の動き検出装置 | |
JP3175914B2 (ja) | 画像符号化方法および画像符号化装置 | |
JP3627872B2 (ja) | 動きベクトル検出方法及び装置 | |
JPH0478286A (ja) | 初期偏位ベクトルを用いた動きベクトルの検出方法 | |
JP2005253015A (ja) | 動きベクトル検出装置、動きベクトル検出方法、及びプログラム | |
JP2885039B2 (ja) | 動きベクトル検出回路 | |
JP3611958B2 (ja) | 動画像信号の動きベクトル検出方法および動きベクトル検出回路 | |
JP2001025021A (ja) | 動き検出方法および動き検出装置 | |
JP3189655B2 (ja) | 動きベクトル検出装置およびその方法 | |
KR100926440B1 (ko) | 영상부호화를 위한 블록 매칭 움직임 추정 장치 | |
JP3698501B2 (ja) | 動きベクトル検出装置 | |
JP2901848B2 (ja) | ベクトル相関検出回路 | |
JPH05176314A (ja) | 画像の動き検出装置 | |
JP4160855B2 (ja) | ブロックマッチング画像処理装置 | |
JP3271387B2 (ja) | 動き量検出装置及び動き量検出方法 | |
JP2866321B2 (ja) | 動きベクトル探索方法および装置 | |
KR0179500B1 (ko) | 움직임 백터 결정 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040427 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040628 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040720 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040720 |
|
R150 | Certificate of patent (=grant) or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080730 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090730 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100730 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100730 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110730 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110730 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120730 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120730 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130730 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |