JP3676525B2 - 動画像符号化復号化装置及びその方法 - Google Patents
動画像符号化復号化装置及びその方法 Download PDFInfo
- Publication number
- JP3676525B2 JP3676525B2 JP30394396A JP30394396A JP3676525B2 JP 3676525 B2 JP3676525 B2 JP 3676525B2 JP 30394396 A JP30394396 A JP 30394396A JP 30394396 A JP30394396 A JP 30394396A JP 3676525 B2 JP3676525 B2 JP 3676525B2
- Authority
- JP
- Japan
- Prior art keywords
- prediction
- signal
- image
- pixel
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/43—Hardware specially adapted for motion estimation or compensation
- H04N19/433—Hardware specially adapted for motion estimation or compensation characterised by techniques for memory access
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Processing (AREA)
- Television Signal Processing For Recording (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の属する技術分野】
動画像を効率的に伝送、蓄積、表示するために、より少ない符号量で画像をディジタル信号にする高能率符号化において、特に双方向画像間予測など複数の参照画像を画像間予測に用いる手法に関する。
【0002】
【従来の技術】
<双方向予測>
動画像の画像間予測符号化において、前後の符号化済み画像を参照画像として予測に用いると、より適切な予測信号の形成により符号化効率を上げることが出来る。この手法はBフレーム(Bピクチャ)とも呼ばれ、本願と同一出願人による「フレーム間予測符号化方式」(特開平2−192378号公報)に開示されている。
また、ISO/IECで標準化された動画像符号化方式であるMPEGでも用いられている符号化技術である。
【0003】
画像間予測でBフレームを用いる場合、必ず独立フレームまたは片方向予測フレームと組合わせて使う。これはBフレームは予測されるだけで予測には使われないためである。ここで、独立フレームはフレーム内に閉じて符号化されるフレームで、I(イントラ)フレームとも呼ばれる。片方向予測フレームはPフレームとも呼ばれ、古くから使われている過去からだけの予測である。
このような複数の画像タイプの構成方法として、IフレームとBフレームだけのものと、Iフレーム、Pフレーム、Bフレームの3種類を使うものがある。
【0004】
それらの例を図4に示すが、I/Bの場合、4から6フレーム程度毎に1フレームがIフレームとなる。その間のBフレームは前後(過去と未来)のIフレーム双方から予測される。
I/P/Bの場合は、I/BでのIフレームの大半がPフレームで置き換えられる形となり、10乃至30フレームに1フレームがIフレームで、2から4フレームに1フレームがPフレームとなる。この場合、処理が複雑になり、フレーム拘束長(ランダムアクセスできる単位)が長くなるが、画像間予測のフレームが増えるので符号化効率は高くなる。
全体構成としては、これら2つの形態が存在するが、Bフレームに関してはどちらも同じである。これはBフレームの予測に使われる参照画像が、IフレームでもPフレームでも等価なためである。
【0005】
<従来画像符号化装置>
図9にI/Bの場合の符号化装置の構成例を示す。
画像入力(端子)1から供給される動画像信号は、画像メモリ2に蓄えられると共に、スイッチ4と画像タイプ制御器7にも与えられる。
画像タイプ制御器7は、フレームに同期して、供給される各フレームの画像タイプを予め決められた周期で設定する。すなわちNフレームに1つをIフレームとし、他をBフレームとする。この画像タイプ情報は、スイッチ4、11、符号化器5に夫々与えられる。
画像メモリ2は、入力された信号の内Bフレームの画像信号を( N−1) フレーム分遅延させ、予測減算器3に与える。これは予測で必要なIフレームを、Bフレームに先行させて符号化する必要があるためである。
予測減算器3では、加算器91から与えられる予測信号が、画像メモリ2から与えられるBフレームの画像信号から減算され、予測残差信号がスイッチ4に与えられる。
【0006】
スイッチ4では、画像タイプ情報に従ってIフレームでは、入力画像信号が選択され、Bフレームでは予測残差信号が選択される。
符号化器5で、両方の信号は、離散コサイン変換(DCT)され、量子化された後に可変長符号化で圧縮された符号になり、符号出力端子6から出力される。
一方、Iフレームではスイッチ11が接続され、量子化された信号がスイッチ11を介して局部復号化器14に与えられる。
局部復号化器14では、逆量子化、逆DCTの処理が行なわれ、再生画像を得て画像メモリ13に与える。
【0007】
画像メモリ13は、Iフレームの再生画像を1フレーム分保持し、次のIフレームの再生画像が与えられた際に、今まで保持していた再生画像を次の画像メモリ12に出力する。
画像メモリ12は、同様に1フレーム分の画像を保持する。この様にして画像メモリ12及び画像メモリ13にBフレームの予測のための参照画像が準備される。そして画像メモリ12及び画像メモリ13から、Bフレームの符号化時に共に参照画像信号を加算器91に与える。
加算器91は、2つの参照画像信号の画素値を加算し、2で除算した信号を予測信号として、予測減算器3に与える。
【0008】
ここで、加算は単純な均等加算でなく、フレームの距離関係に応じて重み付けした後に加算することもある。また、常時加算するのではなく、符号化フレームと前後の参照フレームの類似度に応じて、ブロック単位で片側からのみの予測や予測無しに切替えることもある。この場合、どのような予測を行なうかは画像に適応して符号化器5で判断され、そのモード情報がブロック毎に伝送される。
図9は、I/Bフレームの場合を示したものであるが、I/B/Pの3種類の画像タイプを有するものはMPEG方式として知られている。
この場合は、上記従来手法のIフレームの大半がPフレームに変更され、それ同士で画像間予測が行なわれる。Pフレームの処理は上記Iフレームの処理が変更され、再生画像は上記と同様に画像メモリに保持される。従って、Bフレームの処理は上記と同様である。
【0009】
<従来画像復号化装置>
図9の動画像復号化装置に対応する動画像復号化装置について、図と共に以下に説明する。
図10は、その動画像復号化装置の構成を示したものである。
符号入力端子21より供給される符号は、復号化器22で、可変長符号の復号、逆量子化、逆DCTの処理が行なわれ、Iフレームでは画像信号が、Bフレームでは予測残差信号が再生され復号される。再生された画像信号及び予測残差信号はスイッチ23に与えられる。
一方、画像タイプ情報も再生され、スイッチ23、25に夫々供給される。スイッチ23は、Iフレームでは再生画像を画像メモリ13に与える。
画像メモリ13は、Iフレームの再生画像を保持する。次のIフレームの再生画像が与えられた際に、今まで保持していた再生画像を次の画像メモリ12に出力すると同時にスイッチ25に出力する。
【0010】
画像メモリ12も1フレーム分の画像を保持する。画像メモリ12及び画像メモリ13からは、Bフレームの復号化時に共に参照画像信号を加算器91に与える。加算器91は2つの画像信号の画素値を加算し、2で除算した信号を予測信号として、予測加算器24に与える。
予測加算器24は、Bフレーム時にスイッチ23を介して復号化器22から与えられる再生された予測残差信号と加算器91から与えられる予測信号とを加算し、再生画像信号を得て次のスイッチ25に与える。
スイッチ25は、Iフレームでは画像メモリ13の出力を選択し、Bフレームでは予測加算器24の出力を選択し、画像出力(端子)26から、元のフレーム順に戻った再生画像が出力される。
【0011】
<複数画像予測>
双方向予測でなくとも複数の画像を用いる予測方式がある。その例として本願と同一出願人による「フレーム間予測符号化方式」(特開平4−105487号公報)に示されているものがある。
これは過去方向の2つのフィールド、または2つのフレームを加算して予測を行なうものである。
この場合、処理を遅らせる必要はなく、Bフレームを用いる場合のように符号化順入替えによる遅延を生じない。
また、MPEG−2においてもDual’方式として、過去の偶数フィールドと奇数フィールドを加算して予測に用いる手法が用いられている。
【0012】
<画像加算>
以上のような複数画像を用いる画像間予測では、複数画像の加算が行なわれる。
これは双方向予測では、内挿型の処理で画像の時間変化に対応することが可能なためである。
また、双方向予測に限らず複数画像の加算が行なわれることで、入力画像に含まれる雑音成分や符号化による量子化雑音成分が抑圧され、さらに空間フィルタ効果もあり、予測効率を上げることが出来るためである。
【0013】
【発明が解決しようとする課題】
従来の複数の参照画像を用いる画像間予測は、1つの画像を予測するのに2つの画像を加算して予測信号とする。
そのためには、符号化画像の1画素に対して、参照画像の2画素が必要になる。
これは参照画像を格納しているメモリから取り出す信号量が2倍になることを意味し、画像メモリと予測処理の間の画素転送レートが2倍必要になる。そのために、装置実現のためには非常にビット数の多いのデータバスが必要になっていた。
本発明は以上の点に着目してなされたもので、両方の画像の画素値を加算せずに、画素単位で交互に片方のみを予測信号とすることで、1画像からの予測と同じ画素転送レートで複数画像からの予測と同等の予測効率を得る動画像符号化復号化装置を提供することを目的とする。
【0014】
【課題を解決するための手段】
上記した課題を解決するために本発明は、下記(1)〜(7)の構成を有する動画像符号化装置、動画像符号化復号化装置、動画像符号化方法、動画像符号化復号化方法を提供する。
(1) 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化装置において、
予測に用いる第1の参照画像を画素単位で間引いて第1の予測信号を出力する第1の画像間予測手段と、
予測に用いる第2の参照画像を画素単位で間引いて第2の予測信号を出力する第2の画像間予測手段と、
前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を得る予測減算手段と、
前記予測残差信号を符号化し、得られた符号を出力する符号化手段とを有することを特徴とする動画像符号化装置。
(2) 請求項1に記載された動画像符号化装置において、
第1の画像間予測手段及び第2の画像間予測手段は、夫々局部復号画像に対応したサイズのメモリの代わりに、予測に用いる参照画像を画素単位で間引いて、半分の画素を格納し、格納画素を予測信号として出力する半分のサイズの画像メモリと、前記半分の画素の残りの半分の画素を格納し、出力する半分のサイズの画像メモリとで構成したことを特徴とする動画像符号化装置。
(3) 請求項1に記載された動画像符号化装置において、
予測減算手段では、第1の予測信号を生成する為に予測減算に用いる画素と第2の予測信号を生成する為に予測減算に用いる画素とが、走査線毎あるいはフレームまたはフィールド毎に逆の位置関係になるようにしたことを特徴とする動画像符号化装置。
(4) 請求項1に記載された動画像符号化装置において、
予測減算手段では、順次予測信号に低域通過特性を有する空間フィルタを作用させ、間引きにより縮小された周波数帯域外の折返し成分となる周波数成分が抑圧された順次予測信号を符号化画像信号から減算するようにしたことを特徴とする動画像符号化装置。
(5) 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化復号化装置において、
予測に用いる第1の参照画像を画素単位で間引いて第1の予測信号を出力する第1の画像間予測手段と、
予測に用いる第2の参照画像を画素単位で間引いて第2の予測信号を出力する第2の画像間予測手段と、
前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を得る予測減算手段と、
前記予測残差信号を符号化し、得られた符号を出力する符号化手段と有する動画像符号化部と、
供給される符号を復号化し、再生予測残差信号を得る復号化手段と、
予測に用いる第1の参照画像を画素毎に間引いて第1の予測信号を出力する第1の画像間予測手段と、
予測に用いる第2の参照画像を画素毎に間引いて第2の予測信号を出力する第2の画像間予測手段と、
前記第1の予測信号と第2の予測信号を1画素毎に交互にして再生予測残差信号に加算し、再生画像信号を得て出力する予測加算手段とを有する動画像復号化部とより構成したことを特徴とする動画像符号化復号化装置。
(6) 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測 を行なう動画像符号化方法において、
予測に用いる第1の参照画像を画素単位で間引いた第1の予測信号と予測に用いる第2の参照画像を画素単位で間引いた第2の予測信号とを夫々出力し、前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を形成し、前記予測残差信号を符号化して出力するようにしたことを特徴とする動画像符号化方法。
(7) 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化復号化方法において、
予測に用いる第1の参照画像を画素単位で間引いた第1の予測信号と予測に用いる第2の参照画像を画素単位で間引いた第2の予測信号とを夫々出力し、前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を形成し、前記予測残差信号を符号化して出力するようにして動画像符号化を行ない、
供給される符号を復号化し、再生予測残差信号を得、予測に用いる第1の参照画像を画素毎に間引いた第1の予測信号と予測に用いる第2の参照画像を画素毎に間引いた第2の予測信号とを夫々出力し、前記第1の予測信号と第2の予測信号を1画素毎に交互にして再生予測残差信号に加算し、再生画像信号を出力して動画像復号化を行なうようにしたことを特徴とする動画像符号化復号化方法。
【0019】
【発明の実施の形態】
<第1の動画像符号化装置>
本発明の動画像符号化装置の第1の実施例について、図と共に以下に説明する。
図1は、そのブロック構成を示したもので、従来例と同一構成要素には同一付号を記してある。
画像入力(端子)1、画像メモリ2、予測減算器3、スイッチ4、符号化器5、画像タイプ制御器7、画像メモリ12,13、局部復号化器14の動作は、基本的には図9の従来例と同じである。
従来例と異なるのは予測信号の形成方法であり、画素間引器8,9があり、加算器91の代わりに画素スイッチ10がある。
【0020】
画像入力端子1から供給される動画像信号は画像メモリ2に蓄えられると共に、スイッチ4と画像タイプ制御器7にも与えられる。画像タイプ制御器7はフレームに同期して、供給される各フレームの画像タイプを予め決められた周期で設定し、Nフレームに1つをIフレームとし、他をBフレームとする。この画像タイプ情報はスイッチ4,11、符号化器5に出力される。
画像メモリ2は、入力された信号の内Bフレームの画像信号を( N−1) フレーム分遅延させ、次の予測減算器3に与える。これは予測に使うIフレームを、Bフレームに先行させて符号化する必要があるためである。
【0021】
予測減算器3では、画素スイッチ10から与えられる予測信号が、画像メモリ2から与えられるBフレーム信号から減算され、予測残差信号が次のスイッチ4に与えられる。
スイッチ4では、画像タイプ情報に従ってIフレームでは、入力画像信号が選択され、Bフレームでは予測残差信号が選択される。両方の信号は符号化器5で、離散コサイン変換(DCT)され、量子化された後に可変長符号化処理で符号になり、符号出力端子6から出力される。
この符号出力端子6からの出力信号は、例えば、ディスク状の記録媒体(図示せず)に記録される。
【0022】
一方、Iフレームではスイッチ11が閉じられ、量子化された信号がスイッチ11を介して局部復号化器14に与えられる。
局部復号化器14では、逆量子化、逆DCTの処理が行なわれ、再生画像を得て画像メモリ13に与える。
画像メモリ13は、Iフレームの再生画像を保持する。次のIフレームの再生画像が与えられた際に、今まで保持していた再生画像を次の画像メモリ12に出力する。
画像メモリ12は、同様に1フレーム分の画像を保持する。この様にして、画像メモリ12及び画像メモリ13にBフレームの画像間予測で必要な参照画像が準備される。
【0023】
そして、画像メモリ12から画素間引器8に、画像メモリ13から画素間引器9に、Bフレームの符号化時に参照画像信号が与えられる。
画素間引器8は、1画素毎に画素を間引き、半分の画素数になった画像信号を予測信号として画素スイッチ10に与える。
画素間引器9は、画素間引器8で破棄された方の画素を選択して間引き、半分の画素数になった画像信号を予測信号として画素スイッチ10に与える。
画素スイッチ10は、画素単位で固定的に切替えられ、両方の画素を交互に選択する。画素間引器8,9の出力は半分になっているので、交互に選択することで元の画像と同じ画素数の順次予測信号が得られる。得られた順次予測信号は予測減算器3に与えられる。
【0024】
この処理の様子を図3に示す。
過去からの予測信号及び未来からの予測信号は、夫々逆の位置関係で間引かれており、半分の画素になっている。最終的な順次予測信号は両者が合成されて、すべての画素が揃った信号となる。
この様な処理で形成される予測信号は、間引きにより従来例の加算の場合と多少異なる。
間引かれた予測信号を周波数領域で見ると、間引きにより半分より上の周波数は折返し成分となるが、半分より下の成分は従来例と変わらない。半分より上の成分は2つの参照画像が同じなら従来例と同じ結果になるが、異なっているとその差の分は誤差となる。
【0025】
画素間引きの具体的手法としては、図11に示したように、水平方向や垂直方向の他、走査線毎に間引く画素位置を逆にする方法(千鳥、碁の目などと呼ばれる)がある。水平方向や垂直方向に間引いた場合の周波数特性はそのまま、水平や垂直で半分になる。
一方、走査線毎に逆にした場合、誤差を生じる周波数成分は斜めで高い周波数成分なり、視覚的に検知され難くなる。
なお、図でμは水平周波数、νは垂直周波数である。
【0026】
<第1の動画像復号化装置>
本発明の動画像復号化装置第1の実施例について、図と共に以下に説明する。
図2は、そのブロック構成を示したもので、従来例と同一構成要素には同一付号を記してある。
符号入力端子21、復号化器22、スイッチ23,25、予測加算器24、画像出力端子26、画像メモリ12,13の動作は、基本的に図10の従来例と同じである。
【0027】
従来例と異なるのは予測信号の形成方法であり、画素間引器8,9があり、加算器91の代わりに画素スイッチ10がある。
例えば、記録媒体を介して符号入力端子21より供給される符号は、復号化器22で、可変長符号の復号、逆量子化、逆DCTの処理が行なわれ、Iフレームでは画像信号が、Bフレームでは予測残差信号が再生される。再生された画像信号及び予測残差信号はスイッチ23に与えられる。一方、画像タイプ情報も再生され、スイッチ23,25に供給される。
【0028】
スイッチ23は、Iフレームでは再生画像を画像メモリ13に与える。
画像メモリ12、13、画素間引器8,9、画素スイッチ10の動作は基本的に図1の第1の実施例の符号化装置のものと同じである。
ただし、Iフレームの再生画像を出力する必要があるので、画像メモリ13の出力信号は画像メモリ12と同時にスイッチ25にも与えられる。この様にして画素スイッチ10で得られた予測信号は予測加算器24に与えられる。
【0029】
予測加算器24は、Bフレーム時にスイッチ23を介して復号化器22から与えられる予測残差信号と画素スイッチ10から与えられる予測信号を加算し、再生画像信号を得る。
スイッチ25は、Iフレームでは画像メモリ13の出力を選択し、Bフレームでは予測加算器24の出力を選択し、画像出力端子26から元のフレーム順に戻った再生画像が出力される。
【0030】
本発明の動画像復号化装置は基本的に図1の符号化装置に対応するものであるが、図9の従来例の動画像符号化装置で符号化された符号を復号化することも出来る。
この場合、符号化と復号化で画像間予測手法が異なることにより、若干の誤差が生じるが、その差は高い周波数成分で僅かなので視覚的に問題とならない。
Bフレームの予測はPフレームと違い、予測されたフレームが他のフレームの予測に使われない非巡回型予測なので、上記誤差が累積することもない。
以上説明した第1の動画像符号化装置と第1の動画像復号化装置とを一体化して使用することも可能である。
装置が小形化出来れば、可搬型として使用することも可能となる。
この場合には、符号化して記録した、例えばディスク状の記録媒体を即座に復号化して再生することが出来るし、出先でも再生することが出来る。
【0031】
<第2の動画像符号化装置>
本発明の動画像符号化装置の第2の実施例について、図と共に以下に説明する。
図5は、そのブロック構成を示したもので、第1の実施例と同一構成要素には同一付号を記してある。
画像入力端子1、画像メモリ2、予測減算器3、スイッチ4、符号化器5、符号出力端子6、画像タイプ制御器7、スイッチ11、局部復号化器14の動作は、基本的に図1の第1の実施例と同じである。
第1の実施例と異なるのは予測信号の保持及び形成方法であり、画像メモリ12,13と画素間引器8,9の代わりに、容量が半分の画像メモリ52〜55があり、画素スイッチ10の代わりに、接点の多い画素スイッチ51がある。
【0032】
局部復号化器14の出力であるIフレームの再生画像はスイッチ56に与えられる。
スイッチ56は、図1の画素スイッチ10と同様な動作で画素に同期して切替えられ、画素単位で交互に再生画像を画像メモリ53と画像メモリ55に与える。
画像メモリ53,55は、図1の画像メモリ13と同様に画像を保持するが、与えられる画素が半分なので、そのサイズは半分となる。また、画像メモリ13と同様に新たなIフレーム再生画像が入力された時に、保持していた画像を夫々画像メモリ52,54に出力する。
画像メモリ52,54は、画像メモリ53、55と同様に夫々半部の画像を保持する。この様にして2フレーム分の参照画像が、4個の半フレーム分の画像メモリ52〜55に蓄えられる。
【0033】
この4個の画像メモリからBフレーム符号化時に画像信号が予測信号として画素スイッチ51に与えられる。
画素スイッチ51は、画素単位で交互に4種類の画像から1つが選択され、元の画像と同じ画素数の予測信号が得られる。
ここで、1フレーム内では、前参照フレームの画素、後参照フレームの画素はどちらかに決められているので、画素スイッチ51の動作は、1フレーム内では画像メモリ52と55からの選択か、画像メモリ53と55からの選択かのどちらかである。この様にして得られた信号を予測信号として、予測減算器3に与える。
【0034】
ここで、画素スイッチ51での2種類の選択方法はフレームによって反転させられる。
図12にこのフレーム反転の様子を示す。
図で間引きは、交互タイプ( a) と交互タイプ( b) がフレーム毎に入れ代わる。
この反転のタイプも図のように2種類がある。この場合、加算の場合に対して誤差を生じる周波数成分は時間的にも高い周波数成分に限定されるので、誤差は極めて検知され難くなる。
【0035】
<第2の動画像復号化装置>
本発明の動画像復号化装置の第2の実施例について、図と共に以下に説明する。
図6は、そのブロック構成を示したもので、第1の実施例と同一構成要素には同一付号を記してある。
符号入力端子21、復号化器22、スイッチ23,25、予測加算器24、画像出力端子26の動作は、基本的に図2の第1の実施例と同じである。
第1の実施例と異なるのは予測信号の保持及び形成方法であり、画像メモリ12、13と画素間引器8,9の代わりに半分サイズの画像メモリ52〜55と画素切替スイッチ56,61があり、画像切替スイッチ10の代わりに4接点の画素切替スイッチ51がある。
【0036】
スイッチ23からIフレームの再生画像がスイッチ56に与えられる。スイッチ56、画像メモリ52〜55は図5の第2の実施例の符号化装置と基本的に同じである。但し、Iフレームの再生画像は最終的に出力される必要があるのでスイッチ61を介してスイッチ25に送られる。
スイッチ61は、スイッチ56で分割された画素を元に戻すもので、対となって動作する。スイッチ51の動作も図5と同じで、元の画像と同じ画素数の画像信号となって予測信号として、予測加算器24に与える。
【0037】
<第3の動画像符号化装置>
本発明の動画像符号化装置の第3の実施例について、図と共に以下に説明する。
図7は、そのブロック構成を示したもので、第1の実施例と同一構成要素には同一付号を記してある。
画像入力端子1、画像メモリ2、予測減算器3、スイッチ4、符号出力端子6、画像タイプ制御器7、画素間引器8,9、画素スイッチ10、スイッチ11、局部復号化器14の動作は、基本的に第1図の第1の実施例と同じである。
【0038】
第1の実施例と異なるのは動き補償動作及び予測信号に対する空間フィルタがあることである。
構成上では、画像メモリ12,13の代わりに読み出しアドレスが変更可能な画像メモリ74,75があり、他にLPF72と動きベクトル検出器73がある。
画像入力端子1から供給される画像信号は動ベクトル検出器73にも与えられる。
【0039】
動ベクトル検出器73は、入力画像信号から動き補償画像間予測で用いる動きベクトルを求める。画像タイプ制御器7から与えられる画像タイプの情報から画像関予測のフレーム関係を判断し、各Bフレームを予測フレーム、前後のIフレームを参照フレームとする。求められた動ベクトルは、画像メモリ74,75に与えられると共に符号化器71で画像タイプ情報と同様に符号化され多重化される。
【0040】
画像メモリ74,75は動きベクトルに従って読み出しアドレスを修正し、動き補償された参照画像を画素間引器8、9に出力する。画素間引器8,9、画素スイッチ10の動作は図1の第1の実施例と同じである。
画素スイッチ10の出力である順次予測信号は直ちに予測減算器3に与えられず、LPF(低域通過フィルタ)72を通した後に与えられる。
【0041】
LPF72は、画素間引きで誤差を生じる折返し成分の空間周波数領域を抑圧するためのものである。
従って、予測信号はその周波数帯域の成分がないが、その周波数帯域には元々信号成分が少ないので、結果的に従来例の加算を行なった場合に近い予測信号が形成される。
【0042】
<第3の動画像復号化装置>
本発明の動画像符号化装置の第3の実施例に対応する復号化装置について、図と共に以下に説明する。
図8は、その構成を示したもので、第1の実施例と同一構成要素には同一付号を記してある。
符号入力端子21、スイッチ23,25、予測加算器24、画像出力端子26、画素間引器8,9、画素スイッチ10の動作は、基本的に図2の第1の実施例と同じである。
【0043】
第1の実施例と異なるのは動き補償動作と予測信号に対するLPFであり、画像メモリ12,13は読み出しアドレスが変えられる画像メモリ74,75になり、画素スイッチ10の次段にLPF72がある。また、復号化器は動きベクトルも復号し出力する復号化器81になっている。
画像メモリ74,75は図7と同様に動きベクトルによって読み出しアドレスが変えられる。また画素スイッチ10の出力は図7と同様にLPF72が作用させられる。
【0044】
【発明の効果】
本発明では、双方向画像間予測において両方の画像の画素値を加算せず、画素単位で交互に片方のみを予測信号とすることで、符号化画像の画素と同じ数の参照画像の画素のみが予測に使われることになる。これにより参照画像の画素データの転送レートが半分になり、低速度や低ビットのデータ転送バスで画像間予測処理が可能になり、例えばディスク状の記録媒体コスト、装置コストを低減出来る。
【0045】
また、画像メモリを1画素毎に交互に別構成としておくと、片方の画像メモリからのみ画素値を連続して読み出せばよく、画像メモリを高速読み出しモードで動作させることが出来る。
ここで、低い周波数成分は、従来の加算を行なったのと同等の画像間予測特性となるので、従来例に近い予測効果が期待出来るが、高い周波数成分は多少の誤差を生じる。この誤差は視覚的に検知され難いが、画素をライン毎(フレーム毎)に交互にすると、誤差の生じる周波数成分は斜め方向(時間方向)の高い周波数成分になるのでより視覚的に検知され難くなり、画質的にも遜色のないものとなる。
【0046】
さらに、順次予測信号の高い周波数成分をLPFで抑圧すると、誤差成分が抑圧されることになるので、画質は従来例と同等になる。
【0047】
また、本発明の符号化復号化装置は、符号化して記録した、例えばディスク状の記録媒体を即座に復号化して再生することが出来る。
【図面の簡単な説明】
【図1】本発明の画像符号化装置の第1の実施例のブロック構成を示す図である。
【図2】本発明の画像復号化装置の第1の実施例のブロック構成を示す図である。
【図3】本発明の画像間予測処理の様子を示す図である。
【図4】本発明の画像タイプの例を示す図である。
【図5】本発明の画像符号化装置の第2の実施例のブロック構成を示す図である。
【図6】本発明の画像復号化装置の第2の実施例のブロック構成を示す図である。
【図7】本発明の画像符号化装置の第3の実施例のブロック構成を示す図である。
【図8】本発明の画像復号化装置の第3の実施例のブロック構成を示す図である。
【図9】従来の画像符号化装置のブロック構成例を示す図である。
【図10】従来の画像復号化装置のブロック構成例を示す図である。
【図11】本発明の間引き方法の例とその周波数特性を示す図である。
【図12】本発明の間引きフレーム反転の様子を示す図である。
【符号の説明】
1 画像入力端子
2,12,13,52,53,54,55,74,75 画像メモリ
3 予測減算器
4,11,23,25 スイッチ
5,71 符号化器
6 符号出力端子
7 画像タイプ制御器
8,9 画素間引器,
10,51,56,61 画素(切替)スイッチ
14 局部復号化器
21 符号入力端子
22,81 復号化器
24 予測加算器
72 LPF
73 動ベクトル検出器
91 加算器
Claims (7)
- 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化装置において、
予測に用いる第1の参照画像を画素単位で間引いて第1の予測信号を出力する第1の画像間予測手段と、
予測に用いる第2の参照画像を画素単位で間引いて第2の予測信号を出力する第2の画像間予測手段と、
前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を得る予測減算手段と、
前記予測残差信号を符号化し、得られた符号を出力する符号化手段とを有することを特徴とする動画像符号化装置。 - 請求項1に記載された動画像符号化装置において、
第1の画像間予測手段及び第2の画像間予測手段は、夫々局部復号画像に対応したサイズのメモリの代わりに、予測に用いる参照画像を画素単位で間引いて、半分の画素を格納し、格納画素を予測信号として出力する半分のサイズの画像メモリと、前記半分の画素の残りの半分の画素を格納し、出力する半分のサイズの画像メモリとで構成したことを特徴とする動画像符号化装置。 - 請求項1に記載された動画像符号化装置において、
予測減算手段では、第1の予測信号を生成する為に予測減算に用いる画素と第2の予測信号を生成する為に予測減算に用いる画素とが、走査線毎あるいはフレームまたはフィールド毎に逆の位置関係になるようにしたことを特徴とする動画像符号化装置。 - 請求項1に記載された動画像符号化装置において、
予測減算手段では、順次予測信号に低域通過特性を有する空間フィルタを作用させ、間引きにより縮小された周波数帯域外の折返し成分となる周波数成分が抑圧された順次予測信号を符号化画像信号から減算するようにしたことを特徴とする動画像符号化装置。 - 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化復号化装置において、
予測に用いる第1の参照画像を画素単位で間引いて第1の予測信号を出力する第1の画像間予測手段と、
予測に用いる第2の参照画像を画素単位で間引いて第2の予測信号を出力する第2の画像間予測手段と、
前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を得る予測減算手段と、
前記予測残差信号を符号化し、得られた符号を出力する符号化手段と有する動画像符号化部と、
供給される符号を復号化し、再生予測残差信号を得る復号化手段と、
予測に用いる第1の参照画像を画素毎に間引いて第1の予測信号を出力する第1の画像間予測手段と、
予測に用いる第2の参照画像を画素毎に間引いて第2の予測信号を出力する第2の画像間予測手段と、
前記第1の予測信号と第2の予測信号を1画素毎に交互にして再生予測残差信号に加算し、再生画像信号を得て出力する予測加算手段とを有する動画像復号化部とより構成したことを特徴とする動画像符号化復号化装置。 - 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化方法において、
予測に用いる第1の参照画像を画素単位で間引いた第1の予測信号と予測に用いる第2の参照画像を画素単位で間引いた第2の予測信号とを夫々出力し、前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を形成し、前記予測残差信号を符号化して出力するようにしたことを特徴とする動画像符号化方法。 - 時間的に異なる局部復号画像から形成される複数の参照画像を用いて画像間予測を行なう動画像符号化復号化方法において、
予測に用いる第1の参照画像を画素単位で間引いた第1の予測信号と予測に用いる第2の参照画像を画素単位で間引いた第2の予測信号とを夫々出力し、前記第1の予測信号と第2の予測信号を画素単位で交互にして順次予測信号を形成し、前記順次予測信号を画像間予測される画像信号から減算して予測残差信号を形成し、前記予測残差信号を符号化して出力するようにして動画像符号化を行ない、
供給される符号を復号化し、再生予測残差信号を得、予測に用いる第1の参照画像を画素毎に間引いた第1の予測信号と予測に用いる第2の参照画像を画素毎に間引いた第2の予測信号とを夫々出力し、前記第1の予測信号と第2の予測信号を1画素毎に交互にして再生予測残差信号に加算し、再生画像信号を出力して動画像復号化を行なうようにしたことを特徴とする動画像符号化復号化方法。
Priority Applications (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30394396A JP3676525B2 (ja) | 1996-10-30 | 1996-10-30 | 動画像符号化復号化装置及びその方法 |
EP19970308544 EP0840519B1 (en) | 1996-10-30 | 1997-10-27 | Apparatus and method of coding/decoding moving pictures |
DE69709293T DE69709293T2 (de) | 1996-10-30 | 1997-10-27 | Verfahren und Vorrichtung zur Kodierung und Dekodierung von Bewegtbildern |
TW086116061A TW361048B (en) | 1996-10-30 | 1997-10-29 | Apparatus and method of coding/decoding moving picture and storage medium storing moving picture |
US08/960,366 US6141379A (en) | 1996-10-30 | 1997-10-29 | Apparatus and method of coding/decoding moving picture and storage medium storing moving picture |
KR1019970058367A KR100256859B1 (ko) | 1996-10-30 | 1997-10-30 | 동화상을 코딩/인코딩하는 장치와 방법 그리고동화상을 저장하는 저장매체 |
CNB971228779A CN1143553C (zh) | 1996-10-30 | 1997-10-30 | 用于编码/译码运动图象的装置和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP30394396A JP3676525B2 (ja) | 1996-10-30 | 1996-10-30 | 動画像符号化復号化装置及びその方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH10136381A JPH10136381A (ja) | 1998-05-22 |
JP3676525B2 true JP3676525B2 (ja) | 2005-07-27 |
Family
ID=17927164
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP30394396A Expired - Lifetime JP3676525B2 (ja) | 1996-10-30 | 1996-10-30 | 動画像符号化復号化装置及びその方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US6141379A (ja) |
EP (1) | EP0840519B1 (ja) |
JP (1) | JP3676525B2 (ja) |
KR (1) | KR100256859B1 (ja) |
CN (1) | CN1143553C (ja) |
DE (1) | DE69709293T2 (ja) |
TW (1) | TW361048B (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
NO318973B1 (no) * | 2003-07-01 | 2005-05-30 | Tandberg Telecom As | Fremgangsmate for stoyreduksjon |
US20060008154A1 (en) * | 2004-07-01 | 2006-01-12 | Belle Ronny V | Video compression and decompression to virtually quadruple image resolution |
EP1862013A4 (en) * | 2005-03-25 | 2011-06-08 | Samsung Electronics Co Ltd | VIDEO ENCODING AND DECODING METHOD USING WEIGHTED PREDICTION AND APPARATUS THEREFOR |
KR100703770B1 (ko) | 2005-03-25 | 2007-04-06 | 삼성전자주식회사 | 가중 예측을 이용한 비디오 코딩 및 디코딩 방법, 이를위한 장치 |
KR100678911B1 (ko) * | 2005-07-21 | 2007-02-05 | 삼성전자주식회사 | 방향적 인트라 예측의 적용을 확장하여 비디오 신호를인코딩하고 디코딩하는 방법 및 장치 |
KR101256548B1 (ko) * | 2005-12-30 | 2013-04-19 | 삼성전자주식회사 | 영상 부호화 및 복호화 장치 및 그 방법 |
KR100761834B1 (ko) * | 2006-01-13 | 2007-09-28 | 삼성전자주식회사 | 화면의 라인들을 복수개의 메모리에 나누어 저장하는비디오 디코딩 장치, 비디오 디코딩 방법 및 기준화면 저장방법 |
KR100781525B1 (ko) * | 2006-04-06 | 2007-12-03 | 삼성전자주식회사 | 가중 평균합을 이용하여 fgs 계층을 인코딩 및디코딩하는 방법 및 장치 |
JP2008109624A (ja) * | 2006-09-25 | 2008-05-08 | Victor Co Of Japan Ltd | 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム |
JP2009094828A (ja) * | 2007-10-10 | 2009-04-30 | Hitachi Ltd | 画像符号化装置及び画像符号化方法、画像復号化装置及び画像復号化方法 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4985768A (en) * | 1989-01-20 | 1991-01-15 | Victor Company Of Japan, Ltd. | Inter-frame predictive encoding system with encoded and transmitted prediction error |
JP2530217B2 (ja) * | 1989-01-20 | 1996-09-04 | 日本ビクター株式会社 | フレ―ム間予測符号化装置及び復号装置 |
JPH07109990B2 (ja) * | 1989-04-27 | 1995-11-22 | 日本ビクター株式会社 | 適応型フレーム間予測符号化方法及び復号方法 |
JPH0832047B2 (ja) * | 1989-04-28 | 1996-03-27 | 日本ビクター株式会社 | 予測符号化装置 |
JP2808860B2 (ja) * | 1990-08-24 | 1998-10-08 | 日本ビクター株式会社 | 予測符号化装置及び復号化装置 |
JP2514111B2 (ja) * | 1990-12-28 | 1996-07-10 | 日本ビクター株式会社 | フレ―ム間符号化出力デ―タ量制御方式及び画像符号化出力デ―タ量制御方法 |
US6005627A (en) * | 1991-05-31 | 1999-12-21 | Kabushiki Kaisha Toshiba | Video coding apparatus |
US5475446A (en) * | 1992-03-09 | 1995-12-12 | Matsushita Electric Industrial Co., Ltd. | Picture signal motion detector employing partial decimation of pixel blocks |
JPH0795526A (ja) * | 1993-08-20 | 1995-04-07 | Texas Instr Inc <Ti> | 画像処理装置及びその処理方法 |
US5684538A (en) * | 1994-08-18 | 1997-11-04 | Hitachi, Ltd. | System and method for performing video coding/decoding using motion compensation |
EP1271957B1 (en) * | 1994-12-20 | 2006-05-24 | Matsushita Electric Industrial Co., Ltd. | Object-based digital image predictive coding and transfer method and apparatus, and decoding apparatus |
JP3169783B2 (ja) * | 1995-02-15 | 2001-05-28 | 日本電気株式会社 | 動画像の符号化・復号システム |
US6005626A (en) * | 1997-01-09 | 1999-12-21 | Sun Microsystems, Inc. | Digital video signal encoder and encoding method |
US6011870A (en) * | 1997-07-18 | 2000-01-04 | Jeng; Fure-Ching | Multiple stage and low-complexity motion estimation for interframe video coding |
-
1996
- 1996-10-30 JP JP30394396A patent/JP3676525B2/ja not_active Expired - Lifetime
-
1997
- 1997-10-27 EP EP19970308544 patent/EP0840519B1/en not_active Expired - Lifetime
- 1997-10-27 DE DE69709293T patent/DE69709293T2/de not_active Expired - Lifetime
- 1997-10-29 TW TW086116061A patent/TW361048B/zh not_active IP Right Cessation
- 1997-10-29 US US08/960,366 patent/US6141379A/en not_active Expired - Lifetime
- 1997-10-30 CN CNB971228779A patent/CN1143553C/zh not_active Expired - Fee Related
- 1997-10-30 KR KR1019970058367A patent/KR100256859B1/ko not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
CN1143553C (zh) | 2004-03-24 |
DE69709293D1 (de) | 2002-01-31 |
US6141379A (en) | 2000-10-31 |
TW361048B (en) | 1999-06-11 |
JPH10136381A (ja) | 1998-05-22 |
EP0840519B1 (en) | 2001-12-19 |
DE69709293T2 (de) | 2002-06-13 |
EP0840519A2 (en) | 1998-05-06 |
KR19980033415A (ko) | 1998-07-25 |
EP0840519A3 (en) | 2000-09-13 |
CN1186396A (zh) | 1998-07-01 |
KR100256859B1 (ko) | 2000-05-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2570384B2 (ja) | 動画像信号の符号化・復号化方式 | |
JP3365771B2 (ja) | ビデオ信号圧縮装置 | |
JPH06197273A (ja) | ビデオ信号符号化方法及び装置、ビデオ信号復号化方法及び装置、又はビデオ信号記録メディア | |
JPH04177992A (ja) | 階層性を有する画像符号化装置 | |
US6480542B1 (en) | Method for decoding compressed video data with a reduced memory requirement | |
JP3676525B2 (ja) | 動画像符号化復号化装置及びその方法 | |
JP5496047B2 (ja) | 画像再生方法、画像再生装置、画像再生プログラム、撮像システム、および再生システム | |
JPH03276988A (ja) | フィールド間予測符号化装置及び復号化装置 | |
JP3168922B2 (ja) | デジタル画像情報の記録再生装置 | |
JP2012085001A5 (ja) | ||
WO1990016130A1 (en) | Dynamic image encoder and dynamic image decoder | |
JP2898413B2 (ja) | 所要メモリ容量の低減化を伴う圧縮ビデオデータ流の復号化及び符号化のための方法 | |
JP2003333540A (ja) | フレームレート変換装置及びそれを用いた映像表示装置、テレビジョン放送受信装置 | |
GB2306842A (en) | Reordering prediction macroblocks for image processing | |
JP2947103B2 (ja) | 動画像符号化装置及び動画像符号化方法 | |
JPH10136371A (ja) | 動画像復号化装置及びその方法 | |
JPH0374986A (ja) | 画像データの受信装置及び方法 | |
JPH0698311A (ja) | 画像信号の高能率符号化及び復号化装置 | |
JP3733248B2 (ja) | 再生装置及びその方法 | |
JPH10178643A (ja) | 信号圧縮装置 | |
JPH11308620A (ja) | 画像復号装置 | |
JP3449370B2 (ja) | 画像データ復号化方法及び装置 | |
JP3262464B2 (ja) | 画像復号化装置 | |
JP3552045B2 (ja) | 画像信号記録媒体の記録方法、画像信号記録装置、および、画像信号再生装置 | |
JP3496926B2 (ja) | 画像データ復号化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040928 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050415 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050428 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090513 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090513 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100513 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110513 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120513 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120513 Year of fee payment: 7 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120513 Year of fee payment: 7 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120513 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130513 Year of fee payment: 8 |
|
EXPY | Cancellation because of completion of term |