[go: up one dir, main page]

JP3891198B2 - 復号装置及び方法、並びに伝送装置及び方法 - Google Patents

復号装置及び方法、並びに伝送装置及び方法 Download PDF

Info

Publication number
JP3891198B2
JP3891198B2 JP2005009457A JP2005009457A JP3891198B2 JP 3891198 B2 JP3891198 B2 JP 3891198B2 JP 2005009457 A JP2005009457 A JP 2005009457A JP 2005009457 A JP2005009457 A JP 2005009457A JP 3891198 B2 JP3891198 B2 JP 3891198B2
Authority
JP
Japan
Prior art keywords
picture
encoded
decoding
phase information
encoding process
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2005009457A
Other languages
English (en)
Other versions
JP2005124241A (ja
Inventor
博美 吉成
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005009457A priority Critical patent/JP3891198B2/ja
Publication of JP2005124241A publication Critical patent/JP2005124241A/ja
Application granted granted Critical
Publication of JP3891198B2 publication Critical patent/JP3891198B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、ディジタル信号をデータ圧縮伸張を伴って符号化し、復号し、再符号化し、伝送するための復号装置及び方法、並びに伝送装置及び方法関する。
一般的に、画像データは大量であり、これをそのまま伝送すると広い帯域を必要とし、記憶すると多くの記憶容量が必要になる。特に、動画像のデータ量は、膨大であるので、伝送帯域及び記憶容量をたくさん必要とする。このため、近年では、画像データの圧縮、すなわちディジタル画像の符号化技術が考えられてきた。
動画像データの圧縮には、蓄積メディア動画像符号化の国際標準会議MPEG(Moving Picture Expert Groupの略)が標準化した符号化技術が使われている。この符号化技術を以下では単にMPEGとして説明を続ける。このMPEGは、離散コサイン変換DCT(Discrete Cosine Transform)、動き補償MC(Motion Compensation)、Bピクチャといった技術からなる。
MPEGは、フレーム内(intra-frame、イントラフレーム)で符号化されたフレームであるIピクチャと、過去のフレームを順方向に使って符号化されたPピクチャと、過去と未来の双方向のフレームを使って符号化されたBピクチャにより符号化フレームを構成する。ここで、PピクチャとBピクチャは、フレーム間(inter-frame、インターフレーム)で符号化されたフレームである。
このような符号化は、入力画像をN×Nのマクロブロックに分割し、動きベクトルをブロック毎に用意して、その動きベクトルと入力画像との差分を符号化するものである。図12の(A)の(m−1)フレームの以前の再生画像(予測画像)であるIピクチャを図12の(B)に示すように動きベクトルV分ずらして差分を作り符号化する。
ここで、エンコーダとデコーダよりなるコーデックを連続して行う場合、例えばディジタルビデオテープレコーダでダビングを繰り返すような場合、例えばフレーム間で符号化されるBピクチャとフレーム内で符号化されるIピクチャの位相関係が、前段と次段で同じであれば、コーデックの回数が重なっても画質の劣化は起きない。すなわち、インターフレーム、イントラフレーム混在の形でデータ圧縮を実現するようなディジタル映像機器同士の接続では、圧縮し符号化された機器特有のデータフォーマットで受渡しする閉じた系の場合には、自らのヘッダなどにこれらの位相情報を記録し伝送すればコーデックの回数が重なっても画質の劣化が無い。
特許第3163830号公報 特許第3307379号公報 特許第3164110号公報
ところで、最近、ディジタル映像機器の接続では、シリアルディジタルインターフェース(Serial Digital Interface、SDIという。)を使用し映像データをインターフェースするのが標準になりつつある。このため、インターフレーム、イントラフレーム混在の形で映像信号をデータ圧縮するような映像機器同士の接続において、SDIでインターフェースされた圧縮映像データからいわゆる4:2:2コンポーネント符号化方式であるCCIR.Rec601等の既存の映像フォーマットの形式にコーデックを繰り返すような場合を考慮すると、上述したような位相情報を伝える方法がとられていないので、位相が守られない接続、編集によって位相が不連続になる接続などに対応することができず、コーデックを繰り返す度に画質劣化が発生していた。すなわち、例えばSDIによってインターフェースされた映像信号について、インターフレームとイントラフレームの位相が毎回交番するような場合には、その位相情報を伝える方法がとられていないと、その都度無視できない画質劣化が発生してしまっていた。
本発明は、上記実情に鑑みてなされたものであり、インターフェースされた映像データの復号化信号と共に、該映像データのインターフレームとイントラフレームの位相関係を示す位相情報を送信し、コーデックの際に画質の劣化を発生させず、また、インターフェースされた復号化映像データと該映像データのインターフレームとイントラフレームの位相関係を受信し、コーデックの際に画質の劣化を発生させないような復号装置及び方法、並びに伝送装置及び方法提供を目的とする。
本発明に係る復号装置は、符号化データを復号処理する復号装置において、上記符号化データに対する過去の符号化処理において利用された、グループオブピクチャ内においてピクチャがどの位置に配列されているかを示す位相情報を、上記符号化データとともに取得する取得手段と、上記符号化データを復号処理して画像データを生成する復号手段と、上記復号手段により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段とを備えることにより上記課題を解決する。
また、本発明に係る復号装置は、符号化データを復号処理する復号装置において、上記符号化データに対する過去の符号化処理において利用された、Iピクチャとして符号化されたピクチャと他のIピクチャとして符号化されたピクチャとが互いに何フレーム離れているかを示す位相情報を、上記画像データとともに取得する取得手段と、上記符号化データを復号処理して画像データを生成する復号手段と、上記復号手段により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段とを備えることにより上記課題を解決する。
また、本発明に係る復号装置は、符号化データを復号処理する復号装置において、上記符号化データに対する過去の符号化処理において利用された、Pピクチャとして符号化されたピクチャと他のPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャと他のBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Iピクチャとして符号化されたピクチャとPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Pピクチャとして符号化されたピクチャとBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャとIピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、を示す位相情報を、上記画像データとともに取得する取得手段と、上記符号化データを復号処理して画像データを生成する復号手段と、上記復号手段により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段とを備えることにより上記課題を解決する。
また、本発明に係る伝送装置は、符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、グループオブピクチャ内においてピクチャがどの位置に配列されているかを示す位相情報を取得する取得手段と、上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段とを備えることにより上記課題を解決する。
また、本発明に係る伝送装置は、符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、Iピクチャとして符号化されたピクチャと他のIピクチャとして符号化されたピクチャとが互いに何フレーム離れているかを示す位相情報を取得する取得手段と、上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段とを備えることにより上記課題を解決する。
また、本発明に係る伝送装置は、符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、Pピクチャとして符号化されたピクチャと他のPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャと他のBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Iピクチャとして符号化されたピクチャとPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Pピクチャとして符号化されたピクチャとBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャとIピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、を示す位相情報を取得する取得手段と、上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段とを備えることにより上記課題を解決する。
さらに本発明は、上述したような各復号装置にそれぞれ対応する復号方法を提供することができ、また、上述したような各伝送装置にそれぞれ対応する伝送方法を提供することができる。
グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号が、これらの位相関係を示す位相情報と共に送信されてくれば、受信側は該位相情報に基づいて、上記ブロック内復号化信号の順番と同じ順番となるようにフレーム内符号化信号とフレーム間符号化信号を得ることができる。このため、コーデックの際に画質の劣化を発生させない。
本発明は、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相関係を示す位相情報を、該ブロック内の各復号化信号と共に送信するので、コーデックの際に画質の劣化を生じさせない。
本発明は、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相関係を示す位相情報を検出し、該位相情報に応じて上記ブロック内の各復号化信号の順番と同じ順番となるようにフレーム内符号化信号とフレーム間符号化信号を得るので、コーデックの際に画質の劣化を生じさせない。
本発明は、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相情報を検出し、該位相情報に応じて上記ブロック内復号化信号の順番と同じ順番となるようにフレーム内符号化信号とフレーム間復号化信号を得ると共に、該フレーム内符号化信号とフレーム間符号化信号を復号化し、フレーム内復号化信号とフレーム間復号化信号の位相情報と共にグループ化されたブロック単位で送信するので、コーデック処理の際に画質の劣化を生じさせず、コーデック処理の繰り返しを品質を保って行うことができる。
以下、本発明に係る再符号化装置及び方法、復号装置及び方法、符号化装置及び方法、並びに伝送装置及び方法の実施例を説明する。この実施例は、蓄積メディア動画像符号化の国際標準会議MPEG(Moving Picture Expert Groupの略)が標準化した符号化技術により圧縮されたディジタルビデオデータを送受信するディジタルビデオデータ送受信装置である。
このディジタルビデオデータ送受信装置は、フレーム内(intra-frame、イントラフレーム)で符号化されたフレームであるIピクチャと、過去のフレームを順方向に使って符号化されたPピクチャと、過去と未来の双方向のフレームを使って符号化されたBピクチャにより構成された符号化フレームを使ってディジタルビデオデータを送受信する。特に、Iピクチャは、離散コサイン変換DCT(Discrete Cosine Transform)による変換符号化で、Bピクチャは、動き補償MC(Motion Compensation)+DCTによる予測符号化+変換符号化で得られる。
このディジタルビデオデータ送受信装置は、図1に示すエンコーダ10と図2に示すデコーダ30からなっており、エンコード処理とデコード処理のコーデック処理をエンコーダ10とデコーダ30で行っている。ここで、エンコーダ10は、受信装置に相当し、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相関係を示す位相情報を検出し、該位相情報に応じて上記ブロック内の各復号化信号の順番と同じ順番となるようにフレーム内符号化信号とフレーム間符号化信号を得る。また、デコーダ30は、送信装置に相当し、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相関係を示す位相情報を、該ブロック内の各復号化信号と共に送信する。
なお、以下の説明では、このディジタルビデオデータ送受信装置がシリアルディジタルインターフェース(Serial Digital Interface、SDIという。)を使用し多段に接続されているとして説明を進める。
先ず、エンコーダ10には、SDIによってインターフェースされた映像入力が供給される。この映像入力は、前段のディジタルビデオデータ送受信装置のデコーダによってデコーダされた映像データである。前段のディジタルビデオデータ送受信装置のエンコーダでは、Iピクチャ、Pピクチャ及びBピクチャを符号化データとして出力している。ここで、Iピクチャ、Pピクチャ及びBピクチャは、所定の順番で配列され、映像データの符号化の単位となるグループオブピクチャ(Group of Pictures:GOP)を構成している。一方、デコーダでは、Iピクチャ、Pピクチャ及びBピクチャよりなるGOPをデコード処理している。
そして、前段のディジタルビデオデータ送受信装置にSDIを介して接続された後段のディジタルビデオデータ送受信装置のエンコーダ10は、前段のデコーダでデコード処理されたIピクチャ、Pピクチャ及びBピクチャよりなるGOPを再度エンコード処理する。
上記映像データは、位相情報検出回路11及び減算器13及びスイッチ14の被選択端子bに供給される。位相情報検出回路11は、この映像データから該映像データのイントラフレームとインターフレームの位相関係を示す後述する位相情報を検出する。この位相情報検出回路11で検出された位相情報は、制御回路12に供給される。この制御回路12は、上記位相情報に応じてスイッチ14、23及び26の切り換えを制御する。
減算器13は、上記映像データから後述する動き補償MC(Motion Compensation)成分を減算し、スイッチ14の被選択端子cに供給する。このスイッチ14は、被選択端子bに供給された上記映像データと被選択端子cに供給された上記減算出力とを制御回路12の制御に応じ選択端子aで切り換えてDCT回路15に供給する。
DCT回路15は、スイッチ14の切り換え出力を離散コサイン変換することで、フレーム内の画像の変化具合いにより符号量を減少し、該DCT変換出力を量子化回路16に供給する。量子化回路16は、DCT変換出力を小さい値で表現することで符号量を減らし、該出力である量子化出力を可変長符号化回路17及び逆量子化回路19に供給する。
可変長符号化回路17は、量子化回路16により減らされた符号量をさらに減らすため、出現度の高い符号に短い符号を割り当て、全体としての符号量をさらに減らす。この可変長符号化回路17の可変長符号化出力は、ECCエンコーダ18に供給されてエラー訂正処理され、該エンコーダ10の符号化出力となる。
一方、逆量子化回路19は、量子化回路16で符号量が減らされた量子化出力を逆量子化し、該逆量子化出力を逆DCT(図中にはIDCTと示す。)回路20に供給する。この逆DCT回路20は、上記逆量子化出力を逆離散コサイン変換し、該逆DCT出力を加算器21に供給する。
加算器21は、この逆DCT出力にスイッチ22を介してMC成分を加算し、スイッチ23の選択端子aに供給する。このスイッチ23が制御回路12の制御により選択端子aを被選択端子bに切り換えると加算器21の加算出力は、フレームメモリ24に供給される。
フレームメモリ24は、加算器21の加算出力を1フレーム分記憶する。このフレームメモリ24の1フレーム分の記憶データは、後ろ向き予測動き補償回路25での後向き予測動き補償処理に用いられる。この後ろ向き予測動き補償回路25は、1フレーム分の記憶データに後向きの動き補償処理を施し、該後向き動き補償出力をスイッチ26の被選択端子bに供給する。フレームメモリ24に記憶された1フレーム分の記憶データは、さらにフレームメモリ28に記憶される。このフレームメモリ28に記憶された記憶データは、合計2フレーム分遅延され、前向き予測動き補償回路27に供給される。この前向き予測動き補償回路27は、2フレーム分遅延された遅延出力に前向きの動き補償処理を施し、該前向き動き補償出力をスイッチ26の被選択端子cに供給する。
スイッチ26は、制御回路12の制御により選択端子aを被選択端子b又は被選択端子cに切り換えることで、後向き予測による動き補償信号又は前向き予測による動き補償信号を減算器13に供給する。
例えば、このエンコーダ10に入力された映像データが復号化されたIピクチャであることが判明していれば、このエンコーダ10は差分をとらずDCT回路15、量子化回路16、可変長符号化17及びECCエンコーダ18を介して該復号化されたIピクチャをエンコード処理する。
また、例えば、このエンコーダ10に入力された映像データが復号化されたPピクチャであることが判明していれば、このエンコーダ10は予測画像(差分をとる基準となる画像)として、入力で時間的に前に位置しすでに復号化されたIピクチャ又はPピクチャを用い、再度Pピクチャをエンコード処理する。
また、例えば、このエンコーダ10に入力された映像データが復号化されたBピクチャであることが判明していれば、このエンコーダ10は予測画像として時間的に前に位置しすでに復号化されたIピクチャ又はPピクチャ、時間的に後ろに位置するすでに復号化されたIピクチャ又はPピクチャ、及びその両方から作られた補間画像の3種類を用い、再度Bピクチャをエンコード処理する。
ここで、位相情報検出回路11は、前段のデコーダのデコード処理時に付加される位相情報を検出している。この位相情報は、例えばIピクチャ、Pピクチャ及びBピクチャがGOP内でどの位置に配列されているかを示す信号であればよい。すなわち、この位相情報は、GOPがどのように構成されているかを示す情報である。例えば、位相情報としては、IピクチャとPピクチャ又はPピクチャとPピクチャとの距離(1フレームを単位として何フレーム分離れているかにより示す。)Mと、IピクチャとIピクチャとの距離Nが考えられる。例えば、図3の(A)に示すGOPはM=3、N=9であり、図3の(B)に示すGOPはM=2、N=2である。また、例えば、位相情報としては、GOPがどのように区切られているかを示す信号でもよい。さらにまた、位相情報としては、Iピクチャ、Pピクチャ及びBピクチャであることをそれぞれフレーム毎に示すような信号でもよい。
この位相情報は、映像信号の劣化を防ぐためにあるので、偶数ライン及び奇数ラインのアクティブビデオ以前に位置することが必要である。このため、この位相情報は、少なくともディジタルフィールドブランキングにほぼ等しい垂直ブランキング内に挿入する必要がある。さらに、この位相情報は、映像スイッチングポイント以降に乗せることが必要となる。したがって、この位相情報は、例えば、図4の(A)に示すように偶数及び奇数ラインの垂直ブランキング内の補助(Ancillary、以下ANCという。)エリア内の、図4の(B)に示すDIDエリアに書き込まれるのが好ましい。ここで、DIDはデータIDのことである。また、ANCエリアは、EAVとSAVの間に設けられた補助データ用のエリアである。EAVはエンドオブアクティブビデオ(End of Active Video)のことであり、SAVはスタートオブアクティブビデオ(Start of Active Video)のことである。また、ADFエリアはANCデータフラグ記録エリアである。また、DBNエリアはANCデータのユニット番号が記録されたエリアである。また、DCエリアはANCデータのワード数を示すエリアである。ANCデータエリアは、最大255ワードのANCデータを記録できる。そして、SAVの前のCSエリアは、DID〜ANCデータのチェックサムが示されるエリアである。
この位相情報検出回路11が上記位相情報を検出すると、その位相情報に基づいて制御回路12は、スイッチ14、23及び26の切り換えを制御し、前段のディジタルビデオデータ送受信装置のデコーダでのデコード処理に同期させたエンコード処理をエンコーダ10に行わせることができる。
次に、このディジタルビデオデータ送受信装置のデコーダ30には、エンコーダ10によって符号化されたIピクチャ、Pピクチャ及びBピクチャの符号化入力が供給される。
図2において、変換復号化系31を構成するECCデコーダ32は、供給された符号化入力にエラー訂正処理を施し、該ECCデコード出力を可変長復号化回路33、制御回路38及びSDIエンコーダ37に供給する。可変長復号化回路33は、ECCデコーダ出力に可変長復号化処理を施し、該復号化出力を逆量子化回路34に供給する。逆量子化回路34は、上記復号化出力に逆量子化処理を施し、該逆量子化出力を逆DCT回路35に供給する。逆DCT回路35は、上記逆量子化出力に逆DCT処理を施し、該逆DCT出力をスイッチ36の被選択端子b及び加算器39に供給する。
加算器39は、逆DCT回路35の逆DCT出力に後述する動き補償MC成分を加算し、該加算出力をスイッチ36の被選択端子cに供給する。このスイッチ36は、被選択端子bに供給された逆DCT出力と被選択端子cに供給された上記加算出力とを制御回路38の制御に応じて選択端子aで切り換えてSDIエンコーダ37及びフレームメモリ42に供給する。
SDIエンコーダ37は、ECCデコーダ32から供給されるECCデコード出力に応じてスイッチ36の出力をシリアルディジタルインターフェース用にエンコード処理し、復号化された映像データを出力する。この際、このSDIエンコーダ37は、上記位相情報を図4を用いて説明したように上記映像データに付加する。
フレームメモリ42は、スイッチ36の切り換え出力を1フレーム分記憶する。このフレームメモリ42の1フレーム分の記憶データは、前向き予測動き補償回路41での前向き予測動き補償処理に用いられる。この前向き予測動き補償回路41は、1フレーム分の記憶データに前向きの動き補償処理を施し、該前向き動き補償出力をスイッチ40の被選択端子bに供給する。フレームメモリ42に記憶された記憶データは、さらにフレームメモリ43に記憶される。このフレームメモリ43に記憶された記憶データは、合計2フレーム分遅延され、後ろ向き予測動き補償回路44に供給される。この後ろ向き動き補償回路44は、2フレーム分遅延された遅延出力に後ろ向きの動き補償を施し、該後ろ向き動き補償出力をスイッチ40の被選択端子cに供給する。
スイッチ40は、制御回路38の制御により選択端子aを被選択端子b又は被選択端子cに切り換えることで、前向き予測による動き補償信号又は後ろ向き予測による動き補償信号を加算器39に供給する。
以下に、このディジタルビデオデータ送受信装置が上記位相情報に応じて行うエンコード処理とデコード処理を説明する。このディジタルビデオデータ送受信装置のエンコーダ10が、前段のディジタルビデオデータ送受信装置のデコーダのSDIエンコーダが上記ANCエリアに挿入した位相情報を、位相情報検出回路11で検出し、該検出位相情報に応じてイントラフレームとインターフレームをエンコード処理するのは、前段のディジタルビデオデータ送受信装置のイントラフレームに関する処理とインターフレームに関する処理との関係を崩すことなく、すなわちGOPを崩すことなく処理を進めるためである。
このような関係、すなわち前段のディジタルビデオデータ送受信装置と後段のディジタルビデオデータ装置装置でGOPを崩すことなくコーデック処理を進めると、1回目を除く2回目以降のコーデック処理での信号劣化が無くなる。例えば、ディジタルビデオデータ送受信装置を図5のように接続する場合を考慮する。この図5において、ディジタルビデオデータ送受信装置51、59及び64は、イントラフレームによる符号化画像であるIピクチャと、インターフレームによる符号化画像であるBピクチャとの位相関係を各装置内で守りながらコーデック処理を進めている。ここで、IピクチャはDCTによる変換符号化で、BピクチャはMC+DCTによる変換符号化により得られる。また、該当するフレームに対して、時間的に前の動き補償フレームで差分をとるときを前方予測、時間的に後ろの動き補償フレームで差分をとるときを後方予測、両方でとるときを両方向予測という。
ディジタルビデオデータ送受信装置51、59及び64は、予測符号の差分信号を生成するとき、各装置内において図中DCT-Q-IDCTと記された変換符号化回路(以下、DCT-Q-IDCT回路という。)での変換符号化処理の後の画像であるIピクチャを使っている。このような場合をローカルデコーダ有りとする。また、各ディジタルビデオデータ送受信装置51、59及び64においては、3フレーム完結であるからフレーム並びはIBI・・・である。つまり、3フレームでBピクチャを作っている。
例えば、ディジタルビデオデータ送受信装置51には、入力映像信号fが供給されている。入力映像信号fは、本来、1本のSDIインターフェースでディジタルビデオデータ送受信装置51に供給されるが、ここでは説明の都合上3本の線を用いて説明する。この3本の線は、時間的にずれて入力するフレーム画像を同時に示すために使っている。この3本の線のうちの先ず1本目(シリアルインターフェースでいうと一番最初の入力データ)の入力映像信号をf(1)とし、以下f(2)、f(3)とする。同様に、ディジタルビデオデータ送受信装置51の出力(ディジタルビデオデータ送受信装置59の入力であるが、以下では前段に接続されたディジタルビデオデータ送受信装置の出力とする。)をf(1)、f(2)及びf(3)、ディジタルビデオデータ送受信装置59の出力をf(1)、f(2)及びf(3)、ディジタル送受装置64の出力をf(1)、f(2)及びf(3)とする。
また、例えば、ディジタルビデオデータ送受信装置51の内部では、コーデック処理をエンコーダとデコーダによってそれぞれ行わせているが、DCT-Q-IDCT回路52、DCT-Q-IDCT回路55及びDCT-Q-IDCT回路58の各再量子化回路Qがエンコード処理とデコード処理を分ける部分となる。この再量子化回路Qの量子化ステップと、IDCT回路の出力丸めが信号に歪を与え、画像歪の原因を作る。
但し、変換符号化回路であるDCT-Q-IDCT回路で、常に信号歪が起こるわけではなく、単純に変換の繰り返しを行うとき、目的の精度を満足する演算精度をこの系に与えれば1回目を除く2回目以降のコーデック処理での信号劣化はない。
例えば、ディジタルビデオデータ送受信装置51の内部でのコーデック処理を考慮する。先ず、入力映像信号f(1)及びf(3)をDCT-Q-IDCT回路52及び58で変換符号した変換出力を動き補償(図中MCという。)回路53及び57で動き補償し、該2つのMC出力を入力映像信号f(2)から減算器54で減算する。次に、この減算器54の減算出力をDCT-Q-IDCT回路55で変換符号化する。そして、DCT-Q-IDCT回路55の変換出力にMC回路53及び57の2つのMC出力を加算器56で加算する。すると、加算器56は、Bピクチャを出力する。すなわち、このディジタルビデオデータ送受信装置51は、デコード出力f(2)としてBピクチャを出力する。ここで、デコード出力f(1)及びf(3)は、1回目の変換符号化処理を行うDCT-Q-IDCT回路52及び58において、再量子化部Q及びIDCT部が発生する信号歪を受けたIピクチャとなる。
ここで、Iピクチャが単純に繰り返される場合には、2回目以降に信号の劣化が生じないのであるから、ディジタルビデオデータ送受信装置59のMC回路60及び61の出力も変化がない。したがって、1回目のDCT-Q-IDCT回路55の変換出力と、Bピクチャを復元して得た画像からMC出力を減じて得られた減算器62の減算出力は、同一のものである。これがDCT-Q-IDCT回路63の入力となるのであるから、Bピクチャもまた2回目以降の信号劣化がなくなる。
次に、ディジタルビデオデータ送受信装置を図6のように接続する場合を考慮する。この図6においても、ディジタルビデオデータ送受信装置71、81及び86は、イントラフレームによる符号化画像であるIピクチャと、インターフレームによる符号化画像であるBピクチャとの位相関係を各装置内で守りながらコーデック処理を進めている。なお、ディジタルビデオデータ送受信装置71、81及び86は、予測符号の差分信号を生成するとき、各装置内において変換符号化前の入力信号によって予測符号化の差分を作っている。このような場合をローカルデコーダ無しとする。
例えば、ディジタルビデオデータ送受信装置71の内部でのコーデック処理を考慮する。先ず、入力映像信号f(1)及びf(3)をDCT-Q-IDCT回路72及び80に供給する前にMC回路73及び78で動き補償し、該2つのMC出力を入力映像信号f(2)から減算器75で減算する。次に、この減算器75の減算出力をDCT-Q-IDCT回路76で変換符号化する。そして、DCT-Q-IDCT回路76の変換出力にMC回路74及び79の2つのMC出力を加算器77で加算する。すると、加算器77は、Bピクチャを出力する。ここで、MC回路74及び79は、DCT-Q-IDCT回路72及び80の変換出力をMC補償している。すなわち、このディジタルビデオデータ送受信装置71は、デコード出力f(2)としてBピクチャを出力する。ここで、デコード出力f(1)及びf(3)は、1回目の変換符号化処理を行うDCT-Q-IDCT回路72及び80において、再量子化部Q及びIDCT部が発生する信号歪を受けたIピクチャとなる。
ここで、Iピクチャが単純に繰り返される場合には、2回目以降に信号の劣化が生じないのであるから、ディジタルビデオデータ送受信装置81のMC回路82及び83の出力も変化がなく、MC回路74及び79の出力と等しくなる。したがって、全く同じものを減算器84でデコード出力f1(2)であるBピクチャから減算することになるので、DCT-Q-IDCT回路76の変換出力とDCT-Q-IDCT回路85の変換出力は等しくなる。したがって、Iピクチャの劣化無しの条件と同じになり、この場合もBピクチャは2回目以降の劣化を生じさせない。
例えば、図5に示したローカルデコーダが有る場合において、GOP内のIBIの位相が崩れない状態でコーデックを繰り返した場合には、図7に示すように、映像信号を初めてコーデックした処理の後には信号劣化が生じない。この図7では、信号劣化の尺度を縦軸に示すS/Nで示している。また、横軸にはコーデックの回数を示している。ただし、この図7のように、S/Nが一定となるのは、量子化器を含んだ直交変換器が出力精度を満たすように設計されているときである。それ以外では、演算精度により緩やかに右下がりとなる。
なお、以下では、コーデック処理毎にGOP内の位相が崩れた場合を想定して、IピクチャとBピクチャが交番するような場合について説明する。
例えば、図8に示すような場合、すなわち、ディジタルビデオデータ送受信装置91、92、93及び94がSDIインターフェースで接続され、コーデック処理を繰り返す場合を考慮する。
ディジタルビデオデータ送受信装置91には、入力映像信号fが供給されている。入力映像信号fは、本来、1本のSDIインターフェースでディジタルビデオデータ送受信装置91に供給されるが、ここでは説明の都合上5本の線を用いて説明する。この5本の線は、時間的にずれて入力するフレーム画像を同時に示すために使っている。この5本の線のうちの先ず1本目(シリアルインターフェースでいうと一番最初の入力データ)の入力映像信号をf(1)とし、以下f(2)、f(3)、f(4)、f(5)とする。同様に、ディジタルビデオデータ送受信装置91の出力(ディジタルビデオデータ送受信装置92の入力であるが、以下では前段に接続されたディジタルビデオデータ送受信装置の出力とする。)をf(1)、f(2)、f(3)、f(4)及びf(5)とする。同様に、ディジタルビデオデータ送受信装置92の出力をf(1)、f(2)、f(3)、f(4)及びf(5)とする。ディジタルビデオデータ送受信装置93の出力をf(1)、f(2)、f(3)、f(4)及びf(5)とする。同様に、ディジタルビデオデータ送受信装置94の出力をf(1)、f(2)、f(3)、f(4)及びf(5)とする。また、この図8は、ローカルデコーダ有りの場合を示している。
この図8に示したような場合、各ディジタルビデオデータ送受信装置間では、イントラフレームにより符号化されたIピクチャと、インターフレームにより符号化されたBピクチャやPピクチャの位相関係をコーデック処理毎に交番させているので、図5に示したような関係が成立せず、コーデック処理の回数を重ねる度に図9の特性図に示すように信号の劣化が生じることになる。この図9においては、信号の劣化の様子をS/Nの変化として示している。
また、図10には、ローカルデコーダが無い場合のディジタルビデオデータ送受信装置95、96、97及び98の位相関係が崩れた場合を想定した接続を示す。
この場合においても、各ディジタルビデオデータ送受信装置では、イントラフレームにより符号化されたIピクチャと、インターフレームにより符号化されたBピクチャやPピクチャの位相関係をコーデック処理毎に交番させているので、図5に示したような関係が成立せず、コーデック処理の回数を重ねる度に図11の特性図に示すように信号の劣化が生じることになる。
このようにコーデック処理毎にGOP内のIピクチャ、Pピクチャ、Bピクチャの位相関係が交番することによる画質の劣化の発生を抑えるため、本発明の実施例のディジタルビデオデータ送受信装置では、上述したように位相情報検出回路11によって位相情報を検出し、該検出位相情報に応じて制御回路12がスイッチ14、23及び26を制御して、コーデック処理を行っている。
なお、本発明に係る再符号化装置及び方法、復号装置及び方法、符号化装置及び方法、並びに伝送装置及び方法は、上記実施例にのみ限定されるものではなく、例えば他の動画圧縮復号化を繰り返すコーデック処理を行う送受信装置に適用されてもよい。
また、上記位相情報は、例えばANCデータとして予備の情報を提供するものであるから、各装置間でコーデックの種類が異なる場合は、無視してもよいしあるいは一部利用してもよい。
本発明の実施の形態によれば、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相関係を示す位相情報を、該ブロック内の各復号化信号と共に送信するので、コーデックの際に画質の劣化を損なわせない。
本発明の実施の形態によれば、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相関係を示す位相情報を検出し、該位相情報に応じて上記ブロック内の各復号化信号の順番と同じ順番となるようにフレーム内符号化信号とフレーム間符号化信号を得るので、コーデックの際に画質の劣化を損なわせない。
本発明の実施の形態によれば、グループ化されたブロック内におけるフレーム内復号化信号とフレーム間復号化信号の位相情報を検出し、該位相情報に応じて上記ブロック内復号化信号の順番と同じ順番となるようにフレーム内符号化信号とフレーム間復号化信号を得ると共に、該フレーム内符号化信号とフレーム間符号化信号を復号化し、フレーム内復号化信号とフレーム間復号化信号の位相情報と共にグループ化されたブロック単位で送信するので、コーデック処理の際に画質の劣化を生じさせず、コーデック処理の繰り返しを品質を保って行うことができる。
本発明の実施例のディジタルビデオデータ送受信装置のエンコード側の概略構成を示すブロック図である。 本発明の実施例のディジタルビデオデータ送受信装置のデコード側の概略構成を示すブロック図である。 位相情報を説明するための図である。 位相情報の挿入場所を説明するための図である。 ローカルデコーダ有りの場合のディジタルビデオデータ送受信装置の動作を説明するための図である。 ローカルデコーダ無しの場合のディジタルビデオデータ送受信装置の動作を説明するための図である。 ディジタルビデオデータ送受信装置で2回目以降のコーデックにおいて画質の劣化が生じないことを示すための特性図である。 ローカルデコーダ有りの場合の従来のディジタルビデオデータ送受信装置の動作を説明するための図である。 図8を用いて説明した従来のディジタルビデオデータ送受信装置のコーデックでの画質劣化を示すための特性図である。 ローカルデコーダ無しの場合の従来のディジタルビデオデータ送受信装置の動作を説明するための図である。 図10を用いて説明した従来のディジタルビデオデータ送受信装置のコーデックでの画質劣化を示すための特性図である。 MPEGによる符号化処理を説明するための図である。
符号の説明
11 位相情報検出回路、 12 制御回路、 15 離散コサイン変換回路、 16 量子化回路、 17 可変長符号化回路、 18 エラー訂正処理回路、 19 逆量子化回路、 20 逆DCT回路、 24,28 フレームメモリ、 25 後ろ向き予測動き補償回路、 27 前向き予測動き補償回路

Claims (16)

  1. 符号化データを復号処理する復号装置において、
    上記符号化データに対する過去の符号化処理において利用された、グループオブピクチャ内においてピクチャがどの位置に配列されているかを示す位相情報を、上記符号化データとともに取得する取得手段と、
    上記符号化データを復号処理して画像データを生成する復号手段と、
    上記復号手段により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段と
    を備える復号装置。
  2. 上記伝送手段は、上記取得手段により取得された上記位相情報を、上記画像データとともに伝送することを特徴とする
    請求項記載の復号装置。
  3. 上記伝送手段は、上記取得手段により取得された上記位相情報を、上記画像データに多重化して伝送することを特徴とする
    請求項記載の復号装置。
  4. 上記画像データは垂直ブランキング期間を有しており、
    上記伝送手段は、上記位相情報を上記画像データの垂直ブランキング期間に多重化する
    請求項記載の復号装置。
  5. 上記画像データは、SDI(Serial Digital Interface)フォーマットの画像データである
    請求項記載の復号装置。
  6. 符号化データを復号処理する復号装置において、
    上記符号化データに対する過去の符号化処理において利用された、Iピクチャとして符号化されたピクチャと他のIピクチャとして符号化されたピクチャとが互いに何フレーム離れているかを示す位相情報を、上記画像データとともに取得する取得手段と、
    上記符号化データを復号処理して画像データを生成する復号手段と、
    上記復号手段により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段と
    を備える復号装置。
  7. 符号化データを復号処理する復号装置において、
    上記符号化データに対する過去の符号化処理において利用された、Pピクチャとして符号化されたピクチャと他のPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャと他のBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Iピクチャとして符号化されたピクチャとPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Pピクチャとして符号化されたピクチャとBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャとIピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、を示す位相情報を、上記画像データとともに取得する取得手段と、
    上記符号化データを復号処理して画像データを生成する復号手段と、
    上記復号手段により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段と
    を備える復号装置。
  8. 符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、グループオブピクチャ内においてピクチャがどの位置に配列されているかを示す位相情報を取得する取得手段と、
    上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段
    を備える伝送装置。
  9. 符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、Iピクチャとして符号化されたピクチャと他のIピクチャとして符号化されたピクチャとが互いに何フレーム離れているかを示す位相情報を取得する取得手段と、
    上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段と
    を備える伝送装置。
  10. 符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、Pピクチャとして符号化されたピクチャと他のPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャと他のBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Iピクチャとして符号化されたピクチャとPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Pピクチャとして符号化されたピクチャとBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャとIピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、を示す位相情報を取得する取得手段と、
    上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送手段と
    を備える伝送装置。
  11. 符号化データを復号処理する復号方法において、
    上記符号化データに対する過去の符号化処理において利用された、グループオブピクチャ内においてピクチャがどの位置に配列されているかを示す位相情報を、上記符号化データとともに取得する取得工程と、
    上記符号化データを復号処理して画像データを生成する復号工程と、
    上記復号工程により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送工程と
    を備える復号方法。
  12. 符号化データを復号処理する復号方法において、
    上記符号化データに対する過去の符号化処理において利用された、Iピクチャとして符号化されたピクチャと他のIピクチャとして符号化されたピクチャとが互いに何フレーム離れているかを示す位相情報を、上記画像データとともに取得する取得工程と、
    上記符号化データを復号処理して画像データを生成する復号工程と、
    上記復号工程により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送工程と
    を備える復号方法。
  13. 符号化データを復号処理する復号方法において、
    上記符号化データに対する過去の符号化処理において利用された、Pピクチャとして符号化されたピクチャと他のPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャと他のBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Iピクチャとして符号化されたピクチャとPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Pピクチャとして符号化されたピクチャとBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャとIピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、を示す位相情報を、上記画像データとともに取得する取得工程と、
    上記符号化データを復号処理して画像データを生成する復号工程と、
    上記復号工程により生成された画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送工程と
    を備える復号方法。
  14. 符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、グループオブピクチャ内においてピクチャがどの位置に配列されているかを示す位相情報を取得する取得工程と、
    上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送工程
    を備える伝送方法。
  15. 符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、Iピクチャとして符号化されたピクチャと他のIピクチャとして符号化されたピクチャとが互いに何フレーム離れているかを示す位相情報を取得する取得工程と、
    上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送工程と
    を備える伝送方法。
  16. 符号化データを復号処理して画像データを生成する際に、上記符号化データに対する過去の符号化処理において利用された、Pピクチャとして符号化されたピクチャと他のPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャと他のBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Iピクチャとして符号化されたピクチャとPピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Pピクチャとして符号化されたピクチャとBピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、又は、Bピクチャとして符号化されたピクチャとIピクチャとして符号化されたピクチャとが互いに何フレーム離れているか、を示す位相情報を取得する取得工程と、
    上記画像データに対して再符号化処理が行われる際に、上記位相情報に示される配列を保持して再符号化処理が行われるように、上記位相情報を伝送する伝送工程と
    を備える伝送方法。
JP2005009457A 2005-01-17 2005-01-17 復号装置及び方法、並びに伝送装置及び方法 Expired - Lifetime JP3891198B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005009457A JP3891198B2 (ja) 2005-01-17 2005-01-17 復号装置及び方法、並びに伝送装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005009457A JP3891198B2 (ja) 2005-01-17 2005-01-17 復号装置及び方法、並びに伝送装置及び方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP13065194A Division JP3653745B2 (ja) 1994-03-29 1994-06-13 符号化装置及び方法並びに符号化復号化装置及び方法

Publications (2)

Publication Number Publication Date
JP2005124241A JP2005124241A (ja) 2005-05-12
JP3891198B2 true JP3891198B2 (ja) 2007-03-14

Family

ID=34617122

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005009457A Expired - Lifetime JP3891198B2 (ja) 2005-01-17 2005-01-17 復号装置及び方法、並びに伝送装置及び方法

Country Status (1)

Country Link
JP (1) JP3891198B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007074467A (ja) * 2005-09-08 2007-03-22 Sony Corp 情報処理装置および方法、送信装置および方法、記録装置および方法、並びにプログラム

Also Published As

Publication number Publication date
JP2005124241A (ja) 2005-05-12

Similar Documents

Publication Publication Date Title
KR100564896B1 (ko) 화상부호화방법 및 장치와 기록매체
USRE43238E1 (en) Picture signal transmitting method and apparatus
US7146056B2 (en) Efficient spatial scalable compression schemes
KR19990072968A (ko) 화상신호처리시스템,디코더,화상신호처리방법,및디코딩방법
US6256349B1 (en) Picture signal encoding method and apparatus, picture signal transmitting method, picture signal decoding method and apparatus and recording medium
KR100226563B1 (ko) 동화상 데이타 복호화장치
JP3245496B2 (ja) 画像符号化方法、画像符号化回路、画像符号化装置及び再生装置
JP3891198B2 (ja) 復号装置及び方法、並びに伝送装置及び方法
JP3653745B2 (ja) 符号化装置及び方法並びに符号化復号化装置及び方法
JPH05153573A (ja) 動画像データ復号化装置
WO2001008420A1 (en) Device for encoding motion picture signals and encoding method
JP4422629B2 (ja) 動画像符号化装置、復号化装置、動画像記録装置および動画像再生装置
JPH1023415A (ja) 画像符号化復号方法および装置
JP4596277B2 (ja) 符号化装置、符号化方法、復号装置及び復号方法
JP4113233B2 (ja) 伝送システム及び伝送方法
JP2007151163A (ja) 画像復号化方法及び装置
JP2006050490A (ja) 画像符号化装置
HK1029694A1 (en) Transcoding
HK1029694B (en) Transcoding
JPH0686267A (ja) 映像信号の符号化装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061127

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091215

Year of fee payment: 3

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101215

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111215

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121215

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131215

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term