[go: up one dir, main page]

JP4213526B2 - 画像処理方法 - Google Patents

画像処理方法 Download PDF

Info

Publication number
JP4213526B2
JP4213526B2 JP2003179449A JP2003179449A JP4213526B2 JP 4213526 B2 JP4213526 B2 JP 4213526B2 JP 2003179449 A JP2003179449 A JP 2003179449A JP 2003179449 A JP2003179449 A JP 2003179449A JP 4213526 B2 JP4213526 B2 JP 4213526B2
Authority
JP
Japan
Prior art keywords
block
sub
encoded
dct
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003179449A
Other languages
English (en)
Other versions
JP2003348599A5 (ja
JP2003348599A (ja
Inventor
孝啓 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2003179449A priority Critical patent/JP4213526B2/ja
Publication of JP2003348599A publication Critical patent/JP2003348599A/ja
Publication of JP2003348599A5 publication Critical patent/JP2003348599A5/ja
Application granted granted Critical
Publication of JP4213526B2 publication Critical patent/JP4213526B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理方法に関し、特にインタレース画像信号の周波数成分に対して適応的な画面内予測処理を施すことにより、画像信号の符号化効率を向上する方法に関するものである。
【0002】
【従来の技術】
動画像に対応する画像データを、その冗長性を利用して圧縮する予測符号化には、被符号化フレーム内の画像データを用いて、画像データの予測を行う画面内予測符号化と、被符号化フレーム以外の他のフレームの画像データを利用して、画像データの予測を行う画面間予測符号化がある。
【0003】
具体的には、上記画面内予測符号化は、被符号化フレームの画像データの予測値をそのフレーム内の画像データから生成し、被符号化フレームの画像データとその予測値の差分値を符号化することにより、画像の本来の性質として画像データに多量に含まれている空間的に冗長な情報を除去もしくは減少して画像データを圧縮する方法である。
【0004】
一方、上記画面間予測符号化は、被符号化フレームの画像データの予測値を他のフレームの画像データから生成し、被符号化フレームの画像データとその予測値の差分値を符号化することにより、画像の動きが小さい場合などに画像データに多量に含まれることとなる時間的に冗長な情報を除去もしくは減少して画像を圧縮する方法である。
【0005】
最近の画像符号化においては離散コサイン変換(DCT)が広く利用されており、代表的な画像符号化方式であるMPEG(Moving Picture Expert Group )方式においては、デジタル画像信号により形成される画像空間(フレーム)をDCT処理の単位である複数の矩形領域(ブロック)に分割し、各ブロックに対応する画像信号に対してブロック毎にDCT処理を施すようにしている。
【0006】
MPEG方式で採用されている、DCT係数,つまりDCT領域(周波数領域)における画像データに対する画面内予測方法については、MPEG4に関する文献であるISO/IEC JTC1/SC29/WG11 MPEG97/N1642 MPEG-4 Video Verification Model Version 7.0 (以下、MPEG−4 VM7.0と称する。)における「Intra DC and AC Prediction for I-VOP and P-VOP」の項に記載されている。
【0007】
この文献の記載によれば、符号化処理の対象となる被符号化ブロックに対応するDCT係数のDC成分およびAC成分を、上記画像空間上で被符号化ブロックの左上、上および左に隣接して位置する3つの隣接ブロックに対応するDCT係数を利用して予測することとしている。
【0008】
図15は、従来の画像符号化方式に採用されている、上記文献に記述されているような画面内DCT係数予測方法を説明するための図である。
図15には、DCT処理の単位となる8×8画素からなる4つのブロック(DCTブロックともいう。)R0〜R2,Xが示されており、各ブロックは、画像信号により形成される画像空間(空間領域)上で互いに隣接して位置している。
【0009】
ここで、ブロックXは、符号化処理の対象となる被符号化ブロックであり、ブロックR0,R1,R2は、上記空間領域上で、上記被符号化ブロックの左上側,上側,及び左側に隣接して位置する、既に符号化処理が完了した符号化済みブロックである。
【0010】
従来の画面内DCT係数予測方法では、ブロックXのDCT係数の予測値を生成する際に、ブロックR1またはブロックR2のDCT係数が参照される。
具体的には、符号化済みブロックR1のDCT係数を参照する場合には、該符号化済みブロックR1における左上隅のDC成分及び最上列のAC成分が、これらの成分と被符号化ブロックXにて同位置に位置するDCT係数の予測値として用いられる。また、符号化済みブロックR2のDCT係数を参照する場合には、該符号化済みブロックR2の左上隅のDC成分及び最左列のAC成分が、これらの成分と上記被符号化ブロックXにて同位置に位置するDCT係数の予測値として用いられる。
【0011】
また、符号化済みブロックのいずれのブロックのDCT係数を、上記被符号化ブロックXのDCT係数の予測値として参照すべきかの決定は、符号化済みブロックR0,R1およびR2のDC成分を用いて行われる。
【0012】
すなわち、ブロックR0とブロックR2の間でのDC成分の差の絶対値が、ブロックR0とブロックR1の間でのDC成分の差の絶対値よりも小さい場合は、縦方向に並ぶブロック間でのDCT係数の相関が強いため、被符号化ブロックXのDCT係数の予測値を生成する際にはブロックR1のDCT係数が参照される。一方、ブロックR0とブロックR1の間でのDC成分の差の絶対値が、ブロックR0とブロックR2の間でのDC成分の差の絶対値よりも小さい場合には、横方向に並ぶブロック間でのDCT係数の相関が強いため、被符号化ブロックXのDCT係数の予測値を生成する際には、ブロックR2のDCT係数が参照される。
【0013】
ところが、上記文献(MPEG−4 VM7.0)における「Adaptive Frame/Field DCT」の項に記載されているように、インタレース画像の符号化に用いられるDCT処理(周波数変換処理)には、フレームDCT処理とフィールドDCT処理の2つのタイプのDCT処理がある。これらのDCT処理はその処理単位が異なり、フレームDCT処理はフレーム単位で画像データの変換を行い、フィールドDCT処理はフィールド単位で画像データの変換を行う。MPEG方式では、4つのブロックから構成されるいわゆるマクロブロック毎にフレームDCT処理とフィールドDCT処理とが適応的に切り換えられる。
【0014】
ここで、マクロブロックに対するフレームDCT処理とフィールドDCT処理の切替えは、図16に示すように、走査線の並べ替えを行うか否かにより行われ、フィールドDCT処理では、走査線の並べ替えが行われたマクロブロックにおける各ブロックの画像データにDCT処理が施されることとなる。
【0015】
具体的には、フレームDCT処理の場合は、偶数および奇数番号の走査線が交互に並んだマクロブロックにおける各ブロックの画像データがそのままDCT処理され、フィールドDCT処理の場合には、走査線の並べ替えにより、マクロブロックが、偶数番号の走査線のみで構成される第1フィールドのブロックと奇数番号の走査線のみで構成される第2フィールドのブロックとからなるものとなった後に、このようなマクロブロックにおける各ブロックの画像データに対してDCT処理が行われることとなる。
【0016】
このようにインタレース画像信号の符号化処理では、画像空間上に位置するマクロブロックとして、フレームDCT処理されるマクロブロックとフィールドDCT処理されるマクロブロックとが混在することになる。
【0017】
そして、第1フィールドと第2フィールドの間での画素値の相関が第1フィールド内および第2フィールド内での画素値の相関より高い場合は、フレームDCT処理が実施され、それ以外の場合はフィールドDCT処理が実施されるという方法で、フレームDCT処理とフィールドDCT処理は切替えられる。
【0018】
従って、画像空間上で隣り合うマクロブロックや隣接するブロック(つまりマクロブロックを構成するサブブロック)であっても、DCT処理のタイプが異なる場合があり、この場合には、隣接するマクロブロック間、あるいは隣接するブロック間では、マクロブロックあるいはブロックのDCT処理タイプが同じ場合に比べて、DCT係数の相関は低いものとなる。
【0019】
また、隣り合うブロック間ではこれらが属するフィールドが異なる場合があり、このような場合には、隣接するブロック間では、ブロックの属するフィールドが同じ場合に比べて、DCT係数の相関は低いものとなる。
【0020】
【発明が解決しようとする課題】
しかしながら、フィールドDCT処理が施されたマクロブロック(フィールドDCTタイプのマクロブロック)では、第1フィールドのブロックと第2フィールドのブロックが混在するため、被符号化ブロックのDCT係数の予測値を生成する際、参照すべき符号化済みブロックを特定することが困難であり、このため、上記のようなフィールドDCTタイプのマクロブロックに対して従来の画面内予測処理を単純に適用することができない。この結果、フィールドDCTタイプのマクロブロックが混在する、インターレース画像の符号化処理あるいは特定のプログレッシブ画像の符号化処理では、画面内予測処理を適用することができず、画像信号に含まれる空間的に冗長な画像情報を十分に削減して、効率のよい符号化処理を行うことができないという問題があった。
【0021】
この発明は以上のような問題点を解消するためになされたもので、異なるDCTタイプのマクロブロックが混在する、インターレース画像の符号化処理あるいは特定のプログレッシブ画像の符号化処理においても、画像信号に含まれる空間的に冗長な画像情報を十分に削減でき、高能率な符号化処理を行うことができる画像処理方法を得ることを目的とする。
【0022】
【課題を解決するための手段】
この発明(請求項1)に係る画像処理方法は、複数の画素からなる画像空間を形成する画像信号を、該画像空間を区分する矩形形状の複数のマクロブロックに分割し、該マクロブロックを構成するサブブロックに対応する画像信号の符号化処理を、サブブロック毎に行う画像処理方法であって、上記マクロブロックの画像信号に対して、上記画像信号を構成する第1フィールドの画像信号が該マクロブロックの上側に位置し、かつ上記画像信号を構成する第2フィールドの画像が該マクロブロックの下側に位置するよう、水平画素列の並べ替え処理を施す並べ替えステップと、上記サブブロック化した画像信号をサブブロック単位の周波数変換により周波数成分に変換する変換ステップと、被符号化サブブロックの左側または上側に位置する符号化済みのサブブロックの周波数成分に基づいて被符号化サブブロックの周波数成分の予測値を生成する予測ステップと、上記被符号化サブブロックの周波数成分と上記予測値との差分値を符号化する符号化ステップとを有し、上記変換ステップは、上記並べ替え処理が施されたマクロブロックあるいは並べ替え処理が施されていないマクロブロックの画像信号を、上記マクロブロックを構成する左上、右上、左下、右下に位置する4つのサブブロック毎に周波数変換を行って周波数成分に変換し、上記予測ステップは、上記被符号化サブブロックの左側または上側に位置する符号化済みサブブロックがフィールド単位または、フレーム単位のいずれで周波数変換されているかの処理単位を特定し、上記被符号化サブブロックの左側または上側に位置する少なくともいずれか一方の符号化済みサブブロックの周波数変換の処理単位が上記被符号化サブブロックの周波数変換の処理単位と同じ場合に、周波数変換の処理単位が同じである上記左側または上側に位置するいずれか一方の符号化済みのサブブロックの周波数成分の直流成分から上記予測値を生成し、上記被符号化サブブロックの左側および上側に位置する符号化済みブロックの周波数変換の処理単位と上記被符号化サブブロックの周波数変換の処理単位とが異なる場合には、上記被符号化サブブロックの左側近傍、上側近傍および左上近傍に位置する符号化済みサブブロックから所定の方法により周波数成分の直流成分を生成し、生成した周波数成分の直流成分から上記予測値を生成し、上記被符号化サブブロックがフィールド単位で周波数変換されている場合は、上記被符号化サブブロックの左側に隣接するサブブロックを左側に位置する符号化済みサブブロックとして用い、上記被符号化サブブロックが含まれるブロックの上側に隣接するブロック内で被符号化サブブロックと同じ位置にあるサブブロックを上側に位置する符号化済みサブブロックとして用いるものであり、上記被符号化サブブロックがフレーム単位で周波数変換されている場合は、上記被符号化サブブロックの左側または上側に隣接するサブブロックを、それぞれ左側または上側に位置する符号化済みサブブロックとして用いるものである、ことを特徴とするものである。
【0024】
この発明(請求項)に係る画像処理装置は、複数の画素からなる画像空間を形成する画像信号を、該画像空間を区分する矩形形状の複数のマクロブロックに分割し、該マクロブロックを構成するサブブロックに対応する画像信号の符号化処理を、サブブロック毎に行う画像処理装置であって、上記マクロブロックの画像信号に対して、上記画像信号を構成する第1フィールドの画像信号が該マクロブロックの上側に位置し、かつ上記画像信号を構成する第2フィールドの画像が該マクロブロックの下側に位置するよう、水平画素列の並べ替え処理を施す並べ替え手段と、上記サブブロック化した画像信号をサブブロック単位の周波数変換により周波数成分に変換する変換手段と、被符号化サブブロックの左側または上側に位置する符号化済みのサブブロックの周波数成分に基づいて被符号化サブブロックの周波数成分の予測値を生成する予測手段と、上記被符号化サブブロックの周波数成分と上記予測値の差分値を符号化する符号化手段とを備え、上記変換手段は、上記並べ替え処理が施されたマクロブロックあるいは並べ替え処理が施されていないマクロブロックの画像信号を、上記マクロブロックを構成する左上、右上、左下、右下に位置する4つのサブブロック毎に周波数変換を行って周波数成分に変換し、上記予測手段は、上記被符号化サブブロックの左側または上側に位置する符号化済みサブブロックがフィールド単位または、フレーム単位のいずれで周波数変換されているかの処理単位を特定し、上記被符号化サブブロックの左側または上側に位置する少なくともいずれか一方の符号化済みサブブロックの周波数変換の処理単位が上記被符号化サブブロックの周波数変換の処理単位と同じ場合に、周波数変換の処理単位が同じである上記左側または上側に位置するいずれか一方の符号化済みのサブブロックの周波数成分の直流成分から上記予測値を生成し、上記被符号化サブブロックの左側および上側に位置する符号化済みブロックの周波数変換の処理単位と上記被符号化サブブロックの周波数変換の処理単位とが異なる場合には、上記被符号化サブブロックの左側近傍、上側近傍および左上近傍に位置する符号化済みサブブロックから所定の方法により周波数成分の直流成分を生成し、生成した周波数成分の直流成分から上記予測値を生成し、上記被符号化サブブロックがフィールド単位で周波数変換されている場合は、上記被符号化サブブロックの左側に隣接するサブブロックを左側に位置する符号化済みサブブロックとして用い、上記被符号化サブブロックが含まれるブロックの上側に隣接するブロック内で被符号化サブブロックと同じ位置にあるサブブロックを上側に位置する符号化済みサブブロックとして用いるものであり、上記被符号化サブブロックがフレーム単位で周波数変換されている場合は、上記被符号化サブブロックの左側または上側に隣接するサブブロックを、それぞれ左側または上側に位置する符号化済みサブブロックとして用いるものである、ことを特徴とするものである。
【0025】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照しながら説明する。
実施の形態1.
本発明の実施の形態1による画像処理装置(画像符号化装置)は、適応的画面内DCT係数予測方法,つまり被符号化ブロックのDCTタイプ信号(周波数変換タイプ信号)に応じて、符号化済みブロックのDCT係数から被符号化ブロックのDCT係数の予測値を生成する方法を用いて、画像信号の画面内予測符号化を行うことを特徴としている。ここで、DCTタイプ信号とは、被符号化ブロックがフレームDCT処理されているかフィールドDCT処理されているかを示す信号を表すものとする。
【0026】
図1は、本実施の形態1による画像符号化装置の構成を示すブロック図である。
図において、1000は本実施の形態1の画像符号化装置であり、入力されるデジタル画像信号(入力画像信号)110aを、これにより形成される画像空間(フレーム)を分割する複数のブロックの各々に対応するよう分割し、各ブロックに対応する画像信号を上記ブロック毎に符号化する構成となっている。
【0027】
すなわち、この画像符号化装置1000は、上記入力画像信号110aを、周波数変換の処理単位となるフレームまたはフィールド毎に上記各ブロックに対応するようブロック化するとともに、上記ブロック化された画像信号101、および上記周波数変換(DCT処理)の処理単位を示すDCTタイプ信号102を出力するブロック化器100を有している。このブロック化器100は、入力画像信号110aを受け、フィールド間での画素値の相関がフレーム内のものに比べて高い場合には、フィールドDCT処理が実施されるよう、予め16×16画素からなるマクロブロックを単位として走査線の並べ替えを行い、走査線の並べ替えが行われたマクロブロックを構成する8×8画素からなるブロック毎に画像信号を出力する構成となっている。
【0028】
なお、上記ブロック化器100では、フィールド間での画素値の相関がフレーム内のものに比べて小さい場合は、上記のようなマクロブロックを単位する走査線の並べ替えは行われず、入力画像信号は上記ブロック毎に出力されることとなる。
【0029】
また、上記画像符号化装置1000は、上記ブロック化された画像信号(以下ブロック化画像信号ともいう。)101に対して離散コサイン変換(DCT処理)を施して、上記ブロック化画像信号を周波数成分(DCT係数)104に変換するDCT器103と、このDCT係数104を量子化して、各ブロックに対応する量子化値(DCT係数量子化値)106を生成する量子化器105と、上記DCTタイプ信号102に基づいた画面内予測処理により被符号化ブロックに対応する予測値111を生成する画面内予測処理部110と、上記DCT係数量子化値106から上記予測値111を減算してDCT係数差分値108を出力する加算器107とを有しており、このDCT係数差分値108が、VLC器109により可変長符号化されて、ビットストリーム(画像符号化信号)110bとして出力されるようになっている。
【0030】
ここで、上記画面内予測処理部110は、上記DCT係数差分値108と画面内予測値111とを加算する加算器112と、該加算器112の出力を符号化済みブロックのDCT係数量子化値116として格納するブロックメモリ115と、DCTタイプ信号102に応じて、適応的画面内DCT係数予測方法により符号化済みブロックのDCT係数量子化値114から被符号化ブロックのDCT係数量子化値の予測値111を生成するDCT係数予測器113とから構成されている。
【0031】
次に動作について説明する。
まず、適応的DCT予測処理を用いた符号化処理における全体的な動作について説明する。
デジタル画像信号(入力画像信号)110aが本画像符号化装置1000に入力されると、ブロック化器100にて、上記入力画像信号110aは、周波数変換の処理単位となるフレームまたはフィールド毎に上記各ブロックに対応するようブロック化されるとともに、上記ブロック化された画像信号101、および上記周波数変換(DCT処理)の処理単位を示すDCTタイプ信号102が出力される。
【0032】
このときこのブロック化器100では、フィールド間での画素値の相関がフレーム内のものに比べて高い場合には、フィールドDCT処理が実施されるよう、予め16×16画素からなるマクロブロックを単位として、画像信号に対して走査線の並べ替え処理が行われ、走査線の並べ替え処理が行われた画像信号が、該マクロブロックを構成する8×8画素からなるブロック毎に出力される。
【0033】
なお、上記ブロック化器100では、フィールド間での画素値の相関がフレーム内のものに比べて小さい場合は、上記のようなマクロブロックを単位する走査線の並べ替え処理は行われず、入力画像信号は上記ブロック毎に出力されることとなる。
【0034】
そして、符号化処理の対象となる被符号化ブロックの画像信号101は、DCT器103にて離散コサイン変換(DCT処理)により、上記被符号化ブロックに対応する周波数成分(DCT係数)104に変換され、さらにこのDCT係数104は、量子化器105にて量子化されて、被符号化ブロックに対する量子化値(DCT係数量子化値)106として出力される。
【0035】
さらに、上記被符号化ブロックのDCT係数量子化値106が加算器107に供給されると、この量子化値106とその予測値111の差分が求められてDCT係数差分値108として出力される。このDCT係数差分値108は、VLC器109により可変長符号化されて、ビットストリーム(画像符号化信号)110bとして出力される。
【0036】
また、上記加算器107から出力されるDCT係数差分値108は、画面内予測処理部110に供給され、ここで上記DCT係数量子化値106に対する予測値が生成される。
【0037】
すなわち、上記画面内予測処理部110では、加算器112により上記DCT係数差分値108と画面内予測値111が加算され、これらの加算値が符号化済みブロックのDCT係数量子化値116としてブロックメモリ115に格納される。そして、DCT係数予測器113では、上記DCTタイプ信号102に応じて、適応的画面内DCT係数予測方法により符号化済みブロックのDCT係数量子化値114から被符号化ブロックのDCT係数量子化値の予測値111が生成される。
【0038】
次に、上記符号化処理における適応的画面内DCT係数予測方法について詳しく説明する。
本実施の形態1の適応的画面内DCT係数予測方法は、被符号化ブロックのDCTタイプに応じて、被符号化ブロックに対応するDCT係数の予測値を生成する際に参照するブロックを変更するものである。
本実施の形態1においては、次のようにDCT領域を定義する。
【0039】
すなわち、DCT領域(周波数領域)は、画像空間(空間領域)を形成する画像信号をDCT処理(周波数変換)して得られる周波数成分により形成される領域とし、画像信号空間領域(画像空間)におけるマクロブロックの配置のとおりに、DCT領域(周波数領域)において各マクロブロックは配置されているものとする。
【0040】
また、この実施の形態1では、図3のように、マクロブロックがフレームDCT処理される場合は、マクロブロックにおける走査線の並べ替えを行わずに各ブロックの画像信号にDCT処理が施され、空間領域上のマクロブロックにおける左上,右上,左下,右下の各ブロックに対応するDCT係数が、それぞれDCT領域上のマクロブロックにおけるブロック位置(0),(1),(2),(3)のブロック内に配置され、一方、マクロブロックがフィールドDCT処理される場合は、空間領域上のマクロブロックにおける走査線の並べ替えの後に各ブロックの画像信号にDCT処理が施され、第1フィールド左、第1フィールド右、第2フィールド左、第2フィールド右の各ブロックのDCTデータが、それぞれDCT領域のマクロブロックにおけるブロック位置(0),(1),(2),(3)のブロック内に配置されるものとする。
【0041】
次に、被符号化ブロックに対応するDCT係数(DCT領域における被符号化ブロックのデータ)を、符号化済みブロックのDCT係数を参照して予測し、この際、被符号化ブロックのDCTタイプに応じて、参照する符号化済みブロックを切替える適応的画面内DCT係数予測方法について詳しく説明する。
【0042】
まず、被符号化ブロックがフレームDCT処理されている場合の予測(以下、フレーム予測と称する)においては、図4(a) に示すように、被符号化ブロックx(i)の左上に位置するブロックを参照ブロックr0(i)、被符号化ブロックx(i)の上側に隣接して位置するブロックを参照ブロックr1(i)、被符号化ブロックx(i)の左隣りに位置するブロックを参照ブロックr2(i)として参照する。図4(a) に示す被符号化ブロックx(i)がフレームDCT処理されている場合の参照ブロックr0(i)、r1(i)およびr2(i)は、被符号化ブロックx(i)に空間的に最も近いブロックであり、通常、これらの参照ブロックのDCT係数は被符号化ブロックx(i)のDCT係数と相関が高いと考えられる。
【0043】
一方、被符号化ブロックがフィールドDCT処理されている場合の予測(以下、フィールド予測と称する)においては、図4(b)に示すように、被符号化ブロックx(i)の2ブロック上に位置するブロックの左隣に位置するブロックを参照ブロックr0(i)、被符号化ブロックx(i)の2ブロック上に位置するブロックを参照ブロックr1(i)、被符号化ブロックx(i)の左隣りに位置するブロックを参照ブロックr2(i)として参照する。図4(b)に示す被符号化ブロックx(i)がフィールドDCT処理されている場合の参照ブロックr0(i)、r1(i)およびr2(i)は、被符号化ブロックx(i)と同じフィールドに属する空間的に最も近いブロックであり、通常、これらの参照ブロックのDCT係数は被符号化ブロックx(i)のDCT係数と相関が高いと考えられる。
【0044】
次に、図5から図11を用いて、本実施の形態1で用いる適応的画面内DCT係数予測方法の処理手順について説明する。
図5は、本実施の形態の適応的画面内DCT係数予測方法の処理手順を表すフローチャートを示す図である。
【0045】
ステップ51において、被符号化ブロックx(i)のDCTタイプが判定され、この判定結果によってその後の処理が異なることとなる。
つまり、被符号化ブロックx(i)がフレームDCT処理されている場合は、ステップS52において、図4(a)に示す、被符号化ブロックx(i)に対する参照ブロックr0(i),r1(i)およびr2(i)を参照するフレーム予測により、被符号化ブロックx(i)のDCT係数の予測値が生成される。
【0046】
一方、被符号化ブロックx(i)がフィールドDCT処理されている場合は、ステップS53において、図4(b)に示す、被符号化ブロックx(i)に対する参照ブロックr0(i)、r1(i)およびr2(i)参照するフィールド予測により、被符号化ブロックx(i)のDCT係数の予測値が生成される。
【0047】
以上のようにして、被符号化ブロックx(i)のDCTタイプに応じて、予測に用いる参照ブロックを切替えることで、被符号化ブロックx(i)との間でDCT係数の相関の高いブロックのDCT係数を予測に用いることができ、これにより効率のよい予測を行うことができる。
【0048】
次に、図5に示すステップS52のフレーム予測方法の処理手順を、図6のフローチャートを用いて説明する。図6において、r0(i)、r1(i)、r2(i)およびx(i)は、それぞれ図4(a)の参照ブロックおよび被符号化ブロックを示す。図6のフレーム予測方法の処理手順においては、フレームDCT処理されている参照ブロック、すなわち被符号化ブロックx(i)と同じDCTタイプの参照ブロックを優先して予測に用いる。
【0049】
まず、ステップS611aにおいて、被符号化ブロックx(i)の左隣りの参照ブロックr2(i)のDCTタイプが判定される。この判定結果によってその後の処理が異なる。次に、ステップS612aおよびS613aにおいて、被符号化ブロックx(i)の上側に隣接して位置する参照ブロックr1(i)のDCTタイプが判定される。この判定結果によってその後の処理が異なる。このようにして、参照ブロックr1(i)およびr2(i)のDCTタイプによって、図6に示すフレーム予測の処理は、次の4つの処理(A1)〜(A4)に分けられる。
【0050】
(A1) 参照ブロックr1(i)およびr2(i)が共にフレームDCT処理されている場合は、ステップS614aにおいて、参照ブロックr0(i)、r1(i)およびr2(i)のDCT係数を参照して、後述する「所定の方法1」により被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0051】
(A2) 参照ブロックr1(i)がフィールドDCTされ、参照ブロックr2(i)がフレームDCT処理されている場合は、従来の方法と同様にして、つまり図15に示すブロックR2のDCT係数からブロックXのDCT係数の予測値を生成するのと同様にして、ステップS615aにおいて、参照ブロックr2(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0052】
(A3) 参照ブロックr1(i)がフレームDCT処理され、参照ブロックr2(i)がフィールドDCT処理されている場合は、従来の方法と同様にして、つまり図15に示すブロックR1のDCT係数からブロックXのDCT係数の予測値を生成するのと同様にして、ステップS616aにおいて、参照ブロックr1(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0053】
(A4) 参照ブロックr1(i)およびr2(i)が共にフィールドDCT処理されている場合は、ステップS617aにおいて、参照フレームr0(i)、r1(i)およびr2(i)のDCT係数を参照して、後述する「所定の方法2」により被符号化ブロックx(i)の予測値を生成する。
【0054】
なお、ステップS617aにおいては、参照ブロックr0(i)、r1(i)およびr2(i)のDCT係数を参照せずに、0などの所定の値を予測値として用いるようにしてもよい。また、ステップS613aおよびステップS617aを省略して、参照ブロックr2(i)がフレームDCT処理されていない場合は、常にステップS616aにおいて、参照ブロックr1(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成するようにしてもよい。
【0055】
次に、図5に示すステップ53のフィールド予測方法における処理手順を、図7のフローチャートにより説明する。
図7に示すフィールド予測方法の処理手順は、図6に示すフレーム予測方法の処理手順において、フレームとフィールドを入れ替えたものである。
【0056】
ただし、図7によるフィールド予測方法の説明においては、参照ブロックr0(i)、r1(i)、r2(i)、および被符号化ブロックx(i)は、それぞれ図4(b)に示す参照ブロックおよび被符号化ブロックを示すものとする。
【0057】
すなわち、図7のフィールド予測方法の処理手順においても、被符号化ブロックx(i)と同じDCTタイプの参照ブロック(フィールドDCT処理が施された参照ブロック)を優先して予測に用いる。
【0058】
まず、ステップS711bにおいて、被符号化ブロックx(i)の左隣りの参照ブロックr2(i)のDCTタイプが判定される。この判定結果によってその後の処理が異なる。次に、ステップS712bおよびS713bにおいて、被符号化ブロックx(i)の上側に位置する参照ブロックr1(i)のDCTタイプが判定される。この判定結果によってその後の処理が異なる。このようにして、参照ブロックr1(i)およびr2(i)のDCTタイプによって、図7に示すフィールド予測の処理は、次の4つの処理(B1)〜(B4)に分けられる。
【0059】
(B1) 参照ブロックr1(i)およびr2(i)が共にフィールドDCT処理されている場合は、ステップS714bにおいて、参照ブロックr0(i)、r1(i)およびr2(i)のDCT係数を参照して、後述する「所定の方法1」により被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0060】
(B2) 参照ブロックr1(i)がフレームDCT処理され、参照ブロックr2(i)がフィールドDCT処理されている場合は、従来の方法と同様にして、つまり図15に示すブロックR2のDCT係数からブロックXのDCT係数の予測値を生成するのと同様にして、ステップS715bにおいて、参照ブロックr2(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0061】
(B3) 参照ブロックr1(i)がフィールドDCT処理され、参照ブロックr2(i)がフレームDCT処理されている場合は、従来の方法と同様にして、つまり図15に示すブロックR1のDCT係数からブロックXのDCT係数の予測値を生成するのと同様にして、ステップS716bにおいて、参照ブロックr1(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0062】
(B4) 参照ブロックr1(i)およびr2(i)が共にフレームDCT処理されている場合は、ステップS717bにおいて、参照フレームr0(i)、r1(i)およびr2(i)のDCT係数を参照して、後述する「所定の方法2」により被符号化ブロックx(i)の予測値を生成する。
【0063】
なお、ステップS717bにおいては、参照ブロックr0(i)、r1(i)、およびr2(i)を参照せずに、0などの所定の値を予測値として用いるようにしてもよい。また、ステップS713bおよびステップS717bを省略して、参照ブロックr2(i)がフィールドDCT処理されていない場合は、常にステップS716bにおいて、参照ブロックr1(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成するようにしてもよい。
【0064】
以上、図6および図7の処理手順に示した予測方法のように、被符号化ブロックと同じDCTタイプのブロック、すなわち被符号化ブロックとの間でDCT係数の相関の高い参照ブロックを優先して、被符号化ブロックの予測に用いることにより、効率のよい予測を行うことができる。
【0065】
次に、上述した図6に示すステップS614aの「所定の方法1」またはステップS617aの「所定の方法2」に基づいた予測値生成方法の処理手順を、図8に示すフローチャートを用いて説明する。
【0066】
図8の方法では、従来のDCT係数予測方法と同様の処理を行うために、ステップS821aからステップS829aの処理において、図15に示す4つのブロックに対応した、該各ブロックのDCT係数を格納するための仮想的なメモリ空間(仮想バッファ)を想定し、該仮想バッファ上の各ブロックに対して従来のDCT係数予測方法を適用する。
【0067】
図8においては、R0、R1およびR2は仮想バッファ上の参照ブロックを表し、DC0、DC1およびDC2は、それぞれ上記仮想バッファ上の参照ブロックR0、R1およびR2のDCT係数のDC成分を表す。なお、図8の予測値生成方法の説明において、r0(i)、r1(i)、r2(i)、x(i)は図4(a)に示す位置関係を有する参照ブロック及び被符号化ブロックを表している。
図8に示す処理では、まず、ステップS821a、ステップS822aおよびステップS823aにおいて、参照ブロックR0のDCT係数が生成されるが、上記ステップS821aにおける、参照ブロックr0(i)のDCTタイプの判定結果によって、その後の、参照ブロックR0のDCT係数を生成する処理が異なる。
【0068】
すなわち、参照ブロックr0(i)がフィールドDCT処理されている場合は、ステップS822aにおいて、参照ブロックr0(i)の近傍のブロックから所定の方法によりDCT係数を生成し、生成したDCT係数を参照ブロックR0のDCT係数として上記仮想バッファに格納する。一方、参照ブロックr0(i)がフレームDCT処理されている場合は、ステップS823aにおいて、参照ブロックr0(i)のDCT係数が参照ブロックR0のDCT係数として仮想バッファに格納される。上記と同様にして、ステップS824a、825aおよび826aにおいて、参照ブロックR1のDCT係数が生成され、ステップS827a、828aおよびステップS829aにおいて、参照ブロックR2のDCT係数が生成されて、上記仮想バッファに格納される。
【0069】
以降の処理は従来のDCT係数予測方法と同様であり、ステップS830aにおいて、参照ブロックR0およびR1のDCT係数のDC成分の差の絶対値(|DC0−DC1|)と、参照ブロックR0およびR2のDCT係数のDC成分の差の絶対値(|DC0−DC2|)の大小が比較される。参照ブロックR0およびR2のDCT係数のDC成分の差の絶対値(|DC0−DC2|)が、参照ブロックR0およびR1のDCT係数のDC成分の差の絶対値(|DC0−DC1|)よりも小さい場合は、ステップS832aにおいて参照ブロックR1のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値が生成される。それ以外の場合は、ステップS831aにおいて参照ブロックR2のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値が生成される。
【0070】
なお、図6のステップS814aの「所定の方法1」においては、参照ブロックr1(i)およびr2(i)のDCTタイプはフレームであることが分かっているので、図8のステップS824a,ステップS827a,ステップS825aおよびステップS828aによる処理を省略することができる。
【0071】
次に、図7で示すステップS714bの「所定の方法1」またはステップS717bの「所定の方法2」における処理手順を、図9に示すフローチャートを用いて説明する。
【0072】
図9のフローチャートに示す処理手順は、図8のフローチャートに示す処理手順において、各ブロックがフレームDCTされているか否かの判定処理を、各ブロックがフィールドDCTされているか否かの判定処理と置き換えたものであり、処理の概要については、上記図7に示す処理と同様である。なお、図9では、参照ブロックr0(i),r1(i),r2(i)およびx(i)は、それぞれ図4(b)に示す位置関係を有する参照ブロックおよび被符号化ブロックを表している。
【0073】
図9に示す処理では、まず、ステップS921b、ステップS922bおよびステップS923bにおいて、参照ブロックR0のDCT係数が生成されるが、上記ステップS921bにおける、参照ブロックr0(i)のDCTタイプの判定結果によって、その後の、参照ブロックR0のDCT係数を生成する処理が異なる。
【0074】
すなわち、参照ブロックr0(i)がフレームDCT処理されている場合は、ステップS922bにおいて、参照ブロックr0(i)の近傍のブロックから所定の方法によりDCT係数が生成され、生成されたDCT係数が参照ブロックR0のDCT係数として上記仮想バッファに格納される。一方、参照ブロックr0(i)がフィールドDCT処理されている場合は、ステップS923bにおいて、参照ブロックr0(i)のDCT係数が参照ブロックR0のDCT係数として仮想バッファに格納される。上記と同様にして、ステップS924b、925bおよび926bにおいて、参照ブロックR1のDCT係数が生成され、ステップS927b、928bおよびステップS929bにおいて、参照ブロックR2のDCT係数が生成されて、上記仮想バッファに格納される。
【0075】
以降の処理は従来のDCT係数予測方法と同様であり、ステップS930bにおいて、参照ブロックR0およびR1のDCT係数のDC成分の差の絶対値(|DC0−DC1|)と、参照ブロックR0およびR2のDCT係数のDC成分の差の絶対値(|DC0−DC2|)の大小が比較される。参照ブロックR0およびR2のDCT係数のDC成分の差の絶対値(|DC0−DC2|)が、参照ブロックR0およびR1のDCT係数のDC成分の差の絶対値(|DC0−DC1|)よりも小さい場合は、ステップS932bにおいて参照ブロックR1のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値が生成される。それ以外の場合は、ステップS931bにおいて参照ブロックR2のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値が生成される。
【0076】
なお、図7のステップS714bの「所定の方法1」においては、参照ブロックr1(i)およびr2(i)のDCTタイプはフィールドであることが分かっているので、図9のステップS924b,927b,ステップS925bおよびステップS928bによる処理を省略することができる。
【0077】
このようにして、被符号化ブロックのDCT係数の予測処理において、被符号化ブロックと異なるDCTタイプのブロックのDCT係数を参照する必要のある場合に、被符号化ブロックと異なるDCTタイプのDCT係数をそのまま参照するのではなく、参照ブロックの近傍のブロックから、被符号化ブロックと同じDCTタイプのDCT係数の特性に近いDCT係数を生成して、生成したDCT係数を参照して被符号化ブロックのDCT係数を予測することにより、効率のよい予測を行うことが可能となる。
【0078】
図10は、図8のステップS822a,825a,828a,図9のステップS922b,S925b,S928bにおける、参照ブロックrの近傍のブロックからのDCT係数を生成する方法を説明するための概念図である。
【0079】
図10および図11の説明において、rは、周波数領域上の参照ブロックr0(i),参照ブロックr1(i),及び参照ブロックr2(i)のいずれかを示し、Rは、仮想バッファ上の参照ブロックR0,参照ブロックR1,及び参照ブロックR2のいずれかを示している。
【0080】
図8のステップS822a,825a,828a,及び図9のステップS922b,S925b,S928bにおける、参照ブロックrの近傍のブロックからDCT係数を生成する処理では、図10に示すように、参照ブロックr近傍の2つのブロックのDCT係数から所定の関数を用いてDCT係数を生成し、生成したDCT係数を仮想バッファ上の参照ブロックRのDCT係数とする。
【0081】
図11は、仮想バッファ上の参照ブロックRのDCT係数の生成手順を示している。ここでは、DCT領域上のマクロブロック内での参照ブロックrの位置によって、異なる処理が行われる。
【0082】
例えば、DCT領域のマクロブロックにおけるブロック位置(0)または(2)に、すなわちDCT領域のマクロブロックの左側に参照ブロックrが位置している場合は、ステップS1142Lにおいて、参照ブロックrが含まれるDCT領域のマクロブロックのブロック位置(0)および(2)に位置するブロックのDCT係数から、図10に示すように、所定の関数を用いて仮想バッファ上の参照ブロックRのDCT係数を生成する。DCT領域のマクロブロックのブロック位置(1)または(3)に、すなわちDCT領域のマクロブロックの右側の位置に参照ブロックrが位置している場合は、ステップS1142Rにおいて、参照ブロックrが含まれるDCT領域のマクロブロックのブロック位置(1)および(3)に位置するブロックのDCT係数から、図10に示すように、所定の関数を用いて仮想バッファ上の参照ブロックRのDCT係数を生成する。
【0083】
ここで用いる所定の関数としては、周波数領域上の参照ブロックrの近傍に位置する2つのブロックのDCT係数の平均または重み付け平均を、仮想バッファ上の参照ブロックRのDCT係数とする関数など、参照ブロックr近傍の2つのブロックのDCT係数から一意に仮想バッファ上の参照ブロックRのDCT係数の値を計算できる関数であればよい。
【0084】
そして、周波数領域上の2つのブロックを参照して生成したDCT係数は、ステップS1143において、仮想バッファ上の参照ブロックRのDCT係数とされる。
【0085】
このようにして、空間領域において参照ブロックrと同じ領域の情報を持つ2つのブロックのDCT係数から予測に用いる仮想領域上の参照ブロックRのDCT係数を生成することにより、被符号化ブロックと同じDCTタイプのDCT係数の周波数特性に近いDCT係数を生成することができる。
【0086】
このようにして、本実施の形態1で用いる適応的画面内DCT係数予測方法では、被符号化ブロックのDCTタイプに応じて予測に用いる参照ブロックを切替え、被符号化ブロックと同じDCTタイプの参照ブロックのDCT係数を優先して予測に利用し、さらに参照ブロックが被符号化ブロックと異なるDCTタイプの場合には、参照ブロックの近傍のブロックのDCT係数から、参照ブロックのDCTタイプが被符号化ブロックのDCTタイプと同一である場合の参照ブロックのDCT係数の周波数特性に近いブロックのDCT係数を生成して予測に用いるので、インタレース画像信号や特殊なプログレッシブ画像に対する画面内予測をDCT領域(周波数成分)において効率のよく行うことができる。
【0087】
この結果、本実施の形態1によれば、処理対象となるマクロブロックとして、異なるDCTタイプのマクロブロックが混在する、インタレース画像や特殊なプログレッシブ画像等に対するMPEG4方式の符号化処理では、画面内の情報を利用して被符号化ブロックのDCT係数の予測値効率の向上により、空間的に冗長な画像情報の除去または減少による画像信号の圧縮符号化を効率よく行うことが可能となる。
【0088】
なお、本実施の形態1において用いる適応的画面内DCT係数予測方法において、図4(a)および(b)の参照ブロックr2(i)のDCT係数を被符号化ブロックx(i)のDCT係数の予測値として用いる場合に、参照ブロックr2(i)と被符号化ブロックx(i)のDCTタイプが異なる場合は、参照ブロックr2(i)のDCT係数のDC成分のみを、被符号化ブロックx(i)のDCT係数の予測値として利用してもよい。また、場合によっては、参照ブロックr1(i)についても、そのDCT係数のDC成分のみを、被符号化ブロックx(i)のDCT係数の予測値として利用してもよい。
【0089】
また、上記実施の形態1では、上記ステップS923b,S926,S929bでは、それぞれ参照ブロックr(具体的には参照ブロックr0(i),r1(i),r2(i))のDCT係数から、被符号化ブロックのDCT係数の予測に用いる仮想バッファ上の参照ブロックR(具体的には参照ブロックR0,R1,R2)のDCT係数を生成しているが、上記ステップS923b,S926,S929bにおいては、それぞれ上記ステップS922b,S925,S928bと同様に、空間領域にて参照ブロックr(具体的には参照ブロックr0(i),r1(i),r2(i))の近傍に位置する2つのブロックのDCT係数から所定の関数を用いてDCT係数を生成し、生成したDCT係数を仮想バッファ上の参照ブロックRのDCT係数としてもよい。
【0090】
さらにこの場合において、図7に示すフィールド予測処理では、被符号化ブロックx(i)の左隣りの参照ブロックr2(i)及び被符号化ブロックx(i)の上側に隣接して位置する参照ブロックr1(i)のDCTタイプによって、上述した4つの処理B1〜B4のうちの1つを行うようにしているが、これらの処理B1〜B4のうちの処理1,処理B3,及び処理4を、以下に示す処理B1′,処理B3′,及びB4′に置き換えてもよい。
【0091】
上記処理B3′については、被符号化ブロックの上側に隣接する符号化済みブロック(つまり図4(b)に示す被符号化ブロックx(i)と符号化済みブロックr1(i)の間に位置する符号化済みブロック)を参照ブロックとして、この参照ブロックのDCT係数を被符号化ブロックのDCT係数の予測値として用いるものとする。
【0092】
上記処理B1′及び処理B4′については、ステップS922b,923bでは、参照ブロックr0(i)と、該参照ブロックr0(i)と参照ブロックr2(i)の間に位置する符号化済みブロックとを、0対1の重み付け比率で重み付け平均して、仮想バッファ上の参照ブロックR0のDCT係数を生成し、ステップS925b,926bでは、参照ブロックr1(i)と、該参照ブロックr1(i)と被符号化ブロックx(i)の間に位置する符号化済みブロックとを、0対1の重み付け比率で重み付け平均して、仮想バッファ上の参照ブロックR1のDCT係数を生成し、ステップS928b,929bでは、参照ブロックr2(i)と、該参照ブロックr2(i)と参照ブロックr0(i)の間に位置する符号化済みブロックとを、1対0の重み付け比率で重み付け平均して、仮想バッファ上の参照ブロックR1のDCT係数を生成するものとする。なお、上記処理B1′及びB4′処理では、各ブロックr0(i)〜r2(i)は被符号化ブロックx(i)に対して図4(b)に示す位置に位置しているものとする。
【0093】
言い換えると、上記処理B1′及び処理B4′は、参照ブロックr0(i)とその下側に隣接して位置する符号化済みブロックの間での重み付け平均を、該両ブロックのうちで被符号化ブロックx(i)に近い方の重み付け比率を1として行い、参照ブロックr1(i)とその下側に隣接して位置する符号化済みブロックの間での重み付け平均を、該両ブロックのうちで被符号化ブロックx(i)に近い方の比率を1として行い、さらに参照ブロックr2(i)とその上側に隣接して位置する符号化済みブロックの間での重み付け平均を、該両ブロックのうちで被符号化ブロックx(i)に近い方の比率を1として行うものである。
【0094】
この場合、重み付け平均のための演算処理が簡単なものとなり、また被符号化サブブロックに対して空間的に最も近い位置の符号化済みサブブロックの周波数成分を参照して被符号化サブブロックの周波数成分の予測値が生成されることとなるので、簡単な演算処理による適応的画面内DCT係数予測方法により、インターレースあるいは特定のプログレッシブ画像に対する符号化処理全体としての予測効率を向上することができる。
【0095】
実施の形態2.
本実施の形態2による画像処理装置(画像復号化装置)は、上記実施の形態1で示した画像符号化装置で用いた適応的画面内DCT係数予測方法を用いて、画像符号化信号の復号化を行うことを特徴としている。
【0096】
図2は、本実施の形態2による画像復号化装置のブロック図を示し、図1と同一符号は同一部分、または相当分を示す。
この画像復号化装置2000は、上記本実施の形態1による画像符号化装置1000により画像信号を符号化して得られる画像符号化信号(ビットストリーム)110bを受け、これに対して適応的画面内DCT係数予測方法を用いた復号化処理を施すものである。
【0097】
すなわち、この画像復号化装置2000は、画像符号化装置1000より出力されたビットストリーム110bを受け、これをそのデータ解析により可変長復号化して、被復号化ブロックに対応するDCT係数差分値108(被符号化ブロックのDCT係数量子化値107とその画面内予測値111との差分値)を復元する可変長復号化器(VLD器)203と、被復号化ブロックに対する画面内予測値111を生成する画面内予測処理部210と、該画面内予測値111と上記DCT係数差分値108とを加算して、被復号化ブロックに対するDCT係数量子化値106を復元する加算器112とを有している。
【0098】
ここで、上記画面内予測処理部210は、上記加算器112の出力106を復号化済みブロックのDCT係数量子化値として格納するブロックメモリ115と、画像符号化装置1000からのDCTタイプ信号102に応じて、適応的画面内DCT係数予測方法により、上記ブロックメモリ115に格納されている復号化済みブロックのDCT係数量子化値114から被復号化ブロックのDCT係数量子化値に対する予測値111を生成するDCT係数予測器113とから構成されている。
【0099】
また、上記画像復号化装置2000は、上記加算器112の出力106に対して逆量子化処理を施して、被復号化ブロックに対するDCT係数104を復元する逆量子化器207と、該逆量子化器207の出力に対して逆DCT処理を施して、被復号化ブロックに対する画像信号101を復元する逆DCT器209と、該逆DCT器209の出力を受け、画像符号化装置1000からのDCTタイプ信号102に基づいて、走査線構造の画像信号110aを復元する逆ブロック化器200とを有している。
【0100】
次に動作について説明する。
本画像復号化装置2000に、画像符号化装置1000からの画像符号化信号110bが入力されると、該画像符号化信号110bはVLD器203にてそのデータ解析により可変長復号化され、被復号化ブロックに対するDCT係数差分値108として出力される。
【0101】
この被復号化ブロックに対するDCT係数差分値108は、加算器112にてその予測値111と加算されて、被復号化ブロックに対するDCT係数量子化値106が復元される。
【0102】
このとき、上記被復号化ブロックに対するDCT係数量子化値106は、上記画面内予測処理部210に供給され、そのブロックメモリ115に復号化済みブロックのDCT係数量子化値として格納される。さらに、DCT係数予測器113には、上記ブロックメモリ115から復号化済みブロックに対応するDCT係数量子化値114が読み出され、ここでは、画像符号化装置1000からのDCTタイプ信号102に基づいてブロックメモリ115からのDCT係数量子化値114を参照して、上記被復号化ブロックの次に処理される次復号化ブロックのDCT係数差分値108に対する予測値を生成する適応的DCT係数予測処理が、画像符号化装置1000の画面内予測処理部110における予測値生成処理と同様に行われる。
【0103】
さらに上記DCT係数量子化値106は、逆量子化器207にて逆量子化処理により、被復号化ブロックに対するDCT係数104に変換され、さらにこのDCT係数104は、逆DCT器209にて逆離散コサイン変換により、被復号化ブロックに対する画像信号101に変換される。
【0104】
そしてこの被復号化ブロックに対する画像信号101が逆ブロック化器200に供給されると、該逆ブロック化器200では、画像符号化装置1000からのDCTタイプ信号102に基づいて、走査線構造の画像信号110aが再生される。
【0105】
このように本実施の形態2では、適応的画面内DCT係数予測方法を用いて、画像符号化信号の復号化を行うので、インタレース画像あるいは特殊なプログレッシブ画像に対応する画像信号を適応的画面内DCT係数予測処理を用いて画面内予測符号化して得られた画像符号化信号(ビットストリーム)を、DCT領域における画面内予測処理により効率よくしかも正しく復号化することができる。
【0106】
実施の形態3.
次に本発明の実施の形態3による画像処理装置(画像符号化装置)について説明する。
本実施の形態3による画像符号化装置は、上記実施の形態1における、図5に示す予測値生成手順のステップS52でのフレーム予測により被符号化ブロックのDCT係数の予測値を生成する処理を、図12に示す処理手順で実施し、実施の形態1における、ステップS53でのフィールド予測により被符号化ブロックのDCT係数の予測値を生成する処理を、図13に示す処理手順で実施する構成としたものである。
【0107】
そして本実施の形態3の画像符号化装置による適応的画面内DCT係数予測処理は、フレーム予測方法およびフィールド予測方法以外については、上記実施の形態1の適応的画面内DCT係数予測処理と同様であるので、ここでは図12および図13を用いて本実施の形態3におけるフレーム予測方法およびフィールド予測方法についてのみ説明する。
【0108】
図12は、図5に示すステップS52におけるフレーム予測方法を実現する本実施の形態3での処理手順をフローチャートにより示す。図12において、r0(i)、r1(i)、r2(i)およびx(i)は、それぞれ図4(a)に示す参照ブロックおよび被符号化ブロックを表すものとする。
【0109】
この実施の形態3では、まず、ステップS1221aにて参照ブロックr2(i)のDCTタイプが判定される。この判定結果によってその後の処理が異なる。
【0110】
すなわち、参照ブロックr2(i)がフレームDCT処理されている場合は、「所定の方法」として図8に示す予測値生成方法を用いて被符号化ブロックx(i)のDCT係数の予測値を生成する。図8の予測値生成方法については、実施の形態1において説明したものと同じであるのでここではその説明を省略する。
【0111】
なお、図12のステップS1222aの「所定の方法」においては、r2(i)のDCTタイプはフレームDCTであることが分かっているので、図8のステップS827aおよびステップS828aを省略することができる。
【0112】
一方、参照ブロックr2(i)がフィールドDCT処理されている場合は、図15に示す従来の方法と同様にして、つまり図15に示すように参照ブロックR1のDCT係数から被符号化ブロックXのDCT係数の予測値を生成するのと同様にして、参照ブロックr1(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値を生成する。
【0113】
図13は、図5に示すステップS53におけるフィールド予測方法を実現する本実施の形態3での処理手順をフローチャートにより示す。図13に示す処理は、図12の処理において、フレームとフィールドを入れ替えたものであり、処理の概要については同様であるのでここではその詳細については説明を省略する。ただし、図13のフィールド予測方法の説明において、r0(i)、r1(i)、r2(i)およびx(i)は、それぞれ図4(b)の参照ブロックおよび被符号化ブロックを表すものとする。
【0114】
このように、本実施の形態3の画像符号化装置における適応的画面内DCT係数予測方法では、図5のステップS52のフレーム予測方法、およびステップS53のフィールド予測方法を、上記実施の形態1と比べて簡略化することにより、符号化時にDCT領域における画面内予測処理を簡単化および高速化することができる。
【0115】
実施の形態4.
次に本発明の実施の形態4による画像処理装置(画像復号化装置)について説明する。
本実施の形態4による画像復号化装置は、上記実施の形態2における、図5に示す予測値生成手順のステップS52でのフレーム予測により被符号化ブロックのDCT係数の予測値を生成する処理を、図12に示す処理手順で実施し、実施の形態1における、ステップS53でのフィールド予測により被符号化ブロックのDCT係数の予測値を生成する処理を、図13に示す処理手順で実施する構成としたものである。
【0116】
このような構成の本実施の形態4の画像復号化装置では、適応的画面内DCT係数予測方法を行う際、図5のステップS52のフレーム予測方法、およびステップS53のフィールド予測方法が、上記実施の形態2と比べて簡略化されることとなり、これにより復号化時にDCT領域における画面内予測処理を簡単化および高速化することができる。
【0117】
実施の形態5.
本発明の実施の形態5による画像処理装置(画像符号化装置)は、被符号化ブロックのDCTタイプ信号(つまり被符号化ブロックがフレームDCT処理を施されたものであるかフィールドDCT処理を施されたものであるか)に拘わらず、被符号化ブロックに対して所定の位置関係を有する符号化済みブロックのDCT係数から被符号化ブロックのDCT係数の予測値を生成する方法を用いて、画像信号の画面内予測符号化を行うことを特徴としている。ここで、DCTタイプ信号とは、被符号化ブロックがフレームDCT処理されているかフィールドDCT処理されているかを示す信号を表すものとする。またブロックは、16×16画素からなるマクロブロックを構成する8×8画素からなる4つのサブブロックを表すものとする。これら4つのサブブロックは、マクロブロック内の左上(図3のブロック位置(0)),右上(図3のブロック位置(1)),左下(図3のブロック位置(2)),右下(図3のブロック位置(3))に位置している。
【0118】
図17は、本実施の形態5による画像符号化装置の構成を示すブロック図である。
図において、3000は本実施の形態5の画像符号化装置であり、入力されるデジタル画像信号(入力画像信号)110aを、これにより形成される画像空間(フレーム)を分割する複数のマクロブロックの各々に対応するよう分割し、各マクロブロックを構成するブロックに対応する画像信号を上記ブロック毎に符号化する構成となっている。
【0119】
すなわち、この画像符号化装置3000は、実施の形態1の画像符号化装置1000と同様、上記入力画像信号110aを、周波数変換の処理単位となるフレームまたはフィールド毎に上記各ブロックに対応するようブロック化するとともに、上記ブロック化された画像信号101、および上記周波数変換(DCT処理)の処理単位を示すDCTタイプ信号102を出力するブロック化器100を有している。このブロック化器100は、入力画像信号110aを受け、フィールド間での画素値の相関がフレーム内のものに比べて高い場合には、フィールドDCT処理が実施されるよう、予め16×16画素からなるマクロブロックを単位として走査線の並べ替えを行い、走査線の並べ替えが行われたマクロブロックを構成する8×8画素からなるブロック毎に画像信号を出力する構成となっている。なお、上記ブロック化器100では、フィールド間での画素値の相関がフレーム内のものに比べて小さい場合は、上記のようなマクロブロックを単位する走査線の並べ替えは行われず、入力画像信号は上記ブロック毎に出力されることとなる。
【0120】
具体的には、上記ブロック化器100では、上記走査線の並べ替え処理は、奇数番目の水平画素列(水平走査線)に対応する画像信号により形成される第1フィールドの画像が該マクロブロックの上側,つまりブロック位置(0)及び(1)に位置し、かつ偶数番目の水平画素列(水平走査線)に対応する画像信号により形成される第2のフィールドの画像が該マクロブロックの下側,つまりブロック位置(2)及び(3)に位置するよう行われる。
【0121】
そして、上記ブロック化器100は、マクロブロックに対応する画像信号を、上記ブロック位置(0)〜(3)のブロックに対応するよう分割して出力するようになっている。
【0122】
また、上記画像符号化装置3000は、上記実施の形態1の画像符号化装置1000と同様、符号化処理の対象となる被符号化ブロックに対応する画像信号101に対して離散コサイン変換(DCT処理)を施すDCT器103と、このDCT器103の出力104を量子化する量子化器105と、上記被符号化ブロックに対応する予測値111を生成する画面内予測処理部310と、上記量子化器105の出力(DCT係数量子化値)106から上記予測値111を減算してDCT係数差分値108を出力する加算器107とを有しており、このDCT係数差分値108が、VLC器109により可変長符号化されて、ビットストリーム(画像符号化信号)110bとして出力されるようになっている。
【0123】
また、上記画面内予測処理部310は、上記DCT係数差分値108と画面内予測値111とを加算する加算器112と、該加算器112の出力を符号化済みブロックのDCT係数量子化値116として格納するブロックメモリ115と、被符号化ブロックのDCT係数量子化値の予測値111を、画像空間上で被符号化ブロックに隣接する符号化済みブロックのDCT係数量子化値114から生成するDCT係数予測器313とから構成されている。
【0124】
本実施の形態5では、上記DCT係数予測器313は、被符号化ブロックのDCTタイプに拘わらず、図19に示すように、被符号化ブロックx(i)の左上に隣接して位置するブロックr0(i)、被符号化ブロックx(i)の上側に隣接して位置するブロックr1(i)、及び被符号化ブロックx(i)の左隣りに位置するブロックr2(i)を、参照ブロックとして、上記被符号化ブロックx(i)のDCT係数量子化値の予測値111を生成する構成となっている。
【0125】
なお、この実施の形態5におけるDCT器103,量子化器105,加算器107,112,VLC器109,及びブロックメモリ115は、実施の形態1のものと同一構成となっている。
【0126】
次に動作について説明する。
まず、この実施の形態5の画像符号化装置の全体的な動作について簡単に説明する。
デジタル画像信号(入力画像信号)110aが本画像符号化装置3000に入力されると、ブロック化器100にて、上記入力画像信号110aは、周波数変換の処理単位となるフレームまたはフィールド毎に上記各ブロックに対応するようブロック化されるとともに、上記ブロック化された画像信号101、および上記周波数変換(DCT処理)の処理単位を示すDCTタイプ信号102が出力される。
【0127】
このときこのブロック化器100では、フィールド間での画素値の相関がフレーム内のものに比べて高い場合には、フィールドDCT処理が実施されるよう、予め16×16画素からなるマクロブロックを単位として、画像信号に対して走査線の並べ替え処理が行われ、走査線の並べ替え処理が行われた画像信号が、該マクロブロックを構成する8×8画素からなるブロック毎に出力される。この場合、走査線の並べ替え処理が施されたマクロブロックでは、奇数番目の水平画素列(水平走査線)に対応する画像信号により形成される第1フィールドの画像が該マクロブロックの上側,つまりブロック位置(0)及び(1)に位置し、かつ偶数番目の水平画素列(水平走査線)に対応する画像信号により形成される第2のフィールドの画像が該マクロブロックの下側,つまりブロック位置(2)及び(3)に位置することとなる。
【0128】
なお、上記ブロック化器100では、フィールド間での画素値の相関がフレーム内のものに比べて小さい場合は、上記のようなマクロブロックを単位とする走査線の並べ替え処理は行われず、入力画像信号は上記ブロック毎に出力されることとなる。
【0129】
そして、符号化処理の対象となる被符号化ブロックの画像信号101は、DCT器103にて離散コサイン変換(DCT処理)により、上記被符号化ブロックに対応する周波数成分(DCT係数)104に変換され、さらにこのDCT係数104は、量子化器105にて量子化されて、被符号化ブロックに対する量子化値(DCT係数量子化値)106として出力される。
【0130】
さらに、上記被符号化ブロックのDCT係数量子化値106が加算器107に供給されると、この量子化値106とその予測値111の差分が求められてDCT係数差分値108として出力される。このDCT係数差分値108は、VLC器109により可変長符号化されて、ビットストリーム(画像符号化信号)110bとして出力される。
【0131】
また、上記加算器107から出力されるDCT係数差分値108は、画面内予測処理部310に供給され、ここで上記DCT係数量子化値106に対する予測値が生成される。
【0132】
すなわち、上記画面内予測処理部310では、加算器112により上記DCT係数差分値108と画面内予測値111が加算され、これらの加算値が符号化済みブロックのDCT係数量子化値116としてブロックメモリ115に格納される。そして、DCT係数予測器313では、符号化済みブロックのDCT係数量子化値114から被符号化ブロックのDCT係数量子化値の予測値111が生成される。
【0133】
次に、上記符号化処理における画面内DCT係数予測方法について詳しく説明する。
本実施の形態5の画面内DCT係数予測方法は、被符号化ブロックに対応するDCT係数の予測値を生成する際には、実施の形態1とは異なり、被符号化ブロックのDCTタイプに拘わらず、常に被符号化ブロックに対して所定の位置関係を有する符号化済みブロックを参照するものである。
【0134】
本実施の形態5においても、実施の形態1と同様、DCT領域(周波数領域)は、画像空間(空間領域)を形成する画像信号をDCT処理(周波数変換)して得られる周波数成分により形成される領域とし、空間領域(画像空間)におけるマクロブロックの配置のとおりに、DCT領域(周波数領域)において各マクロブロックは配置されているものとする。
【0135】
また、この実施の形態5においても実施の形態1と同様、図3のように、マクロブロックがフレームDCT処理される場合は、マクロブロックにおける走査線の並べ替えを行わずに各ブロックの画像信号にDCT処理が施され、空間領域上のマクロブロックにおける左上,右上,左下,右下の各ブロックに対応するDCT係数が、それぞれDCT領域上のマクロブロックにおけるブロック位置(0),(1),(2),(3)のブロック内に配置され、一方、マクロブロックがフィールドDCT処理される場合は、空間領域上のマクロブロックにおける走査線の並べ替えの後に各ブロックの画像信号にDCT処理が施され、第1フィールド左、第1フィールド右、第2フィールド左、第2フィールド右の各ブロックのDCT係数が、それぞれDCT領域のマクロブロックにおけるブロック位置(0),(1),(2),(3)のブロック内に配置されるものとする。
【0136】
次に、被符号化ブロックに対応するDCT係数(DCT領域における被符号化ブロックのデータ)を、符号化済みブロックのDCT係数を参照して予測する、本実施の形態5の画面内DCT係数予測方法について詳しく説明する。
【0137】
まず、被符号化ブロックがフレームDCT処理されているかフィールドDCT処理されているかに拘わらず、図19に示すように、被符号化ブロックx(i)の左上に位置するブロックを参照ブロックr0(i)、被符号化ブロックx(i)の上側に隣接して位置するブロックを参照ブロックr1(i)、被符号化ブロックx(i)の左隣りに位置するブロックを参照ブロックr2(i)として参照する。
【0138】
そして図20にフローチャートで示すように、従来のDCT係数予測方法と同様に、ステップS2130aにおいて、参照ブロックr0(i)およびr1(i)のDCT係数のDC成分の差の絶対値(|DC0−DC1|)と、参照ブロックr0(i)およびr2(i)のDCT係数のDC成分の差の絶対値(|DC0−DC2|)の大小が比較される。参照ブロックr0(i)およびr2(i)のDCT係数のDC成分の差の絶対値(|DC0−DC2|)が、参照ブロックr0(i)およびr1(i)のDCT係数のDC成分の差の絶対値(|DC0−DC1|)よりも小さい場合は、ステップS2132aにおいて参照ブロックr1(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値が生成される。
それ以外の場合は、ステップS2131aにおいて参照ブロックr2(i)のDCT係数を用いて被符号化ブロックx(i)のDCT係数の予測値が生成される。
【0139】
このように本実施の形態5では、被符号化ブロックのDCT係数の予測処理において、被符号化ブロックに対して所定の位置関係を有する符号化済みブロックを参照ブロックとして用い、被符号化ブロック近傍で縦方向に隣接して並ぶ参照ブロック間でのDCT係数の相関と、被符号化ブロック近傍で横方向に隣接して並ぶ参照ブロック間でのDCT係数の相関の大小を比較してDCT係数の相関の強い方向を求め、被符号化ブロックに対してDCT係数の相関の強い方向に位置する参照ブロックを選択し、選択した参照ブロックのDCT係数から被符号化ブロックのDCT係数の予測値を求めるので、インタレース画像信号や特殊なプログレッシブ画像に対する画面内予測をDCT領域(周波数成分)において効率よくしかも簡単な処理手順によって行うことができる。
【0140】
この結果、本実施の形態5によれば、処理対象となるマクロブロックとして、異なるDCTタイプのマクロブロックが混在する、インタレース画像や特殊なプログレッシブ画像等に対するMPEG4方式の符号化処理では、画面内の情報を利用して被符号化ブロックのDCT係数の予測値効率を向上して、空間的に冗長な画像情報の削減による画像信号の圧縮符号化を効率よく簡単に行うことが可能となる。
【0141】
なお、本実施の形態5において用いる画面内DCT係数予測方法において、図19の参照ブロックr1(i)あるいは参照ブロックr2(i)のDCT係数を被符号化ブロックx(i)のDCT係数の予測値として用いる場合に、参照ブロックr1(i)あるいは参照ブロックr2(i)のDCT係数のDC成分のみを、被符号化ブロックx(i)のDCT係数の予測値として利用してもよい。
【0142】
実施の形態6.
本実施の形態6による画像処理装置(画像復号化装置)は、上記実施の形態5で示した画像符号化装置で用いた画面内DCT係数予測方法を用いて、画像符号化信号の復号化を行うことを特徴としている。
【0143】
図18は、本実施の形態6による画像復号化装置のブロック図を示し、図17と同一符号は同一部分、または相当分を示す。
この画像復号化装置4000は、上記本実施の形態5による画像符号化装置3000により画像信号を符号化して得られる画像符号化信号(ビットストリーム)110bを受け、これに対して画面内DCT係数予測方法を用いた復号化処理を施すものである。
【0144】
すなわち、この画像復号化装置4000は、画像符号化装置3000より出力されたビットストリーム110bを受け、これをそのデータ解析により可変長復号化して、被復号化ブロックに対応するDCT係数差分値108(被符号化ブロックのDCT係数量子化値107とその画面内予測値111との差分値)を復元する可変長復号化器(VLD器)203と、被復号化ブロックに対する画面内予測値111を生成する画面内予測処理部410と、該画面内予測値111と上記DCT係数差分値108とを加算して、被復号化ブロックに対するDCT係数量子化値11 6を復元する加算器112とを有している。
【0145】
ここで、上記画面内予測処理部410は、上記加算器112の出力11 6を復号化済みブロックのDCT係数量子化値として格納するブロックメモリ115と、実施の形態5の画像符号化装置3000における画面内DCT係数予測方法により、上記ブロックメモリ115に格納されている復号化済みブロックのDCT係数量子化値114から被復号化ブロックのDCT係数量子化値に対する予測値111を生成するDCT係数予測器313とから構成されている。
【0146】
また、上記画像復号化装置4000は、上記加算器112の出力116に対して逆量子化処理を施して、被復号化ブロックに対するDCT係数104を復元する逆量子化器207と、該逆量子化器207の出力に対して逆DCT処理を施して、被復号化ブロックに対する画像信号101を復元する逆DCT器209と、該逆DCT器209の出力を受け、画像符号化装置4000からのDCTタイプ信号102に基づいて、走査線構造の画像信号110aを復元する逆ブロック化器200とを有している。
【0147】
この逆ブロック化器200では、画像空間上で同一のマクロブロックに属するブロックの画像信号を、該マクロブロック内でのブロックの位置に対応させて組み合わせて、マクロブロックに対応する画像信号を生成するとともに、奇数番目の水平画素列に対応する画像信号により形成される第1フィールドの画像が上記マクロブロックの上側に位置し、かつ偶数番目の水平画素列に対応する画像信号により形成される第2フィールドの画像が該マクロブロックの下側に位置するよう、符号化の際に水平画素列の並べ替え処理が施されたマクロブロックの画像信号に対しては、上記第1フィールドと第2フィールドからなるフレームの画像が形成されるよう水平画素列の逆並べ替え処理を施し、一方、符号化の際に上記水平画素列の並べ替え処理が施されなかったマクロブロックの画像信号に対しては、上記水平画素列の逆並べ替え処理を施さずに、複数のマクロブロックからなる上記画像空間の画像信号を生成する構成となっている。
【0148】
次に動作について説明する。
本画像復号化装置4000に、画像符号化装置3000からの画像符号化信号110bが入力されると、該画像符号化信号110bはVLD器203にてそのデータ解析によ可変長復号化され、被復号化ブロックに対するDCT係数差分値108として出力される。
【0149】
この被復号化ブロックに対するDCT係数差分値108は、加算器112にてその予測値111と加算されて、被復号化ブロックに対するDCT係数量子化値116が復元される。
【0150】
このとき、上記被復号化ブロックに対するDCT係数量子化値116は、上記画面内予測処理部410に供給され、そのブロックメモリ115に復号化済みブロックのDCT係数量子化値として格納される。さらに、DCT係数予測器313には、上記ブロックメモリ115から復号化済みブロックに対応するDCT係数量子化値114が読み出され、ここでは、ブロックメモリ115からのDCT係数量子化値114を参照して、上記被復号化ブロックの次に処理される次復号化ブロックのDCT係数差分値108に対する予測値を生成するDCT係数予測処理が、画像符号化装置3000の画面内予測処理部110における予測値生成処理と同様に行われる。
【0151】
さらに上記DCT係数量子化値116は、逆量子化器207にて逆量子化処理により、被復号化ブロックに対するDCT係数104に変換され、さらにこのDCT係数104は、逆DCT器209にて逆離散コサイン変換により、被復号化ブロックに対する画像信号101に変換される。
【0152】
そしてこの被復号化ブロックに対する画像信号101が逆ブロック化器200に供給されると、該逆ブロック化器200では、画像符号化装置3000からのDCTタイプ信号102に基づいて、走査線構造の画像信号110aが再生される。
【0153】
このように本実施の形態6では、画面内DCT係数予測方法を用いて、画像符号化信号の復号化を行うので、インタレース画像あるいは特殊なプログレッシブ画像に対応する画像信号を画面内DCT係数予測処理を用いて画面内予測符号化して得られた画像符号化信号(ビットストリーム)を、DCT領域における簡単な画面内予測処理により効率よくしかも正しく復号化することができる。
【0154】
さらに、上記各実施の形態で示した画像符号化装置あるいは画像復号化装置による画像処理を実現するための符号化あるいは復号化プログラムを、フレキシブルディスク等のデータ記憶媒体に記録するようにすることにより、上記各実施の形態で示した処理を、独立したコンピュータシステムにおいて簡単に実施することが可能となる。
【0155】
図14は、上記実施の形態1〜6の画像符号化処理あるいは画像復号化処理を、上記符号化あるいは復号化プログラムを格納したフレキシブルディスクを用いて、コンピュータシステムにより実施する場合を説明するための図である。
【0156】
図14(a) は、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスク本体を示し、図14(b)は、該フレキシブルディスク本体の物理フォーマットの例を示している。
【0157】
上記フレキシブルディスクFDは、上記フレキシブルディスク本体DをフレキシブルディスクケースFC内に収容した構造となっており、該フレキシブルディスク本体Dの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックTrは角度方向に16のセクタSeに分割されている。従って、上記プログラムを格納したフレキシブルディスクFDでは、上記フレキシブルディスク本体Dは、その上に割り当てられた領域(セクタ)Seに、上記プログラムとしてのデータが記録されたものとなっている。
【0158】
また、図14(c) は、フレキシブルディスクFDに対する上記プログラムの記録、及びフレキシブルディスクFDに格納したプログラムを用いた画像処理を行うための構成を示している。
【0159】
上記プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから上記プログラムとしてのデータを、フレキシブルディスクドライブFDDを介してフレキシブルディスクFDに書き込む。また、フレキシブルディスクFDに記録されたプログラムにより、上記任意形状符号化装置あるいは任意形状復号化装置をコンピュータシステムCs中に構築する場合は、フレキシブルディスクドライブFDDによりプログラムをフレキシブルディスクFDから読み出し、コンピュータシステムCsにロードする。
【0160】
なお、上記説明では、データ記憶媒体としてフレキシブルディスクを用いて説明を行ったが、光ディスクを用いても上記フレキシブルディスクの場合と同様にソフトウェアによる符号化処理あるいは復号化処理を行うことができる。また、記録媒体は上記光ディスクやフレキシブルディスクに限るものではなく、ICカード、ROMカセット等、プログラムを記録できるものであればよく、これらの記録媒体を用いる場合でも、上記フレキシブルディスク等を用いる場合と同様にソフトウェアによる符号化処理あるいは復号化処理を実施することができる。
【0161】
【発明の効果】
以上のように、本発明に係る画像処理方法によれば、複数の画素からなる画像空間を形成する画像信号を、該画像空間を区分する矩形形状の複数のマクロブロックに分割し、該マクロブロックを構成するサブブロックに対応する画像信号の符号化処理を、サブブロック毎に行う画像処理方法であって、上記マクロブロックの画像信号に対して、上記画像信号を構成する第1フィールドの画像信号が該マクロブロックの上側に位置し、かつ上記画像信号を構成する第2フィールドの画像が該マクロブロックの下側に位置するよう、水平画素列の並べ替え処理を施す並べ替えステップと、上記サブブロック化した画像信号をサブブロック単位の周波数変換により周波数成分に変換する変換ステップと、被符号化サブブロックの左側または上側に位置する符号化済みのサブブロックの周波数成分に基づいて被符号化サブブロックの周波数成分の予測値を生成する予測ステップと、上記被符号化サブブロックの周波数成分と上記予測値との差分値を符号化する符号化ステップとを有し、上記変換ステップは、上記並べ替え処理が施されたマクロブロックあるいは並べ替え処理が施されていないマクロブロックの画像信号を、上記マクロブロックを構成する左上、右上、左下、右下に位置する4つのサブブロック毎に周波数変換を行って周波数成分に変換し、上記予測ステップは、上記被符号化サブブロックの左側または上側に位置する符号化済みサブブロックがフィールド単位または、フレーム単位のいずれで周波数変換されているかの処理単位を特定し、上記被符号化サブブロックの左側または上側に位置する少なくともいずれか一方の符号化済みサブブロックの周波数変換の処理単位が上記被符号化サブブロックの周波数変換の処理単位と同じ場合に、周波数変換の処理単位が同じである上記左側または上側に位置するいずれか一方の符号化済みのサブブロックの周波数成分の直流成分から上記予測値を生成し、上記被符号化サブブロックの左側および上側に位置する符号化済みブロックの周波数変換の処理単位と上記被符号化サブブロックの周波数変換の処理単位とが異なる場合には、上記被符号化サブブロックの左側近傍、上側近傍および左上近傍に位置する符号化済みサブブロックから所定の方法により周波数成分の直流成分を生成し、生成した周波数成分の直流成分から上記予測値を生成し、上記被符号化サブブロックがフィールド単位で周波数変換されている場合は、上記被符号化サブブロックの左側に隣接するサブブロックを左側に位置する符号化済みサブブロックとして用い、上記被符号化サブブロックが含まれるブロックの上側に隣接するブロック内で被符号化サブブロックと同じ位置にあるサブブロックを上側に位置する符号化済みサブブロックとして用いるものであり、上記被符号化サブブロックがフレーム単位で周波数変換されている場合は、上記被符号化サブブロックの左側または上側に隣接するサブブロックを、それぞれ左側または上側に位置する符号化済みサブブロックとして用いるものである、ことを特徴とするので、フィールドDCTタイプのマクロブロックが混在する、インターレース画像あるいは特定のプログレッシブ画像を、画像信号に含まれる空間的に冗長な画像情報を画面内予測処理により十分に削減して、効率よく符号化することができる。
【0162】
また、被符号化サブブロック近傍の、周波数成分を参照するサブブロックを、該被符号化ブロックの上側近傍,左側近傍,及び左上近傍に位置する符号化済みサブブロックの周波数成分の直流成分に基づいて決定するため、被符号化サブブロックとの間でのDCT係数の相関の高い符号化済みサブブロックを簡単に特定することができる。
【0163】
本発明によれば、上記画像処理方法において、上記被符号化サブブロックの上側近傍に位置する符号化済みサブブロックとして、該被符号化サブブロックの上側に隣接して位置する上側符号化済みサブブロックを用い、上記被符号化サブブロックの左側近傍に位置する符号化済みサブブロックとして、該被符号化サブブロックの左側に隣接して位置する左側符号化済みサブブロックを用い、上記被符号化サブブロックの左上近傍に位置する符号化済みサブブロックとして、該被符号化サブブロックの左上側に隣接して位置する左上側符号化済みサブブロックを用い、上記上側符号化済みサブブロックの周波数成分の直流成分と左上側符号化済みサブブロックの周波数成分の直流成分との差分の絶対値が、上記左側符号化済みサブブロックの周波数成分の直流成分と左上側符号化済みサブブロックの周波数成分の直流成分との差分の絶対値より小さいとき、上記左側符号化済みサブブロックの周波数成分を参照して被符号化サブブロックの周波数成分の予測値を生成し、一方、上記左側符号化済みサブブロックの周波数成分の直流成分と左上側符号化済みサブブロックの周波数成分の直流成分との差分の絶対値が、上記上側符号化済みサブブロックの周波数成分の直流成分と左上側符号化済みサブブロックの周波数成分の直流成分との差分の絶対値より小さいとき、上記上側符号化済みサブブロックの周波数成分を参照して被符号化サブブロックの周波数成分の予測値を生成する、ことを特徴とするので、被符号化サブブロックの周波数成分の予測値を生成する際、被符号化サブブロックに対して空間的に近い符号化済みサブブロックの周波数成分が参照されることとなり、予測効率の向上を図ることができる。
【図面の簡単な説明】
【図1】本発明の実施の形態1による画像処理装置(画像符号化装置)の構成を示すブロック図である。
【図2】本発明の実施の形態2による画像処理装置(画像復号化装置)の構成を示すブロック図である。
【図3】上記実施の形態1の画像符号化装置による画面内予測符号化処理を説明するための図であり、DCT領域のマクロブロックにおけるDCTブロックの配置を示している。
【図4】上記実施の形態1の画像符号化装置による画面内予測符号化処理を説明するための図であり、フレーム予測およびフィールド予測における参照ブロックの被符号化ブロックに対する位置関係を示している。
【図5】上記実施の形態1の画像符号化装置及び実施の形態2の画像復号化装置による適応的画面内DCT係数予測処理をフローチャートにより示す図である。
【図6】上記実施の形態1の画像符号化装置及び実施の形態2の画像復号化装置による予測処理におけるフレーム予測方法をフローチャートにより示す図である。
【図7】上記実施の形態1の画像符号化装置及び実施の形態2の画像復号化装置による予測処理におけるフィールド予測方法をフローチャートにより示す図である。
【図8】上記フレーム予測における予測値生成方法の一例をフローチャートにより示す図である。
【図9】上記フィールド予測における予測値生成方法の一列をフローチャートにより示す図である。
【図10】上記実施の形態1の画像符号化装置及び実施の形態2の画像復号化装置による予測処理における仮想バッファのDCT係数生成方法の一例を説明するための図である。
【図11】上記実施の形態1の画像符号化装置及び実施の形態2の画像復号化装置による予測処理における仮想バッファのDCT係数生成方法の一例をフローチャートにより示す図である。
【図12】本発明の実施の形態3による画像符号化装置、及び実施の形態4による画像復号化装置におけるフレーム予測方法をフローチャートにより示す図である。
【図13】上記実施の形態3による画像符号化装置、及び実施の形態4による画像復号化装置におけるフィールド予測方法をフローチャートにより示す図である。
【図14】図14(a) ,(b) は、本発明の各実施の形態の画面内予測符号化処理及び画面内予測復号化処理をコンピュータシステムにより行うためのプログラムを格納したデータ記憶媒体を説明するための図、図14(c) は、上記コンピュータシステムを示す図である。
【図15】従来の画像処理装置を用いた画面内DCT係数予測方法を説明するための図である。
【図16】フレーム/フィールドDCT切替えの際の、走査線の入替え処理を説明するための模式図である。
【図17】本発明の実施の形態5による画像符号化装置を説明するためのブロック図である。
【図18】本発明の実施の形態6による画像復号化装置を説明するためのブロック図である。
【図19】上記実施の形態5における予測処理の際に用いる参照ブロックを説明するための図である。
【図20】上記実施の形態5における予測値生成方法のフローチャートの一例を示す図である。
【符号の説明】
100 ブロック化器
101 画像信号
102 DCTタイプ信号
103 DCT器
104 DCT係数
105 量子化器
106 DCT係数量子化値
108 DCT係数差分値
109 可変長符号化器
110,210,310,410 画面内予測処理部
110a 入力画像信号
110b 画像符号化信号(ビットストリーム)
111 DCT係数予測値
113,313 DCT係数予測器
115 ブロックメモリ
116 DCT係数量子化値
200 逆ブロック化器
203 可変長復号化器
207 逆量子化器
209 逆DCT器
1000,3000 画像符号化装置(画像処理装置)
2000,4000 画像復号化装置(画像処理装置)
Cs コンピュータシステム
D フレキシブルディスク本体
FC フレキシブルディスクケース
FD フレキシブルディスク
FDD フレキシブルディスクドライブ

Claims (2)

  1. 複数の画素からなる画像空間を形成する画像信号を、該画像空間を区分する矩形形状の複数のマクロブロックに分割し、該マクロブロックを構成するサブブロックに対応する画像信号の符号化処理を、サブブロック毎に行う画像処理方法であって、
    上記マクロブロックの画像信号に対して、上記画像信号を構成する第1フィールドの画像信号が該マクロブロックの上側に位置し、かつ上記画像信号を構成する第2フィールドの画像が該マクロブロックの下側に位置するよう、水平画素列の並べ替え処理を施す並べ替えステップと、
    上記サブブロック化した画像信号をサブブロック単位の周波数変換により周波数成分に変換する変換ステップと、
    被符号化サブブロックの左側または上側に位置する符号化済みのサブブロックの周波数成分に基づいて被符号化サブブロックの周波数成分の予測値を生成する予測ステップと、
    上記被符号化サブブロックの周波数成分と上記予測値との差分値を符号化する符号化ステップとを有し、
    上記変換ステップは、上記並べ替え処理が施されたマクロブロックあるいは並べ替え処理が施されていないマクロブロックの画像信号を、上記マクロブロックを構成する左上、右上、左下、右下に位置する4つのサブブロック毎に周波数変換を行って周波数成分に変換し、
    上記予測ステップは、
    上記被符号化サブブロックの左側または上側に位置する符号化済みサブブロックがフィールド単位または、フレーム単位のいずれで周波数変換されているかの処理単位を特定し、
    上記被符号化サブブロックの左側または上側に位置する少なくともいずれか一方の符号化済みサブブロックの周波数変換の処理単位が上記被符号化サブブロックの周波数変換の処理単位と同じ場合に、周波数変換の処理単位が同じである上記左側または上側に位置するいずれか一方の符号化済みのサブブロックの周波数成分の直流成分から上記予測値を生成し、
    上記被符号化サブブロックの左側および上側に位置する符号化済みサブブロックの周波数変換の処理単位と上記被符号化サブブロックの周波数変換の処理単位とが異なる場合には、上記被符号化サブブロックの左側近傍、上側近傍および左上近傍に位置する符号化済みサブブロックから所定の方法により周波数成分の直流成分を生成し、生成した周波数成分の直流成分から上記予測値を生成し、
    上記被符号化サブブロックがフィールド単位で周波数変換されている場合は、上記被符号化サブブロックの左側に隣接するサブブロックを左側に位置する符号化済みサブブロックとして用い、上記被符号化サブブロックが含まれるブロックの上側に隣接するブロック内で被符号化サブブロックと同じ位置にあるサブブロックを上側に位置する符号化済みサブブロックとして用いるものであり、上記被符号化サブブロックがフレーム単位で周波数変換されている場合は、上記被符号化サブブロックの左側または上側に隣接するサブブロックを、それぞれ左側または上側に位置する符号化済みサブブロックとして用いるものである、
    ことを特徴とする画像処理方法。
  2. 複数の画素からなる画像空間を形成する画像信号を、該画像空間を区分する矩形形状の複数のマクロブロックに分割し、該マクロブロックを構成するサブブロックに対応する画像信号の符号化処理を、サブブロック毎に行う画像処理装置であって、
    上記マクロブロックの画像信号に対して、上記画像信号を構成する第1フィールドの画像信号が該マクロブロックの上側に位置し、かつ上記画像信号を構成する第2フィールドの画像が該マクロブロックの下側に位置するよう、水平画素列の並べ替え処理を施す並べ替え手段と、
    上記サブブロック化した画像信号をサブブロック単位の周波数変換により周波数成分に変換する変換手段と、
    被符号化サブブロックの左側または上側に位置する符号化済みのサブブロックの周波数成分に基づいて被符号化サブブロックの周波数成分の予測値を生成する予測手段と、
    上記被符号化サブブロックの周波数成分と上記予測値の差分値を符号化する符号化手段とを備え、
    上記変換手段は、上記並べ替え処理が施されたマクロブロックあるいは並べ替え処理が施されていないマクロブロックの画像信号を、上記マクロブロックを構成する左上、右上、左下、右下に位置する4つのサブブロック毎に周波数変換を行って周波数成分に変換し、
    上記予測手段は、
    上記被符号化サブブロックの左側または上側に位置する符号化済みサブブロックがフィールド単位または、フレーム単位のいずれで周波数変換されているかの処理単位を特定し、
    上記被符号化サブブロックの左側または上側に位置する少なくともいずれか一方の符号化済みサブブロックの周波数変換の処理単位が上記被符号化サブブロックの周波数変換の処理単位と同じ場合に、周波数変換の処理単位が同じである上記左側または上側に位置するいずれか一方の符号化済みのサブブロックの周波数成分の直流成分から上記予測値を生成
    上記被符号化サブブロックの左側および上側に位置する符号化済みブロックの周波数変換の処理単位と上記被符号化サブブロックの周波数変換の処理単位とが異なる場合には、上記被符号化サブブロックの左側近傍、上側近傍および左上近傍に位置する符号化済みサブブロックから所定の方法により周波数成分の直流成分を生成し、生成した周波数成分の直流成分から上記予測値を生成し、
    上記被符号化サブブロックがフィールド単位で周波数変換されている場合は、上記被符号化サブブロックの左側に隣接するサブブロックを左側に位置する符号化済みサブブロックとして用い、上記被符号化サブブロックが含まれるブロックの上側に隣接するブロック内で被符号化サブブロックと同じ位置にあるサブブロックを上側に位置する符号化済みサブブロックとして用いるものであり、上記被符号化サブブロックがフレーム単位で周波数変換されている場合は、上記被符号化サブブロックの左側または上側に隣接するサブブロックを、それぞれ左側または上側に位置する符号化済みサブブロックとして用いるものである、
    ことを特徴とする画像処理装置。
JP2003179449A 1997-06-20 2003-06-24 画像処理方法 Expired - Lifetime JP4213526B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003179449A JP4213526B2 (ja) 1997-06-20 2003-06-24 画像処理方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP16465497 1997-06-20
JP9-164654 1997-06-20
JP2003179449A JP4213526B2 (ja) 1997-06-20 2003-06-24 画像処理方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP17334698A Division JP3671286B2 (ja) 1997-06-20 1998-06-19 画像処理方法,画像処理装置,及びデータ記憶媒体

Publications (3)

Publication Number Publication Date
JP2003348599A JP2003348599A (ja) 2003-12-05
JP2003348599A5 JP2003348599A5 (ja) 2007-07-12
JP4213526B2 true JP4213526B2 (ja) 2009-01-21

Family

ID=29781698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003179449A Expired - Lifetime JP4213526B2 (ja) 1997-06-20 2003-06-24 画像処理方法

Country Status (1)

Country Link
JP (1) JP4213526B2 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0595542A (ja) * 1991-09-30 1993-04-16 Sony Corp 動画像符号化復号化装置
US5227878A (en) * 1991-11-15 1993-07-13 At&T Bell Laboratories Adaptive coding and decoding of frames and fields of video
JPH08242455A (ja) * 1994-11-03 1996-09-17 Eastman Kodak Co デジタル画像処理装置及びその方法、デジタル画像処理システム
EP1085763B1 (en) * 1996-05-28 2003-01-22 Matsushita Electric Industrial Co., Ltd. Image predictive coding apparatus and method.
JP4166305B2 (ja) * 1996-09-20 2008-10-15 エイ・ティ・アンド・ティ・コーポレーション ビデオの画像コーディング及びイントラコーディングのための暗黙の係数予測及び走査適合化を提供するビデオコーダー
KR100303685B1 (ko) * 1996-09-30 2001-09-24 송문섭 영상 예측부호화 장치 및 그 방법

Also Published As

Publication number Publication date
JP2003348599A (ja) 2003-12-05

Similar Documents

Publication Publication Date Title
KR100303373B1 (ko) 화상처리방법및화상처리장치
JP4625411B2 (ja) 画像データの符号化方法およびそのためのプログラムを記録したコンピュータ読み取り可能媒体
JP5047995B2 (ja) 映像のイントラ予測符号化、復号化方法及び装置
US9510011B2 (en) Video encoding device, video decoding device, video encoding method, video decoding method, and program
JP3369573B2 (ja) 画像予測復号化方法及び装置
KR100891662B1 (ko) 비디오 신호 디코딩 및 인코딩 방법
JP4703449B2 (ja) 符号化方法
AU2002353749A1 (en) Global motion compensation for video pictures
KR100727969B1 (ko) 영상의 부호화 및 복호화 장치와, 그 방법, 및 이를수행하기 위한 프로그램이 기록된 기록 매체
KR100260475B1 (ko) 화상 데이타 부호화 방법 및 장치, 화상 데이타 복호화 방법 및 장치 및 화상 기록 매체
JP2004242271A (ja) 動画像符号化方法、動画像復号方法、動画像符号化装置、及び動画像復号装置
JP3671286B2 (ja) 画像処理方法,画像処理装置,及びデータ記憶媒体
JP4572210B2 (ja) 輝度情報の復号化方法
JP4775132B2 (ja) 画像理装置および方法、プログラム、並びに記録媒体
KR100359819B1 (ko) 압축영상의 공간 도메인에서의 효율적인 엣지 예측 방법
JP4213526B2 (ja) 画像処理方法
JP3776735B2 (ja) 画像予測復号化方法,画像予測復号化装置,画像予測符号化方法,画像予測符号化装置,及びデータ記憶媒体
JP3449370B2 (ja) 画像データ復号化方法及び装置
JPH10327410A (ja) 画像伝送用データ構造,符号化方法及び復号化方法
JP2004242275A (ja) 動画像符号化方法、動画像復号方法、動画像符号化プログラム、動画像復号プログラム、動画像符号化装置、及び動画像復号装置
JP2000041247A (ja) 画像デ―タ復号化方法及び画像デ―タ復号化装置
JPH11243549A (ja) 動画像復号化方法

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050513

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050513

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070619

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080311

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081007

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081030

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111107

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121107

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131107

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z02

S131 Request for trust registration of transfer of right

Free format text: JAPANESE INTERMEDIATE CODE: R313133

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term