JP5509048B2 - Intra prediction apparatus, encoder, decoder, and program - Google Patents
Intra prediction apparatus, encoder, decoder, and program Download PDFInfo
- Publication number
- JP5509048B2 JP5509048B2 JP2010267122A JP2010267122A JP5509048B2 JP 5509048 B2 JP5509048 B2 JP 5509048B2 JP 2010267122 A JP2010267122 A JP 2010267122A JP 2010267122 A JP2010267122 A JP 2010267122A JP 5509048 B2 JP5509048 B2 JP 5509048B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- orthogonal transform
- block
- coefficient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003702 image correction Methods 0.000 claims description 58
- 238000000034 method Methods 0.000 claims description 48
- 238000000605 extraction Methods 0.000 claims description 30
- 230000008569 process Effects 0.000 claims description 28
- 238000010191 image analysis Methods 0.000 claims description 27
- 239000000284 extract Substances 0.000 claims description 9
- 230000007423 decrease Effects 0.000 claims description 8
- 238000004458 analytical method Methods 0.000 claims description 7
- 230000009466 transformation Effects 0.000 description 29
- 238000013139 quantization Methods 0.000 description 24
- 230000033001 locomotion Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 18
- 230000005540 biological transmission Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 8
- 238000012804 iterative process Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 2
- 230000003252 repetitive effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002040 relaxant effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
本発明は、復号済みの画素値から符号化対象の画素値を外挿により予測するものであり、特に画像の交流成分の連続性を損なわない予測が可能なイントラ予測装置、符号化器、復号器、及びプログラムに関する。 The present invention predicts a pixel value to be encoded from decoded pixel values by extrapolation, and in particular, an intra-prediction device, an encoder, and a decoding capable of prediction without impairing the continuity of the AC component of an image Device and program.
MPEG−4 AVC/H.264方式(ISO/IEC 14496−10/ITU−T Rec.H.264)では、インター予測(画面間予測)のほか、符号化対象の画像ブロックに対して、符号化済み隣接ブロックの画素値から予測画像を生成し、その予測画像との差分を符号化するイントラ予測符号化(画面内予測符号化)が採用されている。 MPEG-4 AVC / H. In the H.264 system (ISO / IEC 14496-10 / ITU-T Rec. H.264), in addition to inter prediction (inter-screen prediction), the pixel value of an adjacent block that has been encoded is determined for an image block to be encoded. Intra-prediction coding (intra-screen prediction coding) that generates a prediction image and encodes a difference from the prediction image is employed.
図9に、従来のMPEG−4 AVC/H.264方式における符号化器4のブロック図を示す。符号化器4は、減算部31と、直交変換部32と、量子化部33と、可変長符号化部34と、逆量子化部35と、逆直交変換部36と、切替えスイッチ37と、イントラ予測部38と、フレームメモリ39と、動き補償予測部40と、加算部41とを備える。
FIG. 9 shows a conventional MPEG-4 AVC / H. The block diagram of the encoder 4 in a H.264 system is shown. The encoder 4 includes a
動き補償予測部40は、入力画像に対して、フレームメモリ39から取得する参照画像を用いて動きベクトル検出を行い、得られた動きベクトルを用いて動き補償を行い、その結果得られた予測画像を、切替えスイッチ37を介して減算部31及び加算部41に出力する。また、動き補償予測部40は、動きベクトルの情報を可変長符号化部34に出力する。
The motion
減算部31は、入力画像と、動き補償予測部40又はイントラ予測部38からの予測画像との差分画像を生成して直交変換部32に出力する。
The
直交変換部32は、減算部31から供給される差分画像に対して小領域の画素ブロックごとに直交変換(例えば、DCT;Discrete Cosine Transform)を施し、直交変換係数を量子化部33に出力する。
The
量子化部33は、直交変換部32から入力される直交変換係数に対して量子化テーブルを選択して量子化処理を行い、可変長符号化部34及び逆量子化部35に出力する。
The
可変長符号化部34は、量子化部33から入力される量子化された直交変換係数についてスキャンを行って可変長符号化処理を施しビットストリームを生成するとともに、動き補償予測部41から入力される動きベクトルの情報も可変長符号化を施して外部に出力する。
The variable
逆量子化部35は、量子化部33から入力される量子化された直交変換係数について逆量子化処理を行って逆直交変換部36に出力する。
The
逆直交変換部36は、逆量子化部35から入力された直交変換係数に対して逆直交変換(例えば、IDCT;Inverse Discrete Cosine Transform)を施し、加算部41に出力する。
The inverse
加算部41は、逆直交変換部36から得られる逆直交変換した画像と、動き補償予測部40又はイントラ予測部38から得られる予測画像とを加算処理して復号画像を生成し、イントラ予測部38及びフレームメモリ39に出力する。
The
切替えスイッチ37は、動き補償予測とイントラ予測とを切替える。 The changeover switch 37 switches between motion compensation prediction and intra prediction.
イントラ予測部38は、既符号化ブロックを復号した画像(加算部41の出力画像)からイントラ予測した予測画像を生成して減算部31及び加算部41に出力する。ここで、減算部31では、この予測画像と原画像との差分画像を直交変換部32に出力し、量子化部33及び可変長符号化部34を経て符号化する。
The
イントラ予測は、4画素×4ライン単位、8画素×8ライン単位、又は16画素×16ライン単位で行われ、複数種類の予測モード(予測方向)(例えば、4画素×4ライン単位の予測については9種類)の中から最適な予測方向を選択する。図10は、4画素×4ライン単位で予測する場合の予測モードを示す図である。図中の斜線付の丸は復号済みの画素を示し、白丸は予測対象の画素を示し、矢印は予測方向を示している。(a)の予測モード0では垂直方向予測、(b)の予測モード1では水平方向予測、(c)の予測モード2ではDC予測、(d)の予測モード3では対角左下方向予測、(e)の予測モード4では対角右下方向予測、(f)の予測モード5では垂直右方向予測、(g)の予測モード6では水平下方向予測、(h)の予測モード7では垂直左方向予測、(i)の予測モード8では水平上方向予測を行う。以上が、MPEG−4 AVC/H.264方式におけるイントラ予測の技法である。
Intra prediction is performed in units of 4 pixels × 4 lines, 8 pixels × 8 lines, or 16 pixels × 16 lines, and a plurality of types of prediction modes (prediction directions) (for example, prediction in units of 4 pixels × 4 lines). Selects the optimum prediction direction from among nine types. FIG. 10 is a diagram illustrating a prediction mode when prediction is performed in units of 4 pixels × 4 lines. In the figure, hatched circles indicate decoded pixels, white circles indicate pixels to be predicted, and arrows indicate prediction directions. (A) Prediction mode 0 is vertical direction prediction, (b)
また、イントラ予測の精度を上げるために、空間的に離れた画素を参照するのではなく、常に隣接する画素を参照して隣接画素間の差分値を符号化する技法や(例えば、特許文献1参照)、予測ブロックに隣接する画素の値と該予測ブロックから1画素以上間をおいた画素の値とに基づいてイントラ予測を行う技法が知られている(例えば、特許文献2参照)。また、画素値が一定の変化傾向を持つ絵柄の映像に対する予測性能を向上させるために、イントラ符号化における予測値として、隣接する復号画像の周波数特性を考慮した値を生成する技法が知られている(例えば、特許文献3参照)。 In addition, in order to increase the accuracy of intra prediction, a technique of encoding a difference value between adjacent pixels by always referring to adjacent pixels instead of referring to spatially separated pixels (for example, Patent Document 1). And a technique for performing intra prediction based on the value of a pixel adjacent to a prediction block and the value of a pixel between the prediction block and one or more pixels is known (see, for example, Patent Document 2). Also known is a technique for generating a value that takes into account the frequency characteristics of adjacent decoded images as a prediction value in intra coding in order to improve the prediction performance for a picture image whose pixel value has a certain change tendency. (For example, see Patent Document 3).
しかし、従来の方向性を持ったイントラ予測方法は、復号済みの隣接画素の値と予測対象画素の値とが直流的な意味で連続であることを仮定しており、交流的な意味での連続性は仮定していなかった。また、特許文献3に記載の技法は交流成分も含んだ予測を行うものではあるが、参照画素と予測画素との間に交流的(位相的)な連続性はない。そのため、参照画像が周期性のあるパターンの一部であるような場合には、交流成分を考慮した高度な予測を行うことができなかった。また、復号済みの画像に含まれる符号化歪みや原画像に含まれる雑音成分が、予測値にそのまま影響を及ぼしてしまうという問題があった。 However, the conventional intra prediction method with directionality assumes that the value of the decoded adjacent pixel and the value of the prediction target pixel are continuous in a DC sense, and in an AC sense. Continuity was not assumed. Further, although the technique described in Patent Document 3 performs prediction including an AC component, there is no AC (phase) continuity between the reference pixel and the prediction pixel. For this reason, when the reference image is a part of a periodic pattern, it has not been possible to perform advanced prediction considering the AC component. In addition, there is a problem that the coding distortion included in the decoded image and the noise component included in the original image directly affect the predicted value.
本発明の目的は、上記問題を解決するため、参照画素と予測画素との間で交流成分の連続性を損なわない予測を行うとともに、雑音成分の影響の少ない予測を行うイントラ予測装置、符号化器、復号器、及びプログラムを提供することにある。 In order to solve the above-described problem, an object of the present invention is to provide an intra-prediction device that performs prediction that does not impair the continuity of the AC component between the reference pixel and the prediction pixel, and performs prediction with less influence of the noise component, and encoding A decoder, a decoder, and a program.
上記課題を解決するため、本発明に係るイントラ予測装置は、予測ブロックに隣接する復号済みの参照ブロックの画像から、予測ブロックの予測画像を生成するイントラ予測装置であって、予測画像の初期値を予測ブロックに設定する予測画像初期値設定部と、参照ブロックと前記初期値が設定された予測ブロックからなる処理ブロックを生成する処理ブロック生成部と、前記処理ブロックの画像に対して直交変換を行って直交変換係数を生成する直交変換部と、前記直交変換部によって生成された直交変換係数の絶対値を、高周波領域において元の値よりも小さい値に修正する係数修正部と、前記修正された直交変換係数に対して逆直交変換を行って画像を生成する逆直交変換部と、前記逆直交変換部によって生成された画像のうち、前記参照ブロック内の画像領域を元の復号済みの画像の画素値に修正し、該修正した画像を前記直交変換部に供給する画像修正部と、前記逆直交変換部によって生成された画像から予測ブロックの画像を抽出して予測画像を生成する予測画像抽出部と、前記画像修正部、前記直交変換部、前記係数修正部、及び前記逆直交変換部による一連の処理の繰り返しを終了する所定の条件を満たすか否かを判定し、該所定の条件を満たしていないと判定した場合には、該一連の処理を繰り返し実行させるために前記逆直交変換部によって生成された画像を前記画像修正部に供給し、該所定の条件を満たしていると判定した場合には、該一連の処理の繰り返しを終了して前記逆直交変換部によって生成された画像を前記予測画像抽出部に供給する分岐部と、前記参照ブロックの画像の周波数を分析する参照画像分析部と、前記参照画像分析部によって得られた分析結果に基づいて、前記係数修正部が直交変換係数を修正する領域、又は前記画像修正部が画素値を修正する領域の少なくとも一方を決定する制御部と、を備えることを特徴とする。 In order to solve the above problems, an intra prediction apparatus according to the present invention is an intra prediction apparatus that generates a prediction image of a prediction block from an image of a decoded reference block adjacent to the prediction block, and an initial value of the prediction image A prediction image initial value setting unit that sets a prediction block, a processing block generation unit that generates a processing block including a reference block and a prediction block in which the initial value is set, and an orthogonal transform on the image of the processing block An orthogonal transform unit that generates an orthogonal transform coefficient, a coefficient correction unit that corrects the absolute value of the orthogonal transform coefficient generated by the orthogonal transform unit to a value smaller than the original value in a high frequency region, and the correction. Among the images generated by the inverse orthogonal transform unit, an inverse orthogonal transform unit that performs inverse orthogonal transform on the orthogonal transform coefficient and generates an image, An image correction unit that corrects an image area in a reference block to a pixel value of an original decoded image, supplies the corrected image to the orthogonal transform unit, and a prediction block from the image generated by the inverse orthogonal transform unit A predetermined condition for terminating the repetition of a series of processes by the predicted image extracting unit that extracts the image and generating a predicted image, and the image correcting unit, the orthogonal transform unit, the coefficient correcting unit, and the inverse orthogonal transform unit When it is determined that the predetermined condition is not satisfied, the image generated by the inverse orthogonal transform unit is repeatedly sent to the image correction unit to repeatedly execute the series of processes. A branching unit that terminates the series of processes and supplies the image generated by the inverse orthogonal transform unit to the predicted image extraction unit when it is determined that the predetermined condition is satisfied. , A reference image analysis unit that analyzes the frequency of the image of the reference block, and an area in which the coefficient correction unit corrects an orthogonal transform coefficient based on an analysis result obtained by the reference image analysis unit, or the image correction unit And a control unit that determines at least one of the regions for correcting the pixel value.
さらに、本発明に係るイントラ予測装置において、前記参照画像分析部は、前記参照ブロックの高周波成分のパワー(電力)を導出し、前記制御部は、前記導出したパワーが小さいほど、前記係数修正部が直交変換係数を修正する高周波領域、又は前記画像修正部が画素値を修正する画像領域の少なくとも一方が大きくなるように決定することを特徴とする。 Furthermore, in the intra prediction apparatus according to the present invention, the reference image analysis unit derives power (power) of a high-frequency component of the reference block, and the control unit reduces the coefficient correction unit as the derived power is smaller. Is determined such that at least one of a high-frequency region for correcting the orthogonal transform coefficient or an image region for correcting the pixel value by the image correction unit is increased.
さらに、本発明に係るイントラ予測装置において、前記参照画像分析部は、前記参照ブロックの水平方向の高周波成分のパワー、及び垂直方向の高周波成分のパワーを導出し、前記制御部は、前記導出した水平方向の高周波成分のパワーが小さいほど、前記係数修正部が直交変換係数を修正する高周波領域の水平方向の幅、又は前記画像修正部が画素値を修正する画像領域の水平方向の幅の少なくとも一方が長くなるように決定し、かつ、前記導出した垂直方向の高周波成分のパワーが小さいほど、前記係数修正部が直交変換係数を修正する高周波領域の垂直方向の長さ、又は前記画像修正部が画素値を修正する画像領域の垂直方向の長さの少なくとも一方が長くなるように決定することを特徴とする。 Further, in the intra prediction apparatus according to the present invention, the reference image analysis unit derives a horizontal high-frequency component power and a vertical high-frequency component power of the reference block, and the control unit derives the derived high-frequency component power. The smaller the power of the high-frequency component in the horizontal direction, the at least the horizontal width of the high-frequency region in which the coefficient correction unit corrects the orthogonal transform coefficient, or the horizontal width of the image region in which the image correction unit corrects the pixel value. The length of the high-frequency region in which the coefficient correction unit corrects the orthogonal transform coefficient is determined as the power of the derived vertical high-frequency component is smaller, or the image correction unit Is determined such that at least one of the lengths in the vertical direction of the image region whose pixel value is to be corrected becomes longer.
さらに、本発明に係るイントラ予測装置において、前記係数修正部は、前記直交変換部によって生成された直交変換係数の絶対値を、最高次の直交変換係数を含む高周波領域において元の値よりも小さい値に修正し、前記繰り返し実行するたびに、直交変換係数を修正する高周波領域の面積を、繰り返し前の面積以下とすることを特徴とする。 Furthermore, in the intra prediction device according to the present invention, the coefficient correction unit has an absolute value of the orthogonal transform coefficient generated by the orthogonal transform unit smaller than an original value in a high frequency region including the highest order orthogonal transform coefficient. Each time it is corrected to a value and repeated, the area of the high-frequency region where the orthogonal transform coefficient is corrected is made equal to or less than the area before the repetition.
さらに、本発明に係るイントラ予測装置において、前記画像修正部は、前記参照ブロック内であって前記予測ブロックに隣接する画像を含む画像領域を元の復号済みの画像の画素値に修正し、前記繰り返し実行するたびに、画素値を修正する画像領域の面積を、繰り返し前の面積以下とすることを特徴とする。 Further, in the intra prediction device according to the present invention, the image correction unit corrects an image area including an image adjacent to the prediction block in the reference block to a pixel value of an original decoded image, Each time it is repeatedly executed, the area of the image region whose pixel value is corrected is set to be equal to or less than the area before the repetition.
さらに、本発明に係るイントラ予測装置において、前記一連の処理の繰り返しを終了する所定の条件は、該一連の処理の回数が所定回数以上、又は該一連の処理後の参照ブロックの画像と該一連の処理を行う前の参照ブロックの画像との画素値の差が所定の閾値以下であることを特徴とする。 Furthermore, in the intra prediction apparatus according to the present invention, the predetermined condition for ending the series of processing is that the number of times of the series of processing is equal to or greater than the predetermined number of times, or an image of the reference block after the series of processing and the sequence. The difference in pixel value from the image of the reference block before performing the process is not more than a predetermined threshold value.
また、本発明に係る符号化器は、上述したイントラ予測装置を備えることを特徴とする。 Also, an encoder according to the present invention includes the intra prediction device described above.
また、本発明に係る復号器は、上述したイントラ予測装置を備えることを特徴とする。 A decoder according to the present invention includes the above-described intra prediction device.
また、本発明は、予測ブロックに隣接する復号済みの参照ブロックの画像から、予測ブロックの予測画像を生成するイントラ予測装置として機能するコンピュータに、(a)参照ブロックの画像の周波数を分析するステップと、(b)予測画像の初期値を予測ブロックに設定するステップと、(c)前記参照ブロックと前記初期値が設定された予測ブロックからなる処理ブロックを生成するステップと、(d)前記処理ブロックの画像に対して直交変換を行って直交変換係数を生成するステップと、(e)前記ステップ(d)によって生成された直交変換係数の絶対値を、高周波領域において元の値よりも小さい値に修正するステップと、(f)前記ステップ(e)によって修正された直交変換係数に対して逆直交変換を行って画像を生成するステップと、(g)前記ステップ(d)からステップ(f)の一連の処理の繰り返しを終了する所定の条件を満たすか否かを判定するステップと、(h)前記ステップ(g)により、前記所定の条件を満たしていないと判定した場合には、前記ステップ(f)によって生成された画像のうち、前記参照ブロック内の画像領域を元の復号済みの画像の画素値に修正し、前記ステップ(d)から当該ステップ(g)を繰り返し行うステップと、(i)前記ステップ(g)により、前記所定の条件を満たしていると判定した場合には、前記一連の処理の繰り返しを終了して前記ステップ(f)によって生成された画像から予測ブロックの画像を抽出して予測画像を生成するステップと、(j)前記ステップ(a)によって得られた分析結果に基づいて、前記ステップ(e)における直交変換係数を修正する高周波領域、又は前記ステップ(h)における画素値を修正する画像領域の少なくとも一方を決定するステップと、を実行させるためのプログラムとしても特徴付けられる。 In addition, the present invention provides a computer functioning as an intra prediction device that generates a predicted image of a predicted block from an image of a decoded reference block adjacent to the predicted block. (A) Analyzing the frequency of the image of the reference block (B) setting an initial value of a predicted image in a prediction block; (c) generating a processing block including the reference block and a prediction block in which the initial value is set; and (d) the processing. A step of performing orthogonal transformation on the image of the block to generate an orthogonal transformation coefficient; and (e) a value smaller than the original value in the high frequency region, the absolute value of the orthogonal transformation coefficient generated by the step (d). And (f) generating an image by performing inverse orthogonal transform on the orthogonal transform coefficient modified in the step (e). A step, (g) determining whether or not a predetermined condition for ending the repetition of a series of processes from step (d) to step (f) is satisfied, and (h) the step (g) When it is determined that the predetermined condition is not satisfied, the image area in the reference block is corrected to the pixel value of the original decoded image among the images generated in the step (f), and the step (D) repeatedly performing the step (g), and (i) if it is determined in step (g) that the predetermined condition is satisfied, the repetition of the series of processes is terminated. Extracting a predicted block image from the image generated in step (f) to generate a predicted image; and (j) based on the analysis result obtained in step (a). And a step of determining at least one of a high frequency region for correcting the orthogonal transformation coefficient in step (e) and an image region for correcting the pixel value in step (h). It is done.
本発明によれば、参照画素と予測画素との間で交流成分の連続性が損なわれない予測を行うことができる。また、復号済みの画像に含まれる符号化歪みや原画像に含まれる雑音成分の影響の少ない予測を行うことができる。 According to the present invention, it is possible to perform prediction without impairing the continuity of the AC component between the reference pixel and the prediction pixel. In addition, it is possible to perform prediction with little influence of coding distortion included in a decoded image and noise components included in an original image.
また、参照画像の周波数特性の分析結果に基づいてパラメータを設定することにより、参照画像の周波数特性に応じて適切な予測画像を生成することができる。 In addition, by setting parameters based on the analysis result of the frequency characteristics of the reference image, an appropriate predicted image can be generated according to the frequency characteristics of the reference image.
2つの制約条件(パラメータ)を交互に適用して徐々に適切な結果を得る方法として、例えば凸射影法(POCS)が知られている。凸射影法では、2つの制約条件を満たす集合が凸集合の場合、繰り返しにより収束していくことが保証されている。本発明によるイントラ予測装置は、交流成分も含め、復号済みの画像との連続性を損なわず、かつ雑音成分の影響の少ない予測を行うために、予測画像の直交変換係数の高周波領域を所定の値に修正する、予測画像に隣接する参照画像が演算により変化した場合には元の値に修正する、という2つの制約条件を用いる。 For example, a convex projection method (POCS) is known as a method of obtaining two or more constraints (parameters) alternately to obtain an appropriate result gradually. In the convex projection method, when a set satisfying two constraint conditions is a convex set, it is guaranteed to converge by repetition. The intra prediction apparatus according to the present invention uses a predetermined high-frequency region of an orthogonal transform coefficient of a predicted image in order to perform prediction with less influence of noise components and without losing continuity with decoded images including AC components. Two constraint conditions are used: correction to a value, and correction to an original value when a reference image adjacent to a predicted image is changed by calculation.
予測には、予測画素の隣接画素だけでなく、一定の領域をもつ復号済み画素を活用し、DCTやFFT(Fast Fourier Transform)などの直交変換を用いる。そして、2つの制約条件の調和のために射影の繰り返しを行う。多数の隣接する参照画素を用い、かつ低周波成分を重視した予測を行うため、雑音の影響を軽減することができる。 For the prediction, not only a pixel adjacent to the prediction pixel but also a decoded pixel having a certain region is used, and orthogonal transformation such as DCT or FFT (Fast Fourier Transform) is used. Then, the projection is repeated to harmonize the two constraints. Since the prediction using a large number of adjacent reference pixels and emphasizing the low frequency component is performed, the influence of noise can be reduced.
具体的には、予測画像及び参照画像を含んだブロックに対して、直交変換、逆直交変換を、制約条件に近づけるための画像修正を施しながら繰り返し行う。理想的には、繰り返しの結果、参照画素に対応する画素の値は参照画素の値になり、予測画素に対応する画素の値は参照画素の値と直流的及び交流的に連続するものになればよい。しかし、このような状態に収束する保証はなく、また、収束するとしても繰り返しが多数となり演算量が増大するため、徐々に制約条件を緩和することにより、妥当な演算量で有効な結果を得るのが好適である。 Specifically, the orthogonal transformation and the inverse orthogonal transformation are repeatedly performed on the block including the predicted image and the reference image while performing image correction to approximate the constraint condition. Ideally, as a result of repetition, the value of the pixel corresponding to the reference pixel becomes the value of the reference pixel, and the value of the pixel corresponding to the prediction pixel should be continuous with the value of the reference pixel in a direct current and alternating current manner. That's fine. However, there is no guarantee that it will converge in such a state, and even if it converges, the number of iterations will increase and the amount of computation will increase. Therefore, by gradually relaxing the constraint conditions, an effective result can be obtained with a reasonable amount of computation. Is preferred.
以下、本発明による実施例について、図面を参照して詳細に説明する。 Hereinafter, embodiments according to the present invention will be described in detail with reference to the drawings.
図1は、本発明による実施例1の符号化側のイントラ予測装置の構成を示すブロック図である。イントラ予測装置1は、参照画像分析部10と、予測画像初期値設定部11と、処理ブロック生成部12と、直交変換部13と、係数修正部14と、逆直交変換部15と、予測画像抽出部18と、制御部19と、制御パラメータ伝送部20とを備える。
FIG. 1 is a block diagram illustrating a configuration of an encoding-side intra prediction apparatus according to a first embodiment of the present invention. The
後述する繰り返し処理を行う場合には、イントラ予測装置1は、更に分岐部16と画像修正部17とを備える。繰り返し処理を行わない場合でも一定の効果を得ることができるが、繰り返し処理を行うことで、より一層、交流成分の不連続性を低減することができる。以下の説明においては、繰り返し処理を行う場合について説明する。
When performing an iterative process described later, the
図2は、本発明による実施例1のイントラ予測装置1の処理を説明する図である。具体的には、図2(a)及び図2(c)は、イントラ予測装置1で行う処理の単位となる処理ブロックPを例示する図である。図2(b)及び図2(d)は、処理ブロックPの周波数領域を示す図であり、左上の領域は低周波成分を示し、右下の領域は高周波成分を示す。画像ブロックXは、イントラ予測の対象となる画像ブロック(以下、「予測ブロック」という)である。画像ブロックD,B,Aは、符号化された後に復号された画像ブロックであり、予測ブロックの画素値を予測するために参照される画像ブロック(以下、「参照ブロック」という)である。また、以下の説明において、参照ブロックD,B,A内の画像をそれぞれ参照画像d,b,aといい、予測ブロックX内の画像を予測画像xという。
FIG. 2 is a diagram for explaining processing of the
各ブロックのサイズは予め設定されており、図2(a)に示すように、参照ブロックDはk画素×mライン、参照ブロックBはl画素×mライン、参照ブロックAはk画素×nライン、予測ブロックXはl画素×nライン、処理ブロックPは(k+l)画素×(m+n)ラインである。 The size of each block is set in advance. As shown in FIG. 2A, the reference block D is k pixels × m lines, the reference block B is 1 pixel × m lines, and the reference block A is k pixels × n lines. The prediction block X is 1 pixel × n lines, and the processing block P is (k + 1) pixels × (m + n) lines.
予測画像初期値設定部11は、制御部19の指示に基づき、予測画像xの初期値として、参照画像d,b,aの全部又は一部の画素値から得られる値を設定する。例えば参照画像d,b,aの画素値の平均値を初期値とするのが、直流成分が保持され好適である。また、予測ブロックXに隣接する画素の平均値を初期値としたり、従来のMPEG4 AVC/H.264方式によるイントラ予測の結果を初期値としたりすることもできる。そして、この初期値を処理ブロック生成部12に出力する。
The predicted image initial value setting unit 11 sets values obtained from all or part of the pixel values of the reference images d, b, and a as initial values of the predicted image x based on instructions from the
処理ブロック生成部12は、制御部19の指示に基づき、入力される参照ブロックD,B,A、及び予測画像初期値設定部11から入力される予測画像xの初期値を用いて、図2(a)に示すように、参照ブロックD,B,Aと初期値が設定された予測ブロックXからなる処理ブロックPを生成し、直交変換部13に出力する。
Based on the instruction from the
直交変換部13は、処理ブロック生成部12から入力される処理ブロックPの画像に対して直交変換を行い、導出した直交変換係数を係数修正部14に出力する。
The
係数修正部14は、参照ブロックD,B,Aと予測ブロックXの境界領域において、参照画像d,b,aと予測画像xとの間に交流的な連続性をもたせる(不連続性を低減する)ために、制御部19の指示に基づき、処理ブロックPの高周波成分を抑圧する。そのため、直交変換部13から入力される直交変換係数のうち、図2(b)に示すように、高周波領域である係数修正領域Hの直交変換係数の絶対値を元の値よりも小さい値に修正する。係数修正領域H内の係数の数hは、1≦h<(k+l)×(m+n)である。そして、修正した直交変換係数を逆直交変換部15に出力する。修正する値は、0とするのが高周波成分を除去するのに好適である。また、直交変換が修正される係数修正領域Hは、図2(d)に示すように、正方形状又は長方形状としてもよい。
In the boundary region between the reference blocks D, B, A and the prediction block X, the
係数修正部14は、後述する繰り返し処理によりn回目の処理を行う場合には、最高次の直交変換係数から順にhn個の直交変換係数の絶対値を元の値よりも小さい値に修正する。ここで、係数修正領域Hを所定の値に修正するという制約条件を徐々に緩和させるために、処理を繰り返すごとに、繰り返し後の係数修正領域Hの面積を繰り返し前の面積以下とし、h1≧h2≧…≧hnとするのが好適である。
The
逆直交変換部15は、係数修正部14から入力される修正された直交変換係数に対し、逆直交変換を行って画像を生成し、この画像を分岐部16に出力する。
The inverse
分岐部16は、制御部19の指示に基づき、後述する画像の修正、及び上記の直交変換、直交変換係数の修正、逆直交変換という一連の処理を繰り返すか否かを判定する。例えば、繰り返し回数が所定の回数以下の場合には、繰り返し処理を実行させるために、逆直交変換部15から入力される画像を画像修正部17に出力し、繰り返し回数が所定の回数を超えた場合には、繰り返し処理を終了して逆直交変換部15から入力される画像を予測画像抽出部18に出力する。
Based on an instruction from the
また、分岐部16における別の判定方法として、参照ブロックD,B,A内の領域について、現在の画素値と繰り返し処理を行う前の元の復号済みの画像の画素値との差分値を算出し、この差分値が閾値以上の場合には繰り返し処理を実行させるために、逆直交変換部15から入力される画像を画像修正部17に出力し、閾値より小さい場合には繰り返し処理を終了して逆直交変換部15から入力される画像を予測画像抽出部18に出力するようにしてもよい。差分値を算出する対象となる参照ブロックD,B,A内の領域は、以下に説明する、画像修正部17で修正する画像修正領域Gとするのが好適である。また、この判定方法による場合でも、繰り返し回数を制限するために、繰り返しの上限回数を設けるのが好適である。
Further, as another determination method in the branching
画像修正部17は、境界領域において、元の参照画像d,b,aと予測画像xとの間に交流的な連続性をもたせるために、制御部19の指示に基づき、分岐部16から入力される画像を修正する。高次の直交変換係数の絶対値を元の値よりも小さい値に修正して逆直交変換を行うことにより、参照ブロックD,B,Aと予測ブロックXとの境界領域における画素値の不連続性が緩和されるが、参照ブロックD,B,Aの画素値は元の値から変化している。そのため、例えば、図2(c)に示すように、参照ブロックD,B,A内のうち、予測ブロックXに隣接する画像修正領域Gの画素値を、参照ブロックD,B,Aの元の画素値に修正する。画像修正領域G内の画素数gは、1≦g≦k×m+l×m+k×nである。そして、画素値を修正した後の処理ブロックPを直交変換部13に出力する。
The
画像修正部17は、繰り返し処理によりn回目の処理を行う場合には、参照ブロックD,B,Aのうち、gn個の画素からなる画像修正領域Gを元の画素値に修正する。ここで、参照画像d,b,aが演算により変化した場合には元の値に修正するという制約条件を徐々に緩和させるために、処理を繰り返すごとに、繰り返し後の画像修正領域Gの面積を繰り返し前の面積以下とし、g1≧g2≧…≧gnとするのが好適である。
予測画像抽出部18は、分岐部16から入力される画像に対し、予測ブロックXの領域の画像を抽出し、イントラ予測の予測画像とする。
The predicted
参照画像分析部10は、入力される参照画像d,b,aの周波数を分析し、判定信号を制御部19に出力する。
The reference
図3は、イントラ予測装置1の参照画像分析に基づく制御に係る構成を示すブロック図であり、参照画像分析部10の構成と、制御部19の一部の構成が示されている。参照画像分析部10は、直交変換部101(101−A,101−B,101−D)と、高周波抽出部102(102−A,102−B,102−D)と、電力算出部103と、電力判定部104とを備える。
FIG. 3 is a block diagram illustrating a configuration relating to control based on reference image analysis of the
直交変換部101−Aは、参照画像aの直交変換を行い、導出した直交変換係数を高周波抽出部102−Aに出力する。同様に、直交変換部101−Bは、参照画像bの直交変換を行い、導出した直交変換係数を高周波抽出部102−Bに出力し、直交変換部101−Dは、参照画像dの直交変換を行い、導出した直交変換係数を高周波抽出部102−Dに出力する。 The orthogonal transform unit 101-A performs orthogonal transform of the reference image a, and outputs the derived orthogonal transform coefficient to the high frequency extraction unit 102-A. Similarly, the orthogonal transform unit 101-B performs orthogonal transform of the reference image b, outputs the derived orthogonal transform coefficient to the high frequency extraction unit 102-B, and the orthogonal transform unit 101-D performs orthogonal transform of the reference image d. And the derived orthogonal transform coefficient is output to the high frequency extraction unit 102-D.
高周波抽出部102−Aは、直交変換部101−Aから入力される直交変換係数から高周波成分を抽出し、電力算出部103に出力する。同様に、高周波抽出部102−Bは、直交変換部101−Bから入力される直交変換係数から高周波成分を抽出して電力算出部103に出力し、高周波抽出部102−Dは、直交変換部101−Dから入力される直交変換係数から高周波成分を抽出して電力算出部103に出力する。参照ブロックA,B,D、及び予測ブロックXの各ブロック大きさが一致しない場合には、演算にあたって正規化処理を行う。ここで、高周波成分とは、一定の周波数より高い成分の直交変換係数の値に限定されるものではなく、画像の高周波成分を表す指標となるものであればよい。例えば、様々な周波数成分の直交変換係数を予め設定した方法により加重加算した値としてもよい。
The high frequency extraction unit 102 -A extracts a high frequency component from the orthogonal transformation coefficient input from the orthogonal transformation unit 101 -A and outputs the high frequency component to the
電力算出部103は、高周波抽出部102−A,102−B,102−Dから入力される高周波成分を加算、0を除く値の積算、又は加重加算等により、参照画像d,b,a全体の高周波成分の電力(パワー)を導出し、電力判定部104に出力する。
The
電力判定部104は、電力算出部103から入力される参照画像a,b,d全体の高周波成分の大きさを閾値と比較して判定し、判定信号を制御部19に出力する。閾値は複数設けてもよく、判定信号は、例えば閾値が1つの場合には電力の大きさを大小の2段階で示す1bitの信号であり、閾値が2つの場合には電力の大きさを大中小の3段階で示す2bitの信号である。
The power determination unit 104 determines the magnitude of the high frequency components of the entire reference images a, b, and d input from the
なお、直交変換部101及び高周波抽出部102の代わりに、ハイパスフィルタ、又はハイパスフィルタとバンドパスフィルタとローパスフィルタとを組み合わせたフィルタにより、高周波成分の抽出を行うことも可能である。
Instead of the
制御部19は、予測画像xの初期値を規定するパラメータ(初期値を平均値とするか又はMPEG4 AVC/H.264方式によるイントラ予測結果とするかなど)を予測画像初期値設定部11に出力し、参照ブロックD,B,A及び予測ブロックXの領域を規定するパラメータ(k,l,m,n)を処理ブロック生成部12に出力し、係数修正領域Hを規定するパラメータ(Hのサイズ)及び直交変換係数の修正値を規定するパラメータを係数修正部14に出力し、繰り返し処理を規定するパラメータ(繰り返し回数及び/又は参照ブロックの差分値の閾値)を分岐部16に出力し、画像修正領域Gを規定するパラメータ(Gのサイズ)を画像修正部17に出力する。また、設定した制御パラメータを制御パラメータ伝送部20に出力する。
The
図3を参照するに、制御部19は、係数修正領域制御部191と、画像修正領域制御部192とを備える。係数修正領域制御部191は、電力判定部104から入力される判定信号に基づいて、係数修正領域Hを規定するパラメータ(Hのサイズ)を決定し、係数修正部14に出力する。参照ブロックD,B,Aの高周波電力が小さい場合には、処理ブロックPの高周波電力も小さく、高周波成分は参照画像d,b,aと予測画像xとの不連続に起因するものが主であると考えられる。したがって、係数修正領域制御部191は、参照ブロックD,B,Aの高周波電力が小さい場合には、高周波電力が大きい場合と比較して、係数修正領域Hを大きくするようにパラメータを決定する。
Referring to FIG. 3, the
画像修正領域制御部192は、電力判定部104から入力される判定信号に基づいて、画像修正領域Gを規定するパラメータ(Gのサイズ)を決定し、画像修正部17に出力する。参照ブロックD,B,Aの高周波電力が小さい場合には、処理ブロックP内では絵柄の変化が少ないと考えられる。したがって、画像修正領域制御部192は、参照ブロックD,B,Aの高周波電力が小さい場合には、高周波電力が大きい場合と比較して、画像修正領域Gを大きくするようにパラメータを決定する。
The image correction
例えば、係数修正領域制御部191は、判定信号が電力の大きさをn段階で示す信号であるとき、係数修正領域Hを規定するパラメータを予めn種類用意しておき、電力が小さいほど係数修正領域Hを大きいサイズとするパラメータを選択する。同様に、画像修正領域制御部192は、画像修正領域Gを規定するパラメータを予めn種類用意しておき、電力が小さいほど画像修正領域Gを大きいサイズとするパラメータを選択する。
For example, when the determination signal is a signal indicating the magnitude of power in n stages, the coefficient correction
ここで、パラメータは係数修正領域Hや画像修正領域Gのサイズそのものでなく、予め繰り返し回数ごとに設定された標準のサイズに対する増減値としてもよい。また、電力が大きいほど、係数修正領域Hや画像修正領域Gの繰り返しごとに減少させる量が大きくなるようにパラメータを決定してもよい。 Here, the parameter is not limited to the size of the coefficient correction area H or the image correction area G, but may be an increase / decrease value with respect to a standard size set for each repetition count. Alternatively, the parameter may be determined such that the larger the power, the larger the amount to be reduced for each repetition of the coefficient correction area H and the image correction area G.
なお、参照画像分析部10において、周波数を高周波とそれ以外という2段階に区別して分析を行う例について説明したが、周波数を複数段階に区別して分析を行うようにしてもよい。また、高周波の電力が所定の閾値以上である場合には、係数修正領域H及び/又は画像修正領域Gを設定しないようにしてもよい。
In addition, although the reference
制御パラメータ伝送部20は、制御部19から入力される制御パラメータを外部に伝送する。また、上述したように、予測画像初期値設定部11が従来のMPEG4 AVC/H.264方式によるイントラ予測の結果を予測画像xの初期値とする場合には、従来のイントラ予測モードもパラメータ情報として伝送する必要がある。なお、予測画像xの初期値を規定するパラメータ、参照ブロックD,B,A及び予測ブロックXの領域を規定するパラメータ、繰り返し処理を規定するパラメータを固定値とする場合には、これらのパラメータを伝送する必要がなく、制御パラメータ伝送部20は不要となる。
The control
図4は、本発明による実施例1の復号側のイントラ予測装置1’の構成を示すブロック図である。復号側のイントラ予測装置1’は、符号化側のイントラ予測装置1と比較して、制御パラメータ伝送部20を備えず、制御パラメータ受信部21を備える点が相違する。
FIG. 4 is a block diagram illustrating a configuration of the decoding-side
制御パラメータ受信部21は、符号化側のイントラ予測装置1の制御パラメータ伝送部20から制御パラメータを受信し、受信した制御パラメータを制御部19に出力する。制御部19は、制御パラメータ受信部21入力される制御パラメータ及び参照画像分析部10から入力される判定信号に基づいて決定したパラメータを、予測画像初期値設定部11、処理ブロック生成部12、係数修正部14、分岐部16、及び画像修正部17に設定する。なお、予測画像xの初期値を規定するパラメータ、参照ブロックD,B,A及び予測ブロックXの領域を規定するパラメータ、繰り返し処理を規定するパラメータを固定値とする場合には、制御パラメータ受信部21は不要となる。その他の各処理部における処理は、符号化側のイントラ装置1と同様であるため、説明を省略する。
The control
復号側のイントラ予測装置1’においても、符号化側のイントラ予測装置1と同様に、参照画像分析部10により参照画像を分析するため、符号化側からの伝送情報量を増加させることなく、画像に適したパラメータ設定を行うことができる。
Even in the
[イントラ予測装置の動作]
次に、イントラ予測装置の動作を、図5を参照して説明する。図5は、本発明による実施例1のイントラ予測装置1(1’)の動作を示すフローチャートである。
[Operation of intra prediction device]
Next, the operation of the intra prediction apparatus will be described with reference to FIG. FIG. 5 is a flowchart showing the operation of the intra prediction apparatus 1 (1 ′) according to the first embodiment of the present invention.
ステップS101にて、参照画像分析部10により、入力される参照画像d,b,aの周波数を分析する。
In step S101, the reference
ステップS102にて、予測画像初期値設定部11により、予測画像xの初期値を求め、予測ブロックXに設定する。 In step S102, the predicted image initial value setting unit 11 obtains an initial value of the predicted image x and sets it to the predicted block X.
ステップS103にて、処理ブロック生成部12により、参照ブロックD,B,Aと、初期値が設定された予測ブロックXとからなる処理ブロックPを生成する。
In step S103, the processing
ステップS104にて、直交変換部13により、ステップS103で生成した処理ブロックPの画像に対して直交変換を行い、直交変換係数を導出する。
In step S104, the
ステップS105にて、係数修正部14により、ステップS104で導出した直交変換係数のうち、最高次のものから順にh個の直交変換係数を0に修正する。
In step S105, the
ステップS106にて、逆直交変換部15により、ステップS105で修正した直交変換係数に対して逆直交変換を行い、画像を生成する。
In step S106, the inverse
ステップS107にて、分岐部16により、ステップS104からステップS106の処理が所定回数繰り返して行われたか否かを判定する。繰り返しが所定回数に達していないと判定した場合には処理をステップS108に進め、繰り返しが所定回数に達していると判定した場合には処理をステップS109に進める。なお、判定方法は、上述したように閾値を判定する方法であってもよい。
In step S107, the branching
ステップS108にて、画像修正部17により、ステップS106で生成した画像に対して、参照ブロックD,B,Aのうち予測ブロックXに隣接するg個の画素値を、元の参照画素値に修正し、処理をステップS103に戻す。
In step S108, the
ステップS109にて、予測画像抽出部18により、ステップS106で生成した画像に対して、予測ブロックXの領域の画像を抽出して予測画像を生成する。
In step S109, the predicted
[符号化器及び復号器]
図6は、本発明による実施例1のイントラ予測装置1を備える符号化器2の構成を示すブロック図である。符号器2は、従来のMPEG4 AVC/H.264方式の符号器(図9参照)におけるイントラ予測部に代えて、本発明によるイントラ予測装置1を備える。イントラ予測装置1は、逆量子化部35及び逆直交変換部36を経て既符号化ブロックを復号した画像を参照画像分析部10、予測画像初期値設定部11、処理ブロック生成部12、及び画像修正部17に入力し、生成した予測画像xを切替えスイッチ37を介して減算部31及び加算部41に出力する。制御パラメータ伝送部20は、設定した制御パラメータを可変長符号化部34に出力する。
[Encoder and decoder]
FIG. 6 is a block diagram illustrating a configuration of the encoder 2 including the
図7は、本発明による実施例1の復号側のイントラ予測装置1’を備える復号器3の構成を示すブロック図である。復号器3は、可変長復号部51と、逆量子化部52と、逆直交変換部53と、加算部54と、イントラ予測装置1’と、フレームメモリ55と、動き補償予測部56と、切替えスイッチ57とを備える。復号器3は、従来のMPEG4 AVC/H.264方式の復号器のイントラ予測部に代えて、本発明によるイントラ予測装置1’を備える。
FIG. 7 is a block diagram illustrating a configuration of the decoder 3 including the decoding-side
可変長復号部51は、フレーム間予測で符号化されたビットストリームを入力して、可変長復号処理を施し逆量子化部52に出力するとともに、動きベクトルの情報を復号して動き補償予測部56に出力する。さらに、符号化器側から制御パラメータ情報が伝送された場合には、制御パラメータ情報を復号して制御パラメータ受信部21に出力する。
The variable length decoding unit 51 receives a bit stream encoded by inter-frame prediction, performs variable length decoding processing, outputs the bit stream to the
逆量子化部52は、可変長復号部51から入力される量子化された直交変換係数に対して逆量子化処理を施して、動き補償した差分画像の直交変換係数を取得し、逆直交変換部53に出力する。
The
逆直交変換部53は、逆量子化部52から入力される差分画像の直交変換係数に対して、逆直交変換(例えば、IDCT)を施し、得られる当該差分画像を加算部54に出力する。
The inverse orthogonal transform unit 53 performs inverse orthogonal transform (for example, IDCT) on the orthogonal transform coefficient of the difference image input from the
加算部54は、逆直交変換部53から得られる当該差分画像と、動き補償予測部56から入力される予測画像又はイントラ予測装置1’から入力される予測画像xとを加算して画像を復元し、イントラ予測装置1、フレームメモリ55、及び外部に出力する。
The adding
動き補償予測部56は、フレームメモリ55から得られる参照画像と可変長復号部51から得られる動きベクトルとを用いて予測画像を生成し、切替えスイッチ57を介して加算部54に出力する。
The motion
イントラ予測装置1’は、逆量子化部52及び逆直交変換部53を経て復号した画像を入力し、上述したように、予測画像初期値設定部11、処理ブロック生成部12、直交変換部13、係数修正部14、逆直交変換部15、分岐部16、画像修正部17、予測画像抽出部18、及び制御部19により予測画像xを生成し、この予測画像xを切替えスイッチ57を介して加算部54に出力する。
The
このように、実施例1のイントラ予測装置1によれば、参照画像d,b,aの電力を推定し、推定結果に基づいて係数修正領域Hのサイズ、及び画像修正領域Gのサイズを設定することにより、参照画像d,b,aの周波数特性に応じた予測画像xを生成することができるようになる。
Thus, according to the
次に、本発明による実施例2のイントラ予測装置1について説明する。実施例1と同じ構成要素には同一の参照番号を付して説明を省略する。実施例2のイントラ予測装置1は、実施例1のイントラ予測装置1と比較して、参照画像分析部10の処理と、制御部19の参照画像分析部10から入力される信号に基づく処理のみが相違する。
Next, the
図8は、実施例2のイントラ予測装置1の参照画像分析に基づく制御に係る構成を示すブロック図であり、参照画像分析部10の構成と、制御部19の一部の構成が示されている。参照画像分析部10は、直交変換部101(101−A,101−B,101−D)と、高周波抽出部102(102−A,102−B,102−D)と、水平高周波推定部105と、垂直高周波推定部106とを備える。
FIG. 8 is a block diagram illustrating a configuration related to control based on reference image analysis of the
直交変換部101−Aは、参照画像aの直交変換係数を高周波抽出部102−Aに出力し、直交変換部101−Bは参照画像bの直交変換係数を高周波抽出部102−Bに出力し、直交変換部101−Dは、参照画像dの直交変換係数を高周波抽出部102−Dに出力する。 The orthogonal transform unit 101-A outputs the orthogonal transform coefficient of the reference image a to the high frequency extraction unit 102-A, and the orthogonal transform unit 101-B outputs the orthogonal transform coefficient of the reference image b to the high frequency extraction unit 102-B. The orthogonal transform unit 101-D outputs the orthogonal transform coefficient of the reference image d to the high frequency extraction unit 102-D.
高周波抽出部102−Aは、直交変換部101−Aから入力される直交変換係数から高周波成分を抽出し、水平方向の高周波成分(水平高周波成分)PAHを水平高周波推定部105に出力し、垂直方向の高周波成分(垂直高周波成分)PAVを垂直高周波推定部106に出力する。高周波抽出部102−Bは、直交変換部101−Bから入力される直交変換係数から高周波成分を抽出し、水平高周波成分PBHを水平高周波推定部105に出力し、垂直高周波成分PBVを垂直高周波推定部106に出力する。高周波抽出部102−Dは、直交変換部101−Dから入力される直交変換係数から高周波成分を抽出し、水平高周波成分PDHを水平高周波推定部105に出力し、垂直高周波成分PDVを垂直高周波推定部106に出力する。ここで、高周波成分とは、一定の周波数より高い成分の直交変換係数の値に限定されるものではなく、画像の高周波成分を表す指標となるものであればよい。例えば、様々な周波数成分の直交変換係数を予め設定した方法により加重加算した値としてもよい。
The high frequency extraction unit 102-A extracts a high frequency component from the orthogonal transformation coefficient input from the orthogonal transformation unit 101-A, and outputs a horizontal high frequency component (horizontal high frequency component) PAH to the horizontal high
水平高周波推定部105は、高周波抽出部102−A,102−B,102−Dから入力される水平高周波成分PAH,PBH,PDHに基づいて、予測ブロックXの水平高周波推定量PXHを算出し、制御部19へ出力する。参照ブロックAと予測ブロックXは水平方向に隣接しており、予測ブロックXの水平方向の性質は参照ブロックAによって推定するのが適切である。さらに、参照ブロックDと参照ブロックBの関係から参照ブロックAと予測ブロックXの関係を推定することもできる。例えば、参照ブロックD及び参照ブロックAともに水平高周波成分が大きい場合でも、参照ブロックBが参照ブロックDに比べて高周波成分が小さい場合、予測ブロックXも参照ブロックAに比べて高周波成分が小さくなることが推定される。よって、水平高周波推定量PXHを、例えば次式(1)により算出する。
PXH=PAH+α×(PBH−PDH) (1)
ここで、αは任意に設定できる係数であり、例えば、α=PAH/PDHや、α=1とする。
The horizontal
P XH = P AH + α × (P BH −P DH ) (1)
Here, α is a coefficient that can be arbitrarily set. For example, α = P AH / P DH or α = 1.
同様に、垂直高周波推定部106は、高周波抽出部102−A,102−B,102−Dから入力される垂直高周波成分PAV,PBV,PDVに基づいて、予測ブロックXの垂直高周波推定量PXVを、例えば次式(2)により算出し、制御部19へ出力する。
PXV=PBV+β×(PAV−PDV) (2)
ここで、βは任意に設定できる係数であり、例えば、β=PBV/PDVや、β=1とする。
Similarly, the vertical high
P XV = P BV + β × (P AV −P DV ) (2)
Here, β is a coefficient that can be arbitrarily set. For example, β = P BV / P DV or β = 1.
なお、直交変換部101及び高周波抽出部102の代わりに、ハイパスフィルタ、又はハイパスフィルタとバンドパスフィルタとローパスフィルタとを組み合わせたフィルタにより、高周波成分の抽出を行うことも可能である。
Instead of the
係数修正領域制御部191は、水平高周波推定部105から入力される水平高周波推定量PXH及び垂直高周波推定部106から入力される垂直高周波推定量PXVに基づいて、係数修正領域Hを規定するパラメータ(Hのサイズ)を決定し、係数修正部14に出力する。水平高周波推定量PXHが小さい場合には、予測ブロックXの水平方向の相関は高いと推定できる。よって、係数修正領域制御部191は、係数修正領域Hの水平方向の幅を規定するパラメータを予め複数種類用意しておき、水平高周波推定量PXHが小さいほど、係数修正領域Hの水平方向の幅を長くするパラメータを選択する。また、垂直高周波推定量PXVが小さい場合には、予測ブロックXの垂直方向の相関は高いと推定できる。よって、係数修正領域制御部191は、係数修正領域Hの垂直方向の長さを規定するパラメータを予め複数種類用意しておき、垂直高周波推定量PXVが小さいほど、係数修正領域Hの垂直方向の長さを長くするパラメータを選択する。
The coefficient correction
画像修正領域制御部192は、水平高周波推定部105から入力される水平高周波推定量PXH及び垂直高周波推定部106から入力される垂直高周波推定量PXVに基づいて、画像修正領域Gを規定するパラメータ(Gのサイズ)を決定し、画像修正部17に出力する。水平高周波推定量PXHが小さい場合には、隣接する参照ブロックD,B,Aの水平方向の相関も高いと推定できる。よって、画像修正領域制御部192は、画像修正領域Gの水平方向の幅を規定するパラメータを予め複数種類用意しておき、水平高周波推定量PXHが小さいほど、画像修正領域Gの水平方向の幅を長くするパラメータを選択する。また、垂直高周波推定量PXVが小さい場合には、隣接する参照ブロックD,B,Aの垂直方向の相関も高いと推定できる。よって、画像修正領域制御部192は、画像修正領域Gの垂直方向の長さを規定するパラメータを予め複数種類用意しておき、垂直高周波推定量PXVが小さいほど、画像修正領域Gの垂直方向の長さを長くするパラメータを選択する。
The image correction
なお、パラメータは係数修正領域Hや画像修正領域Gのサイズそのものでなく、予め繰り返し回数ごとに設定された標準のサイズに対する増減値としてもよい。また、水平高周波成分PXHが大きいほど、係数修正領域Hの水平方向の幅及び画像修正領域Gの水平方向の幅の繰り返しごとに減少させる量が大きくなるようにパラメータを決定し、垂直高周波成分PXVが大きいほど、係数修正領域Hの垂直方向の長さ及び画像修正領域Gの垂直方向の長さの繰り返しごとに減少させる量が大きくなるようにパラメータを決定してもよい。また、水平高周波成分PXH及び垂直高周波成分PXVが所定の閾値以上である場合には、係数修正領域Hを設定しない、すなわち直交変換係数を修正しないようにしてもよい。 Note that the parameter may not be the size itself of the coefficient correction area H or the image correction area G, but may be an increase / decrease value with respect to the standard size set for each repetition count. The parameter is determined such that the larger the horizontal high-frequency component PXH is, the larger the amount to be reduced for each repetition of the horizontal width of the coefficient correction area H and the horizontal width of the image correction area G is determined. The parameter may be determined such that the larger the value P XV is, the larger the amount of reduction is repeated for each repetition of the vertical length of the coefficient correction area H and the vertical length of the image correction area G. Further, when the horizontal high-frequency component P XH and the vertical high-frequency component P XV are equal to or greater than a predetermined threshold value, the coefficient correction region H may not be set, that is, the orthogonal transform coefficient may not be corrected.
このように、実施例2のイントラ予測装置1によれば、参照画像d,b,aの水平方向の電力と垂直方向の電力を推定し、推定結果に基づいて係数修正領域Hの水平方向の幅と垂直方向の長さ、及び画像修正領域Gの水平方向の幅と垂直方向の長さを設定することにより、参照画像d,b,aの周波数特性に応じたより最適な予測画像xを生成することができるようになる。
As described above, according to the
ここで、符号化側のイントラ予測装置1として機能させるために、コンピュータを好適に用いることができ、コンピュータに、CPUによって所定のプログラムを実行させることにより、参照画像分析部10と、予測画像初期値設定部11と、処理ブロック生成部12と、直交変換部13と、係数修正部14と、逆直交変換部15と、分岐部16と、画像修正部17と、予測画像抽出部18と、制御部19と、制御パラメータ伝送部20の有する機能を実現させることができる。
Here, in order to function as the
同様に、復号側のイントラ予測装置1’として機能させるために、コンピュータを好適に用いることができ、コンピュータに、CPUによって所定のプログラムを実行させることにより、予測画像初期値設定部11と、処理ブロック生成部12と、直交変換部13と、係数修正部14と、逆直交変換部15と、分岐部16と、画像修正部17と、予測画像抽出部18と、制御部19と、制御パラメータ受信部21の有する機能を実現させることができる。
Similarly, in order to function as the
同様に、符号化器2として機能させるために、コンピュータを好適に用いることができ、コンピュータに、CPUによって所定のプログラムを実行させることにより、符号側のイントラ予装置1と、減算部31と、直交変換部32と、量子化部33と、可変長符号化部34と、逆量子化部35と、逆直交変換部36と、切替えスイッチ37とフレームメモリ39と、動き補償予測部40と、加算部41の有する機能を実現させることができる。
Similarly, in order to function as the encoder 2, a computer can be suitably used. By causing the computer to execute a predetermined program by the CPU, the code-side
同様に、復号器3として機能させるために、コンピュータを好適に用いることができ、コンピュータに、CPUによって所定のプログラムを実行させることにより、復号側のイントラ予測装置1と、可変長復号部51と、逆量子化部52と、逆直交変換部53と、加算部54と、フレームメモリ55と、動き補償予測部56と、切替えスイッチ57の有する各機能を実現させることができる。
Similarly, in order to function as the decoder 3, a computer can be suitably used. By causing the computer to execute a predetermined program, the
上述の実施例は、代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。従って、本発明は、上述の実施例によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、イントラ予測を行う際に、画像に応じて上述した方式による予測と従来のMPEG−4 AVC/H.264方式による予測とを切替える、又は両方式による予測画像を生成して符号化効率の良い予測画像を判定して出力するようにしてもよい。 Although the above embodiments have been described as representative examples, it will be apparent to those skilled in the art that many changes and substitutions can be made within the spirit and scope of the invention. Therefore, the present invention should not be construed as being limited by the above-described embodiments, and various modifications and changes can be made without departing from the scope of the claims. For example, when performing intra prediction, prediction based on the above-described method and conventional MPEG-4 AVC / H. The prediction by the H.264 system may be switched, or a prediction image by both methods may be generated to determine and output a prediction image with good coding efficiency.
このように、本発明によれば、様々な画像に対して適したイントラ予測が可能となるので、画像を符号化又は復号する任意の用途に有用である。 As described above, according to the present invention, it is possible to perform intra prediction suitable for various images, which is useful for any application for encoding or decoding an image.
1,1’ イントラ予測装置
10 参照画像分析部
11 予測画像初期値設定部
12 処理ブロック生成部
13 直交変換部
14 係数修正部
15 逆直交変換部
16 分岐部
17 画像修正部
18 予測画像抽出部
19 制御部
20 制御パラメータ伝送部
21 制御パラメータ受信部
101−A,101−B,101−D 直交変換部
102−A,102−B,102−D 高周波抽出部
103 電力算出部
104 電力判定部
105 水平高周波推定部
106 垂直高周波推定部
191 係数修正領域制御部
192 画像修正領域制御部
2 符号化器
3 復号器
1, 1 ′
Claims (9)
予測画像の初期値を予測ブロックに設定する予測画像初期値設定部と、
参照ブロックと前記初期値が設定された予測ブロックからなる処理ブロックを生成する処理ブロック生成部と、
前記処理ブロックの画像に対して直交変換を行って直交変換係数を生成する直交変換部と、
前記直交変換部によって生成された直交変換係数の絶対値を、高周波領域において元の値よりも小さい値に修正する係数修正部と、
前記修正された直交変換係数に対して逆直交変換を行って画像を生成する逆直交変換部と、
前記逆直交変換部によって生成された画像のうち、前記参照ブロック内の画像領域を元の復号済みの画像の画素値に修正し、該修正した画像を前記直交変換部に供給する画像修正部と、
前記逆直交変換部によって生成された画像から予測ブロックの画像を抽出して予測画像を生成する予測画像抽出部と、
前記画像修正部、前記直交変換部、前記係数修正部、及び前記逆直交変換部による一連の処理の繰り返しを終了する所定の条件を満たすか否かを判定し、該所定の条件を満たしていないと判定した場合には、該一連の処理を繰り返し実行させるために前記逆直交変換部によって生成された画像を前記画像修正部に供給し、該所定の条件を満たしていると判定した場合には、該一連の処理の繰り返しを終了して前記逆直交変換部によって生成された画像を前記予測画像抽出部に供給する分岐部と、
前記参照ブロックの画像の周波数を分析する参照画像分析部と、
前記参照画像分析部によって得られた分析結果に基づいて、前記係数修正部が直交変換係数を修正する高周波領域、又は前記画像修正部が画素値を修正する画像領域の少なくとも一方を決定する制御部と、
を備えることを特徴とするイントラ予測装置。 An intra prediction device that generates a prediction image of a prediction block from an image of a decoded reference block adjacent to the prediction block,
A predicted image initial value setting unit that sets an initial value of the predicted image in a predicted block;
A processing block generation unit that generates a processing block including a reference block and a prediction block in which the initial value is set;
An orthogonal transform unit that performs orthogonal transform on the image of the processing block to generate an orthogonal transform coefficient;
A coefficient correction unit that corrects the absolute value of the orthogonal transform coefficient generated by the orthogonal transform unit to a value smaller than the original value in a high-frequency region;
An inverse orthogonal transform unit that generates an image by performing inverse orthogonal transform on the modified orthogonal transform coefficient;
An image correcting unit that corrects an image area in the reference block of the image generated by the inverse orthogonal transform unit to a pixel value of an original decoded image, and supplies the corrected image to the orthogonal transform unit; ,
A predicted image extraction unit that extracts a predicted block image from the image generated by the inverse orthogonal transform unit and generates a predicted image;
It is determined whether or not a predetermined condition for ending the repetition of a series of processes by the image correction unit, the orthogonal transform unit, the coefficient correction unit, and the inverse orthogonal transform unit is satisfied, and the predetermined condition is not satisfied In the case where it is determined that the image generated by the inverse orthogonal transform unit is supplied to the image correction unit in order to repeatedly execute the series of processing, and it is determined that the predetermined condition is satisfied A branching unit that finishes repeating the series of processes and supplies the image generated by the inverse orthogonal transform unit to the predicted image extraction unit;
A reference image analysis unit for analyzing the frequency of the image of the reference block;
A control unit that determines at least one of a high-frequency region in which the coefficient correction unit corrects an orthogonal transform coefficient, or an image region in which the image correction unit corrects a pixel value, based on an analysis result obtained by the reference image analysis unit. When,
An intra prediction apparatus comprising:
前記制御部は、前記導出したパワーが小さいほど、前記係数修正部が直交変換係数を修正する高周波領域、又は前記画像修正部が画素値を修正する画像領域の少なくとも一方が大きくなるように決定する
ことを特徴とする、請求項1に記載のイントラ予測装置。 The reference image analysis unit derives the power of the high frequency component of the reference block,
The control unit determines that at least one of a high-frequency region in which the coefficient correction unit corrects an orthogonal transform coefficient or an image region in which the image correction unit corrects a pixel value increases as the derived power decreases. The intra prediction apparatus according to claim 1, wherein:
前記制御部は、前記導出した水平方向の高周波成分のパワーが小さいほど、前記係数修正部が直交変換係数を修正する高周波領域の水平方向の幅、又は前記画像修正部が画素値を修正する画像領域の水平方向の幅の少なくとも一方が長くなるように決定し、かつ、前記導出した垂直方向の高周波成分のパワーが小さいほど、前記係数修正部が直交変換係数を修正する高周波領域の垂直方向の長さ、又は前記画像修正部が画素値を修正する画像領域の垂直方向の長さの少なくとも一方が長くなるように決定する
ことを特徴とする、請求項1に記載のイントラ予測装置。 The reference image analysis unit derives the power of the high-frequency component in the horizontal direction and the power of the high-frequency component in the vertical direction of the reference block,
As the power of the derived horizontal high-frequency component is smaller, the control unit has a horizontal width of a high-frequency region in which the coefficient correction unit corrects an orthogonal transform coefficient, or an image in which the image correction unit corrects a pixel value. It is determined that at least one of the horizontal widths of the region is long and the power of the derived vertical high-frequency component is small, the coefficient correction unit corrects the orthogonal transform coefficient in the vertical direction of the high-frequency region. The intra prediction apparatus according to claim 1, wherein at least one of a length or a length in a vertical direction of an image region whose pixel value is corrected by the image correction unit is determined to be longer.
(a)参照ブロックの画像の周波数を分析するステップと、
(b)予測画像の初期値を予測ブロックに設定するステップと、
(c)前記参照ブロックと前記初期値が設定された予測ブロックからなる処理ブロックを生成するステップと、
(d)前記処理ブロックの画像に対して直交変換を行って直交変換係数を生成するステップと、
(e)前記ステップ(d)によって生成された直交変換係数の絶対値を、高周波領域において元の値よりも小さい値に修正するステップと、
(f)前記ステップ(e)によって修正された直交変換係数に対して逆直交変換を行って画像を生成するステップと、
(g)前記ステップ(d)からステップ(f)の一連の処理の繰り返しを終了する所定の条件を満たすか否かを判定するステップと、
(h)前記ステップ(g)により、前記所定の条件を満たしていないと判定した場合には、前記ステップ(f)によって生成された画像のうち、前記参照ブロック内の画像領域を元の復号済みの画像の画素値に修正し、前記ステップ(d)から当該ステップ(g)を繰り返し行うステップと、
(i)前記ステップ(g)により、前記所定の条件を満たしていると判定した場合には、前記一連の処理の繰り返しを終了して前記ステップ(f)によって生成された画像から予測ブロックの画像を抽出して予測画像を生成するステップと、
(j)前記ステップ(a)によって得られた分析結果に基づいて、前記ステップ(e)における直交変換係数を修正する高周波領域、又は前記ステップ(h)における画素値を修正する画像領域の少なくとも一方を決定するステップと、
を実行させるためのプログラム。 A computer functioning as an intra prediction device that generates a predicted image of a prediction block from an image of a decoded reference block adjacent to the prediction block,
(A) analyzing the frequency of the image of the reference block;
(B) setting an initial value of the predicted image in the predicted block;
(C) generating a processing block including the reference block and a prediction block in which the initial value is set;
(D) performing orthogonal transform on the image of the processing block to generate orthogonal transform coefficients;
(E) correcting the absolute value of the orthogonal transform coefficient generated by the step (d) to a value smaller than the original value in a high-frequency region;
(F) performing an inverse orthogonal transform on the orthogonal transform coefficient modified in the step (e) to generate an image;
(G) determining whether or not a predetermined condition for ending the repetition of a series of processes from step (d) to step (f) is satisfied;
(H) If it is determined in step (g) that the predetermined condition is not satisfied, among the images generated in step (f), an image area in the reference block is already decoded. Correcting the pixel value of the image of step (d) and repeating step (g) from step (d);
(I) When it is determined in step (g) that the predetermined condition is satisfied, the series of processing is terminated and the predicted block image is generated from the image generated in step (f). Extracting a prediction image to generate a prediction image;
(J) Based on the analysis result obtained in step (a), at least one of a high-frequency region for correcting the orthogonal transform coefficient in step (e) and an image region for correcting the pixel value in step (h) A step of determining
A program for running
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010267122A JP5509048B2 (en) | 2010-11-30 | 2010-11-30 | Intra prediction apparatus, encoder, decoder, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010267122A JP5509048B2 (en) | 2010-11-30 | 2010-11-30 | Intra prediction apparatus, encoder, decoder, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012119893A JP2012119893A (en) | 2012-06-21 |
JP5509048B2 true JP5509048B2 (en) | 2014-06-04 |
Family
ID=46502262
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010267122A Expired - Fee Related JP5509048B2 (en) | 2010-11-30 | 2010-11-30 | Intra prediction apparatus, encoder, decoder, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5509048B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103916670B (en) * | 2013-01-07 | 2017-08-04 | 华为技术有限公司 | A kind of coding of image, coding/decoding method and device |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050117639A1 (en) * | 2003-10-24 | 2005-06-02 | Turaga Deepak S. | Optimal spatio-temporal transformations for reduction of quantization noise propagation effects |
JP5174062B2 (en) * | 2010-03-05 | 2013-04-03 | 日本放送協会 | Intra prediction apparatus, encoder, decoder, and program |
-
2010
- 2010-11-30 JP JP2010267122A patent/JP5509048B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2012119893A (en) | 2012-06-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CA2863170C (en) | Video decoder, video encoder, video decoding method, and video encoding method | |
JP5639687B2 (en) | Method and apparatus for encoding / decoding picture boundary coding unit | |
US20070098067A1 (en) | Method and apparatus for video encoding/decoding | |
EP2323407A1 (en) | Video image encoding method, video image decoding method, video image encoding apparatus, video image decoding apparatus, program and integrated circuit | |
KR101653039B1 (en) | An appratus for scaling a resoltion using decoding information and a method thereof | |
US9055302B2 (en) | Video encoder and video decoder | |
WO2014139394A1 (en) | Video coding method using at least evaluated visual quality and related video coding apparatus | |
JP2006140758A (en) | Method, apparatus and program for encoding moving image | |
US9094687B2 (en) | Video encoder and video decoder | |
JP2011523300A (en) | Method and system for simultaneous optimization of video coder and decoder | |
JP5133290B2 (en) | Video encoding apparatus and decoding apparatus | |
JP4937224B2 (en) | Image encoding device | |
JP2010130558A (en) | Video encoding apparatus and video encoding method | |
KR101623064B1 (en) | Video encoding device, video encoding method and video encoding program | |
JP2011166592A (en) | Image encoding device, and image decoding device | |
JP4824705B2 (en) | Image encoding method, image decoding method, image encoding device, image decoding device, image encoding program, image decoding program, and computer-readable recording medium recording these programs | |
CN103096064B (en) | Method for encoding and reconstructing a block of pixels and corresponding device | |
JP2011188129A (en) | Intra prediction apparatus, encoder, decoder, and program | |
JP5174062B2 (en) | Intra prediction apparatus, encoder, decoder, and program | |
JP2006304107A (en) | Coding device and program applied thereto | |
JP2006067302A (en) | Apparatus, method, and program for image encoding | |
JP5509048B2 (en) | Intra prediction apparatus, encoder, decoder, and program | |
JP5542636B2 (en) | Intra prediction apparatus, encoder, decoder, and program | |
JP5832263B2 (en) | Image coding apparatus and image coding method | |
JP6200220B2 (en) | Image processing apparatus, encoding apparatus, decoding apparatus, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130625 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140225 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140324 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5509048 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |