[go: up one dir, main page]

JP7550373B2 - Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program - Google Patents

Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program Download PDF

Info

Publication number
JP7550373B2
JP7550373B2 JP2023090936A JP2023090936A JP7550373B2 JP 7550373 B2 JP7550373 B2 JP 7550373B2 JP 2023090936 A JP2023090936 A JP 2023090936A JP 2023090936 A JP2023090936 A JP 2023090936A JP 7550373 B2 JP7550373 B2 JP 7550373B2
Authority
JP
Japan
Prior art keywords
blocks
luminance
image
chrominance
luminance signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023090936A
Other languages
Japanese (ja)
Other versions
JP2023101760A (en
Inventor
茂 福島
博哉 中村
徹 熊倉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Godo Kaisha IP Bridge 1
Original Assignee
Godo Kaisha IP Bridge 1
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2021141337A external-priority patent/JP2022019711A/en
Application filed by Godo Kaisha IP Bridge 1 filed Critical Godo Kaisha IP Bridge 1
Priority to JP2023090936A priority Critical patent/JP7550373B2/en
Publication of JP2023101760A publication Critical patent/JP2023101760A/en
Priority to JP2024139055A priority patent/JP2024161543A/en
Application granted granted Critical
Publication of JP7550373B2 publication Critical patent/JP7550373B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像をブロックに分割し、分割されたブロック単位で符号化及び復号化を行う技術に関する。 The present invention relates to a technology that divides an image into blocks and performs encoding and decoding on a block-by-block basis.

画像符号化及び復号化では、画像を所定数の画素の集合であるブロックに分割し、ブロック単位で符号化及び復号化を行う。適切なブロックの分割を行うことで画面内予測(イントラ予測)及び画面間予測(インター予測)の符号化効率が向上する。また、イントラ予測において、プライマリ信号の復号画像からセカンダリ信号を予測することで符号化効率が向上する。 In image encoding and decoding, an image is divided into blocks, which are collections of a certain number of pixels, and encoding and decoding are performed on a block-by-block basis. By dividing the blocks appropriately, the coding efficiency of intra-screen prediction (intra-prediction) and inter-screen prediction (inter-prediction) is improved. In intra-prediction, the coding efficiency is also improved by predicting the secondary signal from the decoded image of the primary signal.

特開2013-90015号公報JP 2013-90015 A

しかし、プライマリ信号の復号画像からセカンダリ信号を予測すると、処理量が増大するとともにプライマリ信号に対する処理とセカンダリ信号に対する処理の依存関係が発生し並列処理が難しくなる。 However, predicting the secondary signal from the decoded image of the primary signal increases the amount of processing and creates dependencies between the processing of the primary signal and the processing of the secondary signal, making parallel processing difficult.

本発明はこうした状況に鑑みてなされたものであり、その目的は、画像符号化及び復号化に適したブロック分割を行うことにより、符号化効率を向上させる技術を提供することにある。 The present invention was made in light of these circumstances, and its purpose is to provide a technology that improves coding efficiency by performing block division suitable for image coding and decoding.

上記課題を解決するために、本発明のある態様の画像符号化装置は、画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化装置であって、前記画像の輝度信号を所定サイズの矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割部と、前記画像の色差信号を所定サイズの矩形に分割して色差信号ブロックを生成する色差信号ブロック分割部と、輝度信号を予測する輝度信号予測部と、色差信号を予測する色差信号予測部とを含み、前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され、インター予測の場合には一緒に分割され、前記色差信号予測部は、復号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止する。 In order to solve the above problem, an image coding device according to one aspect of the present invention is an image coding device that divides an image into blocks and performs coding in units of the divided blocks, and includes a luminance signal block division unit that divides the luminance signal of the image into rectangles of a predetermined size to generate luminance signal blocks, a chrominance signal block division unit that divides the chrominance signal of the image into rectangles of a predetermined size to generate chrominance signal blocks, a luminance signal prediction unit that predicts the luminance signal, and a chrominance signal prediction unit that predicts the chrominance signal, wherein the luminance signal blocks and the chrominance signal blocks are divided independently in the case of intra prediction and are divided together in the case of inter prediction, and the chrominance signal prediction unit is capable of luminance-chrominance intra prediction that predicts the chrominance signal from the decoded luminance signal, and when the size of the luminance signal block is equal to or larger than a predetermined size, the use of the luminance-chrominance intra prediction is prohibited.

本発明の別の態様は、画像符号化方法である。この方法は、画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化方法であって、前記画像の輝度信号を所定サイズの矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、前記画像の色差信号を所定サイズの矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、輝度信号を予測する輝度信号予測ステップと、色差信号を予測する色差信号予測ステップとを含み、前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され、インター予測の場合には一緒に分割され、前記色差信号予測ステップは、復号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止する。 Another aspect of the present invention is an image coding method. This method is an image coding method for dividing an image into blocks and coding the divided blocks, and includes a luminance signal block division step of dividing the luminance signal of the image into rectangles of a predetermined size to generate luminance signal blocks, a chrominance signal block division step of dividing the chrominance signal of the image into rectangles of a predetermined size to generate chrominance signal blocks, a luminance signal prediction step of predicting the luminance signal, and a chrominance signal prediction step of predicting the chrominance signal, in which the luminance signal blocks and the chrominance signal blocks are divided independently in the case of intra prediction and are divided together in the case of inter prediction, and the chrominance signal prediction step is capable of luminance-chrominance intra prediction for predicting the chrominance signal from the decoded luminance signal, and when the size of the luminance signal block is equal to or larger than a predetermined size, the use of the luminance-chrominance intra prediction is prohibited.

本発明のさらに別の態様は、画像復号化装置である。この装置は、画像を分割したブロック単位で復号化を行う画像復号化装置であって、前記画像の輝度信号を所定サイズの矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割部と、前記画像の色差信号を所定サイズの矩形に分割して色差信号ブロックを生成する色差信号ブロック分割部と、輝度信号を予測する輝度信号予測部と、色差信号を予測する色差信号予測部とを含み、前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され、インター予測の場合には一緒に分割され、前記色差信号予測部は、復号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止する。 Yet another aspect of the present invention is an image decoding device. This device is an image decoding device that performs decoding in units of blocks obtained by dividing an image, and includes a luminance signal block division unit that divides the luminance signal of the image into rectangles of a predetermined size to generate luminance signal blocks, a chrominance signal block division unit that divides the chrominance signal of the image into rectangles of a predetermined size to generate chrominance signal blocks, a luminance signal prediction unit that predicts the luminance signal, and a chrominance signal prediction unit that predicts the chrominance signal, wherein the luminance signal blocks and the chrominance signal blocks are divided independently in the case of intra prediction and are divided together in the case of inter prediction, and the chrominance signal prediction unit is capable of luminance-chrominance intra prediction that predicts the chrominance signal from the decoded luminance signal, and when the size of the luminance signal block is equal to or larger than a predetermined size, the use of the luminance-chrominance intra prediction is prohibited.

本発明のさらに別の態様は、画像復号化方法である。この方法は、画像を分割したブロック単位で復号化を行う画像復号化方法であって、前記画像の輝度信号を所定サイズの矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、前記画像の色差信号を所定サイズの矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、輝度信号を予測する輝度信号予測ステップと、色差信号を予測する色差信号予測ステップとを含み、前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され、インター予測の場合には一緒に分割され、前記色差信号予測ステップは、復号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止する。 Yet another aspect of the present invention is an image decoding method. This method is an image decoding method for decoding an image in units of blocks obtained by dividing the image, and includes a luminance signal block division step of dividing the luminance signal of the image into rectangles of a predetermined size to generate luminance signal blocks, a chrominance signal block division step of dividing the chrominance signal of the image into rectangles of a predetermined size to generate chrominance signal blocks, a luminance signal prediction step of predicting the luminance signal, and a chrominance signal prediction step of predicting the chrominance signal, in which the luminance signal blocks and the chrominance signal blocks are divided independently in the case of intra prediction and are divided together in the case of inter prediction, and the chrominance signal prediction step is capable of luminance-chrominance intra prediction for predicting the chrominance signal from the decoded luminance signal, and when the size of the luminance signal block is equal to or larger than a predetermined size, the use of the luminance-chrominance intra prediction is prohibited.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。 In addition, any combination of the above components, and any transformation of the present invention into a method, device, system, recording medium, computer program, etc., are also valid aspects of the present invention.

本発明によれば、画像符号化及び復号化に適したブロック分割が可能になり、符号化効率を向上させ、処理量の少ない画像符号化及び復号化を提供することができる。 The present invention enables block division suitable for image encoding and decoding, improves encoding efficiency, and provides image encoding and decoding with a low processing load.

第1の実施の形態に係る画像符号化装置の構成図である。1 is a configuration diagram of an image encoding device according to a first embodiment. 第1の実施の形態に係る画像復号化装置の構成図である。FIG. 1 is a configuration diagram of an image decoding device according to a first embodiment. ツリーブロックへの分割及びツリーブロック内部の分割を説明するフローチャートである。11 is a flowchart illustrating division into tree blocks and division within tree blocks. 入力された画像をツリーブロックに分割する様子を示す図である。FIG. 13 is a diagram showing how an input image is divided into tree blocks. z-スキャンを説明する図である。FIG. 1 is a diagram illustrating z-scanning. ツリーブロックを水平かつ垂直方向に4分割した図である。This is a diagram showing a tree block divided into four horizontally and vertically. ツリーブロックを水平方向に2分割した図である。This is a diagram showing a tree block divided horizontally into two. ツリーブロックを垂直方向に2分割した図である。This is a diagram showing a tree block divided into two vertically. ツリーブロックを水平方向及び垂直方向に4分割した場合の分割された各ブロックの処理を説明するフローチャートである。11 is a flowchart for explaining the processing of each divided block when a tree block is divided into four in the horizontal and vertical directions. ツリーブロックを水平方向に2分割した場合の分割された各ブロックの処理を説明するフローチャートである。11 is a flowchart illustrating processing of each divided block when a tree block is divided into two in the horizontal direction. ツリーブロックの分割が水平方向に2分割された場合の分割されたブロックの再分割の様子を示す図である。FIG. 13 is a diagram showing how a divided block is re-divided when a tree block is divided into two horizontally. ツリーブロックを垂直方向に2分割した場合の分割された各ブロックの処理を説明するフローチャートである。13 is a flowchart illustrating processing of each divided block when a tree block is divided into two vertically. ツリーブロックの分割が垂直方向に2分割された場合の分割されたブロックの再分割の様子を示す図である。FIG. 13 is a diagram showing how a divided block is re-divided when a tree block is divided into two vertically. 第1の実施の形態のブロック分割に関するシンタックスの例を示す図である。FIG. 4 illustrates an example of syntax related to block division according to the first embodiment. イントラ予測を説明する図である。FIG. 1 is a diagram illustrating intra prediction. インター予測を説明する図である。FIG. 1 is a diagram illustrating inter prediction. 色差フォーマットを説明する図である。FIG. 2 is a diagram illustrating a color difference format. 輝度色差イントラ予測を説明する図である。FIG. 1 is a diagram illustrating luminance and chrominance intra prediction. 輝度色差イントラ予測を説明するフローチャートである。13 is a flowchart illustrating luminance and chrominance intra prediction. 色差ブロックのサイズが輝度ブロックのサイズよりも大きい場合を説明する図である。FIG. 13 is a diagram illustrating a case where the size of a chrominance block is larger than the size of a luminance block. 色差ブロックのサイズが輝度ブロックのサイズよりも小さい場合を説明する図である。FIG. 13 is a diagram illustrating a case where the size of a chrominance block is smaller than the size of a luminance block. イントラ色差予測モードのシンタックスの例を説明する図である。13 is a diagram illustrating an example of the syntax of an intra color difference prediction mode. 周辺画素を置き換えてイントラ色差予測を制限する例を説明する図である。11A and 11B are diagrams illustrating an example of limiting intra color difference prediction by replacing surrounding pixels. 輝度ブロックのサイズの違いによる輝度色差イントラ予測を説明する図である。FIG. 13 is a diagram illustrating luminance and chrominance intra prediction depending on differences in the size of luminance blocks.

本発明の実施の形態は、画像を矩形ブロックに分割し、分割されたブロックを符号化・復号化する画像符号化技術を提供する。 An embodiment of the present invention provides an image coding technique that divides an image into rectangular blocks and encodes and decodes the divided blocks.

(第1の実施の形態)
本発明の実施の形態1に係る画像符号化装置100及び画像復号化装置200について説明する。
(First embodiment)
An image coding device 100 and an image decoding device 200 according to a first embodiment of the present invention will be described.

図1は第1の実施の形態に係る画像符号化装置100の構成図である。ここで、図1では画像信号に関するデータの流れのみを表しており、動きベクトルや予測モードなど画像信号以外の付加情報については各構成要素が符号化ビット列生成部105に供給して対応する符号化データを生成するが、付加情報に関するデータの流れは図示していない。 Figure 1 is a configuration diagram of an image encoding device 100 according to a first embodiment. Here, Figure 1 shows only the data flow related to the image signal, and each component supplies additional information other than the image signal, such as a motion vector or a prediction mode, to the encoded bitstream generator 105 to generate the corresponding encoded data, but the data flow related to the additional information is not shown.

ブロック分割部101は、画像を符号化の処理単位となる符号化対象ブロックに分割し、符号化対象ブロック内の画像信号を残差信号生成部103に供給する。また、ブロック分割部101は、予測画像の一致度を評価するために符号化対象ブロックの画像信号を予測画像生成部102に供給する。 The block division unit 101 divides an image into coding target blocks, which are processing units for encoding, and supplies image signals in the coding target blocks to the residual signal generation unit 103. The block division unit 101 also supplies image signals of the coding target blocks to the prediction image generation unit 102 in order to evaluate the degree of matching of the prediction image.

ブロック分割部101は、画像を所定サイズの矩形に再帰的に分割して符号化対象ブロックを生成する。ブロック分割部101は、再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割部と、再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割部とを含む。ブロック分割部101の詳細の動作については後述する。 The block division unit 101 recursively divides an image into rectangles of a predetermined size to generate blocks to be coded. The block division unit 101 includes a quartering unit that divides the target block in the recursive division into four horizontally and vertically to generate four blocks, and a bisection unit that divides the target block in the recursive division into two horizontally or vertically to generate two blocks. The detailed operation of the block division unit 101 will be described later.

予測画像生成部102は、復号画像メモリ108から供給される復号画像信号から、予測モードを基にピクチャ内予測(イントラ予測)或いはピクチャ間予測(インター予測)を行い、予測画像信号を生成する。ブロック分割部101から供給される符号化対象ブロック内の画像信号はイントラ予測及びインター予測の評価に用いられる。イントラ予測では、ブロック分割部101から供給される符号化対象ブロックの画像信号と、復号画像メモリ108から供給される符号化対象のブロックと同じピクチャ内に存在する符号化対象のブロックに近接する周囲の符号化済みブロックの画像信号を用いて予測画像信号を生成する。インター予測では、ブロック分割部101から供給され符号化対象ブロックの画像信号を、符号化対象ブロックを含むピクチャ(符号化ピクチャ)の時系列で前または後ろにある復号画像メモリ108に格納されている符号化済みピクチャを参照ピクチャとし、符号化ピクチャと参照ピクチャとの間でブロックマッチング等のブロック一致度評価を行い、動き量を示す動きベクトルを求め、この動き量を基に参照ピクチャから動き補償を行い、予測画像信号を生成する。予測画像生成部102は、こうして生成された予測画像信号を残差信号生成部103に供給する。 The predicted image generating unit 102 performs intra-picture prediction (intra prediction) or inter-picture prediction (inter prediction) based on the prediction mode from the decoded image signal supplied from the decoded image memory 108 to generate a predicted image signal. The image signal in the block to be coded supplied from the block division unit 101 is used for evaluation of intra prediction and inter prediction. In intra prediction, a predicted image signal is generated using the image signal of the block to be coded supplied from the block division unit 101 and the image signal of the surrounding coded block adjacent to the block to be coded that exists in the same picture as the block to be coded supplied from the decoded image memory 108. In inter prediction, the image signal of the block to be coded supplied from the block division unit 101 is used as a reference picture with a coded picture stored in the decoded image memory 108 that is before or after the picture (coding picture) containing the block to be coded, and block matching evaluation such as block matching is performed between the coding picture and the reference picture to obtain a motion vector indicating the amount of motion, and motion compensation is performed from the reference picture based on this amount of motion to generate a predicted image signal. The predicted image generation unit 102 supplies the predicted image signal thus generated to the residual signal generation unit 103.

残差信号生成部103は、符号化する画像信号と予測画像生成部102にて生成された予測信号との減算を行い残差信号を生成し、直交変換・量子化部104に供給する。 The residual signal generation unit 103 performs subtraction between the image signal to be coded and the prediction signal generated by the prediction image generation unit 102 to generate a residual signal, which is then supplied to the orthogonal transformation and quantization unit 104.

直交変換・量子化部104は、残差信号生成部103から供給される残差信号を直交変換・量子化し、直交変換・量子化された残差信号を符号化ビット列生成部105及び逆量子化・逆直交変換部106に供給する。 The orthogonal transform and quantization unit 104 performs orthogonal transform and quantization on the residual signal supplied from the residual signal generation unit 103, and supplies the orthogonally transformed and quantized residual signal to the coded bitstream generation unit 105 and the inverse quantization and inverse orthogonal transform unit 106.

符号化ビット列生成部105は直交変換・量子化部104から供給される直交変換・量子化された残差信号に対する符号化ビット列を生成する。また、符号化ビット列生成部105は動きベクトルや予測モード、ブロック分割情報などの付加情報について、対応する符号化ビット列を生成する。 The coded bit string generation unit 105 generates a coded bit string for the orthogonally transformed and quantized residual signal supplied from the orthogonal transformation and quantization unit 104. The coded bit string generation unit 105 also generates a corresponding coded bit string for additional information such as a motion vector, a prediction mode, and block division information.

逆量子化・逆直交変換部106は、直交変換・量子化部104から供給される直交変換・量子化された残差信号を逆量子化・逆直交変換し、逆量子化・逆直交変換された残差信号を復号画像信号重畳部107に供給する。 The inverse quantization and inverse orthogonal transform unit 106 inverse quantizes and inverse orthogonally transforms the orthogonally transformed and quantized residual signal supplied from the orthogonal transform and quantization unit 104, and supplies the inverse quantized and inverse orthogonally transformed residual signal to the decoded image signal superimposition unit 107.

復号画像信号重畳部107は、予測画像生成部102により生成された予測画像信号と逆量子化・逆直交変換部106で逆量子化及び逆直交変換された残差信号を重畳して復号画像を生成し、復号画像メモリ108に格納する。尚、復号画像に対して符号化によるブロック歪等を減少させるフィルタリング処理を施して、復号画像メモリ108に格納することもある。 The decoded image signal superimposition unit 107 superimposes the predicted image signal generated by the predicted image generation unit 102 and the residual signal that has been inverse quantized and inverse orthogonal transformed by the inverse quantization and inverse orthogonal transformation unit 106 to generate a decoded image, which is stored in the decoded image memory 108. Note that the decoded image may also be subjected to a filtering process to reduce block distortion and the like caused by encoding before being stored in the decoded image memory 108.

図2は実施の形態1に係る画像復号化装置200の構成図である。ここで、図2では画像信号に関するデータの流れのみを表しており、動きベクトルや予測モードなど画像信号以外の付加情報についてはビット列復号部201が各構成要素に供給して対応する処理に用いるが、付加情報に関するデータの流れは図示していない。 Figure 2 is a configuration diagram of an image decoding device 200 according to the first embodiment. Here, Figure 2 shows only the data flow related to the image signal, and additional information other than the image signal, such as motion vectors and prediction modes, is supplied by the bitstream decoding unit 201 to each component for use in the corresponding processing, but the data flow related to the additional information is not shown.

ビット列復号部201は、供給された符号化ビット列を復号化して、直交変換・量子化された残差信号をブロック分割部202に供給する。 The bit string decoding unit 201 decodes the supplied encoded bit string and supplies the orthogonally transformed and quantized residual signal to the block division unit 202.

ブロック分割部202は、復号化したブロック分割情報に基づいて復号化対象ブロックの形状を決定し、決定された復号化対象ブロックの直交変換・量子化された残差信号を逆量子化・逆直交変換部203に供給する。 The block division unit 202 determines the shape of the block to be decoded based on the decoded block division information, and supplies the orthogonally transformed and quantized residual signal of the determined block to be decoded to the inverse quantization and inverse orthogonal transformation unit 203.

ブロック分割部202は、画像を復号化されたブロック分割情報に基づいて所定サイズの矩形に再帰的に分割して復号化対象ブロックを生成する。ブロック分割部202は、再帰的分割における対象ブロックを水平方向かつ垂直方向に4分割して4つのブロックを生成する4分割部と、再帰的分割における対象ブロックを水平方向又は垂直方向に2分割して2つのブロックを生成する2分割部とを含む。ブロック分割部202の詳細の動作については後述する。 The block division unit 202 recursively divides the image into rectangles of a predetermined size based on the decoded block division information to generate blocks to be decoded. The block division unit 202 includes a quartering unit that divides the target block in the recursive division into four horizontally and vertically to generate four blocks, and a bisection unit that divides the target block in the recursive division into two horizontally or vertically to generate two blocks. The detailed operation of the block division unit 202 will be described later.

逆量子化・逆直交変換部203は、供給された直交変換・量子化された残差信号に対して、逆直交変換及び逆量子化を行い、逆直交変換・逆量子化された残差信号を得る。 The inverse quantization and inverse orthogonal transformation unit 203 performs inverse orthogonal transformation and inverse quantization on the orthogonally transformed and quantized residual signal supplied to it, thereby obtaining an inverse orthogonally transformed and inverse quantized residual signal.

予測画像生成部204は、復号画像メモリ206から供給される復号画像信号から予測画像信号を生成し、復号画像信号重畳部205に供給する。 The predicted image generation unit 204 generates a predicted image signal from the decoded image signal supplied from the decoded image memory 206 and supplies it to the decoded image signal superimposition unit 205.

復号画像信号重畳部205は、予測画像生成部204で生成された予測画像信号と、逆量子化・逆直交変換部203により逆直交変換・逆量子化された残差信号とを重畳することにより、復号画像信号を生成し、出力するとともに復号画像メモリ206に格納する。尚、復号画像に対して符号化によるブロック歪等を減少させるフィルタリング処理を施して、復号画像メモリ206に格納することもある。 The decoded image signal superimposition unit 205 generates a decoded image signal by superimposing the predicted image signal generated by the predicted image generation unit 204 and the residual signal that has been inverse orthogonally transformed and inverse quantized by the inverse quantization and inverse orthogonal transformation unit 203, and outputs the decoded image signal and stores it in the decoded image memory 206. Note that the decoded image may also be subjected to a filtering process to reduce block distortion and the like caused by encoding before being stored in the decoded image memory 206.

画像符号化装置100のブロック分割部101の動作について詳細に説明する。図3はツリーブロックへの分割及びツリーブロック内部の分割を説明するフローチャートである。 The operation of the block division unit 101 of the image encoding device 100 will now be described in detail. Figure 3 is a flowchart explaining division into tree blocks and division within a tree block.

まず、入力された画像を所定サイズのツリーブロックに分割する(S1000)。例えば、ツリーブロックを128画素x128画素とする。ただし、ツリーブロックは128画素x128画素に限定されず、矩形であればどのような大きさ及び形状を用いてもよい。また、ツリーブロックの大きさ及び形状は、符号化装置と復号化装置の間で固定の値を定めておいてもよいが、符号化装置が決定して符号化ビットストリーム内に記録し復号化装置が記録されたブロックサイズを用いる構成にしてもよい。入力された画像をツリーブロックに分割する様子を図4に示す。ツリーブロックは、ラスタスキャン順、すなわち左から右、上から下に符号化及び復号化される。 First, the input image is divided into tree blocks of a predetermined size (S1000). For example, the tree blocks are 128 pixels x 128 pixels. However, the tree blocks are not limited to 128 pixels x 128 pixels, and any size and shape may be used as long as they are rectangular. The size and shape of the tree blocks may be fixed and determined between the encoding device and the decoding device, or may be determined by the encoding device and recorded in the encoded bit stream, and the decoding device may use the recorded block size. Figure 4 shows how the input image is divided into tree blocks. The tree blocks are encoded and decoded in raster scan order, that is, from left to right and top to bottom.

ツリーブロックの内部をさらに矩形のブロックに分割していく。ツリーブロック内部はz-スキャン順に符号化・復号化していく。図5にz-スキャンの順序を示す。z-スキャンでは、左上、右上、左下、右下、の順序で符号化及び復号化する。ツリーブロック内部の分割は4分割と2分割が可能であり、4分割は水平方向かつ垂直方向に分割する。2分割は水平方向又は垂直方向に分割する。図6はツリーブロックを水平かつ垂直方向に4分割した図である。図7はツリーブロックを水平方向に2分割した図である。図8はツリーブロックを垂直方向に2分割した図である。 The inside of the tree block is further divided into rectangular blocks. The inside of the tree block is coded and decoded in z-scan order. Figure 5 shows the z-scan order. In z-scan, coding and decoding are performed in the order of top left, top right, bottom left, bottom right. The inside of the tree block can be divided into four or two, and a four-way division is performed both horizontally and vertically. A two-way division is performed either horizontally or vertically. Figure 6 shows a tree block divided into four horizontally and vertically. Figure 7 shows a tree block divided into two horizontally. Figure 8 shows a tree block divided into two vertically.

再び図3を参照する。ツリーブロック内部を水平及び垂直方向に4分割するかどうかを判断する(S1001)。 Referring again to FIG. 3, it is determined whether to divide the inside of the tree block into four parts horizontally and vertically (S1001).

ツリーブロック内部を4分割すると判断した場合(S1001:Yes)、ツリーブロック内部を4分割し(S1002)、水平かつ垂直方向に4分割したブロックの各処理を行う(S1003)。4分割されたブロックの再分割処理については後述する(図9)。 If it is determined that the inside of the tree block should be divided into four (S1001: Yes), the inside of the tree block is divided into four (S1002), and each of the blocks divided into four horizontally and vertically is processed (S1003). The re-division process of the blocks divided into four will be described later (Figure 9).

ツリーブロック内部を4分割しないと判断した場合(S1001:No)、ツリーブロック内部を2分割するかどうかを判断する(S1004)。 If it is determined that the inside of the tree block should not be divided into four (S1001: No), it is determined whether or not to divide the inside of the tree block into two (S1004).

ツリーブロック内部を2分割すると判断した場合(S1004:Yes)、2分割する方向を水平方向とするかどうかを判断する(S1005)。 If it is determined that the inside of the tree block should be divided into two (S1004: Yes), it is determined whether the direction of division should be horizontal (S1005).

2分割する方向を水平方向と判断した場合(S1005:Yes)、ツリーブロック内部を水平方向に2分割し(S1006)、水平方向に2分割したブロックの各処理を行う(S1007)。水平方向に2分割されたブロックの再分割処理については後述する(図10)。 If it is determined that the direction of division is horizontal (S1005: Yes), the inside of the tree block is divided horizontally into two (S1006), and each process of the blocks divided horizontally into two is performed (S1007). The re-division process of the blocks divided horizontally into two will be described later (Figure 10).

2分割する方向を水平方向ではなく垂直方向と判断した場合(S1005:No)、ツリーブロック内部を垂直方向に2分割し(S1008)、垂直方向に2分割したブロックの各処理を行う(S1009)。水平方向に2分割されたブロックの再分割処理については後述する(図11)。 If it is determined that the direction of division is vertical rather than horizontal (S1005: No), the inside of the tree block is divided vertically into two (S1008), and each process of the blocks divided vertically into two is performed (S1009). The re-division process of the blocks divided horizontally into two will be described later (Fig. 11).

ツリーブロック内部を2分割しないと判断した場合(S1004:No)、ツリーブロックの内部をブロック分割せずにブロック分割処理を終了する(S1010)。 If it is determined that the inside of the tree block is not to be divided into two (S1004: No), the block division process ends without dividing the inside of the tree block into blocks (S1010).

続いて、ツリーブロックを水平方向かつ垂直方向に4分割した場合の分割された各ブロックの処理について図9のフローチャートを用いて説明する。 Next, we will use the flowchart in Figure 9 to explain how each block is processed when the tree block is divided into four blocks horizontally and vertically.

ブロック内部を水平かつ垂直方向に再び4分割するかどうかを判断する(S1101)。 Determine whether to divide the inside of the block into four again horizontally and vertically (S1101).

ブロック内部を再び4分割すると判断した場合(S1101:Yes)、ブロック内部を再び4分割し(S1102)、水平かつ垂直方向に4分割したブロックの各処理を行う(S1103)。 If it is determined that the inside of the block should be divided into four again (S1101: Yes), the inside of the block is divided into four again (S1102), and each block divided into four horizontally and vertically is processed (S1103).

ブロック内部を再び4分割しないと判断した場合(S1101:No)、ブロック内部を2分割するかどうかを判断する(S1104)。 If it is determined that the interior of the block should not be divided into four again (S1101: No), it is determined whether or not to divide the interior of the block into two (S1104).

ブロック内部を2分割すると判断した場合(S1104:Yes)、2分割する方向を水平方向とするかどうかを判断する(S1105)。 If it is determined that the block interior is to be divided into two (S1104: Yes), it is determined whether the direction of division is the horizontal direction (S1105).

2分割する方向を水平方向と判断した場合(S1105:Yes)、ブロック内部を水平方向に2分割し(S1106)、水平方向に2分割したブロックの各処理を行う(S1107)。 If it is determined that the direction of division is the horizontal direction (S1105: Yes), the inside of the block is divided into two horizontally (S1106), and each process of the blocks divided horizontally is performed (S1107).

2分割する方向を水平方向ではなく垂直方向と判断した場合(S1105:No)、ブロック内部を垂直方向に2分割し(S1108)、垂直方向に2分割したブロックの各処理を行う(S1109)。 If it is determined that the direction of division is vertical rather than horizontal (S1105: No), the block is divided vertically into two (S1108), and each process of the blocks divided vertically into two (S1109).

ブロック内部を2分割しないと判断した場合(S1104:No)、ブロックの内部をブロック分割せずにブロック分割処理を終了する(S1110)。 If it is determined that the inside of the block is not to be divided into two (S1104: No), the block division process ends without dividing the inside of the block into blocks (S1110).

図9のフローチャートに示す処理が4分割された各ブロックについて実行される。4分割されたブロックの内部もz-スキャン順に符号化及び復号化していく。 The process shown in the flowchart in Figure 9 is executed for each of the four divided blocks. The inside of each block is also coded and decoded in z-scan order.

続いて、ツリーブロックを水平方向に2分割した場合の分割された各ブロックの処理について図10のフローチャートを用いて説明する。 Next, we will use the flowchart in Figure 10 to explain how each block is processed when a tree block is divided horizontally into two.

ツリーブロックを水平方向に2分割した場合、2分割された各ブロックは、まず、ブロック内部を水平及び垂直方向に4分割するかどうかを判断する(S1201)。 When a tree block is divided horizontally into two, each divided block first determines whether to divide the block into four horizontally and vertically (S1201).

ブロック内部を4分割すると判断した場合(S1201:Yes)、ブロック内部を4分割し(S1202)、水平かつ垂直方向に4分割したブロックの各処理を行う(S1203)。 If it is determined that the inside of the block should be divided into four (S1201: Yes), the inside of the block is divided into four (S1202), and each block divided into four horizontally and vertically is processed (S1203).

ブロック内部を4分割しないと判断した場合(S1201:No)、ブロック内部を再び2分割するかどうかを判断する(S1204)。 If it is determined that the interior of the block should not be divided into four (S1201: No), it is determined whether or not to divide the interior of the block into two again (S1204).

再び2分割すると判断した場合(S1204:Yes)、ブロック内部を垂直方向に分割し(S1205)、垂直方向に2分割したブロックの各処理を行う(S1206)。 If it is determined that the block should be divided into two again (S1204: Yes), the block is divided vertically (S1205), and each process of the blocks divided vertically into two is carried out (S1206).

再び2分割しないと判断した場合(S1204:No)、ブロックの内部を再分割せずブロック分割処理を終了する(S1207)。 If it is determined that the block should not be divided into two again (S1204: No), the block division process ends without dividing the inside of the block again (S1207).

図11にツリーブロックの分割が水平方向に2分割された場合の分割されたブロックの再分割の様子を示す。ここで、親ブロックであるツリーブロックが水平方向に2分割された場合、分割されたブロックの再2分割では、垂直方向のみの2分割を許容し、自動的に垂直方向に2分割する。また、親ブロックであるツリーブロックが2分割された場合、子ブロックでは4分割も完全に禁止することも可能である。これにより、親ブロックと同一方向にブロックが分割されることを禁止できるため、より横方向に細長い長方形となるブロック分割を防止でき、符号化・復号化の処理がしやすくなる。 Figure 11 shows how a divided block is re-divided when a tree block is divided into two horizontally. Here, when a parent block, a tree block, is divided into two horizontally, the divided block is automatically divided into two vertically, and only vertical division is permitted. Also, when a parent block, a tree block, is divided into two, it is also possible to completely prohibit the child block from being divided into four. This makes it possible to prohibit blocks from being divided in the same direction as the parent block, preventing block division into horizontally elongated rectangles, and making encoding and decoding easier.

図10のフローチャートに示す処理が水平方向に2分割された各ブロックについて実行される。2分割されたブロックの内部も上、下の順に符号化及び復号化していく。 The process shown in the flowchart in Figure 10 is executed for each block divided horizontally into two. The inside of each divided block is also coded and decoded in the order of top to bottom.

続いて、ツリーブロックを垂直方向に2分割した場合の分割された各ブロックの処理について図12のフローチャートを用いて説明する。 Next, we will use the flowchart in Figure 12 to explain how each block is processed when a tree block is vertically divided into two.

ツリーブロックを垂直方向に2分割した場合、2分割された各ブロックは、まず、ブロック内部を水平及び垂直方向に4分割するかどうかを判断する(S1301)。 When a tree block is divided vertically into two, each divided block first determines whether to divide the block into four horizontally and vertically (S1301).

ブロック内部を4分割すると判断した場合(S1301:Yes)、ブロック内部を4分割し(S1302)、水平かつ垂直方向に4分割したブロックの各処理を行う(S1303)。 If it is determined that the inside of the block should be divided into four (S1301: Yes), the inside of the block is divided into four (S1302), and each block divided into four horizontally and vertically is processed (S1303).

ブロック内部を4分割しないと判断した場合(S1301:No)、ブロック内部を再び2分割するかどうかを判断する(S1304)。 If it is determined that the inside of the block should not be divided into four (S1301: No), it is determined whether or not to divide the inside of the block into two again (S1304).

再び2分割すると判断した場合(S1304:Yes)、ブロック内部を水平方向に分割し(S1305)、水平方向に2分割したブロックの各処理を行う(S1306)。 If it is determined that the block should be divided into two again (S1304: Yes), the block is divided horizontally (S1305), and each process of the block divided horizontally into two is performed (S1306).

再び2分割しないと判断した場合(S1304:No)、ブロックの内部を再分割せずブロック分割処理を終了する(S1307)。 If it is determined that the block should not be divided into two again (S1304: No), the block division process ends without dividing the block again (S1307).

図13にツリーブロックの分割が垂直方向に2分割された場合の分割されたブロックの再分割の様子を示す。ここで、親ブロックであるツリーブロックが垂直方向に2分割された場合、分割されたブロックの再2分割では、水平方向のみの2分割を許容し、自動的に水平方向に2分割する。また、親ブロックであるツリーブロックが2分割された場合、子ブロックでは4分割も完全に禁止することも可能である。これにより、親ブロックと同一方向にブロックが分割されることを禁止できるため、より縦方向に細長い長方形となるブロック分割を防止でき、符号化・復号化の処理がしやすくなる。 Figure 13 shows how a divided block is re-divided when a tree block is divided into two vertically. Here, when a parent block, a tree block, is divided into two vertically, the divided block is automatically divided into two horizontally, and only horizontal division is permitted. Also, when a parent block, a tree block, is divided into two, it is also possible to completely prohibit the child block from being divided into four. This makes it possible to prohibit blocks from being divided in the same direction as the parent block, preventing block division into vertically elongated rectangles, and making encoding and decoding easier.

図12のフローチャートに示す処理が垂直方向に2分割された各ブロックについて実行される。2分割されたブロックの内部も左、右の順に符号化及び復号化していく。 The process shown in the flowchart in Figure 12 is executed for each block divided vertically into two. The inside of each divided block is also coded and decoded in the order from left to right.

なお、ツリーブロックが分割された時の分割されたブロックの再分割について説明したが、親ブロックがツリーブロックでなくてもよい。例えば、ツリーブロック(128x128)を4分割し、4分割されたブロック(64x64)をさらに4分割又は2分割した場合に、再分割されたブロックの分割にも上記処理を適用していく。 Note that, although we have described the redivision of the divided blocks when a tree block is divided, the parent block does not have to be a tree block. For example, if a tree block (128x128) is divided into four, and the four divided blocks (64x64) are further divided into four or in half, the above process is also applied to the division of the further divided blocks.

次に、画像復号化装置200のブロック分割部202の動作について説明する。画像符号化装置100のブロック分割部101と同じ処理手順でブロックを分割するが、画像符号化装置100のブロック分割部101では、ブロック分割のパターンを選択し、選択したブロック分割情報を出力するのに対して、画像復号化装置のブロック分割部202は、符号化ビットストリームから復号化されたブロック分割情報を用いてブロックを分割すること、また、符号化ビットストリームからブロック分割情報を復号化する際に、同一方向への再分割が禁止される状況では、選択肢のない情報はビットストリーム内で伝送しないシンタックス構造となっていることが異なる。 Next, the operation of the block division unit 202 of the image decoding device 200 will be described. Blocks are divided using the same processing procedure as the block division unit 101 of the image encoding device 100, but the block division unit 101 of the image encoding device 100 selects a block division pattern and outputs the selected block division information, whereas the block division unit 202 of the image decoding device divides blocks using block division information decoded from the encoded bit stream, and also differs in that when decoding block division information from the encoded bit stream, in a situation where re-division in the same direction is prohibited, information with no options is not transmitted in the bit stream in a syntax structure.

第1の実施の形態のブロック分割に関するシンタックス(符号化ビットストリームの構文規則)の例を図14に示す。ツリーブロックの内部の分割は、まず4分割をするかどうかのフラグ(4_division_flag)を送受信する。4分割する場合(4_division_flagが1)は、ツリーブロック内を4分割して処理を終了する。その後4分割されたブロックについて再度図14に示すシンタックスで内部を再分割する。4分割しない場合(4_division_flagが0)は、2分割するかどうかのフラグ(2_division_flag)を送受信する。2分割する場合(2_division_flagが1)は、さらに、2分割する方向を示すフラグ(2_division_direction)を送受信する。2_division_directionが1の場合は垂直方向への分割を示し、2_division_directionが0の場合は水平方向への分割を示す。その後2分割されたブロックについて再度図14に示すシンタックスでブロック内部を再分割する。2分割しない場合(2_division_flagが0)は、ツリーブロックを分割せずに処理を終了する。 An example of the syntax (syntax rules for encoded bitstreams) for block division in the first embodiment is shown in FIG. 14. To divide the inside of a tree block, first, a flag (4_division_flag) indicating whether or not to divide it into four is sent and received. If it is divided into four (4_division_flag is 1), the tree block is divided into four and the process is terminated. After that, the inside of the block divided into four is again divided using the syntax shown in FIG. 14. If it is not divided into four (4_division_flag is 0), a flag (2_division_flag) indicating whether or not to divide it into two is sent and received. If it is divided into two (2_division_flag is 1), a flag (2_division_direction) indicating the direction of division into two is also sent and received. If 2_division_direction is 1, it indicates division in the vertical direction, and if 2_division_direction is 0, it indicates division in the horizontal direction. After that, the inside of the block divided into two is again divided using the syntax shown in FIG. 14. If no division is required (2_division_flag is 0), the process ends without dividing the tree block.

ここで、4分割又は2分割されたブロックの内部を再分割する処理について説明する。ブロック内部を再分割する処理も図14に示すシンタックスを用いるが、ツリーブロックを分割する場合と比較して、2分割する場合の分割方向に制限があることが異なる。つまり、ツリーブロックを2分割している場合、2分割されたブロックの内部を再分割する場合には、ツリーブロックを2分割した分割方向と同一の方向で分割することを禁止する。これにより、分割されたブロックがより細長い長方形になることを防止し、イントラ予測やインター予測で必要となるメモリ帯域の増加を防止することができる。メモリ帯域の増加の防止についての詳細は後述する。 Here, the process of re-dividing the inside of a block that has been divided into four or two will be described. The process of re-dividing the inside of a block also uses the syntax shown in FIG. 14, but compared to dividing a tree block, the difference is that there are restrictions on the division direction when dividing into two. In other words, if a tree block is divided into two, when the inside of the block divided into two is to be re-divided, it is prohibited to divide in the same direction as the division direction in which the tree block was divided into two. This prevents the divided blocks from becoming elongated rectangles, and prevents an increase in memory bandwidth required for intra prediction and inter prediction. Preventing an increase in memory bandwidth will be described in detail later.

また、同一方向に2分割した数をカウントして所定回数を超えた場合に同一方向に分割することを制限してももちろんよい。例えば、2回まで同一方向への2分割を許可するが、3回目からは同一方向への2分割を禁止する。 It is also possible to count the number of times the image has been split in two in the same direction, and restrict further splitting in the same direction if a certain number of splits has been exceeded. For example, splitting in two in the same direction is permitted up to two times, but splitting in two in the same direction is prohibited from the third time onwards.

図14では、4分割を優先して選択し、4分割するかどうかの情報を2分割するかどうかの情報よりも先に送受信するシンタックスとした。一方、2分割を優先して選択する場合、2分割するかどうかの情報を4分割するかどうかの情報よりも先に送受信するシンタックスとすることも可能である。確率的により発生しやすい事象を先に送受信する方がビットストリームとして伝送する符号量が少なくなるためである。つまり、予め4分割と2分割のどちらが発生しやすいか推定し、より発生しやすい分割情報を先にする送受信するシンタックスとしてもよい。例えば、画像のヘッダ情報で4分割を優先するか、2分割を優先するかを送受信することで、符号化装置が適応的に符号化効率の高い優先分割数を決定して、復号化装置では選択された優先分割数に基づいたシンタックスでツリーブロック内部を分割することもできる。 In FIG. 14, the syntax is such that 4-division is selected as a priority, and information on whether to divide into 4 or not is transmitted and received before information on whether to divide into 2 or not. On the other hand, when 2-division is selected as a priority, it is also possible to use a syntax in which information on whether to divide into 2 or not is transmitted and received before information on whether to divide into 4 or not. This is because transmitting and receiving an event that is more likely to occur first reduces the amount of code transmitted as a bit stream. In other words, it is also possible to estimate in advance whether 4-division or 2-division is more likely to occur, and to transmit and receive the division information that is more likely to occur first. For example, by transmitting and receiving whether to prioritize 4-division or 2-division in the header information of the image, the encoding device can adaptively determine the priority number of divisions with the highest encoding efficiency, and the decoding device can divide the inside of the tree block using a syntax based on the selected priority number of divisions.

画像符号化装置100及び画像復号化装置200において、分割されたブロックを用いてイントラ予測やインター予測が行われる。イントラ予測、インター予測ともにメモリからの画素のコピーを伴う。 In the image encoding device 100 and the image decoding device 200, intra prediction and inter prediction are performed using the divided blocks. Both intra prediction and inter prediction involve copying pixels from memory.

図15(a)~図15(d)にイントラ予測の一例を示す。図15(a)及び図15(b)はイントラ予測の予測方向とモード番号を示す。イントラ予測は、図15(c)及び図15(d)に示すように、符号化・復号化対象ブロックに近接する符号化・復号化済の画素から画素をコピーすることで符号化・復号化対象ブロックの予測画像を生成する。イントラ予測では、ブロック単位で予測画像生成から符号化・復号化画素生成を繰り返すため、処理順序がブロック単位でシーケンシャルとなり、ブロック内部を小さく分割するほど全体の処理の負荷が大きくなる。また、ブロックの形状が細長い長方形になるほどメモリからの画素コピーの処理が大きくなる。また、符号化・復号化には残差信号の直交変換を行うため、長方形のサイズの種類が多くなればなるほど必要な直交変換の種類が多くなり、その結果回路規模の増大につながる。そのため、ブロック内部を2分割する場合に、親ブロックの分割方法と同一方向に2分割することを制限することで、イントラ予測で必要となるメモリ帯域の増加を防止することができる。 An example of intra prediction is shown in FIG. 15(a) to FIG. 15(d). FIG. 15(a) and FIG. 15(b) show the prediction direction and mode number of intra prediction. In intra prediction, as shown in FIG. 15(c) and FIG. 15(d), a predicted image of a block to be encoded/decoded is generated by copying pixels from pixels that have already been encoded/decoded and are adjacent to the block to be encoded/decoded. In intra prediction, the process from predicted image generation to encoded/decoded pixel generation is repeated for each block, so the processing order is sequential for each block, and the more the inside of the block is divided into smaller parts, the heavier the overall processing load becomes. In addition, the more elongated the shape of the block is, the heavier the processing of copying pixels from memory becomes. In addition, since orthogonal transformation of residual signals is performed for encoding/decoding, the more types of rectangular sizes are required, the more types of orthogonal transformation are required, which results in an increase in the circuit scale. Therefore, when dividing the inside of a block into two, by restricting the division into two in the same direction as the division method of the parent block, the increase in memory bandwidth required for intra prediction can be prevented.

図16にインター予測の一例を示す。インター予測は、符号化・復号化済の画像に含まれる画素からブロック単位で画素をコピーすることで符号化・復号化対象ブロックの予測画像を生成する。インター予測では、参照画像からブロック単位で画素をコピーする際に、必要な画素が含まれるメモリの管理単位での取得が必要な装置の構成となることが多い。そのため、ブロックを小さく分割するほど、また、ブロックの形状が細長い長方形になるほど、全体の処理の負荷が大きくなる。また、参照画像に対して補間フィルタを用いた小数精度の動き補償を行う場合には、ブロック内に含まれる画素に数画素を加えた画素のコピーが必要となり、ブロックの大きさが小さいほど、追加する数画素の相対的な比率が大きくなり、全体の処理の負荷が大きくなる。そのため、ブロック内部を2分割する場合に、親のブロックの分割方向と同一方向に2分割することを制限することで、インター予測で必要となるメモリ帯域の増加を防止することができる。 Figure 16 shows an example of inter prediction. Inter prediction generates a predicted image of a block to be coded/decoded by copying pixels from pixels included in an image that has already been coded/decoded in units of blocks. In inter prediction, when copying pixels from a reference image in units of blocks, the device is often configured to require acquisition of memory management units containing the necessary pixels. Therefore, the smaller the block is divided and the more elongated the shape of the block is, the heavier the overall processing load becomes. In addition, when performing decimal precision motion compensation using an interpolation filter on a reference image, it is necessary to copy pixels by adding several pixels to the pixels contained in the block, and the smaller the size of the block, the larger the relative ratio of the several pixels to be added becomes, and the heavier the overall processing load becomes. Therefore, when dividing the inside of a block into two, by restricting the division into two in the same direction as the division direction of the parent block, it is possible to prevent an increase in the memory bandwidth required for inter prediction.

続いて、イントラ予測での輝度信号と色差信号の関係について説明する。輝度信号と色差信号間のフォーマットとして、4:2:0、4:2:2、4:4:4などが従来から知られている。図17(a)に示す4:2:0フォーマットは、輝度信号を水平/垂直方向ともに2画素をサンプリングするのに対して、色差信号を水平/垂直方向ともに1画素をサンプリングする。人間の目は色差信号よりも輝度信号をより敏感に知覚できるため、輝度信号よりも色差信号の情報量を減らしている。図17(b)に示す4:2:2フォーマットは、輝度信号を水平方向に2画素をサンプリングするのに対して、色差信号を水平方向に1画素サンプリングする。垂直方向については、輝度信号を垂直方向に2画素をサンプリングするのに対して、色差信号を垂直方向に2画素サンプリングする。図17(c)に示す4:4:4フォーマットは、輝度信号を水平/垂直方向に2画素をサンプリングするのに対して、色差信号を水平/垂直方向ともに2画素をサンプリングする。 Next, the relationship between the luminance signal and the color difference signal in intra prediction will be described. As formats between the luminance signal and the color difference signal, 4:2:0, 4:2:2, 4:4:4, and the like are conventionally known. In the 4:2:0 format shown in FIG. 17(a), the luminance signal is sampled at two pixels in both the horizontal and vertical directions, whereas the color difference signal is sampled at one pixel in both the horizontal and vertical directions. Since the human eye is more sensitive to the luminance signal than the color difference signal, the amount of information of the color difference signal is reduced more than that of the luminance signal. In the 4:2:2 format shown in FIG. 17(b), the luminance signal is sampled at two pixels in the horizontal direction, whereas the color difference signal is sampled at one pixel in the horizontal direction. In the vertical direction, the luminance signal is sampled at two pixels in the vertical direction, whereas the color difference signal is sampled at two pixels in the vertical direction. In the 4:4:4 format shown in FIG. 17(c), the luminance signal is sampled at two pixels in both the horizontal and vertical directions, whereas the color difference signal is sampled at two pixels in both the horizontal and vertical directions.

画像符号化で最も広く使用されている4:2:0フォーマットを例として本実施の形態を説明する。ブロック分割部101、202は、画像の輝度信号を分割して輝度ブロックを生成する輝度ブロック分割部と、画像の色差信号を分割して色差ブロックを生成する色差ブロック分割部とを含み、イントラ予測において、輝度信号と色差信号をそれぞれ独立してブロック分割する。つまり、イントラ予測では輝度ブロックの大きさと色差ブロックの大きさは独立して決定される。イントラ予測では、輝度信号と色差信号のそれぞれが周辺画素から画素値をコピーするため、輝度信号と色差信号を独立してブロック分割すると予測効率が高まる。それに対して、インター予測については輝度信号と色差信号を一緒に扱ってブロック分割する。つまり、インター予測では輝度ブロックの大きさと色差ブロックの大きさは同一である。インター予測では動き補償において輝度と色差を区別する必要がないためである。 The present embodiment will be described using the 4:2:0 format, which is the most widely used format for image coding, as an example. The block division units 101 and 202 include a luminance block division unit that divides the luminance signal of an image to generate luminance blocks, and a chrominance block division unit that divides the chrominance signal of an image to generate chrominance blocks. In intra prediction, the luminance signal and the chrominance signal are divided into blocks independently. In other words, in intra prediction, the size of the luminance block and the size of the chrominance block are determined independently. In intra prediction, the luminance signal and the chrominance signal each copy pixel values from surrounding pixels, so that the prediction efficiency is improved by dividing the luminance signal and the chrominance signal into blocks independently. In contrast, in inter prediction, the luminance signal and the chrominance signal are treated together and divided into blocks. In other words, in inter prediction, the size of the luminance block and the size of the chrominance block are the same. This is because in inter prediction, it is not necessary to distinguish between luminance and chrominance in motion compensation.

予測画像生成部102、204は、輝度信号を予測する輝度信号予測部と、色差信号を予測する色差信号予測部とを含み、色差信号予測部は、イントラ予測における色差信号の予測効率を高めるため、輝度信号の符号化・復号化済画素から色差信号を予測する輝度色差イントラ予測を行う。輝度色差イントラ予測では、プライマリ信号をセカンダリ信号よりも先に符号化・復号化し、符号化・復号化済のプライマリ信号を用いてセカンダリ信号を予測する。ここで、4:2:0フォーマットや4:2:2フォーマットでは色差信号よりも輝度信号の情報量が多いため、輝度信号をプライマリ信号とし、色差信号をセカンダリ信号とする。4:4:4フォーマットでは、輝度信号と色差信号の情報量は同じであるが、他のフォーマットに合わせて、輝度信号をプライマリ信号とし、色差信号をセカンダリ信号とするのが普通である。 The predicted image generating units 102 and 204 include a luminance signal prediction unit that predicts a luminance signal and a chrominance signal prediction unit that predicts a chrominance signal. The chrominance signal prediction unit performs luminance and chrominance intra prediction to predict the chrominance signal from encoded and decoded pixels of the luminance signal in order to improve the prediction efficiency of the chrominance signal in intra prediction. In luminance and chrominance intra prediction, the primary signal is encoded and decoded before the secondary signal, and the secondary signal is predicted using the encoded and decoded primary signal. Here, in the 4:2:0 format and the 4:2:2 format, the luminance signal has a larger amount of information than the chrominance signal, so the luminance signal is the primary signal and the chrominance signal is the secondary signal. In the 4:4:4 format, the luminance signal and the chrominance signal have the same amount of information, but it is common to use the luminance signal as the primary signal and the chrominance signal as the secondary signal to match other formats.

図18は、輝度色差イントラ予測を説明する図であり、図19は、輝度色差イントラ予測を説明するフローチャートである。 Figure 18 is a diagram explaining luminance and chrominance intra prediction, and Figure 19 is a flowchart explaining luminance and chrominance intra prediction.

図18に示すように、輝度色差イントラ予測は、輝度ブロック10の符号化・復号化済の周辺画素12a、12bと、色差ブロック14の符号化・復号化済の周辺画素16a、16bとの間の相関度合いに基づいて行われる。輝度色差イントラ予測は、色差信号を予測するものであるから、相関度合いを算出する対象となる周辺画素は、符号化・復号化対象の色差ブロックの周辺画素を基準にして規定される。すなわち、色差ブロックに対して決まる周辺画素と同一位置にある輝度ブロックの周辺画素が相関度合いの算出の対象となる。 As shown in FIG. 18, luminance/chrominance intra prediction is performed based on the degree of correlation between the coded/decoded peripheral pixels 12a, 12b of the luminance block 10 and the coded/decoded peripheral pixels 16a, 16b of the chrominance block 14. Since luminance/chrominance intra prediction predicts a chrominance signal, the peripheral pixels for which the degree of correlation is calculated are defined based on the peripheral pixels of the chrominance block to be coded/decoded. In other words, the peripheral pixels of the luminance block that are in the same positions as the peripheral pixels determined for the chrominance block are used to calculate the degree of correlation.

まず、符号化・復号化済の輝度信号の周辺画素と色差信号の周辺画素間の相関度合いを算出する(S1901)。続いて、符号化・復号化対象ブロックの符号化・復号化済輝度信号をダウンサンプルする(S1902)。ここで、ダウンサンプルするフィルタタイプを複数準備してフィルタタイプを選択できるようにしてもよい。例えば、強度の異なるフィルタを準備して複数のフィルタタイプを選択する、又は、フィルタのタップ数が異なるフィルタを準備して複数のフィルタタイプを選択するようにしてもよい。フィルタタイプは周辺画素間の相関度合いを用いて自動選択してもよく、フィルタタイプをビットストリーム内に符号化・復号化して伝送してもよい。また、周辺画素間の相関度合いを用いて符号化・復号化対象ブロックの輝度信号のダウンサンプルフィルタを決定するのでなければ、ステップS1901とステップS1902の処理は順不同であり、ステップS1901とステップS1902は並列処理可能である。 First, the degree of correlation between the peripheral pixels of the encoded/decoded luminance signal and the peripheral pixels of the color difference signal is calculated (S1901). Next, the encoded/decoded luminance signal of the block to be encoded/decoded is downsampled (S1902). Here, a plurality of filter types for downsampling may be prepared so that the filter type can be selected. For example, a plurality of filter types may be selected by preparing filters with different strengths, or a plurality of filter types may be selected by preparing filters with different numbers of taps. The filter type may be automatically selected using the degree of correlation between the peripheral pixels, or the filter type may be encoded/decoded and transmitted in the bit stream. In addition, if the downsampling filter for the luminance signal of the block to be encoded/decoded is not determined using the degree of correlation between the peripheral pixels, the processing of steps S1901 and S1902 may be performed in any order, and steps S1901 and S1902 can be processed in parallel.

最後に、周辺画素間の相関度合いに基づいて、ダウンサンプルした輝度信号から色差信号を予測する(S1903)。ダウンサンプルは、4:2:0フォーマットの場合は、水平/垂直方向に1/2となる。4:2:2フォーマットの場合は、水平方向に1/2となり、垂直方向にはダウンサンプルしない。4:4:4フォーマットの場合は、水平/垂直方向ともにダウンサンプルしない。 Finally, the color difference signal is predicted from the downsampled luminance signal based on the degree of correlation between surrounding pixels (S1903). In the case of 4:2:0 format, downsampling is 1/2 in the horizontal and vertical directions. In the case of 4:2:2 format, downsampling is 1/2 in the horizontal direction and no downsampling is performed in the vertical direction. In the case of 4:4:4 format, no downsampling is performed in either the horizontal or vertical directions.

輝度色差イントラ予測では、符号化・復号化対象ブロックの輝度信号の符号化・復号化が完了した後に、色差信号の予測処理を開始できる。そのため、色差ブロックの予測処理を開始できるタイミングは、輝度ブロックのサイズと色差ブロックのサイズに依存する。 In luminance and chrominance intra prediction, prediction processing of the chrominance signal can start after the encoding/decoding of the luminance signal of the block to be encoded/decoded is completed. Therefore, the timing at which prediction processing of the chrominance block can start depends on the size of the luminance block and the size of the chrominance block.

図20(a)及び図20(b)は、色差ブロックのサイズが輝度ブロックのサイズよりも大きい場合の輝度色差イントラ予測を説明する図である。図20(a)に示す4分割された第1~第4輝度ブロック20a、20b、20c、20dの画素数は16x16であり、図20(b)に示す色差ブロック20eの画素数は16x16である。 Figures 20(a) and 20(b) are diagrams explaining luminance and chrominance intra prediction when the size of the chrominance block is larger than the size of the luminance block. The number of pixels of the first to fourth luminance blocks 20a, 20b, 20c, and 20d divided into four shown in Figure 20(a) is 16x16, and the number of pixels of the chrominance block 20e shown in Figure 20(b) is 16x16.

ここで、輝度ブロックと色差ブロックのサイズの比較は、ブロック内の画素数での比較ではなく、色差フォーマットを考慮した面積での比較である。即ち、4:2:0フォーマットにおいて、輝度ブロックが占める面積は、色差ブロックが占める面積の1/2であるから、輝度ブロックの画素数が16x16であり、色差ブロックの画素数が16x16である場合、輝度ブロックのサイズの方が小さい。4:2:0フォーマットにおいて、輝度ブロックの画素数が16x16であり、色差ブロックの画素数が8x8である場合、両者のブロックが占める面積は同一であり、輝度ブロックと色差ブロックは同一のサイズである。 Here, the comparison of the sizes of the luminance block and the chrominance block is not a comparison of the number of pixels in the block, but a comparison of the area taking into account the chrominance format. That is, in the 4:2:0 format, the area occupied by the luminance block is half the area occupied by the chrominance block, so if the number of pixels in the luminance block is 16x16 and the number of pixels in the chrominance block is 16x16, the size of the luminance block is smaller. In the 4:2:0 format, if the number of pixels in the luminance block is 16x16 and the number of pixels in the chrominance block is 8x8, the area occupied by both blocks is the same, and the luminance block and the chrominance block are the same size.

輝度ブロックと色差ブロックのサイズの比較を、ブロックの面積の比較ではなく、ブロック内の画素数の比較で行うには、色差フォーマットにおける輝度信号と色差信号の比率で色差ブロックの画素数を輝度ブロックの画素数に換算すればよい。4:2:0フォーマットの場合、輝度信号の画素数は色差信号の画素数の2倍であるから、色差ブロックの縦横の画素数を2倍して輝度ブロックの縦横の画素数に換算する。たとえば、4:2:0フォーマットにおいて、輝度ブロックのサイズが16x16であり、色差ブロックのサイズが16x16である場合、輝度ブロックの画素数に換算した色差ブロックの換算サイズは32x32になり、色差ブロックのサイズの方が大きいことがわかる。 To compare the sizes of luminance blocks and chrominance blocks by comparing the number of pixels in the blocks rather than the area of the blocks, the number of pixels in the chrominance blocks can be converted to the number of pixels in the luminance block using the ratio of the luminance signal to the chrominance signal in the chrominance format. In the case of the 4:2:0 format, the number of pixels in the luminance signal is twice the number of pixels in the chrominance signal, so the number of pixels in the chrominance blocks is doubled to convert to the number of pixels in the luminance block. For example, in the 4:2:0 format, if the size of the luminance block is 16x16 and the size of the chrominance block is 16x16, the converted size of the chrominance block converted to the number of pixels in the luminance block is 32x32, which shows that the size of the chrominance block is larger.

イントラ予測はブロック単位で復号処理を完了した後に、続くブロックの予測処理が可能になる。つまり、第1輝度ブロック20aの復号が完了した後に、第2輝度ブロック20bの復号が可能になり、第2輝度ブロック20bの復号が完了した後に、第3輝度ブロック20cの復号が可能になり、第3輝度ブロック20cの復号が完了した後に、第4輝度ブロック20dの復号が可能になる。 In intra prediction, after the decoding process is completed on a block-by-block basis, the prediction process for the following block can be performed. In other words, after the decoding of the first luminance block 20a is completed, the decoding of the second luminance block 20b can be performed, after the decoding of the second luminance block 20b is completed, the decoding of the third luminance block 20c can be performed, and after the decoding of the third luminance block 20c is completed, the decoding of the fourth luminance block 20d can be performed.

色差ブロックのサイズが輝度ブロックのサイズよりも大きい場合、色差ブロック20eの予測処理に必要な周辺画素は、輝度画素、色差画素ともに4つの輝度ブロック20a、20b、20c、20dの復号前に存在しており、4つの輝度ブロック20a、20b、20c、20dの復号を待たずに、図19のステップS1901の輝度信号の周辺画素と色差信号の周辺画素間の相関度合いを算出可能である。 When the size of the chrominance block is larger than the size of the luminance block, the surrounding pixels required for the prediction process of the chrominance block 20e, both luminance pixels and chrominance pixels, exist before the decoding of the four luminance blocks 20a, 20b, 20c, and 20d, and it is possible to calculate the degree of correlation between the surrounding pixels of the luminance signal and the surrounding pixels of the chrominance signal in step S1901 of Figure 19 without waiting for the decoding of the four luminance blocks 20a, 20b, 20c, and 20d.

次に、第1輝度ブロック20aの復号完了後、図19のステップS1902の輝度信号のダウンサンプルを実行する。第2輝度ブロック20bの復号完了を待たずに、第1輝度ブロック20aの位置に対応する色差ブロック20eの画素が予測可能である。同様に、第2輝度ブロック20bの復号完了後、輝度信号のダウンサンプルを実行し、第3輝度ブロック20cの復号完了を待たずに、第2輝度ブロック20bの位置に対応する色差ブロック20eの画素を予測する。さらに、第3輝度ブロック20cの復号完了後、輝度信号のダウンサンプルを実行し、第4輝度ブロック20dの復号完了を待たずに、第3輝度ブロック20cの位置に対応する色差ブロック20eの画素を予測する。最後に、第4輝度ブロック20dの復号完了後、輝度信号のダウンサンプルを実行し、第4輝度ブロック20dの位置に対応する色差ブロック20eの画素を予測する。 Next, after the first luminance block 20a is decoded, downsampling of the luminance signal is performed in step S1902 of FIG. 19. Without waiting for the completion of the decoding of the second luminance block 20b, the pixels of the chrominance block 20e corresponding to the position of the first luminance block 20a can be predicted. Similarly, after the second luminance block 20b is decoded, downsampling of the luminance signal is performed, and without waiting for the completion of the decoding of the third luminance block 20c, the pixels of the chrominance block 20e corresponding to the position of the second luminance block 20b are predicted. Furthermore, after the third luminance block 20c is decoded, downsampling of the luminance signal is performed, and without waiting for the completion of the decoding of the fourth luminance block 20d, the pixels of the chrominance block 20e corresponding to the position of the third luminance block 20c are predicted. Finally, after the fourth luminance block 20d is decoded, downsampling of the luminance signal is performed, and the pixels of the chrominance block 20e corresponding to the position of the fourth luminance block 20d are predicted.

図21(a)及び図21(b)は、色差ブロックのサイズが輝度ブロックのサイズよりも小さい場合の輝度色差イントラ予測を説明する図である。図21(a)に示す輝度ブロック21aの画素数は16x16であり、図21(b)に示す4分割された第1~第4色差ブロック21b、21c、21d、21eの画素数は4x4である。 Figures 21(a) and 21(b) are diagrams explaining luminance and chrominance intra prediction when the size of the chrominance block is smaller than the size of the luminance block. The number of pixels of the luminance block 21a shown in Figure 21(a) is 16x16, and the number of pixels of the first to fourth chrominance blocks 21b, 21c, 21d, and 21e divided into four shown in Figure 21(b) is 4x4.

4:2:0フォーマットにおいて、輝度ブロックが占める面積は、色差ブロックが占める面積の1/2であるから、輝度ブロックの画素数が16x16であり、色差ブロックの画素数が4x4である場合、色差ブロックのサイズの方が小さい。輝度ブロックと色差ブロックのサイズの比較を、ブロックの面積の比較ではなく、ブロック内の画素数の比較で行うには、4:2:0フォーマットの場合、色差ブロックの縦横の画素数を2倍して輝度ブロックの縦横の画素数に換算する。4:2:0フォーマットにおいて、輝度ブロックのサイズが16x16であり、色差ブロックのサイズが4x4である場合、輝度ブロックの画素数に換算した色差ブロックの換算サイズは8x8になり、色差ブロックのサイズの方が小さいことがわかる。 In the 4:2:0 format, the area occupied by a luminance block is half the area occupied by a chrominance block, so if the number of pixels in the luminance block is 16x16 and the number of pixels in the chrominance block is 4x4, the size of the chrominance block is smaller. To compare the sizes of the luminance block and the chrominance block by comparing the number of pixels in the block rather than the area of the blocks, in the 4:2:0 format, the number of pixels in the chrominance block is doubled to convert it to the number of pixels in the luminance block. In the 4:2:0 format, if the size of the luminance block is 16x16 and the size of the chrominance block is 4x4, the converted size of the chrominance block converted to the number of pixels in the luminance block is 8x8, which shows that the size of the chrominance block is smaller.

色差ブロックのサイズが輝度ブロックのサイズよりも小さい場合、第1色差ブロック21bの周辺画素は、輝度画素、色差画素ともに輝度ブロック21aの復号前から利用できるが、第2~第4色差ブロック21c、21d、21eの周辺画素は、輝度ブロック21aの復号が完了しないと利用できない。つまり、輝度ブロック21aの復号が完了し、第1色差ブロック21bの復号が完了しないと、第2色差ブロック21cについて、図19のステップS1901の輝度信号の周辺画素と色差信号の周辺画素間の相関度合いを算出できない。同様に、第3色差ブロック21dについて、輝度ブロック21aの復号が完了し、第1、第2色差ブロック21b、21cの復号が完了しないと、第3色差ブロック21dについて、輝度信号の周辺画素と色差信号の周辺画素間の相関度合いを算出できない。同様に、第4色差ブロック21eについて、輝度ブロック21aの復号が完了し、第1~第3色差ブロック21b、21c、21dの復号が完了しないと、第4色差ブロック21eについて、輝度信号の周辺画素と色差信号の周辺画素間の相関度合いを算出できない。 When the size of the chrominance block is smaller than the size of the luminance block, the neighboring pixels of the first chrominance block 21b can be used before the luminance block 21a is decoded, both as luminance pixels and chrominance pixels, but the neighboring pixels of the second to fourth chrominance blocks 21c, 21d, and 21e cannot be used until the luminance block 21a is decoded. In other words, the degree of correlation between the neighboring pixels of the luminance signal and the neighboring pixels of the chrominance signal in step S1901 of FIG. 19 cannot be calculated for the second chrominance block 21c until the luminance block 21a is decoded and the first and second chrominance blocks 21b and 21c are decoded. Similarly, the degree of correlation between the neighboring pixels of the luminance signal and the neighboring pixels of the chrominance signal cannot be calculated for the third chrominance block 21d until the luminance block 21a is decoded and the first and second chrominance blocks 21b and 21c are decoded. Similarly, for the fourth chrominance block 21e, the degree of correlation between the surrounding pixels of the luminance signal and the surrounding pixels of the chrominance signal cannot be calculated for the fourth chrominance block 21e until the decoding of the luminance block 21a is complete and the decoding of the first to third chrominance blocks 21b, 21c, and 21d is complete.

このように、色差ブロックのサイズが輝度ブロックのサイズよりも小さい場合、輝度色差イントラ予測を行うと、色差ブロックの予測処理において、輝度ブロックと色差ブロック間及び色差ブロック間で処理の依存関係があり並列処理に向かない。そこで、色差ブロックのサイズが輝度ブロックのサイズよりも小さい場合、輝度色差イントラ予測を制限する。輝度色差イントラ予測を制限する方法としては、(1)シンタックスで制限する、(2)イントラ色差モードを置き換える、(3)周辺画素を置き換える、などがある。 In this way, when the size of a chrominance block is smaller than the size of a luminance block, performing luminance/chrominance intra prediction results in processing dependencies between the luminance block and the chrominance block, and between the chrominance blocks, making it unsuitable for parallel processing. Therefore, when the size of a chrominance block is smaller than the size of a luminance block, luminance/chrominance intra prediction is restricted. Methods for restricting luminance/chrominance intra prediction include (1) restricting by syntax, (2) replacing the intra chrominance mode, and (3) replacing surrounding pixels.

図22にイントラ色差予測モードのシンタックスの例を示す。色差予測モードの番号が0の場合、輝度予測モードと同一のイントラ予測モードを色差予測モードに使用する。例えば、輝度予測モードが水平予測モードの場合、色差予測モードも水平予測モードとなる。色差予測モードの番号が1の場合、平均値モード(DCモード)を使用する。DCモードは周辺画素の平均値でイントラ予測する。色差予測モードの番号が2の場合、輝度色差イントラ予測モードを使用する。 Figure 22 shows an example of the syntax for intra chrominance prediction mode. When the chrominance prediction mode number is 0, the same intra prediction mode as the luminance prediction mode is used for the chrominance prediction mode. For example, when the luminance prediction mode is a horizontal prediction mode, the chrominance prediction mode is also a horizontal prediction mode. When the chrominance prediction mode number is 1, average value mode (DC mode) is used. DC mode performs intra prediction using the average value of surrounding pixels. When the chrominance prediction mode number is 2, luminance and chrominance intra prediction mode is used.

輝度色差イントラ予測を制限する方法として、(1)シンタックスで制限する場合、モード2は輝度色差イントラ予測を表すため使用禁止となる。つまり、モード2は伝送されず、イントラ色差モードはモード0とモード1から選択される。 As a method for restricting luminance and chrominance intra prediction, (1) when restricting by syntax, mode 2 is prohibited from use because it represents luminance and chrominance intra prediction. In other words, mode 2 is not transmitted, and the intra chrominance mode is selected from mode 0 and mode 1.

輝度色差イントラ予測を制限する方法として、(2)イントラ色差モードを置き換える場合、色差予測モードの番号がモード2として指定された場合に、輝度色差イントラ予測モードではなく、代わりに垂直予測モードを使用する。ただし、置き換える予測モードは垂直予測モードに限らず、他の予測モードでもよい。また、モード0の輝度予測モードとモード2で置き換えるモードが同一になり、使用するモードが重複することがないようにすることがより好ましい。 As a method of restricting luminance and chrominance intra prediction, (2) when replacing an intra chrominance mode, if the chrominance prediction mode number is specified as mode 2, a vertical prediction mode is used instead of the luminance and chrominance intra prediction mode. However, the prediction mode to be replaced is not limited to a vertical prediction mode, and may be another prediction mode. It is also more preferable that the luminance prediction mode of mode 0 and the mode to be replaced by mode 2 are the same, so that there is no overlap in the modes used.

輝度色差イントラ予測を制限する方法として、(3)周辺画素を置き換える場合、図19のステップS1901の輝度信号の周辺画素と色差信号の周辺画素間の相関度合いを算出するための周辺画素を置き換える。図21の第2~第4色差ブロック21c、21d、21eにおいても輝度ブロック21aの復号を待たずに周辺画素の相関度合いを算出できるようにする。 When (3) replacing surrounding pixels as a method for limiting luminance and chrominance intra prediction, the surrounding pixels are replaced to calculate the degree of correlation between the surrounding pixels of the luminance signal and the surrounding pixels of the chrominance signal in step S1901 of FIG. 19. This allows the degree of correlation between the surrounding pixels to be calculated for the second to fourth chrominance blocks 21c, 21d, and 21e of FIG. 21 as well, without waiting for the decoding of the luminance block 21a.

周辺画素の置き換えの例を図23に示す。第2色差ブロック21cの左辺の周辺画素として通常は第1色差ブロック21b内の画素を使用するが、第1色差ブロック21b内の画素を使用するには、輝度ブロック21a及び第1色差ブロック21bの復号完了を待つ必要がある。そこで、輝度ブロック21aの復号完了を待たずに使用可能な領域21fを第2色差ブロック21cの周辺画素として使用する。同様に、第3色差ブロック21dについても、輝度ブロック21aの復号完了を待たずに使用可能な領域21fを第3色差ブロック21dの周辺画素として使用する。同様に、第4色差ブロック21eについても、輝度ブロック21aの復号完了を待たずに使用可能な領域21fを第4色差ブロック21eの周辺画素として使用する。 An example of replacing peripheral pixels is shown in FIG. 23. Normally, pixels in the first chrominance block 21b are used as peripheral pixels on the left side of the second chrominance block 21c, but to use pixels in the first chrominance block 21b, it is necessary to wait for the completion of decoding of the luminance block 21a and the first chrominance block 21b. Therefore, the area 21f that can be used without waiting for the completion of decoding of the luminance block 21a is used as peripheral pixels of the second chrominance block 21c. Similarly, for the third chrominance block 21d, the area 21f that can be used without waiting for the completion of decoding of the luminance block 21a is used as peripheral pixels of the third chrominance block 21d. Similarly, for the fourth chrominance block 21e, the area 21f that can be used without waiting for the completion of decoding of the luminance block 21a is used as peripheral pixels of the fourth chrominance block 21e.

このように、第1の実施の形態では、輝度色差イントラ予測を行う際に、色差ブロックのサイズが輝度ブロックのサイズよりも小さい場合、輝度色差イントラ予測を制限することにより、輝度ブロックと色差ブロック間で処理の依存関係を緩和することが可能になる。これにより、輝度ブロックと色差ブロックの並列処理が可能になり、符号化・復号化の処理量を削減できる。 In this way, in the first embodiment, when performing luminance/chrominance intra prediction, if the size of the chrominance block is smaller than the size of the luminance block, it is possible to alleviate the processing dependency between the luminance block and the chrominance block by restricting the luminance/chrominance intra prediction. This enables parallel processing of the luminance block and the chrominance block, thereby reducing the amount of processing required for encoding and decoding.

(第2の実施の形態)
本発明の第2の実施の形態について説明する。第2の実施の形態では、輝度ブロックと色差ブロックのサイズの大小関係ではなく、輝度ブロックのサイズと色差ブロックのサイズのそれぞれを独立に評価して輝度色差イントラ予測を制限することが第1の実施の形態とは異なり、それ以外の構成と動作は第1の実施の形態と同じである。
Second Embodiment
A second embodiment of the present invention will be described below. The second embodiment differs from the first embodiment in that luminance and chrominance intra prediction is restricted by evaluating the sizes of luminance blocks and chrominance blocks independently, rather than by the size relationship between luminance blocks and chrominance blocks. Other configurations and operations are the same as those of the first embodiment.

まず、輝度ブロックのサイズに基づく制限について説明する。図24(a)~図24(c)に輝度ブロックのサイズの違いによる輝度色差イントラ予測を示す。図24(a)、図24(b)に示すように、第1輝度ブロック24aは第1色差ブロック24eの位置に対応し、第2輝度ブロック24bは第2色差ブロック24fの位置に対応し、第3輝度ブロック24cは第3色差ブロック24gの位置に対応し、第4輝度ブロック24dは第4色差ブロック24hの位置に対応する。また、図24(c)の輝度ブロック24iは、図24(b)の第1~第4色差ブロック24e、24f、24g、24hの位置に対応する。 First, restrictions based on the size of the luminance block will be described. Figures 24(a) to 24(c) show luminance and chrominance intra prediction based on different sizes of luminance blocks. As shown in Figures 24(a) and 24(b), the first luminance block 24a corresponds to the position of the first chrominance block 24e, the second luminance block 24b corresponds to the position of the second chrominance block 24f, the third luminance block 24c corresponds to the position of the third chrominance block 24g, and the fourth luminance block 24d corresponds to the position of the fourth chrominance block 24h. Furthermore, the luminance block 24i in Figure 24(c) corresponds to the positions of the first to fourth chrominance blocks 24e, 24f, 24g, and 24h in Figure 24(b).

輝度ブロックと色差ブロックの依存関係について説明する。図24(a)のように輝度ブロックのサイズが小さい場合、第1輝度ブロック24aの復号が完了すると、第1色差ブロック24eの復号が可能になる。第2輝度ブロック24bの復号が完了すると、第2色差ブロック24fの復号が可能になる。第3輝度ブロック24cの復号が完了すると、第3色差ブロック24gの復号が可能になる。第4輝度ブロック24dの復号が完了すると、第4色差ブロック24hの復号が可能になる。 The dependency between the luminance block and the chrominance block will be explained. When the size of the luminance block is small as shown in FIG. 24(a), once the decoding of the first luminance block 24a is complete, the first chrominance block 24e can be decoded. Once the decoding of the second luminance block 24b is complete, the second chrominance block 24f can be decoded. Once the decoding of the third luminance block 24c is complete, the third chrominance block 24g can be decoded. Once the decoding of the fourth luminance block 24d is complete, the fourth chrominance block 24h can be decoded.

一方、図24(c)のように輝度ブロックのサイズが大きい場合、輝度ブロック24iの復号が完了しないと、第1~第4色差ブロック24e、24f、24g、24hの復号はすべて可能にならない。 On the other hand, when the size of the luminance block is large as in FIG. 24(c), the first to fourth chrominance blocks 24e, 24f, 24g, and 24h cannot be decoded until the decoding of luminance block 24i is completed.

輝度ブロックの分割と色差ブロックの分割を独立して決定する場合、輝度ブロックの絶対サイズが大きいと、色差ブロックのサイズが輝度ブロックのサイズよりも小さくなる可能性が高まる。そこで、輝度ブロックの絶対サイズが所定サイズ以上の場合、対応する色差ブロックの輝度色差イントラ予測を制限する。 When the division of the luma block and the division of the chroma block are determined independently, if the absolute size of the luma block is large, there is a high possibility that the size of the chroma block will be smaller than the size of the luma block. Therefore, if the absolute size of the luma block is equal to or larger than a predetermined size, the luma/chroma intra prediction of the corresponding chroma block is restricted.

同様に、色差ブロックの絶対サイズが小さいと、色差ブロックのサイズが輝度ブロックのサイズよりも小さくなる可能性が高まる。そこで、色差ブロックの絶対サイズが所定サイズ以下の場合、色差ブロックの輝度色差イントラ予測を制限する。 Similarly, if the absolute size of the chrominance block is small, there is a high possibility that the size of the chrominance block will be smaller than the size of the luma block. Therefore, if the absolute size of the chrominance block is equal to or smaller than a predetermined size, luma-chrominance intra prediction of the chrominance block is restricted.

輝度色差イントラ予測の制限方法は、第1の実施の形態と同様である。 The method for limiting luminance and chrominance intra prediction is the same as in the first embodiment.

このように、第2の実施の形態では、輝度ブロックの絶対サイズが閾値よりも大きい場合、又は、色差ブロックの絶対サイズが閾値よりも小さい場合に、輝度色差イントラ予測を制限する。これにより、色差ブロックのサイズが輝度ブロックのサイズよりも小さくなる場合を予想して、輝度色差イントラ予測を制限し、輝度ブロックと色差ブロック間で処理の依存関係を確率的に緩和することが可能になる。 In this way, in the second embodiment, when the absolute size of the luma block is larger than the threshold value, or when the absolute size of the chroma block is smaller than the threshold value, luma and chroma intra prediction is restricted. This makes it possible to predict the case where the size of the chroma block will be smaller than the luma block size, thereby restricting luma and chroma intra prediction and probabilistically alleviating the processing dependency between the luma block and the chroma block.

(第3の実施の形態)
本発明の第3の実施の形態について説明する。第3の実施の形態では、ブロック分割部101において、色差ブロックのサイズが輝度ブロックのサイズより小さくならないように、色差ブロックを分割することが第1の実施の形態とは異なり、それ以外の構成と動作は第1の実施の形態と同じである。ブロック分割部101は、色差ブロックを分割する際、色差ブロックのサイズが輝度ブロックのサイズ未満になるような分割を禁止する。これにより、輝度色差イントラ予測において、色差ブロックのサイズが輝度ブロックのサイズより小さくなることが回避され、輝度ブロックと色差ブロックの並列処理が常に可能になる。
Third Embodiment
A third embodiment of the present invention will be described. In the third embodiment, the block division unit 101 divides the chrominance block so that the size of the chrominance block is not smaller than the size of the luminance block, which is different from the first embodiment, and the other configurations and operations are the same as those of the first embodiment. When dividing the chrominance block, the block division unit 101 prohibits division such that the size of the chrominance block is smaller than the size of the luminance block. This prevents the size of the chrominance block from becoming smaller than the size of the luminance block in luminance/chrominance intra prediction, and allows parallel processing of the luminance block and the chrominance block at all times.

以上述べた実施の形態の画像符号化装置が出力する画像の符号化ビットストリームは、実施の形態で用いられた符号化方法に応じて復号化することができるように特定のデータフォーマットを有しており、画像符号化装置に対応する画像復号化装置がこの特定のデータフォーマットの符号化ビットストリームを復号化することができる。 The image coding bit stream output by the image coding device of the embodiment described above has a specific data format so that it can be decoded according to the coding method used in the embodiment, and an image decoding device corresponding to the image coding device can decode the coded bit stream of this specific data format.

画像符号化装置と画像復号化装置の間で符号化ビットストリームをやりとりするために、有線または無線のネットワークが用いられる場合、符号化ビットストリームを通信路の伝送形態に適したデータ形式に変換して伝送してもよい。その場合、画像符号化装置が出力する符号化ビットストリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワークに送信する送信装置と、ネットワークから符号化データを受信して符号化ビットストリームに復元して画像復号化装置に供給する受信装置とが設けられる。 When a wired or wireless network is used to exchange coded bitstreams between an image coding device and an image decoding device, the coded bitstream may be converted into a data format suitable for the transmission mode of the communication channel and transmitted. In this case, a transmitting device is provided that converts the coded bitstream output by the image coding device into coded data in a data format suitable for the transmission mode of the communication channel and transmits it to the network, and a receiving device is provided that receives the coded data from the network, restores it to a coded bitstream, and supplies it to the image decoding device.

送信装置は、画像符号化装置が出力する符号化ビットストリームをバッファするメモリと、符号化ビットストリームをパケット化するパケット処理部と、パケット化された符号化データをネットワークを介して送信する送信部とを含む。受信装置は、パケット化された符号化データをネットワークを介して受信する受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット処理して符号化ビットストリームを生成し、画像復号化装置に提供するパケット処理部とを含む。 The transmitting device includes a memory that buffers the coded bitstream output by the image coding device, a packet processing unit that packetizes the coded bitstream, and a transmitting unit that transmits the packetized coded data via a network. The receiving device includes a receiving unit that receives the packetized coded data via a network, a memory that buffers the received coded data, and a packet processing unit that packetizes the coded data to generate a coded bitstream and provides it to the image decoding device.

また、画像復号化装置で復号化された画像を表示する表示部を構成に追加することで、表示装置とすることも可能である。その場合、表示部は、復号画像信号重畳部205により生成され、復号画像メモリ206に格納された復号画像信号を読み出して画面に表示する。 It is also possible to make it into a display device by adding a display unit that displays the image decoded by the image decoding device. In that case, the display unit reads out the decoded image signal generated by the decoded image signal superimposition unit 205 and stored in the decoded image memory 206, and displays it on a screen.

また、撮像部を構成に追加し、撮像した画像を画像符号化装置に入力することで、撮像装置とすることも可能である。その場合、撮像部は、撮像した画像信号をブロック分割部101に入力する。 It is also possible to configure an imaging device by adding an imaging unit to the configuration and inputting the captured image to the image encoding device. In this case, the imaging unit inputs the captured image signal to the block division unit 101.

以上の符号化及び復号化に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置として実現することができるのは勿論のこと、ROM(リード・オンリ・メモリ)やフラッシュメモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによっても実現することができる。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ等で読み取り可能な記録媒体に記録して提供することも、有線あるいは無線のネットワークを通してサーバから提供することも、地上波あるいは衛星ディジタル放送のデータ放送として提供することも可能である。 The above encoding and decoding processes can of course be realized as transmission, storage, and receiving devices using hardware, but can also be realized by firmware stored in ROM (read only memory) or flash memory, or by software on a computer, etc. The firmware and software programs can be provided by recording them on a recording medium that can be read by a computer, or by providing them from a server via a wired or wireless network, or as data broadcasting via terrestrial or satellite digital broadcasting.

以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。 The present invention has been described above based on the embodiments. The embodiments are merely examples, and it will be understood by those skilled in the art that various modifications are possible in the combination of each component and each processing process, and that such modifications are also within the scope of the present invention.

100 画像符号化装置、 101 ブロック分割部、 102 予測画像生成部、 103 残差信号生成部、 104 直交変換・量子化部、 105 符号化ビット列生成部、 106 逆量子化・逆直交変換部、 107 復号画像信号重畳部、 108 復号画像メモリ、 200 画像復号化装置、 201 ビット列復号部、 202 ブロック分割部、 203 逆量子化・逆直交変換部、 204 予測画像生成部、 205 復号画像信号重畳部、 206 復号画像メモリ。 100 Image encoding device, 101 Block division unit, 102 Prediction image generation unit, 103 Residual signal generation unit, 104 Orthogonal transformation and quantization unit, 105 Encoding bit string generation unit, 106 Inverse quantization and inverse orthogonal transformation unit, 107 Decoded image signal superimposition unit, 108 Decoded image memory, 200 Image decoding device, 201 Bit string decoding unit, 202 Block division unit, 203 Inverse quantization and inverse orthogonal transformation unit, 204 Prediction image generation unit, 205 Decoded image signal superimposition unit, 206 Decoded image memory.

Claims (8)

画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化装置であって、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割部と、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割部と、
輝度信号を予測する輝度信号予測部と、
色差信号を予測する色差信号予測部と、
予測モードを符号化してビットストリームを生成する符号化部とを含み、
前記輝度信号ブロック分割部は、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割部は、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測部は、符号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に送信するシンタックス構造を有する
ことを特徴とする画像符号化装置。
An image coding apparatus that divides an image into blocks and codes the image in units of the divided blocks,
a luminance signal block division unit that divides a luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division unit that divides the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction unit for predicting a luminance signal;
a color difference signal prediction unit for predicting a color difference signal;
an encoding unit that encodes the prediction mode to generate a bit stream;
the luminance signal block division unit divides the luminance signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
the color difference signal block division unit divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
The chrominance signal prediction unit is capable of luminance/chrominance intra prediction for predicting a chrominance signal from an encoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is transmitted before information indicating whether to divide into two parts.
1. An image encoding device comprising:
画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化方法であって、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、
輝度信号を予測する輝度信号予測ステップと、
色差信号を予測する色差信号予測ステップと、
予測モードを符号化してビットストリームを生成する符号化ステップとを含み、
前記輝度信号ブロック分割ステップは、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割ステップは、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測ステップは、符号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に送信するシンタックス構造を有する
ことを特徴とする画像符号化方法。
1. An image coding method for dividing an image into blocks and coding the divided blocks, comprising the steps of:
a luminance signal block division step of dividing the luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division step of dividing the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction step of predicting a luminance signal;
a color difference signal prediction step of predicting a color difference signal;
and an encoding step of encoding the prediction mode to generate a bitstream,
The luminance signal block division step recursively divides the luminance signal of the image into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The color difference signal block dividing step divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
the chrominance signal prediction step is capable of luminance/chrominance intra prediction for predicting a chrominance signal from an encoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is transmitted before information indicating whether to divide into two parts.
13. An image coding method comprising:
画像をブロックに分割し、分割されたブロック単位で符号化を行う画像符号化プログラムであって、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、
輝度信号を予測する輝度信号予測ステップと、
色差信号を予測する色差信号予測ステップと、
予測モードを符号化してビットストリームを生成する符号化ステップとをコンピュータに実行させ、
前記輝度信号ブロック分割ステップは、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割ステップは、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測ステップは、符号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に送信するシンタックス構造を有する
ことを特徴とする画像符号化プログラム。
An image encoding program for dividing an image into blocks and encoding the divided blocks,
a luminance signal block division step of dividing the luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division step of dividing the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction step of predicting a luminance signal;
a color difference signal prediction step of predicting a color difference signal;
and an encoding step of encoding the prediction mode to generate a bitstream;
The luminance signal block division step divides the luminance signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
the color difference signal block dividing step divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
the chrominance signal prediction step is capable of luminance/chrominance intra prediction for predicting a chrominance signal from an encoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is transmitted before information indicating whether to divide into two parts.
2. An image encoding program comprising:
画像を分割したブロック単位で復号を行う画像復号装置であって、
符号化されたビットストリームを復号して予測モードを得る復号部と、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割部と、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割部と、
輝度信号を予測する輝度信号予測部と、
色差信号を予測する色差信号予測部とを含み、
前記輝度信号ブロック分割部は、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割部は、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測部は、復号された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に受信するシンタックス構造を有する
ことを特徴とする画像復号装置。
An image decoding device that decodes an image in units of blocks obtained by dividing the image,
a decoding unit for decoding the encoded bitstream to obtain a prediction mode;
a luminance signal block division unit that divides a luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division unit that divides the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction unit for predicting a luminance signal;
a color difference signal prediction unit for predicting a color difference signal,
the luminance signal block division unit divides the luminance signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
the color difference signal block division unit divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
The chrominance signal prediction unit is capable of luminance/chrominance intra prediction for predicting a chrominance signal from a decoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is received before information indicating whether to divide into two parts.
2. An image decoding device comprising:
画像を分割したブロック単位で復号を行う画像復号方法であって、
符号化されたビットストリームを復号して予測モードを得る復号ステップと、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、
輝度信号を予測する輝度信号予測ステップと、
色差信号を予測する色差信号予測ステップとを含み、
前記輝度信号ブロック分割ステップは、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割ステップは、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測ステップは、復号された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に受信するシンタックス構造を有する
ことを特徴とする画像復号方法。
An image decoding method for decoding an image in units of blocks obtained by dividing the image, comprising the steps of:
a decoding step for decoding the encoded bitstream to obtain a prediction mode;
a luminance signal block division step of dividing the luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division step of dividing the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction step of predicting a luminance signal;
a color difference signal prediction step of predicting a color difference signal,
The luminance signal block division step divides the luminance signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
the color difference signal block dividing step divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
the chrominance signal prediction step is capable of luminance/chrominance intra prediction for predicting a chrominance signal from a decoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is received before information indicating whether to divide into two parts.
2. An image decoding method comprising:
画像を分割したブロック単位で復号を行う画像復号プログラムであって、
符号化されたビットストリームを復号して予測モードを得る復号ステップと、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、
輝度信号を予測する輝度信号予測ステップと、
色差信号を予測する色差信号予測ステップとをコンピュータに実行させ、
前記輝度信号ブロック分割ステップは、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割ステップは、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測ステップは、復号された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に受信するシンタックス構造を有する
ことを特徴とする画像復号プログラム。
An image decoding program for decoding an image in units of divided blocks,
a decoding step for decoding the encoded bitstream to obtain a prediction mode;
a luminance signal block division step of dividing the luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division step of dividing the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction step of predicting a luminance signal;
a color difference signal prediction step of predicting a color difference signal;
The luminance signal block division step recursively divides the luminance signal of the image into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The color difference signal block dividing step divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
the chrominance signal prediction step is capable of luminance/chrominance intra prediction for predicting a chrominance signal from a decoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is received before information indicating whether to divide into two parts.
2. An image decoding program comprising:
画像をブロックに分割し、分割されたブロック単位で符号化したビットストリームを記録媒体に格納する格納方法であって、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、
輝度信号を予測する輝度信号予測ステップと、
色差信号を予測する色差信号予測ステップと、
予測モードを符号化してビットストリームを生成する符号化ステップと、
前記ビットストリームを記録媒体に格納する格納ステップと、を含み、
前記輝度信号ブロック分割ステップは、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割ステップは、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測ステップは、符号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に送信するシンタックス構造を有する
ことを特徴とする格納方法。
A method for dividing an image into blocks, encoding the divided blocks, and storing the resulting bit stream on a recording medium, comprising the steps of:
a luminance signal block division step of dividing the luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division step of dividing the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction step of predicting a luminance signal;
a color difference signal prediction step of predicting a color difference signal;
an encoding step of encoding the prediction mode to generate a bitstream;
storing the bitstream on a recording medium ;
The luminance signal block division step divides the luminance signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
The color difference signal block dividing step divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
the chrominance signal prediction step is capable of luminance/chrominance intra prediction for predicting a chrominance signal from an encoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is transmitted before information indicating whether to divide into two parts.
A storage method comprising:
画像をブロックに分割し、分割されたブロック単位で符号化したビットストリームを伝送する伝送方法であって、
前記画像の輝度信号を矩形に分割して輝度信号ブロックを生成する輝度信号ブロック分割ステップと、
前記画像の色差信号を矩形に分割して色差信号ブロックを生成する色差信号ブロック分割ステップと、
輝度信号を予測する輝度信号予測ステップと、
色差信号を予測する色差信号予測ステップと、
予測モードを符号化してビットストリームを生成する符号化ステップと、
前記ビットストリームを伝送する伝送ステップと、を含み、
前記輝度信号ブロック分割ステップは、画像の輝度信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記色差信号ブロック分割ステップは、画像の色差信号を水平方向及び垂直方向に再帰的に4分割又は水平方向若しくは垂直方向に再帰的に2分割し、
前記輝度信号ブロックと前記色差信号ブロックは、イントラ予測の場合にはそれぞれ独立して分割され
前記色差信号予測ステップは、符号化された輝度信号から色差信号を予測する輝度色差イントラ予測が可能であり、前記輝度信号ブロックのサイズが所定サイズ以上の場合、前記輝度色差イントラ予測の使用を禁止し、
インター予測の場合、輝度信号ブロックと色差信号ブロックは、同一のサイズのブロックに分割され
前記ビットストリームは、4分割するかどうかを示す情報を、2分割するかどうかを示す情報よりも先に送信するシンタックス構造を有する
ことを特徴とする伝送方法。
A transmission method for dividing an image into blocks and transmitting a bit stream encoded in units of the divided blocks, comprising the steps of:
a luminance signal block division step of dividing the luminance signal of the image into rectangles to generate luminance signal blocks;
a color difference signal block division step of dividing the color difference signal of the image into rectangles to generate color difference signal blocks;
a luminance signal prediction step of predicting a luminance signal;
a color difference signal prediction step of predicting a color difference signal;
an encoding step of encoding the prediction mode to generate a bitstream;
a transmitting step of transmitting the bitstream ,
The luminance signal block division step divides the luminance signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical direction;
the color difference signal block dividing step divides the color difference signal of the image recursively into four blocks in the horizontal and vertical directions or into two blocks in the horizontal or vertical directions;
The luminance signal block and the chrominance signal block are divided independently in the case of intra prediction ;
the chrominance signal prediction step is capable of luminance/chrominance intra prediction for predicting a chrominance signal from an encoded luminance signal, and prohibits use of the luminance/chrominance intra prediction when a size of the luminance signal block is equal to or larger than a predetermined size;
In the case of inter prediction, the luminance signal block and the chrominance signal block are divided into blocks of the same size ,
The bit stream has a syntax structure in which information indicating whether to divide into four parts is transmitted before information indicating whether to divide into two parts.
A transmission method comprising:
JP2023090936A 2021-08-31 2023-06-01 Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program Active JP7550373B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2023090936A JP7550373B2 (en) 2021-08-31 2023-06-01 Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program
JP2024139055A JP2024161543A (en) 2021-08-31 2024-08-20 Image encoding device and image encoding method, and image decoding device and image decoding method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021141337A JP2022019711A (en) 2020-02-27 2021-08-31 Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method and image decoding program
JP2023090936A JP7550373B2 (en) 2021-08-31 2023-06-01 Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021141337A Division JP2022019711A (en) 2020-02-27 2021-08-31 Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method and image decoding program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024139055A Division JP2024161543A (en) 2021-08-31 2024-08-20 Image encoding device and image encoding method, and image decoding device and image decoding method

Publications (2)

Publication Number Publication Date
JP2023101760A JP2023101760A (en) 2023-07-21
JP7550373B2 true JP7550373B2 (en) 2024-09-13

Family

ID=80204151

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2023090936A Active JP7550373B2 (en) 2021-08-31 2023-06-01 Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program
JP2024139055A Pending JP2024161543A (en) 2021-08-31 2024-08-20 Image encoding device and image encoding method, and image decoding device and image decoding method

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024139055A Pending JP2024161543A (en) 2021-08-31 2024-08-20 Image encoding device and image encoding method, and image decoding device and image decoding method

Country Status (1)

Country Link
JP (2) JP7550373B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013005343A (en) 2011-06-20 2013-01-07 Jvc Kenwood Corp Image encoder, image encoding method and image encoding program
JP2013034163A (en) 2011-06-03 2013-02-14 Sony Corp Image processing device and image processing method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013034163A (en) 2011-06-03 2013-02-14 Sony Corp Image processing device and image processing method
JP2013005343A (en) 2011-06-20 2013-01-07 Jvc Kenwood Corp Image encoder, image encoding method and image encoding program

Also Published As

Publication number Publication date
JP2023101760A (en) 2023-07-21
JP2024161543A (en) 2024-11-19

Similar Documents

Publication Publication Date Title
RU2770686C1 (en) Image encoding device, image encoding method, image decoding device and image decoding method
JP7183334B2 (en) Image encoding device, image encoding method and image encoding program, image decoding device, image decoding method and image decoding program
KR102302932B1 (en) Picture coding apparatus, picture coding method and picture coding program, and picture decoding apparatus, picture decoding method and picture decoding program
JP7550373B2 (en) Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program
JP7276549B2 (en) Image encoding device, image encoding method and image encoding program, image decoding device, image decoding method and image decoding program
JP2022019711A (en) Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method and image decoding program
RU2749503C9 (en) Picture encoding device, picture encoding method and computer readable medium with picture encoding program, and picture decoding device, picture decoding method and computer readable medium with picture decoding program
JP2020010342A (en) Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240820

R150 Certificate of patent or registration of utility model

Ref document number: 7550373

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150