[go: up one dir, main page]

CN104067623A - 运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法 - Google Patents

运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法 Download PDF

Info

Publication number
CN104067623A
CN104067623A CN201380005907.0A CN201380005907A CN104067623A CN 104067623 A CN104067623 A CN 104067623A CN 201380005907 A CN201380005907 A CN 201380005907A CN 104067623 A CN104067623 A CN 104067623A
Authority
CN
China
Prior art keywords
unit
prediction
encoding block
processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201380005907.0A
Other languages
English (en)
Inventor
峯泽彰
杉本和夫
宫泽一之
伊谷裕介
服部亮史
守屋芳美
日和佐宪道
关口俊一
村上笃道
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of CN104067623A publication Critical patent/CN104067623A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/40Tree coding, e.g. quadtree, octree
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

环路滤波器部(11)按照由编码控制部(2)决定了的最大尺寸的编码块单位,实施由加法部(9)生成了的局部解码图像的等级划分,并且针对属于各等级的每个局部解码图像,设计补偿所重叠的失真的滤波器,使用该滤波器,实施该局部解码图像的滤波处理,可变长编码部(13)将由环路滤波器部(11)设计了的属于各等级的局部解码图像中使用的滤波器以及各最大编码块的等级编号作为滤波参数进行编码。

Description

运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法
技术领域
本发明涉及对运动图像高效地进行编码的运动图像编码装置以及运动图像编码方法、和对高效地编码了的运动图像进行解码的运动图像解码装置以及运动图像解码方法。
背景技术
以往,在MPEG、ITU-T H.26x等国际标准影像编码方式中,在将输入影像帧按照由16×16像素块构成的宏块的单位分割而实施了运动补偿预测之后,按照块单位对预测误差信号进行正交变换/量化,从而进行信息压缩。
但是,存在如果压缩率变高,则起因于在实施运动补偿预测时使用的预测参照图像的质量降低,而妨碍压缩效率的问题。
因此,在MPEG-4 AVC/H.264的编码方式(参照非专利文献1)中,通过实施环路内成块滤波器的处理,去除伴随正交变换系数的量化而发生的预测参照图像的块失真。
特别,在帧间实施运动补偿预测的情况下,按照宏块自身、或者将宏块进一步细致地分割而得到的子块的单位,探索运动矢量。
然后,使用该运动矢量,针对由存储器107储存了的参照图像信号实施运动补偿预测,从而生成运动补偿预测图像,求出表示该运动补偿预测图像的预测信号与分割图像信号的差分,从而计算预测误差信号。
另外,预测部102将在得到预测信号时决定了的预测信号生成用参数输出到可变长编码部108。
另外,在预测信号生成用参数中,例如,包括表示如何进行帧内的空间预测的帧内部预测模式、表示帧间的运动量的运动矢量等信息。
压缩部103如果从预测部102接收到预测误差信号,则在通过针对该预测误差信号实施DCT(离散余弦变换)处理而去除了信号相关之后进行量化,从而得到压缩数据。
局部解码部104如果从压缩部103接收到压缩数据,则对该压缩数据进行逆量化,来实施逆DCT处理,从而计算与从预测部102输出了的预测误差信号相当的预测误差信号。
加法器105如果从局部解码部104接收到预测误差信号,则对该预测误差信号和从预测部102输出了的预测信号进行加法计算,来生成局部解码图像。
环路滤波器106去除表示由加法器105生成了的局部解码图像的局部解码图像信号上重叠了的块失真,将失真去除后的局部解码图像信号作为参照图像信号存储到存储器107中。
可变长编码部108如果从压缩部103接收到压缩数据,则对该压缩数据进行熵编码,输出作为其编码结果的比特流。
另外,可变长编码部108在输出比特流时,将从预测部102输出了的预测信号生成用参数复用到比特流而输出。
此处,在非专利文献1公开的编码方式中,环路滤波器106针对DCT的块边界的周边像素,根据量化的粗细、编码模式、运动矢量的偏差程度等信息,决定平滑化强度,降低在块边界发生的失真。
由此,参照图像信号的质量被改善,能够提高以后的编码中的运动补偿预测的效率。
另一方面,在非专利文献1公开的编码方式中,存在以越高的压缩率进行编码,信号的高频分量越丧失,画面整体被过度地平滑化而影像变得模糊这样的问题。
为了解决该问题,在以下的专利文献1中,提出了作为环路滤波器106,应用维纳滤波器(Wiener Filter),以使作为原图像信号的编码对象的图像信号、和与其对应的参照图像信号的平方误差失真成为最小化的方式,构成环路滤波器106的技术。
图22是示出在专利文献1公开的图像编码装置中,利用维纳滤波器的参照图像信号的质量改善的原理的说明图。
在图22中,信号s是与对图21的块分割部101输入的编码对象的图像信号相当的信号,信号s’是从图21的加法器105输出的局部解码图像信号、或者与非专利文献1中的环路滤波器106所致的块边界中发生的失真被降低了的局部解码图像信号相当的信号。
即,信号s’是在信号s上重叠了编码失真(杂音)e的信号。
维纳滤波器被定义为以使该编码失真(杂音)e在平方误差失真的规范内成为最小化的方式,对信号s’实施的滤波器,一般,能够通过信号s’的自相关矩阵Rs’s’、和信号s、s’的互相关矢量Rss’,根据下述式(1),求出滤波系数w。矩阵Rs’s’、Rss’的大小对应于所求出的滤波器的抽头(tap)数。
w = R s ′ s ′ - 1 R ss ′ - - - ( 1 )
通过实施滤波系数w的维纳滤波,得到进行了质量改善的信号s上冒(hat)(因为电子申请,将对字母文字附加的“^”记载为上冒),作为与参照图像信号相当的信号。
另外,在专利文献1中,根据运动信息、图像的局部性的信号特性,对帧进行区域分类(等级分类(class classification)),针对每个等级,设计最佳的维纳滤波器,从而实现了与图像的局部性对应的高精度的失真补偿。
【专利文献1】国际公开第2008/010929号公报
【非专利文献1】MPEG-4 AVC(ISO/IEC14496-10)/ITU-T H.264规格
发明内容
以往的运动图像编码装置如以上那样构成,所以能够实现与编码对象的图像的局部性对应的高精度的失真补偿。但是,关于等级分类,通过与运动信息、图像的局部性的信号特性对应的确定的方法进行,所以存在根据编码对象的图像,滤波处理的效果大幅不同,有时产生几乎看不到利用滤波处理的失真补偿效果的图像的课题。
本发明是为了解决上述那样的课题而完成的,其目的在于得到一种能够提高图像质量的改善精度的运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法。
在本发明的运动图像解码装置中,滤波单元实施像素自适应偏置处理,该像素自适应偏置处理使用等级分类方法,按照最大尺寸的编码块单位,实施由解码图像生成单元生成了的解码图像内的各像素的等级划分,将各等级的偏置值加到属于该等级的像素的像素值。
根据本发明,构成为滤波单元实施像素自适应偏置处理,该像素自适应偏置处理使用等级分类方法,按照最大尺寸的编码块单位,实施由解码图像生成单元生成了的解码图像内的各像素的等级划分,将各等级的偏置值加到属于该等级的像素的像素值,所以具有能够提高图像质量的改善精度的效果。
附图说明
图1是示出本发明的实施方式1的运动图像编码装置的结构图。
图2是示出本发明的实施方式1的运动图像编码装置的处理内容(运动图像编码方法)的流程图。
图3是示出本发明的实施方式1的运动图像解码装置的结构图。
图4是示出本发明的实施方式1的运动图像解码装置的处理内容(运动图像解码方法)的流程图。
图5是示出最大编码块被层次性地分割为多个编码块的例子的说明图。
图6(a)是示出分割后的编码块以及预测块的分布的说明图,(b)是示出通过层次分割分配了编码模式m(Bn)的状况的说明图。
图7是示出编码块Bn内的各预测块Pi n可选择的帧内部预测参数(帧内部预测模式)的一个例子的说明图。
图8是示出在生成li n=mi n=4的情况的预测块Pi n内的像素的预测值时使用的像素的一个例子的说明图。
图9是示出以预测块Pi n内的左上像素为原点的相对坐标的说明图。
图10是示出在本发明的实施方式1的运动图像编码装置的环路滤波器部中使用多个环路滤波处理的情况的结构例的说明图。
图11是示出自适应滤波处理中的最大编码块单位的等级分类的一个例子的说明图。
图12是示出在本发明的实施方式1的运动图像解码装置的环路滤波器部中使用多个环路滤波处理的情况的结构例的说明图。
图13是示出在本发明的实施方式1的运动图像编码装置的环路滤波器部中进行自适应滤波处理的情况的一个例子的流程图。
图14是示出在本发明的实施方式1的运动图像编码装置的环路滤波器部中进行自适应滤波处理的情况的一个例子的流程图。
图15是示出自适应滤波处理中的编码块单位的滤波处理的有无的一个例子的说明图。
图16是示出使用了自适应滤波处理的最大编码块单位的等级编号的Move-To-Front的编码处理的说明图。
图17是示出自适应滤波处理中的最大编码块单位的滤波处理的有无的一个例子的说明图。
图18是示出由本发明的实施方式1的运动图像编码装置的可变长编码部生成的比特流的一个例子的说明图。
图19是示出在本发明的实施方式1的运动图像解码装置的环路滤波器部中进行自适应滤波处理的情况的一个例子的流程图。
图20是示出进行像素自适应偏置处理的情况的等级分类方法的一部分的说明图。
图21是示出在非专利文献1中公开了的图像编码装置的结构图。
图22是示出利用维纳滤波器的参照图像信号的质量改善的原理的说明图。
图23是示出自适应滤波处理或者像素自适应偏置处理中的最大编码块单位的索引的编码的一个例子的说明图。
符号说明
1:块分割部(块分割单元);2:编码控制部(编码控制单元);3:切换开关;4:帧内部预测部(帧内部预测单元);5:运动补偿预测部(运动补偿预测单元);6:减法部(差分图像生成单元);7:变换/量化部(图像压缩单元);8:逆量化/逆变换部(局部解码图像生成单元);9:加法部(局部解码图像生成单元);10:帧内部预测用存储器(帧内部预测单元);11:环路滤波器部(滤波单元);12:运动补偿预测帧存储器(运动补偿预测单元);13:可变长编码部(可变长编码单元);31:可变长解码部(可变长解码单元);32:逆量化/逆变换部(差分图像生成单元);33:切换开关;34:帧内部预测部(帧内部预测单元);35:运动补偿部(运动补偿预测单元);36:加法部(解码图像生成单元);37:帧内部预测用存储器(帧内部预测单元);38:环路滤波器部(滤波单元);39:运动补偿预测帧存储器(运动补偿预测单元);101:块分割部;102:预测部;103:压缩部;104:局部解码部;105:加法器;106:环路滤波器;107:存储器;108:可变长编码部。
具体实施方式
实施方式1.
图1是示出本发明的实施方式1的运动图像编码装置的结构图。
在图1中,块分割部1实施如下处理:如果作为输入图像被输入了影像信号,则将该输入图像分割为作为由编码控制部2决定了的最大尺寸的编码块的最大编码块,并且直至达到由编码控制部2决定了的上限的层次数,将该最大编码块层次性地向各编码块分割。
即,块分割部1实施将输入图像根据由编码控制部2决定了的分割分割为各编码块,输出该编码块的处理。另外,各编码块被分割为成为预测处理单位的一个或者多个预测块。
另外,块分割部1构成了块分割单元。
编码控制部2实施如下处理:决定成为实施编码处理时的处理单位的编码块的最大尺寸,并且决定最大尺寸的编码块被层次性地分割时的上限的层次数,从而决定各个编码块的尺寸。
另外,编码控制部2实施如下处理:从可选择的1个以上的编码模式(表示预测处理单位的预测块的尺寸等不同的1个以上的帧内部编码模式、预测块的尺寸等不同的1个以上的帧之间编码模式)中,选择对从块分割部1输出的编码块应用的编码模式。
作为选择方法的一个例子,有从可选择的1个以上的编码模式中,选择针对从块分割部1输出的编码块的编码效率最高的编码模式的方法。
另外,编码控制部2实施如下处理:在编码效率最高的编码模式是帧内部编码模式的情况下,针对作为上述帧内部编码模式表示的预测处理单位的每个预测块,决定在该帧内部编码模式下实施针对编码块的帧内部预测处理时使用的帧内部预测参数,在编码效率最高的编码模式是帧之间编码模式的情况下,针对作为上述帧之间编码模式表示的预测处理单位的每个预测块,决定在该帧之间编码模式下实施针对编码块的帧之间预测处理时使用的帧之间预测参数。
进而,编码控制部2实施决定对变换/量化部7以及逆量化/逆变换部8提供的预测差分编码参数的处理。在预测差分编码参数中,包括表示成为编码块中的正交变换处理单位的正交变换块的分割信息的正交变换块分割信息、规定进行变换系数的量化时的量化步长的量化参数等。
另外,编码控制部2构成了编码控制单元。
切换开关3实施如下处理:如果由编码控制部2决定了的编码模式是帧内部编码模式,则将从块分割部1输出了的编码块输出到帧内部预测部4,如果由编码控制部2决定了的编码模式是帧之间编码模式,则将从块分割部1输出了的编码块输出到运动补偿预测部5。
帧内部预测部4实施如下处理:在作为与从切换开关3输出了的编码块对应的编码模式,由编码控制部2选择了帧内部编码模式的情况下,针对作为进行该编码块的预测处理时的预测处理单位的每个预测块,参照在帧内部预测用存储器10中储存了的局部解码图像,同时实施使用了由编码控制部2决定了的帧内部预测参数的帧内部预测处理(帧内预测处理)来生成帧内部预测图像。
另外,由帧内部预测部4以及帧内部预测用存储器10构成了帧内部预测单元。
运动补偿预测部5实施如下处理:在作为与从切换开关3输出了的编码块对应的编码模式,由编码控制部2选择了帧之间编码模式的情况下,按照作为预测处理单位的预测块单位,比较编码块和运动补偿预测帧存储器12中储存了的1帧以上的局部解码图像来探索运动矢量,使用该运动矢量和由编码控制部2决定了的参照的帧编号等帧之间预测参数,按照预测块单位,实施针对该编码块的帧之间预测处理(运动补偿预测处理),来生成帧之间预测图像。
另外,由运动补偿预测部5以及运动补偿预测帧存储器12构成了运动补偿预测单元。
减法部6实施如下处理:从由块分割部1输出了的编码块,减去由帧内部预测部4生成了的帧内部预测图像、或者由运动补偿预测部5生成了的帧之间预测图像,将表示作为其减法结果的差分图像的预测差分信号输出到变换/量化部7。另外,减法部6构成了差分图像生成单元。
变换/量化部7实施如下处理:参照由编码控制部2决定了的预测差分编码参数中包含的正交变换块分割信息,按照正交变换块单位实施针对从减法部6输出了的预测差分信号的正交变换处理(例如,DCT(离散余弦变换)、DST(离散正弦变换)、预先针对特定的学习系列进行了基底设计的KL变换等正交变换处理),来计算变换系数,并且参照该预测差分编码参数中包含的量化参数,对该正交变换块单位的变换系数进行量化,将作为量化后的变换系数的压缩数据输出到逆量化/逆变换部8以及可变长编码部13。
另外,变换/量化部7构成了图像压缩单元。
逆量化/逆变换部8实施如下处理:参照由编码控制部2决定了的预测差分编码参数中包含的量化参数以及正交变换块分割信息,按照正交变换块单位,对从变换/量化部7输出了的压缩数据进行逆量化,并且实施针对作为逆量化后的压缩数据的变换系数的逆正交变换处理,来计算与从减法部6输出了的预测差分信号相当的局部解码预测差分信号。
加法部9实施如下处理:对由逆量化/逆变换部8计算了的局部解码预测差分信号、和由帧内部预测部4生成了的帧内部预测图像、或者由运动补偿预测部5生成了的帧之间预测图像进行加法计算,来计算与从块分割部1输出了的编码块相当的局部解码图像。
另外,由逆量化/逆变换部8以及加法部9构成了局部解码图像生成单元。
帧内部预测用存储器10是储存由加法部9计算了的局部解码图像的记录介质。
环路滤波器部11实施对由加法部9计算了的局部解码图像,实施规定的滤波处理,输出滤波处理后的局部解码图像的处理。
具体而言,进行降低正交变换块的边界、预测块的边界中发生的失真的滤波(解块滤波)处理、按照像素单位自适应地对偏置进行加法计算的(像素自适应偏置)处理、自适应地切换维纳滤波器等线性滤波器来进行滤波处理的自适应滤波处理等。
其中,环路滤波器部11既可以构成为进行上述解块滤波处理、像素自适应偏置处理、自适应滤波处理中的1个处理,也可以构成为如图10所示,进行2个以上的滤波处理。
一般,所使用的滤波处理的种类越多,图像质量越提高,但另一方面,处理负荷越高。即,图像质量和处理负荷处于折衷的关系,所以依照运动图像编码装置容许的处理负荷,决定结构即可。
另外,环路滤波器部11构成了滤波单元。
此处,关于像素自适应偏置处理,首先,即使在未按照最大编码块单位进行偏置处理的情况下,仍被定义为等级分类方法之一,从预先准备了的多个等级分类方法中,选择1个等级分类方法。
接下来,通过选择了的等级分类方法,对块内的各像素进行等级分类,针对每个等级,计算编码对象图像与局部解码图像之间的亮度值的平方误差和成为最小的偏置值。
最后,通过进行对局部解码图像的亮度值加上该偏置值的处理,改善局部解码图像的图像质量。
因此,在像素自适应偏置处理中,将表示最大编码块单位的等级分类方法的索引、最大编码块单位的各等级的偏置值作为滤波参数的一部分输出到可变长编码部13。
另外,在自适应滤波处理中,如图11所示,还包括不按照最大编码块单位进行滤波处理的情况而进行等级分类(群组分类)(在图11的例子中等级编号0表示“无滤波处理”),针对属于各等级(群组)的每个区域(局部解码图像),设计补偿所重叠的失真的滤波器,使用该滤波器,来实施该局部解码图像的滤波处理。
然后,将上述等级(群组)的数量(滤波器数)、属于各等级(群组)的局部解码图像的滤波器、作为最大编码块单位的等级(群组)的识别信息的等级编号(滤波器编号)作为滤波参数的一部分输出到可变长编码部13。
另外,在进行像素自适应偏置处理以及自适应滤波处理的情况下,需要在环路滤波器部11中参照影像信号,所以需要以将影像信号输入到环路滤波器部11的方式,变更图1的运动图像编码装置。
另外,作为一起使用像素自适应偏置处理和自适应滤波处理的方法,也可以并非图10所示的形状,而按照最大编码块单位最佳地选择像素自适应偏置处理和自适应滤波处理中的某一方。由此,能够在抑制每个最大编码块的滤波处理的运算量的同时,实现高精度的滤波处理。其中,在这样构成了的情况下,将是进行最大编码块单位的像素自适应偏置处理还是进行自适应滤波处理的选择信息作为滤波参数的一部分输出到可变长编码部13。
运动补偿预测帧存储器12是储存环路滤波器部11的滤波处理后的局部解码图像的记录介质。
可变长编码部13实施如下处理:对从变换/量化部7输出了的压缩数据、编码控制部2的输出信号(最大编码块内的块分割信息、编码模式、预测差分编码参数、帧内部预测参数或者帧之间预测参数)、从运动补偿预测部5输出了的运动矢量(编码模式是帧之间编码模式的情况)、以及从环路滤波器部11输出了的滤波参数进行可变长编码,来生成比特流。另外,可变长编码部13构成了可变长编码单元。
在图1的例子中,设想了作为运动图像编码装置的构成要素的块分割部1、编码控制部2、切换开关3、帧内部预测部4、运动补偿预测部5、减法部6、变换/量化部7、逆量化/逆变换部8、加法部9、帧内部预测用存储器10、环路滤波器部11、运动补偿预测帧存储器12以及可变长编码部13的各个由专用的硬件(例如,安装了CPU的半导体集成电路、单片式微型计算机等)构成的例子,但在运动图像编码装置由计算机构成的情况下,也可以将记述了块分割部1、编码控制部2、切换开关3、帧内部预测部4、运动补偿预测部5、减法部6、变换/量化部7、逆量化/逆变换部8、加法部9、环路滤波器部11以及可变长编码部13的处理内容的程序储存到计算机的存储器中,该计算机的CPU执行该存储器中储存了的程序。
图2是示出本发明的实施方式1的运动图像编码装置的处理内容(运动图像编码方法)的流程图。
图3是示出本发明的实施方式1的运动图像解码装置的结构图。
在图3中,可变长解码部31如果输入了由图1的运动图像编码装置生成了的比特流,则从该比特流,对表示层次性地分割了的各个编码块的分割状况的块分割信息进行可变长解码。
另外,可变长解码部31实施如下处理:参照块分割信息,按照最大解码块(与图1的运动图像编码装置的“最大编码块”相当的块)单位,确定作为将最大解码块层次性地分割而进行解码处理的单位的解码块(与图1的运动图像编码装置的“编码块”相当的块),对与各个解码块有关的压缩数据、编码模式、帧内部预测参数(编码模式是帧内部编码模式的情况)、帧之间预测参数(编码模式是帧之间编码模式的情况)、预测差分编码参数以及运动矢量(编码模式是帧之间编码模式的情况)进行可变长解码,并且对在每个最大解码块的环路滤波器部38中使用的滤波参数进行可变长解码。另外,可变长解码部31构成了可变长解码单元。
逆量化/逆变换部32实施如下处理:参照由可变长解码部31可变长解码了的预测差分编码参数中包含的量化参数以及正交变换块分割信息,按照正交变换块单位,对由可变长解码部31可变长解码了的压缩数据进行逆量化,并且实施针对作为逆量化后的压缩数据的变换系数的逆正交变换处理,计算与从图1的逆量化/逆变换部8输出了的局部解码预测差分信号相同的解码预测差分信号。另外,逆量化/逆变换部32构成了差分图像生成单元。
切换开关33实施如下处理:如果由可变长解码部31可变长解码了的编码模式是帧内部编码模式,则将由可变长解码部31可变长解码了的帧内部预测参数输出到帧内部预测部34,如果由可变长解码部31可变长解码了的编码模式是帧之间编码模式,则将由可变长解码部31可变长解码了的帧之间预测参数以及运动矢量输出到运动补偿部35。
帧内部预测部34实施如下处理:在与根据由可变长解码部31可变长解码了的块分割信息确定的解码块有关的编码模式是帧内部编码模式的情况下,针对作为进行该解码块的预测处理时的预测处理单位的每个预测块,参照帧内部预测用存储器37中储存了的解码图像,同时实施使用了从切换开关33输出了的帧内部预测参数的帧内部预测处理(帧内预测处理),来生成帧内部预测图像。
另外,由帧内部预测部34以及帧内部预测用存储器37构成了帧内部预测单元。
运动补偿部35实施如下处理:在与根据由可变长解码部31可变长解码了的块分割信息确定的解码块有关的编码模式是帧之间编码模式的情况下,针对作为进行上述解码块的预测处理时的预测处理单位的每个预测块,参照运动补偿预测帧存储器39中储存了的解码图像,同时实施使用了从切换开关33输出了的运动矢量和帧之间预测参数的帧之间预测处理(运动补偿预测处理),来生成帧之间预测图像。
另外,由运动补偿部35以及运动补偿预测帧存储器39构成了运动补偿预测单元。
加法部36实施如下处理:对由逆量化/逆变换部32计算了的解码预测差分信号、和由帧内部预测部34生成了的帧内部预测图像、或者由运动补偿部35生成了的帧之间预测图像进行加法计算,计算与从图1的加法部9输出了的局部解码图像相同的解码图像。另外,加法部36构成了解码图像生成单元。
帧内部预测用存储器37是储存由加法部36计算了的解码图像的记录介质。
环路滤波器部38实施对由加法部36计算了的解码图像,实施规定的滤波处理,输出滤波处理后的解码图像的处理。
具体而言,进行降低在正交变换块的边界、预测块的边界中发生的失真的滤波(解块滤波)处理、按照像素单位自适应地对偏置进行加法计算的(像素自适应偏置)处理、自适应地切换维纳滤波器等线性滤波器来进行滤波处理的自适应滤波处理等。
其中,环路滤波器部38既可以构成为进行上述解块滤波处理、像素自适应偏置处理、自适应滤波处理中的1个处理,也可以构成为如图12所示,进行2个以上的滤波处理,但必须构成为进行与在运动图像编码装置的环路滤波器部11中进行的滤波处理相同的滤波处理。
另外,环路滤波器部38构成了滤波单元。
此处,在像素自适应偏置处理中,参照由可变长解码部31可变长解码了的滤波参数中包含的表示最大解码块单位的等级分类方法的索引,在该索引并非表示“不进行偏置处理”的索引的情况下,按照最大解码块单位,对块内的各像素进行等级分类。
接下来,通过进行将由可变长解码部31可变长解码了的滤波参数中包含的每个等级的偏置值加到属于该等级的像素的亮度值的处理,改善解码图像的图像质量。
另外,在自适应滤波处理中,参照由可变长解码部31可变长解码了的滤波参数(等级(群组)数(滤波器数)、属于各等级(群组)的局部解码图像的滤波器、作为最大解码块单位的等级(群组)的识别信息的等级编号(滤波器编号)),在该等级编号表示的等级(群组)并非表示“不进行偏置处理”的等级(群组)的情况下,使用与该等级编号对应的滤波器,进行属于该等级(群组)的解码图像的滤波处理。
运动补偿预测帧存储器39是储存环路滤波器部38的滤波处理后的解码图像的记录介质。
另外,作为在抑制环路滤波器部38的滤波处理整体的运算量的同时,一起使用像素自适应偏置处理和自适应滤波处理的方法,在以按照最大编码块单位最佳地选择像素自适应偏置处理和自适应滤波处理中的某一方的方式,构成了运动图像编码装置的环路滤波器部11的情况下,参照由可变长解码部31可变长解码了的滤波参数中包含的、是进行最大解码块单位的像素自适应偏置处理还是进行自适应滤波处理的选择信息,针对每个最大解码块,实施像素自适应偏置处理或者自适应滤波处理。
在图3的例子中,设想了作为运动图像解码装置的构成要素的可变长解码部31、逆量化/逆变换部32、切换开关33、帧内部预测部34、运动补偿部35、加法部36、帧内部预测用存储器37、环路滤波器部38以及运动补偿预测帧存储器39的各个由专用的硬件(例如,安装了CPU的半导体集成电路、单片式微型计算机等)构成了的例子,但在运动图像解码装置由计算机构成的情况下,也可以将记述了可变长解码部31、逆量化/逆变换部32、切换开关33、帧内部预测部34、运动补偿部35、加法部36以及环路滤波器部38的处理内容的程序储存到计算机的存储器中,该计算机的CPU执行该存储器中储存了的程序。
图4是示出本发明的实施方式1的运动图像解码装置的处理内容(运动图像解码方法)的流程图。
接下来,说明动作。
在该实施方式1中,说明将影像的各帧图像作为输入图像,实施根据已编码的附近像素的帧内部预测或者接近帧之间的运动补偿预测,对得到了的预测差分信号实施利用正交变换/量化的压缩处理,之后,进行可变长编码来生成比特流的运动图像编码装置,和对从该运动图像编码装置输出的比特流进行解码的运动图像解码装置。
图1的运动图像编码装置的特征在于,与影像信号的空间/时间方向的局部性的变化自适应地,将影像信号分割为各种尺寸的块,进行帧内/帧间自适应编码。
一般,影像信号具有在空间/时间上信号的复杂度局部性地变化的特性。在空间上观察时,有时在某个影像帧上,例如,如天空、壁等那样的在比较宽的图像区域内具有均匀的信号特性的图样、和包括人物、细致的纹理的绘画等在小的图像区域内具有复杂的纹理图案的图样混合存在。
在时间上观察时,关于天空、壁,在时间方向的图样的变化局部性地小,但关于活动的人物、物体,其轮廓在时间上进行刚体/非刚体的运动,所以时间性的变化大。
在编码处理中,进行通过时间/空间上的预测,生成信号功率、熵小的预测差分信号,来削减整体的码量的处理,但如果能够将在预测中使用的参数均匀地应用于尽可能大的图像信号区域,则能够减小该参数的码量。
另一方面,如果针对时间上/空间上变化大的图像信号图案,将同一预测参数应用于大的图像区域,则预测的错误增加,所以预测差分信号的码量增加。
因此,在时间上/空间上变化大的区域中,期望减小应用同一预测参数来进行预测处理的块尺寸,增加在预测中使用的参数的数据量,降低预测差分信号的功率/熵。
在该实施方式1中,采用为了进行与这样的影像信号的一般的性质适应的编码,首先从规定的最大块尺寸开始预测处理等,层次性地分割影像信号的区域,针对分割了的每个区域,使预测处理、该预测差分的编码处理自适应化的结构。
图1的运动图像编码装置作为处理对象的影像信号格式是指,除了由亮度信号和2个色差信号构成的YUV信号、从数字摄像元件输出的RGB信号等任意的颜色空间的彩色影像信号以外,还有单色图像信号、红外线图像信号等影像帧由水平/垂直二维的数字采样(像素)列构成的任意的影像信号。
其中,各像素的灰度既可以是8比特,也可以是10比特、12比特等灰度。
在以下的说明中,为便于说明,只要没有特别限定,叙述如下情况:设为输入图像的影像信号是YUV信号,并且处理2个色差分量U、V对亮度分量Y被子采样的4:2:0格式的信号。
另外,将与影像信号的各帧对应的处理数据单位称为“图片”。
在该实施方式1中,设为“图片”是被依次扫描(逐行扫描)了的影像帧信号而进行说明,但在影像信号是隔行扫描信号的情况下,“图片”也可以是作为构成影像帧的单位的场图像信号。
首先,说明图1的运动图像编码装置的处理内容。
首先,编码控制部2决定成为编码对象的图片(当前图片)的编码中使用的最大编码块的尺寸、和对最大编码块进行层次分割的层次数的上限(图2的步骤ST1)。
作为最大编码块的尺寸的决定方法,例如,可以根据输入图像的影像信号的分辨率,对所有图片决定同一尺寸,也可以将输入图像的影像信号的局部性的运动的复杂度的差异作为参数进行定量化,在运动剧烈的图片中,决定小的尺寸,另一方面,在运动少的图片中,决定大的尺寸。
作为分割层次数的上限的决定方法,例如,有根据输入图像的影像信号的分辨率对所有图片决定同一层次数的方法、在输入图像的影像信号的运动剧烈的情况下增加层次数而设定为能够检测更细致的运动、在运动少的情况下设定为抑制层次数的方法等。
另外,编码控制部2从可利用的1个以上的编码模式中,选择与层次性地分割的各个编码块对应的编码模式(步骤ST2)。
即,编码控制部2针对最大编码块尺寸的每个图像区域,直至达到之前决定了的分割层次数的上限,层次性地分割为具有编码块尺寸的编码块,决定针对各个编码块的编码模式。
在编码模式中,有一个或者多个帧内部编码模式(总称为“INTRA”)、和一个或者多个帧之间编码模式(总称为“INTER”),编码控制部2从在该图片中可利用的所有编码模式、或者其子集合中,选择与各个编码块对应的编码模式。
其中,由后述的块分割部1层次性地分割的各个编码块被进一步分割为作为进行预测处理的单位的一个或者多个预测块,预测块的分割状态也作为信息包含于编码模式中。即,编码模式是识别具有什么样的预测块分割的帧内部模式或者帧之间编码模式的索引。
关于由编码控制部2实施的编码模式的选择方法,是公知的技术,所以省略详细的说明,例如,有使用可利用的任意的编码模式,实施针对编码块的编码处理来验证编码效率,在可利用的多个编码模式中,选择编码效率最佳的编码模式的方法等。
另外,编码控制部2针对各个编码块的每一个,决定在对差分图像进行压缩时使用的量化参数以及正交变换块分割状态,并且决定在实施预测处理时使用的预测参数(帧内部预测参数或者帧之间预测参数)。
其中,在编码块被进一步分割为进行预测处理的预测块单位的情况下,能够针对每个预测块,选择预测参数(帧内部预测参数或者帧之间预测参数)。
进而,在编码模式是帧内部编码模式的编码块中,如在后面详细叙述,在进行帧内部预测处理时使用与预测块邻接的已编码的像素,所以需要按照预测块单位进行编码,所以可选择的变换块尺寸被限制为预测块的尺寸以下。
编码控制部2将包括量化参数以及变换块尺寸的预测差分编码参数输出到变换/量化部7、逆量化/逆变换部8以及可变长编码部13。
另外,编码控制部2将帧内部预测参数根据需要输出到帧内部预测部4。
另外,编码控制部2将帧之间预测参数根据需要输出到运动补偿预测部5。
块分割部1如果作为输入图像输入了影像信号,则将该输入图像分割为由编码控制部2决定了的最大编码块尺寸,进而将分割了的最大编码块向由编码控制部2决定了的编码块层次性地分割,输出该编码块。
此处,图5是示出最大编码块被层次性地分割为多个编码块的例子的说明图。
在图5中,最大编码块是被记载为“第0层次”的亮度分量具有(L0,M0)的尺寸的编码块。
通过将最大编码块作为出发点,直至用四叉树构造另外确定的规定的深度,层次性地进行分割,得到编码块。
在深度n中,编码块是尺寸(Ln,Mn)的图像区域。
其中,Ln和Mn既可以相同,也可以不同,但在图5中,示出了Ln=Mn的情形。
以后,将由编码控制部2决定的编码块尺寸定义为编码块的亮度分量中的尺寸(Ln,Mn)。
由于进行四叉树分割,所以(Ln+1,Mn+1)=(Ln/2,Mn/2)始终成立。
另外,在RGB信号等所有颜色分量具有同一采样数的彩色影像信号(4:4:4格式)中,所有颜色分量的尺寸成为(Ln,Mn),但在处理4:2:0格式的情况下,对应的色差分量的编码块尺寸成为(Ln/2,Mn/2)。
以后,设为用Bn表示第n层次的编码块,用m(Bn)表示在编码块Bn中可选择的编码模式。
在由多个颜色分量构成的彩色影像信号的情况下,关于编码模式m(Bn),既可以构成为针对每个颜色分量分别使用个别的模式,也可以构成为针对所有颜色分量使用共用的模式。以后,设为只要没有特别限定,是指针对YUV信号、4:2:0格式的编码块的亮度分量的编码模式而进行说明。
关于编码块Bn,如图5所示,通过块分割部1,被分割为表示预测处理单位的一个或者多个预测块。
以后,将属于编码块Bn的预测块记载为Pi n(i是第n层次中的预测块编号)。图5示出P0 0和P1 0的例子。
将如何进行编码块Bn内的预测块的分割作为信息,包含于编码模式m(Bn)中。
关于预测块Pi n,全部依照编码模式m(Bn)进行预测处理,但能够针对每个预测块Pi n,选择个别的预测参数(帧内部预测参数或者帧之间预测参数)。
编码控制部2针对最大编码块,例如生成图6所示那样的块分割状态,确定编码块。
图6(a)的虚线所包围的矩形表示各编码块,处于各编码块内的用斜线涂覆了的块表示各预测块的分割状态。
在图6(b)中,关于图6(a)的例子,用四叉树标志示出通过层次分割分配编码模式m(Bn)的状况。图6(b)的□所包围的节点是被分配了编码模式m(Bn)的节点(编码块)。
将该四叉树标志的信息与编码模式m(Bn)一起从编码控制部2输出到可变长编码部13,复用到比特流中。
切换开关3在由编码控制部2决定了的编码模式m(Bn)是帧内部编码模式的情况(m(Bn)∈INTRA的情况)下,将从块分割部1输出了的编码块Bn输出到帧内部预测部4。
另一方面,在由编码控制部2决定了的编码模式m(Bn)是帧之间编码模式的情况(m(Bn)∈INTER的情况)下,将从块分割部1输出了的编码块Bn输出到运动补偿预测部5。
帧内部预测部4如果由编码控制部2决定了的编码模式m(Bn)是帧内部编码模式(m(Bn)∈INTRA的情况)、且从切换开关3接收到编码块Bn(步骤ST3),则参照帧内部预测用存储器10中储存了的局部解码图像,同时使用由编码控制部2决定了的帧内部预测参数,实施针对该编码块Bn内的各预测块Pi n的帧内部预测处理,生成帧内部预测图像PINTRAi n(步骤ST4)。
另外,运动图像解码装置需要生成与帧内部预测图像PINTRAi n完全相同的帧内部预测图像,所以将在帧内部预测图像PINTRAi n的生成中使用了的帧内部预测参数从编码控制部2输出到可变长编码部13,复用到比特流。
帧内部预测部4的处理内容的详情将后述。
运动补偿预测部5如果由编码控制部2决定了的编码模式m(Bn)是帧之间编码模式(m(Bn)∈INTER的情况)、从切换开关3接收到编码块Bn(步骤ST3),则比较该编码块Bn内的各预测块Pi n和运动补偿预测帧存储器12中储存了的滤波处理后的局部解码图像来探索运动矢量,使用该运动矢量和由编码控制部2决定了的帧之间预测参数,实施针对该编码块Bn内的各预测块Pi n的帧之间预测处理,生成帧之间预测图像PINTERi n(步骤ST5)。
另外,运动图像解码装置需要生成与帧之间预测图像PINTERi n完全相同的帧之间预测图像,所以将在帧之间预测图像PINTERi n的生成中使用了的帧之间预测参数从编码控制部2输出到可变长编码部13,复用到比特流。
另外,将由运动补偿预测部5探索了的运动矢量也输出到可变长编码部13,复用到比特流。
减法部6如果从块分割部1接收到编码块Bn,则从该编码块Bn内的预测块Pi n减去由帧内部预测部4生成了的帧内部预测图像PINTRAi n、或者由运动补偿预测部5生成了的帧之间预测图像PINTERi n中的某一方,将表示作为其减法结果的差分图像的预测差分信号ei n输出到变换/量化部7(步骤ST6)。
变换/量化部7如果从减法部6接收到预测差分信号ei n,则参照由编码控制部2决定了的预测差分编码参数中包含的正交变换块分割信息,按照正交变换块单位,实施针对该预测差分信号ei n的正交变换处理(例如,DCT(离散余弦变换)、DST(离散正弦变换)、预先针对特定的学习系列进行了基底设计的KL变换等正交变换处理),计算变换系数。
另外,变换/量化部7参照该预测差分编码参数中包含的量化参数,对该正交变换块单位的变换系数进行量化,将作为量化后的变换系数的压缩数据输出到逆量化/逆变换部8以及可变长编码部13(步骤ST7)。
逆量化/逆变换部8如果从变换/量化部7接收到压缩数据,则参照由编码控制部2决定了的预测差分编码参数中包含的量化参数以及正交变换块分割信息,按照正交变换块单位,对该压缩数据进行逆量化。
另外,逆量化/逆变换部8按照正交变换块单位,实施针对作为逆量化后的压缩数据的变换系数的逆正交变换处理(例如,逆DCT、逆DST、逆KL变换等),计算与从减法部6输出了的预测差分信号ei n相当的局部解码预测差分信号,输出到加法部9(步骤ST8)。
加法部9如果从逆量化/逆变换部8接收到局部解码预测差分信号,则对该局部解码预测差分信号、和由帧内部预测部4生成了的帧内部预测图像PINTRAi n、或者由运动补偿预测部5生成了的帧之间预测图像PINTERi n中的某一方进行加法计算,从而计算局部解码图像(步骤ST9)。
另外,加法部9将该局部解码图像输出到环路滤波器部11,并且将该局部解码图像储存到帧内部预测用存储器10中。
该局部解码图像成为在以后的帧内部预测处理时使用的已编码的图像信号。
环路滤波器部11如果从加法部9接收到局部解码图像,则对该局部解码图像实施规定的滤波处理,将滤波处理后的局部解码图像储存到运动补偿预测帧存储器12中(步骤ST10)。
环路滤波器部11的处理内容的详情将后述。
直至针对层次性地分割了的所有编码块Bn的处理完成,反复实施步骤ST3~ST9的处理,如果针对所有编码块Bn的处理完成,则转移到步骤ST13的处理(步骤ST11、ST12)。
可变长编码部13对从变换/量化部7输出了的压缩数据、从编码控制部2输出了的最大编码块内的块分割信息(以图6(b)为例子的四叉树信息)、编码模式m(Bn)以及预测差分编码参数、从编码控制部2输出了的帧内部预测参数(编码模式是帧内部编码模式的情况)或者帧之间预测参数(编码模式是帧之间编码模式的情况)、从运动补偿预测部5输出了的运动矢量(编码模式是帧之间编码模式的情况)、以及从环路滤波器部11输出了的滤波参数进行可变长编码,生成表示它们的编码结果的比特流(步骤ST13)。
关于由可变长编码部13实施的滤波参数的可变长编码处理的详情将后述。
接下来,详细说明帧内部预测部4的处理内容。
图7是示出作为编码块Bn内的各预测块Pi n可选择的帧内部预测参数的帧内部预测模式的一个例子的说明图。其中,NI表示帧内部预测模式数。
在图7中,示出帧内部预测模式的索引值、和该帧内部预测模式表示的预测方向矢量,在图7的例子中,被设计成随着可选择的帧内部预测模式的个数增加,预测方向矢量彼此的相对角度变小。
帧内部预测部4如上所述,参照预测块Pi n的帧内部预测参数,实施针对该预测块Pi n的帧内部预测处理,生成帧内部预测图像PINTRAi n,但此处,说明生成亮度信号中的预测块Pi n的帧内部预测信号的帧内部处理。
将预测块Pi n的尺寸设为li n×mi n像素。
图8是示出在生成li n=mi n=4的情况的预测块Pi n内的像素的预测值时使用的像素的一个例子的说明图。
在图8中,将预测块Pi n的上边的已编码的(2×li n+1)个像素、和左边的已编码的(2×mi n)个像素作为在预测中使用的像素,但在预测中使用的像素既可以多于也可以少于图8所示的像素。
另外,在图8中,在预测中使用了预测块Pi n的附近的1行或者1列量的像素,但也可以在预测中使用2行或者2列、或者其以上的像素。
在针对预测块Pi n的帧内部预测模式的索引值是0(平面(Planar)预测)的情况下,使用在预测块Pi n的上边邻接的已编码像素和在预测块Pi n的左边邻接的已编码像素,将根据这些像素和预测块Pi n内的预测对象像素的距离进行插值而得到的值作为预测值,生成预测图像。
在针对预测块Pi n的帧内部预测模式的索引值是2(平均值(DC)预测)的情况下,将在预测块Pi n的上边邻接的已编码像素和在预测块Pi n的左边邻接的已编码像素的平均值作为预测块Pi n内的像素的预测值,生成预测图像。
在帧内部预测模式的索引值是0(平面预测)和2(平均值预测)以外的情况下,根据索引值表示的预测方向矢量υp=(dx,dy),生成预测块Pi n内的像素的预测值。
如果如图9所示,将预测块Pi n的左上像素作为原点,将预测块Pi n内的相对坐标设定为(x,y),则在预测中使用的参照像素的位置成为下述L和邻接像素的交点。
L = x y + k υ p - - - ( 2 )
其中,k是负的标量值。
在参照像素处于整数像素位置的情况下,将该整数像素作为预测对象像素的预测值,在参照像素不处于整数像素位置的情况下,将根据与参照像素邻接的整数像素生成的插值像素作为预测值。
在图8的例子中,参照像素未处于整数像素位置,所以将根据与参照像素邻接的2个像素进行插值而得到的结果作为预测值。另外,不仅邻接的2个像素,也可以根据邻接的2个像素以上的像素生成插值像素作为预测值。
具有通过增加在插值处理中使用的像素,提高插值像素的插值精度的效果,另一方面,插值处理所需的运算的复杂度增加,所以在即使运算负荷大但要求高的编码性能的运动图像编码装置的情况下,优选根据更多的像素生成插值像素。
通过以上叙述的处理,生成针对预测块Pi n内的亮度信号的所有像素的预测像素,输出帧内部预测图像PINTRAi n
另外,关于帧内部预测图像PINTRAi n的生成中使用了的帧内部预测参数(帧内部预测模式),为了复用到比特流,输出到可变长编码部13。
另外,即使在构成为与在之前说明了的MPEG-4 AVC/H.264中的8×8像素的块的帧内部预测时对参照图像实施的平滑化处理同样地,在帧内部预测部4中,将生成预测块Pi n的中间预测图像时的参照像素作为对与预测块Pi n邻接的已编码像素进行了平滑化处理的像素的情况下,也能够进行针对与上述例子同样的中间预测图像的滤波处理。
针对预测块Pi n的色差信号,也通过与亮度信号同样的步骤,实施基于帧内部预测参数(帧内部预测模式)的帧内部预测处理,将在帧内部预测图像的生成中使用了的帧内部预测参数输出到可变长编码部13。
其中,在色差信号中可选择的帧内部预测参数(帧内部预测模式)也可以与亮度信号不同。例如,在YUV信号4:2:0格式的情况下,色差信号(U、V信号)是相对亮度信号(Y信号)将分辨率在水平方向、垂直方向上都缩小为1/2的信号,相比于亮度信号,图像信号的复杂性低,易于预测,所以也可以将可选择的帧内部预测参数设为比亮度信号少的数量,而实现为了对帧内部预测参数进行编码而所需的码量的削减、预测处理的低运算化。
接下来,详细说明环路滤波器部11的处理内容。
环路滤波器部11实施对由加法部9计算了的局部解码图像,实施规定的滤波处理,输出滤波处理后的局部解码图像的处理。
具体而言,进行降低正交变换块的边界、预测块的边界中发生的失真的滤波(解块滤波)处理、按照像素单位自适应地加上偏置的(像素自适应偏置)处理、自适应地切换维纳滤波器等线性滤波器来进行滤波处理的自适应滤波处理等。
其中,环路滤波器部11既可以构成为进行上述解块滤波处理、像素自适应偏置处理、自适应滤波处理中的1个处理,也可以构成为如图10所示,进行2个以上的滤波处理。
一般,所使用的滤波处理的种类越多,图像质量越提高,但另一方面,处理负荷越高。即,图像质量和处理负荷处于折衷的关系,所以依照运动图像编码装置容许的处理负荷,决定结构即可。
此处,在像素自适应偏置处理中,首先,按照最大编码块单位,通过规定的方法,对块内的各像素进行等级分类,针对每个等级,计算编码对象图像与局部解码图像之间的亮度值的平方误差和成为最小的偏置值。
然后,通过进行将各等级的偏置值加到属于该等级的像素(局部解码图像的像素)的亮度值的处理,改善局部解码图像的图像质量。
作为进行等级分类的规定的方法,有按照局部解码图像的亮度值的大小分类的方法、针对图20所示那样的边缘的每个方向根据各像素的周围的状况(是否为边缘部等)分类的方法,关于这些方法,预先对图像编码装置以及图像解码装置共用地准备,即使在不进行偏置处理的情况下,也定义为等级分类方法的一个,在编码侧,按照上述块单位,选择在这些方法中使用哪个方法,来进行等级分类。
另外,比较不在图片整体中进行像素自适应偏置处理的情况、和进行在上述中决定了的像素自适应偏置处理的情况,选择哪一方更佳。
因此,在像素自适应偏置处理中,将图片层级的像素自适应偏置处理的有无信息、和在该有无信息表示“有”的情况下表示最大编码块单位的等级分类方法的索引、最大编码块单位的各等级的偏置值作为滤波参数的一部分输出到可变长编码部13。
接下来,具体说明自适应滤波处理。
图13是示出自适应滤波处理的一个例子的流程图。
在图13的例子中,为了实施最大编码块单位的自适应滤波处理,对各最大编码块执行步骤ST102~ST106的滤波器选择以及滤波处理(步骤ST101)。
说明步骤ST102~ST106的滤波器选择以及滤波处理。
首先,将针对当前的处理对象的最大编码块,不实施滤波处理的情况的成本C0计算为滤波器编号0的情况(步骤ST102)。
作为成本的定义,有下述例子。
成本=D+λ·R (3)
其中,D是块内的编码对象的图像信号、与滤波处理后的局部解码图像信号间的平方误差和,λ是常数。
另外,R是在对用于选择所使用的滤波器的滤波器编号、和与该滤波器编号对应的滤波器的系数进行编码时所需的码量。
此处,虽然用式(3)表示了成本,但例如,也可以仅将平方误差和D作为成本。由此,作为成本的正确性降低,但成本的计算负荷减少。
另外,D也可以并非平方误差和,而是运算负荷更低的误差的绝对值和。
依照运动图像编码装置容许的运算负荷,决定按照什么样的形式定义成本即可。
另外,在不实施滤波处理的情况的成本C0的情况下,D成为编码对象的图像信号和不进行滤波处理的局部解码图像信号间的平方误差和,滤波器所需的码量R成为0。
接下来,以处理对象的最大编码块内的像素为对象,依照式(1)计算使编码对象的图像信号与局部解码图像信号间的平方误差和成为最小化的维纳滤波器(步骤ST103),计算对块内的像素实施了滤波处理的情况的成本Cnew(步骤ST104)。此处,用下述式(4)表示基于维纳的滤波处理。
S′(x0)=a0S(x0)+a1S(xl)+…+aL-1S(xL-1)+aL (4)
其中,x0是滤波处理对象像素、xl(l=0,1,2,···,L-1)是滤波器的参照像素(包括滤波处理对象像素)、L是滤波器的参照像素数。
另外,S(x)表示像素x的亮度值、S’(x)表示像素x中的滤波处理后的亮度值、am(m=0,1,2,···,L)表示滤波系数。
另外,aL表示偏置系数,也可以始终设为aL=0而使偏置系数成为无效。由此,虽然滤波器性能降低,但应编码的滤波系数被削减,能够削减滤波系数的编码所需的码量。
进而,计算使用除了按照当前的处理对象的最大编码块设计了的滤波器以外可使用的滤波器(滤波器编号1,2,···,numbl中设定了的滤波器)实施了滤波处理的情况的成本C1,C2,···,Cnumbl(步骤ST105)。
其中,numbl表示除了按照当前的处理对象的最大编码块设计了的滤波器以外可使用的滤波器的数量。
作为除了按照当前的处理对象的最大编码块设计了的滤波器以外可使用的滤波器的例子,可以举出已经实施了滤波处理的最大编码块中使用了的滤波器、在进行编码处理之前预先准备了的滤波器等。
接下来,在此前计算了的各成本Cnew、C0、C1、C2、···、Cnumbl中,确定成为最小的成本,将与该成本有关的滤波处理决定为当前的处理对象的最大编码块中的滤波处理(步骤ST106)。
此时,在决定了的滤波处理是按照当前的处理对象的最大编码块设计了的滤波器(成本Cnew)的情况下,将该设计了的滤波器设定为接下来的处理对象的最大编码块中可使用的第numbl+1个滤波器(滤波器编号numbl+1),对可使用的滤波器数numbl加上1。
然后,转移到接下来的处理对象的最大编码块的滤波器选择以及滤波处理(步骤ST107)。另外,将在上述中设定了的滤波器编号定义为等级编号,将该滤波器的数量称为等级数。
比较对所有最大编码块实施以上的处理且最后在图片整体中不实施自适应滤波处理的情况、和进行在上述中决定了的最大编码块单位的自适应滤波处理的情况,选择最佳的一方。
因此,在自适应滤波处理中,将图片层级的自适应滤波处理的有无信息、和在该有无信息表示“有”的情况下包括等级数、“无滤波处理”的最大编码块单位的等级编号、各等级的滤波系数作为滤波参数的一部分输出到可变长编码部13。
另外,作为自适应滤波处理的例子,除了图13以外,还考虑图14所示的例子等。
即使在图14的例子中,仅各最大编码块中的滤波处理的选择方法不同,如图11所示,将表示最大编码块单位使用的滤波器的等级编号、和与各等级编号对应的滤波器作为输出到可变长编码部13的滤波参数的点相同。
即,在图14的例子中,预先准备在图片内使用的滤波器(步骤ST108),计算对各最大编码块不进行滤波处理的情况的成本C0(步骤ST110)、和使用了预先准备了的滤波器的情况的成本C1、C2、···、Cnumbl(步骤ST111),选择成本成为最小的最佳的滤波处理(步骤ST112)。
然后,对图片内的所有最大编码块实施步骤ST110~ST112的处理(步骤ST109、ST113),从而决定各最大编码块中的滤波处理。
相比于图13的例子,在图14的例子中,仅使用预先准备了的滤波器集合,所以最大编码块单位的滤波器设计的处理变得不需要。因此,滤波器的最佳性降低,但能够减轻处理负荷。
因此,在比滤波处理的画质改善效果更重视处理负荷的情况下,使用图14的例子即可。
另外,在上述例子中,按照最大编码块单位,决定了最佳的滤波处理,但如果按照比最大编码块小的区域单位考虑,则有存在通过滤波处理而编码对象图像与局部解码图像之间的亮度值的平方误差和增加的情况的可能性。
因此,也可以如图15所示,选择是否按照对最大编码块进行分割而得到的编码块单位实施滤波处理。
由此,能够减少编码对象图像与局部解码图像之间的亮度值的平方误差增加的像素数,所以能够实现高精度的滤波处理。在进行本处理的情况下,需要将编码块单位的滤波处理的有无信息也作为滤波参数进行编码。
另外,即使将本编码块单位的滤波器的ON/OFF处理导入到像素自适应偏置处理,仍得到与导入到自适应滤波处理的情况同样的效果。
进而,在上述例子中,按照最大编码块单位,决定了一个最佳的滤波处理,但也可以按照最大编码块单位内的小块单位,根据局部的性质(分散等亮度值的散乱度、边缘的方向)等,进行群组分类,针对每个该群组,设计滤波器,进行滤波处理。由此,需要按照最大编码块单位,对群组数量的滤波器进行编码,所以虽然滤波器所需的码量增加,但能够按照更小的区域单位,使用最佳的滤波器,所以能够实现高精度的滤波处理。在以进行本处理的方式构成运动图像编码装置的情况下,需要构成为在运动图像解码装置侧也进行与运动图像编码装置相同的群组分类。
另外,作为一起使用像素自适应偏置处理和自适应滤波处理的方法,也可以并非图10所示的方式,而是按照最大编码块单位,最佳地选择像素自适应偏置处理和自适应滤波处理中的某一方。由此,能够在抑制每个最大编码块的滤波处理的运算量的同时,实现高精度的滤波处理。其中,在这样构成了的情况下,将进行最大编码块单位的像素自适应偏置处理还是进行自适应滤波处理的选择信息作为滤波参数的一部分输出到可变长编码部13来进行编码。
另外,在上述例子中,说明了按照最大编码块单位进行像素自适应偏置处理的等级分类方法选择、自适应滤波处理的等级选择,但也可以按照任意的块尺寸进行。由此,在图样不复杂的图像中,按照比最大编码块大的块尺寸进行,从而能够在不怎么降低画质改善性能的情况下削减应编码的块单位的选择信息。另一方面,在图样复杂的图像中,按照比最大编码块小的块尺寸来进行,从而虽然应编码的块单位的选择信息增加,但能够实现追随了复杂的图样的变化的处理,所以得到大的画质改善效果。另外,在如上所述,按照任意的块尺寸单位进行像素自适应偏置处理的等级分类方法选择、自适应滤波处理的等级选择的情况下,将上述块尺寸作为滤波参数的一部分输出到可变长编码部13来进行编码。
接下来,详细说明滤波参数的可变长编码处理。
在可变长编码部13中,对从环路滤波器部11输出了的滤波参数进行可变长编码。
作为滤波参数,作为像素自适应偏置处理所需的参数,有图片层级的像素自适应偏置处理的有无信息、在该有无信息是“有处理”的情况下的表示最大编码块单位的等级分类方法的索引、以及最大编码块单位的各等级的偏置值。
另外,作为自适应滤波处理所需的参数,有图片层级的自适应滤波处理的有无信息、在该有无信息是“有处理”的情况下的等级数、表示最大编码块单位使用的滤波器的等级编号、以及与各等级编号对应的滤波系数。
特别,在自适应滤波处理的最大编码块单位的等级编号的可变长编码中,实施使用了图16所示的Move-To-Front的编码处理。
Move-To-Front是指,在对等级编号进行了编码之后,将该等级编号分配给最小的编码索引(索引0),关于其他等级编号,对对应的编码索引加上1的处理。
通过这样针对每个最大编码块更新编码索引,在等级编号中存在空间的相关的情况下,编码索引的发生概率偏向0附近,通过实施与该发生频度概率对应的可变长编码,能够以高的编码效率进行编码。
进而,在上述编码索引的可变长编码中使用哥伦布(Golomb)码的情况下,编码索引的最大值在解码处理中变得不需要。即,在使用哥伦布码的情况下,等级数变得不需要,所以也可以不编码。因此,如果使用哥伦布码,则能够削减等级数的编码所需的码量。另外,即使在使用了阿尔法码(Unary码)、伽玛码、德尔塔码等的情况下,也同样地,编码索引的最大值在解码处理中变得不需要,所以等级数的编码变得不需要。
或者,也可以针对每个最大编码块,在编码时,通过可选择的滤波器索引数(图13的numbl),每次设计可变长编码的概率模型来进行熵编码。由此,实际上仅根据可选择的滤波器的发生概率进行编码,所以能够实现更高效的编码。另外,即使在该情况下,也无需对等级数进行编码,能够抑制码量。
作为最大编码块单位的等级编号(滤波器编号)的编码方法,也可以如图17所示,首先对最大编码块单位的滤波处理的有无信息进行编码,进而,在该有无信息表示“有滤波处理”的情况下,实施在上述中说明了的等级编号的编码。由此,在无滤波处理的情况的各等级的发生概率、和有滤波处理的情况的各等级的发生概率大幅不同的情况下,能够简化可变长编码的概率模型的设计。
另外,关于表示像素自适应偏置处理的最大编码块单位的等级分类方法的索引的编码,也与上述自适应滤波处理的最大编码块单位的等级编号的编码同样地,如果使用Move-To-Front,则易于使索引的发生概率偏向0附近,实施与该发生频度概率对应的可变长编码,从而能够以高的编码效率进行编码。
关于自适应滤波处理的最大编码块单位的等级编号(等级索引)的编码、和表示像素自适应偏置处理的最大编码块单位的等级分类方法的索引的编码,除了使用上述Move-To-Front的编码方法以外,还能够考虑按照最大编码块单位,对表示是否与周围的块(例如上边和左边的块)相同的标记、在标记表示“相同”的情况下表示与哪个块相同的索引、以及在标记表示“不同”的情况下对编码对象的索引进行编码的方法。
除此以外,还能够考虑如图23所示,对表示是否为与上边的块相同的索引的标记、和表示在右边相同的索引连续几块的参数(run-length)进行编码,仅在编码对象块并非与左边的块相同的索引、且上边的块也并非相同的索引的情况、即在编码对象块的左边的块中run-length结束而表示是否为与上边的块相同的索引的标记表示“不同”的情况下,对编码对象的索引进行编码的方法。
这些方法也与使用Move-To-Front的编码方法同样地,在与编码对象块的左边的块的索引中存在空间的相关的情况下,能够实现高的编码效率。进而,这些方法与使用Move-To-Front的编码方法不同,关于在与编码对象块的上边的块的索引中存在空间的相关的情况,也能够实现高的编码效率。
另外,也可以在头部信息中,对可按照图片单位使用的像素自适应偏置处理的最大偏置数、自适应滤波处理的最大等级数进行编码。由此,为了在解码侧也获知针对每个图片必须解码的最大的偏置数、滤波器数,能够在头部信息中规定用于实现实时解码装置的限制。
此处,图18示出由可变长编码部13生成的比特流。
在比特流中,在图片数据之前插入至少一个序列层级头部和图片层级头部,能够参照各图片的解码所需的参数。
另外,图片数据被分成至少一个以上的切片而编码,切片能够按照对最大编码块进行了分割而得的编码块单位构成。
另外,与图片层级头部同样地,作为滤波参数集合,在图片数据之前,插入至少一个可变长编码而得的滤波参数。
关于各切片,在切片头部中具有表示参照哪个滤波参数集合的索引,从而能够在各切片中参照环路滤波器部11的处理所需的参数。
另外,关于自适应滤波处理和像素自适应偏置处理,如图15所示,在以选择是否按照对最大编码块进行分割而得到的编码块单位实施滤波处理的方式定义了自适应滤波处理的情况下,对该编码块单位的滤波处理的有无信息进行可变长编码而复用到比特流。关于编码了的编码块单位的滤波处理的有无信息,按照图18的切片单位,将各切片具有的编码块的范围的滤波处理的有无信息复用到切片头部中。或者,也可以与其他滤波参数一起作为滤波参数集合复用到比特流。
接下来,具体说明图3的运动图像解码装置的处理内容。
可变长解码部31如果输入了由图1的运动图像编码装置生成了的比特流,则实施针对该比特流的可变长解码处理(图4的步骤ST21),按照由1帧以上的图片构成的序列单位、或者图片单位,对帧尺寸的信息进行解码。
此时,对被编码为滤波参数集合的环路滤波器部38中使用的滤波参数进行解码。
作为滤波参数,作为像素自适应偏置处理所需的参数,有图片层级的像素自适应偏置处理的有无信息、在该有无信息是“有处理”的情况下的表示最大解码块单位的等级分类方法的索引、以及最大解码块单位的各等级的偏置值。
作为自适应滤波处理所需的参数,有图片层级的自适应滤波处理的有无信息、在该有无信息是“有处理”的情况下的等级数、表示最大解码块单位使用的滤波器的等级编号、以及与各等级编号对应的滤波系数。
其中,在使用哥伦布码、阿尔法码(Unary码)、伽玛码、德尔塔码等来进行表示最大解码块单位使用的滤波器的等级编号的编码,或者仅按照在各最大解码块中可选择的等级数设计概率模型来进行熵编码的情况下,即使等级数不明也能够解码,所以无需在运动图像编码装置中对等级数进行编码,在这样运动图像编码装置未对等级数进行编码的情况下,在运动图像解码装置中也不进行等级数的解码。
另外,可变长解码部31通过与运动图像编码装置同样的步骤,决定由图1的运动图像编码装置的编码控制部2决定了的最大编码块尺寸以及分割层次数的上限(步骤ST22)。
例如,在根据影像信号的分辨率决定了最大编码块尺寸、分割层次数的上限的情况下,根据解码了的帧尺寸信息,通过与运动图像编码装置同样的步骤,决定最大编码块尺寸。
在运动图像编码装置侧在比特流中复用了最大编码块尺寸以及分割层次数的上限的情况下,使用从比特流解码了的值。
以后,在运动图像解码装置中,将上述最大编码块尺寸称为最大解码块尺寸,将最大编码块称为最大解码块。
可变长解码部31按照决定了的最大解码块单位,对图6所示那样的最大解码块的分割状态进行解码。根据解码了的分割状态,层次性地确定解码块(与图1的运动图像编码装置的“编码块”相当的块)(步骤ST23)。
接下来,可变长解码部31针对对解码块分配的编码模式进行解码。
可变长解码部31根据该编码模式中包含的信息,将解码块进一步分割为作为一个或者多个预测处理单位的预测块,对按照预测块单位分配的预测参数进行解码(步骤ST24)。
即,可变长解码部31在对解码块分配了的编码模式是帧内部编码模式的情况下,针对包含于解码块中、成为预测处理单位的1个以上的每个预测块,对帧内部预测参数进行解码。
另一方面,在对解码块分配的编码模式是帧之间编码模式的情况下,针对包含于解码块中、成为预测处理单位的1个以上的每个预测块,对帧之间预测参数以及运动矢量进行解码(步骤ST24)。
另外,可变长解码部31根据预测差分编码参数中包含的正交变换块分割信息,针对每个正交变换块,对压缩数据(变换/量化后的变换系数)进行解码(步骤ST24)。
在切换开关33中,如果由可变长解码部31可变长解码了的编码模式m(Bn)是帧内部编码模式(m(Bn)∈INTRA的情况),则将由可变长解码部31可变长解码了的预测块单位的帧内部预测参数输出到帧内部预测部34。
另一方面,如果由可变长解码部31可变长解码了的编码模式m(Bn)是帧之间编码模式(m(Bn)∈INTER的情况),则将由可变长解码部31可变长解码了的预测块单位的帧之间预测参数以及运动矢量输出到运动补偿部35。
帧内部预测部34在由可变长解码部31可变长解码了的编码模式m(Bn)是帧内部编码模式(m(Bn)∈INTRA)的情况(步骤ST25)下,接收从切换开关33输出了的预测块单位的帧内部预测参数,通过与图1的帧内部预测部4同样的步骤,参照帧内部预测用存储器37中储存了的解码图像的同时,实施针对使用了上述帧内部预测参数的解码块Bn内的各预测块Pi n的帧内部预测处理,生成帧内部预测图像PINTRAi n(步骤ST26)。
运动补偿部35在由可变长解码部31可变长解码了的编码模式m(Bn)是帧之间编码模式(m(Bn)∈INTER)的情况(步骤ST25)下,接收从切换开关33输出了的预测块单位的运动矢量和帧之间预测参数,参照运动补偿预测帧存储器39中储存了的滤波处理后的解码图像,同时实施针对使用了该运动矢量和帧之间预测参数的解码块Bn内的各预测块Pi n的帧之间预测处理,生成帧之间预测图像PINTERi n(步骤ST27)。
逆量化/逆变换部32如果从可变长解码部31接收到压缩数据以及预测差分编码参数,则通过与图1的逆量化/逆变换部8同样的步骤,参照该预测差分编码参数中包含的量化参数以及正交变换块分割信息,按照正交变换块单位,对该压缩数据进行逆量化。
另外,逆量化/逆变换部32按照正交变换块单位,实施针对作为逆量化后的压缩数据的变换系数的逆正交变换处理,计算与从图1的逆量化/逆变换部8输出了的局部解码预测差分信号相同的解码预测差分信号(步骤ST28)。
加法部36对由逆量化/逆变换部32计算了的解码预测差分信号、和由帧内部预测部34生成了的帧内部预测图像PINTRAi n、或者由运动补偿部35生成了的帧之间预测图像PINTERi n中的某一方进行加法计算来计算解码图像,将该解码图像输出到环路滤波器部38,并且将该解码图像储存到帧内部预测用存储器37中(步骤ST29)。
该解码图像成为在以后的帧内部预测处理时使用的已解码的图像信号。
在环路滤波器部38中,如果针对所有解码块Bn的步骤ST23~ST29的处理完成(步骤ST30),则对从加法部36输出了的解码图像,实施规定的滤波处理,将滤波处理后的解码图像储存到运动补偿预测帧存储器39中(步骤ST31)。
具体而言,进行降低正交变换块的边界、预测块的边界中发生的失真的滤波(解块滤波)处理、按照像素单位自适应地加上偏置的(像素自适应偏置)处理、自适应地切换维纳滤波器等线性滤波器来进行滤波处理的自适应滤波处理等。
其中,环路滤波器部38既可以构成为进行上述解块滤波处理、像素自适应偏置处理、自适应滤波处理中的1个处理,也可以构成为如图12所示,进行2个以上的滤波处理,但必须构成为进行与在运动图像编码装置的环路滤波器部11中进行的滤波处理相同的滤波处理。
此处,在像素自适应偏置处理中,参照由可变长解码部31可变长解码了的滤波参数中包含的表示最大解码块单位的等级分类方法的索引,从预先准备了的等级分类方法中,确定与该索引对应的等级分类方法,使用该等级分类方法,按照最大解码块单位对块内的各像素进行等级分类。
然后,进行将由可变长解码部31可变长解码了的滤波参数中包含的每个等级的偏置值加到属于该等级的像素(解码图像的像素)的亮度值的处理。
另外,在自适应滤波处理中,参照由可变长解码部31可变长解码了的滤波参数(等级数(滤波器数)、属于各等级的局部解码图像的滤波器、作为块单位的等级的识别信息的等级编号(滤波器编号)),在该等级编号表示的等级并非表示“不进行偏置处理”的等级的情况下,使用与该等级编号对应的滤波器,进行属于该等级的解码图像的滤波处理。
此处,图19示出自适应滤波处理的流程图的一个例子。
在图19的例子中,为了实施最大解码块单位的自适应滤波处理,对各最大解码块执行步骤ST222~ST224的滤波处理(步骤ST221)。
说明步骤ST222~ST224的滤波处理。
首先,根据由可变长解码部31可变长解码了的滤波参数中包含的最大解码块单位的等级编号,判定是否对处理对象的最大解码块实施滤波处理(步骤ST222)。
在进行滤波处理的情况下,使用与上述等级编号对应的滤波器,实施针对块内的像素的滤波处理(步骤ST223)。然后,转移到接下来的最大解码块(ST224)。
对所有最大解码块实施以上的处理,将处理后的解码图像储存到运动补偿预测帧存储器39中。
另外,作为在抑制环路滤波器部38的滤波处理整体的运算量的同时,一起使用像素自适应偏置处理和自适应滤波处理的方法,在以按照最大编码块单位最佳地选择像素自适应偏置处理和自适应滤波处理中的某一方的方式,构成了运动图像编码装置的环路滤波器部11的情况下,参照由可变长解码部31可变长解码了的滤波参数中包含的、是进行最大解码块单位的像素自适应偏置处理还是进行自适应滤波处理的选择信息,针对每个最大解码块,实施像素自适应偏置处理或者自适应滤波处理。
另外,在上述例中,说明了对最大解码块单位的像素自适应偏置处理的等级分类方法选择信息、自适应滤波处理的等级选择信息进行解码来进行环路滤波处理的例子,但在对块尺寸、和该块尺寸单位的像素自适应偏置处理的等级分类方法选择信息、自适应滤波处理的等级选择信息进行编码的方式构成了运动图像编码装置的情况下,通过可变长解码部31,对上述块尺寸、和该块尺寸单位的像素自适应偏置处理的等级分类方法选择信息、自适应滤波处理的等级选择信息进行可变长解码,环路滤波器部38根据这些参数,实施上述块尺寸单位的环路滤波处理。
另外,在切片头部中编码了是否按照对最大解码块进行分割而得到的解码块单位实施滤波处理的信息的情况下,通过可变长解码部31对上述信息进行解码,在步骤ST223的处理中,仅对具有进行滤波处理这样的信息的解码块实施滤波处理。
由该环路滤波器部38实施滤波处理后的解码图像成为运动补偿预测用的参照图像,并且成为再生图像。
如以上可知,根据该实施方式1,构成为运动图像编码装置的环路滤波器部11按照由编码控制部2决定了的最大尺寸的编码块单位,实施由加法部9生成了的局部解码图像的等级划分,并且针对属于各等级的每个局部解码图像,设计补偿所重叠的失真的滤波器,使用该滤波器,实施该局部解码图像的滤波处理,可变长编码部13将通过环路滤波器部11设计了的属于各等级的局部解码图像中使用的滤波器以及各最大编码块的等级编号作为滤波参数进行编码,所以用户能够按照规定的块尺寸单位,通过任意的方法,进行任意的等级数的等级分类,针对属于各等级的每个区域,进行滤波处理,所以起到能够实现与编码对象图像对应的等级分类,能够提高图像质量的改善精度的效果。
根据该实施方式1,构成为参照由运动图像解码装置的可变长解码部31可变长解码了的滤波参数,使用属于各等级的滤波器来进行滤波处理,所以起到通过在运动图像编码装置侧求出最佳的等级分类进行编码,能够提高图像质量的改善精度的效果。
另外,本申请发明能够在本发明的范围内,实现实施方式的任意的构成要素的变形、或者实施方式的任意的构成要素的省略。
产业上的可利用性
本发明的运动图像编码装置以及运动图像编码方法适用于需要对运动图像高效地进行编码的设备,本发明的运动图像编码装置以及运动图像编码方法适用于需要对高效地编码了的运动图像进行解码的设备。
权利要求书(按照条约第19条的修改)
1.一种图像解码装置,其特征在于,具备:
可变长解码单元,从在比特流中复用了的编码数据,对与层次性地分割了的各个编码块有关的压缩数据进行可变长解码,并且从所述编码数据对最大尺寸的每个编码块的滤波参数进行可变长解码;
预测单元,实施针对所述编码块的预测处理来生成预测图像;
差分图像生成单元,从与由所述可变长解码单元可变长解码了的编码块有关的压缩数据,生成压缩前的差分图像;
解码图像生成单元,将由所述差分图像生成单元生成了的差分图像和由所述预测单元生成了的预测图像相加来生成解码图像;以及
滤波单元,对由所述解码图像生成单元生成了的解码图像,实施利用了所述滤波参数的滤波处理,将滤波处理后的解码图像作为再生图像输出,
所述可变长解码单元对针对所述最大尺寸的每个编码块设置了的、表示解码对象的所述最大尺寸的编码块的滤波参数是否为与在所述最大尺寸的编码块的上边或者左边邻接的所述最大尺寸的编码块相同的参数的标记进行可变长解码,在标记表示是相同的参数的情况下,将对应的参数设定为解码对象的所述最大尺寸的编码块的滤波参数。
2.根据权利要求1所述的图像解码装置,其特征在于,
在所述可变长解码单元中,作为所述最大尺寸的每个编码块的滤波参数,对表示等级分类方法的索引以及各等级的偏置值进行可变长解码,
所述滤波单元实施像素自适应偏置处理,该像素自适应偏置处理按照最大尺寸的编码块单位,使用通过表示所述等级分类方法的索引确定的等级分类方法,实施由所述解码图像生成单元生成了的解码图像内的各像素的等级划分,将所述各等级的偏置值加到属于对应的等级的像素的像素值。
3.根据权利要求2所述的图像解码装置,其特征在于,
所述可变长解码单元从在比特流中复用了的编码数据,对与层次性地分割了的各个编码块有关的编码模式进行可变长解码,
设置帧内部预测单元,该帧内部预测单元在所述编码模式是帧内部编码模式的情况下,针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,实施与所述帧内部编码模式对应的帧内预测处理来生成预测图像,
所述解码图像生成单元将由所述差分图像生成单元生成了的差分图像和由所述帧内部预测单元生成了的预测图像相加来生成解码图像。
4.根据权利要求3所述的图像解码装置,其特征在于,
设置运动补偿预测单元,该运动补偿预测单元在与由所述可变长解码单元可变长解码了的编码块有关的编码模式是帧之间编码模式的情况下,针对成为进行编码块的预测处理时的预测处理单位的每个预测块,使用参照图像,实施针对该预测块的运动补偿预测处理来生成预测图像,
所述解码图像生成单元将由所述差分图像生成单元生成了的差分图像和由所述帧内部预测单元或者所述运动补偿预测单元生成了的预测图像相加来生成解码图像,
所述滤波单元对由所述解码图像生成单元得到了的解码图像实施滤波处理,将滤波处理后的解码图像作为参照图像输出到所述运动补偿预测单元。
5.根据权利要求4所述的图像解码装置,其特征在于,
所述可变长解码单元从在比特流中复用了的编码数据对块分割信息进行可变长解码,对与从所述块分割信息导出的各个编码块有关的压缩数据、编码模式、表示帧内部预测参数或者帧之间预测参数的预测参数、量化参数以及变换块尺寸进行可变长解码,
所述差分图像生成单元使用与由所述可变长解码单元可变长解码了的编码块有关的量化参数,对与该编码块有关的压缩数据进行逆量化,按照所述变换块尺寸单位,实施逆量化后的压缩数据的逆变换处理,从而生成压缩前的差分图像。
6.一种图像编码装置,其特征在于,具备:
编码参数决定单元,决定成为实施编码处理时的处理单位的编码块的最大尺寸;
块分割单元,将输入图像分割为由所述编码参数决定单元决定了的最大尺寸的编码块,并且将所述编码块层次性地分割;
预测单元,实施针对所述编码块的预测处理来生成预测图像;
差分图像生成单元,生成由所述块分割单元分割了的编码块和由所述预测单元生成了的预测图像的差分图像;
图像压缩单元,对由所述差分图像生成单元生成了的差分图像进行压缩,输出所述差分图像的压缩数据;
局部解码图像生成单元,对由所述图像压缩单元生成了的压缩数据进行解码,将解码后的差分图像和由所述预测单元生成了的预测图像相加,生成局部解码图像;
滤波单元,对由所述局部解码图像生成单元生成了的局部解码图像实施滤波处理;以及
可变长编码单元,对所述压缩数据和在由所述滤波单元实施滤波处理时使用的最大尺寸的每个编码块的滤波参数进行可变长编码,生成复用了所述压缩数据以及所述滤波参数的编码数据的比特流,
所述可变长编码单元对针对所述最大尺寸的每个编码块设置了的、表示编码对象的所述最大尺寸的编码块的滤波参数是否为与在所述最大尺寸的编码块的上边或者左边邻接的所述最大尺寸的编码块相同的参数的标记进行可变长编码。
7.根据权利要求6所述的图像编码装置,其特征在于,
所述滤波单元实施像素自适应偏置处理,该像素自适应偏置处理按照由所述编码参数决定单元决定了的最大尺寸的编码块单位,决定等级分类方法,使用所述等级分类方法,实施最大尺寸的编码块内的局部解码图像的各像素的等级划分,将每个等级的偏置值加到属于该等级的像素的像素值,
所述可变长编码单元将表示由所述滤波单元决定了的最大尺寸的编码块单位的等级分类方法的索引、和最大尺寸的每个编码块的各等级的偏置值作为滤波参数进行编码。
8.根据权利要求7所述的图像编码装置,其特征在于,
设置帧内部预测单元,该帧内部预测单元在作为与由所述块分割单元分割了的编码块对应的编码模式,由所述编码参数决定单元分配了帧内部编码模式的情况下,针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,实施与所述帧内部编码模式对应的帧内预测处理来生成预测图像,
所述差分图像生成单元生成由所述块分割单元分割了的编码块和由所述帧内部预测单元生成了的预测图像的差分图像,
所述局部解码图像生成单元将解码后的差分图像和由所述帧内部预测单元生成了的预测图像相加来生成局部解码图像。
9.根据权利要求8所述的图像编码装置,其特征在于,
设置运动补偿预测单元,该运动补偿预测单元在作为与由所述块分割单元分割了的编码块对应的编码模式,由所述编码参数决定单元选择了帧之间编码模式的情况下,针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,使用参照图像,实施针对该预测块的运动补偿预测处理来生成预测图像,
所述差分图像生成单元生成由所述块分割单元分割了的编码块和由所述运动补偿预测单元生成了的预测图像的差分图像,
所述局部解码图像生成单元将解码后的差分图像和由所述运动补偿预测单元生成了的预测图像相加来生成局部解码图像,
所述滤波单元对由所述局部解码图像生成单元得到了的局部解码图像实施滤波处理,将滤波处理后的解码图像作为参照图像输出到所述运动补偿预测单元。
10.根据权利要求9所述的图像编码装置,其特征在于,
所述编码参数决定单元针对各个编码块的每一个,决定在压缩差分图像时使用的量化参数以及变换块分割状态,并且针对该编码块的每个预测块,决定在实施预测处理时使用的帧内部预测参数或者帧之间预测参数,
所述图像压缩单元按照由所述编码参数决定单元决定了的变换块单位,实施由所述差分图像生成单元生成了的差分图像的变换处理,并且使用由所述编码参数决定单元决定了的量化参数,对所述变换处理后的变换系数进行量化,将量化后的变换系数作为所述差分图像的压缩数据输出,
所述可变长编码单元对从所述图像压缩单元输出了的压缩数据、由所述编码参数决定单元选择了的编码模式、表示帧内部预测参数或者帧之间预测参数的预测参数、量化参数以及变换块分割信息、以及在由所述滤波单元实施滤波处理时使用的滤波参数进行可变长编码,生成复用了所述压缩数据、所述编码模式、所述预测参数、所述量化参数、所述变换块分割信息以及所述滤波参数的编码数据的比特流。
11.一种图像解码方法,其特征在于,具备:
可变长解码处理步骤,可变长解码单元从在比特流中复用了的编码数据对块分割信息进行可变长解码,并且从所述编码数据对最大尺寸的每个编码块的滤波参数进行可变长解码;
预测处理步骤,预测单元实施针对所述编码块的预测处理来生成预测图像;
差分图像生成处理步骤,差分图像生成单元从与在所述可变长解码处理步骤中可变长解码了的编码块有关的压缩数据,生成压缩前的差分图像;
解码图像生成处理步骤,解码图像生成单元将在所述差分图像生成处理步骤中生成了的差分图像和在所述预测处理步骤中生成了的预测图像相加来生成解码图像;以及
滤波处理步骤,滤波单元对在所述解码图像生成处理步骤中生成了的解码图像实施滤波处理,将滤波处理后的解码图像作为再生图像输出,
在所述可变长解码处理步骤中,对针对所述最大尺寸的每个编码块设置了的、表示解码对象的所述最大尺寸的编码块的滤波参数是否为与在所述最大尺寸的编码块的上边或者左边邻接的所述最大尺寸的编码块相同的参数的标记进行可变长解码,在标记表示是相同的参数的情况下,将对应的参数设定为解码对象的所述最大尺寸的编码块的滤波参数。
12.一种图像编码方法,其特征在于,具备:
编码参数决定处理步骤,编码参数决定单元决定成为实施编码处理时的处理单位的编码块的最大尺寸;
块分割处理步骤,块分割单元将输入图像分割为在所述编码参数决定处理步骤中决定了的最大尺寸的编码块,并且将所述编码块层次性地分割;
预测处理步骤,预测单元实施针对所述编码块的预测处理来生成预测图像;
差分图像生成处理步骤,差分图像生成单元生成在所述块分割处理步骤中分割了的编码块和在所述预测处理步骤中生成了的预测图像的差分图像;
图像压缩处理步骤,图像压缩单元对在所述差分图像生成处理步骤中生成了的差分图像进行压缩,输出所述差分图像的压缩数据;
局部解码图像生成处理步骤,局部解码图像生成单元对在所述块分割处理步骤中分割了的编码块和在所述图像压缩处理步骤中生成了的压缩数据进行解码,将解码后的差分图像和在所述预测处理步骤中生成了的预测图像相加,生成局部解码图像;
滤波处理步骤,滤波单元对在所述局部解码处理步骤中生成了的局部解码图像实施滤波处理;以及
可变长编码处理步骤,可变长编码单元对所述压缩数据和在所述滤波处理步骤中实施滤波处理时使用的最大尺寸的每个编码块的滤波参数进行可变长编码,生成复用了所述压缩数据以及所述滤波参数的编码数据的比特流,
在所述可变长编码处理步骤中,对针对所述最大尺寸的每个编码块设置了的、表示编码对象的所述最大尺寸的编码块的滤波参数是否为与在所述最大尺寸的编码块的上边或者左边邻接的所述最大尺寸的编码块相同的参数的标记进行可变长编码。
13.一种图像解码装置,其特征在于,具备:
可变长解码单元,从在比特流中复用了的编码数据,对与层次性地分割了的各个编码块有关的压缩数据进行可变长解码,并且从所述编码数据,对表示最大尺寸的编码块单位的等级分类方法的索引以及最大尺寸的每个编码块的各等级的偏置值进行可变长解码而作为滤波参数;
预测单元,实施针对所述编码块的预测处理来生成预测图像;
差分图像生成单元,根据与由所述可变长解码单元可变长解码了的编码块有关的压缩数据,生成压缩前的差分图像;
解码图像生成单元,将由所述差分图像生成单元生成了的差分图像和由所述预测单元生成了的预测图像相加来生成解码图像;以及
滤波单元,对由所述解码图像生成单元生成了的解码图像,实施利用了所述滤波参数的滤波处理,将滤波处理后的解码图像作为再生图像输出,
所述滤波单元实施像素自适应偏置处理,该像素自适应偏置处理使用通过表示所述等级分类方法的索引确定的等级分类方法,按照最大尺寸的编码块单位,实施由所述解码图像生成单元生成了的解码图像内的各像素的等级划分,将各等级的偏置值加到属于该等级的像素的像素值。

Claims (13)

1.一种运动图像解码装置,其特征在于,具备:
可变长解码单元,从在比特流中复用了的编码数据,对与层次性地分割了的各个编码块有关的压缩数据进行可变长解码,并且从所述编码数据,对表示最大尺寸的编码块单位的等级分类方法的索引以及最大尺寸的每个编码块的各等级的偏置值进行可变长解码而作为滤波参数;
预测单元,实施针对所述编码块的预测处理来生成预测图像;
差分图像生成单元,从与由所述可变长解码单元可变长解码了的编码块有关的压缩数据,生成压缩前的差分图像;
解码图像生成单元,将由所述差分图像生成单元生成了的差分图像和由所述预测单元生成了的预测图像相加来生成解码图像;以及
滤波单元,对由所述解码图像生成单元生成了的解码图像实施滤波处理,将滤波处理后的解码图像作为再生图像输出,
所述滤波单元实施使用所述等级分类方法,按照最大尺寸的编码块单位,实施由所述解码图像生成单元生成了的解码图像内的各像素的等级划分,将各等级的偏置值加到属于该等级的像素的像素值的像素自适应偏置处理。
2.根据权利要求1所述的运动图像解码装置,其特征在于,
可变长解码单元从在比特流中复用了的编码数据,对表示最大尺寸的编码块单位的等级分类方法的索引、最大尺寸的每个编码块的各等级的偏置值、属于各等级的局部解码图像中使用的滤波器以及最大尺寸的编码块单位的等级分类信息进行可变长解码而作为滤波参数,
滤波单元包括:
像素自适应偏置处理,使用所述等级分类方法,按照最大尺寸的编码块单位,实施由解码图像生成单元生成了的解码图像内的各像素的等级划分,将各等级的偏置值加到属于该等级的像素的像素值;以及
自适应滤波处理,针对每个等级,使用所述滤波器对所述解码图像进行滤波处理。
3.根据权利要求1所述的运动图像解码装置,其特征在于,具备:
可变长解码单元,从在比特流中复用了的编码数据,对与层次性地分割了的各个编码块有关的压缩数据以及编码模式进行可变长解码,并且从所述编码数据,对表示最大尺寸的编码块单位的等级分类方法的索引以及最大尺寸的每个编码块的各等级的偏置值进行可变长解码而作为滤波参数;以及
预测单元,根据与由所述可变长解码单元可变长解码了的编码块有关的编码模式,实施预测处理来生成预测图像。
4.根据权利要求3所述的运动图像解码装置,其特征在于,
设置帧内部预测单元,该帧内部预测单元在与由可变长解码单元可变长解码了的编码块有关的编码模式是帧内部编码模式的情况下,针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,实施与所述帧内部编码模式对应的帧内预测处理来生成预测图像,
解码图像生成单元将由差分图像生成单元生成了的差分图像和由所述帧内部预测单元生成了的预测图像相加来生成解码图像。
5.根据权利要求4所述的运动图像解码装置,其特征在于,
设置运动补偿预测单元,该运动补偿预测单元在与由可变长解码单元可变长解码了的编码块有关的编码模式是帧之间编码模式的情况下,针对成为进行编码块的预测处理时的预测处理单位的每个预测块,使用参照图像,实施针对该预测块的运动补偿预测处理来生成预测图像,
解码图像生成单元将由差分图像生成单元生成了的差分图像和由帧内部预测单元或者所述运动补偿预测单元生成了的预测图像相加来生成解码图像,
滤波单元对由所述解码图像生成单元得到了的解码图像实施滤波处理,将滤波处理后的解码图像作为参照图像输出到所述运动补偿预测单元。
6.根据权利要求5所述的运动图像解码装置,其特征在于,
可变长解码单元从在比特流中复用了的编码数据对块分割信息进行可变长解码,对与从所述块分割信息导出的各个编码块有关的压缩数据、编码模式、帧内部预测参数或者帧之间预测参数、量化参数以及变换块尺寸进行可变长解码,
差分图像生成单元使用与由所述可变长解码单元可变长解码了的编码块有关的量化参数,对与该编码块有关的压缩数据进行逆量化,按照所述变换块尺寸单位,实施逆量化后的压缩数据的逆变换处理,从而生成压缩前的差分图像。
7.一种运动图像编码装置,其特征在于,具备:
编码控制单元,决定成为实施编码处理时的处理单位的编码块的最大尺寸;
块分割单元,将输入图像分割为由所述编码控制单元决定了的最大尺寸的编码块,并且将所述编码块层次性地分割;
运动补偿预测单元,针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,使用参照图像,实施针对该预测块的运动补偿预测处理来生成预测图像;
局部解码图像生成单元,对由所述块分割单元分割了的编码块和由所述运动补偿预测单元生成了的预测图像的差分图像的压缩数据进行解码,将解码后的差分图像和由所述运动补偿预测单元生成了的预测图像相加来生成局部解码图像;
滤波单元,对由所述局部解码图像生成单元生成了的局部解码图像实施滤波处理,将滤波处理后的局部解码图像作为所述参照图像输出到所述运动补偿预测单元;以及
可变长编码单元,对所述压缩数据和在由所述滤波单元实施滤波处理时使用的滤波参数进行可变长编码,生成复用了所述压缩数据以及所述滤波参数的编码数据的比特流,
所述滤波单元实施按照由所述编码控制单元决定了的最大尺寸的编码块单位,选择等级分类方法,使用所述等级分类方法,实施最大尺寸的编码块内的局部解码图像的各像素的等级划分,计算每个等级的偏置值,将该偏置值加到属于该等级的像素的像素值的像素自适应偏置处理,
所述可变长编码单元将由所述滤波单元选择了的表示最大尺寸的编码块单位的等级分类方法的索引、和最大尺寸的每个编码块的各等级的偏置值作为滤波参数进行编码。
8.根据权利要求7所述的运动图像编码装置,其特征在于,
所述滤波单元包括:
像素自适应偏置处理,按照最大尺寸的编码块单位,选择等级分类方法,使用所述等级分类方法,实施最大尺寸的编码块内的局部解码图像的各像素的等级划分,计算每个等级的偏置值,将该偏置值加到属于该等级的像素的像素值;以及
自适应滤波处理,按照最大尺寸的编码块单位,实施所述局部解码图像的等级划分,并且设计在各等级中使用的滤波器,使用所述滤波器,进行该局部解码图像的滤波处理,
所述可变长编码单元将表示由所述滤波单元选择了的最大尺寸的编码块单位的等级分类方法的索引、最大尺寸的每个编码块的各等级的偏置值、由所述滤波单元设计了的属于各等级的局部解码图像中使用的滤波器以及最大尺寸的编码块单位的等级分类信息作为滤波参数进行编码。
9.根据权利要求7所述的运动图像编码装置,其特征在于,具备:
编码控制单元,决定成为实施编码处理时的处理单位的编码块的最大尺寸,并且决定最大尺寸的编码块被层次性地分割时的上限的层次数,从可利用的1个以上的编码模式中,选择与层次性地分割的各个编码块对应的编码模式;
块分割单元,将输入图像分割为由所述编码控制单元决定了的最大尺寸的编码块,并且直至达到由所述编码控制单元决定了的上限的层次数,将所述编码块层次性地分割;
运动补偿预测单元,在作为与由所述块分割单元分割了的编码块对应的编码模式,由所述编码控制单元选择了帧之间编码模式的情况下,针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,使用参照图像,实施针对该预测块的运动补偿预测处理来生成预测图像;
差分图像生成单元,生成由所述块分割单元分割了的编码块和由所述运动补偿预测单元生成了的预测图像的差分图像;
图像压缩单元,对由所述差分图像生成单元生成了的差分图像进行压缩,输出所述差分图像的压缩数据;
局部解码图像生成单元,对由所述图像压缩单元压缩了的差分图像进行解码,将解码后的差分图像和由所述运动补偿预测单元生成了的预测图像相加,生成局部解码图像;
滤波单元,对由所述局部解码图像生成单元生成了的局部解码图像实施滤波处理,将滤波处理后的局部解码图像作为所述参照图像输出到所述运动补偿预测单元;以及
可变长编码单元,对从所述图像压缩单元输出了的压缩数据、由所述编码控制单元选择了的编码模式以及在由所述滤波单元实施滤波处理时使用的滤波参数进行可变长编码,生成复用了所述压缩数据、所述编码模式以及所述滤波参数的编码数据的比特流。
10.根据权利要求9所述的运动图像编码装置,其特征在于,
设置帧内部预测单元,该帧内部预测单元在作为与由所述块分割单元分割了的编码块对应的编码模式,由编码控制单元选择了帧内部编码模式的情况下,针对成为进行编码块的预测处理时的预测处理单位的每个预测块,实施与所述帧内部编码模式对应的帧内预测处理来生成预测图像,
差分图像生成单元生成由所述块分割单元分割了的编码块和由所述帧内部预测单元或者运动补偿预测单元生成了的预测图像的差分图像,
局部解码图像生成单元将解码后的差分图像和由所述帧内部预测单元或者所述运动补偿预测单元生成了的预测图像相加来生成局部解码图像。
11.根据权利要求10所述的运动图像编码装置,其特征在于,
编码控制单元针对各个编码块的每一个,决定在压缩差分图像时使用的量化参数以及变换块分割状态,并且针对该编码块的每个预测块,决定在实施预测处理时使用的帧内部预测参数或者帧之间预测参数,
图像压缩单元按照由所述编码控制单元决定了的变换块单位,实施由差分图像生成单元生成了的差分图像的变换处理,并且使用由所述编码控制单元决定了的量化参数,对所述差分图像的变换系数进行量化,将量化后的变换系数作为所述差分图像的压缩数据输出,
可变长编码单元在对从所述图像压缩单元输出了的压缩数据、由所述编码控制单元选择了的编码模式以及在通过滤波单元实施滤波处理时使用的滤波参数进行可变长编码时,对由所述编码控制单元决定了的帧内部预测参数或者帧之间预测参数、和量化参数以及变换块分割信息进行可变长编码,生成复用了所述压缩数据、所述编码模式、所述滤波参数、所述帧内部预测参数或者所述帧之间预测参数、所述量化参数以及所述变换块分割信息的编码数据的比特流。
12.一种运动图像解码方法,其特征在于,具备:
可变长解码处理步骤,可变长解码单元从在比特流中复用了的编码数据对块分割信息进行可变长解码,参照所述块分割信息表示的层次性地分割了的各个编码块的分割状况,从所述编码数据,对与各个编码块有关的压缩数据进行可变长解码,并且从所述编码数据,对表示最大尺寸的编码块单位的等级分类方法的索引以及最大尺寸的每个编码块的各等级的偏置值进行可变长解码而作为滤波参数;
预测处理步骤,预测单元实施针对所述编码块的预测处理来生成预测图像;
差分图像生成处理步骤,差分图像生成单元根据与在所述可变长解码处理步骤中可变长解码了的编码块有关的压缩数据生成压缩前的差分图像;
解码图像生成处理步骤,解码图像生成单元将在所述差分图像生成处理步骤中生成了的差分图像和在所述预测处理步骤中生成了的预测图像相加来生成解码图像;以及
滤波处理步骤,滤波单元对在所述解码图像生成处理步骤中生成了的解码图像实施滤波处理,将滤波处理后的解码图像作为再生图像输出,
在所述滤波处理步骤中,实施像素自适应偏置处理,该像素自适应偏置处理使用所述等级分类方法,按照最大尺寸的编码块单位,实施在所述解码图像生成处理步骤中生成了的解码图像内的各像素的等级划分,将各等级的偏置值加到属于该等级的像素的像素值。
13.一种运动图像编码方法,其特征在于,具备:
编码控制处理步骤,编码控制单元决定成为实施编码处理时的处理单位的编码块的最大尺寸;
块分割处理步骤,块分割单元将输入图像分割为在所述编码控制处理步骤中决定了的最大尺寸的编码块,并且将所述编码块层次性地分割;
运动补偿预测处理步骤,运动补偿预测单元针对成为进行所述编码块的预测处理时的预测处理单位的每个预测块,使用参照图像,实施针对该预测块的运动补偿预测处理来生成预测图像;
局部解码图像生成处理步骤,局部解码图像生成单元对在所述块分割处理步骤中分割了的编码块和在所述运动补偿预测处理步骤中生成了的预测图像的差分图像的压缩数据进行解码,将解码后的差分图像和在所述运动补偿预测处理步骤中生成了的预测图像相加,生成局部解码图像;
滤波处理步骤,滤波单元对在所述局部解码处理步骤中生成了的局部解码图像实施滤波处理,将滤波处理后的局部解码图像作为所述参照图像输出到所述运动补偿预测单元;以及
可变长编码处理步骤,可变长编码单元对所述压缩数据和在所述滤波处理步骤中实施滤波处理时使用的滤波参数进行可变长编码,生成复用了所述压缩数据以及所述滤波参数的编码数据的比特流,
在所述滤波处理步骤中,实施像素自适应偏置处理,该像素自适应偏置处理按照在所述编码控制处理步骤中决定了的最大尺寸的编码块单位选择等级分类方法,使用所述等级分类方法,实施最大尺寸的编码块内的局部解码图像的各像素的等级划分,计算每个等级的偏置值,将该偏置值加到属于该等级的像素的像素值,
在所述可变长编码处理步骤中,将表示在所述滤波处理步骤中选择了的最大尺寸的编码块单位的等级分类方法的索引、和最大尺寸的每个编码块的各等级的偏置值作为滤波参数进行编码。
CN201380005907.0A 2012-01-19 2013-01-09 运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法 Pending CN104067623A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012-009128 2012-01-19
JP2012009128 2012-01-19
PCT/JP2013/050207 WO2013108684A1 (ja) 2012-01-19 2013-01-09 動画像復号装置、動画像符号化装置、動画像復号方法及び動画像符号化方法

Publications (1)

Publication Number Publication Date
CN104067623A true CN104067623A (zh) 2014-09-24

Family

ID=48799110

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201380005907.0A Pending CN104067623A (zh) 2012-01-19 2013-01-09 运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法

Country Status (14)

Country Link
US (1) US20150023420A1 (zh)
EP (1) EP2806639A4 (zh)
JP (4) JP5551837B2 (zh)
KR (6) KR102021257B1 (zh)
CN (1) CN104067623A (zh)
BR (1) BR112014016291A8 (zh)
CA (3) CA2862805C (zh)
HK (1) HK1199589A1 (zh)
IN (1) IN2014CN04356A (zh)
MX (2) MX2014008781A (zh)
RU (5) RU2577320C1 (zh)
SG (5) SG10201912254WA (zh)
TW (4) TWI586148B (zh)
WO (1) WO2013108684A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112135130A (zh) * 2019-06-24 2020-12-25 财团法人工业技术研究院 视频编译码方法及其图像处理装置

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6034010B2 (ja) * 2011-10-24 2016-11-30 ソニー株式会社 符号化装置、符号化方法、およびプログラム
KR102276914B1 (ko) * 2013-10-24 2021-07-13 삼성전자주식회사 비디오 인코딩 장치 그리고 이의 구동 방법
EP3104614A4 (en) * 2014-02-03 2017-09-13 Mitsubishi Electric Corporation Image encoding device, image decoding device, encoded stream conversion device, image encoding method, and image decoding method
WO2015151791A1 (ja) 2014-03-31 2015-10-08 ソニー株式会社 画像復号装置および方法
US10057574B2 (en) * 2015-02-11 2018-08-21 Qualcomm Incorporated Coding tree unit (CTU) level adaptive loop filter (ALF)
KR20180050333A (ko) * 2015-09-29 2018-05-14 엘지전자 주식회사 영상 코딩 시스템에서 필터링 방법 및 장치
JP6634936B2 (ja) * 2016-04-05 2020-01-22 富士通株式会社 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム
US10694202B2 (en) * 2016-12-01 2020-06-23 Qualcomm Incorporated Indication of bilateral filter usage in video coding
EP3586187B1 (en) 2017-02-23 2024-01-03 Magic Leap, Inc. Display system with variable power reflector
US11057619B2 (en) 2019-03-23 2021-07-06 Lg Electronics Inc. Image coding method and apparatus based on intra prediction using MPM list
US10764507B1 (en) * 2019-04-18 2020-09-01 Kneron (Taiwan) Co., Ltd. Image processing system capable of generating a snapshot image with high image quality by using a zero-shutter-lag snapshot operation
US10708624B1 (en) * 2019-05-30 2020-07-07 Ati Technologies Ulc Pre-processing for video compression
CN112929656B (zh) * 2019-12-06 2022-08-26 杭州海康威视数字技术股份有限公司 滤波方法、装置及设备
CN113808157B (zh) * 2021-11-18 2022-02-22 腾讯科技(深圳)有限公司 图像处理方法、装置、及计算机设备
CN116385414B (zh) * 2023-04-10 2023-11-07 哈尔滨耐是智能科技有限公司 零部件多尺度缺陷特征提取方法、计算设备及存储介质
CN119514391A (zh) * 2025-01-21 2025-02-25 交通运输部天津水运工程科学研究所 一种船舶与固定结构物的碰撞模拟方法和系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1444408A (zh) * 2002-03-07 2003-09-24 精工爱普生株式会社 图像处理设备、图像处理程序和图像处理方法
CN101232573A (zh) * 2007-01-24 2008-07-30 佳能株式会社 图像处理设备及其方法
CN101677400A (zh) * 2008-09-19 2010-03-24 华为技术有限公司 编码、解码方法和编码器、解码器及编解码系统
CN102119409A (zh) * 2009-05-19 2011-07-06 松下电器产业株式会社 描绘装置以及描绘方法

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW256896B (zh) * 1991-07-19 1995-09-11 Sony Co Ltd
AU717480B2 (en) * 1998-08-01 2000-03-30 Korea Advanced Institute Of Science And Technology Loop-filtering method for image data and apparatus therefor
JP3639517B2 (ja) * 2000-10-04 2005-04-20 三洋電機株式会社 動画像復号化装置および動画像復号化方法
JP4361435B2 (ja) * 2004-07-14 2009-11-11 株式会社エヌ・ティ・ティ・ドコモ 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置
EP1881707A4 (en) * 2005-04-13 2009-11-04 Ntt Docomo Inc DEVICE FOR DYNAMIC IMAGE DEFINITION, DEVICE FOR DYNAMIC IMAGE DEFINITION, METHOD FOR DYNAMIC IMAGE ENCODING, METHOD FOR DYNAMIC IMAGE DECODING, DYNAMIC IMAGE ENCODING PROGRAM, AND DYNAMIC IMAGE DECODING PROGRAM
KR100745765B1 (ko) * 2006-04-13 2007-08-02 삼성전자주식회사 화상 데이터의 공간상 예측 장치 및 방법과 그를 이용한부호화 장치 및 방법, 화상 데이터의 공간상 예측 보상장치 및 방법과 그를 이용한 복호화 장치 및 방법
KR101484606B1 (ko) 2006-07-18 2015-01-21 톰슨 라이센싱 적응적 참조 필터링을 위한 방법 및 장치
RU2427976C2 (ru) * 2006-07-28 2011-08-27 Кабусики Кайся Тосиба Способ и устройство для кодирования и декодирования изображения
JP2010130522A (ja) * 2008-11-28 2010-06-10 Canon Inc 動画像符号化装置及び動画像符号化方法
JP5361998B2 (ja) * 2009-05-29 2013-12-04 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法、および画像復号方法
US20100329361A1 (en) * 2009-06-30 2010-12-30 Samsung Electronics Co., Ltd. Apparatus and method for in-loop filtering of image data and apparatus for encoding/decoding image data using the same
US20110194613A1 (en) * 2010-02-11 2011-08-11 Qualcomm Incorporated Video coding with large macroblocks
US8995527B2 (en) * 2010-02-19 2015-03-31 Qualcomm Incorporated Block type signalling in video coding
WO2011113282A1 (en) * 2010-03-15 2011-09-22 Mediatek Singapore Pte. Ltd. Localized in-loop filtering with multiple filters in hybrid video coding
KR101750046B1 (ko) * 2010-04-05 2017-06-22 삼성전자주식회사 트리 구조에 따른 부호화 단위에 기반한 인루프 필터링을 수반하는 비디오 부호화 방법과 그 장치 및 복호화 방법과 그 장치
CN108462874B (zh) * 2010-04-09 2022-06-07 三菱电机株式会社 运动图像编码装置以及运动图像解码装置
HUE037656T2 (hu) * 2010-04-13 2018-09-28 Fraunhofer Ges Forschung Valószínûség intervallum partícionáló kódoló és dekódoló
TWI600318B (zh) * 2010-05-18 2017-09-21 Sony Corp Image processing apparatus and image processing method
EP2584781A4 (en) * 2010-06-17 2016-03-09 Sharp Kk IMAGE FILTER DEVICE, DECODING APPARATUS, ENCODING APPARATUS, AND DATA STRUCTURE
US20120029435A1 (en) * 2010-07-30 2012-02-02 Miriam Gutierrez Del Rio Ng/og support systems
US9055305B2 (en) * 2011-01-09 2015-06-09 Mediatek Inc. Apparatus and method of sample adaptive offset for video coding
PL2882190T3 (pl) * 2011-04-21 2019-04-30 Hfi Innovation Inc Sposób i urządzenie do poprawionego filtrowania w pętli
US9008170B2 (en) * 2011-05-10 2015-04-14 Qualcomm Incorporated Offset type and coefficients signaling method for sample adaptive offset
US20120294353A1 (en) * 2011-05-16 2012-11-22 Mediatek Inc. Apparatus and Method of Sample Adaptive Offset for Luma and Chroma Components
PH12014500016A1 (en) * 2011-06-28 2014-05-19 Samsung Electronics Co Ltd Video encoding method using offset adjustments according to pixel classification and apparatus therefor, video decoding method and apparatus therefor
US20130013616A1 (en) * 2011-07-08 2013-01-10 Jochen Lothar Leidner Systems and Methods for Natural Language Searching of Structured Data
US9386305B2 (en) * 2011-11-28 2016-07-05 Qualcomm Incorporated Largest coding unit (LCU) or partition-based syntax for adaptive loop filter and sample adaptive offset in video coding

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1444408A (zh) * 2002-03-07 2003-09-24 精工爱普生株式会社 图像处理设备、图像处理程序和图像处理方法
CN101232573A (zh) * 2007-01-24 2008-07-30 佳能株式会社 图像处理设备及其方法
CN101677400A (zh) * 2008-09-19 2010-03-24 华为技术有限公司 编码、解码方法和编码器、解码器及编解码系统
CN102119409A (zh) * 2009-05-19 2011-07-06 松下电器产业株式会社 描绘装置以及描绘方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CHIH-MING FU等: "Sample adaptive offset for HEVC", 《MULTIMEDIA SIGNAL PROCESSING (MMSP), 2011 IEEE 13TH INTERNATIONAL WORKSHOP ON, IEEE》 *
CHIH-MING FU等: "Sample Adaptive Offset with LCU-based Syntax", 《JCT-VC OF ITU-T SG16 WP3 AND ISO/IEC JTC1/SC29/WG11》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112135130A (zh) * 2019-06-24 2020-12-25 财团法人工业技术研究院 视频编译码方法及其图像处理装置
CN112135130B (zh) * 2019-06-24 2024-03-22 财团法人工业技术研究院 视频编译码方法及其图像处理装置

Also Published As

Publication number Publication date
RU2658178C1 (ru) 2018-06-19
TWI665908B (zh) 2019-07-11
MX2014008781A (es) 2014-10-23
US20150023420A1 (en) 2015-01-22
TWI586148B (zh) 2017-06-01
EP2806639A1 (en) 2014-11-26
JP2017092980A (ja) 2017-05-25
SG10201912258SA (en) 2020-02-27
KR102113985B1 (ko) 2020-05-22
BR112014016291A8 (pt) 2017-07-04
CA3001027A1 (en) 2013-07-25
KR20190105135A (ko) 2019-09-11
JPWO2013108684A1 (ja) 2015-05-11
KR102021257B1 (ko) 2019-09-11
RU2703229C1 (ru) 2019-10-15
KR102272564B1 (ko) 2021-07-02
BR112014016291A2 (pt) 2017-06-13
TW201342934A (zh) 2013-10-16
KR102157481B1 (ko) 2020-09-18
RU2577320C1 (ru) 2016-03-20
IN2014CN04356A (zh) 2015-09-04
RU2684570C1 (ru) 2019-04-09
KR20170098967A (ko) 2017-08-30
CA2961818A1 (en) 2013-07-25
KR101647242B1 (ko) 2016-08-09
JP2014187704A (ja) 2014-10-02
JP5815795B2 (ja) 2015-11-17
CA2862805A1 (en) 2013-07-25
TW201731292A (zh) 2017-09-01
TW201808007A (zh) 2018-03-01
SG10201912254WA (en) 2020-02-27
WO2013108684A1 (ja) 2013-07-25
SG10201906914WA (en) 2019-09-27
SG11201403454PA (en) 2014-08-28
JP2015228709A (ja) 2015-12-17
KR20200108111A (ko) 2020-09-16
TWI608728B (zh) 2017-12-11
TWI489837B (zh) 2015-06-21
EP2806639A4 (en) 2016-06-01
KR20180123191A (ko) 2018-11-14
CA2961818C (en) 2020-06-09
TW201534108A (zh) 2015-09-01
JP6082073B2 (ja) 2017-02-15
JP5551837B2 (ja) 2014-07-16
HK1199589A1 (zh) 2015-07-03
KR20140111039A (ko) 2014-09-17
CA2862805C (en) 2019-02-12
SG10201604926WA (en) 2016-08-30
RU2616598C1 (ru) 2017-04-18
MX386291B (es) 2025-03-18
KR20140117557A (ko) 2014-10-07

Similar Documents

Publication Publication Date Title
CN104067623A (zh) 运动图像解码装置、运动图像编码装置、运动图像解码方法以及运动图像编码方法
JP6835448B2 (ja) 画像符号化装置、画像復号装置、画像符号化方法、画像復号方法及び符号化ビットストリームを記録した記録媒体
RU2693910C1 (ru) Устройство кодирования движущихся изображений, устройство декодирования движущихся изображений, способ кодирования движущихся изображений и способ декодирования движущихся изображений
RU2700396C1 (ru) Устройство кодирования изображений, устройство декодирования изображений, способ кодирования изображений, способ декодирования изображений и устройство прогнозирования изображений
CN105959706B (zh) 图像编码装置和方法、以及图像译码装置和方法
JP6807987B2 (ja) 画像符号化装置、動画像復号装置、動画像符号化データ及び記録媒体
CN104025591A (zh) 运动图像编码装置、运动图像解码装置、运动图像编码方法以及运动图像解码方法
KR20180005186A (ko) 인트라 예측을 수행하는 영상 복호화 방법 및 그 장치 및 인트라 예측을 수행하는 영상 부호화 방법 및 그 장치
JP7375224B2 (ja) 符号化・復号方法、装置及びそのデバイス
KR20180006915A (ko) 인트라 예측을 수행하는 영상 복호화 방법 및 그 장치 및 인트라 예측을 수행하는 영상 부호화 방법 및 그 장치

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1199589

Country of ref document: HK

RJ01 Rejection of invention patent application after publication

Application publication date: 20140924

RJ01 Rejection of invention patent application after publication
REG Reference to a national code

Ref country code: HK

Ref legal event code: WD

Ref document number: 1199589

Country of ref document: HK