CN109361922B

CN109361922B - 预测量化编码方法

Info

Publication number: CN109361922B
Application number: CN201811260531.9A
Authority: CN
Inventors: 岳庆冬; 冉文方; 李雯
Original assignee: Xian Cresun Innovation Technology Co Ltd
Current assignee: First United Security Trust Company's 923 Series 2023 Industry Patent Purchase Plan
Priority date: 2018-10-26
Filing date: 2018-10-26
Publication date: 2020-10-30
Anticipated expiration: 2038-10-26
Also published as: CN109361922A; WO2020082485A1; US20200137392A1; US10645387B1

Abstract

本发明涉及一种预测量化编码方法，包括如下步骤：(a)将待处理像素分成若干像素分量；(b)获得待处理像素分量；(c)获得所述待处理像素分量的纹理方向梯度；(d)根据所述纹理方向梯度、所述待处理像素分量与其余所述像素分量之间的位置关系获得参考像素；(e)根据所述参考像素获得所述待处理像素分量的预测残差；(f)重复步骤(b)～步骤(e)，将任一像素分量作为待处理像素分量获得对应的预测残差以形成预测残差码流；(g)将所述预测残差码流划分为多个量化单元；(h)获取所述量化单元对应的第一率失真优化和第二率失真优化以获得量化残差码流。本发明预测量化编码方法能够减少传输带宽，降低理论极限熵及复杂度。

Description

预测量化编码方法

技术领域

本发明属于压缩编码领域，具体涉及一种预测量化编码方法。

背景技术

图像数据中存在很大的冗余度，一般通过压缩编码去相关，即通过较少序列之间的相关性，用较少的比特数来表示视频内容，降低视频内容中的冗余，从而实现对视频或者图像的压缩。

在压缩编码过程中，允许图像编码有一定的失真也是视频可以压缩的一个重要原因。在许多应用场合，并不要求压缩后的图像复原后和原图完全一致，而是允许有一定的失真，因为这些失真可以利用人的视觉特性，在图像变化不被觉察的条件下减少量化信号的灰度级之类，来提高数据压缩比。

预测量化方法是压缩编码的常用手段，现有的预测量化方法主要存在下面的问题：预测像素分量容易误判，影响预测结果，且没有充分利用像素纹理之间的相关性，无法进一步降低理论极限熵以及运算复杂度，无法进一步降低预测量化压缩后数据压缩比和失真损失。

因此，如何提供一种高数据压缩比且失真损失小的预测量化方法是研究的热点问题。

发明内容

为了解决现有技术中存在的上述问题，本发明提供了一种预测量化编码方法。本发明要解决的技术问题通过以下技术方案实现：

本发明实施例提供了一种预测量化编码方法，包括如下步骤：

将待处理像素分成若干像素分量：

获得待处理像素分量；

获得所述待处理像素分量的纹理方向梯度；

根据所述纹理方向梯度、所述待处理像素分量与其余所述像素分量之间的位置关系获得参考像素；

根据所述参考像素获得所述待处理像素分量的预测残差；

重复步骤(b)～步骤(e)，将任一像素分量作为待处理像素分量获得对应的预测残差以形成预测残差码流；

将所述预测残差码流划分为多个量化单元；

获取所述量化单元对应的第一率失真优化和第二率失真优化以获得量化残差码流。

在本发明的一个实施例中，将待处理像素分成多个像素分量包括将所述待处理像素分成R像素分量、G像素分量、B像素分量。

在本发明的一个实施例中，步骤(d)包括如下步骤：

(d1)根据所述纹理方向梯度获得第一加权梯度最优值；

(d2)根据所述第一加权梯度最优值、所述待处理像素分量与其余所述像素分量之间的位置关系获得第二加权梯度最优值；

(d3)根据所述第二加权梯度最优值获得参考方向；

(d4)根据所述参考方向获得所述参考像素。

在本发明的一个实施例中，步骤(d2)包括如下步骤：

(d21)获得所述待处理像素分量的第一加权梯度最优值；

(d22)根据所述待处理像素分量与其余所述像素分量的位置关系获得位置关系权重；

(d23)根据所述位置关系权重和所述第一加权梯度最优值获得所述第二加权梯度最优值。

在本发明的一个实施例中，所述待处理像素分量与其余所述像素分量的位置关系包括：与所述待处理像素分量距离越近的像素分量其位置关系权重约大，反之越小。

在本发明的一个实施例中，步骤(h)包括：

(h1)对所述量化单元的预测残差依次进行量化处理、第一补偿处理、第一反量化处理获得第一量化残差和第一率失真优化；

(h2)对所述第一量化残差进行第二补偿处理、第二反量化处理获得第二量化残差和第二率失真优化。

(h3)比较所述第一率失真优化和第二率失真优化，若所述第一率失真优化小于第二率失真优化，则将所述第一量化残差写入所述量化残差码流；否则将所述第二量化残差写入所述量化残差码流。

在本发明的一个实施例中，步骤(h1)包括：

(h11)对所述量化单元的预测残差依次进行所述量化处理、所述第一补偿处理获得所述第一量化残差；

(h12)对所述第一量化残差进行所述第一反量化处理并依次获得第一反量化残差、第一残差损失、所述第一率失真优化。

在本发明的一个实施例中，步骤(h2)包括：

(h21)根据所述波动系数获得补偿模板；

(h22)根据所述补偿模板对所述第一量化残差进行所述第二补偿处理获得所述第二量化残差；

(h23)对所述第二量化残差进行所述第二反量化处理并依次获得第二反量化残差、第二残差损失、所述第二率失真优化。

在本发明的一个实施例中，所述波动系数k满足：

其中，lossres_i为所述第一残差损失的第i位的值，pixnum_none0为所述第一残差损失内非0的数量。

与现有技术相比，本发明的有益效果：

本发明的预测量化编码方法有效减少码流传输带宽，充分利用纹理相关性进行预测编码，自适应进行量化编码，进一步降低理论极限熵及复杂度。

附图说明

图1为本发明实施例提供的一种预测量化编码方法的流程示意图；

图2为本发明实施例提供的一种预测量化编码方法的原理示意图；

图3为本发明实施例提供的一种预测量化编码方法中像素R分量示意图；

图4为本发明实施例提供的一种预测量化编码方法中待处理像素分量的纹理方向梯度计算原理示意图；

图5为本发明实施例提供的一种预测量化编码方法中参考方向计算原理示意图。

具体实施方式

下面结合具体实施例对本发明做进一步详细的描述，但本发明的实施方式不限于此。

实施例一

请参见图1，图1为本发明实施例提供的一种预测量化方法的流程示意图。该预测量化方法包括：

将待处理像素分成若干像素分量：

获得待处理像素分量；

获得所述待处理像素分量的纹理方向梯度；

根据所述参考像素获得所述待处理像素分量的预测残差；

将所述预测残差码流划分为多个量化单元；

本发明的预测量化方法有效减少码流传输带宽，充分利用纹理相关性进行预测编码，自适应进行量化编码，进一步降低理论极限熵及复杂度。

实施例二

请参见图2，图2为本发明实施例提供的一种预测量化方法的原理示意图。本实施例在上述实施例的基础上包括实施例一的全部内容，重点对该预测量化方法进行详细描述。具体地，该预测量化方法包括如下步骤：

S01：获取待处理图片的任一像素作为待处理像素；具体地，可按照待处理图像的像素矩阵从左到右的顺序，依次获取像素作为待处理像素。

S02：将上述待处理像素分成待处理像素的R像素分量、G像素分量、B像素分量；对应地，所述待处理图片的像素矩阵中任一像素都可分成对应的R像素分量、G像素分量、B像素分量。

其中，也可以将待处理像素分成RGBY四个像素分量，或者RGBW四个像素分量，等等，此处分量拆分方式不做具体限制。

S03：获取待处理像素分量；

将待处理像素的任一像素分量作为待处理像素分量。

S04：获得待处理像素分量的纹理方向梯度；

其中，纹理方向梯度为矢量值，包括纹理方向梯度的矢量方向和纹理方向梯度的大小两个特征。

其中，纹理方向梯度通过待处理像素分量周围的像素分量确定，对于待处理像素分量的周围分量，确定待处理像素分量的N个纹理方向梯度G1～GN；

请参考图3和图4，图3为本发明实施例提供的一种预测量化编码方法中R像素分量示意图；图4为本发明实施例提供的一种预测量化编码方法中待处理像素分量的纹理方向梯度计算原理图。

获取待处理像素的R分量作为待处理像素分量CUR；其中，CUR为待处理像素的R分量，A～O为待处理像素之前已经预测编码过的像素的R分量。

首先，找到待处理像素分量CUR紧邻的O像素分量作为纹理参考分量；

其中，一种实施方式为：获取O像素分量周围像素距离为0的像素分量N像素分量、H像素分量、I像素分量、J像素分量；分别做由O像素分量到J像素分量、I像素分量、H像素分量、N像素分量的矢量线，则O像素分量到J像素分量的矢量线方向作为第一纹理梯度的矢量方向，J像素分量与O像素分量的差值绝对值为第一纹理梯度的大小，从而得到第一纹理梯度(45°)；同理，分别根据I像素分量、H像素分量、N像素分量可以获得第二纹理方向梯度(90°)、第三纹理方向梯度(135°)、第四纹理方向梯度(180°)。

其中，另一种实施方式为：获取O像素分量周围像素距离为1的像素分量分别为M像素分量、G像素分量、A像素分量、B像素分量、C像素分量、D像素分量、E像素分量、F像素分量。同理，也可以得到对应的8个纹理方向梯度。

同理，可以分别获得待处理像素的G分量和B分量中个纹理方向梯度G2和G3。

S05：根据所述纹理方向梯度、所述待处理像素分量与其余所述像素分量之间的位置关系获得参考像素；

S051：根据所述纹理方向梯度获得第一加权梯度最优值；

以R分量为例，将待处理像素分量纹理参考分量的N个纹理方向梯度G1～GN进行矢量加权得到N个纹理方向梯度加权后的第一加权梯度BG，加权公式如下：

BG＝w1*G1+w2*G2+…+wN*GN

其中，w1、w2…wN为加权系数，可以相同也可以不同；

其中，w1、w2…wN可以是预先自行设定的固定值。更进一步的，并且，配置w1、w2…wN的相对大小时，可以考虑先验经验。例如，从以往的经验得知，在纹理方向梯度G1的这个方向可能更加适合本图像做预测的实际情况，则可以将w1配置一个更加适合本图像做预测的实际情况的值(例如，可以将w1配置很小)，以增加在纹理方向梯度G1的这个方向的权重。当然，w1、w2…wN也可以是自适应的，即可以根据早期预测处理的实际情况，灵活调整w1、w2…wN的相对大小，具体地w1+w2+…+wN＝1。

其中，选取多组w1、w2…wN的值，得到多个第一加权梯度，取多个第一加权梯度中矢量大小的最小值对应的第一加权梯度，即为待处理像素R分量的第一加权梯度最优值BGbst^R。

同理，可以分别得到待处理像素G分量和B分量的第一加权梯度最优值BGbst^G和BGbst^B。

S052：根据所述第一加权梯度最优值、所述待处理像素分量与其余所述像素分量之间的位置关系获得第二加权梯度最优值；

根据步骤S051获得的R分量、G分量、B分量的第一加权梯度最优值进行矢量相加可以得到待处理像素R分量的第二加权梯度最优值，满足如下公式：

BG^R＝t1^R×BGbst^R+t2^R×BGbst^G+t3^R×BGbst^B

其中，BG^R为待处理像素R分量的第二加权梯度最优值，t1、t2、t3分别为R分量、G分量、B分量的第一加权梯度最优值加权系数，可以相同也可以不同；

优选地，待处理像素R分量下的第一加权梯度最优值加权系数值最大，与待处理像素R分量距离逐渐增加的其它分量下的第一加权梯度最优值加权系数值逐渐减小，且第一加权梯度最优值加权系数值的总和为1，具体为t1^R+t2^R+t3^R＝1。

其中，与待处理像素R分量的距离根据待处理像素的像素分量的划分顺序进行判定，比如待处理像素划分像素分量的顺序为R分量、G分量、B分量，则R分量到G分量的距离小于R分量与B分量的距离。

同理，可以获得待处理像素G分量的第二加权梯度最优值BG^G和待处理像素B分量的第二加权梯度最优值BG^B。

请再次参考图2，第二加权梯度最优值BG^R、BG^G、BG^B分别满足：

BG^R＝0.5×BGbst^R+0.3×BGbst^G+0.2×BGbst^B

BG^G＝0.3×BGbst^R+0.4×BGbst^G+0.3×BGbst^B

BG^B＝0.2×BGbst^R+0.3×BGbst^G+0.5×BGbst^B

S053：根据所述第二加权梯度最优值获得所述参考值。

获得步骤S052获得的待处理像素R分量的第二加权梯度最优值BG^R的矢量方向作为参考方向。

以待处理像素R分量为矢量原点，参考方向上所有可用的分量像素即为参考像素。将参考像素值进行标量加权，得到参考值Ref，加权公式如下所示：

Ref^R＝r1×cpt1+r2×cpt2+…+rN×cptN

其中，r1、r2…rN为参考像素加权系数，可以相同也可以不同；cpt1～cptN为R分量的参考方向上N个可用的分量像素值；

请参考图5，图5为本发明实施例提供的一种预测量化编码方法中参考方向计算原理示意图。

BG、BGbst^R、BG^R均是以纹理参考分量O作为矢量原点的矢量，假设第二加权梯度最优值BG^R的矢量方向如图，此时在计算参考值Ref时，需要以待处理像素CUR作为矢量原点，以BG^R的矢量方向为参考方向，获得参考方向所有可用的像素K像素和F像素作为参考像素，进行加权计算得到：

Ref^R＝r1×cpt^K+r2×cpt^F

其中，cpt^K为待处理像素K的R分量的像素分量值，cpt^F为待处理像素F的R分量的像素分量值。

优选地，对于任意分量，若为45度参考，那么参考值

Ref^R＝0.8×cpt^K+0.2×cpt^F

若为135度参考，那么参考值为0.8*G+0.2A；若为180度参考，那么参考值为0.8*K+0.2J，分量像素值离当前像素越近，配置系数越大。

S06：根据所述参考值获得所述待处理像素分量的预测残差；

将待处理像素R分量的像素值减去参考值，可以得到待处理像素R分量的预测残差Dif^R，计算如下：

Dif^R＝Cur^R-Ref^R

同理，可以得到G分量和B分量的预测残差Dif^G和Dif^B。

S07：重复步骤(b)～步骤(e)，将任一像素分量作为待处理像素分量获得对应的预测残差以形成预测残差码流；

其中，以上实施方式中R分量、G分量和B分量的预测残差的获取过程可以并行处理，也可以串行处理，具体应用规格场景需要，本实施例不做过多限制。

S08：将所述预测残差码流划分为多个量化单元；

优选地，量化单元大小可设定为8×1。

S09：获取所述量化单元对应的第一率失真优化和第二率失真优化以获得量化残差码流。

S091：对所述量化单元的预测残差依次进行量化处理、第一反量化处理、第一补偿处理获得第一量化残差和第一率失真优化；

首先获得量化参数QP，所有量化单元采用相同的量化参数。优选地，量化参数QP为2。

采用量化参数QP对量化单元进行量化处理，获得第一量化残差，满足：

QPRES_i＝[PRES_i＞＞QP]

其中，QPRES_i为量化单元第i位像素的量化残差，PRES_i为量化单元第i位像素的预测残差，QP为量化参数。

其中，“>>”算式表示，若有表达式a>>m则表示将整型数a按二进制位向右移动m位，低位移出后，高位补0。

对第一量化残差进行第一反量化处理、第一补偿处理获得第一反量化残差，满足：

IQPRES_1_i＝QPRES_i＜＜QP_i+CP

其中，IQPRES_1_i为量化单元第i位像素的第一反量化残差，CP为第一补偿参数。

优选地，第一补偿参数满足：

CP＝(1＜＜QP)/2

根据第一反量化残差和量化单元的预测残差获得第一残差损失，满足：

LOSS_1_i＝IQPRES_1_i-PRES_i

其中，LOSS_1_i为量化单元第i位像素的第一残差损失。

计算第一率失真优化，满足：

其中，RDO₁为第一率失真优化，pixnum为量化单元的长度，a1和a2为权重参数。

优选地，a1＝a2＝1。

S092：对所述第一量化残差进行第二补偿处理、第二反量化处理获得第二量化残差和第二率失真优化。

首先，根据所述第一残差损失获得波动系数；

其中，所述波动系数k满足：

其中，LOSS_1_i为量化单元第i位像素的第一残差损失，pixnum_none0为第一残差损失LOSS_1内非0的数量，round表示四舍五入运算符。

获得波动状态，其中，波动状态为同时存储在解码端和编码端的序列，满足：

CT＝{c₀,c₁,c_i,…,c_m}，其中，c_i＝0或1或-1，m＝量化单元长度，优选地，可设置固定的波动状态为：

CT＝{1,0,-1,0,1,0,-1,0}

根据波动状态和波动系数计算第二反量化残差，满足：

其中，第二反量化残差满足：

IQPRES_2_i＝IQPRES_1_i+k×c_i

其中，IQPRES_2_i为量化单元第i位像素的第二反量化残差。

根据第二反量化残差和量化单元的预测残差获得第二残差损失，满足：

LOSS_2_i＝IQPRES_2_i-PRES_i

其中，LOSS_2_i为量化单元第i位像素的第二残差损失。

计算第二率失真优化，满足：

其中，RDO₁为第二率失真优化。

S093：比较所述第一率失真优化和第二率失真优化，若所述第一率失真优化小于第二率失真优化，则将所述第一量化残差写入所述量化残差码流；否则将所述第二量化残差写入所述量化残差码流。

其中，若第一率失真优化小于第二率失真优化则说明不进行第二补偿损失更小，效果更优，则需要在将所述第一量化残差写入所述量化残差码流的同时将不进行第二补偿的标志写入码流；反之，则说明进行第二补偿损失更小，效果更优，则需要在将所述第一量化残差写入所述量化残差码流的同时将进行第二补偿的标志、波动系数写入码流。

以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims

1.一种预测量化编码方法，其特征在于，包括如下步骤：

(a)将待处理像素分成若干像素分量；

(b)获得待处理像素分量；

(c)获得所述待处理像素分量的纹理方向梯度；

(d)根据所述纹理方向梯度获得第一加权梯度最优值；根据所述第一加权梯度最优值、所述待处理像素分量与其余所述像素分量之间的位置关系获得第二加权梯度最优值；根据所述第二加权梯度最优值获得参考像素；

(e)根据所述参考像素获得所述待处理像素分量的预测残差；

(f)重复步骤(b)～步骤(e)，将任一像素分量作为待处理像素分量获得对应的预测残差以形成预测残差码流；

(g)将所述预测残差码流划分为多个量化单元；

(h)获取所述量化单元对应的第一率失真优化和第二率失真优化以获得量化残差码流。

2.根据要求1所述的预测量化编码方法，其特征在于，将待处理像素分成多个像素分量包括将所述待处理像素分成R像素分量、G像素分量、B像素分量。

3.根据要求1所述的预测量化编码方法，其特征在于，根据所述第一加权梯度最优值、所述待处理像素分量与其余所述像素分量之间的位置关系获得第二加权梯度最优值包括如下步骤：

(d21)获得所述待处理像素分量的第一加权梯度最优值；

4.根据要求1所述的预测量化编码方法，其特征在于，所述待处理像素分量与其余所述像素分量的位置关系包括：与所述待处理像素分量距离越近的像素分量其位置关系权重越大，反之越小。

5.根据要求1所述的预测量化编码方法，其特征在于，步骤(h)包括：

(h1)根据所述量化单元的预测残差依次获得第一量化残差、第一反量化残差、第一残差损失、所述第一率失真优化；

(h2)根据所述第一残差损失获得波动系数；

(h3)根据所述波动系数、波动状态、所述第一反量化残差获得第二反量化残差；

(h4)根据所述量化单元的预测残差、所述第二反量化残差获得所述第二率失真优化；

(h5)比较所述第一率失真优化和所述第二率失真优化，若所述第一率失真优化小于第二率失真优化，则将所述第一量化残差、不进行第二补偿的标志写入所述量化残差码流；否则将所述第一量化残差、进行第二补偿的标志、所述波动系数写入所述量化残差码流。

6.根据要求5所述的预测量化编码方法，其特征在于，所述波动系数k满足：