CN100551075C - 一种低复杂度的帧内预测模式选择方法 - Google Patents

Abstract

本发明公开了一种低复杂度的帧内预测模式选择方法，在当前块中取表征纹理特征的两组样本点，根据相邻块的开销值，计算阈值，该方法包括以下步骤：判断当前块是否处于图像帧的特殊位置，如果是，计算该特殊位置下的最优预测模式并输出，结束计算；如果不是，计算当前块在最可能预测模式下的开销值，如果小于阈值，则输出该模式，结束计算；反之，选择所有非最可能的预测模式中开销值最小的一个，作为临时最优预测模式；比较最可能预测模式与临时最优预测模式的开销值，选择其中较小的作为最优预测模式输出。本发明通过选取特征点代替整个数据块，在对视频编码质量没有明显影响的情况下，显著降低帧内预测模式选择的计算量，提高视频编码的实时性。

Description

一种低复杂度的帧内预测模式选择方法

技术领域

本发明属于视频信息压缩领域，具体涉及一种低复杂度的帧内预测模式选择方法。

背景技术

目前的高级视频编码标准中都包含了帧内预测功能，利用临近块的样本点作外推来实现对当前块的预测，以更好的消除单帧图像内的空间冗余，这样只需要对预测块和当前块的残差进行编码。尤其是在变化平坦的区域，利用帧内预测可以大大的降低码率。

当一个宏块是采用帧内模式编码时，利用先前已经编码并重构的块构造一个预测块P。对于亮度分量，可以为每个块或者宏块创建预测块P。例如H.264编码标准中4×4亮度块共有9种可选模式，16×16亮度块有4种可选模式。

如图1所示，在H.264标准中，利用相邻块中已经解码的13个样本点(A～L和Q)中的几个或者所有的点，来预测当前4×4亮度块中的样本点(a～p)。选择9种预测模式中效果最好的一种，作为该块的最佳预测模式。9种预测模式包括：模式2的均值预测(DC_PRED)和如图2所示的8种方向预测。

对每一个4×4块的预测模式都进行编码需要占用很多比特，适当的利用空间相邻块的相关性，可以达到高效编码的目的。如图3所示，C是当前的4×4亮度块，根据A块和B块预测模式的不同组合得到C块的一个最可能的预测模式。将得到的最可能的预测模式与前述C块的最佳预测模式相比较，如果相同，则只需在编码时使用1个比特表示最可能的预测模式，否则只需发送3个比特表示剩余8种预测模式中最佳的一个。

在传统的做法中，使用9种模式的全搜索方法来找到最优的一种预测模式，主要的步骤如下所示：

1、根据一种模式构造出4×4的预测块P；

2、计算原始块与预测块P之间的绝对误差和SAD₁₆；

3、计算开销值Cost₁₆＝SAD₁₆+4Rλ(QP)    (1)

${\mathrm{SAD}}_{16}=\underset{x=0}{\overset{3}{\mathrm{\Σ}}}\underset{y=0}{\overset{3}{\mathrm{\Σ}}}|s(x,y)-s^{\′}(x,y)|---\left(2\right)$

其中，λ(QP)是量化因子QP的指数函数，QP根据不同的标准，取值不同；λ(QP)用于调整预测模式在输出码流中所占的比例，QP越大，预测模式所占比例越高；s(x，y)与s′(x，y)分别表示原始点和预测点，x、y为其坐标值；根据相邻块对当前块预测，得到当前块的最可能预测模式，R用来区别是否为最可能预测模式，当前模式是最可能的预测模式时R＝0，其他8种情况下R＝1；

4、重复1-3步，从9种预测方式中选择Cost₁₆值最小的一个，即为最佳的预测模式。

虽然这种全搜索方法可以找到最佳的预测模式，但是它的计算量非常大，是帧内和帧间编码中耗时很多的一部分。

专利CN200410006340公开的方法，通过计算待编码宏块的纹理特征，然后根据纹理特征中的纹理方向选出最优的预测模式。这种方法需要进行宏块纹理分析，如灰度梯度法、傅立叶频谱分析法等，计算复杂度较高，不利于系统后期的平台优化。

专利CN200480006978公开的方法，通过计算帧内编码块的边缘方向信息，然后进行最优预测模式的选择。这种方法需要确定块内所有象素的边缘矢量的幅值和角度，为每一个象素计算边缘方向直方图，计算量很大，实用性不高。

发明内容

有鉴于此，本发明的主要目的在于提供一种实用性强，计算简便的低复杂度的帧内预测模式选择方法。

为达到上述目的，本发明的技术方案是这样实现的：

一种低复杂度的帧内预测模式选择方法，在当前块中取表征纹理特征的两组样本点，根据相邻块的开销值，计算阈值，该方法包括以下步骤：

A、判断当前块是否处于图像帧的特殊位置，如果是，计算该特殊位置下的最优预测模式并输出，结束计算；如果不是，进入步骤B；

B、计算当前块在最可能预测模式下的开销值，如果小于阈值，则输出该模式，结束计算；反之，进入步骤C；

C、选择所有非最可能的预测模式中开销值最小的一个，作为临时最优预测模式；

D、比较最可能预测模式与临时最优预测模式的开销值，选择其中较小的作为最优预测模式输出。

步骤A中特殊位置是指，当前块处于图像帧的最左上方、最上方或最左方。

步骤A所述计算该特殊位置下的最优预测模式分三种情况：

当前块位于图像帧最左上方，最优预测模式为2；

当前块在图像帧的最上方，计算在模式1、模式2和模式8下，所述两组样本点的开销值，选择开销值最小的模式作为当前块的最优预测模式；

当前块在图像帧的最左方，计算在模式0、模式2、模式3和模式7下，所述两组样本点的开销值，选择开销值最小的模式作为当前块的最优预测模式。

步骤C中计算临时最优预测模式开销值的步骤包括：

C1、计算所有非最可能的预测模式下第一组样本点的绝对误差和，绝对误差和最小的模式，记为临时最优预测模式M₁，M₁左方的模式为M₂，M₁右方的模式为M₃；

C2、判断模式2是否为最可能的预测模式，如果是，记M₄为空，进入步骤C4；否则，记模式2为M₄，进入步骤C3；

C3、判断M₂是否为最可能的预测模式，如果是，重新记M₂左方的模式为M₂，进入步骤C4；否则，判断M₃是否为最可能的预测模式，如果是，重新记M₃右方的模式为M₃，进入步骤C4；

C4、分别计算模式M₁，M₂、M₃和M₄的第二组样本点的绝对误差和，并与相应的第一组样本点得绝对误差和相加，得到各模式的绝对误差和，选择绝对误差和最小的模式作为临时最优预测模式，进入步骤D。

根据图像块的纹理特征，两组样本点包含的点数相同或不同。

所述方法适用于最小块为4×4的图像帧。

本发明通过选取特征点代替整个数据块，在对视频编码质量没有明显影响的情况下，显著降低帧内预测模式选择的计算量，提高视频编码的实时性。

附图说明

图1为4×4块预测样本点示意图；

图2为4×4块预测的8种预测方向示意图；

图3为相邻块A、B、C关系图；

图4是本发明所述方法的流程图。

具体实施方式

本发明的主要思想是：从简化开销值(Cost)的计算函数和减少需要验证的模式数两方面入手，对帧内预测模式选择进行处理。通常一个4×4的亮度块具有的细节较少，纹理结构是比较平滑的，这样就可以通过减少4×4亮度块中需要计算的样本点数目来简化Cost值计算函数。另外，在基于4×4亮度块的帧内预测中，最优的预测模式通常与次优的预测模式具有相似的方向；并且当QP很大时(比如40)，其他模式中的罚因子4λ(QP)将会增大，所以最可能的预测模式通常就是最优的预测模式；特别的，在图像内容非常混杂的区域，任何一种预测模式都不可能达到很好的预测效果。

以图1所示的4×4块为例，本方法的当前块(C块)预测的主要步骤如下：

步骤1：在当前块中取表征纹理特征的两组样本点。

取当前4×4块中的e、f、g、h、m、n、o和p作为第一组样本点，a、b、c、d、i、j、k和l作为第二组样本点。在计算Cost值时就采用公式：

Cost_n＝SAD_n+Rλ(QP)    (3)

其中，SAD_n是利用每一组中的n个样本点计算得到的绝对误差和，R和λ(QP)与等式(1)中的含义相同。

上述两组样本点Cost_n1和Cost_n2的和，记为Cost_m；SAD_n1和SAD_n2的和，记为SAD_m。

步骤2：判断当前块是否处于图像帧的特殊位置，如果是，计算该位置下的最优预测模式并输出，退出计算；如果不是，进入步骤3。

所谓图像帧的特殊位置是指当前块处于图像帧的最左上方、最上方或最左方。其中，图像帧最左上方的预测模式为2；如果当前块在图像帧的最上方，则在模式1、模式2和模式8下，计算上述两组样本点的Cost_m值，选择Cost_m值最小的一个模式作为当前块的最优预测模式，并退出计算；如果当前块在图像帧的最左方，则在模式0、模式2、模式3和模式7下，计算上述两组样本点的Cost_m值，选择Cost_m值最小的一个模式作为当前块的最优预测模式，并退出计算。如果当前块不是处于图像帧的特殊位置，则进入步骤3。

步骤3：根据相邻块的Cost_m值，计算阈值T。

相邻块位置如图3所示，每个块计算之后都会保存其Cost_m值，从中读取A块、B块的Cost_m值。根据A块、B块的特征预测C块，得到C块的最可能预测模式，记录该模式。如果最可能的预测模式就是最优预测模式，则C块与A块或B块具有相似的纹理结构，即C块的预测残差与A块或B块的预测残差应该十分接近。再将罚因子λ(QP)的作用考虑在内，将阈值T设定为：

T＝min(Cost_mA，Cost_mB)+λ(QP)    (4)

其中，Cost_mA是A块的Cost_m值，Cost_mB是B块的Cost_m值，λ(QP)与等式(1)中的含义相同。

步骤4：计算C块在最可能的预测模式下的Cost_m值，记为Cost_mC。此时，R＝0，根据(1)式，Cost_mC＝SAD_m。如果Cost_mC的结果小于阈值T，那么就把它作为当前4×4亮度块的最优预测模式，退出计算，将最可能的预测模式作为最终的结果输出；否则说明最可能的预测模式不能像预测A块或B块的良好效果一样来预测C块，就必须在其他的8种预测模式中进行挑选，进入步骤5。

步骤5：通过计算其他8种模式下第一组样本点的SAD_n1，选出临时最优预测模式及其左右模式。

除了最可能的预测模式外，其他预测模式在计算Cost_n值时都要受到罚因子λ(QP)的相同制约，所以在比较其他8种预测模式的预测效果时，可以先不考虑罚因子的影响。由于模式2与方向性无关，需要单独考虑，将计算得到的模式与模式2、最可能预测模式综合比较，得到临时最优预测模式及其左右模式。具体步骤如下：

步骤501：计算所有非最可能的预测模式下第一组样本点的SAD_n1，得到SAD_n1值最小的一个模式，记为临时最优预测模式M₁。M₁左方的模式记为M₂，M₁右方的模式记为M₃。各种模式的左右关系如表1所示。

预测模式	左方模式	右方模式
			0	5	7
1	8	6
			2	0	1
3	7	8
			4	6	5
5	4	0
			6	1	4
7	0	3
			8	3	1

表1

步骤502：因为模式2与方向性无关，表1中无法体现，所以在计算中单独考虑，用M₄表示模式2与最可能预测模式的关系，判断模式2是否为最可能的预测模式，如果是，记M₄为空，进入步骤6；否则，记模式2为M₄，进入步骤503。

步骤503：判断M₂是否为最可能的预测模式，如果是，重新记M₂左方的模式为M₂，进入步骤6；否则，判断M₃是否为最可能的预测模式，如果是，重新记M₃右方的模式为M₃，进入步骤6。

步骤6：分别计算在步骤5中得到的预测模式M₁，M₂、M₃和M₄的第二组样本点的SAD_n2值，并与其各自的第一组样本点得SAD_n1值相加，选择SAD_m值最小的一个作为新的临时最优预测模式，计算得到它的Cost_m值，记为Cost_mM，进入步骤7。

步骤7：比较Cost_mC和Cost_mM，选择其中较小的一个作为最优预测模式输出。如果二者相等，说明图像的方向细节已经发生了变化，此时临时最优预测模式的预测效果要优于最可能的预测模式。这时选择临时最优预测模式作为最终的最优预测模式，那么对于后续右方和下方的块具有更佳的预测效果。

在全搜索方法下为了找到最优预测模式，每个4×4块需要计算16×9＝144个样本点的Cost值。而实施例中的快速搜索方法最好的情况是只需要计算步骤1～4，即最可能的预测模式下16个点的Cost值。经实验发现，当QP值增大时，只计算最可能预测模式的概率也随之增大。例如在QP＝16时约为30％，QP＝31时增大为50％，QP＝48时最大接近80％。

最差的情况是步骤5中需要计算模式2，Cost值的样本点总数为：

(16*1)+(8*8)+(8*4)＝112

可以看出即使在最差的情况下，实施例中的快速模式搜索方法还是节省了32个样本点的计算量，使得预测模式选择的时间效率提高20％左右。

步骤1中，两组样本点包含的点数可以不同，根据图像块的纹理特征，选取最能表征纹理特征的点，作为样本点。步骤3中阈值T的选取至关重要：如果T较小，则不能有效的减少需要计算的预测模式数；否则，较容易选择最可能的预测模式作为最终的结果，不能有效的找到当前块的最佳预测模式。一般的，在图像内容比较复杂的区域，可以适当的增大T的值；否则，应该减小T的值。另外，T的选择与QP值的大小也有关系：当QP较大时，预测误差较大，则应该适当的增大T的值；否则，应该减小T的值。

以上所述，仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。

Claims (5)

1、一种低复杂度的帧内预测模式选择方法，其特征在于，在当前块中取表征纹理特征的两组样本点，根据相邻块的开销值，计算阈值，该方法包括以下步骤：

A、判断当前块是否处于图像帧的特殊位置，如果是，计算该特殊位置下的最优预测模式并输出，结束计算；如果不是，进入步骤B；

B、计算当前块在最可能预测模式下的开销值，如果小于阈值，则输出该模式，结束计算；反之，进入步骤C；

C、选择所有非最可能的预测模式中开销值最小的一个，作为临时最优预测模式；

D、比较最可能预测模式与临时最优预测模式的开销值，选择其中较小的作为最优预测模式输出；

所述步骤C中计算临时最优预测模式开销值的步骤包括：C1、计算所有非最可能的预测模式下第一组样本点的绝对误差和，绝对误差和最小的模式，记为临时最优预测模式M₁，M₁左方的模式为M₂，M₁右方的模式为M₃；C2、判断模式2是否为最可能的预测模式，如果是，记M₄为空，进入步骤C4；否则，记模式2为M₄，进入步骤C3；C3、判断M₂是否为最可能的预测模式，如果是，重新记M₂左方的模式为M₂，进入步骤C4；否则，判断M₃是否为最可能的预测模式，如果是，重新记M₃右方的模式为M₃，进入步骤C4；C4、分别计算模式M₁，M₂、M₃和M₄的第二组样本点的绝对误差和，并与相应的第一组样本点的绝对误差和相加，得到各模式的绝对误差和，选择绝对误差和最小的模式作为临时最优预测模式，进入步骤D。

2、根据权利要求1所述的低复杂度的帧内预测模式选择方法，其特征在于，步骤A中特殊位置是指，当前块处于图像帧的最左上方、最上方或最左方。

3、根据权利要求2所述的低复杂度的帧内预测模式选择方法，其特征在于，步骤A所述计算该特殊位置下的最优预测模式分三种情况：

当前块位于图像帧最左上方，最优预测模式为2；

当前块在图像帧的最上方，计算在模式1、模式2和模式8下，所述两组样本点的开销值，选择开销值最小的模式作为当前块的最优预测模式；

当前块在图像帧的最左方，计算在模式0、模式2、模式3和模式7下，所述两组样本点的开销值，选择开销值最小的模式作为当前块的最优预测模式。

4、根据权利要求1所述的低复杂度的帧内预测模式选择方法，其特征在于，根据图像块的纹理特征，两组样本点包含的点数相同或不同。

5、根据权利要求1所述的低复杂度的帧内预测模式选择方法，其特征在于，所述方法适用于最小块为4×4的图像帧。

Images