CN101137047A - 一种通过有效残差系数分析提高编码效率的方法 - Google Patents
一种通过有效残差系数分析提高编码效率的方法 Download PDFInfo
- Publication number
- CN101137047A CN101137047A CNA2006100305344A CN200610030534A CN101137047A CN 101137047 A CN101137047 A CN 101137047A CN A2006100305344 A CNA2006100305344 A CN A2006100305344A CN 200610030534 A CN200610030534 A CN 200610030534A CN 101137047 A CN101137047 A CN 101137047A
- Authority
- CN
- China
- Prior art keywords
- residual error
- error coefficient
- run
- rdc
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 230000002708 enhancing effect Effects 0.000 title 1
- 230000008569 process Effects 0.000 claims abstract description 15
- 238000013139 quantization Methods 0.000 claims description 14
- 230000005540 biological transmission Effects 0.000 claims description 2
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000011002 quantification Methods 0.000 description 4
- 230000006735 deficit Effects 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 241001269238 Data Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000005056 compaction Methods 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000004377 microelectronic Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本发明公开了一种通过有效残差系数分析提高编码效率的方法。包括两个流程：残差系数编码流程和残差系数分析流程，首先，编码过程中获得了量化后的残差系数，此时，根据残差系数的相对位置，进行加权；残差系数按照指定的方式进行扫描，得到编码需要的run和level，残差系数level对应不同的run，编码代价不同，据此对残差系数进一步加权；将此加权值与给定的阈值进行比较，调整残差系数的取值；最后，重新获得新的run和level值，进行编码。本方法通过在残差系数编码的过程中，分析残差的不同特征，调整残差的值，从而提高编码效率和编码质量。
Description
技术领域
本发明涉及计算机及微电子领域中的数字视频压缩技术，特别是针对基于DCT(离散余弦变换，Discrete Cosine Transform)变换的视频压缩技术和硬件实现技术，尤其涉及一种通过有效残差系数分析提高编码效率的方法。
背景技术
现代视频压缩技术，包括MPEG-1，2，4，WMV，H.264，残差系数多在进行了DCT变换后，对变换域的系数进行编码。通过对残差系数的特殊分析处理，可以有效提高视频的编码效率和编码质量，但如何用简单的硬件实现，却是业界的一个技术问题。
发明内容
本发明要解决的技术问题是提供一种通过有效残差系数分析提高编码效率的方法，可以用简单的硬件有效提高视频的编码效率和编码质量。
为解决上述技术问题，本发明方法包括两个流程：残差系数编码流程和残差系数分析流程，其中残差系数编码流程包括三个步骤：步骤一、对DCT变换后的残差系数进行量化；步骤二、按规定方式进行扫描，记录run和level，其中其中run为两个非零系数之间的间隔，level为非零系数的取值；步骤三、对run和level分别进行编码；残差系数分析流程包括三个顺序步骤：步骤a)根据量化系数的不同位置查表得到加权值，步骤b)对量化后的残差系数进行加权处理，步骤c)根据残差系数对应的run作进一步加权，与对应的阈值进行比较，处理残差系数；所述步骤b)的处理结果同时传输给所述步骤二，所述步骤c)的结果传输给所述步骤三。
本发明方法由于针对特定位置上的残差系数进行区别处理的机制，而不是所有的残差系数都采用直接编码的策略，从而在保证了一定的压缩质量的前提下，有效地减少了编码的数据量。同时，在对不同的位置上的系数进行加权运算的时候，权值的获取相对简单、有效，不包含乘除法，能用简单的硬件进行实现。
附图说明
图1是进行4x4 Zig-zag Scan(锯齿形扫描)的示意图；
图2是进行4x4 Field Scan(场方式齿形扫描)的示意图；
图3是进行8x8 Zig-zag Scan的示意图；
图4是进行8x8 Field Scan的示意图；
图5残差系数分析编码流程图。
具体实施方式
下面结合附图和具体实施方式对本发明作进一步详细的说明。
本发明所述的是对视频编码中残差系数的特殊分析处理，以有效提高视频的编码效率和编码质量的方法。其原理是：对DCT变换后的系数进行加权，以体现其在编码时的重要程度，根据图像质量的需求进行合理的取舍。
一般而言，DCT变换后的图像残差系数，将集中在低频部分，这也是视频压缩时，对残差进行DCT变换的原因。而在实际的编码过程中，偶尔在高频部分还存在着残差数据。由于这类数据的罕见性，导致了在视频压缩的规范中，其编码代价很大。对于重要的高频细节，不能够随意丢弃，因为高频细节会对人眼观察的主观质量产生影响，而且由于视频数据的相关性，数据质量的损失是不可恢复，并且损失会在图像序列中传递。因此如何分析和处理这些高频数据。
本发明的方法首先是根据编码的量化系数来选择阈值，对小于该阈值的残差系数进行加权处理。在图像编码中，通过调整量化系数Qp，可以改变残差系数的大小，但是其调整针对整个MB进行，没有考虑到不同位置上残差系数对图像质量的贡献不同。本发明结合了参残差系数的量化系数Qp、相对位置、残差系数位置相关性等，进行加权处理。
具体的方法如图5所示：首先，编码过程中获得了量化后的残差系数，此时，根据残差系数的相对位置，进行加权；残差系数按照指定的方式进行扫描，得到编码需要的run和level值，残差系数level对应不同的run，编码代价不同，据此对残差系数进一步加权；将此加权值与给定的阈值进行比较，调整残差系数的取值；最后，重新获得新的run和level值，进行编码。
首先，不同的量化系数下，编码的视频数据的质量有明显的不同，因此，针对不同的量化系数，需要采用不同的方式。
例如，在h.264中，量化系数Qp的范围是0到51。可以将其分为5个区域：
Qp<12 (1)
12<Qp<40 (2)
Qp>40 (3)
对于Qp值位于区域(1)的压缩序列，量化后的图像损失很小，残差系数多而且精度要求高，一般不需要对残差进行处理，从而降低复杂度。
对于Qp值位于区域(3)的压缩序列，量化后图像损失较大，量化后的残差系数虽然少，但是比较重要，一般也不需要对残差进行处理。
因此，我们主要针对Qp值位于区域(2)的压缩序列进行加权处理。加权的基本因子与量化系数Qp相关。
视频编码对于残差系数一般按照特定的规则进行排序。通常采用如图所示的方式。对于8x8和4x4的DCT变换各有两种方式。每种方式对应的计数方式与视频压缩规范定义一致(如图1-图4所示)。图中的锯齿形扫描(Zig-Zag Scan)就是要将一个区块(block)量化后的DCT系数依低频到高频排列。
扫描的顺序一定程度上说明了残差系数的频率分布，位置越靠后，频率越高，出现较大残差值的概率也越小，重要性也相应降低。
由
1+3+5+7＝16， (1)
和1+3+5+…+15＝64； (2)
我们可以将所有位置上的残差系数分为4组和8组；第n组中系数的个数为2n-l，每组通过查表(见表1，2)获得不同的加权值An。
0 1 2 3
96 80 64 54
表1 4x4分组残差加权值
| 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 |
| 128 | 100 | 90 | 80 | 72 | 64 | 60 | 56 |
表2 8x8分组残差加权值
同时，按图中的系数排列方式，进行逆序计数，将从此非0系数开始到下一个非0系数之间的0的个数(也就是视频编码规范中的run参数)也作为加权值，对第k个系数的run的加权值Vk与run的关系是：run值越大，Vk越小。
Vk＝α×run (3)
其中α为负的常数，取值范围在-1到-10之间，常用取值为-4。
令Ck为第n组的一个残差系数，总的残差系数加权公式可以表示为：
Mk＝Ck×An+Vk (4)
当加权后的残差系数小于指定的阈值Rn的时候，这个残差系数将被忽略。通常阈值与量化系数成正比，1到4倍为宜，一般Rn＝2×Qp。
我们以以一组4x4DCT后的系数为例，说明整个流程：
1、假定一组量化后的系数经过扫描后0到15位置上的系数如下
表所示：
| 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 20 | 8 | 0 | 0 | 3 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 |
这样4x4 Zig-zag扫描后得到的run，level如下：
level l，run 4
level l，run 3
level 3，run 2
level 8，run 0
level 20，run 0
2、计算level 1的权重如下：
M＝54×1-4×4＝38，
计算level 1的权重如下：
M＝54×1-4×3＝42，
计算level 3的权重如下：
M＝64×3-4×2＝184
计算level 8的权重如下：
M＝80×8-4×0＝640，
计算level 20的权重如下：
M＝96×20-4×0＝1920
可见，当Qp＝20的时候，阈值R＝20×2＝40；保留1，3，8，20四个系数；当Qp＝24的时候，阈值R＝24×2＝48；保留3，8，20三个系数。结果表明，在低的量化系数Qp下，视频数据的细节(小的高频系数)被保留，保证了编码质量；高Qp下，细节部分被舍弃，可以提高编码效率。总体而言，如何进行取舍，充分考虑了视频编码的特性，提高了编码性能。
由上面所述的处理步骤可以看到，本发明的方法的具体实施与当前编码的量化系数、DCT变换的阶数(一般为4x4或8x8)等相关，充分结合了视频编码的特点，并且与整个编码过程相结合，额外的开销很小。本发明的方法在软硬件环境中都能很容易的实现，例如：
本发明采用了只有简单的加法、移位和查表工作，便于实现。整个残差系数的分析过程与编码过程结合紧密，有效降低了实现的复杂度。
本发明方法可以广泛应用于基于DCT变换的视频编码应用。
综上所述，本发明提出在视频编码的过程中，针对特定位置上的残差系数进行区别处理的机制，对不同的位置上的系数进行加权运算，而不是所有的残差系数都采用直接编码的策略。加权处理不仅考虑了系数的位置，同时考虑系数间距离对编码的影响，权值的获取相对简单、有效。在这一策略中，不包含乘除法，能用简单的硬件进行实现。
Claims (2)
1.一种通过有效残差系数分析提高编码效率的方法，其特征在于，包括两个流程：残差系数编码流程和残差系数分析流程，其中所述残差系数编码流程包括如下顺序步骤：步骤一、对DCT变换后的残差系数进行量化；步骤二、按规定方式进行扫描，记录run和level，其中run为两个非零系数之间的间隔，level为非零系数的取值；步骤三、对run和level分别进行编码；所述残差系数分析流程包括如下顺序步骤：步骤a)根据量化系数的不同位置查表得到加权值，步骤b)对量化后的残差系数进行加权处理，步骤c)根据残差系数对应的run作进一步加权，与对应的阈值进行比较，处理残差系数；所述步骤b)的处理结果同时传输给所述步骤二，所述步骤c)的结果传输给所述步骤三。
2.根据权利要求1所述的通过有效残差系数分析提高编码效率的方法，其特征在于，所述步骤a)中量化系数的不同位置查的加权值与所述run的关系是：run值越大，加权值越小，且α＝加权值/run值范围为-1到-10之间；所述步骤c)中若加权后的残差系数小于指定的阈值，该残差系数将被忽略，且阈值与量化系数成正比，比例为1到4倍。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2006100305344A CN101137047B (zh) | 2006-08-29 | 2006-08-29 | 一种通过有效残差系数分析提高编码效率的方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN2006100305344A CN101137047B (zh) | 2006-08-29 | 2006-08-29 | 一种通过有效残差系数分析提高编码效率的方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN101137047A true CN101137047A (zh) | 2008-03-05 |
| CN101137047B CN101137047B (zh) | 2010-09-15 |
Family
ID=39160838
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN2006100305344A Expired - Fee Related CN101137047B (zh) | 2006-08-29 | 2006-08-29 | 一种通过有效残差系数分析提高编码效率的方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN101137047B (zh) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102281434A (zh) * | 2010-06-10 | 2011-12-14 | 中国移动通信集团公司 | 一种视频压缩方法及设备 |
| CN105812803A (zh) * | 2014-12-31 | 2016-07-27 | 浙江大华技术股份有限公司 | 一种针对变换单元tu的残差舍弃方法及装置 |
| CN106878719A (zh) * | 2010-07-31 | 2017-06-20 | M&K控股株式会社 | 图像编码装置 |
| CN107347154A (zh) * | 2011-11-07 | 2017-11-14 | 杜比国际公司 | 用于编码和解码图像的方法、编码和解码设备、以及相应的计算机程序 |
| CN107493479A (zh) * | 2011-10-17 | 2017-12-19 | 株式会社Kt | 利用解码装置解码视频信号的方法 |
| CN107770549A (zh) * | 2012-01-19 | 2018-03-06 | 佳能株式会社 | 编码和解码变换单位的残差系数的有效性映射的方法 |
| US10681389B2 (en) | 2011-11-07 | 2020-06-09 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| WO2024125593A1 (zh) * | 2022-12-16 | 2024-06-20 | 杭州海康威视数字技术股份有限公司 | 一种解码、编码方法、装置及其设备 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3089941B2 (ja) * | 1994-02-28 | 2000-09-18 | 日本ビクター株式会社 | 画像間予測符号化装置 |
| CN100393138C (zh) * | 1996-11-06 | 2008-06-04 | 松下电器产业株式会社 | 图象解码方法 |
| US7010037B2 (en) * | 2002-08-06 | 2006-03-07 | Koninklijke Philips Electronics N.V. | System and method for rate-distortion optimized data partitioning for video coding using backward adaptation |
| CN100403801C (zh) * | 2005-09-23 | 2008-07-16 | 联合信源数字音视频技术（北京）有限公司 | 一种基于上下文的自适应熵编/解码方法 |
-
2006
- 2006-08-29 CN CN2006100305344A patent/CN101137047B/zh not_active Expired - Fee Related
Cited By (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102281434B (zh) * | 2010-06-10 | 2013-11-06 | 中国移动通信集团公司 | 一种视频压缩方法及设备 |
| CN102281434A (zh) * | 2010-06-10 | 2011-12-14 | 中国移动通信集团公司 | 一种视频压缩方法及设备 |
| CN106878719A (zh) * | 2010-07-31 | 2017-06-20 | M&K控股株式会社 | 图像编码装置 |
| CN106878719B (zh) * | 2010-07-31 | 2019-08-30 | M&K控股株式会社 | 图像编码装置 |
| CN107493479A (zh) * | 2011-10-17 | 2017-12-19 | 株式会社Kt | 利用解码装置解码视频信号的方法 |
| US11109072B2 (en) | 2011-11-07 | 2021-08-31 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| US10681389B2 (en) | 2011-11-07 | 2020-06-09 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| US11943485B2 (en) | 2011-11-07 | 2024-03-26 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| CN107347154A (zh) * | 2011-11-07 | 2017-11-14 | 杜比国际公司 | 用于编码和解码图像的方法、编码和解码设备、以及相应的计算机程序 |
| US11889098B2 (en) | 2011-11-07 | 2024-01-30 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| US11277630B2 (en) | 2011-11-07 | 2022-03-15 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| US10701386B2 (en) | 2011-11-07 | 2020-06-30 | Dolby International Ab | Method of coding and decoding images, coding and decoding device and computer programs corresponding thereto |
| CN107770549B (zh) * | 2012-01-19 | 2020-02-14 | 佳能株式会社 | 图像帧数据的编码和解码方法及装置以及计算机可读介质 |
| CN107770549A (zh) * | 2012-01-19 | 2018-03-06 | 佳能株式会社 | 编码和解码变换单位的残差系数的有效性映射的方法 |
| US10531101B2 (en) | 2012-01-19 | 2020-01-07 | Canon Kabushiki Kaisha | Method, apparatus and system for encoding and decoding the significance map for residual coefficients of a transform unit |
| US10531100B2 (en) | 2012-01-19 | 2020-01-07 | Canon Kabushiki Kaisha | Method, apparatus and system for encoding and decoding the significance map for residual coefficients of a transform unit |
| US10516887B2 (en) | 2012-01-19 | 2019-12-24 | Canon Kabushiki Kaisha | Method, apparatus and system for encoding and decoding the significance map for residual coefficients of a transform unit |
| CN105812803A (zh) * | 2014-12-31 | 2016-07-27 | 浙江大华技术股份有限公司 | 一种针对变换单元tu的残差舍弃方法及装置 |
| CN105812803B (zh) * | 2014-12-31 | 2018-09-28 | 浙江大华技术股份有限公司 | 一种针对变换单元tu的残差舍弃方法及装置 |
| WO2024125593A1 (zh) * | 2022-12-16 | 2024-06-20 | 杭州海康威视数字技术股份有限公司 | 一种解码、编码方法、装置及其设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN101137047B (zh) | 2010-09-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN101137047B (zh) | 一种通过有效残差系数分析提高编码效率的方法 | |
| US6408026B1 (en) | Deadzone quantization method and apparatus for image compression | |
| Lee et al. | Quantization of 3D-DCT coefficients and scan order for video compression | |
| US7420483B2 (en) | Data processing apparatus, data processing method, computer readable medium storing program, and computer data signal | |
| CN100534186C (zh) | 基于码率预分配的jpeg2000自适应率控制系统及方法 | |
| CN1157080A (zh) | 用于编码视频图像的装置和方法 | |
| JPH08172626A (ja) | 画像圧縮符号化装置 | |
| CN1596422A (zh) | 用于估算压缩视频数据客观质量的方法和系统 | |
| Zhang et al. | Practical image quality metric applied to image coding | |
| JP2013507083A (ja) | デジタル画像を再圧縮するための装置および方法 | |
| Saha et al. | An analysis on the effect of image features on lossy coding performance | |
| DE112010004109T5 (de) | Verfahren zum Dekodieren eines Bitstroms | |
| JPH05276501A (ja) | 可変長の適応映像圧縮方法及び装置 | |
| CN101605272A (zh) | 一种部分参考型图像客观质量评价方法 | |
| CN102868907A (zh) | 部分参考视频质量客观评价方法 | |
| CN103945220A (zh) | 一种用于高效视频编码hevc的量化优化方法 | |
| CN1157079A (zh) | 用于编码视频图像的装置和方法 | |
| Milani et al. | Antiforensics attacks to Benford's law for the detection of double compressed images | |
| CN100490494C (zh) | 解码设备、逆量化方法、分布确定方法及其程序 | |
| US5675385A (en) | Transform coding apparatus with evaluation of quantization under inverse transformation | |
| CN115278269B (zh) | 一种点云属性编码方法、点云属性解码方法及存储介质 | |
| CN1284374C (zh) | 细粒度可分级视频编码系统用的频率加权矩阵的产生方法 | |
| Gao et al. | Quality constrained compression using DWT-based image quality metric | |
| CN102695055B (zh) | 高码率下jpeg_ls码率控制方法 | |
| Lukin et al. | Automatic lossy compression of noisy images by spiht or jpeg2000 in optimal operation point neighborhood |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| ASS | Succession or assignment of patent right |
Owner name: KUNSHAN JADE TECHNOLOGIES CO., LTD. Free format text: FORMER OWNER: SHANGHAI JADE TECHNOLOGIES CO., LTD. Effective date: 20100719 |
|
| C41 | Transfer of patent application or patent right or utility model | ||
| COR | Change of bibliographic data |
Free format text: CORRECT: ADDRESS; FROM: 201203 BUILDING 16, NO.115, LANE 572, BIBO ROAD, PUDONG NEW AREA, SHANGHAI CITY TO: 215311 TOWER ABCD, 12/F, SOUTH BUILDING, KUNSHANPUDONG SOFTWARE PARK, BACHENG TOWN, KUNSHAN CITY |
|
| TA01 | Transfer of patent application right |
Effective date of registration: 20100719 Address after: A ABCD 12 layer 215311 town Kunshan city Kunshan Pudong Software Park South Applicant after: Shanghai Jade Technologies Co., Ltd. Address before: 201203 Building No. 115, No. 572, Lane 16, blue wave road, Shanghai, Pudong New Area Applicant before: Shanghai Jiede Microelectronic Co., Ltd. |
|
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| C17 | Cessation of patent right | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20100915 Termination date: 20120829 |