[发明专利]一种适用于HEVC的全零块检测方法

摘要

本发明提供了一种适用于HEVC的全零块检测方法，涉及视频处理技术领域，本发明计算预测残差子块的按沃尔什序排列的沃尔什变换WT系数矩阵，根据预测残差子块的沃尔什序WT系数矩阵计算与TB同阶的沃尔什序WT系数矩阵，根据沃尔什序WT变换系数或预测残差检测全零块。本发明与基于SAD和SATD的算法相比，直接使用最大变换系数检测全零块，避免了由残差能量分布差异所造成的误检测，从而极大提高了检测效率，本发明不仅能检测UQ中的全零块，也能检测RDOQ中的全零块；对4种尺寸的全零块都有较高的检测效率；编码器的率失真性能损失较小，基本可以忽略；变换/量化运算的整体耗时明显下降，提高了编码的速度。

主权项

一种适用于HEVC的全零块检测方法，其特征在于包括下述步骤：第一步：计算预测残差子块的按沃尔什序排列的沃尔什变换WT系数矩阵：将32×32和16×16大小的TB分别划分成16个和4个8×8大小互不重叠的预测残差子块；8×8和4×4大小的TB不进行进一步划分，分别对应一个8×8大小和一个4×4大小的预测残差子块，对于每一个预测残差子块，若率失真优化模块已经计算过该预测残差子块的WT系数矩阵，则从率失真优化模块获取其对应的4×4或8×8沃尔什序WT系数矩阵；若无法从率失真优化模块获取，而父级TB中包含当前预测残差子块的沃尔什序WT系数矩阵，则从父级TB中获取对应的沃尔什序WT系数矩阵；若从父级TB中依然无法得到对应的沃尔什序WT系数矩阵，则分别计算每个预测残差子块的沃尔什序WT系数矩阵；第二步：根据第一步得到的预测残差子块的沃尔什序WT系数矩阵计算与TB同阶的沃尔什序WT系数矩阵：对于4×4TB和8×8TB，其预测残差子块对应的沃尔什序WT系数矩阵即与TB同阶的沃尔什序WT系数矩阵；对于16×16TB，根据第一步得到的4个预测残差子块的8×8沃尔什序WT系数矩阵计算得到16×16非沃尔什序WT系数矩阵，计算公式如下：$B_{16}^{\′}=\frac{1}{2}\left[\begin{array}{cc}{B_8}^{(0,0)}+{B_8}^{(0,1)}+{B_8}^{(1,0)}+{B_8}^{(1,1)}& {B_8}^{(0,0)}-{B_8}^{(0,1)}+{B_8}^{(1,0)}-{B_8}^{(1,1)}\\ {B_8}^{(0,0)}+{B_8}^{(0,1)}-{B_8}^{(1,0)}-{B_8}^{(1,1)}& {B_8}^{(0,0)}-{B_8}^{(0,1)}-{B_8}^{(1,0)}+{B_8}^{(1,1)}\end{array}\right]---\left(1\right)$其中，B₈^(i,j)，i,j∈{0,1}是预测残差子块的8×8沃尔什序WT系数矩阵，i表示8×8预测残差子块在16×16TB中的横向坐标，j表示8×8预测残差子块在16×16TB中的纵向坐标，B′₁₆是16×16非沃尔什序WT系数矩阵，使用16×16沃尔什序WT系数矩阵B₁₆的112个低频系数，B′₁₆与B₁₆中的系数完全相同，且将B′₁₆中的系数按沃尔时序重新排列即可得到B₁₆，因此，直接从B′₁₆获取B₁₆的112个低频系数；对于32×32TB，根据第一步得到的16个预测残差子块的8×8沃尔什序WT系数矩阵计算得到32×32非沃尔什序WT系数矩阵，计算公式如下：$\begin{array}{c}{B}_{32}^{\′}=\frac{1}{4}(\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& -1& 1& -1\\ 1& 1& -1& -1\\ 1& -1& -1& 1\end{array}\right]\⊗\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right])\\ \left[\begin{array}{cccc}{B}_8^{(0,0)}& B_8^{(0,1)}& B_8^{(0,2)}& B_8^{(0,3)}\\ B_8^{(1,0)}& B_8^{(1,1)}& B_8^{(1,2)}& B_8^{(1,3)}\\ B_8^{(2,0)}& B_8^{(2,1)}& B_8^{(2,2)}& B_8^{(2,3)}\\ B_8^{(3,0)}& B_8^{(3,1)}& B_8^{(3,2)}& B_8^{(3,3)}\end{array}\right](\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& -1& 1& -1\\ 1& 1& -1& -1\\ 1& -1& -1& 1\end{array}\right]\⊗\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\\ 0& 0& 0& 1\end{array}\right])\end{array}---\left(2\right)$其中，B₈^(m,n)，m,n∈{0,3}是预测残差子块的8×8沃尔什序WT系数矩阵，m表示8×8预测残差子块在32×32TB中的横向坐标，n表示8×8预测残差子块在32×32TB中的纵向坐标，B′₃₂是32×32非沃尔什序WT系数矩阵，表示克罗内克积，本发明使用32×32沃尔什序WT系数矩阵B₃₂的160个低频系数，B′₃₂与B₃₂中的系数完全相同，且将B′₃₂中的系数按沃尔时序重新排列即可得到B₃₂，因此，直接从B′₃₂获取B₃₂的160个低频系数；第三步：根据第二步得到的沃尔什序WT变换系数或预测残差检测全零块：当量化操作使用的是均匀量化器UQ，逐个比较WT变换系数的绝对值与量化阈值Th_U的大小，对于4×4TB和8×8TB，将第二步得到的与TB同阶的沃尔什序WT系数矩阵中的系数逐个与Th_U比较大小；对于16×16TB，将第二步得到的16×16沃尔什序WT系数矩阵中的112个低频系数逐个与Th_U比较大小；对于32×32TB，将第二步得到的32×32沃尔什序WT系数矩阵中的160个低频系数逐个与Th_U比较大小；若TB中所有需要对比的WT变换系数的绝对值均不大于阈值Th_U，则当前TB是全零块，否则认为是非全零块，阈值Th_U的定义为：Th_U＝α·(1?offset)·Q_step         (3)其中，α是补偿系数，其取值范围为[0.9,1.0]，检测率与误检测率都与α正相关；offset是UQ的截断电压，对于I Slice其值为1/3，对于其他Slice其值为1/6；Q_step是量化步长；当量化操作使用的是率失真优化量化器RDOQ，使用基于率失真优化的方法检测全零块；首先，根据要检测的TB的大小查找WT变换系数中绝对值最大的系数C_M及其位置，对于4×4TB和8×8TB，查找第二步得到的与TB同阶的沃尔什序WT系数矩阵中的每个系数；对于16×16TB，查找第二步得到的16×16沃尔什序WT系数矩阵中的112个低频系数；对于32×32TB，查找第二步得到的32×32沃尔什序WT系数矩阵中的160个低频系数；然后，计算C_M的预量化值l^pre：$l^{pre}=round\left(\frac{1.1\·\left|C_M\right|}{Q_{step}}\right)---\left(4\right)$其中，round()表示四舍五入，若l^pre等于0，则该TB为全零块；若l^pre大于2，则该TB为非全零块；若l^pre等于1或2，则比较使用HEVC CABAC熵编码器将C_M编码为0时的率失真代价J_coeff0和编码为非零时的整体率失真代价J_NZ(i)，J_NZ(i)的计算公式为：J_NZ(i)＝J_coeffi+J_CG+J_pos                        (5)其中，J_coeffi表示使用HEVC CABAC熵编码器将C_M编码为i时的率失真代价，l^pre＝1时i∈{1}，即计算J_NZ(1)，l^pre＝2时i∈{1,2}，即分别计算J_NZ(1)和J_NZ(2)；J_pos表示编码C_M的位置所需的率失真代价；J_CG表示编码系数组flag所需的率失真代价；若对于所有的i均有J_coeff0≤J_NZ(i)，即当C_M编码为0时的率失真代价更小时，则当前TB为全零块，否则为非全零块。