[发明专利]一种面向帧内码率控制的拉格朗日因子计算方法

摘要

本发明公开了一种面向帧内码率控制的拉格朗日因子计算方法，根据帧内失真传播特性，结合拉格朗日优化，推导出码率控制中的基于SSE的拉格朗日因子λSSE：由于参考像素与预测像素之间可以被描述为一维高斯马尔科夫模型，因此按照帧内预测编码原理推导出失真传播模型，计算出失真传播参数α；同时利用码率控制原理，获取原始的拉格朗日因子λ。本发明方法通过计算参数α和λ来获取拉格朗日因子λSSE，具有较低的编码复杂度，仅为现有算法的0.1％；且从率失真理论的角度得到帧内码率控制下的拉格朗日因子λSSE，具有高的准确度。

主权项

1.一种面向帧内码率控制的拉格朗日因子计算方法，其特征在于，具体包括如下步骤：步骤1，假设位于(i,j)处的待编码像素值为p，利用参考像素重构值p'r进行帧内预测后得到的像素值为p'，则失真d：d＝p(i,j)‑p′(i,j)                   (2)；式(2)重写为：d＝[p(i,j)‑pp(i,j)]+[pp(i,j)‑p′(i,j)]            (3)；其中，pp指参考像素原始值pr采用相同的帧内预测模式所得到的预测值；式(3)中的像素失真由两部分构成：加号前半部分表示当前像素值与参考像素原始值经帧内预测后所产生的失真do；加号后半部分表示参考像素原始值pr与参考像素重构值p'r分别经过帧内预测后所产生的失真dp，该部分由参考像素的编码失真dr引起的，体现了失真的漂移特性，则d＝do+dp                    (4)；这种帧内预测关系被描述为一维高斯马尔科夫模型：后半部分失真：则当前待编码CTU的总失真D：D＝Do+θ·Dr                 (7)；其中，Do表示当前像素值与参考像素原始值经帧内预测后所产生的总失真，Dr表示参考像素原始值与参考像素重构值分别经过帧内预测后所产生的总失真，Dr体现了帧内预测编码所带来的失真漂移特性；步骤2，通过拉格朗日优化方法，码率控制问题被描述为：其中，J表示率失真代价，符号D(i)和R(i)分别表示第i个CTU经编码后产生的编码失真和编码码率，对于第i个CTU，它的编码失真会传播到右边第i+1个CTU和相邻下边第j个CTU中，因此其中，λ'指失真测度为SAD下的拉格朗日因子，所以式(8)被更新为：SSE被用作失真测度，该失真测度下获取的拉格朗日因子λSSE与SAD失真测度下获取的拉格朗日因子λi有以下关系：从而得到改进的拉格朗日因子λSSE：