企业官网建设流程全解析

在无噪信道编码中，香农无失真编码定理指出：只要编码码率大于信源熵H(X)，就可以实现任意小的译码差错。但在图像、语音、视频等多媒体通信场景下，严格无失真编码需要极高的传输码率，会占用大量信道带宽。为此，信息论引入允许一定失真的有损压缩框架，在预先设定失真上限的前提下，求解信源压缩所需的最低信息传输速率，这一最小码率就被定义为信息率失真函数R(D)。

设信源为离散随机变量X，重建输出为随机变量Y，定义单字符失真度量d(x,y)≥0，平均失真为：

给定最大允许失真D，满足D非≤D的所有转移概率矩阵P(y|x)构成可行集合。信息率失真函数R(D)是在该约束下，互信息I(X;Y)的最小值：

互信息I(X;Y)=H(X)-H(X|Y)，代表信源发送端与接收重建端之间传递的平均信息量，因此R(D)代表失真不超过D时，压缩编码必须保留的最少信息量。

定义域

D存在下限与上限：

最小失真：

此时尽可能选择失真最小的重建符号。当D＜Dmin，不存在可行编码方案，R(D)无意义。

最大失真：

此时无需传输任何信息，令R(Dmax)=0。当D≥Dmax，不需要传递信息，码率可以降为0。

单调性与凸性

R(D)是定义在区间[Dmin,Dmax]上的连续、严格递减下凸函数。允许的失真越大，所需的最低传输码率越低；失真放宽到极限，码率降为零。下凸性保证了可以使用拉格朗日极值法求解约束极小值。

物理意义

R(D)刻画了信源本身的压缩潜力，只取决于信源分布p(x)与失真准则d(x,y)，和信道无关，是信源固有的有损压缩属性，与电路冲激响应只由拓扑和元件参数决定具有内在逻辑一致性。