提升主观质量与效率的AVS帧内模式选择算法：结合SAD与GSIM

本文主要探讨的是针对视频压缩技术中的帧内模式选择问题，特别是在第二代信源编码标准AVS（Advanced Video Coding System）框架下的一种创新算法。传统AVS的帧内模式选择通常依赖于率失真优化，使用绝对误差（SAD）来衡量失真，这种方法简便易行，但可能与人类视觉系统的特性（HVS）存在偏差。SAD在处理清晰度方面表现良好，但对于评估图像模糊或严重降质的情况并不理想。 为了克服这一局限，作者引入了梯度结构相似度（GSIM），这是一种基于梯度幅度值的质量评价方法，更符合人眼视觉系统的特点，能够有效评价模糊图像，但其计算复杂度较高，限制了在实时编码中的应用。作者提出的新型算法融合了SAD和GSIM的优点，通过将两者结合作为失真度度量，考虑到了预测模式之间的相关性，以此来进行帧内预测模式的选择。 算法的关键步骤包括：首先，从众多预测模式中选取SAD的最优值和次优值，然后计算它们之间的差值。如果这个差值超过了预设的阈值，就使用GSIM来进一步评估失真，而阈值的选择则是根据预测模式间的相关性进行自适应调整。当需要进行模式修正时，会根据GSIM的最优值和次优值判断是否有必要。 通过实验对比，本文的结果显示出新算法在主观质量上有显著提升，即视频的视觉效果更为逼真，尽管这可能导致编码时间有所增加，但增加的幅度相对较小，实现了主观质量和处理效率的平衡。因此，该结合梯度结构相似度的AVS帧内模式选择算法对于提高视频编码质量，尤其是在处理复杂场景下的视频编码具有实际应用价值。