2019 图鸭科技 CLIC CVPR 图像压缩挑战赛冠军方案全解读 (图鸭科技 创始人)

文章编号:43782 最新资讯 2024-12-09 CVPR 图像压缩

雷锋网 AI 科技评论按:在 CVPR 2019 CLIC 图像压缩挑战赛中,图鸭科技所提出的算法 TucodECSSIM 夺得了 MS-SSIM 和 MOS 两项指标的冠军,算法 TucodecPSNR 夺得了 PSNR 指标的冠军,算法 TucodecPSNR40dB 则夺得高码点图像压缩 Transparent Track 的冠军。以下为图鸭科技提供的技术解读。

近年来随着人工智能技术的发展,基于深度学习的图像压缩技术已取得了飞速的发展。一个典型的基于深度学习的图像压缩框架包括:自编码网络结构设计、量化、码率估计和率-失真优化等几个模块。本文将主要介绍图鸭科技在 CVPR 2019 CLIC 图像压缩挑战赛上的相关技术方案,针对于比赛所设置的低码点和高码点压缩两个赛道,我们基于变分自编码网络设计了可进行端到端优化的图像压缩方案。该方案包括一个非线性编码网络、软量化模块、一个非线性解码网络和一个熵估计模块。我们技术方案的特色之处总结如下:

1. 提出了基于全局特征分析的 non-lcao 注意力模块,并融合进编码网络和解码网络,以实现提升自适应码字分配性能的目的。

2. 设计了一种基于自适应聚类的软量化方法以降低量化损失。

3. 提出了能融合超先验子网络和基于 pixel cnn++的上下文模型的码率估计模块。

得益于优良的网络结构和算法设计,我们所提出的算法 TucodecSSIM 夺得了 MS-SSIM 和 MOS 两项指标的冠军,算法 TucodecPSNR 夺得了 PSNR 指标的冠军,算法 TucodecPSNR40dB 则夺得高码点图像压缩指标的冠军。接下来将具体介绍我们的算法方案:

(1) 编码网络和解码网络

我们的主干压缩自编码网络使用了如图 1 所示的非对称结构,它包括卷积、非线性单元和残差 non-local 注意力卷积等模块。值得注意的是,通过使用残差 non-local 注意力模块来对特征的全局关联性进行捕捉和建模,图像中的纹理、边界等复杂部分能得到更好的重建。在 kodak 标准数据集上的实验表明,通过在编码和解码网络结构中融合 non-local 注意力模块,能在 PSNR 指标熵带来 0.6db 的提升。

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

图 1 编码和解码网络结构示意图

( 2) 量化

在现在的大部分方案中,取整量化 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 是一种常用的方式。我们通过实验测评发现,这种直接将浮点数映射到整数的量化方式会极大的降低重建精度(PSNR 指标至少降低 0.5db, MS-SSIM 指标降低至少 1.5db)。为了降低量化带来的精度损失,我们设计了一种基于自适应聚类的软量化方案,具体介绍如下:

给定可学习的中心点 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 ,可使用最近邻分配的方式来计算量化值:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

但式 (1) 的量化方式是不可导,因此将使用如下所定义的软分配方式进行替换,以保证在训练过程中能进行端到端的优化:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

在用 tensorflow 进行实现时,可以用如下的代码对参数进行量化:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

(3) 先验概率和码率估计

为了进行码率估计,使用拉普拉斯分布对压缩特征的分布进行表示,分布的参数包括均值 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 和方差 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 。为了对分布的均值和方差进行端到端的计算,设计了如图 2 所示的网络结构:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

图 2. 码率估计模块示意图,该模块包括超参自编码网络、上下文网络和熵参数网络三部分。

码率估计模块由三个子网络构成:超参网络 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 ,参数为 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 ;上下文网络 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 ,参数为 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 ;熵参数网络 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 ,参数是 图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读 。如图 2 所示,超参网络由超参编码网络、量化模块和超参解码网络组成。超参网络的量化特征也需要编码,使用非参的概率密度估计方式进行先验概率建模:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

此外我们使用了 Pixelcnn++网络结构对特征的上下文关系进行捕捉和建模;最后使用卷积模块进行熵参数网络的构建,并将超参网络的输出和上下文网络的输出进行级联来作为熵参数网络的输入来计算相应的均值和方差。主干自编码网络压缩特征的分布可以表示为:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

最后码率估计将由两部分组成:一部分是对主干自编码网络中压缩特征的估计码率,一部分是超参自编码网络压缩特征的估计码率:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

(4) 后处理

在方案 TucodecPSNR 中,我们使用了改进的 266 算法作为基础,但低码率压缩算法重建图最显著的缺点是存在伪影,并且很多纹理细节会丢失。为了改进在低码率条件下重建图的质量,我们设计一个有效地后处理模块,后处理模块的具体细节如图 3 所示。

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

图 3 后处理算法结构示意图

(5) 实验结果

我们从 CLIC 2019 训练集和 flickr.com 上收集了 5000 张高清图片,并从中采集了百万张的图像块作为训练集。为对网络进行高效训练,我们使用 tensorflow 平台对相应网络结构进行实现。在方案 TucodecSSIM 中,进行网络训练使用的损失函数如下所示:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

除上述损失函数外,也结合了对抗生成网络对压缩网络进行端到端的训练。为了满足比赛的 0.15bpp 的约束要求,我们训练了 5 个模型分别对应λ=0.2/0.3/0.4/0.5/0.6,最后使用动态规划算法进行码字分配。

在方案 TucodecPSNR40db 中,进行网络训练所使用的损失函数如下所示:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

在模型训练完毕后,为了满足比赛的 PSNR 值不小于 40db 和 MS-SSIM 值不小于 0.993 的约束,共训练了 5 个模型,对应的 λ=4096/4800/5500/6500/8000。最后使用动态规划算法进行码字分配。在方案 TucodecPSNR 中,使用了我们改进的 H266 算法作为基础,并结合后处理网络进行性能的提升,我们给出了三个模型,分别对应 QP 36/37/38,并最后进行码字分配以满足 0.15bpp 约束的要求。所提出算法的测评指标如下表所示:

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读

版权文章,未经授权禁止转载。详情见 转载须知 。

图鸭科技 CVPR 2019 CLIC 图像压缩赛冠军方案全解读


本文地址: /article/4d04ae71575d52bc3003.html
全局中部横幅
全局中部横幅
腾讯网

腾讯网从2003年创立至今,已经成为集新闻信息,区域垂直生活服务、社会化媒体资讯和产品为一体的互联网媒体平台。腾讯网下设新闻、科技、财经、娱乐、体育、汽车、时尚等多个频道,充分满足用户对不同类型资讯的需求。同时专注不同领域内容,打造精品栏目,并顺应技术发展趋势,推出网络直播等创新形式,改变了用户获取资讯的方式和习惯。

京通招聘网-北京通州招聘网站北京通州人才招聘网——专注通州企业招聘与个人求职

为求职者提供免费注册、求职指导、简历管理等服务,职位真实可靠,上京通招聘网-北京通州招聘网站,找到满意工作

水厂托管运行/营-上海化工生物制药废水处理-水处理系统改造-上海瀚圻环保科技有限公司

上海瀚圻环保科技有限公司专业从事水厂托管运行,水厂托管运营,生物制药废水处理,化工废水生化处理,水厂托管运营,水处理系统改造等水处理项目工艺集成及系统整体解决方案,拥有丰富的行业经验,先后成功服务吉林,上海多家客户,深得用户的认可和好评,业务合作热线021-54397987.

天津市昊天橡塑制造有限公司-阀座厂家-蝶阀阀座

天津市昊天橡塑制造有限公司天津市昊天橡塑制造有限公司蝶阀阀座橡胶密封件-阀座,橡胶阀座,蝶阀,蝶阀阀座,橡胶密封圈,D341衬胶阀体,挂胶,中线法兰蝶阀,丁腈阀座。

智速软件|物流软件|物流管理软件|物流系统

物流软件|零担物流软件|三方物流软件|仓储配送系统

消防水电施工,消防水电安装,消防水电施工公司,消防水电改造-亿杰北京消防工程公司

北京亿杰消防工程公司专门从事消防工程改造安装(消防水电施工,消防水电安装,消防水电施工公司,消防水电改造,消防改造,消防工程改造,北京消防工程、北京消防安装等相关业务),火灾自动报警系统、自动喷洒系统、消火栓系统、气体灭火系统的安装,施工改造电话:010-57113119

梵伊瑜伽

广州梵伊体育发展有限公司、瑜伽、梵伊瑜伽、瑜伽服、瑜伽垫、瑜伽辅具

空压机|空气压缩机|开山空压机|开山螺杆空压机|开山集团空压机

开山集团中国的空压机制造上市企业(300257)开山牌空气压缩机包括:活塞式空压机,节能螺杆式空压机,柴电移动空压机,开山空压机为节约中国作贡献!TEL:021-67565331

泉州市启胜听力语言康复中心-听力检测、助听器验配、聋儿语言康复训练、言语矫治、心理咨询、智力评估、社区康复指导_培训教育

泉州市启胜听力语言康复中心-听力检测、助听器验配、聋儿语言康复训练、言语矫治、心理咨询、智力评估、社区康复指导泉州市启胜听力语言康复中心创始于1997年(原海西聋康中心,2018年12月更名注册),是泉州市残联主管的民办非盈利性机构。2012年经省残联评定为泉州市福乐幼儿园,主要承担全市残疾聋儿康复治疗、语言训练、康复研究和残疾预防工作指导等职能。泉州助听器,泉州专业助听器,泉州助听器专卖店,泉州西门子助听器,泉州哪里买助听器

浙江古越龙山绍兴酒股份有限公司

浙江古越龙山绍兴酒股份有限公司是中国黄酒行业领军企业,520户国家重点企业之一,中国酒业协会副理事长单位,中国酒业协会黄酒分会理事长单位。

佛山欧奈克门窗【官网】

佛山欧奈克门窗坐落于中国著名的铝材之都佛山,是一家集研发、设计、生产、销售、安装及服务于一体的系统门窗专业定制专家企业。生产铝合金平开窗、推拉窗、断桥门窗等系列产品。

全局底部横幅