2019 图鸭科技 CLIC CVPR 图像压缩挑战赛冠军方案全解读 (图鸭科技 创始人)

文章编号:43782 资讯动态 2024-12-09 CVPR 图像压缩

雷锋网 AI 科技评论按:在 CVPR 2019 CLIC 图像压缩挑战赛中,图鸭科技所提出的算法 TucodecSSIM 夺得了 MS-SSIM 和 MOS 两项指标的冠军,算法 TucodecPSNR 夺得了 PSNR 指标的冠军,算法 TucodecPSNR40dB 则夺得高码点图像压缩 Transparent Track 的冠军。以下为图鸭科技提供的技术解读。

近年来随着人工智能技术的发展,基于深度学习的图像压缩技术已取得了飞速的发展。一个典型的基于深度学习的图像压缩框架包括:自编码网络结构设计、量化、码率估计和率-失真优化等几个模块。本文将主要介绍图鸭科技在 CVPR 2019 CLIC 图像压缩挑战赛上的相关技术方案,针对于比赛所设置的低码点和高码点压缩两个赛道,我们基于变分自编码网络设计了可进行端到端优化的图像压缩方案。该方案包括一个非线性编码网络、软量化模块、一个非线性解码网络和一个熵估计模块。我们技术方案的特色之处总结如下:

1. 提出了基于全局特征分析的 non-lcao 注意力模块,并融合进编码网络和解码网络,以实现提升自适应码字分配性能的目的。

2. 设计了一种基于自适应聚类的软量化方法以降低量化损失。

3. 提出了能融合超先验子网络和基于 pixel cnn++的上下文模型的码率估计模块。

得益于优良的网络结构和算法设计,我们所提出的算法 TucodecSSIM 夺得了 MS-SSIM 和 MOS 两项指标的冠军,算法 TucodecPSNR 夺得了 PSNR 指标的冠军,算法 TucodecPSNR40dB 则夺得高码点图像压缩指标的冠军。接下来将具体介绍我们的算法方案:

(1) 编码网络和解码网络

我们的主干压缩自编码网络使用了如图 1 所示的非对称结构,它包括卷积、非线性单元和残差 non-local 注意力卷积等模块。值得注意的是,通过使用残差 non-local 注意力模块来对特征的全局关联性进行捕捉和建模,图像中的纹理、边界等复杂部分能得到更好的重建。在 kodak 标准数据集上的实验表明,通过在编码和解码网络结构中融合 non-local 注意力模块,能在 PSNR 指标熵带来 0.6db 的提升。

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

图 1 编码和解码网络结构示意图

( 2) 量化

在现在的大部分方案中,取整量化 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 是一种常用的方式。我们通过实验测评发现,这种直接将浮点数映射到整数的量化方式会极大的降低重建精度(PSNR 指标至少降低 0.5db, MS-SSIM 指标降低至少 1.5db)。为了降低量化带来的精度损失,我们设计了一种基于自适应聚类的软量化方案,具体介绍如下:

给定可学习的中心点 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 ,可使用最近邻分配的方式来计算量化值:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

但式 (1) 的量化方式是不可导,因此将使用如下所定义的软分配方式进行替换,以保证在训练过程中能进行端到端的优化:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

在用 tensorflow 进行实现时,可以用如下的代码对参数进行量化:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

(3) 先验概率和码率估计

为了进行码率估计,使用拉普拉斯分布对压缩特征的分布进行表示,分布的参数包括均值 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 和方差 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 。为了对分布的均值和方差进行端到端的计算,设计了如图 2 所示的网络结构:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

图 2. 码率估计模块示意图,该模块包括超参自编码网络、上下文网络和熵参数网络三部分。

码率估计模块由三个子网络构成:超参网络 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 ,参数为 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 ;上下文网络 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 ,参数为 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 ;熵参数网络 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 ,参数是 图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读 。如图 2 所示,超参网络由超参编码网络、量化模块和超参解码网络组成。超参网络的量化特征也需要编码,使用非参的概率密度估计方式进行先验概率建模:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

此外我们使用了 Pixelcnn++网络结构对特征的上下文关系进行捕捉和建模;最后使用卷积模块进行熵参数网络的构建,并将超参网络的输出和上下文网络的输出进行级联来作为熵参数网络的输入来计算相应的均值和方差。主干自编码网络压缩特征的分布可以表示为:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

最后码率估计将由两部分组成:一部分是对主干自编码网络中压缩特征的估计码率,一部分是超参自编码网络压缩特征的估计码率:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

(4) 后处理

在方案 TucodecPSNR 中,我们使用了改进的 266 算法作为基础,但低码率压缩算法重建图最显著的缺点是存在伪影,并且很多纹理细节会丢失。为了改进在低码率条件下重建图的质量,我们设计一个有效地后处理模块,后处理模块的具体细节如图 3 所示。

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

图 3 后处理算法结构示意图

(5) 实验结果

我们从 CLIC 2019 训练集和 flickr.com 上收集了 5000 张高清图片,并从中采集了百万张的图像块作为训练集。为对网络进行高效训练,我们使用 tensorflow 平台对相应网络结构进行实现。在方案 TucodecSSIM 中,进行网络训练使用的损失函数如下所示:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

除上述损失函数外,也结合了对抗生成网络对压缩网络进行端到端的训练。为了满足比赛的 0.15bpp 的约束要求,我们训练了 5 个模型分别对应λ=0.2/0.3/0.4/0.5/0.6,最后使用动态规划算法进行码字分配。

在方案 TucodecPSNR40db 中,进行网络训练所使用的损失函数如下所示:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

在模型训练完毕后,为了满足比赛的 PSNR 值不小于 40db 和 MS-SSIM 值不小于 0.993 的约束,共训练了 5 个模型,对应的 λ=4096/4800/5500/6500/8000。最后使用动态规划算法进行码字分配。在方案 TucodecPSNR 中,使用了我们改进的 H266 算法作为基础,并结合后处理网络进行性能的提升,我们给出了三个模型,分别对应 QP 36/37/38,并最后进行码字分配以满足 0.15bpp 约束的要求。所提出算法的测评指标如下表所示:

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读

版权文章,未经授权禁止转载。详情见 转载须知 。

图鸭科技 CVPR 2019 CLIC 图像挑战赛冠军方案全解读


本文地址: https://www.gpxz.com/article/4d04ae71575d52bc3003.html
全局中部横幅
全局中部横幅
学术导航

是8K导航网旗下最专业好用的学术导航网站!学术导航为科研人员提供学术名站、文库文档、学术基金、专利、标准、期刊杂志、在线课程、考研、TED、艺术展馆、科普知识、学术导航名站等相关网站导航指引。科研人专属的网址导航。

天津监控天津安世佳电子科技有限公司

天津安世佳电子科技有限公司市场部是一家天津监控、天津监控器、天津闭路监控、天津监控摄像机、天津红外摄像机、天津停车场道闸、天津道闸、天津报警器、天津安检门、天津金属探测器、...

武汉除甲醛

室内环境净化治理国家甲级资质公司湖北格瑞乐环保,提供除甲醛、甲醛检测、空间消毒、杀菌除螨、水质污染检测与治理、室内空气检测和治理以及室内香氛净化、空气污染净化等各类环保服务,全国环保咨询热线:400-027-8156

浙江新大塑料管件有限公司

浙江新大塑料管件有限公司成立于2001年,是一家专业从事生产燃气及供水用聚乙烯(PE)电熔连接、热熔对接、PE球阀、钢塑转换及热熔承插、PPR管件及钢丝网管件等工贸一体化的国际现代化企业

KK社区

KK社区是国内的安卓手游,源码分享,技术交流社区,这里有海量好玩安卓软件,热情的互动氛围,最有创意和技术的UP主,在KK社区和全球玩家共享乐趣。

天津云脉三六五科技有限公司官网

云脉三六五由一批拥有丰富经验的跨境电商精英与充满活力的互联网技术人员共同组建。我们的愿景是用IT技术服务十万跨境企业,百万跨境人。我们的使命是提升中国跨境人的国际竞争力,助力中国货,通全球。期待遇见有趣的你,与你一起做有价值有意义的事

物种库

保护地研究-物种库(数字标本资源库)。全国数字标本资源库,自然保护地数字生物物种资源库(简称“物种库”),收集和提供保护地物种数据,以保护地为主线,用图片、文字、视频等形式全面记录保护地物种状况。本站的重点栏目有:物种卡、物种描述、生物多样性、气候变化、物种名录、物种分类、保护地物种。支持我们,请联系QQ:468780427微信:lzx2101。

问考吧

问考吧为考生提供自考网上报名系统、报名时间、自考专业、自考本科专科、成绩查询入口、历年真题下载、自考查分、准考证打印、自考办电话、自考院校及专业等自学考试信息资讯。

菲尼克斯矿山设备(上海)有限公司

菲尼克斯矿山设备(上海)有限公司与美国黑石科技有限公司合资,专营破碎设备、制砂设备、碎石设备等大型破碎机械设备、制砂生产线设备等大型矿山设备的销售和服务,公司具备一定的技术实力和生产能力,为海内外客户提供成套破碎生产线设备提供保障。

命令与征服之红色警戒3起义时刻

命令与征服之红色警戒3起义时刻游戏专题;提供命令与征服之红色警戒3起义时刻中文版下载,命令与征服之红色警戒3起义时刻攻略大全,命令与征服之红色警戒3起义时刻汉化补丁,命令与征服之红色警戒3起义时刻视频解说,攻略视频,修改器,汉化下载,完美存档,MOD,配置,教学,截图,壁纸等资料。更多《命令与征服之红色警戒3起义时刻》相关内容尽在游侠网。

全局底部横幅