论文解读 基于强化学习的时间行为检测自适应模型 2018 AAAI (论文解读基于什么理论)

文章编号:43300 最新资讯 2024-12-09 2018 AAAI 强化学习 行为检测

雷锋网 AI 科技评论按 :互联网上以视频形式呈现的内容在日益增多,对视频内容进行高效及时的审核也变得越来越迫切。因此,视频中的行为检测技术也是当下热点研究任务之一。本文主要介绍的就是一种比传统视频行为检测方法更加有效的视频行为检测模型。

在近期雷锋网 GAIR 大讲堂举办的线上公开上,来自北京大学深圳研究生院信息工程学院二年级博士生黄靖佳介绍了他们团队在 AAAI 2018 上投稿的一篇论文,该论文中提出了一种可以自适应调整检测窗口大小及位置的方法,能对视频进行高效的检测。视频回放地址:

黄靖佳,北京大学深圳研究生院信息工程学院二年级博士生。2016 年毕业于华中科技大学计算机学院信息安全专业,获学士学位。现研究方向为计算机视觉、行为检测、增强学习等。

以下是 AI 科技评论对嘉宾分享的内容回顾。

分享主题 :AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

分享提纲:

分享内容:

大家好,我的分享首先是介绍一下行为检测的应用背景,接下来介绍我们团队提出的 SAP 模型,以及模型在实验数据集上的性能,最后是对本次分享的总结。

行为检测任务的介绍

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

但是这种方法在解决任务时存在两个难点。

首先是对于一个没有切割过的视频,比如在图中这个视频中,所需要检测的目标是一个三级跳运动,三级跳在不同的情况下,根据人的不同,所持续的时间也是不同的。

第二个难点是,目标时间出现的位置是在视频中的任意时间点。

所以说用「两阶段方法」进行目标行为预测,会产生非常多不同尺度,不同位置 proposal。最简单的方法是用不同尺度的滑动窗口,从前到后滑动,产生非常多的 proposal,然后再做分类。这种方法虽然行之有效,但时间复杂度和计算复杂度都相当高,使得在完成这项任务时往往需要花费大量的计算资源。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

为了避免这种低效的检测方法,我们提出了一种可以自适应调整检测窗口大小及位置的方法,对视频进行高效的检测。

我们最开始的想法是能不能仅使用一个滑动窗口,只需要从头到尾滑动一遍就完成 proposal 产生过程呢?

这就必须要求窗口能不断地自适应地根据窗口所覆盖的内容,能够不断调节窗口的大小,最终的窗口大小能精确覆盖目标运动,从而得到检测的窗口区间。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

我们使用增强学习作为背后的模型支撑来完成这样的循环过程,达到我们的目的。下面是 SAP 模型的框架图。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

关于 Temporal Pooling Layer

在原有的 C3D 模型中,要求输入的视频帧是固定的,一般是 16 帧或 8 帧。以 16 帧为例,当视频帧多于 16 帧,就需要对视频帧下采样,采样成 16 帧,送到视频中进行处理,这样在采样过程中会丢失非常多细节信息,造成特征表达不准确等问题。

而我们提出的 Temporal Pooling Layer 的输入帧可以是任意长度。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

我们在增强学习中的奖励设置机制。在增强学习中,对于一个 agent,如果 agent 执行了一个动作后,我们认为是执行正确的,就给一个奖励;如果认为是错的,就给一个惩罚。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

SAP 模型的训练过程,可到文末观看嘉宾的视频回放,或关注嘉宾的 GitHub 地址获取相关代码。 AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

SAP 模型的测试

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

实验过程

我们的实验是在 THUMOS'14 数据集展开的,用它的 validation set 训练模型,在 test set 上进行实验评估。我们使用了是以下两个衡量标准。第一个是 recall 值和平均 proposal 数量函数第二个是 recall 和 IoU。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

proposal 做分类后的评判标准是:Average Precison 和 mAP

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

检测性能的结果

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

上图红色圈注的部分比较的是不同的模型,在取相同的 proposal 数量,用同样的分类器做分类,哪个模型的性能会更好。结果发现,在只有 50 个 proposal 的时候,我们的方法表现的最好。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结

总结

代码相关资料GitHub地址:

雷锋网GAIR大讲堂视频回放地址:

更多免费直播视频,请关注微信公众号: AI科技评论。

原创文章,未经授权禁止转载。详情见 转载须知 。

AAAI 2018 论文解读:基于强化学习的时间行为检测自适应模型 | 分享总结


本文地址: /article/a666d62e2cddb43d0b77.html
全局中部横幅
全局中部横幅
hao123导航手机-上网从这里开始

hao123是汇集全网优质网址及资源的中文上网导航。及时收录影视、音乐、小说、游戏等分类的网址和内容,让您的网络生活更简单精彩。上网,从hao123开始。

传奇发布网_新开传奇网站_传奇开区表_新开好服网

新开好服网(www.xinkaihf.com)提供优质的今日新开传奇发布网列表,打造一个高效的传奇发布站点,对每个新开传奇私服网站资料,热血传奇私服的开区信息都严格把关让所有玩家热爱传奇的玩家都能快速找到自己喜欢的游戏。

成都软件开发|成都APP开发|技术VC孵化|产品设计,互联网创业首选-希格斯科技

成都app开发哪家公司好?【成都希格斯网络科技有限公司028-62711128】是一家最走心、高品质、有深度的互联网解决方案提供商,也是国内领先技术vc孵化服务商为创业者提供:直播APP,教育系统,新零售O2O系统开发,电商B2C/BBC系统,新闻APP,出行打车APP系统,旅游APP等。我们专注于移动互联网,服务涵盖:软件系统定制开发、创业项目技术VC扶持孵化计划、人才培养、创投融资等服务。能够完美地进行iOS、AndroidApp开发以及产品开发定制。(HiggsesInc.isfocusonmobileappoutsourcingservices,weareabletodoperfectlyonMobileAppdevelopmentandcustomization.)

石家庄做网站公司_网站建设_做网站网站制作公司-飞数科技

【选择飞数科技】石家庄网站建设,石家庄网站制作,石家庄做网站公司,石家庄网站建设,石家庄网站制作,石家庄做网站公司,可按照客户需求定制开发.

化妆品代加工厂家_面膜OEM工厂_护肤品生产厂-广州爱尼丝化妆品

爱尼丝化妆品是一家集化妆品代加工、面膜OEM、护肤品OEM、精油OEM、原液OEM、身体药油OEM、水乳霜OEM、致力服务电商微商,日化线专业线的广州化妆品代加工厂家。

旋转式除铁器-抽屉式除铁器-高强力磁棒-中智磁性机械有限公司

中智磁性机械有限公司专业生产:旋转式除铁器,抽屉式除铁器,高强力磁棒,悬挂除铁器,永磁除铁器,磁棒,磁滚筒,磁滚筒,除铁箱,除铁槽以及各种规格磁性材料等

人工智能计算领域的领导者 | NVIDIA

我们打造出速度更快的超级计算机和规模更大的游戏平台。

橙舟软件 – SAAS系统服务商

橙舟SAAS小程序,小程序公众号SAAS系统服务商,外卖返利小程序,,商城系统,拓客小程序等开发定制搭建,小程序代理加盟。

RIB玻璃钢底船-进口橡皮艇价格-威海朝阳船艇开发有限公司

RIB玻璃钢底船-进口橡皮艇价格-威海朝阳船艇开发有限公司威海朝阳船艇开发有限公司是一家集研发、生产、销售为一体的专业生产各种船艇及其配件的现代式管理企业。公司采用韩国进口原材料,型号涵盖RIB游艇、钓鱼船、漂流船、冲锋舟、RIB玻璃钢底船、进口橡皮艇、海帕伦船等四十余种规格,产品主要出口韩国、欧洲、美洲等各个国家和地区。欢迎致电咨询!

发吧网- 领先的B2B电子商务平台_b2b平台免费发布信息网站

发吧网是国内领先的B2B电子商务平台,b2b平台免费发布信息网,为您提供全面的B2B行业资讯、供应、求购、库存信息、品牌信息等,是国内企业免费发布B2B信息,电子商务网络贸易的首选网站。

全局底部横幅