MIT×UMich探索可以理解物体空间关系的人工智能 向人类再进一步

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

研究人员开发的框架可以根据物体空间关系的文本描述生成场景图像

人类在描述场景时,经常描述物体之间的空间关系。 生物视觉识别涉及自上而下通路和自下而上通路的交互,而深度神经网络只模拟了第二种通路。自上而下的视觉通路涉及生物视觉感知的 全局性、拓扑性、多解性 等特点,尤其是理解图像时会面临数学上的无穷解问题。而这些特点或许就是深度神经网络下一步的改进方向。

“视觉场景理解包括检测和识别物体,推理被检测物体之间的视觉关系以及使用语句描述图像区域。”依据《我们赖以生存的隐喻》的观点, 物体关系相比于语义关系是更加基本的,因为语义关系背后都包含着物体关系的假设。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

就如下图中,两只猫猫在「互殴」,另一只猫猫在旁边不嫌事大地看热闹。通过这个例子,人类可以非常清晰直接地观察并捕捉到猫咪的位置、行为和关联。但许多深度学习模型却无法以相同的方式理解复杂实况,捕获全部信息并进行解析,因为它们不明白单个物体之间的「纠缠」关系。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

那么问题来了,如果「捋不清」这些关系,像被设计用于厨房的机器人就很难执行「拿起菜板左边的柜子下面的炉灶上的铁锅炖大鹅」此类指令。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

为了让机器人能够精准完成这些任务,来自麻省理工学院的 Shuang Li、Yilun Du 和伊利诺伊大学香槟分校的等人合作提出一款可以 理解场景中物体之间空间关系的模型。该模型具有很好的泛化能力,能够通过组合多个物体的空间关系从而生成或者编辑复杂的图片 。论文已作为Spotlight展示被NeurIPS 2021接收。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

总的来说,研究主要有三个主要贡献:

1. 提出了一个框架来分解和组合物体之间的关系,该框架能够生成和编辑图像根据通过组合物体之间空间关系描述,并且明显优于基线方法。

2. 能够推断出潜在物体之间的场景描述,并能够很好的理解物体之间的语义等效。语义等效是同样的场景但是不同的表述方式,例如苹果在香蕉左边和香蕉在苹果右边。

3. 最重要的这个方法通过组合物体关系的描述可以推广到以前未见过的更复杂关系描述中。

这种泛化可以应用于工业机器人执行复杂多步骤的操纵任务,比如在仓库中堆放物品或组装电器。让机器能进一步“仿生”人类从环境中学习、互动,并且通过不断学习分解,组合从而很快适应新的环境和学习新的任务。

共同一作Yilun Du说道:“当我们看到一张桌子时,不会用空间坐标系的XYZ三轴来表达物体位置, 因为人类大脑不是这样工作的。 我们对周围环境的洞悉是基于物体之间的关系 。通过构建能够理解物体关系的系统,更有效地操纵机械从而改变周围场景。”

研究人员所提框架的亮点就在于, 「它能以人类的方式“解读”场景中物体之间的关系」。

比如输入一段文本——木桌在蓝色沙发的右侧,木桌在木柜的前面。

系统首先将句子拆分为「木桌在蓝色沙发的右侧」和「木桌在木柜的前面」两部分,再逐一描述单独部分之间的空间关系,然后对每个关系概率分布建模,通过优化过程将这些分离的“结构”汇合,最终生成一个完整、准确的场景图像。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

研究人员使用机器学习中 「基于能量的模型」 编码每一对物体直接的空间关系,然后像乐高积木一样将它们组合起来从而描述整个场景。

“系统通过重新组合物体之间的描述,从而产生很好泛化能力,可以生成或者编辑以前没有见过的场景。”

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

Yilun Du也表示:“其他系统是从整体上考虑场景中物体之间的关系,再根据文本描述中一次性生成场景图像。一旦包含更复杂的场景描述时,这些模型就无法真正的理解并且生产想要的场景图像。 我们将这些单独的、较小的模型集成起来,实现对更多的关系进行建模,从而可以生产新颖的组合。

这个模型也可以逆向操作 。给定一张图像和不同的描述文本,它能准确找到场景结构中与物体关系相匹配的描述文本。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

每种情况下,Nan Liu等人提出的模型都优于基线。

“我们的模型在训练过程中只见过一个物体关系描述,但是在测试中,当物体关系描述增加到两个、三个甚至四个的时候,我们的模型依然效果良好,其他机器学习方法则失败了。”

如图所示,图像编辑(Image Editing) 列出了不同方法在 CLEVR 和 iGibson 数据集上的分类结果。文中方法都大大优于基线—— StyleGAN2和StyleGAN2 (CLIP)。在 2R 和 3R 测试子集上的模型亦有优秀表现,所提方法对训练分布之外的关系场景描述具有良好的泛化能力。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

研究人员还请实验参与者评估生成图像和场景描述的匹配度。在描述包含三个物体关系的最复杂示例中, 91% 的人认为该模型比其他基线的性能更好

在模型代码网页上Interactive Demo的展示中,可以清晰看到新模型在多层物体位置中依然可以按照指令准确生成我们想要的图像。

OpenAI训练的神经网络模型「DALL·E」,也是可以根据文本标题为自然语言的各种概念创建图像。DALL·E 虽然可以很好的理解物体,但是不能够准确的理解物体之间的关系。

可以说Nan Liu等人提出的新模型鲁棒性十分优越,特别是在处理从未遇到的场景描述时,其他算法只能 望其项背

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

虽然早期实验效果甚佳, 但研究人员希望模型能够进一步在更复杂的真实世界场景中(比如具有嘈杂的背景和相互阻挡的物体时)执行任务 。更进一步让机器人能够通过视频推断物体空间关系,然后应用这些知识来和周边环境中的物体交互。”

捷克技术大学捷克信息学、机器人和控制论研究所的杰出研究员 Josef Sivic 说:“开发出可以理解事物关系并且通过不断组合认识新的事物是计算机视觉领域至关重要的开放问题之一。他们的实验结果着实令人惊叹。”

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

Nan Liu, 伊利诺伊大学厄巴纳香槟分校硕士。2021 年毕业于密歇根大学安娜堡分校,获得计算机科学学士学位。目前从事研究计算机视觉和机器学习。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

Shuang Li, MIT CSAIL博士,师从Antonio Torralba。主要研究使用语言作为交流和计算工具以及构建可以持续学习并与周围世界互动的智能体。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

Yilun Du,MIT CSAIL博士生,受 Leslie Kaelbling 教授、Tomas Lozano-Perez 教授和 Josh Tenenbaum 教授指导。他对构建可以像人类一样感知理解世界的智能体和对构建模块化系统感兴趣。曾在国际生物学奥林匹克竞赛中获得了金牌。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

Joshua B. Tenenbaum,MIT脑认知科学系教授、CSAIL研究员。1993 年获得耶鲁大学物理学学士学位,1999 年获得麻省理工学院博士学位。Tenenbaum因对数学心理学和贝叶斯认知科学的贡献而闻名,他是最早开发并将概率和统计建模应用于人类学习、推理和感知研究的人之一。2018 年,R&D 杂志将 Tenenbaum 评为“年度创新者”。麦克阿瑟基金会于 2019 年授予他麦克阿瑟研究员称号。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

Antonio Torralba,MIT电气工程与计算机科学系 (EECS) 人工智能与决策系主任、CSAIL的首席研究员、MIT-IBM Watson AI Lab负责人、2021 AAAI Fellow。1994年获得西班牙电信BCN的电信工程学位,并于2000年获得法国格勒诺布尔国立理工学院的信号,图像和语音处理博士学位。他是“计算机视觉国际期刊”的副主编,并在2015年担任计算机视觉和模式识别会议的计划主席。2008年国家科学基金会职业奖,2009年IEEE计算机视觉和模式识别会议上获得最佳学生论文奖,2010年获JK国际模式识别协会颁发的Aggarwal奖。2017年Frank Quick Faculty研究创新奖学金和Louis D. Smullin优秀教学奖。


原创文章,未经授权禁止转载。详情见 转载须知 。

向人类再进一步|MIT×UMich探索可以理解物体空间关系的人工智能

全局中部横幅
萌专题网站导航大全

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

万松人文纪念园.呼和浩特市万松福寿生态陵园有限责任公司

呼和浩特市万松福寿生态陵园有限责任公司.呼和浩特市万松人文纪念园经自治区民政厅、呼和浩特市民政局及和林格尔县政府批准,是一家民营投资亿元,集生态、旅游、人文、景观于一体的花园式陵园。万松园兴建于2011年8月,占地3000余亩、其中1140亩已经申请取得建设用地(类别:殡葬用地),其余1800余亩,为后期园区发展储备用地,已办理相关征收手续。一期工程建设已基本完成,建有仿古建筑主殿、配殿(面积7000余平米,其功能为承福殿、禅堂、多功能祭祀大厅、人文纪念博物馆、骨灰寄存中心、殡葬用品展示区等)销售中心(面积2000余平米)、园区路网、停车场、景观亭台楼阁、假山水系、神道、绿化及完善原有墓区和新建墓区两处等。

重庆市九龙坡区人民政府

重庆市九龙坡区人民政府公众信息网

压缩机配件

浙江欧德机械科技有限公司是专业生产、销售压缩机配件、压缩机气阀等技术开发为一体的生产厂家,欢迎来电咨询。

长沙凯和电器有限公司

驰誉空气能,格力空气能,美的空气能,空气能热水器价格首选―湖南凯和节能科技有限公司,10年专业技术,专业打造节能的中央热水工程。《质量服务诚信承诺示范单位》、《知名品牌》!400-630-8898

艺术留学

美行思远艺术留学,值得信赖的艺术生留学培训机构,提供专业美国英国等多国艺术类留学申请及作品集培训服务,已帮助数千名艺术生成功圆梦世界艺术名校!

浙江之声

浙江广播电视集团成立于2001年11月8日,是一家以广播电视为主业,兼营相关产业的综合媒体集团,是国内最具影响力的省级媒体之一。2016年,连续第六年荣获“中国500最具价值品牌”,位居全国媒体第五、浙江媒体第一。

江阴外贸谷歌推广

江苏小度网络运营服务有限公司定位于全网数字营销专家,公司服务范畴有:google优化推广,外贸seo整站优化,谷歌推广竞价广告,词条创建,百度seo推广,内外贸网站建设,以及facebook推广,外贸代运营等服务。拥有专业海外推广团队及执创人员,十年以上专业内外贸推广经验,为您的网站量身定制打造高质量的流量及询盘。

恩爱游戏网

恩爱游戏网是一个集海量游戏攻略、资深玩家社区、安全下载服务、个性化推荐和优质服务于一体的游戏平台。我们专注于为游戏爱好者提供全面、详细的游戏指南,以及安全、便捷的游戏下载服务,让您的游戏体验更加丰富多彩。快来与我们一起探索游戏的无限可能吧!

成都坤舆空间科技有限公司,坤舆空间科技,坤舆空间

成都坤舆空间科技有限公司是新时期,立足于新领域,以“时空大数据+”为引领的高科技信息产业发展公司。公司主要围绕区域规划、规划设计、项目实施,到运维管理为主线展开四大业务板块,开展主营业务。

拉铆枪

余姚唐文工具有限公司是一家集设计,生产,销售于一体的专业工具的民营企业,主营各类高档手动拉铆枪,铆螺母枪,中空壁虎枪。拥有国内外专利53项,并通过高新技术企业认证和BSCI工厂检查。

曲靖论坛

曲靖论坛(www.0874bbs.com)是曲靖最大的网友交流互动社区,论坛创建于2010年4月,包括新闻、商家、商城、优惠券、娱乐等功能,致力于打造曲靖地区最温暖,真实,丰富的网上社区。

全局底部横幅