大脑练就了预测感知能力 为提高能量利用效率 (大脑可以训练到什么程度)

为提高能量利用效率,大脑练就了预测感知能力
“试图在没有生成模型的情况下来理解数据是注定要失败的,人们所能做的只是对数据中的模式进行陈述。”
我们的大脑是一个包裹在颅骨中重达三磅的组织块,它是如何从感觉中创造出感知的?这一直以来都是个谜。
数十年来,有大量的研究和证据表明,大脑不可能只是简单地像拼凑拼图一样感官信息将感官信息组织在一起,来感知周围的环境。即使传入的信息杂乱无章、模糊不清,大脑依旧可以根据进入眼睛的光线构建一个场景,这一事实恰巧证明了上述观点。
因此,越来越多的神经科学家开始将大脑视为 "预测机器"。通过预测处理,大脑利用其对世界的先验知识来推断或产生假设,来解释传入感官信息的原因。这些假设在我们的脑海中产生了感知,并不是感官输入本身产生的感知。输入的感官信息越模糊,对先验知识的依赖性就越强。
荷兰拉德堡大学预测性大脑实验室的神经科学家 Floris de Lange表示, 预测性处理框架的魅力在于它有一种非常强大的能力可以解释不同系统中许多不同的现象。
然而,越来越多的神经科学证据表明,支持这一观点的想法主要是 间接 的,并且可以有其它替代解释。
拉德堡大学的Tim Kietzmann 致力于研究机器学习和神经科学的跨学科领域,他表示:"如果你研究人类的认知神经科学和神经成像,将会有很多证据,但这些证据都是非常含蓄的、间接的。"
因此,研究人员开始试图通过计算模型来理解和测试预测性大脑的想法。计算神经科学家通过研究生物神经元的行为,建立了人工神经网络,可以学习对输入信息进行预测。这些模型可以近似模仿真实大脑的能力。用这些模型进行的一些实验甚至暗示: 大脑必须要进化成预测机器才可以满足能量限制。
随着计算模型的增加,研究活体动物的神经科学家们也越来越相信大脑会学习推断感官输入的原因。虽然关于大脑如何做到这一点的具体准确的细节仍然模糊不清,但大体的情况变得越来越清晰。



感知中的无意识推理
预测处理起初看起来可能像是一种违反直觉的复杂感知机制,但科学家们一直以来非常偏向于它,因为似乎没有其它更好的解释。甚至在一千年前,穆斯林阿拉伯天文学家、数学家Hasan Ibn Al-Haytham在他的《光学书》中就强调了预测处理的一种形式,用来解释视觉的各个方面。这一想法在19世纪60年代得到了有力支撑,德国物理学家兼医生Hermann von Helmholtz认为, 大脑推断出其传入的感知输入的外部原因,而不是从这些输入"自下而上"地构建其感知。

为提高能量利用效率,大脑练就了预测感知能力

20世纪中叶的认知心理学家用这种看起来既像鸭子又像兔子的图像来研究人类的感知
Helmholtz 阐述了" 无意识推 理(unconscious inference) "的概念,来解释双稳态或多稳态感知,即一个图像可以以不同方式被感知。例如,在一些的模棱两可的图像上,像上图所展示的那样,我们可以感知它为一只鸭子,又可以认为它是一只兔子,我们的感知在两种动物图像之间不断转换。Helmholtz 表示在这种情况下,由于在视网膜上形成的图像没有变化,所以感知必须是一个自上而下推断感官信息原因的无意识过程的结果。
在20世纪,认知心理学家们继续提出了这样的观点: 感知是一个主动建构的过程,它同时借鉴了自下而上的感知和自上而下的概念性输入。
Richard Langton Gregory在1980年发表了一篇非常有影响力的论文 “Perceptions as Hypotheses” 。该论文中,作者认为感知错觉本质上是大脑对感官印象原因的错误猜测。同时,计算机视觉科学家们在努力使用自下而上的重建,使计算机在没有内部 "生成 "模型参考的情况下进行观察。
尽管预测处理的接受度在不断提高,但是,关于它是如何在大脑中实现的这一问题仍然存在。流行的一种被称为预测编码的模型,认为大脑中的信息处理水平是有层次的。最高级代表最抽象、最高级的知识,例如,对前方阴影中的蛇的感知。该层通过向下发送信号来预测下一层的神经活动。下层将其实际活动与上面的预测进行比较。如果存在不匹配,该层会生成一个向上流动的错误信号,以便更高层可以更新其内部表征。
这个过程同时发生在每一对连续层,一直到接收实际感知输入的最底层。从外界接收到信息和预期结果之间的任何差异都会导致一个错误信号,并在层次结构上产生涟漪。然后最高层最终更新了它的假设,那不是一条蛇,只是地上的一根卷曲的绳子。
为提高能量利用效率,大脑练就了预测感知能力
"一般来说,预测性编码的原理是大脑基本有两个神经元群体,特别是当它应用于大脑皮层时,一个编码关于正在感知的东西的当前最佳预测,另一个是该预测的错误信号"de Lange 说。
1999年,计算机科学家 Rajesh Rao和Dana Ballard 分别在索尔克生物研究所和罗切斯特大学建立了一个强大的 预测编码计算模型 ,其中有明确用于预测和纠错的神经元。他们对灵长类动物大脑视觉处理系统中的部分路径进行了建模,该路径由负责识别面部和物体的分层组织区域组成。他们的研究表明,该模型可以重现灵长类动物视觉系统的一些不寻常行为。
这项工作是在现代深度神经网络出现之前完成的。而深度神经网络有一个输入层、一个输出层和夹在两者之间的多个隐藏层。 到2012年,神经科学家们开始使用深度神经网络来模拟灵长类动物的腹侧视觉流。但几乎所有这些模型都是前馈网络,其中信息只从输入流向输出。"大脑显然不是一个纯粹的前馈机器,"de Lange说,"大脑中有很多反馈,和前馈信号一样多"。
因此,神经科学家们转而研究另一种类型的模型—— 递归神经网络(RNN) 。纽约西奈山伊坎医学院的计算神经科学家和助理教授Kanaka Rajan表示: 这些模型的特点使它们成为模拟大脑的 "理想基质",他的实验室使用RNNs来理解大脑功能 。RNNs的神经元之间既有前馈连接,也有反馈连接,它们持续不断地活动,这与输入无关。 Rajan说:"这种长时间产生这些动态的能力几乎是永久性的,然后使这些网络能够接受训练。"



预测是为了节能

RNNs引起了William Lotter 和他在哈佛大学的博士论文导师 David Cox 以及Gabriel Kreiman的注意。
2016年,该团队构建了,这是一个递归神经网络,其架构设计用于执行预测编码。该团队按照预测编码的原则将RNN设计成一个由四层组成的层次结构,每一层都预测它从下面一层预测到的输入,如果出现不匹配,则向上发送一个错误信号。

为提高能量利用效率,大脑练就了预测感知能力

然后,他们在汽车摄像拍摄的城市街道视频上训练该网络。PredNet学会了连续预测视频中的下一帧。"我们起初不确定它是否真的能工作,后来尝试了一下,发现它确实在进行预测。这非常酷"Lotter说。
下一阶段是将PredNet与神经科学联系起来。去年在《Nature Machine Intelligence》杂志上, Lotter及其团队在报告中说: PredNet展示了在猴子大脑中看到的对意外刺激的反应行为,包括在简单前馈网络中难以复制的一些行为。
Kietzmann认为PredNet是一项非常了不起的工作。但是他与 Marcel van Gerven以及他们的团队所追求的是更根本性的东西: 无论是Rao和Ballard模型,还是PredNet,都纳入了用于预测和纠错的人工神经元,以及导致正确的自上而下预测抑制错误神经元的机制。 但如果这些都没有明确规定呢?Kietzmann表示很想知道是否真的需要这些架构来约束,或者是否可以用一种更简单的方法来解决这一问题。
一个想法突然浮现在Kietzmann和van Gerven的脑海中: 神经通讯是有能量成本的(大脑是人体中能量最密集的器官)。因此,为了保存能量,生物体内任何进化的神经网络的行为可能都会受到限制。
研究人员决定观察是否有任何预测编码的计算机制可能出现在 RNN 中,这些 RNN 必须使用尽可能少的能量来完成任务。他们认为,他们网络中的人工神经元之间的连接强度(也被称为权重),可以作为突触传输的代理,这也正是在生物神经元中需要消耗大部分能量的原因。Kietzmann说:"如果你减少人工神经元之间的权重,这意味着你用更少的能量进行交流。我们把这看作是最大限度地减少突触传输。"

为提高能量利用效率,大脑练就了预测感知能力

当PredNet这个具有预测编码架构的神经网络,被呈现在视频序列中的帧(上图),它学会了预测它们(下图)。
然后,该团队在多个连续数字序列上以升序、环绕顺序训练 RNN:1234567890,3456789012,6789012345等。每个数字都以28×28像素的图像形式显示给网络。RNN学会了一个内部模型,可以从序列中的任何随机位置开始预测下一个数字。但 该网络被迫用单元之间尽可能少的权重来做这件事,类似于生物神经系统中的低水平神经活动。
在这些条件下,RNN学会了预测序列中的下一个数字。其中一些人工神经元充当 "预测单元",代表预期输入的模型。其他神经元作为 "错误单元",在预测单元尚未学会正确预测下一个数字时最为活跃。当预测单元开始变得正确时,这些错误单元就变得“低调”了。值得一提的是, 该网络之所以采用这种架构,是因为它必须要尽量减少能量的使用。 Kietzmann说:"它只是学会了做人们通常明确地建立在系统中的那种抑制,我们的系统开启即用,作为一个突发事件来做,以达到节能的目的。"
将能量使用降到最低的神经网络最终会实施某种预测性处理,这证明生物大脑可能也在做同样的事情。
Rajan称Kietzmann的工作是一个 "非常巧妙的例子,说明了像能量最小化这样的自上而下的限制是如何间接地导致像预测编码这样的特定功能的"。这促使她思考RNN中特定错误和预测单元的出现是否可能是一个意外,是否只有网络边缘的神经元在接收输入。如果输入分布在整个网络中,"我下意识的猜测是,虽然你不会发现错误单元和预测单元之间的分离,但你仍然会发现预测活动"她说。



脑行为的统一框架

尽管这些来自计算研究的见解看起来很有说服力, 但最终只有来自活体大脑的证据才能说服神经科学家相信大脑中的预测处理。 为此,麦吉尔大学和魁北克人工智能研究所Mila的神经科学家和计算机科学家 Blake Richards和他的同事们制定了一些明确的假设,来说明他们应该在学习对意外事件进行预测的大脑中看到的事物。
为提高能量利用效率,大脑练就了预测感知能力
“大脑中的锥体神经元似乎在解剖学上适合预测性处理,因为它们可以分别整合来自邻近神经元的自下而上的信号和来自更远处的自上而下的信号。”
为了验证他们的假设,他们同西雅图艾伦脑科学研究所的研究人员对小鼠进行了实验,同时监测其大脑中的神经活动。特别令人感兴趣的是, 大脑新皮质中的某些锥体神经元从解剖学上来说适合预测处理。它们既能通过对其细胞体的输入接收来自附近神经元的局部自下而上的感觉信号,又能通过其顶端树突接收来自更远的神经元的自上而下的预测信号。
小鼠看到了许多Gabor斑块的序列,这些斑块由光和暗的条纹组成。小鼠们也开始期待每个序列中的所有四个斑点的方向大致相同。然后,研究人员意想不到地的突然将第四个Gabor补丁随机旋转到不同的方向。动物们起初很惊讶,但随着时间的推移,它们也开始期待这种惊喜。在这期间,研究人员一直在观察小鼠大脑中的活动。
他们观察到,许多神经元对预期和意外的刺激有不同的反应。重要的是,在测试的第一天, 这种差异在局部的、自下而上的信号中很强烈,但在第二天和第三天就减弱了。 在预测处理的背景下,由于刺激不那么强烈了,新形成的自上而下的期望开始抑制对传入的感觉信息的反应。
与此同时,顶端树突的情况则相反。它们对意外刺激的反应的差异随着时间的推移而增加。神经回路似乎正在学习更好地表示令人惊讶事件的特性,以便在下一次做出更好的预测。
"这项研究为类似预测性学习或预测性编码的东西正在新皮层中发生的想法提供了进一步的支持,"Richards说。
诚然,对神经元活动或动物行为的个别观察有时可以用大脑的一些其它模型来解释。例如,神经元对同一输入的反应减弱,而不是被解释为错误单元的抑制,可能只是由于适应过程。但是,"你会得到这整个‘电话簿’中对不同现象的解释,"de Lange说。
预测处理提供了一个统一的框架,可以一次性解释许多现象,因此它作为一种大脑工作原理的理论具有吸引力。 "我认为目前的证据是相当有说服力的,"Richards说,"实际上,我愿意在这个说法上投入大量资金。"

为提高能量利用效率,大脑练就了预测感知能力

版权文章,未经授权禁止转载。详情见 转载须知 。

为提高能量利用效率,大脑练就了预测感知能力


本文地址: /article/7fc1cefe78a966508c08.html
全局中部横幅
全局中部横幅
成都空放水钱-私人借款-押车典当借钱-银行贷款-鼎押當

《鼎押當》是一家专业押车、寄卖、典当、押房的机构,微电:156-080-22222专业的人办专业的事儿,本机构长期对外投资,寻求大量资金合作,解你燃眉之急、助你东山再起!

鼎峰网络通信有限公司

物联网路灯头,太阳能控制器,一体机

加盟星平台_一站式招商加盟服务平台_直达全网优质加盟创业项目

加盟星是百度招商加盟行业垂直搜索引擎,打造权威项目认证和评估体系,精准直连创业者和项目方,提供一站式项目咨询和服务,助力轻松创业。为创业者提供各类加盟品牌,包括加盟费用、加盟条件、加盟电话、加盟政策、加盟扶持等创业者关心的招商加盟项目信息,帮助创业者直联项目方,获得最新最全的项目信息。

上海虚拟主机_上海做网站公司_小程序开发_微信公众号开发-天也网络

天也网络为企业提供上海虚拟主机,上海做网站,公司小程序开发,微信公众号开发,企业邮箱,mssql数据库、mysql数据库等,上海虚拟主机服务热线:021-68310879

山东易搜信息科技集团有限公司|济南易搜信息科技有限公司|济南易搜|易搜集团|山东搜狗|搜狗山东运营服务中心|济南搜狗|搜狗济南运营服务中心|山东腾讯广告|山东百度信息流|济南网站建设|山东哔哩哔哩|山东快手|山东马蜂窝旅游

易搜集团是一家专注互联网精准营销的数据科技公司,成立于2007年8月,现有员工600余人,易搜集团同时获得腾讯、搜狗、百度、阿里、新浪、哔哩哔哩、快手等知名互联网企业的授权.电话:4006678970

广西北海跃达玻璃钢制品有限公司|广西玻璃钢管|广西玻璃钢夹砂管道|广西玻璃钢电缆保护管|广西玻璃钢化工管道|广西玻璃钢储罐|钦州玻璃钢电缆管|防城港玻璃钢化工管道|河池玻璃钢罐|百色玻璃钢化粪池|贵州玻璃钢水箱|海南玻璃钢船|玻璃钢垃圾箱 - 广西北海跃达玻璃钢制品有限公司

广西北海跃达玻璃钢制品有限公司是高新技术企业、科技型中小企业、广西壮族自治区2019年度“守合同重信用”公示企业、北海工业园2018年度安全生产先进单位、北部湾股权交易所挂牌企业、广西质量信誉承诺企业,先后通过ISO9001:2015质量管理体系认证、ISO14001:2015环境管理体系认证、ISO45001:2018职业健康安全管理体系认证、安全生产标准化三级认证。 主要产品有:玻璃钢夹砂管道、玻璃钢工艺管道、玻璃钢电缆保护管、玻璃钢管件、玻璃钢储罐、雨水收集系统、污水处理系统、防腐工程、玻璃钢一体化预制泵站、脱硫塔、玻璃钢化粪池等。产品广泛应用于电力、给排水、化工、污水处理、交通、道桥施工、建筑、港口、酿造、制药、纺织印染、军工等行业,产品深受用户好评,所有产品设计、生产、检验过程均严格执行相应的国家标准。

101游戏网-手机游戏排行-实用软件下载-精品APP推荐

101游戏网:网罗最好的游戏、最新应用软件。在PC、手机、iPad上都可体验,提供可以增强人和人之间交流的游戏与软件免费下载。免费提供手机游戏、app下载,精品游戏排行、更多人都在用的软件推荐

武汉佳德沃博格风动技术有限公司

武汉佳德沃博格风动技术有限公司成立于2002年,在2006年成为Wittig系统工程产品的销售机构,是德国Wittig系统工程在中国境内唯一办事机构,负责中国境内Wittig风动系列产品的技术支持、销售推广、售后服务及相关产品的市场开拓及行业应用。 德国Wittig系统工程是世界上最大的生产风机、压缩机和真空泵的专业风动设备制造商,Wittig风动系列产品早在上世纪70年代已经服务于中国,并为当时具有世界领先水平的武汉钢铁集团(现与宝钢集团合并为世界五百强企业-中国宝武集团)一米七轧机生产线提供了整套的风动设备。而武汉佳德沃博格风动技术有限公司自成立以来,仍在持续不断的为武汉钢铁集团生产改造项目提供完备的风动设备及专业技术支持。 Wittig产品线众多,结合中国工业技术的发展特点,工程及移动类产品的应用范围十分广泛,如离心风机、罗茨风机、旋转叶片气体压缩机、旋转叶片真空泵等产品,可大量应用于通风排风、空气供应、空气压缩、气体压缩、气体传输、真空供应等工程及移动车载领域。同时,我们十分擅长于针对不同的工艺、行业进行系统化工程方案定制,能持久的为客户提供更为科学、合理的专业应用支持。 公司自成立以来一贯致力于企业和员工的共同发展,并始终以人才培养作为企业发展的根本基石。我们始终秉承:工作时刻充满激情,愿与公司一起成长;最好成绩努力创造,公司发展之路更广;明确自己肩上责任,不畏困难勇敢前进;愿为客户无私奉献,只求赢得更好口碑。 时至今日,通过团队不懈的努力,我们已将先进的技术广泛应用于冶金、电力、纺织、气体运输和分离、化工、造纸、玻璃制造、环保水处理等行业,在未来的发展中,我们已把视角延伸至全球化合作的海油、石油等可持续发展的能源行业,通过在专业领域的不断求实与创新,致力于成为

风之影传媒_官方网站_视觉定义营销

广州风之影传媒官方网站,有风之影传媒最新的新闻和作品,并提供一些相关技术支持!

云舍农夫(江苏)农业科技发展有限公司

云舍农夫(江苏)农业科技发展有限公司云舍农夫(江苏)农业科技发展有限公司,作为国家特色农业发展战略的先行执行企业。于江苏省镇江市丹阳屯甸村姚庄丹句路999号,建立规模达870,000平方米的特色农业庄园,水面积共200,000平米,养殖禽类约50,000只,养殖水产约50,000公斤。。项目

成都金蝶软件|金蝶云星辰|四川金蝶财务软件|金蝶云星空|金蝶财务软件免费版|财务软件新手入门|云星辰试用|金蝶软件四川成都公司|四川成都金蝶软件售后服务|金蝶软件销售

成都金蝶软件|金蝶云星辰|四川金蝶财务软件|金蝶云星空|金蝶财务软件免费版|财务软件新手入门|云星辰试用|金蝶软件四川成都公司|四川成都金蝶软件售后服务中心|金蝶软件维护服务|金蝶软件成都分公司|金蝶软件营销服务中心|金蝶软件维护电话|金蝶云星辰试用|云星辰售后服务

域名注册_域名查询_域名购买_域名申请_新网

新网域名是中国入选全球TOP15的域名注册服务商,.com域名注册位居行业之首.包括中文域名、英文域名及顶级域名注册,域名查询,域名申请,域名购买及域名解析等服务

全局底部横幅