AI 基于神经网络模型的算法使机器学习透明化 黑箱难题怎么破 (ai神经网络介绍)
编者按：人们可以训练人工智能 （AI）和机器人完成任务，但整个过程在黑箱中运作。我们并不知道 AI 和机器人是如何决策的。一家名为 OptimizingMind 的初创公司想要解决这个问题。这篇文章将讲述该公司对建立透明 AI 决策过程的愿景和大胆尝试。本文发表于 TechRepublic，作者Hope Reese，原标题《
Transparent maCHIne learning: How to create 'clear-box' AI
AI 领域的下一个大事件并不是教会 AI 完成某项任务，而是让机器向人们解释为什么它们做出了某项决策。 比方说，一个机器人决定走一条特定路线去仓库，又比如，一辆无人驾驶汽车决定向左或向右转。我们怎么知道 AI 为什么做出这些决定？
卡内基梅隆大学计算机科学教授 Manuela Veloso 是研究协作机器人的专家。他表示，能解释自身行为的 AI 对赢得大众对人工智能的信任至关重要。“我们需要质疑为什么算法程序会做出这样那样的决定，如果我们不在 AI 动机解释上花功夫，就无法信任这个智能系统。”
为解决该问题， 创业公司 OptimizingMind 发明了一项能观察智能机器决策过程的技术。
这个算法的目的是创造 “透明访问”系统，以呈现机器学习是如何做出预期（expectations）的。OptimizingMind 的负责人 Tsvi Achler 说：
有着神经科学、医药和计算机科学多重学科背景的 Achler 认为，我们能从人脑如何作出和解释决策中学习到很多（应用到 AI 的知识）。
“我感兴趣的是，大脑和计算机的共同点在哪里？为什么人脑可以在学会任何模型之后把它解释出来。如果我说 ‘章鱼’，你是否能告诉我那是什么？如果我问章鱼触手长什么样，你能告诉我吗？”
人能做到，AI 为什么不行？
他说，当人类观察到一个新模式（或规律）的时候，会立刻学会那个模式。这对 AI 暂时还不可能。 AI 的学习方法被称为批量学习。如果你想要对 AI 加入一个新模式或者新注解，你必须从头开始把所有的新旧模式重新教一遍。
Achler 开发的算法呈现出神经科学里的 “爆裂” 现象。当人观察到一个新模式时，多个神经元被同时激发，然后它们沉寂下来。当你向某人展示一个模式的时候，下一瞬间会发生神经兴奋，之后逐渐地平静下来。在这个算法里你会看到同样的事情。
实际上，这种研究方式是对传统机器学习进行了重新思考，Achler 认为该过程就像深度学习、感知器、支持向量机（SVM） 、 卷积神经网络（CNN）、递归神经网络（RNN）、反向传播等研究一样。研究者们并没有打算解决即时学习这一难题。 “这项技术的目的非常明确，那就是尝试解释 AI 是怎样思考的。没有人想过如何让系统变得更灵活或是更具可信度，而它的整体目标是让 AI 决策更容易被访问。”
OptimizingMind 是一种以人脑运行方式为基础的算法，旨在使开发者能“观察到系统内部，理解它们（AI 系统）在干什么，并且很方便地编辑它们，而无需从头开始训练”。这能让机器学习“一步到位”，而神经网络马上就能学会。举例来说，人们能告诉 Siri 某一个词的定义，然后它会被存储起来。今天神经网络还达不到这一点，它们需要用无数案例不断训练学习。
所以 “透明访问”系统是什么意思呢？根据 Achler 的说法， 这个系统提供了一种实时观察 AI 决策的方法。 它可以访问权重、特点和节点，提供能读取这些信息的灵活性，并且能改写它们。最终，这个系统能让我们理解神经网络是怎么做出一个决策的。这个工具能帮助工程师们大幅减少机器开发的时间，帮企业节省资源。
此外 Achler 还表示，在提供透明度之外，这个算法还可以被修改。不但预期（expectations）能被表达出来，每个单独预期还能随着新信息立刻改变。
今天，大多数机器学习的方法使用一个正反馈（feedforward）技术。风险投资公司 Naiss.io 的联合创始人 Ed Fernandez 说，正反馈使用优化过的权重执行任务。在正反馈系统里，独特性信息（ uniqueness information）依据训练中出现的频率被录入权重。这意味着整套训练中的权重必须经过优化。这又意味着 OptimizingMind 可以“根据正在被识别的模式执行优化”，这不是为了权重而优化，而是为了模式识别去优化。
当机器学习与商业更紧密结合，并成为无人驾驶和其他极其重要科技的基石，理解机器学习中到底发生了什么就变得至关重要。事实上， DARPA 最近启动了一项对可解释 AI （XAI，explainable artificial Intelligence） 的投资。
正如 Veloso 教授说的：“我们不能假定 AI 系统完美无缺。”我们必须从 AI 的错误中学习。Veloso 表示，“如果某天发生了一起 AI 事故，我们必须避免它再次发生。”
via techrepublic
推荐阅读：
神经网络算法Batch Normalization的分析与展望 | 大牛讲堂
人工智能和深度学习的下一个风口在哪里？——余凯丨微软亚洲研究院院友会 （含22页PPT）
机器人也有好奇心，还能自己设定学习目标
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/b173881f5cdd2ec92770.html
广州市克鲁兹电子科技有限公司主要是以研发、个性定制、设计、生产销售一体的音视频设备服务企业。
LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.
百蕊集团
天也网络为企业提供上海虚拟主机，上海做网站，公司小程序开发，微信公众号开发，企业邮箱，mssql数据库、mysql数据库等，上海虚拟主机服务热线：021-68310879
广东亚兰装备技术有限公司专业电子设备研发、生产、销售、服务为一体的综合性配套厂商,公司主打产品有PCB分板机,LED灯条分板机,走刀式分板机,铡刀式分板机,气动式分板机,冲压分板机,冲床分板机,FFC/FPC焊接机,哈巴焊机,陶瓷片热压焊线,脉冲式热压机,墨盒芯片再生焊接机,SFP、XFP、QSFP等高速线束焊锡机,高速光模块焊锡,光器件热压焊锡机,光通讯模块焊接机等
SECUREWE斯惟整装®坚持原创设计与服务创新，用极客精神做工艺研发与项目管理，用互联网思维提升服务与运营能力，致力于为广大业主提供定制设计、精益施工的家庭装修整体解决方案，构建更具时代感、更具性价比优势的泛家装服务生态链。
彩橘手游网是致力于为手游玩家推荐好玩的热门游戏,提供免费手机游戏下载、最新手游排行榜,还有丰富的手游攻略、最全的手游礼包、超值手游福利等内容的手游服务平台.
追书神器小说网提供都市小说、玄幻小说、武侠小说、科幻小说、游戏小说、同人小说等免费小说下载，好看的小说在线阅读网站推荐出免费全本小说、小说排行榜前十名，您可以方便地进行追书神器免费全本小说在线阅读！
上海盛世御安信息安全技术有限公司
刷脸支付,汇刷刷脸支付,汇刷刷脸系统服务商,汇刷刷脸系统OEM,汇刷刷脸系统独立部署,刷脸支付源码,湖南珠雅峰尚科技有限公司
巩义市博宇铝材销售有限公司
创新实验室,shuoba.org,www.shuoba.org
如今不少人都选择创业，但是对于没有创业经验的人士来说，可以先选择一个小的项目，下面小编就为大家介绍一个不错的创业项目就是现做豆腐店，那么开一个现做豆腐店要多少钱，针对这一问题，小编就为大家简单的介绍一下，开一个现做豆腐店要多少钱，开设一家现做豆腐店需要的费用有很多，例如创业者选择加盟的话，就需要向总部缴纳一定的费用，不仅可以获取品牌的...。
标准化是一种思维模式，也是一种商业行为方式，标准化的穿着，曾禁锢人类的思想；标准化的业务流程，却正在解放生产力，软件终结者，Salesforce证明了SaaS才是未来方向，当这一趋势像炮弹一样，打到中国企业家、IT专家们的书桌上时，，软件即服务，这个词成了他们笔下的常客，根据中国信通院的数据，2018年中国SaaS市场规模达到232...。
译者，AI研习社，季一帆，双语原文链接，ExploringFIBOUsingtheInferenceandPropertyPathFeaturesofGraphDB简介本体或知识图谱可不是随拿随用的，使用者需要做出相应的努力才能发挥其作用，使其成为有效可用的工具，我们知道，领域知识的用处极大，然而这些知识却总是不完备的，将领域知识表示...。
5个湖南岳阳平江县短命镇有哪些将军，方门六将军，方强，方正平，方正，方国安，方国南，方南江，张家五将军，上将张震、张海阳、少将张正光、张晓阳、张宁阳，刘志坚喻缦云喻集禧，嘉义镇，张令彬，龙门镇，裴周玉，龙门镇，张平凯，龙门镇，...。
南宁车迷网仰仗其共同的翻新战略，引领了行业宣传的新潮流，经过联动传统媒体和网络平台，构建了一个多元化、跨终端的流传体系，似乎三驾马车不相上下，展现出弱小的影响力和深远的未来前景，当初，传统门户网站的竞争已进入上流阶段，从繁多媒体平台向跨媒体、多媒体的综合流传形式转变，南宁车迷网自成一家，与汽车行业备受好评的媒体栏目联手，成功了报网联动...。
中国安康保险电话号码是中国安康全国一致服务电话，无论您有什么疑问，无论什么时刻、哪里都，您只需拨通了安康保险电话，都能够回应您无关中国安康保险的其余疑问，是什么电话安康银行存款须要什么，1、明白提偿还款放开，存款人先提早预备无关的证实文件、团体运营状况等，随后向安康银行明白提偿还款放开；2、签订借款合同，假若借贷人借款放开已经过这家银...。
飞驰c级出口和国产的区别关键体如今车身材料和拼装细节上，首先，出口飞驰C级驳回的是铝车身，而国产飞驰C级则是钢车身，此外，出口车型在车身某些细节的做工工艺上也愈加精细，比如车门上的涂胶、铆钉、拼装等，相比之下，国产车型在这方面略胜一筹，在拼装细节方面，出口车门拆开内饰板后，车门里衬是用加着橡胶垫片的螺丝拧上；而国产车型则是间接经常使用...。
宝马5系2023款正式上市新款宝马5系530Li车型于2023年1月16日正式上市，新宝马5系照旧提供8款性能车型，官网售价为47.19，55.19万元，2023款宝马5系作为中期改款车型，并没有显著的改变，总体设计与现款车型坚持高度一致，一体成型的大尺寸双肾型进气格栅和带有BMW灵活光束技术的LED自顺应大灯，使得前脸十分精气，外观...。
操作系统：Windows2003企业版SP2+IIS6.0php版本：php-5.2.2-Win32.zipMysql版本：mysql-5.0.41-win32.zipZend版本：ZendOptimizer-3.2.8-Windows-i386.exePhpMyAdmin版本：phpMyAdmin-2.10.1-all-languages.zip安装辅助工具：系统服务srvi
广联达斑马进度计划软件破解版是一款工程建筑管理软件，帮助用户快速编制高质量网络计划，是工期优化好帮手，方便工程师对项目进行管理及设计。
CA证书驱动是一款专为CA证书打造的专业驱动工具。功能强大，能够让电脑进行设备的连接，快速检测出证书的相关信息
Enscape3.5中文破解版是一款非常专业的图像设计渲染器。它适用于Revit、SketchUpPro、Rhino、ArchiCAD等，该版本内置汉化破解补丁
微信是一个庞大的生态流量池，流量的优势对于我们很多人来说都看得非常清楚了，那么该怎么抓住视频号的流量变现呢?，当下是短视频的时代，视频号也在紧追不舍，随着功能的不断完善，目前视频号短视频，长视频，直播带货已经趋于完善，而且视频号的流量将会是微信中最主要的流量，在我们讨论视频号如何直播前，我们要了解他的玩法规则，俗话说，知彼知己，方能...。
2016全国商务工作会议提出，今后要进一步鼓励跨境电商等新型贸易方式，相关监测数据也显示，随着国内市场对海外商品的需求日益增长，我国进出口税收体系的进一步理顺和进口物流配套的持续升级，未来3年将是跨境进口电商的集中爆发期，大好形势下，各知名跨境电商平台使出浑身解数，天猫继续狂欢概念，京东瞄准物流升级，网易考拉力推榜单经济，专注为中小及...。
鱼缸，一种装活鱼的水缸，缸体透明，多为玻璃质地，也可用来饲养热带鱼或者金鱼起到观赏的作用，鱼缸不仅是鱼儿的家，更是家人共同的生活享受，无瑕的双层浮化玻璃，既给鱼儿营造了一个温馨的家，也确保了整体居室环境的健康，鱼缸更是家居风水里必不可少的摆件，是与空间的很好结合，是家居、办公，商业空间的灵魂禅师，...。
以英特尔前CEO戈登摩尔命名的摩尔定律，是指集成电路中的晶体管数量每两年翻一番，55年来，半导体行业一直用摩尔定律来制定路线图和研发目标，为延续摩尔定律、实现芯片小型化，55年间新技术不断涌现，但从历史上看，晶圆的光掩模限制了单个芯片的最大尺寸，芯片制造商和设计人员不得不用多个芯片来完成提供的功能，很多情况下，甚至是多个芯片提供相同的...。
3月28日，恒生电子首席架构师、数据中台发展部经理、恒生研究院首席技术专家章乐焱在雷锋网公开课上，以，智慧金融的新基础设施，为题，深度剖析数据中台在金融领域的应用与实践，后续将有更多课程上线，添加微信号LorraineSummer报名听课，或收看本节课程视频回放，章乐焱把金融机构的数据分为两处，一边是各种各样的业务系统归拢出来的业务数...。
