AI 基于神经网络模型的算法使机器学习透明化 黑箱难题怎么破 (ai神经网络介绍)
编者按：人们可以训练人工智能 （AI）和机器人完成任务，但整个过程在黑箱中运作。我们并不知道 AI 和机器人是如何决策的。一家名为 OptimizingMind 的初创公司想要解决这个问题。这篇文章将讲述该公司对建立透明 AI 决策过程的愿景和大胆尝试。本文发表于 TechRepublic，作者Hope Reese，原标题《
Transparent machine learning: How to create 'clear-box' AI
AI 领域的下一个大事件并不是教会 AI 完成某项任务，而是让机器向人们解释为什么它们做出了某项决策。 比方说，一个机器人决定走一条特定路线去仓库，又比如，一辆无人驾驶汽车决定向左或向右转。我们怎么知道 AI 为什么做出这些决定？
卡内基梅隆大学计算机科学教授 Manuela Veloso 是研究协作机器人的专家。他表示，能解释自身行为的 AI 对赢得大众对人工智能的信任至关重要。“我们需要质疑为什么算法程序会做出这样那样的决定，如果我们不在 AI 动机解释上花功夫，就无法信任这个智能系统。”
为解决该问题， 创业公司 OptimizingMind 发明了一项能观察智能机器决策过程的技术。
这个算法的目的是创造 “透明访问”系统，以呈现机器学习是如何做出预期（expectations）的。OptimizingMind 的负责人 Tsvi Achler 说：
有着神经科学、医药和计算机科学多重学科背景的 Achler 认为，我们能从人脑如何作出和解释决策中学习到很多（应用到 AI 的知识）。
“我感兴趣的是，大脑和计算机的共同点在哪里？为什么人脑可以在学会任何模型之后把它解释出来。如果我说 ‘章鱼’，你是否能告诉我那是什么？如果我问章鱼触手长什么样，你能告诉我吗？”
人能做到，AI 为什么不行？
他说，当人类观察到一个新模式（或规律）的时候，会立刻学会那个模式。这对 AI 暂时还不可能。 AI 的学习方法被称为批量学习。如果你想要对 AI 加入一个新模式或者新注解，你必须从头开始把所有的新旧模式重新教一遍。
Achler 开发的算法呈现出神经科学里的 “爆裂” 现象。当人观察到一个新模式时，多个神经元被同时激发，然后它们沉寂下来。当你向某人展示一个模式的时候，下一瞬间会发生神经兴奋，之后逐渐地平静下来。在这个算法里你会看到同样的事情。
实际上，这种研究方式是对传统机器学习进行了重新思考，Achler 认为该过程就像深度学习、感知器、支持向量机（SVM） 、 卷积神经网络（CNN）、递归神经网络（RNN）、反向传播等研究一样。研究者们并没有打算解决即时学习这一难题。 “这项技术的目的非常明确，那就是尝试解释 AI 是怎样思考的。没有人想过如何让系统变得更灵活或是更具可信度，而它的整体目标是让 AI 决策更容易被访问。”
OptimizingMind 是一种以人脑运行方式为基础的算法，旨在使开发者能“观察到系统内部，理解它们（AI 系统）在干什么，并且很方便地编辑它们，而无需从头开始训练”。这能让机器学习“一步到位”，而神经网络马上就能学会。举例来说，人们能告诉 Siri 某一个词的定义，然后它会被存储起来。今天神经网络还达不到这一点，它们需要用无数案例不断训练学习。
所以 “透明访问”系统是什么意思呢？根据 Achler 的说法， 这个系统提供了一种实时观察 AI 决策的方法。 它可以访问权重、特点和节点，提供能读取这些信息的灵活性，并且能改写它们。最终，这个系统能让我们理解神经网络是怎么做出一个决策的。这个工具能帮助工程师们大幅减少机器开发的时间，帮企业节省资源。
此外 Achler 还表示，在提供透明度之外，这个算法还可以被修改。不但预期（expectations）能被表达出来，每个单独预期还能随着新信息立刻改变。
今天，大多数机器学习的方法使用一个正反馈（feedForward）技术。风险投资公司 Naiss.io 的联合创始人 Ed Fernandez 说，正反馈使用优化过的权重执行任务。在正反馈系统里，独特性信息（ uniqueness information）依据训练中出现的频率被录入权重。这意味着整套训练中的权重必须经过优化。这又意味着 OptimizingMind 可以“根据正在被识别的模式执行优化”，这不是为了权重而优化，而是为了模式识别去优化。
当机器学习与商业更紧密结合，并成为无人驾驶和其他极其重要科技的基石，理解机器学习中到底发生了什么就变得至关重要。事实上， DARPA 最近启动了一项对可解释 AI （XAI，explainable artificial intelligence） 的投资。
正如 Veloso 教授说的：“我们不能假定 AI 系统完美无缺。”我们必须从 AI 的错误中学习。Veloso 表示，“如果某天发生了一起 AI 事故，我们必须避免它再次发生。”
via techrepublic
推荐阅读：
神经网络算法Batch Normalization的分析与展望 | 大牛讲堂
人工智能和深度学习的下一个风口在哪里？——余凯丨微软亚洲研究院院友会 （含22页PPT）
机器人也有好奇心，还能自己设定学习目标
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/b173881f5cdd2ec92770.html
航旅在线官网是正规的企业差旅管理平台,提供公务员机票在线预订,国际机票查询,机场售票补票,团队折扣机票申请,儿童机票,机票代理加盟,是专业的民航在线APP,欢迎关注官网公众号
通过在平台上进行简单的操作批量生成广告创意，并与相应的人群、页面、天气等大数据标签匹配后实现精准投放，从而大幅提升广告展示的效率效益。
安徽省技术进出口股份有限公司
水彩大全网(www.glfpw.com)是全网最全的水彩图库,提供最火水彩大师作品大全和美女水彩直播视频,附日本水彩购物网站和创作者水彩图片大全。查看全网最美水彩画师名单大全,发现更多水彩创作灵感！
深圳易贸网络有限公司,来图定制POD会员分销生产供应链系统
蚂蚁车务(13051916777)北京汽车牌照出租、北京租车牌多少钱、北京车牌过户、京牌出租、京牌租赁价格、京牌回收等业务,为用户提供北京租车牌流程、北京租车牌价格、北京车牌租赁价格等相关信息，是您身边专业的车牌租赁代办平台。
泰享租-专注企业办公设备租赁,TEL:0592-687886818950011044，复印机出租,打印机租赁,厦门打印机出租租赁及厦门复印机维修,厦门打印机维修,湖里打印机复印机租赁出租,思明打印机复印机出租租赁,集美打印机复印机出租,杏林复印打印机出租！
德盾保安公司自成立以来遵循和坚持“以人为本、客户至上，安全第一、真诚服务” 和“品质是生命、管理是效益、满意是承诺、追求卓越高效、使客户持续满意”的服务理 念，经过不懈努力和锤炼，已励练成一支懂经营、会管理、业务精、肯奉献、高素质的安 保管理队伍。经过不懈努力和锤炼，公司现有1360多名员工，管理人员231名，占职工 总数17%。
我要印书网隶属于南京波司达电子科技有限公司创办的专业数字印刷网站，集网络、设计、印刷于一体,拥有专业的北大方正电子出版系统、专业的设计团队和大型数码印刷生产设备以及完善的配送服务，能为客户提供一站式数字印刷服务。联系电话：13912979611
新疆彩钢厂乌鲁木齐望腾彩板钢构有限公司联系人:李经理联系电话:1809968985218099689851主要产品有新疆彩钢板,彩钢瓦,彩钢夹芯板,岩棉夹芯板,聚氨酯夹芯板,玻璃丝棉夹芯板,组合楼板等.新疆彩钢板厂竭诚为您提供优质的服务!经多年的不懈努力,公司有很大的发展,已跻身于新疆彩钢行业前列.
广州南砂晶圆半导体技术有限公司
A-Zenith•亚振品牌产品凭借着对精湛手工技艺的执着信念，传承百年技艺，融会中西文化，让亚振成为了无数名门政要竞相选购的顶级家具品牌。经典的线条设计、精湛的雕刻工艺、天然木材的别致纹理，都是品牌超越时间的界限，让艺术融于生活的典范。
据科技博客9to5mac北京时间6月8日报道，苹果公司可能是按市值计算全球最大的公司，但它并没有统治所有排名，财富，杂志在周三发布了2017年美国500强榜单，按照年营收计算，苹果位居第三，和去年排名一样，总体来看，，财富，美国500强公司占据了美国国内生产总值，GDP，的三分之二，总营收为12万亿美元，总利润为8900亿美元，总市...。
2014年，在WhatsApp以初创公司之姿面世刚满一年后，马克扎克伯格就和他的公司出资190亿美元将其买下，当时，WhatsApp创建者之一的JanKoum声称，收购并不会影响其客户的隐私安全，WhatsApp仍然是全球最安全的通讯工具，而这周的一个消息，可能是要打脸Koum了，就在当地时间本周四，WhatsApp宣布对隐私条款进行...。
相较于往年，今年的双11购物节足足提前了10天，对用户而言，意味着准备的战线被大大拉长，他们需要投入更多的时间和精力挑选适合自己的产品，特别是家电这种大件，令不少，选择困难症，的用户犯了难，不知怎么选，跟着榜单准没错，在天猫各大榜单中可以看到，海尔智家占据了绝对优势，拿下多品类TOP1，其中，海尔云溪纤美376洗烘套装、全空间保鲜冰箱...。
发表在当贝投影仪2024，4，1816，24当贝D6X是全新上市的配备有一体式云台的投影仪，那么和同样配备有一体式云台的坚果N1Air之间有什么区别呢，下面就通过详细的参数配置进行对比分析，看看当贝D6X和坚果N1Air区别有哪些，哪款更值得用户入手，一、当贝D6X和坚果N1Air有什么区别1.光学参数对比光源方面，当贝D6X和坚果N...。
据伊通社报道，外地期间11月12日，伊朗驻黎巴嫩大使穆杰塔巴·阿马尼预备启程前往派驻国，临行前与外长阿拉格齐在首都德黑兰会面，往年9月黎巴嫩出现大规模传呼机爆炸事情，阿马尼也在爆炸中受伤，随后前往伊朗治疗，这也是他受伤后初次地下出面，伊通社发布的照片显示，阿马尼的左手仍缠有绷带，右手手指及右脸变形，右眼依然肿胀，疑似不可睁开，此前美媒...。
吉利帝豪Ec8的油耗疑问帝豪EC8作为国产车型，全体设计上乘，展现出大气与奢侈的格调，且以5星安保规范为傲，搭载了三菱发起机，但是，其城市油耗广泛在10到12个油，这在2.0排量的发起机下是可了解的，理论，十万以上价位的合资车，油耗广泛在8，9升之间，如今的合资车也逐渐国产化，性能并未清楚优化，国产车的市场位置已无法小觑，与合资品牌相...。
首先，确定的通知你配件解码h.264的规范cpu占用率也就是在25%，35%间接，不要看网上的那些测试，那都是如许高性能的机器能力够5%，7%啊，一部电影并不是光显示图像，首先要将视频跟音频启动分别，这局部是须要cpu计算的，并且分别进去的音频也须要cpu启动解决，除非你是独立声卡，并且还允许这些解码，关于hd2600pro来说只需装...。
上海协作组织成员国元首理事会第二十四次会议7月3日至4日在哈萨克斯坦首都阿斯塔纳举办，进一步凝聚共识，粗浅协作，促成地域和环球和颠簸固、开展兴盛，上合组织阿斯塔纳峰会主题为，增强多边对话，寻求可继续的敌对与开展，，聚焦区域安保与经济协作，在峰会时期，上合组织成员国指导人将宽泛探讨机构改革与扩员、经贸、人文畛域协作等话题，峰会将经过对于...。
作为吉利汽车旗下的一款车型，吉利远景曾经成为一款颇受生产者喜欢的车型，它不只外型时兴，而且性价比高，是家用车市场中实力派的代表，那么吉利远景究竟多少钱呢，吉利远景最新报价吉利远景目前有多个版本可选，多少钱也有所不同，以下是吉利远景最新的报价，吉利远景1.5L手动温馨版原价，7.78万元现价，6.88万元吉利远景PLUS1.5L手动优享...。
西风柳汽霸龙，厂址广西，属于西风与日产合资的西风汽车有限公司的控股子公司，同时西风柳州汽车有限公司是西风汽车有限公司和柳州市工业控股有限公司独特持股的有限责任公司，霸龙重卡仪表批示灯像一把梳子的是什么这个是副水箱冷却液不少了，加回冷却液就不亮了，超越50%的发起机缺点是由冷却系统失效惹起的，而冷却系统失效的关键要素是锈蚀造成的零部件损...。
江苏：补短板强弱项民生难点变亮点
斗鱼TV直播伴侣,斗鱼直播伴侣是斗鱼TV官方发布的斗鱼直播辅助软件，斗鱼TV直播伴侣不仅支持直播功能，还提供了直播视频录制功能，同时方便主播在直播的时候考到观众的弹幕评论，是斗鱼主播的得力助手,您可以免费下载。
随着互联网的迅速发展，越来越多的人喜欢在网上购买东西，快递行业也随之发展起来，很多人都非常看好快递行业的发展，也想要开一个快递公司，那么，呢，今天，针对这个问题，小编为各位进行具体介绍，怎样开快递公司——市场调研想要开一个快递公司，智慧之选商首先需要对自己当地的经济发展状况和区域内同行的经营情况进行调查，了解当地人使用快递的情况，偏好...。
发表在极米投影仪2018，12，2819，54随着近几年生活水平的日益提升，用户对于影音效果的体验要求也越来越高，很多人选择走进电影院观看影片，但是电影院环境嘈杂，影响观影体验，智能投影仪的出现则改变了这种情况，年终之际，PChome特推出了年度评奖计划，以2018年度最出色的投影仪产品为依托，为大家深度梳理投影仪行业的重大进步，展现...。
wxpx8gk3大神级投影控发表于2024，03，07极米无屏电视的使用方法如下，1.**接通极米无屏电视的电源线，并连接网络**，2.**点击屏幕右下角的，我的，，进入个人中心**，3.在无屏电视处于开机状态的情况下，找到左上角的设置选项，进入系统设置界面，4.在系统设置界面，通过左右方向键调整屏幕分辨率的箭头向一侧滑动，将其调整至...。
私域，以其相对封闭和私人性质而著称，与之相对的，公域更具随机性和公开性，你的言论和作品会被传播给所有粉丝，包括那些尚未关注你的人，典型的公有平台有抖音、小红书和今日头条等，想要确定是选择私域还是公域，首先需要在涉足之前深入了解这两者在投入和回报方面的差异，在此基础上，判断个人的接受度，最终作出适合自己的选择，作为一名兼顾公域和私域的自...。
文字链接认证代码普通联盟标志认证代码企业广告联盟标志认证代码广告联盟评测代码说明，本页面的认证代码为腾龙广告联盟专用评测代码，站长需懂简单html知识，直接复制代码粘贴到联盟网站相应页面即可使用，本代码不适用于其他广告联盟网站请勿获取！文字认证，文字链接代码认证适用所有类型的广告联盟，复制代码后放在腾龙广告联盟网站首页底部或友情链接位...。
