2017最佳论文 ICML 模型预测率突然提高了 为什么你改了一个参数 (2017最佳新秀是谁)
雷锋网 AI 科技评论按：正在进行的2017 机器学习国际大会（ICML 2017）早早地就在其官网公布了本次会议的最佳论文评选结果（ 重磅 | ICML 2017最佳论文公布！机器学习的可解释性成热点 ），其中最佳论文奖为《Understanding Black-box Predictions via Influence Functions》，其主题为如何利用影响函数理解黑箱预测。两位作者分别为Pang Wei Koh 和 Percy Liang。
Pang WeiKoh是来自新加坡的斯坦福大学在读博士生。他此前在斯坦福获得了计算机科学学士与硕士学位，并在斯坦福的AI实验室与吴恩达一同工作过。在2012年，他加入了吴恩达联合创立的在线教育平台Coursera，成为其第三位员工。在2016年他开始在斯坦福攻读博士学位。
Percy Liang是斯坦福大学的助理教授，此前曾在MIT和UCB学习及做研究。他的研究大方向是机器学习与NLP，目前的研究重点是可信任的代理，这些代理能与人类进行有效沟通，并通过互动逐步改善。
在8月7日下午，最佳论文奖得主Pang Wei Koh（来自新加坡的斯坦福大学在读博士生）就他们的工作做了一场报告。雷锋网 AI科技评论在大会现场记录了这场报告，下面为雷锋网AI科技评论对现场Pang Wei Koh的报告进行整理，与大家共同分享。
图文分享总结
大家下午好，感谢大家来聆听这个报告。
动机
下面我将讲述如何用一种被称为影响函数的统计工具来研究神经网络的预测问题。
在过去几年，机器学习在许多领域中的模型做出的预测准确度越来越高，但是这些模型本身却也变得越来越复杂。然而一个经常会被问到的问题——系统为什么会做出这样的预测？——却难以回答。
例如我们通过图中左侧的训练数据来训练一个网络，当输入一张图片时它会做出一个预测。为什么这个模型做出这样的预测呢？我们知道模型学习的所有信息和“知识”都是从训练实例中得出的，所以应该可以查询特定预测受到各种数据点的影响有多大。
如果一个特定的训练点不存在或被微弱扰动，例如这里对经验风险函数进行微调后，预测的置信水平就会由79%提升到82%。那么两次预测的损失函数的差就可以代表某个训练点改变后对整个训练的影响。
影响函数
在这里我们的目标就是测量如果我们增加经验风险函数的值，损失函数的改变。这里结构风险函数是由具体的训练数据决定的。在函数取光滑条件时，那么这个测量值就是这个函数I，也即影响函数。这个公式第二行中的H是Hessian矩阵。从这里我们可以看出，影响函数是依赖于具体的模型和训练数据的。
例如我们看两个例子。右侧两列中第一列是用像素数据训练的RBF SVM，第二列是逻辑回归模型。用这两个模型分别对左侧的测试图形进行预测，我们得到的影响函数，RBF SVM模型的影响函数随着距离测试物越远会迅速减下，而逻辑回归模型的影响函数则与距离无关。所以我们可以利用影响函数来更好地理解模型。在我们看影响函数的应用之前，我们要先讨论一下这种方法中潜在的问题。
第一，计算效率低
要想实用影响函数，我们必须构建经验风险函数的Hessian矩阵以及求矩阵的逆。这对有几百万个参数的神经网络模型来说是难以接受的，尤其是求逆过程将会非常缓慢。
最好的办法就是我们不明确地求出Hessian矩阵的逆，而是通过Hessian-vector products近似。
第二，非光滑损失
当损失函数的一阶、二阶导数不存在时，我们可以通过剔除这些非光滑的点，我们发现仍然能够很好地预测。例如这里的smoothHinge模型，当t=0.001的时候能够更好地符合实际的改变。
第三，很难找到全局极小值
在前面我们假设了为全局极小值，但是有时我们可能只是得到一个次极小值。这种情况下可能会导致Hessian出现负的本征值。
我们通过凸二次近似方法对损失函数构建一个软极大值来取近似。这样可以在很大程度上降低因为是非全局极小值造成的问题。
应用
好了，最后我们讲一下影响函数的应用。
1、调试模型错误
当模型出现错误的时候我们能否帮助开发者找出哪地方出了问题呢？我们用一个例子来说明，我们用逻辑回归模型来预测一个病人是否应当重新入院。训练模型有20k的病人，127个特征。
为了说明情况，我们把训练模型中3（24）个孩子需要重新入院改成3（4）个，也即去掉20个健康孩子的训练样本。当用一个健康孩子来做预测时，模型就会出错预测为需要重新入院。
我们计算每一个训练点的影响函数。这个图很清楚显示了4个训练孩子的影响值是其他样本的30-40倍，其中一个孩子为正，其他3个为负。
仔细考察4个孩子的127个特征，发现表示为“孩子”的特征起主要贡献。
2、对抗训练
最近的工作已经产生了与实际测试图像无法区分的对抗测试图像，以致完全可以愚弄分类器。实际上，Ian Goodfellow在内的一些研究者已经表明了高准确率的神经网络也是可以被欺骗的，用来欺骗它的样本是精心选择过的，人眼看起来正常。这样的样本就叫做“对抗性测试样本”。
构建它们的方法之一是沿着测试输入对应的测试损失的梯度，不断修改测试输入，从而让测试损失增大。
那么既然有对抗性测试样本，我们能否创造出对抗性训练样本呢，其中训练点上的小变化就可以改变模型的预测结果。
我们问了自己这个问题，然后接下来很自然地就尝试在测试损失的梯度上做同样的事情。不过现在不是做关于测试特征的，而是做关于训练特征的。换句话说，我们先给定测试样本，然后沿着测试样本的梯度变化修改训练数据。
然后我们发现，它的影响函数可以帮助我们找到这个梯度，因为它们根本上是一回事，随着训练的进行，模型的预测上会发生的事情就是这样。我们得到的结果是这样的，从数学的角度讲它和基于梯度的攻击是一样的，对不同的模型和数据集都可以起作用。
这样的方法在实际应用中也可以发挥作用，我们设计了简单的二分类任务，模型要确定图像中的是狗还是鱼，两种东西看起来挺不一样的。我们用到了一个 Inception 那样的逻辑回归模型。令我们惊讶的是，如果仔细地选择训练数据，然后仔细地选择要增加在其中的干扰，那么训练数据中一点点的改变，就可以让同一个类型的多张测试图像的预测结果都出现问题。这说明这样的攻击在某些环境下具有相当的危险性。这个问题上其实还有很多值得研究讨论的，待会儿我们可以再聊。
结论
最后做个简单的总结。我们先讨论了模型是如何做出预测的。我们知道模型是通过训练数据得到的，我们将其写成公式，然后就知道改变训练数据以后模型会如何变化，而且我们还能通过它偏离训练数据的程度更好地理解模型的预测结果。影响函数为这些事情提供了一种高效的手段。
在这项工作中，我们还有很多事情需要做，例如如果从医院里移除了所有的病人怎么办，我们有什么办法防止这件事发生吗？如果我们有一个很大的凸模型，运行SGD好几次，……目前工作只是在这个方向上的一小步。在能够很好地理解模型之前，还有很多基础的问题等待我们去解决。
谢谢大家！
（完）
雷锋网 AI 科技评论整理。
论文下载：
重磅 | ICML 2017最佳论文公布！机器学习的可解释性成热点
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： /article/6c7087595740247e1bb6.html
站长工具是站长的必备工具。经常上站长工具可以了解SEO数据变化。还可以检测网站死链接、蜘蛛访问、HTML格式检测、网站速度测试、友情链接检查、网站域名IP查询、PR、权重查询、alexa、whois查询等等。
格瓦拉生活网为您提供演唱会、话剧、歌剧、展览、亲子演出、戏曲、音乐会、芭蕾舞蹈、体育赛事、电影等多种演出活动，永远是您的文艺生活指南！
桐城市宇航装饰工程有限公司是一家集设计、预算、施工于一体的专业化装饰公司。公司从事装饰装修行业多年，有着创新的设计、合理的报价，有着众多出色的家装、别墅、酒店、商业空间工程案例，还有一批独立的专业化的施工队伍，确保施工绿色环保，安全文明。联系电话：0556-6733888
公司的主要经营范围是：城镇浅孔爆破、深孔微差爆破、光面、预裂爆破、土石方控制爆破、高耸建筑物定向拆除爆破；采用机械或人工作业方式拆除各类建筑物、构筑物；道路、桥梁、隧道工程；水下爆破工程、深基坑开挖、边坡支护、高层建筑挖孔和机械成孔灌注桩工程设计施工、安全评估、安全监理和有害效应监测。
沧州万群管道设备制造有限公司主营：碳钢法兰，碳钢弯头，碳钢弯管，碳钢三通系列产品，公司是集产品制造，制造，销售，为一体的科技型规模公司，从事高压管件，管道配件及组件的设计制造。
康派智能（原许继信息智慧能源事业部），提供PUMG650，PUMG750,PUMG730,PUMG530,PUMG2500,CPC,CPR,CPT系列的产品，可搜索康派智能提供商务报价。
巴法设备云，一站式物联网云平台解决方案
云买牛是线上牛只交易平台,该网上交易软件连接买牛和卖牛双方,并提供地图搜索活畜信息,使用手机就可以在云买牛微信小程序上便捷地进行牲畜交易,通过云买牛购买的牛只,健康状态可溯源,放心可靠.
提供海量CS1.6游戏视频、精彩比赛回放、战术教学、武器使用技巧等资源，助您成为CS1.6高手
乐读是获得教育主管部门批准成立的非营利性学科类培训机构，面向中小学生提供义务教育阶段的直播课程及学习服务。乐读坚持以学生为中心，帮助孩子实现身心健康下的全面成长。
嘉格伟业筑路科技有限公司是一家集公路养护产品研发生产销售企业,养护主营:沥青贴缝带,灌缝胶,冷补料,网裂贴,单组份聚氨酯道路密封胶,路面贴缝带,抗裂贴等高品质沥青水泥混凝土路面裂缝修补材料,厂家价格直销,同时诚招全国经销商代理商,欢迎来电咨询。
厦门思迈康光电科技有限公司
在社会发展的过程当中，能够具备一些外语的能力，也是非常重要的，除了英语是学生们在学习会学习的外语以外，也有很多的人对俄语特别的感兴趣，这时可通过学俄语的软件来学习，那么学俄语软件有哪些，今天小编就和大家详细分享一下，希望大家了解了可以学俄语的app合集以后，能更快的学习好俄语，在学习俄语的时候，下载该软件就可满足需求，它可以对俄语的语...。
微博是很有潜力的自媒体平台，玩微博就得知道加V认证，加V认证是微博的一种独特标识，可彰显不同身份，大家可能都知道橙V、蓝V，现在全新的，金V，要来了，根据种类不同，可分为个人认证、官方认证、自媒体认证，个人、自媒体通过认证之后会显示，橙V，标识，而官方认证则是，蓝V，标识，主要用于机构、政府，在今天上午举办的，V影响力峰会，上，微博C...。
火狐浏览器上装的Firebug很久没用了，昨晚打开Firebug和Yslow，边浏览博客边看代码，突然发现有几个404，果断打开模板编辑，这使得网页打开速度提高了16毫秒，优化代码如下，1，删除了4个无用的CSS文件，原因是上次整合CSS后忘记删除了，导致打开网页时仍要加载这4个CSS文件，2，删除1个无用的图片，3，把wumii，无...。
新款变旧款，、，用户变冤种，，这是13日晚上发布会后极氪用户群蔓延乃至失控的情绪，此次舆情的爆发，不亚于2022年7月，极氪免费为老车主升级8155芯片，一事，甚至更为严重，2025款车型增配降价、搭载浩瀚智驾系统2.0，这让购买了24款车主的车原地变成了旧款，两个，问候量，极大的群，表面看，极氪想要尽可能照顾到老一代智驾方案车主...。
沃克医生为人正直，非常善良，不向反叛军低头，关爱病人，为他人着想，观察敏锐医术高超经验丰富的一名医生，沃克医生是个虽然孤傲暴躁，但却十分真性情的人，沃克医生是一个脾气不好，但内心温柔善良，沃克医生是一个正直，敬业，关爱病人的人，刘伯承奋勇当先，在战斗中，他连中两弹，一颗擦过颅顶，另一颗击中右侧太阳穴，从右眼眶飞出，当时，各地都在悬赏捉...。
愿茶从事奶茶饮料销售已有数年之久，公司陆续推出多种口味的饮品问世，给予消费者层出不穷的舌尖体验，许多人留下深刻印象给出满意好评，而愿茶也因此树立起较好的形象，品牌的持续发酵很快引起创业人士的兴趣，一些人进而提出愿茶加盟费是多少的问题，对此本文将作出清晰说明，给有需要的读者提供帮助，市场中从事奶茶项目运作的品牌比比皆是，然而由于受到多方...。
奇瑞e3是一款能够满足市民实践用车需求的新动力轿车，自2018年开局投入市场至今，累计开售曾经打破了10万台，那么，该车究竟怎样样，接上去将从外观、内饰、动力、空间等多个方面来深化评估，1.外观设计奇瑞e3外观设计精巧，全体外型繁复慷慨，车身大小适中，线条流利，车头驳回的是熏黑式中网加上三横幅设计，看上去十分时兴，同时，车头还带有LE...。
08款斯巴鲁驰鹏的品质全体体现良好，作为一款中型SUV，斯巴鲁驰鹏在当年仰仗其低劣的越野性能和稳固的行驶质感赢得了生产者的青眼，车身结构设计正当，经常使用的资料也相对上乘，因此在耐用性和抗侵蚀性方面都有着不错的体现，从能源系统来看，08款斯巴鲁驰鹏搭载的发起机和传动系统都通过了精心调校，能源输入颠簸，减速照应迅速，同时，斯巴鲁驰鹏的悬...。
福建省我爱淘车汽车消息服务有限公司是2014，11，12注册成立的有限责任公司，人造人投资或控股，，注册地址位于福建省邵武市316国道北侧111，甲地号既汽贸城奇瑞展厅隔壁原比亚迪展厅，福建省我爱淘车汽车消息服务有限公司的一致社会信誉代码，注册号是，企业法人吴瑞敏，目前企业处于开店形态，福建省我爱淘车汽车消息服务有限公司的运营范畴是，...。
一汽柳特尖头牵引车包含西风柳汽龙卡重卡290马力6X2牵引车和LT安捷牵引车，西风柳汽龙卡重卡290马力6X2牵引车驱动方式为6X2，牵引总品质为37吨，驾驶室类型未知，搭载WD615.93E发起机，290马力，排量为9.726L，变速箱型号为法士特9JS119，行进挡挡位数为9，多少钱区间为18，21.1万元，LT安捷牵引车是柳特推...。
在当今的软件开发行业中，高效的团队协作是取得成功的关键。团队成员之间的良好合作和协作能力对于项目的顺利进行和高质量的交付至关重要。在Go语言项目开发过程中，我们积累了一些经验，现在分享给大家。第一点是明确的目标和规划。在项目开始之前，团队成员应该共同明确项目的目标和规划。这包括项目的功能需求、技术实现方案、时间进度和分工等。只有明确的目标和规划，团队成员才能
虎牙直播,虎牙直播电脑版是虎牙直播原YY推出的直播观看客户端，就是虎牙直播PC版，是一款轻量级的、纯净的windows视频直播软件，比起在网页上观看直播，可以提升视频流畅度，减少CPU占用，做到秒出视频，经常在电脑上观看虎牙直播的朋友推荐下载,您可以免费下载。
虎牙直播,虎牙直播电脑版是虎牙直播原YY推出的直播观看客户端，就是虎牙直播PC版，是一款轻量级的、纯净的windows视频直播软件，比起在网页上观看直播，可以提升视频流畅度，减少CPU占用，做到秒出视频，经常在电脑上观看虎牙直播的朋友推荐下载,您可以免费下载。
360杀毒软件Mac版来自大名鼎鼎的免费杀毒软件提供商――360，专为MacOS用户打造，360杀毒软件Mac版配合360安全卫士使用可以为你的Mac提供全面安全的防护;您可以免费下载。
云端课堂,云端课堂是一款直播式的教学软件，提供专业教育直播，点播，高清画质，轻松集成，弹性架构，对于学习非常的有帮助，数据及链路多重容灾备份有效防止数据丢失,您可以免费下载。
南构唐宝楷字体,南构唐宝楷是以楷体字为原形而设计的一款中文字体，该字体线条凌角分明，字形飘逸大方，整体效果非常出色，并且字库完整，能够适用于产品设计等领域，喜欢的朋友赶快下载吧！,您可以免费下载。
国台办：企图“以武谋独”只会让台湾更兵凶战危,台独,国台办,民进党,台湾地区,美国政府,解放军“环岛”军演
