机器学习的重新思考 人工智能如何学习 失忆
机器学习已经成为各行各业的宝藏工具，常被用来构建系统，帮助人们发现那些容易忽略的细节，并辅助决策。尽管已经取得了惊艳的结果，但是也有很多痛苦，例如如何在已经成型的模型中修改、删减某些模块或者数据记录？
有学者表示，在大多数情况下，修改往往意味着重新训练，但仍然无法避免纳入可疑数据。这些数据可能来自系统日志、图像、客户管理系统等等。尤其是欧洲GDPR出台，对模型遗忘功能提出了更高的要求，企业如果不想办法将会面临合规处罚。
确实，完全重新训练的代价比较高，也不可能解决敏感数据问题。因此，我们无法证明重新训练的模型可以完全准确、有效。
为了解决这些问题，学者们定义了一种
“机器学习解除术”
（machine unlearning），通过分解数据库、调整算法等专门技术，诱导模型选择性失忆。机器学习解除术，顾名思义，就是让训练好的模型遗忘掉特定数据训练效果/特定参数, 以达到保护模型中隐含数据的目的。
机器学习之所以有魅力，是因为它能透过庞大的数据，超出人类认知范围的复杂关系。同时，这项技术的黑盒性质，让学者在修改模型时候，非常谨慎，毕竟无法知道一个特定的数据点处在模型的哪个位置，以及无法明确该数据点如何直接影响模型。
当数据出现异常值时，模型会记得特别牢，并对整体效果产生影响。
当前的数据隐私工具可以在数据脱敏的情况下训练模型，也可以在数据不出本地的情况下联合训练。或许可以将敏感数据替换成空值，引入噪声掩蔽敏感数据。但这些都无法从根本上解决问题。甚至，替代元素并保留关键数据的差异隐私技术也不足以解决选择性遗忘问题。例如它只能在单个案件或少数几个案件中发挥作用，在这些案件中，虽然不需要重新训练，但会有“敏感”的人要求从数据库中删除数据。随着越来越多的删除请求陆续到来，该框架的“遗忘模型"很快就会瓦解。
因此，隐私技术和机器学习解除术在解决问题的层面，并不能等同。
匿名无法验证和差分隐私技术的数据删除问题不仅是理论问题，而且会产生严重的后果。研究人员已经证明， 人们总是有能力从所谓的通用算法和模型中提取敏感数据。 例如2020年时候，学者发现，从gpt-2中可以获得包括个人身份和受版权保护的信息等训练数据。
让机器学习模型获得选择性遗忘的能力，需要解决两个关键问题：
1.理解每个数据点如何机器学习模型；
2.随机性如何影响空间。例如需要弄清，在某些情况下，数据输入中相对较小的变化为何会产生不同的结果。
该方向的最初研究出现在在2019年。当时，Nicolas Papernot提出将机器学习的数据分割成多个独立的部分，通过建立众多的迷你数据，从而实现只对特定组件进行删除和再训练，然后插回完整的数据集中，生成功能齐全的机器学习模型。
具体操作过程是：先将训练数据分成多个不相交的切片，且一个训练点只包含在一个切片中；然后，在每个切片上单独训练模型；随后，合并切片，成功删除数据元素。因此，当一个训练点被要求遗忘时，只需要重新训练受影响的模型。由于切片比整个训练集更小，就减少了遗忘的代价。
该方法被Nicolas Papernot命名为（Sharded, Isolated, SlIced, and Aggregated ），对比完全重训练和部分重训练的基线, SISA实现了准确性和时间开销的权衡。在简单学习任务中, 在数据集Purchase上是4.63x, 在数据集 SVHN上是2.45x。
同时，作者也承认，虽然这个概念很有前途，但也有局限性。例如，通过减少每个切片的数据量，会对机器学习产生影响，并且可能会产生质量较低的结果。此外，这项技术并不总是像宣传的那样奏效。
目前，机器学习遗忘术的研究仍处于初级阶段。随着研究人员和数据科学家深入了解删除数据对整体模型的影响，成熟的工具也会出现， 其目标是：机器学习框架和算法允许学者删除一条记录或单个数据点，并最终得到一个“完全遗忘“相关数据的有效模型。
本文地址： https://www.gpxz.com/article/394e960fdc87747ca590.html
京东秒杀每日10场爆款轮番上、品牌精选每日上新抢、限量低价放心购
LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.
镇江直聘网是镇江地区专业人才招聘信息平台，提供镇江本地企业招聘，人才求职，兼职信息，镇江找工作首选镇江直聘网！
MUX游戏网为游戏玩家提供最新游戏业界动态、游戏下载、游戏补丁、游戏攻略秘籍、游戏专题等内容,是游戏爱好者的首选网络游戏门户网站。
工具查-专业的实用查询工具，提供汉语字典，汉字笔顺，组词，汉语词典，近义词，反义词，成语，造句，单词，英文缩写，三字代码等常用查询工具。
乐清市三力机电有限公司
我们是一家专业从事产品外包装（二次包装）的公司，我们致力于半导体行业，电子行业，电器元件等行业的产品外包装。主要产品有：晶圆包装机、半导体包装机、tray和reel全自动包装机、真空包装机，电磁感应封口机，下走膜包装机。包装耗材：晶圆包装袋，晶圆片运输盒，缓冲材料，干燥剂，湿度卡，防静电胶带。
【河南郑州恒诚标识标牌有限公司】专业从事标识牌,导视系统,标识设计,标牌制作,河南郑州知名标牌厂家,标识设计制作就找恒诚标识,电话:13007501319,13526595337
以药品销售为主、健康护理和便利品销售为辅，直营连锁药品门店实体零售为核心，与电商经营有机结合的商业模式和多元化社区健康服务生态圈。
猿大咖编程语言学习、交流、分享平台，包含最新动静态代理IP，免费IP代理，socks5代理推荐，Python3基础、php教程、前端技术动态推荐等，欢迎自学！
广州至爱花店本地优秀鲜花店，广州市订花一个电话轻松下单，送花到广州城区0运费。广州鲜花由资深花艺师精心设计品质新鲜。本地畅销品牌，广州送鲜花更贴心、更放心。
小牛哥·整装宝,一站式数字家装平台
经常喝白酒的人，应该都听说过，天之蓝，，天之蓝是江苏洋河酒厂股份有限公司生产的蓝色经典系列中的一款白酒，它属于蓝色经典中的中端酒，其余两款系列分别为，梦之蓝，和，海之蓝，天之蓝主要有42度，46度，52度这三种度数，不少人应该对天之蓝酒水的价格很感兴趣，今天小编就来给大家介绍一下天之蓝52度多少钱一瓶，天之蓝度价格是多少，度天之蓝酒...。
网络直播现在已然成为了全新的互动媒介，同时也催生了斗鱼、虎牙等新的平台，昨日，斗鱼正式贴出官方公告，斗鱼TV扣分系统上线直播间违规管理方法，，首次对主播言论、直播内容、直播形式甚至是主播穿衣进行规范限制，扣分设定的总分为12分，一旦扣完将永久封停，以下是关于着装标准的部分内容，a.女主播服装不能过透过露，不能只穿比基尼及类似内衣的服装...。
唐尚珺2023年在衡水中学复读，学校介绍如下，衡水中学是一所具有严格管理、高质量教育成果、丰富教育资源和独特校园文化的著名中学，学校以培养具有创新精神和实践能力的高素质人才为己任，为学生的未来发展提供了良好的支持和保障，严格的管理，衡水中学以其严格的管理制度而著称，学校实行封闭式管理，学生必须按照规定的时间表进行学习和生活，这种管理方...。
作者丨李梅编辑丨岑峰一个半月前，王慧文发英雄帖，称其公司光年之外的75%的股份将用于邀请顶级研发人员，此前，搜狗输入法之父马占凯、前智源研究院副院长刘江都已宣布加入王慧文团队，由袁进辉创立的AI架构公司一流科技Oneflow也与王慧文达成并购意向，而王慧文，吸引顶级人才，的脚步，也并未因此而止步，在最近的AIGC热浪下，一些知名研究者...。
ToB业务、游戏、广告，三驾马车，集体发力，腾讯重回增长曲线，5月17日，腾讯发布2023年Q1财报，当季总营收1500亿元，同比增长11%，其中，，金融科技及企业服务，业务收入487亿元，同比增长14%，占总营收的32%，连续八个季度超过30%，这显示出，ToB业务已经成为腾讯主要增长引擎和收入基本盘，财报指出，企业服务收入同比增速...。
地锅鸡作为一种非常有特色的美食，它吸引了很多消费者，自然也为一些加盟商带来了致富的机会，不过，在庞大的餐饮市场中，关于地锅鸡的品牌有很多，大家在选择的时候不知道如何下手，下面就加盟地锅鸡店排行榜，小编为大家简单的做一些分析，1、小归小地锅鸡，该品牌的总部位于江苏省的南京市，其隶属于南京辣乡客餐饮管理有限公司，作为当下江苏比较有名气的餐...。
煲仔饭是近年来风靡国内的餐品，煲仔饭有着多种食材搭配与亲民的消费价格，备受广大美食爱好者的青睐，因此许多餐饮店的业务量得到持续上升，一些从业者更是陆续开出多家分店经营，形势相当喜人，为向各位读者推荐该项目，本文将对煲仔饭加盟怎么样进行解析，各位读者请看下文，杨阿明煲仔饭是起源于上海市的餐饮品牌，其根据市场需求推出多种风味的美食问世，不...。
打游戏，是否也能赢得美好未来，这个问题毫无疑问，我的答案是肯定的，三百六十行，行行出状元，老话不会错的，不管是什么职业，你能做到其中的翘楚，最后的结果肯定就是成功，也就是楼主所说的赢得美好未来，但是电子竞技赢得美好未来，在社会上还不被普遍认可，虽然大家都知道职业选手会吸引很多关注，或者退役直播会很赚钱，但是电子竞技不止是如此啊，当职...。
西银POP海报大师是一款海报制作软件，拥有海量商场超市特价商品海报模板，特价信息一键导入、打印，省时省心更省钱！支持批量生成海报，提高工作效率。
外观风格有变化，小鹏X9高清谍照曝光,谍照,新车,尾灯,车尾,前大灯,小鹏x9,交互概念车
aardio(桌面软件开发工具),aardio是专用于桌面软件快速开发的新一代混合型编程语言支持COM动态、静态接口、支持标准DLL组件，兼具动态、静态语言优势，兼容流行C系语法、Pascal语法，学习成本最低。,您可以免费下载。
求索固定资产管理系统,求索固定资产管理系统是一款固定资产的管理系统，求索固定资产管理系统适用于各机关企事业、学校、医院等单位管理各种固定资产及设备的使用情况，内容涵盖了资产增加、变更、清理、借出、归还、转移、维修、折旧及系统数据的查询,您可以免费下载。
搜狗五笔输入法是一款功能强大、使用简单的免费五笔输入工具，有同步网络的词库，还支持纯拼音等多种输入方式，易用的输入法让你用了就停不下来。本站提供搜狗五笔输入法免费下载。
互联网专车，这个被Uber带火的新兴行业，在中国已成红海市场，就在专车监管风暴和份子钱流言平息后不久，神州租车，这家号称中国最大的租车公司，在1月28日高调宣布，将携超过6万辆自有车辆进军互联网专车市场，并宣称一年内将投入超过25亿元拉新，计划发展5000万用户，被同行带沟里去了，这是笔者对神州租车进专车市场的第一印象，专车在中国是很...。
4月9日，AIoT企业特斯联宣布完成D轮20亿人民币融资交割，本轮融资由国际投资机构ALCapital与国内产业基金阳明股权投资基金共同领投，国家发改委旗下投资平台、光大控股、商汤科技等新老股东一同跟投，据了解，所募资金将用于完善具有多模态能力的领域大模型在园区、企业、经济、能源等多场景的应用，打造灵活度高、性能优的智算基础设施，特斯...。
一、开篇最近好几个同学看了我之前的资料，关注到我提出的其中一个关键点，创业前，先挖掘你的个人价值和优势......，然后跑过来问我，应该怎么挖掘到我自己身上的优势和价值呢?我真的找不到啊?不对吧，难道你真的没有价值吗?没有价值的活着，难道是行尸走肉吗?老话说得好，天生我材必有用啊，我们每个能活在这世上的人，都有自己独特的个人价值...。
自2005年成立以来，匠人教育集团始终秉持着匠人精神，专注于职业教育培训领域，成为一家集职业资格考前辅导、职业技能提升、企业团体培训、平台及课程输出、师资输出等多功能于一体的综合集团公司，在国家有关职业教育发展的重要文件精神指引下，匠人教育致力于为广大学员与企业提供专业、高效的职业教育与技能培训服务，为行业输送了数十万名合格的专业技术...。
