安全 AI时代下 问题 首届人工智能安全大赛收官 我们更应该谈谈 (时代安全月刊)
数字经济时代下，以人工智能为代表的数字技术赋能产业变革，推动整个社会经济进入智能化的新阶段。与此同时，人工智能在应用过程中产生的网络系统攻击、隐私泄露、数据权属等安全问题，也引起整个产业界的重视。
9月16日，以“共筑AI安全 安享智能未来”为主题的AISC首届人工智能安全大赛圆满落幕。本次比赛共决出人脸识别安全、自动驾驶安全、深度伪造安全三大核心赛道冠军。据了解，本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办，系首个全国性人工智能安全赛事。
AI安全风险已非未来挑战，而是眼前威胁
试想一下，有人将一张“神奇的贴纸”放置在面部，就可以使人脸识别门禁系统误认为是你，从而轻而易举打开大门；同样是这张“神奇的贴纸”，把它放置在眼镜上，就可以1秒解锁你的手机人脸识别，探取你的隐私如入无人之境。这并非科幻大片的想象，而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。
大赛工作人员展示对抗样本攻击人脸识别门禁系统
北京瑞莱智慧科技有限公司首席执行官田天认为，人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高。在他看来，人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。
从人的视角来评估AI的安全问题，首当其冲就是技术的两面性问题，存在AI滥用甚至“武器化”的问题。具体到人工智能的应用中来看，最为典型的代表就是深度伪造技术，它的负向应用风险持续加剧且已产生实质危害。
而现场的人脸识别破解展示，所揭示的正是系统的风险，它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”，具有不可解释性，意味着系统存在结构性的漏洞，可能受到不可预知的风险，典型的就比如现场展示的“神奇贴纸”，其实就是“对抗样本攻击”，通过在输入数据中添加扰动，使得系统作出错误判断。
这一漏洞在自动驾驶感知系统同样存在，瑞莱智慧展示了用对抗样本攻击自动驾驶汽车。正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但在目标物体上添加干扰图案后，车辆的感知系统就会出错，径直撞上去。
结合具体赛题来看，自动驾驶安全赛题和人脸识别安全赛题从攻击视角出发，通过让选手攻击目标模型挖掘算法漏洞，旨在发现更加稳定的攻击算法，以更好的实现准确评估模型的安全性。深度伪造安全赛题则通过分析伪造音视频的相似性，来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件，以促进对深度伪造检测技术的发展，具有重要的现实意义。
瑞莱智慧首席执行官田天
安全的本质在于对抗升级，构建安全需要一个持续攻防演进的过程。田天表示，大赛聚焦人工智能真实应用场景中的典型漏洞及风险，以赛促建、以赛促研，通过考核参赛队伍的漏洞发现、漏洞挖掘等能力，探索新型安全需求场景，推动AI攻防技术创新，为强化人工智能治理体系与安全评估能力建设提供支撑。
构建人工智能的安全生态，一方面需要技术的持续演进，一方面也需要专项技术人才的建设与培养。田天表示，由于人工智能安全研究目前仍属于新兴领域，专项人才较少，缺乏系统性的研究队伍，本次大赛通过实战演练的方式，全方位验证和提升选手实战能力，为培育一批高水平、高层次的人工智能安全新型人才团队提供了“快速通道”。
据了解，自七月开启报名以来，大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队，共计600余名选手的踊跃参与。经过三个月的激烈角逐，最终，上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度伪造安全与自动驾驶安全赛道桂冠，北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。
深度伪造安全竞赛前三名
自动驾驶安全竞赛前三名
人脸识别安全竞赛前三名
此外，活动现场，由国家工业信息安全发展研究中心牵头，联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》正式发布。
白皮书围绕人工智能算力基础设施安全发展的意义、内涵与体系架构、安全管理现状、发展建议等方面展开深入研究。白皮书指出，人工智能算力基础设施不同于传统的算力基础设施，既是“基础设施”又是“人工智能算力”也是“公共设施”，具有基建属性、技术属性、公共属性三重属性。相应地，推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。
现场，中国科学院信息安全国家重点实验室副主任陈恺、北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙、工商银行金融研究院安全攻防实验室主管专家苏建明进行了主题分享。圆桌对话环节，北京交通大学教授、计算机与信息技术学院副院长景丽萍、清华大学人工智能研究院基础理论研究中心主任朱军、北京邮电大学网络空间安全学院副院长邓伟洪、北京科技大学计算机与通信工程学院教授陈健生、华为可信AI安全解决方案专家唐文围绕人工智能安全技术发展、人工智能安全治理等话题展开深入交流。
专家们认为，从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题，同时他们强调，人工智能的未来发展需确保对整个社会、国家发展的有效性和正向促进性，需要政产学研用多方协同共进。（）
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/84da7d02ee001860509d.html
78创业商机网是国内值得信赖的品牌营销与创业发家平台,涵盖特色餐饮、服装鞋包、美容养生、饰品玩具、家居建材、节能环保、教育网络、生活服务等海量创业好项目,投资开店找创业加盟商机就上78,全力支持你的创业梦。_78创业商机网
猎才医药网是专业的医药人才招聘网,医药联盟旗下专业的医药人才招聘网,提供医药代表招聘,医药销售招聘、生物医药招聘、医药猎头服务及医药招聘信息。
7月26日，尼日尔总统卫队部分军人扣押总统巴祖姆。尼日尔政变两周后，被扣押的总统巴祖姆及其家人一直被软禁，他的食物即将耗尽，处境日益艰难，引发国际关注及担忧。8月10日，尼日尔政变军人宣布成立新政府。
九八客服系统是领先的免费在线客服系统，可以简单的生成客服链接，实现网页客服对接客户、本系统可以对接到网页、APP、小程序公众号等。
江阴共盟成型技术有限公司主要从事精密冲压零部件,大型航空无人机零件和电池零部件等服务.我们拥有先进的生产设备和技术团队,致力于为客户提供高质量的产品和质优的服务.无论是精密冲压零部件还是大型航空无人机零件,我们都能满足客户的需求.欢迎联系我们:15335259997
爱税宝建筑产业园是上海拓迈财务管理咨询有限公司旗下的知识分享平台，帮助企业、包工头快速申请建筑资质，所得税税负低，可以核定征收征收的园区，办理建筑劳务，就在爱税宝！
一家在北京投资成立的高新技术企业，集研发、生产、销售、服务于一体的石油仪器制造商，座落在北京市昌平区宏奤路燕旭工业园内，东邻京新高速
智途家教网是全国连锁的成都家教网和成都家教在线辅导平台！成都家教网专注成都大学生一对一上门家教、成都中小学全科辅导补习、成都小初高家教、成都升学择校入学政策、成都家教中心、成都暑假培训班、成都寒假培训班、成都中小学名录、成都小中考真题、成都中小学题库试卷教案，小学初中、高中、中考、高考语文、数学、英语、物理、化学、生物等1对1家教在线补课辅导答疑，免费试课!
徐州恒辉编织机械有限公司主要经营生产编织机,高速编织机,恒辉编织机,徐州编织机,广东编织机,编织机厂家,医疗编织机,医用编织机,绳缆编织机,三维编织机,复合材料编织机,复材编织机
全国知名挂牌货代公司金陵国际货运代理是上海股交中心的【挂牌企业】，是工商部门的【AAA级诚信企业】，电话:4006246768，报价快运价低。业务：国际国内铁路海运国际海运集装箱运输知名企业金陵国际货运公司常州国际海运空运铁路运输出口到日本海运常州国际海运外贸出口常州国际货运代理常州无锡镇江泰州国际海运价格海运费查询常州到昆明贵阳成都西安银川乌鲁木齐哈尔滨太原石家庄南宁重庆包头西宁兰州呼和浩特火车铁路运输铁路货运铁路物流铁运常州国际物流国际货代常州无锡镇江泰州国际海运价格海运费查询常州国际空运常州无锡镇江泰州国际货运铁路运输到昆明贵阳成都西安银川乌鲁木齐哈尔滨太原石家庄南宁重庆西宁兰州包头呼和浩特火车铁路运输铁路货运铁路物流铁运如皋靖江阴丹阳扬中国际海运日本海运靖江阴丹阳扬中如皋铁路运输火车货运物流国际海运价格查询南通如皋靖江阴丹阳扬中国际海运姜堰海安如皋国际海运价格靖江阴丹阳南通如皋国际物流铁路运输
模切之家-专注服务模切行业的B2B平台，为模切加工、模切设备、模切机、保护膜、离型膜、泡棉、胶带、刀模、模具等企业提供专业的模切资讯，供求产品信息，模切招聘，模切求职，模切会议等功能。
通葡股份始建于1937年，是中国历史悠久的葡萄酒生产企业之一。上个世纪30年代已建成拥有772个大橡木桶的地下贮酒窖，产品远销30多个国家和地区，被誉为“中国葡萄酒的独特代表”。
现在手机已经发展成为一个全能型的工具，以前我们的手机只能用来打电话，现如今我们可以用它来解决我们生活中的各种问题，其中大家就能用手机来剪辑视频和音频，今天小编给大家带来免费剪辑音频的软件app推荐，通过下载一下这几个软件就可以实现免费的视频以及音频内容的修改和编辑了，一方面可以保留源文件的主要内容，另一方面还能降低各种编辑修改的难度，...。
短视频直播2020年开年就启动了一个原点，从直播睡觉到直播云蹦迪，虽然现在很少有直播睡觉的，但是上段时间直播睡觉上百万能观看，云蹦迪一场收入200多万，这无疑透露着一个信号，直播产业会进入发展周期，以前爆发过一次，主播平台大战，但是跟上一次不同的是，这次是更精细化操作，以前是多平台竞争，现在是单平台操作，今天猫哥以抖音为直播操作，详细...。
随着人们对美容行业的需求不断的增加，也让美容行业在市场中的发展越来越好，随之而来的就是美容品牌在市场也不断的增多，这种现象无论是对消费者还是创业者都存在一定的利弊因素，好的是多元化的品牌可以给人多种选择方式，而坏的就是不清楚该究竟哪个品牌更值得选择，那么法澜娇人这个品牌怎么样，有哪些优势呢，一．法澜娇人这个品牌怎么样法澜娇人是一个非常...。
最近，关注全球科技趋势报道的权威媒体，亚洲科技日报，评出了四大2024下半年最值得期待的全球创新科技大会，美国旧金山的TechCrunch科创大会、日本东京的高新技术博览会、中国上海的Inclusion·外滩大会以及新加坡的金融科技节入选，报道指出，这四个科技大会均位于全球领先的科技创新中心，而且已经成为各自城市科创生态的关键组成部分...。
今日融资快报人形机器人星尘智能获数千万美元Pre，A轮融资，专注AI机器人商业化AI机器人公司星尘智能，Astribot，宣布完成数千万美元Pre，A轮融资，由经纬创投领投，道彤投资及清辉投资等产业资本跟投，老股东云启资本跟投，华兴资本担任独家财务顾问，星尘智能于2022年12月在深圳成立，致力于让数十亿人拥有AI机器人助理，公司专注...。
这几件单品让你从30岁时髦到60岁｜好物,面霜,眼霜,保湿,乳液,肤质,时髦,好物,斑产品
1、优信二手车视频检测视频和形容都没有表现发起机仓漏液，但收到实车时底盘漏的一塌懵懂2、内饰视频检测中只要一处A柱内侧烫伤，但收到实车时左前座椅烫伤烟头大小破绽，右后门内饰皮革损坏，4个车门把手轻大磨损3、4个车门限位器重大吱吱异响，找修配厂上油后，前面两个车门处置，前面两个车门曾经确认损坏...。
[全球网报道记者李梓瑜]据路透社报道，信息人士周五，12日，向该媒体泄漏，德国将在周一，15日，欧盟成员国对中国电动汽车加征暂时关税投票中投弃权票，报道称，欧盟对从中国出口的电动汽车征收高达37.6%的暂时关税不须要欧盟成员国允许，但假设欧盟27个成员国中少数票推戴，加征关税方案最终或者会被阻止，报道征引信息人士的话称，欧盟最大经济体...。
He3工具箱内置超过200种实用工具，免费持续更新更多品类。包含智能搜索、类型识别、自定义快捷键等特性，让你的开发效率直接起飞。
爱普生l3118打印机清零软件是专门用于解决使用爱普生L3118型号打印机用户打印机次数到顶的软件，利用软件能够快速将打印机进行清零，从而正常打印文件，有需要的可以下载使用。功能介绍解决爱普生L3118型号打印机出现打印次数到顶，提示错误号码5B00的问题，利用软件能够对打印机打印次数进行清零，进而可以继续打印。使用方法1.打开清零软件主界面。2.点击Select按钮
美团这款软件很多的小伙伴都在用，近期美团出了一款新功能“月付”，该功能将会在5月29日正式上线，这个功能可以让小伙伴在用美团时获得一定的优惠，具体的内容下面跟着
APK下载器插件,APK下载器插件是一款功能强大，专业实用的优秀APK下载工具，这款插件能够帮助用户通过浏览器从安卓应用商店中下载你所需求的资源，可兼容各种类型的浏览器，操作简单使用方便，欢迎下载使用,您可以免费下载。
车枪球是上个世代最热门的游戏类型题材了，而最真实的枪战游戏手机版下载大全2021同样也是大家近期最关注的内容，射击游戏一般都会加入令人心潮澎湃的出色剧情以及超多的枪械武器供大家选用，这也是射击枪战类游戏能够激发大家兴趣的原因之一了，今天小编为大家带来的就是最真实的枪战游戏推荐，感兴趣的小伙伴一起来看看吧，1、，僵尸世界战争新世界，说到...。
现在很多人都将动漫作为自己日常生活当中消遣娱乐的一种方式，但是很多人还不知道看动漫免费的app哪个最好用2022，接下来小编就为大家带来免费的看动漫APP推荐，这一次的软件推荐，为大家带来了几款此种软件的上乘之作，它们的品质以及优点都得到了大众用户的认可，如果大家遇到自己感兴趣的那款，就可以点击链接下载了，1、，好多动漫，好多动漫是一...。
伴随着人们快节奏生活兴起，因此人们在购买各种小物件的时候会选择一些集约化的场所，比如韩素生活就是一个提供各种家居用品的选择，带给人们不错的购物体验，那么，韩素生活不同于传统快时尚百货的特点体现在哪，韩素生活是2015年成立于广东的一个快时尚百货进行品牌，目前在全国各地拥有1000多家的店面，渗透了很多各个省市人们的生活，韩素生活主打的...。
3月中旬，一年一度的中国家电及消费电子博览会，AWE，如期而至，成百上千家企业携产品亮相上海浦东新国际博览中心，向与会者展示自家的新技术、新功能，现场摩肩接踵，热闹非凡，一个颇有意思的点是，传统白电与智能清洁家电分属于不同的展馆，隔街相望，家电巨头们直接包下半个场馆作为展区，宣传产品和技术，吸引一大片游客驻足，相比较前者，智能清洁家电...。
湖南的一名男童在当地的游泳池进行游泳的时候，不幸发生溺亡，这一事件已经在往上发布，便引起了轩然大波，毕竟对于如今的游泳池发生溺亡的事件屡见不鲜，而对于这位男童在游泳池里发生溺亡的事件的原因也正在调查之中，游泳池内发生溺亡的情况可能是缺氧以及人体发生抽搐造成的事件，湖南这位男孩在游泳池内造成溺亡的这一事件，也希望能够给当今社会众多人造成...。
