安全 AI时代下 问题 首届人工智能安全大赛收官 我们更应该谈谈 (时代安全月刊)
数字经济时代下，以人工智能为代表的数字技术赋能产业变革，推动整个社会经济进入智能化的新阶段。与此同时，人工智能在应用过程中产生的网络系统攻击、隐私泄露、数据权属等安全问题，也引起整个产业界的重视。
9月16日，以“共筑AI安全 安享智能未来”为主题的AISC首届人工智能安全大赛圆满落幕。本次比赛共决出人脸识别安全、自动驾驶安全、深度伪造安全三大核心赛道冠军。据了解，本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办，系首个全国性人工智能安全赛事。
AI安全风险已非未来挑战，而是眼前威胁
试想一下，有人将一张“神奇的贴纸”放置在面部，就可以使人脸识别门禁系统误认为是你，从而轻而易举打开大门；同样是这张“神奇的贴纸”，把它放置在眼镜上，就可以1秒解锁你的手机人脸识别，探取你的隐私如入无人之境。这并非科幻大片的想象，而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。
大赛工作人员展示对抗样本攻击人脸识别门禁系统
北京瑞莱智慧科技有限公司首席执行官田天认为，人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高。在他看来，人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。
从人的视角来评估AI的安全问题，首当其冲就是技术的两面性问题，存在AI滥用甚至“武器化”的问题。具体到人工智能的应用中来看，最为典型的代表就是深度伪造技术，它的负向应用风险持续加剧且已产生实质危害。
而现场的人脸识别破解展示，所揭示的正是系统的风险，它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”，具有不可解释性，意味着系统存在结构性的漏洞，可能受到不可预知的风险，典型的就比如现场展示的“神奇贴纸”，其实就是“对抗样本攻击”，通过在输入数据中添加扰动，使得系统作出错误判断。
这一漏洞在自动驾驶感知系统同样存在，瑞莱智慧展示了用对抗样本攻击自动驾驶汽车。正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但在目标物体上添加干扰图案后，车辆的感知系统就会出错，径直撞上去。
结合具体赛题来看，自动驾驶安全赛题和人脸识别安全赛题从攻击视角出发，通过让选手攻击目标模型挖掘算法漏洞，旨在发现更加稳定的攻击算法，以更好的实现准确评估模型的安全性。深度伪造安全赛题则通过分析伪造音视频的相似性，来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件，以促进对深度伪造检测技术的发展，具有重要的现实意义。
瑞莱智慧首席执行官田天
安全的本质在于对抗升级，构建安全需要一个持续攻防演进的过程。田天表示，大赛聚焦人工智能真实应用场景中的典型漏洞及风险，以赛促建、以赛促研，通过考核参赛队伍的漏洞发现、漏洞挖掘等能力，探索新型安全需求场景，推动AI攻防技术创新，为强化人工智能治理体系与安全评估能力建设提供支撑。
构建人工智能的安全生态，一方面需要技术的持续演进，一方面也需要专项技术人才的建设与培养。田天表示，由于人工智能安全研究目前仍属于新兴领域，专项人才较少，缺乏系统性的研究队伍，本次大赛通过实战演练的方式，全方位验证和提升选手实战能力，为培育一批高水平、高层次的人工智能安全新型人才团队提供了“快速通道”。
据了解，自七月开启报名以来，大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队，共计600余名选手的踊跃参与。经过三个月的激烈角逐，最终，上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度伪造安全与自动驾驶安全赛道桂冠，北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。
深度伪造安全竞赛前三名
自动驾驶安全竞赛前三名
人脸识别安全竞赛前三名
此外，活动现场，由国家工业信息安全发展研究中心牵头，联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》正式发布。
白皮书围绕人工智能算力基础设施安全发展的意义、内涵与体系架构、安全管理现状、发展建议等方面展开深入研究。白皮书指出，人工智能算力基础设施不同于传统的算力基础设施，既是“基础设施”又是“人工智能算力”也是“公共设施”，具有基建属性、技术属性、公共属性三重属性。相应地，推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。
现场，中国科学院信息安全国家重点实验室副主任陈恺、北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙、工商银行金融研究院安全攻防实验室主管专家苏建明进行了主题分享。圆桌对话环节，北京交通大学教授、计算机与信息技术学院副院长景丽萍、清华大学人工智能研究院基础理论研究中心主任朱军、北京邮电大学网络空间安全学院副院长邓伟洪、北京科技大学计算机与通信工程学院教授陈健生、华为可信AI安全解决方案专家唐文围绕人工智能安全技术发展、人工智能安全治理等话题展开深入交流。
专家们认为，从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题，同时他们强调，人工智能的未来发展需确保对整个社会、国家发展的有效性和正向促进性，需要政产学研用多方协同共进。（）
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/84da7d02ee001860509d.html
齐鲁工业大学位于“泉城”——山东省济南市，始建于1948年，是山东省建校较早的公办本科院校之一。2013年，学校由山东轻工业学院更名为齐鲁工业大学。学校是山东省“应用型人才特色名校”立项建设单位和山东省“2011协同创新计划”立项建设单位。
飞进物流在湖北有多部自有散货车以及大件车_有经验丰富和协调处理能力非常强的精英团队管理,为湖北全境拖车保驾护航.咨询热线021-69925759,69973369
贵州智诚坤工程设计有限公司专注于全国风力发电新能源行业，打造全国风力发电新能源行业的全新发展理念.
UUSee悠视网-视频新媒体互动平台
意趣网致力于让生活更多意趣。景点、地标、建筑、文化、诗词、音乐、以及美术、人文、历史的介绍、好吃的、好玩的……意趣网与您分享。
每天分享超值排行榜，人工帮你筛选，超值产品推荐，选购技巧。哪种好，那个口碑好？选择困难问题
【优术网络】12年老牌东莞网站建设公司，独立建站专利，专业提供：营销型网站建设、高端网站建设、品牌网站建设、网站设计等，80人技术团队，提供一站式东莞网站制作服务，做网站找优术。
济南图科电子有限公司为国家高新技术企业，公司潜心致力于超声技术应用领域的研究，建立了领先的科研技术团队，凭借强大的技术研发能力，开发了拥有核心技术和完全自主知识产权的外贴式超声波液位计、外贴式超声波液位开关、雷达物位计等产品。外贴式液位计，外贴式超声波液位计，外贴式液位开关，外测液位计，外测式液位计，外测式液位开关，声呐式液位计，液氨液位计，液化气液位计，液氯液位计、雷达物位计、音叉物位开关，油枕液位计、变压器油枕液位计，变压器油液位计、TUV认证、TUV、SIL认证
我们是一家专业的网站建设公司，致力于为客户提供高质量的网站设计和开发服务。我们拥有一支经验丰富、技术娴熟的团队，能够根据客户的需求和要求，设计出具有创意和吸引力的网站。
九运起名网提供成人起名吉祥财运好的名字有福气的名字权威起名行业，为你的起好名带来好运一生。成年人改名助运助力，提供姓名学不断的学习。新生宝宝起名、新生男宝宝/女宝宝起名，有诗意的女孩起名，
西安鲜花店(订花电话:4006787253)提供异地网上订花，同城送花，生日鲜花配送上门，区域花店包括：新城区花店、碑林区花店、莲湖区花店、雁塔区花店、未央区花店、灞桥区花店、阎良区花店、长安区花店、临潼区花店、高陵区花店、鄠邑区花店、蓝田县花店、周至县花店，可以订生日鲜花，送长辈鲜花，求婚鲜花，生日蛋糕，会议演讲桌花台花胸花，开业花篮，母亲节鲜花，七夕情人节鲜花，教师节鲜花，圣诞节鲜花等1000多束鲜花款式供您选择，免费代写贺卡祝福，下单后鲜花1~2小时免费配送上门！
电玩迷汇聚VR游戏，AR游戏，CR游戏，MR游戏等虚拟现实；还提供，任天堂，索尼等电视游戏机，掌机，包括怀旧街机等资讯内容。
在这个充满生机的季节，让小编一起走进2024关于花的游戏合集全的多彩世界，这里，每一款游戏都是对花朵的深情赞美，它们以各式各样的花卉为主题，为玩家们带来了一场场视觉与情感的双重盛宴，从模拟种植到艺术创作，从花语解谜到花园经营，每一款游戏都邀请玩家探索花朵的秘密，体验与自然和谐共处的乐趣，让玩家开始这段寻找最佳花卉体验的旅程，让心灵在花...。
很多人群关注健康问题，其中健康奶饮品以诸多营养成分而颇受关注，引发了老少消费者的欢迎和信赖，福鑫羊奶专卖店作为行业中实力品牌，以不断提高产品品质和质量，在各地范围内塑造了颇高人气和竞争实力，多年发展中，汇集了大批粉丝客源，且吸引一众创业者加盟开店的意向，那么福鑫羊奶专卖店加盟怎么样，扶持多吗，福鑫羊奶专卖店加盟怎么样品牌为了向广大消费...。
最近，雷军霸气回复友商，生死看淡，不服就干，，不少网友感叹，大佬放，狠话，了，感受下大佬们的狠劲儿，你还知道哪些大佬的狠话?来源，松松科技QQ，微信，lusongsong7本文地址，https，down.lusongsong.com，info，9135.html30多个微信群随便加包行各行各业微信群立刻加群...。
作为年轻人的生活方式平台，小红书用户数已超2.2亿，消费主力的女性用户占比超过87%，90后占比超过70%，在小红书社区每天产生数十亿次的笔记曝光，内容覆盖时尚、护肤、彩妆、美食、旅行、影视、读书、健身等各个生活方式领域，在一众APP中，小红书的带货能力也是首屈一指的，因此，坐拥2.2亿用户的小红书成为了商家和网红达人最主要的营销阵地...。
现在很多男性也开始注重自己的面部保养和清洁，美容已经不再是女性的专利，也成为很多男性的专利，现在市面上的美容机构越来越多，其中一些有特色的皮肤管理机构中就吸引很多消费者的光顾，现在市面上韩诗悦洗脸吧就在众多品牌中脱颖而出，还吸引很多消费者的光顾，门店专业化程度高，很多网友就想要了解，韩诗悦洗脸吧有什么优势，韩诗悦洗脸吧有什么优势韩诗悦...。
2020年伊始，一场突如其来的新冠肺炎疫情打乱了所有人的节奏，学校停课、企业停工，所有人躲在家里闭门不出，在这场全国人民共同面对的挑战中，餐饮行业可以说受波及最深，疫情之下，学校可以线上授课，企业也可以线上办公，但餐饮行业却不得不在一年中本该生意最好的时段闭门歇业，为此，很多餐饮企业正试图通过减薪减员，断臂求存，一片哀鸣的严峻形势下，...。
再见小龙女，你好李若彤本文系网易沸点上班室，谈心社，栏目，群众号，txs163，出品，每天降级，网络上每隔一阵子都会掀起一阵，复旧风，无论是，童年经典，，还是，不老女神，，李若彤都是一个不可绕开的名字，二十四年前的小龙女真实太过冷艳，以致于有数人朝思暮想了这么多年，最近，李若彤又在新剧，海棠经雨胭脂透，冷艳亮相，外型复旧，眉眼温顺，...。
在繁华的古街上，门可罗雀的繁华现象中，几个孩童正在仔细的练习着功夫，这样一幅画面似乎被奇妙地融入了一首动人的古风歌曲，故人泪，这首歌是由中国中原女歌手麦小兜演唱的，她以其共同的嗓音和深情的归结，让这首歌曲在2019年6月的单曲颁布中惹起了宽泛关注，麦小兜，本名杨洛，早在2017年就仰仗，9420，一炮而红，后续的，故人泪，等作品更是...。
双鱼座性情，1、浪漫双鱼座理论是浪漫主义者，青睐享用浪漫的气氛，和双鱼座的人在一同，你会发现即使你不浪漫，双鱼座的人也会把自己的浪漫气息传染给你，2、善解人意双鱼座是一个善解人意的人，他们共性平和、十分在乎周围人的感触，情愿在自己才干范畴内协助他人，他们也不会强制自己或许他人去做一些不想做的事件，3、心肠残酷另外双鱼座的人心肠残酷，他...。
office2016收费版是新一代办公软件，包含了Word、Excel、PowerPoint、OneNote、Outlook、Skype、Project、Visio以及Publisher等组件和服务，一些电脑小白不知道怎样在win10系统中下载和装置office2016收费版，为此，上方教程和大家分享详细操作方法，office2016...。
随着互联网的快速发展，JavaScript作为一种脚本语言，在前端开发中扮演着越来越重要的角色。然而，由于JavaScript代码的复杂性和执行效率的限制，很容易导致页面性能不佳，影响用户体验。因此，优化JavaScript代码，提高页面性能成为了开发者默默努力的方向。本文将介绍一些常用的JavaScript页面性能优化技巧，并分享一些实践经验，帮助开发者更
源码说明面试鸭一个干净的面试刷题网站!专业面试刷题网站，助你成为面试达人!支持**组卷、在线刷题、校招社招斩获大厂offer，求职必备!React+云开发/Node.js全栈项目，包含网站前台+***后台的完整前后端代码。优势...
8月3日，首届全球数字经济大会在京召开，在人工智能产业治理论坛上，来自我国人工智能领域的顶尖科学家，围绕主题，探索创新、共举担当，展开前沿对话，其中，中科院院士、清华大学人工智能研究院名誉院长张钹做了，人工智能的治理与创新发展，的演讲，在演讲中，张钹介绍了实现下一代人工智能的两个范式，其中，所有的处理都在连续空间里进行，的范式一，优点...。
这次我们比上一代产品提前了5、6周的时间发布，从12月份提到了10月底，目前为止一加13在体验上是历年来旗舰最高的水准，一加中国区总裁李杰对说到，10月的最后一天，一加13正式发布，作为一加品牌新旗舰之作，其在性能、屏幕、影像、续航等方面都进行了全面升级，展现出，样样超Pro，的实力，对一加来说，无论是产品还是这一年，都有着非...。
从羽绒到羊毛再到蚕丝，随着越来越多的高端面料进入家纺用品行业，洗护行业也迎来了新的课题挑战，11月20日，2024中国家纺大会在青岛召开，会上，卡萨帝洗衣机发布了蚕丝被、真丝套件的专属定制养护程序，跨界家纺行业为用户带来了机洗蚕丝被的解决方案，并被中国家用纺织品行业协会授予唯一指定高端家纺专业养护产品认证，从家电到家纺，跨界探索行业新...。
近年来，伴随着，双减，政策的接踵而来，教育品牌可谓冰火两重天，以语、数、英为代表的学科类教培机构受到规定掣肘，整个市场鸿遍野，而以体育体能为代表综合素质类教培机构则是前景光明，犹如雨后春笋般蓬勃发展，值得一提的是，2021年，关于加快发展体育产业促进体育消费的若干意见，出台后，山东等省份更是将游泳等体育项目列入中考范围，一时间，水育早...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
