蚂蚁安全实验室斩获NeurIPS 依托可信AI技术 AI联合竞赛冠军 Facebook & (蚂蚁安全实验室是哪个公司的)

文章编号:43570 最新资讯 2024-12-09 Team TitanShield 蚂蚁集团 AI鲁棒性

12月10日,由国际人工智能顶会NeurIPS 与 Facebook AI联合举办的图像相似匹配竞赛ISC2021落下帷幕。本次比赛共有1635支参赛队伍参加,是今年NeurIPS会议上最具影响力的比赛之一。来自蚂蚁集团的TitanShield Team(titanshield2)以超越第二名10个百分点的成绩斩获图像表征赛道冠军。据悉,此次夺冠团队采用的技术方案是由蚂蚁集团独立自研的、“基于特征兼容自监督学习框架”的预训练模型,能够针对性地解决内容安全风控领域常见的敏感信息更迭速度快、风控模型训练不及时等问题。作为可信AI技术研究及应用中的一环,该技术上线后可降低80%的图像对抗风险,将有助于极大地提升在内容安全等相关应用领域中的AI鲁棒性(Robustness)。

依托AI技术 蚂蚁安全实验室斩获NeurIPS &  AI联合竞赛冠军

ISC2021图像表征赛道成绩排行榜

鲁棒性:人工智能的第一场大考

作为人工智能下一阶段快速发展的瓶颈所在,安全和可信性决定了人工智能未来三十年的发展速度和应用深度;而AI的鲁棒性,即抗打击能力及稳定性,则成为了人工智能的第一场大考。以图片识别领域为例,无人驾驶车辆上加载的图像识别模型可能因为图像识别错误,而酿成车祸;版权保护场景下,盗版商通过图片的变形,试图绕开反盗版模型的审查;内容安全场景中,将涉毒涉黄信息隐匿在看似合法的图片中,更是黑产团伙获利的惯用伎俩。“如果抵挡不住攻击,识别结果不可信,那么AI模型不仅失去了它存在的意义,还会成为另一个风险敞口”,蚂蚁集团资深技术专家博山在采访中强调。

可信AI:做内容安全战场的定海神针

一直以来,敏感信息复杂多变,模型训练样本不足,是各家企业内容安全风控的核心痛点。例如,新增的劣迹艺人、潮流商品的版权图片,AI不仅无法预判其出现的趋势,还需要在其出现后快速做出风控响应;而在儿童软色情等问题场景下,由于模型训练样本不足,如何让AI实现有效风控成为难题。不仅如此,在全行业分工协作程度不断加深的今天,各类企业、商户组成了庞大的生态服务链。任一薄弱环节,都可能成为黑产的突破口,对企业自身及关联企业带来巨大的负面影响。但由于训练样本的敏感性等,如何实现联合风控,成为行业共同面临的困境。

而此次比赛中,夺冠团队所采用的“基于特征兼容自监督学习框架”的预训练模型,在图像识别领域,极大地缓解和应对了上述问题。首先,该技术能够基于公开数据集进行预训练,帮助AI提前完成同类风险预演。其次,在传统的AI识别中,模型识别依赖人工投喂标注了“特征”的样本;例如,模型在识别熊猫图片前,需要先“学习”熊猫的特征——“眼部有黑色毛发”、“常与竹子一同出现”等等。而借助“自监督学习”技术,该模型可以通过自主学习抓取“特征”,降低70%标注量,训练时间也从原本的一周缩短至3天。同时,创新的“特征兼容”方案,能够实现在两个业务场景或两家企业间,借助“特征”信息的兼容共享,实现风险联防。

据悉,该模型及相关技术作为蚂蚁集团内容安全风控决策引擎的重要组成部分,目前已在支付宝内容安全场景中全面上线,可整体降低80%的图像对抗风险。

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/a76dc846a30ed093ca5f.html
全局中部横幅
全局中部横幅
古诗大全_词典_文言文_诗词鉴赏--柏晨诗词网

柏晨诗词网_为广大用户提供精准的唐诗,宋词,元曲,名人名言,励志名言,古诗等诗文、文章内容,是学习诗词的可靠平台。

武汉楚天防火门业有限公司 | 专业设计、制造、销售和服务一体化的企业

楚天防火门业注重品质的提升产品的研发,生产、检测技术力量雄厚,产品加工、检测设施完善,实施产品质量全过程检测,环保和材质的检测。以产品取胜于市场,以品质和服务赢得客户,坚持不懈地推行“精品战略”公安部消防产品定点生产企业之一,湖北省消防协会成员单位。产品通过IS9001:2008质量管理体系认证。

回收乙醇-回收酒精-回收废酒精-回收废乙醇-废乙醇回收处理厂家--东光县乐丰化工产品有限公司

东光县乐丰化工产品有限公司(15533765638)经营范围:回收废乙醇,回收乙醇.废乙醇回收处理,回收酒精,废乙醇回收,上门回收废乙醇报价,过期消毒酒精回收,回收废酒精,回收工业乙醇,乙醇回收厂家,回收废甲醇,回收废乙醇上门高价报价,欢迎新老客户到厂洽谈合作.

润滑油厂家-导热油厂家-金属加工油厂家-发动机油厂家-成都迈斯拓新能源润滑材料股份有限公司

成都迈斯拓公司拥有30多年从事内燃机润滑油、抗结焦(长寿命)导热油、液压油、齿轮油、金属加工油、压缩机油、金属处理器油、减震器油、变速箱油、润滑脂等产品的研发团队;取得多项专利技术、测试技术专利;是国家高新技术企业,通过ISO9001国家质量体系认证和ISO14001环境质量管理体系认证;导热油在线再生复合添加剂被评为2015年成都市重点新产品。

轨道平车-RGV轨道车-电动轨道平车-蓄电池平板车厂家-新乡市帕菲特搬运设备

新乡帕菲特定制生产轨道平车,RGV轨道车,低压电动轨道平车,蓄电池自动引导小车,拖电缆轨道平车,滑触线轨道车,过跨地平车生产厂家制造商,研发定制升降,自动化功能搬运模具,钢卷,钢包,钢结构,汽车,车间内物料,欢迎咨询!

小微企业金融服务 — 中安信业

中安信业是一家提供快速简便、无抵押无担保个人小额信用贷款服务公司。贷款额度高,速度快!中安贷款热线:4008-838-865

居然智慧家

居然智慧家是居然之家于2016年成立的全资子公司居然数码,创立初衷是为消费者打造全新数码生活、智能生活及智能家居体验等项目的新兴业态,提供智能家居系统、智能家居产品、智能家居解决方案、智能家居设备、智能家居控制系统、智能家居控制器、智能家居控制软件、智能家居控制平台等服务。

茶都网 - 安溪铁观音盛产之地!铁观音茶叶批发,乌龙茶,普洱茶等各类茶叶市场!

茶都网新闻资讯,全面的茶功效知识历史文化介绍!提供多种品牌茶批发、价格咨询等服务!同时介绍茶叶类的普洱茶绿茶白茶红茶等茶叶功效新闻知识的的茶网,茶都茶文化,汇集海量茶叶知识,助你更懂生活!

刘长春营销策划工作站|2010年回到长春从事营销策划工作|交个朋友吧|让我们在企业发展方面一起成长 -  Powered by Discuz!

刘长春营销策划方案分享【Q:828555】刘长春老师营销策划工作站用于记录刘长春老师营销策划方面的营销策划随手笔记,营销策划知识,市场营销策划,品牌营销策划.

学生宿舍智能电表_高校园寝室公寓电表_大学校安全用电限电控制系统-拓强电表厂家

浙江拓强电气有限公司是一家专业生产学生宿舍智能电表,校园公寓电表,学生寝室电表,学生公寓智能电表,大学校安全用电限电控制系统,学校宿舍智能电表,校园学生寝室智能电表,学生公寓智能电表,学生宿舍安全用电智能电表,,等产品的企业。

首页 - 北京中农绿桥科技有限公司|番茄|鲜食玉米|甜辣椒

北京中农绿桥科技有限公司是集科研育种、生产加工、销售服务于一体的种业高科技企业。近年来,公司凭借强大的研发实力,丰富的种质资源,高素质的人才队伍,卓越的产品质量和优质的服务态度,迅速发展壮大并顺利取得国家农作物种子经营许可证,且拥有多个审定玉米品种。

全局底部横幅