保护数据安全 腾讯安全推出大模型隐私保护脱敏技术 源头 从 (保护数据安全的措施有哪些)

文章编号:43998 最新资讯 2024-12-09 大模型隐私保护 腾讯安全 脱敏
保护安全

大模型已经被广泛应用在各类场景,帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作,极大地提升了工作效率,但同时公众对于大模型带来的数据泄露的隐忧也从未停止。

近日,腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原(Hide and Seek, HaS)技术,有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。

HaS为业内首个支持信息还原的自由文本脱敏技术,通过对用户上传给大模型的prompt(提示词)进行隐私信息脱敏,并在大模型返回计算结果后进行恢复,该方案兼顾了隐私安全和计算资源消耗:脱敏与还原算法经过4bit量化后权重文件仅500MB,可在手机、 PC等终端上部署。

这是业内首个公开发布的、能被大模型用户部署于终端侧的隐私保护脱敏技术。借助这一技术,用户可以从“源头”免除使用云端大模型带来的数据泄露方面的担忧。

据悉,这个模型主要适用于典型的NLP任务场景,例如机器翻译、文本摘要,文本润色、阅读理解、文本分类、情感分析等,其主要的技术难点在于如何解决实体识别与替换、实体指代消解、多义词识别、自纠错鲁棒性还原、实体翻译等。此前,不少大模型提供方以及专业安全厂商均在积极进行相关的尝试,但目前尚未有理想的解决方案。

“在大模型应用中提示词是一种自由文本,而针对自由文本的隐私保护问题,一种全密态的解决方案是通过安全多方计算(Multi-Party Computation, MPC)协议实现安全推理。然而,MPC协议在计算成本和通信量上的高需求严重限制了其在大模型应用中的落地。”腾讯安全玄武实验室高级安全工程师陈昱表示,“实际上,多数场景下用户并不需要保护整句的信息不泄漏,而仅需要保护其中的隐私实体不泄漏。”玄武实验室经过正则匹配、近义词向量、BERT NER+CR等方法的不断探索试错后,最终提出了这项技术。

实验表明,HaS的数据脱敏处理并不会对任务造成影响。在使用模型进行隐私保护与直接调用大模型相比“分类任务”与“翻译任务”两个场景的性能对比,在使用560M生成式方案下,文本分类任务的性能不仅没有下降,反而增加了0.14%;在1.7B标签式方案下,机器翻译任务性能仅下降了0.85%。

腾讯安全玄武实验室将上述研究发现以论文形式发布,更多技术细节可参考玄武官方博客(见文章最后)。

“一些企业或者个人用户开发者通过部署本地大模型来规避隐私数据泄露,但这要求一定的技术门槛,对于重度隐私需求的用户来说,通过本地安全模型/算法来实现数据保护,可能是更可行的办法。”玄武实验室正在逐步丰富这一模型的应用覆盖面,并完善其部署和交付方式,以供企业用户和个人用户在未来能够便捷使用。

数据如今在社会生活生产中扮演越来越重要的角色,数据安全也始终是产业数字化进程的核心议题。腾讯安全持续致力于解决数据安全问题,护航各行各业产业升级。

详细技术报告地址:

脱敏

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/66879883e106759acc2a.html
全局中部横幅
全局中部横幅
生活服务网站 - 生活服务网站br2排名 - 网站排行榜

br2生活服务网站排名,根据网站的综合值按照不同的br2生活服务网站进行筛选排名结果,通过筛选br2生活服务网站可以看到每个br2生活服务网站里面的网站排名优质的网站是哪些

问卷系统

腾讯问卷提供了从问卷设计、数据收集到统计分析的一站式专业调查研究能力,平台还有超百万的在线回答小组成员,可以提供高效、精准的问卷有偿投放服务,已经被广泛应用在调查研究、表单、投票、考试等工作和学习场景,满足政府、企业、学校、团队组织等各类用户数据收集和统计分析的使用需要。腾讯问卷对通用的基础功能是永久免费的,也可以根据自身使用需求选择有更多个性化高级功能和服务的付费高级版、尊享版、旗舰版。

知犀思维导图 - 知犀官网

提供高效思维导图、流程图软件,有网页版/电脑版/App(手机/平板),易上手/颜值小清新,多端云同步,支持在线协作和PC离线编辑,可创建逻辑图、思维导图、组织结构图、鱼骨图、桥形图、气泡图、括号图等15种结构图,且内置有12000+脑图模板。用知犀,您可以更专注于灵感捕捉和流程梳理

北京宽带通 - 宽带、光纤、资费、套餐、促销

北京宽带通官网是北京宽带通电信技术有限公司官方网上营业厅,提供100M/50M等多种家庭、个人宽带安装、宽带续费、宽带缴费等宽带上网服务,以及3C家电等宽带周边产品!

广东净化工程公司_无尘车间装修_工业厂房设计_昊锐净化机电

广东昊锐净化机电工程有限公司(简称“昊锐净化机电”)是净化机电工程设计、施工、技术总承包,成立于2006年,为先进制造业提供无尘车间装修、工业厂房设计、洁净室施工、实验室装修等,拥有洁净行业专业承包二级资质、机电专业承包二级资质及装修专业承包二级资质。

青岛源泰林电力工程有限公司官网 - 青岛源泰林电力工程有限公司

青岛源泰林电力工程有限公司是专业生产各种类型配电设备的企业,也是电力领域内颇有影响力的施工生产企业。产品线涵盖高低压开关柜、电容柜、动力柜、配电箱、封闭母线等。咨询热线:0532-85036177

内蒙古添邦智富商贸有限责任公司

内蒙古添邦智富商贸有限责任公司是从事电子产品销售;计算机软硬件及辅助设备零售;办公设备耗材销售;日用百货销售;家具销售;照明器材销售;五金产品零售;门窗销售;建筑装饰材料销售;电线、电缆经营;网络技术服务;企业。经过数年的经营与积累,公司集聚了一批高素质的技术人才。公司在“诚信、自强、创新、共赢”的集团核心价值观引导下,致力于为每一位客户提供高质量、高性价比的系统解决方案、工程设计实施和专业售后服务。

扬州市大明包装制品有限公司-拥有先进的制盖专业技术和设备,是国内大型专业瓶盖生产企业

扬州市大明包装制品有限公司公司拥有先进的制盖生产线,完善的销售网络及先进的电子商务网络,具备从设计,制版,制盖到技术服务等一整套高效,完善的生产,服务运作体系,深受广大消费者及客商青睐。

济南第一机床有限公司

济南第一机床有限公司,前身是成立于1944年的济南第一机床厂。总投资12亿元的“中高档数控机床产业园”地处济南章丘明水国家经济开发区,占地430亩,新厂区2015年1月实现全线投产。公司主导产品为轮毂机床、刹车盘机床、中高档数控车床/车削中心、立/卧式加工中心、自动化产品、数控镗铣床、复合数控机床、高速数控立式车削中心、高速数控锯床、普通车床等,共二十多个系列、一百五十多个品种规格。

全局底部横幅