保护数据安全 腾讯安全推出大模型隐私保护脱敏技术 源头 从 (保护数据安全的措施有哪些)

保护数据安全

大模型已经被广泛应用在各类场景,帮助人们进行报告摘要、文本翻译、数据分析、业务风控等各项工作,极大地提升了工作效率,但同时公众对于大模型带来的数据泄露的隐忧也从未停止。

近日,腾讯安全玄武实验室披露了一项关于大模型隐私保护的安全脱敏与还原(Hide and Seek, HaS)技术,有望帮助大模型产品使用者从本地终端侧防范隐私数据泄露。

HaS为业内首个支持信息还原的自由文本脱敏技术,通过对用户上传给大模型的prompt(提示词)进行隐私信息脱敏,并在大模型返回计算结果后进行恢复,该方案兼顾了隐私安全和计算资源消耗:脱敏与还原算法经过4bit量化后权重文件仅500MB,可在手机、 PC等终端上部署。

这是业内首个公开发布的、能被大模型用户部署于终端侧的隐私保护脱敏技术。借助这一技术,用户可以从“源头”免除使用云端大模型带来的数据泄露方面的担忧。

据悉,这个模型主要适用于典型的NLP任务场景,例如机器翻译、文本摘要,文本润色、阅读理解、文本分类、情感分析等,其主要的技术难点在于如何解决实体识别与替换、实体指代消解、多义词识别、自纠错鲁棒性还原、实体翻译等。此前,不少大模型提供方以及专业安全厂商均在积极进行相关的尝试,但目前尚未有理想的解决方案。

“在大模型应用中提示词是一种自由文本,而针对自由文本的隐私保护问题,一种全密态的解决方案是通过安全多方计算(Multi-Party Computation, MPC)协议实现安全推理。然而,MPC协议在计算成本和通信量上的高需求严重限制了其在大模型应用中的落地。”腾讯安全玄武实验室高级安全工程师陈昱表示,“实际上,多数场景下用户并不需要保护整句的信息不泄漏,而仅需要保护其中的隐私实体不泄漏。”玄武实验室经过正则匹配、近义词向量、BERT NER+CR等方法的不断探索试错后,最终提出了这项技术。

实验表明,HaS的数据脱敏处理并不会对任务造成影响。在使用模型进行隐私保护与直接调用大模型相比“分类任务”与“翻译任务”两个场景的性能对比,在使用560M生成式方案下,文本分类任务的性能不仅没有下降,反而增加了0.14%;在1.7B标签式方案下,机器翻译任务性能仅下降了0.85%。

腾讯安全玄武实验室将上述研究发现以论文形式发布,更多技术细节可参考玄武官方博客(见文章最后)。

“一些企业或者个人用户开发者通过部署本地大模型来规避隐私数据泄露,但这要求一定的技术门槛,对于重度隐私需求的用户来说,通过本地安全模型/算法来实现数据保护,可能是更可行的办法。”玄武实验室正在逐步丰富这一模型的应用覆盖面,并完善其部署和交付方式,以供企业用户和个人用户在未来能够便捷使用。

数据如今在社会生活生产中扮演越来越重要的角色,数据安全也始终是产业数字化进程的核心议题。腾讯安全持续致力于解决数据安全问题,护航各行各业产业升级。

详细技术报告地址:

脱敏

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
蓝天制衣

浙江蓝天制衣有限公司产品涉及校服、职业工装、特种防护服、西服、衬衫、T恤、迷彩服、冲锋衣、羽绒服、休闲装等。

家教网

易教网是专业北京家教网,全国连锁,家教行业领导品牌★十五年家教服务,二十万教员在线挑选★上门一对一家教,省时省力★师资包括在职重点中小学老师及名校大学生★提供小学、初中、高中以及大学课程的一对一上门家教

铆点机,装配机,攻丝机,锁螺丝机,全自动装配机,接线端子弹簧机,自动螺母机,乐清市渝方自动化科技有限公司

渝方自动化专业非标自动化设备制造企业.全自动装配机,全自动组装机,接线端子弹簧机,接线端子手柄机,接线端子装配机,铆点机,装配机,攻丝机,锁螺丝机,自动螺母机,自动攻丝机,自动转孔机,电话18058853180(微信同号)

华夏致富网

华夏致富网为创业加油,为梦想导航!广罗各行业创业资讯、创业故事、如何创业、创业加盟、加盟费、创业政策、防骗知识等信息,让创业者更快捷地了解最新动态,更多精彩创业内容尽在华夏致富网!

天津塔吊租赁

天津市华能程源机械设备科技有限公司正式成立独资企业公司成立于2006年公司,其前身是天津市力捷建筑租赁中心(现是天津市华能程源机械设备科技有限公司),公司位于天津市津南经济开发区环美大酒店对面赤龙街59号-15号楼旁,交通方便,有很好的发展的空间。主要从事塔机、施工电梯、、爬架等大型建设施工设备租赁业务。并可承揽大型设备的安装、拆卸、维修、改造,以及施工吊装、机电安装。

蓄能器价格

上海耕能液压技术有限公司主要经营,德国科德宝FREUDENBERG蓄能器,美国派克PARKE密封产品,美国伊顿EATON螺纹插装阀,液压密封件等液压元件产品,产品型号齐全,种类繁多,价格合理,质量可靠,诚信经营.如需科德宝FREUDENBERG蓄能器,派克PARKE密封产品,伊顿EATON螺纹拆装阀,液压密封件等产品,欢迎来电咨询021-36382890.

串口服务器

有人物联网定位为可信赖的智慧工业物联网伙伴。主营5G/4G工业级无线路由器、串口服务器、数传终端DTU、边缘计算网关、Cat-1模块、LoRa网关/模块、4GDTU、4G模块、蓝牙模块、串口WIFI模块、WIFI无线串口服务器、串口转以太网模块、超级网口以及云平台传输,实现软硬一体化联网解决方案。

物联卡,POS机物联网卡,车联网物联网卡

亿通达物联-物联网行业领先的智能设备物联网解决方案平台,提供物联卡,物联网卡,物联网流量卡,POS机物联网卡,车联网物联网卡,农业物联网卡,共享充电桩物联网卡等专业服务的首选物联网卡平台。

全局底部横幅