如何用AI对抗AI 黑客已经有数十种攻击大模型的手段 (如何用ai对视频进行分析)
当普通用户惊讶于最新的GPT-4o和Gemini 1.5 Pro多模态AI助手的强大能力时。
嗅觉灵敏的黑客们也已经借助生成式AI开启了新的“狂欢”。
今年初，黑客攻击了一个美国的AI基础设施平台，并将GPU用于挖比特币获益。
“黑客已经慢慢增加或转移攻击目标，除了传统资产， 保护企业的资产演进为保护企业的AI中心。”亚信安全高级副总裁陈奋同时提醒， “个人和家庭安全，也从原来的终端演进为保护包括智能家居和智能网联汽车在内的家庭AI中心。”
网络安全的攻防已经从人和人之间的对抗，升级为AI和AI的对抗， 只有AI驱动的网络安全防护检测技术才能识别AI驱动的黑客攻击技术。
安全大模型应运而生。
近期举办的以“安全AI未来”为主题的C3安全大会·2024上， 亚信安全发布了网络安全行业领域自研大模型——信立方 ，能够用于网络安全行业的精准问答、复杂的告警日志解读、深度的网络安全事件分析等专用场景。
未来网络安全公司和黑客的AI攻防赛将会如何？
黑客用AI攻击，效率高，基础设施成新目标
ChatGPT发布后，全球的黑客们的网络攻击和网络犯罪也随之升级。
过去， 一个黑客生产一个攻击病毒需要数月时间。现在，通过生成式AI的工具，可能几个小时，甚至几分钟就能生成一个攻击病毒 ，效率大幅提升。
陈奋同时发现，“大模型对于编程语言的理解也非常强，攻击者可以利用大模型迅速发现软件的漏洞，漏洞是黑客攻击系统的核武器。”
那些“商业嗅觉”灵敏的黑客，已经用AI攻击获利。
比如，有黑客利用AI算法，快速在视频中做人脸的深度伪造，新型的网络诈骗犯罪随之涌现。
还有，黑客的攻击目标除了传统资产，还盯上了高价值的以GPU为基础的AI算力基础设施和大模型，这是网络安全领域出现的新变化。
“去年短短一年时间，针对大模型的攻击手段已经涌现出数十种不同的类型。”陈奋表示。
针对大模型的攻击，影响巨大。
陈奋和团队在实验室中搭建了Llama2的环境，模拟去年发现的海绵样本攻击，大致原理是通过向大模型发布特殊的样本，让大模型的算力消耗急剧上升，原来短时间能做出响应的需求，现在可能需要大量时间去计算。
让原来几秒就可以返回结果的大模型，受到攻击后60秒以上才能返回结果 ，慢了20倍以上。
“如果未来核心应用都是大模型驱动的AI原生应用，基本上就会瘫痪。” 陈奋同时说，“这只是一个相对比较基础的攻击事例，针对大模型的攻击很快会到来。”
整个网络安全行业增在革新，全球安全公司都在行动。
微软在今年5月份正式商用了Security Copilot，并声称在未来要投入千亿美金。谷歌去年发布了网络安全专有大模型，已经应用到云安全能力中心中。
亚信安全没有抢着第一时间发布安全大模型，近期才发布了信立方。
“没有第一时间发布，是因为 我们在思考大模型能否变成我们产品的原生能力。 我们希望把底层通用框架建设好，MaaS服务平台，模型级服务平台，再叠加上层的智能体框架。”陈奋分享，“我们发布的信立方更多是从原生的角度思考如何与各个产业整合，而不是简单去做运维效率的提升或者运维的解析。”
“随着信立方的发布，这个目标已经基本达成，MaaS服务和多智能体应用已经向亚信安全全线产品进行开放，所有的安全产品能够快速集成大模型的能力，构建网络安全智能体应用。”陈奋进一步表示。
亚信安全的MaaS服务平台提供了丰富的API接口和Agent框架，集成了数十种的场景，包括安全日志告警分析，安全态势的智能分析，安全运营数字人小信同学等。
信立方大模型发布的同时，亚信安全也提出了“信计划”（XPLAN）暨安全为AI（Security for AI）和AI为安全（AI for Security）。
“安全为AI”包含了全新研发的保护算力云基础设施安全、大模型应用安全防护、大模型红蓝对抗测试等服务；“AI为安全”聚焦网络安全行业垂直大模型的研发及运行于其上的智能体和安全应用。
了解到， 信计划分为两大部分：
第一部分是专注给算力基础设施，给大模型提供安全解决方案。
陈奋透露，“针对AI算力基础设施的安全，目前落地了东数西算成都的节点，以及算力云的安全保护。我们还在跟进国家东数西算算力节点安全项目。”
第二部分，是和大模型生态公司合作，为他们提供大模型安全的红队测试、大模型安全防护的产品。
红队测试指的是在大模型上线前，红队专家通过提示安全、应用安全测试、Agent安全、MaaS服务平台安全等八个方向，对大模型进行红队安全检查。
OpenAI每次发布全新版本大模型前，都会找顶尖红队进行测试，帮他发现大模型安全风险。
那AI到底如何保护包括云基础设施在内的AI算力基础设施安全？
针对AI基础设施的攻击原理和传统的攻击类似， 会用到一些算力算法的漏洞。
“防护的难度没有出现指数级增加，只是需要我们在防护规则上能够适配这一场景，能够识别出威胁。” 陈奋对表示，“有些检测算法用传统的模型，有些算法需要安全大模型，所以我们采用混合调度架构更加灵活。”
面向AI基础设施安全，亚信安全也推出了全栈一体化解决方案。
陈奋介绍，AI算力基础设施的底层硬件是GPU服务器，不能用传统虚拟化技术做算力资源池，大部分算力平台是基于K8S云原生化的平台把算力放到云原生资源池里面进行调度，亚信安全今年推出全栈一体化云安全覆盖的范围。
亚信安全的算力云安全保护整体解决方案，在适配算力云特点的基础上，覆盖了从云底层安全、云工作负载安全到云原生应用安全等全栈一体化云安全能力。
AI时代的安全更需要产业链合作
C3安全大会·2024上，美的集团首席信息安全官兼软件工程院院长刘向阳透露，“我们做安全运营时，安全日志每天80亿条，仅告警就有20万条，很难用人力处理。引入安全大模型后，把安全告警需要人工研判的数量从20万条降到了100~200条，这就是人工能够处理的程度了。”
看到安全大模型显著效果的同时，也要意识到只做大模型的安全，解决不了大模型安全的问题。
“之前我们做云安全就有体会，整个供应链，包括数据方面，很多企业都不愿意将数据放到公共算力上。 到大模型时代也一样，仅仅把大模型安全做好没用。”亚信安全高级副总裁兼CDO吴湘宁说， “现在大家都还在探索大模型生态安全的建设，可以明确的是整个生态链打开后，很多技术使用场景都会发生改变。”
亚信安全会从4个层面和生态合作伙伴合作，打造更具竞争力的AI安全解决方案。
大模型算法层面，“我们认为在行业场景，闭源大模型的能力比开源模型更好，我们坚持闭源和开源两条相合作路线。”陈奋说，“亚信安全做了一层专家混合模式调度模式，可以根据用户的需求场景和预算灵活选择用开源还是闭源模型。”
算力生态层面，亚信安全和算力公司合作，租用算力节点。反过来云计算提供商也可以买亚信安全的算力云安全解决方案。
“我们还和清华大学和中科院深度合作，亚信安全&清华大学智能产业研究院联合研发行动升级计划也在C3安全大会上发布。”陈奋指出，企业在应用场景做得更好，比较深度算法的优化，需要发挥科研者的力量。
在国际合作方面，亚信安全也会发挥优势，把国际一流的技术引入国内。
“安全最终保护的是网络和操作系统，大模型本质上就是未来的操作系统。” 吴湘宁说，“亚信会持续在这两个领域方向重点投入。”
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： http://www.gpxz.com/article/0c5646bbad8d2c2fedbc.html
浙江苏润电力设备有限公司是国内高低压电气制造商之一，公司拥有实力雄厚的设计队伍，优秀的管理团队，完善的管理制度。集科研、生产、销售、服务于一体。为用户提供安全、节能、高性价比的电气产品。
北京天阙科技有限公司
当下软件园汇聚当下最新最酷的绿色软件,更新快,种类全,所有软件均经过检测,安全无毒,DOWN下——为中国5亿网民提供贴心,省心,放心的免费软件下载网站。
秒收录网(msl.wang)是一个综合行业网站自动免费收录平台，信息推广、友链发布，为收录各行业优秀正规网站，每天都拥有几万的蜘蛛来访。并提供用户可以免费发布友链。
北京国际电子工业展览会(SKSSEXPO)创办于2005年，成功举办十七届，是电子行业例会；SKSSExpo见证了我国电子工业水平的提高、促进了国内外电子工业交流与融合发展、助推了国内外电子工业市场的繁荣。是我国电子工业行业一年一度集中展示新产品和新技术的重要平台和同世界电子界交流的重要窗口；已经被国内外电子商及相关服务商视为国际盛宴。2024第十八届北京国际电子工业展览会(SKSSEXPO)于6月19日-21日在北京◎中国国际展览中心（朝阳馆）召开。
中国展示论坛是一个专业展览设计交流共享平台，提供专业品质的会展现场相片，设计方案交流，会展设计理念，会展设计经验交流，展设计计教程，展览设计模型下载，以公平、公正、公开的原则竭诚为广大网友提供优质服务，为您方便快捷、直达目的。模型下载,展览模型下载,展览模型超市,展览模型交流,展示模型设计,模型设计论坛,舞美模型设计,展厅模型设计,卖场模型设计，最专业的展览设计论坛，展览精英集结地
河南红星机器专业生产颚式破碎机,移动破碎站,制砂机,反击破,锤破等破碎制砂设备,型号齐全,现货供应,价格优惠
中国旅游网分享全国旅游路线，专注老年人跟团游，旅游路线、旅游交通方式、旅游住处都适合老年人出游，打造完善的老年人旅游团，出门看世界，周边国内大好山河。
洪海光电集团有限公司是一家专业致力于智能景观动态LED显示屏的研发，以智能机器人高端宣传设备为研究方向，我们将机器人的机械运动美学和LED智能显示相结合，创造出系列智能广告和展示设备，实现显示屏的旋转升降、伸缩、变形、无线传输、远程控制、人机互动等现代智能化元素，为智慧城市提供全套的城市景观、户外广告、机械幕墙配套的技术服务方案。
诚博易盛（北京）科技有限公司（以下简称诚博），专注于中国石油石化行业，服务于石油石化企业及石油石化的物资装备制造企业，我们核心团队成员均来自于石油石化行业，讲课评标老师具备10年以上石油石化行业经验。
聚瘦减肥网(www.jujushou.com)分享减肥瘦身、瑜伽运动减肥、瘦脸瘦腿减肥知识，以及各类科学消耗热量卡路里，运动减脂，锻炼肌肉，健康饮食减肥，塑造精致大小腿的减肥心得。
山东盛昌爆破工程有限公司_公司经营范围：岩土爆破，拆除爆破，水下等工程爆破的设计施工、安全评估、安全监理；土石方工程、矿山施工总承包、环境施工总承包等。
真实客车模拟驾驶类型手游以模拟公车、巴士驾驶为主，下面小编带来2022真实客车模拟驾驶游戏下载大全，玩家按照指定路线运输乘客，在不同城市地图中穿梭冒险，完成业绩的考核，1、，超级驾驶，玩家创办公交公司，打造高人流量线路，营造立体感室内装修设计风格，体验物理真实模拟操控，玩家确保公交公司正常运营，创建最大公交公司，手机扫码下载普通下载安...。
丈夫为什么这么歹毒，真正的原因可能也只有他自己才知道，不过这个男子并不是好丈夫，因为她和这名女子的结婚证都是男子伪造的，并且还总是向女子要钱，还和女子的亲属借钱，后来有准备有预谋的害死了这个女子，虽然不知道他们之间到底发生了什么事情，可是女子刚刚为这个男子生下孩子不久就丢了性命，可见有的人心连畜生都不如，事情的经过到底是怎么样的呢，女...。
如果抖音主页访客记录保存30天，抖音主页访客记录只会显示30天内的主页访客，30天后就不会显示了，另外，主页访问者记录是实时更新的，别人看了你的主页后，如果你和对方都开启了主页访客授权，就可以看到访客记录，...。
人们总会不经意间忽略最常见事物的价值，比如园区出入口的闸机，在许多人的印象里，这排铁木桩很多时候是降低通行效率的障碍，尤其是在上下班、上学放学等出入通行需求处于高并发的时段，很容易造成拥堵，但他们很少意识到，这其实是一个关于效率与安全的博弈问题，闸机存在的最大价值，显而易见是为了园区的安全，通过闸机可以把陌生人口限制在区域外，或者通过...。
昨天吃着炸鸡喝着喜茶在电脑前等315晚会，本以为近期事故频发的特斯拉应该会与今年的315晚会撞个满怀，没想到这一次特斯拉躲过了雷神之捶，被人脸识别截了胡，整个晚会，宛如，隐私专场，，人脸识别滥用、简历流入黑市，我一个激灵，炸鸡不香了，特斯拉我买不起，人脸我有的是，据报道，只要安装了具有人脸识别功能的摄像头，消费者只要进了其中一家店，在...。
近两年奶茶行业发展迅速，创业资金少，发展空间大，在短时间内就能资金回笼，大家都知道奶茶店收效空间是很大的，先后涌现多种奶茶品牌，让人们有了更多选择，同时也让一些创业者洞察到了创业商机，那么奶茶店加盟品牌有哪些，公司创建到现在已经有三十年的时间，丰富市场资源整合，品牌起源于台湾地区，主要为市场供应出台湾风味饮品，以新鲜、方便与风味等优势...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
法拉利f430敞篷版的多少钱在400万到445.80万之间，作为一款奢侈跑车，法拉利f430敞篷版不只外观粗劣，内饰奢侈，而且装备了先进的设施，首先，它驳回了世界初次驳回的，E，Diff，电子差速器，使得车辆的行驶稳固性获取了有效的优化，此外，它还装备了F1式的方向盘，下面设置了系列电子管理按钮，可以繁难地调理车辆的灵活个性，只管法拉...。
2013款福特福克斯，出口，手动ST规范版在4万公里爱护时须要启动多项爱护名目，包含刹车油爱护、燃油滤清器爱护、空气滤清器爱护、空调滤清器爱护、机油机滤爱护、荡涤节气门体爱护、四轮定位爱护、改换前刹车片爱护、荡涤空调风道爱护、改换前，后雨刮片爱护以及轮胎调位和动平衡爱护，其中，刹车油爱护须要267元，燃油滤清器爱护须要152元，空气滤...。
关于二手车评价师的薪酬状况，本文将为你提醒一些关键消息，新入行的二手车鉴定评价师，初始薪金大概在1500元左右，但是，随着阅历和专业资历的积攒，初级评价师的月薪可以到达令人注目标1万元，这个薪酬范畴明白地标明，职业开展与团体技艺和证书的领有严密关系，高歌二手车提供了专业的培训课程，是优化技艺的现实平台，作为全国工商联汽车经销商商会的上...。
CSIETABS中文破解版是一款由CSI公司推出的专业房屋建筑结构分析和设计软件，它为用户提供了丰富实用的工具
英伟达quadro显卡驱动是一款针对同名软件打造的驱动程序。由英伟达官方推出的驱动程序，可以帮助用户对显卡进行修复，提升操作体验，兼容性很好
模拟驾驶类型的游戏都是让玩家体验开飞机、开车的手游，一般制作的很精良，那么2022真实模拟驾驶吊车游戏下载哪个好呢?真实模拟驾驶类型的游戏确实吸引了玩家们的注意，小编接下来要介绍的游戏都是真实模拟驾驶游戏里下载量超高的，一起跟随文章来了解这些游戏吧，1、，闪电赛车，闪电赛车，是小编唯一能找到的模拟驾驶吊车的游戏，这款游戏里的吊车是赛...。
很多小伙伴还不清楚2022制作姓氏头像的软件有哪些，现在虽然换头像的方法有很多，但是想要自己制作的话，还是有条件的，很多app确实无法满足大家，那么今天小编就给大家带来一个详细的介绍，用来帮助用户去进行更好的选择，若是小伙伴们对于这一方面比较感兴趣的话，不妨就一起来看下吧，1、，头像制作，玩家能够在这里自由的去进行DIY制作，根据自己...。
雷锋网按，本文作者邹大湿，微信公众号，zou，dashi，当下AI产品的竞争，要怎么胜出，产品为王吗，价格战吗，都不是，在这篇文章中，我们将以全局视角，从微观到宏观，讲述如何规划一款成功的AI产品，一、大败局，他们为什么失败了在提出体系框架之前，我们先来看三个典型的失败案例，真实案例，名称隐去，1、案例一，机器人2014年，消费机器...。
支付宝的，社交心，一直未死，一个月前，支付宝9.9.3更新版本，支付宝上线了，到位，，占据了之前，咻一咻，的位置，与扫一扫、付款、卡券功能并列，打开到位，用户可以根据自己的技能及需求进行，找服务，或是，去帮忙，，然后依地图选择离自己比较近的生活服务者，点击预约后，先以资金授权的方式进行服务，服务完成资金才会到达对方账户中，到位共详细划...。
GoogleGlass带头人，，月球发射队长，AsteoTeller近日对外表示，今后GoogleX实验室将会对外界更加频繁且更快的透露信息，这是GoogleX实验室的一个转变，过去Google实验室在让项目闪亮登场之前，都喜欢把研究项目高度保密，像GoogleGlass，Google热气球网络projectloon，Google机器...。
