|
2025年1月10日华为提出业界首个 L4 级 AI 安全智能体,用大模型加上一些安全知识图谱实现安全的纵深推理,发现一些以前没有发现过的安全攻击。 蚂蚁集团发布了大模型安全一体化解决方案「蚁天鉴」,包含大模型安全检测平台「蚁鉴」、大模型风险防御平台「天鉴」两大产品,拥有检测与防御两大核心安全技术能力。 「蚁鉴」是全球第一...
2025年5月15日一方面,AI时代的攻防实战全面走向常态化,大量专业的安全产品、工具犹如一个个孤立的能力点,这些能力点自身不仅需要持续进化,还迫切需要以点成线、线成面、面成体,从而让整个安全能力体系全面重构;另一方面,传统攻击和新型攻击交织的复杂局面下,安全技术人员所扮演的角色也在悄然变化,技术人员的能力与效率需要迎合AI时代...
2025年4月10日比如针对当下火热的AI智能体,3月13日,美国网络安全公司Symantec通过一项测试指出,AI智能体已突破了传统工具功能限制,可轻松协助黑客发起钓鱼攻击。 此外,OpenAI早在2023年底曝出的“奶奶漏洞”(即用户通过包装话术,可以骗过ChatGPT输出不该输出的内容)、我们上文提到的仿冒DeepSeek域名及网站、不法分子通过深伪技术进行诈...
2024年8月11日“不发展是最大的不安全,约束是为了发展,没有约束的发展是不可持续发展。我们要明确这一思路。”中国互联网协会副理事长黄澄清呼吁,鼓励互联网企业利用AI技术提升安全防御的智能化水平,持续加大在人工智能与数字安全领域的研发投入,促进产学研用深度融合,加速技术成果向产业转化。 据了解,自今年8月1日起,欧盟《人工...
2024年4月18日4月17日,2024 IT市场年会-网络安全论坛在北京隆重召开。本届网络安全论坛由中国计算机学会计算机安全专业委员会和赛迪顾问股份有限公司共同主办,旨在探讨AI与网络安全产业的融合方向、行业落地应用现状以及未来技术的发展趋势等,探索人工智能时代下网络安全发展的新思路。本次论坛汇集专家学者、企业领袖等各方一起探索数智时...
2024年7月6日一是Stuart Russell（加州大学伯克利分校教授）提出的Beneficial AGI（有益的通用人工智能）概念，通过博弈论确保AI在设计之初，就与人类利益一致；二是由MIT（麻省理工学院）学者倡导的可证明安全的AGI，利用计算理论和自动定理证明技术，追求AI系统的绝对安全。这两个方向均指向了AI安全治理的长期愿景——构建一个既高效...
2024年5月23日以大模型为代表的新一轮人工智能（AI）浪潮正以前所未有的态势席卷千行百业。在这个颠覆性技术变革时代，数字安全领域将面临怎样的机遇与挑战？5月18日，“C3安全大会·2024”在南京举行。在这场数字安全行业的高级别闭门会议上，业界多方共同探索AI+时代的数字安全之道，为新时代安全生态建设提供了新的思路。人工...
2024年6月14日AI赋能网络安全成为各界关注的重要事项。 一方面,国家高度重视人工智能赋能网络安全的作用。二十大报告指出,人工智能赋能网络攻防、开源情报等国家安全相关领域,是筑牢国家安全屏障的有力抓手;面向生成式人工智能技术的快速突破,我国迅速出台《互联网信息服务深度合成管理规定》《生成式人...
2024年7月31日2024年7月31日,以“打造安全大模型,引领安全行业革命”为主题的ISC.AI 2024第十二届互联网安全大会在北京国家会议中心召开。吴世忠院士从文献统计和内容分析两个层面分享了对生成式AI的九点观察和四点启示,以下为报告节选。
