何为 负责任且可评估的AI 商汤发布AI治理白皮书诠释 落地为王 (负责任是什么)

文章编号:45748 最新资讯 2024-12-09 商汤 数据安全 AI治理

一年一度的AI产业盛会——世界人工智能大会刚刚落下帷幕。据不完全统计,三天会期间,有10余场围绕AI伦理、可持续发展相关的主题论坛。其中,近半数,都涉及可信AI,如何落实为AI立信、为技术立规,成为既原则与政策之后,新的伦理热点话题。

本届WAIC上,商汤正式发布《“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告(2022年)》深入探讨并分享了商汤在推动AI治理落地进程中的洞察、思考、目标与实践。

今年以来,新加坡、欧盟、美国、中国等国家的监管机构和第三方机构纷纷发布AI治理测试工具箱、技术监管沙箱,推进AI治理的落地实施。报告指出,当前,人工智能治理已经进入了以技术验证为主的落地实践阶段。

商汤高度重视人工智能治理,去年就提出了“平衡发展”的人工智能伦理观,同时明确了“以人为本、技术可控、可持续发展”的伦理原则。随着人工智能治理进入落地实践阶段,商汤此次进一步提出了发展“负责任且可评估”的人工智能,并将其作为商汤开展人工智能治理的愿景目标,打造伦理治理闭环。

人工智能治理进入3.0阶段,核心是负责任且需可评估

从发展历程看,人工智能治理至今已经经历了以原则讨论为主的1.0阶段,以政策讨论为主的2.0阶段。进入2022年,随着全球人工智能治理进程的持续推进,以及可信、负责任人工智能等相关理念的持续渗透,有关验证人工智能治理如何落地实施的倡议日益增多。人工智能治理开始进入以技术验证为主的3.0阶段,即落地实践阶段。

而目前,人工智能治理的落地实践仍面临许多挑战,各行各业需要重点处理“理念与行动”、“政策与实践”、“技术与用户”三组关系,即将人工智能伦理的共同原则付诸实施;将政策要求转化为技术和业务团队可执行的实践标准;深化用户对AI治理的理解、提升用户参与AI治理的能力,最终才能深入推进人工智能治理。

为有效地推进人工智能治理,商汤科技基于对全球人工智能治理诉求的分析,结合自身对技术和市场的理解,在白皮书中提出,“人工智能治理应当是一个价值牵引、技术先行、多方参与、分层推进的动态进程”,为人工智能治理的落地实践建立了有效路径。

报告认为,从治理效果看,人工智能治理的实现由低至高,可分为可用、可靠、可控、可信四个层次。其中,“可用”是指人工智能系统在功能、性能层面应当能够满足应用场景需求;“可靠”是指人工智能系统在安全性、鲁棒性层面应当能够满足部署环境和可持续运营要求;“可控”是指人工智能系统在功能层面应当能够充分保护人类的自主意志和权利、保障人类对系统的控制权;“可信”是指人工智能系统的设计和应用应当符合人类的价值理念和伦理道德。

何为「落地为王」?商汤发布AI治理白皮书诠释「负责任且可评估的AI」

人工智能治理的“分层目标”

报告指出,人工智能治理体系建构的目标,就是发展负责任的人工智能;但相关工作不应停留在“口头上”、“纸面上”,还应做到有迹可循、有据可查。因此,基于“平衡发展”的伦理观,“以人为本、技术可控、可持续发展”的伦理原则,商汤此次提出发展“负责任且可评估”的人工智能,并将其作为开展人工智能治理的愿景目标。

何为「落地为王」?商汤发布AI治理白皮书诠释「负责任且可评估的AI」

“负责任且可评估的人工智能”的核心要求

构建覆盖全生命周期的治理体系,打造AI治理闭环

作为业界最先组建人工智能伦理与治理委员会,并将伦理治理工作当作公司战略级方向的科技创新企业之一,商汤自2020年1月统筹推进人工智能伦理治理工作体系建设以来,已在内部开展大量治理创新实践,并形成了一整套可评估的人工智能治理落地方案,将伦理原则嵌入到产品设计、开发、部署的全生命周期,初步形成了人工智能治理闭环。

在数据风险方面,商汤将个人信息保护融入产品研发全生命周期,设立“数据安全与个人信息保护委员会”,实施个人信息保护评估审查,确保产品遵循默认符合个人信息保护的设计要求。

在算法风险方面,商汤作为领先的人工智能企业,主动承担算法开发者的主体责任,针对商业化算法场景,开展基于真实场景下的算法验证与评测,实现 AI 技术的真正可信与可控。

在应用风险方面,商汤持续完善人工智能伦理治理体系,建立覆盖设计、开发、部署全生命周期的产品伦理风险审查流程;紧随全球人工智能行业发展变化,建立“全球AI伦理风险库”;定期组织员工进行人工智能伦理培训,持续完善内部伦理传播体系,不断提升员工伦理素养。

何为「落地为王」?商汤发布AI治理白皮书诠释「负责任且可评估的AI」

商汤AI治理闭环,推进构建负责任且可评估的AI

为保障人工智能治理体系的有效落实、推动形成伦理治理“人人有责”的企业文化,商汤还建立了伦理风险目标管理机制、伦理风险事件处置机制和伦理治理质量控制机制。此外,为推动发展“负责任且可评估”的人工智能,商汤还在内部开发了一系列覆盖数据治理、算法测评、模型体检、伦理审查的流程工具和技术平台。

随着人工智能逐渐深入产业应用,AI的发展与治理之间的关系越来越像汽车的“发动机”和“方向盘”一样,相辅相成、缺一不可。

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/38367403c608cdc43bd5.html
全局中部横幅
全局中部横幅
企业管理资源网 - 管理资源下载第一站 - 经理人办公平台

企业管理资源网致力于为经营管理人员提供文档和数据情报下载服务,范围涵盖行业、专业、技术和管理等各分支领域;海量经分类整理的报告、制度、教材、标准、方案、论文、电子书、黄页名录等资料汇聚于此,是在线学习交流的优秀平台!

联系我们-果博东方福布斯电话181-08888862(果博东方开户 客服 上下分)

天津兆基能源进出口有限公司经国家商务部批准于2008年3月在天津经济技术开发区注册成立,是一家集生产、储运、加工、外销为一体的综合性公司。\\r\\n公司位于对外开放的国家级沿海开发区-天津泰达,这里基础设施健全,享有优惠的政策支持,濒临天津新港港口、天津国际机场,交通便利,运输快捷。\\r\\n公司产品主要涉及煤沥青、煤焦油、增炭剂、无烟煤、煤炭、焦碳(含冶金焦及铸造焦)、煅烧石油焦、石墨电极、石墨碎、电极废块、滤料、铁合金、氧化镁球等十几种品种。大多数产品主要出口到东亚、东南亚、中东、北美、澳洲等几十个国家和地区。产品质量稳定,服务水平一流,得到国内外客户的一致好评。公司年出口总额逾3000万美元,并以每年10%的速度增长,特别是在沥青、增炭剂和石油焦方面,我们有多年从事这方面生产和贸易的专家,有多年的生产、运输、仓储和港口物流的经验并且在天津港拥有独立的沥青储运t仓库。经过这些年公司全体员工的共同努力,目前公司已经成为中国北方乃至全国最大的出口和代理商之一。得到了国内外客户的好评和赞誉。

紫云网-企业画册印刷-易拉宝海报设计制作-印刷产业互联网平台

易拉宝,展板,海报设计,海报制作,海报制作,画册印刷,企业画册,名片设计,彩页制作,标书印刷,宣传单模板

万年历|万年历查询|日历|日历查询|老黄历|老黄历查询-万年历网

万年历网为您提供最好最全的2024年万年历查询,日历查询,老黄历查询,万年日历,黄历,老皇历,农历,黄道吉日,黄历吉日,以及生肖属相运程分析,星座运程,免费占卜,黄历择吉日,时辰吉凶宜忌等。查万年历,日历,老黄历就上万年历网。

上海篷房定制_篷房生产厂家篷房销售-上海篷房租赁遮阳雨棚帐篷出租

上海篷房生产厂家电话19921469828是上海篷房采购供应商,提供成熟的上海篷房厂家搭建,以及上海篷房建设方案帐篷咨询服务。在这里你可以了解到上海篷房租售服务和上海篷房销售,设计,定制,生产,厂家,制造,租赁,出租,搭建安装!

智能张拉设备_智能压浆设备_预应力千斤顶_四川执一路桥设备有限公司

执一路桥专注于预应力桥梁设备,从事研发、生产、经营!为广大用户提供优质先进的智能张拉设备,智能压浆设备,预应力千斤顶,穿心千斤顶,预应力锚具,穿线机,高频振动器,钢筋弯曲机,钢筋切割机,波纹管制管机,扁管机,挤压机,真空泵,智能喷淋系统及配套设备。

江西摇床|石城摇床|6-S选矿摇床|玻璃钢螺旋溜槽|锯齿波跳汰机|实验室选矿设备|重力选矿设备专家-江西省恒诚选矿设备有限公司

买选矿摇床就到江西省恒诚选矿设备有限公司。6S摇床、实验小摇床、玻璃钢摇床、摇床配件、木质摇床、不锈钢摇床、抬浮摇床、江西摇床、摇床易损件供应、玻璃钢螺旋溜槽,平面溜槽、刻槽溜槽、选矿溜槽、江西溜槽、选矿溜槽,咨询螺旋溜槽价格联系恒诚选矿设备;锯齿波跳汰机、隔膜跳汰机、旁动式跳汰机、典雅型跳汰机、变频跳汰机;需要摇床、螺旋溜槽、跳汰机、实验室选矿设备技术可联系电话:15879720520

个人网站建设经验分享

互联网发现非常迅速,现在已经非常普及,很多朋友都建立个人网站的想法。现在说说我自己的建站经验,希望能给大家一点帮助。

河南真得力电磁科技有限公司-电缆卷筒-电缆连接器-起重电磁吸盘

河南真得力电磁科技有限公司是一家专业从事电缆卷筒,电缆连接器,起重电磁吸盘,电动葫芦,生产和销售的厂家,我司将优良的技术与操作人员融为一体,实现了生产效率扩大化和操作人员风险缩小化.

安全健康教育网

安全健康教育网是积极响应党中央提出的“把人民健康放在优先发展战略地位”思想,立足于安全、健康、环保等三大领域,持之以恒为全民提供消防安全、急救技能、环保、健康养生等全方位知识的平台,一个真正意义的科普性、公益性网站。

显微镜价格|工具显微镜|上光西安显微镜销售部

提供西安显微镜价格,金相显微镜,工具显微镜,体视显微镜,生物显微镜,倒置显微镜,测量显微镜,资深老牌显微镜厂商!上海光学仪器厂为您提供合理显微镜价格和报价,多年优质售后服务经验,和国内各大科研机构以及高校都有合作,迎来来电!

全局底部横幅