Etzioni 华盛顿大学教授 给出了他的 Oren 人工智能三定律 人工智能应该如何监管 (etzioni怎么读)
雷锋网 AI 科技评论按：8月中旬的时候，斯克等 26 国 AI 技术领袖公车上书要求联合国禁止“杀人机器人”的研发与使用这件事唤起了人们对人工智能使用和监管的新一轮担忧。现在 AI 已经开始取代部分人的工作，以后 AI 难道还要用来杀死人类吗？虽然全球各大 AI 研究机构都在尽量开放自己的成果，促进发展的同时避免技术垄断来减少人们的担心，但仅仅“开放”并不能解决一切问题。
近日，AI 研究机构艾伦人工智能研究院（Allen Institute for Artificial Intelligence）院长、华盛顿大学教授Oren Etzioni 也在纽约时报发表了一篇文章，讲述了他对人工智能监管的看法。Oren Etzioni 在 Tom M. mitchell 指导下于1991年拿到CMU的博士学位，而后在来到华盛顿大学，担任计算机工程学院教授；2005年时他牵头成立了华盛顿大学图灵中心并任主任，中心的研究领域包括数据挖掘、NLP、网络搜索。Oren Etzioni 在文中提出了他心中的“人工智能三定律”，雷锋网 AI 科技评论将文章编译如下。
被许多人看作“现实版钢铁侠”的美国顶尖科技公司创始人埃隆马斯克，最近敦促国家有关领导人提早采取措施监管人工智能技术。马斯克坚持认为，人工智能是对人类生存的“潜在威胁”，如同科幻作品中的人工智能，是一个令人担忧的观点。不过，即使是像我这样的研究人员也认识到，人工智能会对武器设计，工作机会和隐私安全产生极大的影响。人们对于是否应该开发人工智能技术很自然地会产生疑问。
我相信答案是肯定的。但是，为了谨慎，难道我们不应该一步一步地至少减缓人工智能A.I.的开发进度吗？问题是如果我们这样做，那么例如中国这样的国家就会超过我们。 A.I.之马已经脱缰，我们最好的打算是试图引导它。 A.I.不应该被武器化，而且任何A.I.必须有一个坚守的“禁地”。除此之外，我们应该规范A.I.系统对实际应用场景方面的影响，（例如，自动驾驶车辆的安全性），而不是在还未定形且快速发展的A.I.领域试图定义和控制某些概念。
我提出了三个有关人工智能系统的规则，这些想法是受到科幻作家艾萨夫·阿西莫夫1942年提出的“机器人学三律”启发的。我在此基础上做了进一步发展。阿西莫夫的三定律是：第一、机器人不得伤害人类，或看到人类受到伤害而袖手旁观；第二、在不违反第一定律的前提下，机器人必须绝对服从人类给与的任何命令；第三、在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。
这三大定律看上去虽优雅简练但却模糊不清：当涉及到A.I.时，究竟什么才是伤害？基于我提出的三条规则，我找到了更为具体的方法来避免A.I.造成伤害。
首先，A.I. 系统必须遵守其操作人员的所有规则 。这套规则将涵盖私人，公司和政府机构。 我们不想要A.I. 从事网络欺凌，股票操纵或恐怖主义威胁; 我们不想要F.B.I. 利用A.I.系统钓鱼执法。 我们不想要自动驾驶车辆闯红灯，或者更糟的是制造违反国际条约的A.I. 武器。
我们的一般法规应该修改，人们不能借口称是A.I.系统做了一些我们无法理解或预期的事情。简单地说，“不管我事，是A.I干的”；这不应该成为违法行为的借口。
A.I.系统必须清楚地表明它不是人类。 正如我们在一则机器人案例中所见 - 计算机程序可以与真人进行日益复杂的对话 - 人类社会需要确保A.I.系统被清楚地标示出来。在2016年，一个被称为吉尔·沃森（Jill Watson）的机器人在佐治亚理工大学（Georgia Tech）担任在线课程的教学助理，愚弄学生，并让大家以为它是人类。根据牛津大学的研究人员称，更为严重的例子是在2016年选举之前的日子里，在社交媒体上广泛使用的支持特朗普的政治机器人。
我的规则将确保人们知道机器人何时冒充某人。例如，我们知道@DeepDrumpf - 一个在Twitter上幽默地模仿唐纳德·特朗普的机器人。A.I.系统不仅发出假的推文;它们也发布假新闻视频。华盛顿大学的研究人员最近发布了前总统巴拉克·奥巴马的假视频，非常令人信服地似乎在说一些被嫁接到他视频中的话，真实情况是与他说的完全不同。
我的第三条规则是。由于其能自动引用，记录和分析信息的特殊能力，A.I.系统处于获取机密信息的主要位置。例如开始被越来越多的家庭接受的“智能音箱”亚马逊Echo，就可能会记录下家庭中所有的谈话内容，包括那些私密的，或您的孩子可能无意泄露给A.I.的信息。即使看似无害的室内清洁机器人也会绘制你家的地图。这些就是你要确保管控的信息。
我相信这些规则听起来还不够完整。我在这里介绍它们，只为抛砖引玉。无论你是否同意Musk先生关于A.I.的进步速度及其对人类的最终影响的观点，很明显的一点是A.I. 已经来临。社会大众需要做好准备。
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： /article/c6526dbe1e258eb0283a.html
全球域名后缀收集了全球1500多种域名后缀详细信息查询，可按国家地区、后缀类型等进行检索
北京市唯一的一所市属综合性、现代化三级甲等中医医院。承担着北京市中医医疗教学科研、预防等任务。医院下设北京市中医研究所、北京市赵炳 南皮肤病研究中心等
2214手机游戏(www.2214sj.com)提供好玩的手机游戏下载服务,涵盖飞行射击,角色扮演,模拟经营,休闲益智类.同时提供各类实用app软件下载,游戏攻略,秘籍,教程等知识.满足用户的各种需求尽在2214手机游戏网.
江苏省海安石油化工厂是从事研究、开发、生产表面活性剂的专业厂家之一。我厂是一个集科、工、贸于一体的现代化企业。一直致力于表面活性剂在纺织、印染、化纤、染料、医药、农药、化肥、食品、造纸、皮革、化妆品、涂料、金属加工、环保、消防等领域的开发应用服务。电话热线：13706278558！
【官网】起翌软件针对不同行业特点厂商及分销商、连锁店、零售商、本地生活服务、社区O2O、批发市场、百货商场、跨境电商等业态提供专业的场景化定制解决方案。主营业务：APP开发、微信定制开发、网站个性化定制、软件开发，为客户打造一站式解决方案。咨询热线：
仓库通一款面向中小微企业的一站式的云进销存系统平台，为中小企业提供一站式仓储物流，进销存管理、仓库管理、资金管理等SaaS应用与服务，无需安装及维护，直接通过APP或电脑端在线使用。咨询热线：0571-81902717。
天津皮肤科医院排名「排行榜」天津津门皮肤病医院是治疗各类皮肤疾病，天津市一家以治疗皮肤病为主的皮肤病专科医院,医师网上坐诊,免费预约挂号!专注中医皮肤病治疗,效果明显,深受市民美誉!
神州照明，老牌20年专业生产。拥有多项专利，年销5000万套，市政路灯指定生产商。常规灯型大量库存。从研发到生产一站式服务，减少采购中间环节，终端售后保障。
千胜体育网每日分享体育锻炼计划，锻炼小常识，比赛赛事，运动员资料，足球世界杯，提供多种体育训练计划和训练方法。
科技圈致力于打造专业的科技行业网站，主要栏目有互联、科技、数码、快讯、家电、手机、智能、业界、观察、游戏、行业、汽车、滚动等。
蓝鲸支付是无需签约、实时到账、无手续费的一款支付平台软件，团队提供专业对接指导，服务优质，深受广大用户喜爱。
口袋资讯新闻是一款高度智能的新闻资讯应用，通过它你可以搜索并订阅任意关键词，它会自动帮你聚合整理并实时更新相关资讯，同时会智能分析你的兴趣爱好，为你推荐感兴趣的内容。看新闻资讯，热点新闻就够了！
竞技类的游戏无论什么时候深受玩家的欢迎，毕竟这款游戏可以与其他玩家进行PK对决，今天小编就给大家推荐几款超级好玩的竞技类的游戏，这些游戏不仅玩法多样，画面和音质也都是游戏中前几名的，如果有喜欢竞技游戏的朋友，可以和小编一起往下看，遇到喜欢的，还可以下载试玩哦！1、，自由之战，自由之战，是小编最喜欢的一款游戏，上线之初就开始玩了，这么...。
春晚不只是一台晚会，除夕，快手要借春节晚会发10亿红包，淘宝旗下的聚划算也发10亿，去年底，快手在2020年春晚互动合作伙伴的招商中胜出，战胜了阿里、拼多多、字节跳动等互联网大佬，据说其在春晚总投入达40亿——虽然快手站出来把消息给否了，但这场游戏，在互联网公司你来我往的过招中，已经玩了5年，到了今天，互联网公司基因越来越强大，上亿的...。
作为一个创客，撬动地球的意义不大，改造世界倒是很有可能，那么创客们改变世界的，支点，是什么呢，在举办过近百场创客马拉松比赛之后，硬创邦见识了创客们在创意、创造方面的极大天赋，在过去的创马比赛中，我们亲眼见证了例如，造云机，、，会弹琴的智能花盆，等创意项目的诞生，这些成品的出现，让我们意识到只要给创客们一块开发板，他们就可以创造出无限的...。
11月8日，字节跳动旗下的AI内容平台即梦AI宣布，即日起，由字节跳动自研的视频生成模型Seaweed面向平台用户正式开放，用户登陆后，在，视频生成，功能下，视频模型选择，视频S2.0，即可体验，9月底，字节跳动正式宣布向AI视频领域进军，发布豆包模型家族的两款视频生成模型Seaweed和Pixeldance，并通过即梦AI、火山引擎...。
魔兽争霸3，冰封王座，的所有秘籍明码包括，iseedeadpeople，显示地图，、greedisgood，参与金子和木头，、pointbreak，取得食物，、thedudeabides，瞬间建造，、whoisjohngalt，钻研技艺瞬间实现，、warpten，消费速度变快，、keysersoze，参与金子，、leafittome...。
私家车辆是没有报废年限的，只需车况准许，能够经过年检，就可以不时经常使用，内行驶到60万公里的时刻，须要疏导报废，疏导报废不等于强迫报废，只需合乎关系规则，就可以经常使用，私家车辆的年检时期在车辆购置六年内，两年检测一次性不上线，第六年到第十年的时期，两年检测一次性，上线检测，第十年到第十五年的时期，每一年上线检测一次性，超出十五年之...。
对于本田6座商务车最新价钱，本田6座商务车这个很多人还不知道，当天来为大家解答以上的疑问，如今让咱们一同来看看吧！1、楼主，本田商务车，奥德赛厂方指点价，22.38，26.98万，各地的多少钱有所不同的.本田6座双排量的商务车要30万左右，本田mpv汽车有哪几款，上方我来为大家启动解说本田新动力mpv汽车有本田奥德赛以及本田艾力绅两款...。
开学防骗第三课，小心绕开平台的私下买卖，网购东西、转让闲置、游戏买卖……@首都网警揭示，正轨平台买卖才有钱款保证，别给生疏人间接转账汇款！小学三年级开学第一课安全教案三篇，#教案#导语，给学生上的安全第一课，坚持安全第一，落实安全措施的原则，着重进行防水、防电、防火、防毒、防骗、防病等知识的宣传及交通法规、卫生知识、安全常规等知识教...。
展示机型，小米11系统版本，MIUI12.5.19APP版本，小米文档检查器v2.1.1找到小米pdf浏览器在哪共有3个步骤，以下是小米11中找到pdf浏览器在哪的详细操作步骤，操作，步骤1、点击文档选一个pdf关上文件治理，点击，文档，，恣意选用一个pdf文档，而后长按，2、点击用其余运行关上点击，更多，，再点击，用其余运行关上，...。
水星mw310uh无线网卡驱动是一款专门针对水星旗下的同名网卡产品推出的官方驱动程序，很多小伙伴会遇到网卡无法被正常识别的问题
哔哩哔哩bilibili是许多朋友喜欢逛的一个动画网站，在B站中，用户可以调倍速进行观看各种视频，这里2265小编为大家带来手机b站调倍速方法，不要错过哟~ 手机/iPad调倍速方法：1、打开任意网页，首先切换到全屏播放模式； 2、点击右上角设置按钮； 3、
一句话点评7月销量最差新能源车：拿什么拯救你？合资!,丰田,本田,电动车,电动化,新能源车
LightImageResizer(图片压缩工具),VSOImageResizer是将数码照片和图像存在电脑中，并希望重新调整大小，压缩，转换，创建备份，导入或组织图片的人们设计的完美工具,您可以免费下载。
一句话点评7月销量最差新能源车：拿什么拯救你？合资!,丰田,本田,电动车,电动化,新能源车
重庆分类目录网站收录品牌相关的优秀网站大全分类检索，为上网用户提供品牌网站排行榜与您分享、收藏！
【联盟先遣军军需官的职责与工作内容】联盟先遣军军需官是联盟先遣军的重要组成部分，负责为军队提供军需物资和军事支持。联盟先遣军军需官的职责和工作内容主要有以下几点：一
哔哩哔哩bilibili是许多朋友喜欢逛的一个动画网站，在B站中，用户可以调倍速进行观看各种视频，这里2265小编为大家带来手机b站调倍速方法，不要错过哟~ 手机/iPad调倍速方法：1、打开任意网页，首先切换到全屏播放模式； 2、点击右上角设置按钮； 3、
