不 了！ 机器人总是对你百依百顺 以后它要说 (机器人bug)
不管别人让你做什么，你都会去做吗？所有人都会说：当然不！那未来的机器人应该总是听我们的吗？乍一看，你可能会觉得应该——就因为它们是机器，听从我们的指令就是它们存在的意义。但再仔细想想，你在选择执行任务时，也并非不经大脑。所以，机器人也和你一样。
试想一下：
像这样，对机器人进行不恰当指令，但并未造成实质性损害的例子还有许多。但并不是所有案例都是良性的，即使机器人的主人在下达命令是出于好意。
想象一下，一个机器人汽车根据指令在车道上倒车，但它后面却有一只小狗在香喷喷地睡觉，或者主人让厨房助手机器人拿起刀子往前走，然而它却站在一个人类厨师身后......命令很简单，后果却惨不忍睹。
那么，怎么样才能使机器人既听人类的命令，又不会造成不利后果？如果不让机器人在狗狗周围行驶的话，它可能会一点也不动了；如果要它避免拿刀刺到厨师，它可能会站住不动，或一开始就不去拿刀了。
使自主运行的机器在行动时探测到潜在威胁，并试图去避免威胁，或拒绝执行指令，任何情况下都很必要。 因此，我们到底该如何教机器人在恰当的情形下说“不”呢？
如何使机器人预知下一步
位于波士顿的塔夫茨大学正在研发一种控制技术：机器人可基于人类指令作出简单的推断。这将决定机器人是会按指令行事，还是会因为指令违反了预先设定的道德准则，而拒绝行动。
要让机器人知道什么时候、为什么、如何去拒绝执行指令，执行起来比口头说说要难得多。 搞清楚一个行动会造成什么危害或问题，光看问题的直接结果是不够的 ——一个从窗口扔出去的球，可能会掉进院子里，这不会造成任何伤害；但若掉到了繁忙的街道，这球可能就再也找不到了，甚至可能会导致司机为了躲避而突然一个急转弯，接着导致车祸。 情景不同，结果不同。
以现有的机器人技术，在和孩子玩丢球游戏与把球扔出窗外或扔进废品桶之间，决定何时可以扔球，何时不可以还很困难。要是小孩子和机器人恶作剧，假装接球却躲过去，让球飞出开着的窗户的话，它就更不知道该怎么办了。
向机器人解释道德和法律
理解为何某些行为具有危险性，涉及到大量背景知识（包括在窗前玩球，球可能会飞出窗户）。这需要机器人 不仅能自主考虑到行为后果，还能思考出人类发出指令的真正意图。
不管人类指令是出于好意还是恶意，机器人要能通过预知行为结果，弄清楚人类复杂指令的原因是什么，并能把行为结果与社会规定的、希望或合法的社会准则、道德准则相比较。如上所示，现有机器人遵循的一般规则是：“如果机器人的行为会造成有害后果，那么他们可拒绝行动。”明确义务和权限之间的关系，能让机器人通过可能结果，推理是否要执行指令。
总的来说，机器人不该执行违法或不被希望的行为。因此，他们需要了解法律、道德准则，甚至是礼节，以决定行为结果，或行为本身是否违反这些准则。
目前，想让机器人处理上述情境，还有很长的道路要走。但有一点早已证实： 要让机器人去服从命令，它们得首先先学会拒绝。
via the conversation
延伸阅读：
个性化推荐？图片搜索？导购机器人？看人工智能将如何颠覆传统购物体验
索尼：我们不只生产手机，也有机器人+AI梦
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/d48d8e753e3e779aad1f.html
新简剪辑支持屏幕录制、网页录制、人像录制、声音录制等多种模式，录制完成后自动转码压缩，可一键转发至他人参与视频评论。录屏插件支持多种浏览器，极速下载一键安装。新简剪辑支持屏幕录制、网页录制、人像录制、声音录制等多种模式，录制完成后自动转码压缩，可一键转发至他人参与视频评论。录屏插件支持多种浏览器，极速下载一键安装。
一呼百应(youboy.com)优选710多万家制造业，覆盖原材料、工业品、劳保用品、包装印刷、化工橡塑、电子仪表、五金建材、电动工具、机械配件、原材料等2000多品类供应链产品。提供从原料--生产--加工--现货等供应链环节的供应产品和服务。
深圳正穗财税网（电话:400-600-5982）从事深圳地区中深圳代理记账,公司注册,提供地址注册,商标专利注册申请等15年行业服务经验,我们认为认真实干,追求完美才能赢得企业家的信任与支持.正穗为您服务,专业至诚,无微不至,值得信赖,请相信您的选择!
如果你每月要刷信用卡,肯定希望找一台稳定、秒到、资金安全的POS机！本站为大家提供多种品牌正规的POS机，费率稳定、到账安全让你可以放心使用，亿鑫合伙人正规聚合平台为你解忧！
闪玩是一款绿色安全的游戏免安装运行器，致力于提供免安装，免广告的手机游戏分享，掌握游戏市场风向标，抢先体验更多好玩魔性的精品游戏！
今日上海,今日上海网官网,jinrishanghai,上海新闻,上海在线,上海东方都市网,上海媒体,上海今日最新新闻
外语教育网是正保旗下专业的外语学习网站，常年从事学位英语、英语四级、英语六级、公共英语等各类网上培训，教学实力雄厚，培训效果卓越。
宝通科技
广州超科自动化科技有限公司专注于中央空调节能控制,高效机房,恒温恒湿控制,空调集中控制,空调机房群控系统及软件研发,生产等业务,我司技术实力雄厚,拥有技术先进的人才,致力于为广大客户提供高质量高性能的产品及服务.业务咨询热线18302007161.
张家港市卓氏鑫辉机电设备制造有限公司主营：弯管机,切管机,液压弯管机,全自动弯管机。地处中国经济发达的长三角新兴港口城市--张家港，位于204国道、338省道之交汇处，紧靠沿江高速出口，水陆交通极为便利。
风险评级，助力企业降低应收账款风险！
商标交易网是一站式商标服务平台，提供商标转让，商标注册，商标买卖，商标交易等服务，免费商标查询，大量优质特价商标资源，免费查询商标信息，找商标就上标厝商标交易平台！
很多小孩子在学习数学时总觉得枯燥无比，看到数字以及各种数学符号都不知道如何搭配，那么想要让孩子对学习数学感兴趣的话，不妨选择一款好玩的游戏，跟数学有关的游戏在哪里下载，小编今天针对于此问题作出了详细的归纳，以下这几款游戏适合所有的人群，小学生写完作业之后可以通过玩游戏的方式，学习数学，成年人也可利用以下几款游戏放松心情，数字狂飙这款休...。
7月9日消息，据韩媒SBSBiz报道，三星原本计划在2024年2月推出一款新的扩展现实，XR，头戴设备，但由于苹果公司推出了VisionPro，三星决定重新审视其XR头戴设备的规格和设计，将新品推出时间推迟3，6个月，SBSBiz称，三星最初计划在明年年初开始其XR头戴设备的量产，但在了解到苹果VisionPro的规格后，三星认为需要...。
苹果14pro按键音怎么开?很多用户们在使用手机进行打字时，更喜欢开启键盘上的按键音，那么苹果14pro手机的按键音怎么开呢，下面小编就为大家来介绍一下相关内容，一起来看看吧，苹果14pro按键音怎么开?1、进入手机设置，点击，声音与触感，2、点击，键盘反馈，选项，3、关闭，声音，后面的开关即可，本文以苹果14pro为例适用于iOS...。
对于现如今的人来说，当大家对于生活品质的需求越来越大时，就会逐渐把吃小零食变成日常生活的习惯，所以在现如今的零售大环境下，零食品牌越开越多，伊味儿休闲食品是一个已经形成了完整产业链的零食项目，在市场中也拥有了不错的知名度，因而吸引了众多食客和创业人士的关注，那么伊味儿休闲食品加盟费多少呢，且听小编介绍，伊味儿休闲食品加盟费多少，伊味儿...。
据彭博社援引匿名人士的消息，英伟达，NVIDIA，近几周就有意就收购Arm的相关事宜与软银进行洽谈，其他潜在的竞购者也可能出现，Arm处理器被全球绝大部分的智能终端所采用，目前也在向PC以及服务器市场拓展，英伟达是全球领先的GPU提供商，在图形和高性能计算领域拥有优势，Arm是一家英国芯片设计公司，2016年被日本软银以320亿美元的...。
FHD无线套件如何使用，1、套件由发射器与接收器组成，2、固定接收器到投影机，W1070，、W1080ST，、W1350、HT1075或10**，请用L型支架将接收器安装到投影机的右侧，用原装的固定器将安装支架一侧固定到接收器底部的三脚架孔，然后将安装支架的另一侧固定到投影机底部，3、将发射端和投影机连接并供电，如投影机没有1.5A...。
发表在当贝投影仪2022，10，2619，21当贝U1和坚果O1S是价格相同的投影设备，具体两款投影仪有什么区别呢，下面就通过详细的参数配置进行对比分析，看看当贝U1和坚果O1S究竟哪款配置更好一些，值得用户入手，当贝U1和坚果O1S有什么区别1.光学参数对比在光源方面，当贝U1采用ALPD激光光源，坚果O1S采用的是LED光源，相较...。
11月10日，有网友反映江西省宜春市丰市区第三人民医院一位医生酒后值班，并拒绝接诊，11月11日，丰市区第三人民医院发布状况通报，确认状况失实，并对当事医生轻薄解决，免去其病理室主任职务，详细通报如下，2024年11月10日早晨9时许，家眷带一名患儿到第三人民医院就诊，当晚值班医生曹广金酒后接诊，与患者家眷沟通产生语言不当行为，医院得...。
其真实恋情生存中，除了缘分之外，双方能否能够磨合的好，也是特意关键的，射手男往常大大咧咧的，很青睐追赶新颖感，而巨蟹女相对来说会敏感一些，他们既平和又残酷，还把家庭看得很关键，那他们假设组合到一同，配对状况会如何呢，1.射手男迷上巨蟹女体现的射手男幽默乏味，性情是很沉闷的，一直都充溢热情，桃花运也巨好，会给人一种较为花心的觉得，她们一...。
值得，现代伊兰特EV在电力驱动的车中是很有长处的，有须要的可以购置，从外观过去看，伊兰特EV有别于燃油车，它驳回的敞开式的中网设计，同时决定蓝色外边来装点，表现出它新动力的个性，五幅式的轮毂也雷同让人眼前一辆，全体外观来说还是十分时兴、陈腐的，内饰方面，基本上决定彩色定为主颜色，全体看起来十分大气，不过中控台方面还是驳回传统的T字形规...。
用ThinkPHP5.0实现简单的管理员登录注册功能
NetSetMan(网络IP切换工具),NetSetMan是一个小巧好用的工具，你可以设置五组不同的网络参数值，让使用者可以针对不同的网络环境，而调用不同的参数，只要使用NetSetMan，就可以让我们省去了许多时间，以及繁杂的网络设置步骤,您可以免费下载。
TikTok这次面临巨大挑战，很可能会彻底成为美资收购企业，抖音公司下的TikTok真的很厉害，去年tiktok世界各国使用人数排名，美国列第一，打败了Facebook，打败了推特，X，，还有众多的美国社交软件，牢牢占据短视频领域的霸主地位，正因为越来越多的美国人使用，让传统的美国平台感到了恐惧和威胁，美国国会一看，美国公司没一个能打...。
今日融资快报月之暗面完成3亿美元新一轮融资，投后估值33亿美元，月之暗面回应，不予置评据彭博社报道，月之暗面刚刚完成了新一轮3亿多美元融资，此次融资将月之暗面的估值推高至33亿美元，并吸引了包括腾讯、高榕资本和老股东阿里巴巴在内的其他投资者，对此，有接近公司的知情人士表示，此次腾讯参投消息属实，而月之暗面则回应称，对该融资消息不予置评...。
独家获悉，今日上午，谢欣发布内部全员信，表示飞书将精简团队规模，谢欣在内部信中提到，经过反复多次的讨论和非常慎重的抉择，我们决定做一些调整，会适当精简团队规模，实际上，几天前，一位飞书人士曾告诉，谢欣今年的年度OKR中提及一项重点内容为财务健康，另有知情人士称，飞书今年期望收入能覆盖商业化团队的员工，公司将只负责承担产研团...。
做儿女的永远只知道让父母理解自己，想法有点太自私了，在说出这样话的同时，你就应该先换个角度想想，你何时理解做父母的苦心，当然提到沟通，这证明你还是想要这么做的，父母可能忙着工作、家务和一些琐碎的事可能没有太多时间去想着如何和子女沟通，但是做子女的应该多帮忙，这样让父母看到你长大了，在一些家务和锁事料理完的时候，就可以坐下来或是外出上街...。
药妆，顾名思义，就是药性化妆品，国际上对药妆品并没有明确的定义，所以很多消费者对于药妆品的概念都是经过媒体广告宣传所得.药妆品一般认为是含药化妆品，其实不然，首先，药性化妆品不是药品，它只是一种护肤品，主要作用是润泽皮肤、保护皮肤，对于某些皮肤病也能起到一些辅助医治的作用，如当归美容霜等，当归中的蛋白质、氨基酸等各种营养成分有使人体皮...。
