暗黑系AI聊天机器人历史一览 不仅仅是Tay (暗黑系话题)

文章编号:39846 资讯动态 2024-12-03 人工智能机器人 Tay

不仅仅是Tay:暗黑系AI聊天机器人历史一览

微软打造Tay的本意,其实是让这只AI聊天机器人说出各种各样古怪有趣的笑话,然而事实是后来的Tay被活活调戏成了种族狂热者。就在Tay开始在Twitter上与人“对话”(或是微软所说的“学习”人类讲话)的短短几个小时之内,这款清纯的机器人变成了一个邪恶的话题终结者。

现在Tay已经下线了,微软表示他们将对Tay做点“调整”。但我们猜测,微软是想阻止Tay在种族灭绝言论的道路上越走越远。同时,很多人想知道为何微软最初没有预料到如今的局面。如果你打造了一个会重复任何话语(包括一些暗黑种族歧视言论)的聊天机器人,你得料到这一天终将到来。

其实,AI聊天机器人最后成为种族主义者并不是第一次发生,之前在互联网历史上也出现过诸如此类的暗黑系机器人。现在让我带大家来看一看吧。

2014年,Anthony Garvan打造了Bot or Not?,旨在推出一款俏皮的Turing测试衍生物。系统对玩家进行随机配对,并要求玩家猜测他们的对话者是人类还是机器人。和Tay一样,这款机器人也会从之前的谈话内容中学习人类讲话。

Garvan上周四在某个社交网站上表示:当Bot or Not?在社交新闻站点Reddit上走红之后,它开始变得有点不对劲了……

”在激动心情平复之后,我开始亲自测试它,来验证下我的成绩。以下是我们对话的内容。”

我:Hi!(你好啊!)

机器人:n***er(屏蔽词)

Garvan浏览了一下玩家们对这款游戏的评论,他发现有些用户察觉到了这款机器人最终会重复它之前学习到的讲话方式。

他写道:“很多人向机器人灌输了各种种族主义言论。”

Garvan通过清除这些言论并调整游戏来处理此问题,应对那些向机器人极力输入种族主义言论的用户。

在他本周发出的文章中,Garvan对Bot or Not?和Tay出现此状况的原因发表了意见。“我相信微软和其他的机器学习社区变得太过强大,数据太过神奇,以致于它们忘记了这些数据原本来自于我们生活的这个不那么美好的世界,”

可口可乐的MAKEITHAPPY机器人

MeinCoke于2015年由Gawker开发,它在与用户对话中引用了很多希特勒的《我的奋斗》中的原话。

原因何在呢?如果你还记得可口可乐这个短期项目的原意是将尖酸刻薄的推文变成可爱的ASCII(美国信息交换标准代码)你也许就知道答案了。

可口可乐这项名为MakeitHappy的项目旨在向人们展示一个软饮品牌如何让世界变得更加快乐。但是最终形式是重新设置了其推特账号,于是账号可以重组很多糟糕的词汇,最后将其拼凑成一个“happy”的形状。

之后Gawker的一位员工发现了此项目背后的自动过程可以让@CocaCola这个账号发布关于美国白人种族主义的14个单词口号(口号的形状是一只超萌的气球狗狗!),该公司设置了一款机器人,它能直接引用希特勒自传中的话语,然后用#MakeitHappy当话题来发布推文。在该项目结束之前,可口可乐已经发布了很多诸如此类的推文了。

大约五年前,IBM的一位科学家决定尝试着教Watson一些网络俚语,他向此款机器人输入了整本《城市词典》(美国在线俚语词典),Watson也就学习了许多新潮的词语和犀利的俚语。

《财富》杂志报道:Watson并不能区分《城市词典》中充斥的政治语言和脏话,同时它在阅读维基百科的时候也养成了一些坏习惯,在测试中,它甚至在一位调查者的问答中使用了“bullshit”(鬼话)这种脏话。

在Watson真正死亡之前,他的团队正极力为他“洗脑”,将这本词典撤出Watson。

总而言之,如果微软想让Tay反映整个互联网教会她的东西,那么微软是成功的。但如果它的目标是创造一个新千年一代的俏皮机器人,那么也许它该去找另外一位老师了。

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/130953274216c7f07bcc.html
全局中部横幅
全局中部横幅
在线JSON校验格式化工具(Be

在线,JSON,JSON校验,格式化,xml转json工具,在线工具,json视图,可视化,程序,服务器,域名注册,正则表达式,测试,在线json格式化工具,json格式化,json格式化工具,json字符串格式化,json在线查看器,json在线,json在线验证,jsontoolsonline,在线文字对比工具

360良医

360良医,安全、干净、专业的医疗健康搜索引擎。拒绝虚假广告,整合各大权威医疗网站资源,提供专业、安全的医疗信息。包含医院,挂号,专家,药品,疾病,育儿,保健,养生,心理等内容。

【房车猫】房车价格

房车猫我的房车之家,房车价格,国产房车,房车图片,房车大全。看房车,买房车,玩房车,用房车猫APP。专业的房车门户网站。

云墨云网络

云墨云网络专注于研发以及运营云服务基础设施服务平台(IaaS),面向全球客户提供基于云计算的IT解决方案以及简单易用、价格厚道的云服务器,并提供全方位1对1售后服务,是国内领先的云计算基础设施服务提供商。

四川弹簧

四川万利达弹簧制造有限公司专业从事四川阀门弹簧厂家,成都机械弹簧生产厂家,销售地区广泛:成都,资阳,德阳,绵阳等地,欢迎来电咨询四川弹簧厂

宏发时代中心

沈阳宏发时代中心咨询电话(写字楼顾问):18204083368,地址沈阳市铁西区沈辽西路27号,距离地铁9号线的滑翔站约2.1公里。本站实时更新大厦租赁信息,包括大厦的出租面积、出售面积、简介、交通位置、照片、日租金、售价、地图、楼盘参数和物业等相关信息。

南昌方向标展览展示服务有限公司方向标

南昌方向标展览展示服务有限公司主营:舞台搭建、桁架出租、、LED显示屏租赁、灯光音响租赁、活动舞台、会展设备租赁、舞台设计实施搭建、公司年会、文艺演出、晚会派对、摄影摄像、各种会议服务

东营网站建设

东营凯胜网络科技-十年开发设计经验,全心为您提供东营网站推广,微信小程序制作,app软件设计制作开发,微信代运营,VR全景制作,网络营销一体化方案,电话:0546-7773095

机器人防护衣,机器人防护服,机器人防护罩,阀门隔热罩,阀门保温罩

河南佰路悍机械工业有限公司专业制作机器人防护衣,机器人防护服,机器人防护罩,阀门隔热罩,阀门保温罩等工业防护产品,量身定做,防护效果好,方便拆卸,河南佰路悍防护罩厂家联系电话0371-63520396

人才职业网

人才职业网rencaijob.com为大型综合型中国及海外全球人才招聘求职网站,提供方向招、团队招、批招批推、招聘会、培训等招聘求职服务。方向招提供省市国家招聘、行业招聘、毕业生招聘、技工普工招聘、海外全球招聘、外籍招聘、海归招聘、国外工作、一带一路人才招聘、残疾人招聘、退役军人招聘、兼职灵活用工招聘、多语言简历等,以及高级人才猎头服务和招聘外包。

安卓手机游戏排行榜

维赢游戏网提供最新的安卓IOS手机游戏排行榜和手机游戏攻略秘籍,安卓游戏中心包括时下热门的王者荣耀、和平精英、英雄联盟手游、原神、梦幻西游等多款热门游戏。

河南龙磐建筑工程有限公司

河南龙磐建筑机械先进、齐全,具备地基基础工程专业承包壹级;防水防腐保温工程专业承包壹级;建筑装修装饰工程专业承包壹级;建筑幕墙工程专业承包壹级......


全局底部横幅