维基百科和谷歌联合开发机器学习算法 如何揪出论坛里的骂街党 (维基百科和谷歌)

文章编号:36896 最新资讯 2024-11-30 机器学习 谷歌 维基百科

如何揪出论坛里的骂街党?维基百科和谷歌联合开发机器学习算法

最近,来自维基百科和谷歌的 IT 专家,公布了把 AI 用于“节制”维基百科用户评论的成果——找出哪些用户在搞人身攻击,还有他们为什么要在网上骂街。

针对该问题,研究人员开发机器学习算法,分析维基百科在 2015 年收到的的海量评论。这一年,维基百科讨论页面共收到 6300 万条评论。这些评论存在的本意,是讨论如何改进维基百科收录的各条文章。

这些算法使用 10 万条包含侮辱性言辞的评论以进行训练,当然,这样的样本规模只能算是偏小的。起初,十名人类员工对这些评论进行分类,以明确用户评论中都出现了哪些人身攻击语言方式。举个例子,该机器学习算法能区别直接人身攻击(比如“你是个XX”),第三方人身攻击(张三是个XX),以及间接人身攻击(“张三说李四是XX”)

研究成果以论文形式发表出来,题目为'Ex Machina: Personal Attacks Seen at Scale'(Ex Machina:大规模人身攻击)。雷锋网得到消息,该论文将在四月份澳大利亚珀斯举行的的世界互联网大会上展出。

34 名用户“贡献”了 9% 的网上谩骂

如何揪出论坛里的骂街党?维基百科和谷歌联合开发机器学习算法

横坐标轴:总发帖数;竖轴:侮辱性言论比值;黑色:匿名用户;蓝色:注册用户

该分析表明,维基百科 43% 的发表言论来自匿名用户。这些人中的绝大部分并不经常发帖,有的就只发过一次。但平均发表脏话概率比注册用户高六倍。但据雷锋网了解,维基百科注册用户比匿名评论用户多 20 倍,意味着超过半数的人身攻击言论仍是注册用户发表的。

研究人员发现,大多数情况下用户言论是得体的。 80% 的人身攻击来自于 9000 多名用户,而这一群体发侮辱性帖子的平均次数少于五次。 意味着大多数人只在被激怒后,才开始在网上骂街。

但是,有一个包含 34 名活跃用户的小群体。研究人员对该群体的打分是“危害指数超过 20”。 这 34 个人竟然贡献了维基百科全部侮辱性言论的近十分之一 ,准确来说,是 9%。

很明显,这些人就是网络世界里所谓的“骂街党”——那些喜欢上网和人骂战,把人身攻击作为日常宣泄、娱乐活动的人。现在的好消息是,新的机器学习算法使得维基百科在用户群中找出这些人变得更加容易,然后只需要把这几个人的账户封掉,就能一下子减少论坛上 9% 的恶意言论。太划算了,是不是?这意味着偶尔发表人身攻击言论的普通用户不必被封号——大多数只在和人吵起来之后才开骂。这还意味着,维基百科不需要像拉网一样把全部评论筛一遍,用机器学习检测侮辱性言辞,而只需把精力放在管理这些极少数的骂街党上。

论坛维护:人+AI

如何揪出论坛里的骂街党?维基百科和谷歌联合开发机器学习算法

网上骂战,有时像野火一样被瞬时点着。正因如此,相比能自动决定该屏蔽哪个论坛用户的计算机程序,有时候人类管理员更有用。

论文作者们在结论中说道:

未来,AI 大概会在网站评论管理中起到越来越大的作用。研究人员指出,能自动筛选评论的系统可发挥极大的辅助作用——人类管理员能更清晰地把握用户谈话的健康状况,并可以更快得发现“有毒”评论内容,在引发更多用户反感之前采取措施。

维基百科的 AI 小编上岗,用于检测恶意破坏或虚假编辑等行为

版权文章,未经授权禁止转载。详情见 转载须知 。

如何揪出论坛里的骂街党?维基百科和谷歌联合开发机器学习算法


本文地址: /article/b39cdd13b1748f1af66c.html
全局中部横幅
全局中部横幅
2345加速浏览器官网(原2345王牌浏览器)_加速上网,总能快一点!二三四五旗下,官方下载_经典版下载

2345加速浏览器官网(二三四五旗下),提供2345加速浏览器最新版官方下载,更有更多免费皮肤和应用下载。

杭叉集团股份有限公司-小型|锂电池|电动叉车价格|厂家|多少钱一台-高空作业平台-诺力|合力叉车-电动搬运车

杭叉集团股份有限公司(股票代码603298,注册资本6.19亿元),成立于1956年,迄今已有60多年的历史,总部位于浙江临安经济开发区,现占地面积1100余亩,下属67个控股子公司、6个参股公司,共有员工3300多人,是中国目前最大的专业叉车研发制造集团之一,现已成功跻身世界叉车前9强。

邮件群发,Amazon亚马逊注册机,TikTok注册机,微软注册机,Steam注册机,谷歌注册机--PP注册机网

PP邮箱营销软件,主要功能有邮件群发,Amazon注册机,TikTok注册机,微软邮箱注册机,Steam注册机,gmail注册机,旨在解放双手的重复性劳动,让大家有时间做更有意义的事情。

奔宝迪 - 汽车资讯

专注豪车领域,为车迷与高端消费者提供最新豪车资讯。从全球首发新车揭秘、深度评测,到豪车赛事直击、++版车型解读,再到行业动态、购车指南,一站式满足您对豪车的所有好奇与需求。

一拖网上双创网上练兵系统

一拖集团有限公司网上双创网上练兵平台

农历_农历日历2024日历表_日历2024全年农历表_农历查询-农历查

农历查有着精准的农历日历表,在这里你可以看到农历日历表2024全年的详细日历内容,包括着农历日历2024日历表,农历日历,农历查询,农历,阴历,日历2024全年农历表等,大家可以实时关注农历查,农历查将为大家展示更为全面的信息。

深圳家教网_免费找家教_【若邻精英家教】_深圳家教大学生附近老师同城一对一上门补课在线辅导补习_深圳家教价格

若邻精英家教是师大学生和一线教师联合创立的深圳家教中心,高校勤工助学协会指定深圳大学生家教合作平台,汇聚一线优秀中小学老师及深圳重点高校大学生研究生,提供深圳同城上门家教一对一中小学全科家教辅导。小学,初中,高中,中考,高考语文,数学,英语,物理,化学,生物等附近一对一上门家教在线补课辅导普学零五网答案家教114平台官网

42crmo钢管,42crmo无缝管,42crmo合金钢管,42crmo厚壁钢管-山东昊月金属制品有限公司

山东昊月金属制品有限公司咨询热线:183-0635-1786主营42crmo钢管,42crmo无缝管,42crmo合金钢管,42crmo厚壁钢管等产品,质量可靠,价格合理,欢迎咨询!

云立方 - 拨号VPS,动态VPS,代理IP供应商 -10年匠心服务

云立方是动态vps,拔号vps,adsl拔号服务器,代理ip,动态ip,天翼云,阿里云,腾讯云,华为云,高防服务器提供商,高性价比vps服务器,静态云,云,vps,vps就找云立方!

轻质隔墙-外保温-楼地面隔声-江苏翔鹭节能科技有限公司

江苏翔鹭节能科技有限公司是一家以研发轻质隔墙、外保温、楼地面隔声以及向市场提供装配式墙体材料、保温材料及应用技术推广的科技型企业

管道泵|管道离心泵|管道泵选型,上海正精给排水设备有限公司

上海正精给排水设备有限公司专业生产(供应)销售管道泵|管道离心泵系列产品,产品有ISW型不锈钢卧式管道泵,PBG型屏蔽式管道泵,YG型立式管道油泵,GDL型立式多级管道泵等型号可供选择,公司具有良好的市场信誉,专业的销售和技术服务团队,凭着经管道泵产品多年经验,熟悉并了解管道泵|管道离心泵市场行情,迎得了国内外厂商的一致好评,欢迎来电来涵洽谈交流!

全局底部横幅