维基百科和谷歌联合开发机器学习算法 如何揪出论坛里的骂街党 (维基百科和谷歌)

文章编号:36896 资讯动态 2024-11-30 机器学习 谷歌 维基百科

如何揪出里的骂街党?维基百科和谷歌联合开发机器学习算法

最近,来自维基百科和谷歌的 IT 专家,公布了把 AI 用于“节制”维基百科用户评论的成果——找出哪些用户在搞人身攻击,还有他们为什么要在网上骂街。

针对该问题,研究人员开发机器学习算法,分析维基百科在 2015 年收到的的海量评论。这一年,维基百科讨论页面共收到 6300 万条评论。这些评论存在的本意,是讨论如何改进维基百科收录的各条文章。

这些算法使用 10 万条包含侮辱性言辞的评论以进行训练,当然,这样的样本规模只能算是偏小的。起初,十名人类员工对这些评论进行分类,以明确用户评论中都出现了哪些人身攻击语言方式。举个例子,该机器学习算法能区别直接人身攻击(比如“你是个XX”),第三方人身攻击(张三是个XX),以及间接人身攻击(“张三说李四是XX”)

研究成果以论文形式发表出来,题目为'Ex Machina: Personal Attacks Seen at SCAle'(Ex Machina:大规模人身攻击)。雷锋网得到消息,该论文将在四月份澳大利亚珀斯举行的的世界互联网大会上展出。

34 名用户“贡献”了 9% 的网上谩骂

如何揪出里的骂街党?维基百科和谷歌联合开发机器学习算法

横坐标轴:总发帖数;竖轴:侮辱性言论比值;黑色:匿名用户;蓝色:注册用户

该分析表明,维基百科 43% 的发表言论来自匿名用户。这些人中的绝大部分并不经常发帖,有的就只发过一次。但平均发表脏话概率比注册用户高六倍。但据雷锋网了解,维基百科注册用户比匿名评论用户多 20 倍,意味着超过半数的人身攻击言论仍是注册用户发表的。

研究人员发现,大多数情况下用户言论是得体的。 80% 的人身攻击来自于 9000 多名用户,而这一群体发侮辱性帖子的平均次数少于五次。 意味着大多数人只在被激怒后,才开始在网上骂街。

但是,有一个包含 34 名活跃用户的小群体。研究人员对该群体的打分是“危害指数超过 20”。 这 34 个人竟然贡献了维基百科全部侮辱性言论的近十分之一 ,准确来说,是 9%。

很明显,这些人就是网络世界里所谓的“骂街党”——那些喜欢上网和人骂战,把人身攻击作为日常宣泄、娱乐活动的人。现在的好消息是,新的机器学习算法使得维基百科在用户群中找出这些人变得更加容易,然后只需要把这几个人的账户封掉,就能一下子减少论坛上 9% 的恶意言论。太划算了,是不是?这意味着偶尔发表人身攻击言论的普通用户不必被封号——大多数只在和人吵起来之后才开骂。这还意味着,维基百科不需要像拉网一样把全部评论筛一遍,用机器学习检测侮辱性言辞,而只需把精力放在管理这些极少数的骂街党上。

论坛维护:人+AI

如何揪出里的骂街党?维基百科和谷歌联合开发机器学习算法

网上骂战,有时像野火一样被瞬时点着。正因如此,相比能自动决定该屏蔽哪个论坛用户的计算机程序,有时候人类管理员更有用。

论文作者们在结论中说道:

未来,AI 大概会在网站评论管理中起到越来越大的作用。研究人员指出,能自动筛选评论的系统可发挥极大的辅助作用——人类管理员能更清晰地把握用户谈话的健康状况,并可以更快得发现“有毒”评论内容,在引发更多用户反感之前采取措施。

维基百科的 AI 小编上岗,用于检测恶意破坏或虚假编辑等行为

版权文章,未经授权禁止转载。详情见 转载须知 。

如何揪出里的骂街党?维基百科和谷歌联合开发机器学习算法


本文地址: https://www.gpxz.com/article/b39cdd13b1748f1af66c.html
全局中部横幅
全局中部横幅
海淘网站导航大全

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

手机体育频道

手机新浪网体育频道提供最迅速、最权威地发布国内国际最热门体育赛事比分和赛果,国内外足球赛事、NBA、CBA全面图文直播,在中文体育站点中拥有最广泛的用户群。新浪体育触屏版-sports.sina.cn

乾坤vip

提供优质知识问答,各种百科小知识,生活常识,数码科技知识,办公教程等,用心传递知识!

青岛震雄机械

青岛震雄机械专注于塑料机械的研发与制造,主营全自动冰箱门封条生产线,薄膜打孔机,汽车挡泥板设备,打孔设备,模具设备,人造草坪设备,塑料板生成线,塑料管材生产线,塑料拉丝设备,塑料异型材生产线。我们拥有先进的生产设备和技术团队,提供多样化、高品质的塑料机械产品,广泛应用于各个领域,并深受全球客户的信赖和好评。

网站建设

西安铭赞网络公司,19年西安老牌网络营销公司,主营中英文网站建设、关键词SEO优化、百度推广、抖音短视频营销、网站快速排名、外贸企业建站营销一站式服务单位,前端营销理念、专业的运营技术、丰富的网络资源,合作企业超千家,欢迎来电咨询合作029-88888379

胖乎乎优惠券

胖乎乎优惠优购网提供全面的优惠券,9.9折优惠券,胖人衣服、胖乎乎大码优惠,胖乎乎的饮食零食吃货小吃优惠。优惠优惠尽在tu胖乎乎优惠优购网。

股票121

股票121是一个的金融股票网站,提供股票、基金、期货、外汇、保险、投资、理财等投资资讯,深入的市场分析,以及实用的投资策略,帮助您全面了解金融股票市场。

安徽世纪畅享停车产业化服务有限公司

安徽世纪畅享停车产业化服务有限公司

大车奔腾

山东矩阵软件工程股份有限公司推出大车奔腾物流SaaS平台实现全过程循环在线,打造智慧化、自动化、无人化。产品包括网络货运、客商平台、流向管控、发运系统等。

临沭县人民医院

临沭县人民医院前身为中国人民解放军华野淮海战役战地医院,目前已经发展成为集医疗、教学、科研、预防、保健、康复为一体的现代化三级乙等综合医院,国家级爱婴医院。

全局底部横幅