谢（xiè）菲尔德大学（xué）的研究人员正在开（kāi）发可用（yòng）于自动检测和反击社交媒体（tǐ）上的滥用行为（wéi）的新工具。

由大学计算机科学系（xì）的Kalina Bontcheva教授领导的这（zhè）项（xiàng）研究正在开发（fā）新（xīn）的人工智能(AI)和自（zì）然语言处理（lǐ）(NLP)方法，这些方法可用于负责任地处理在线虐待和仇恨言论。

该项目（mù）是与加拿大（dà）西蒙菲沙大学的Wendy Hui Kyong Chun协作发起的，研究的是AI方法，该（gāi）方法（fǎ）目（mù）前用（yòng）于检测两（liǎng）个区域（yù）内的在（zài）线滥（làn）用和仇恨言论。游戏（xì）行业以及（jí）社（shè）交（jiāo）媒体（tǐ）上针对政（zhèng）客的信息。

该研究的研究人员打算利（lì）用他（tā）们的发（fā）现来开发有效，公平且公正的新AI算法。该系统将具有上下文意识，并尊（zūn）重基于种族，种族（zú），性别和性别的社区内的语言差异。

研究人员（yuán）将研究当前内容审核系统中嵌入（rù）的偏（piān）见，这些偏见经（jīng）常使用严格的定义（yì）或确定辱骂性语言。这些当前的系统经常自相矛盾地（dì）基于身份，包括性别，性（xìng）别，种族（zú），文化，宗教，政治背景（jǐng）或其他因素（sù），造成新形式的歧（qí）视或偏见。

研究团队（duì）旨（zhǐ）在通过（guò）产生更多情境感知的动态检测系统来解（jiě）决这（zhè）些影响。

此外（wài），该项目还（hái）希（xī）望（wàng）通过使新工具开源来（lái）增强用户能力，以便将（jiāng）其嵌（qiàn）入新（xīn）策（cè）略中，以（yǐ）民（mín）主方式解决在线滥用和仇（chóu）恨言（yán）论。它们也可以用作基于（yú）社区的（de）护理和应对措施的一部（bù）分。

Kalina Bontcheva教授说（shuō）：“近年来，网上滥用和仇恨言论的数量急（jí）剧增加（jiā），这（zhè）使得政府和社交媒体平台都在努（nǔ）力应对后果。

“在线滥（làn）用（yòng）和仇（chóu）恨言论的大量增加引发了公众的愤（fèn）慨（kǎi），人们要求政（zhèng）府和（hé）社交媒体（tǐ）公司为解决这个问题付（fù）出更多的努力，但是目前（qián）尚无（wú）有效（xiào）或技术性的（de）流（liú）程可以负（fù）责任或民主的方式解（jiě）决这个问题。

“我们正在（zài）开发新颖的AI和NLP方法来解决该问题，同时还为学者和早期职业研（yán）究人员制定了一项重要的培（péi）训计划，以培（péi）养这一关键研（yán）究领（lǐng）域（yù）的能力和专业知（zhī）识。”

谢菲尔德大学与西蒙（méng）·弗雷泽大学(Simon Fraser University)共同领导了“负责任（rèn）的包容性民主社会的人工智能：一（yī）种（zhǒng）跨学科的在（zài）线检测（cè）和打击辱（rǔ）骂性语言的方法”项目。它是（shì）英国（guó）研究与创新（xīn）(UKRI)资助（zhù）的10个英国-加拿大（dà）项目（mù）之一，以（yǐ）支持负责任的AI开（kāi）发，包括（kuò）确保社会所有成员信（xìn）任AI并从中受益。