赫瑞瓦特大学:人工智能算法帮助解决基于性别的在线滥用的“流行病”人工智能算法帮助解决基于性别的在线滥用的“流行病”

赫瑞瓦特大学爱丁堡大学主办的国家机器人水族馆的研究人员正在开发先进的“机器学习”算法,这些算法将显着改善对在线性别虐待的检测,干预和预防。

该项目已获得英国研究与创新(UKRI)的100万英镑资助,并将创建最先进的人工智能工具,这些工具使用各种观点,观点和经验来改善对在线滥用的检测。该项目由国家机器人水族馆的研究人员建立,以回应英国领先的反对在线滥用的慈善机构Glitch最近发表的一份报告。

Glitch的报告强调了当前的“在线虐待流行病”,特别是女性和非二元人群,自COVID-19开始以来,46%的人报告在网上遭受攻击。在大流行之前经历过在线滥用的人中,有29%的人表示,在封锁期间情况更糟。

性别是最常被引用的在线虐待原因,48%的受访者表示遭受基于性别的网络暴力。

国家Robotarium研究人员将与基于性别的暴力和在线骚扰专家合作,建立自动生成针对犯罪者的反叙事的机制,以及为受害者和幸存者提供积极支持的聊天机器人。

该项目的一个关键目标是从小提高有关安全使用社交媒体的数字素养。这将通过开发学习材料来实现,这些学习材料的重点是帮助儿童确定什么是基于性别的在线虐待以及如何应对。

该项目的其他成果将包括有关受害者遭受的在线虐待的类型和频率的数据。新的和更新的数据集将与更广泛的研究界共享,以便制定进一步的战略。

国家机器人水族馆是数据驱动创新计划的一部分,由英国政府提供2100万英镑和苏格兰政府140万英镑的支持,通过13亿英镑的爱丁堡和苏格兰东南部城市地区交易 - 这是一项由政府和区域合作伙伴共同资助的15年投资计划。

国家机器人馆(National Robotarium)首席研究员兼对话式人工智能教授Verena Rieser说:

“像Glitch报告中包含的数字一样的数字继续凸显基于性别的在线虐待的歧视性影响,以及它对非二元人群和女性的不成比例的影响。

一个挑战是,目前识别和界定虐待的手段往往依赖于大多数社会观点。从我们的研究中,我们知道这些观点不一定与受害者的经历相关。

“我们的方法基于苏格兰政府”平等安全“战略制定的框架,该战略旨在防止对妇女,年轻人和儿童的暴力行为。除了自动检测在线虐待之外,它还旨在重新思考我们需要检测的内容,如何最好地支持受害者以及教育作为预防工具可以发挥的作用。

“该项目的结果将有助于创建无论某人的性别,种族或背景如何都同样安全的在线空间,并提供更有效,更透明的审核方式 - 让用户更好地控制他们的在线体验。

国家机器人馆计算机科学教育的共同研究员和读者Fiona McNeill博士说:

“减轻基于性别的在线暴力的活动往往集中在成年人身上,但这对儿童和年轻人来说也是一个巨大的问题。作为国家机器人馆(National Robotarium)推动的项目的一部分,我们将与年轻人合作,了解他们在网上遭受虐待的经历,他们围绕这一点使用的语言以及需要支持年轻受害者的方式。

“通过这种互动工作,我们将创建教育材料,帮助年轻人理解和认识基于性别的在线暴力,以获得对它的信心 - 无论是作为受害者还是旁观者 - 并认识到他们是否正在实施它。

英国政府苏格兰大臣伊恩·斯图尔特(Iain Stewart)说:

“仇恨言论和骚扰在网上和线下一样不可接受。长期以来,在线平台已经实现了最卑鄙的针对性虐待形式,几乎没有对肇事者造成任何后果,对受害者的支持和保护也很少。

“我希望这项对新人工智能算法的研究将为反击和创造更安全的在线环境提供有价值的工具。

“今年3月,英国政府推出了《在线安全法案》,为互联网带来一个新的问责时代,包括打击匿名巨魔,让公司更快地处理有害内容。

苏格兰政府经济部长凯特·福布斯(Kate Forbes)表示:

“无论是在线还是离线,每个人都应该感到同等安全和尊重。作为城市地区交易的关键组成部分,国家机器人水族馆背后的团队正在努力帮助解决在线滥用问题,利用人工智能来帮助我们的社会更具包容性。

“这项工作将推动积极的社会和文化变革,有可能产生远远超出爱丁堡和苏格兰东南部的影响。

快速申请