为了帮助解决数字世界中的网络欺凌和在线仇恨,Instagram推出了一项新功能,该功能标记了令人反感的内容。
新功能是什么?
从今天开始,Instagram将推出一项新功能,该功能可以在人们将照片或视频的字幕视为令人反感的时候通知他们,并让他们有机会在发布之前暂停和重新考虑其用语。
为什么要实现此功能?
作为 Instagram 长期致力于引领打击网络欺凌行为的一部分,我们开发并测试了能够识别 Instagram 上不同形式欺凌行为的人工智能。
今年早些时候,Instagram 推出了一项功能,在用户发表评论之前,如果评论可能被视为冒犯,它会通知用户。该功能效果显著,而且我们发现,这类提醒可以鼓励用户在有机会时重新考虑自己的言辞。
这个新功能如何运作?
如今,当有人为提要贴写标题时,Instagram的AI检测到该标题具有潜在的冒犯性,他们会收到提示,告知他们其标题与欺凌报道相似。 他们将有机会在字幕发布之前对其进行编辑。
除了限制欺凌行为的范围外,此警告还有助于教育人们有关Instagram所允许的内容以及何时有可能违反我们的规则的风险。 首先,此功能将在选定的国家/地区推出,Instagram将在未来几个月开始在全球范围内扩展。