为了帮助解决数字世界中的网络欺凌和在线仇恨,Instagram推出了一项新功能,该功能标记了令人反感的内容。
从今天开始,Instagram将推出一项新功能,该功能可以在人们将照片或视频的字幕视为令人反感的时候通知他们,并让他们有机会在发布之前暂停和重新考虑其用语。
作为 Instagram 领导打击网络欺凌的长期承诺的一部分,我们开发并测试了可以识别 Instagram 上不同形式的欺凌行为的 AI。 今年早些时候,Instagram 推出了一项功能,当他们的评论可能被认为具有攻击性时,它会在人们发布之前通知他们。 结果很有希望,并且发现这些类型的轻推可以鼓励人们在有机会时重新考虑他们的话。
如今,当有人为提要贴写标题时,Instagram的AI检测到该标题具有潜在的冒犯性,他们会收到提示,告知他们其标题与欺凌报道相似。 他们将有机会在字幕发布之前对其进行编辑。
除了限制欺凌行为的范围外,此警告还有助于教育人们有关Instagram所允许的内容以及何时有可能违反我们的规则的风险。 首先,此功能将在选定的国家/地区推出,Instagram将在未来几个月开始在全球范围内扩展。