Instagram: борьба с издевательствами в Интернете

Что нового?

С сегодняшнего дня Instagram запускает новую функцию, которая уведомляет людей, когда их подписи к фото или видео могут быть сочтены оскорбительными, и дает им возможность остановиться и пересмотреть свои слова перед публикацией.

Почему была реализована эта функция?

В рамках долгосрочного обязательства Instagram возглавить борьбу с травлей в Интернете мы разработали и протестировали искусственный интеллект, способный распознавать различные формы травли в Instagram. Ранее в этом году Instagram запустил функцию, которая уведомляет людей о том, что их комментарии могут быть сочтены оскорбительными, прежде чем они будут опубликованы. Результаты были многообещающими, и выяснилось, что такого рода подталкивания могут побудить людей пересмотреть свои слова, когда им предоставляется шанс.

Как работает эта новая функция?

Сегодня, когда кто-то пишет подпись для сообщения в ленте, и ИИ Instagram определяет подпись как потенциально оскорбительную, он получает уведомление о том, что его подпись похожа на подпись, о которой сообщается за издевательства. У них будет возможность отредактировать свою подпись до того, как она будет опубликована.

Помимо ограничения возможности запугивания, это предупреждение помогает информировать людей о том, что разрешено в Instagram, и когда учетная запись может быть подвержена риску нарушения наших правил. Для начала, эта функция будет развернута в некоторых странах, а в ближайшие месяцы Instagram начнет расширяться по всему миру.