Pour aider à lutter contre la cyberintimidation et la haine en ligne dans le monde numérique, Instagram a déployé une nouvelle fonctionnalité qui marque le contenu considéré comme offensant.
Quelle est la nouvelle fonctionnalité?
À partir d'aujourd'hui, Instagram lance une nouvelle fonctionnalité qui avertit les gens lorsque leurs légendes sur une photo ou une vidéo peuvent être considérées comme offensantes et leur donne la possibilité de faire une pause et de reconsidérer leurs mots avant de publier.
Pourquoi cette fonctionnalité a-t-elle été implémentée?
Dans le cadre de l'engagement à long terme d'Instagram à mener la lutte contre l'intimidation en ligne, nous avons développé et testé une IA capable de reconnaître différentes formes d'intimidation sur Instagram.
Plus tôt cette année, Instagram a lancé une fonctionnalité qui avertit les utilisateurs lorsque leurs commentaires peuvent être considérés comme offensants avant qu'ils ne soient publiés. Les résultats sont prometteurs et montrent que ce type de mesures peut encourager les utilisateurs à reconsidérer leurs propos lorsqu'ils en ont l'occasion.
Comment fonctionne cette nouvelle fonctionnalité?
Aujourd'hui, lorsque quelqu'un écrit une légende pour une publication de flux et que l'IA d'Instagram détecte la légende comme potentiellement offensante, il recevra une invite l'informant que sa légende est similaire à celles signalées pour l'intimidation. Ils auront la possibilité de modifier leur légende avant qu'elle ne soit publiée.
En plus de limiter la portée de l'intimidation, cet avertissement aide à éduquer les gens sur ce qui est autorisé sur Instagram, et quand un compte peut risquer d'enfreindre nos règles. Pour commencer, cette fonctionnalité sera déployée dans certains pays et Instagram commencera à se développer à l'échelle mondiale dans les prochains mois.
