Instagram prend des mesures contre le cyber-harcèlement

Par Mathieu Grumiaux, Expert maison connectée.

Publié le 15 juillet 2019 à 09h19

Instagram va désormais faire preuve de pédagogie et alerter les utilisateurs qui souhaitent publier un commentaire offensant en analysant leurs messages avant leur publication.

Le réseau social, propriété de Facebook a, comme toutes les plateformes communautaires sur Internet, fort à faire avec le harcèlement en ligne et les commentaires offensants tenus par une minorité d'utilisateurs.

Pour améliorer l'expérience de ses centaines de millions d'usagers, Instagram va intégrer deux nouvelles fonctionnalités à commencer par un dispositif d'analyse des commentaires.

Une détection automatiques des propos injurieux

Le système fonctionnera lors de la rédaction du message potentiellement injurieux. L'intelligence artificielle mise au point par les équipes du réseau social est capable, lors de la publication du commentaire, de détecter un champ lexical offensant.

L'application envoie alors un message à l'utilisateur, l'invitant à modérer ses propos et rester courtois, sous peine d'une suspension définitive de son compte. Selon les premiers résultats collectés par Instagram, cet encouragement à rester poli et respectueux porte ses fruits et le nombre de commentaires insultants a été réduit sensiblement.

À télécharger :
Instagram pour Android | Instagram pour iOS

Un système de modération pour éviter l'effet de meute dans les commentaires

L'application de partage de photos va également améliorer le filtrage des commentaires. Dans un post de blog, Instagram explique que certains utilisateurs, notamment les plus jeunes, hésitent à signaler ou bloquer un utilisateur de peur que cela aggrave la situation. La personne malintentionnée pourrait de fait créer de nouveaux comptes pour continuer à harceler sa victime, voire être agressif dans la vraie vie, si les utilisateurs se fréquentent, à l'école par exemple.

Avec Restrict, Instagram va permettre, d'un clic, de cacher les commentaires d'un utilisateur, qui ne seront visibles que par la personne qui les a rédigés et accessibles à tous seulement après une validation manuelle. L'effet nuisible de ces publications est dès lors limité, sans que la personne ne soit avertie ou bloquée. Instagram espère ainsi empêcher le harcèlement groupé qui peut très vite survenir sur le web.

Ces fonctionnalités sont d'ores et déjà en cours de déploiement à travers le monde et devraient être accessibles à tous dans les prochains jours.

Source : The Next Web

Par Mathieu Grumiaux

Expert maison connectée

Journaliste pour Clubic, je couvre essentiellement les sujets concernant la maison connectée et les objets connectés, mais aussi les dernières nouvelles de l'industrie du streaming vidéo, entre autres sujets. Je suis également l'actu d'Apple, marque qui m'accompagne depuis mon premier iPod mini en 2005 (ça ne nous rajeunit pas…)

Articles de Mathieu Grumiaux

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !

Commentaires (0)

Rejoignez la communauté Clubic

Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.

Commentaires (2)

K4minoU

Mieux vaut tard que jamais comme on dit =)

Cela étant dit, les détections syntaxiques se contournent facilement, ils vont avoir du boulot les modérateurs et les dev pour faire évoluer leur regex =)

Je verrais autrement le problème mais bon, ce n’est que mon avis ^^

Premièrement, si on va poster sur les sites communautaires et qu’on le fait en public, on est et on doit s’attendre aux différents aspects négatifs qui en résultent; c’est comme ça, on ne peut pas plaire à tout le monde (sans oublier certains sont là, rien que pour tester leur pouvoir de nuisance ^^ - un c.o.n dans toute sa splendeur en somme ^^) et il faudrait peut-être prendre un peu ses responsabilités, quand on s’expose… =D

Deuxièmement, on devrait peut-être déporter la gestion de la modération au propriétaire du post; je poste, j’aime pas le commentaire en question (pour x raisons), je le marque (sans que l’auteur du commentaire puisse savoir ce que fait l’auteur du post principal)… Et là, l’IA prend la relève pour classer le commentaire et voir si la demande de l’auteur est justifié, etc etc, pour potentiellement aboutir à une intervention humaine…

On peut même imaginer un système de vote des commentaires, au dela d’un certain nb de points négatifs, le commentaire disparait de la circulation…

Et le mieux, serait d’arrêter de photoshoper son Q et de le poster sur Insta… Problème reglé =D

komawok

“On peut même imaginer un système de vote des commentaires, au dela d’un certain nb de points négatifs, le commentaire disparait de la circulation…”
C’est un petit peu ce que l’on retrouve sur Reddit, ça fonctionne pas trop mal et l’on peut toujours y accéder d’un clic manuel au besoin (lors des débats houleux ça peut servir si quelqu’un se fait basher etc…) mais les threads restent bien plus fluides et agréables à lire