Une IA détecte quand les conversations dérapent sur internet

Alexandre PAULSON
Publié le 03 juin 2018 à 09h28
Une équipe de chercheurs américains entraîne une intelligence artificielle à anticiper quand une conversation en ligne va mal tourner. La machine s'entraîne à identifier les signes précurseurs d'apparition de la méchanceté.

En jeu, la lutte contre les trolls et la promotion de la politesse dans les échanges publics sur internet.

A la chasse aux indices anti-sociaux

Converser de manière constructive, être à l'écoute et respectueux de son interlocuteur, ça s'apprend. Pour tenter de faire reculer la méchanceté qui se propage en ligne, une équipe de l'université privée américaine Cornell est en train d'entraîner une intelligence artificielle.

Celle-ci aura pour mission de repérer le plus tôt possible ce que les chercheurs appellent les indices anti-sociaux. Autrement dit, tout ce qui risque de faire déraper une conversation. Le but étant de sauver l'échange tant qu'il est encore temps. L'IA de Cornell s'est donc nourrie de 1 200 conversations sur Wikipedia, et en a tiré quelques enseignements.

15anstroll


L'IA pour le moment plus lente que l'Homme

Premier enseignement, d'ailleurs pas vraiment une surprise : la politesse, qui s'exprime au travers de salutations et de mots de remerciements, et une formulation modérée de ses opinions facilitent - voire encouragent - les échanges. A l'inverse, les phrases qui commencent par le pronom personnel "tu" sont généralement le prélude d'une conversation qui tourne mal.

Des indices que n'importe qui est à même d'identifier, mieux d'ailleurs que la machine pour le moment, qui a encore des progrès à faire. Mais quand celle-ci intervient pour appeler les participants à la modération, le dialogue, généralement, s'apaise. Un effet constaté quand le modérateur d'une conversation est perçu par les deux interlocuteurs comme légitime.

Alexandre PAULSON
Par Alexandre PAULSON

Aucun résumé disponible

Vous êtes un utilisateur de Google Actualités ou de WhatsApp ?
Suivez-nous pour ne rien rater de l'actu tech !
Commentaires (0)
Rejoignez la communauté Clubic
Rejoignez la communauté des passionnés de nouvelles technologies. Venez partager votre passion et débattre de l’actualité avec nos membres qui s’entraident et partagent leur expertise quotidiennement.
Abonnez-vous à notre newsletter !

Recevez un résumé quotidien de l'actu technologique.

Désinscrivez-vous via le lien de désinscription présent sur nos newsletters ou écrivez à : [email protected]. en savoir plus sur le traitement de données personnelles