La plateforme App Danger Project utilise l'IA pour lister les applications potentiellement dangereuses pour les enfants.
L'intelligence artificielle effectue de plus en plus de tâches. Une nouvelle initiative à base d'IA a vu le jour et souhaite lister toutes les applications pour smartphones pouvant représenter un danger pour les plus jeunes, dans le but de toujours plus les protéger en ligne.
Un algorithme pour recenser les applications dangereuses pour les enfants
La plateforme en ligne App Danger Project a pour objectif de recenser toutes les applications qui peuvent présenter un risque pour les plus jeunes. Utilisant l'intelligence artificielle, l'outil en ligne collecte en masse les avis utilisateurs laissés sur les stores d'applications de Google et d'Apple afin de détecter des indicateurs de danger. Pour cela, les messages en question sont récupérés et analysés par un algorithme.
Le type d'indicateurs à même d'activer l'alerte d'App Danger Project concerne par exemple les messages qui mentionnent des faits de pédopornographie ou de pédophilie. L'algorithme est conçu pour filtrer toute mention se référant à des pratiques illégales et pouvant laisser penser qu'un enfant puisse être en danger en utilisant l'application.
Après étude de la liste des applications répertoriées sur cette plateforme, Apple a en supprimé 10 de son app store. En revanche, la firme californienne a refusé de transmettre le nom des apps concernées.
Source : 9to5mac
