Google déploie une nouvelle fonctionnalité dans son application Messages, visant à protéger les utilisateurs contre les contenus sensibles, notamment les images contenant de la nudité.
Malgré toutes les précautions que l'on peut prendre, il est difficile de se protéger des images sexuellement explicites que l'on peut recevoir sur les différentes messageries instantanées. Google prend le problème à bras-le-corps à travers Google Messages, et va proposer dans les prochaines semaines un nouveau filtre automatique qui permettra de protéger les utilisateurs, et notamment les plus jeunes, des images non désirées.
Les photos sexuellement explicites floutées automatiquement pour les plus jeunes dans Google Messages
La fonctionnalité, baptisée « Sensitive Content Warnings », repose sur un système de détection intégré à l'application, capable d'identifier les images potentiellement sensibles. Lorsqu'un tel contenu est détecté, l'image est automatiquement floutée, et l'utilisateur reçoit un avertissement lui permettant de choisir s'il souhaite ou non la visualiser. Il peut également la flouter à nouveau après l'avoir consulté quelques secondes s'il le souhaite.
Lorsqu'un utilisateur tente d'envoyer une image identifiée comme sensible, un message d'avertissement s'affiche, l'informant des risques associés à l'envoi de ce type de contenu. Des ressources d'aide sont aussi proposées, notamment des conseils sur le partage sécurisé d'images et des options pour bloquer les contacts jugés comme indésirables.
La fonctionnalité est activée par défaut pour les utilisateurs de moins de 18 ans, avec la possibilité de la désactiver via les paramètres d'Android. Les parents supervisant les comptes Google de leurs enfants via les options de Partage familial peuvent gérer l'option depuis leurs propres smartphones. Pour les adolescents entre 13 et 17 ans et dont le compte n'est pas supervisé par leurs parents, la fonction est activée par défaut, mais peut être coupée après un tour dans les réglages du smartphone. Pour les adultes enfin, elle est désactivée par défaut, mais peut être activée manuellement.
- L'application est gratuite à télécharger.
- On peut écrire des messages dans des groupes.
- Elle s'intègre parfaitement dans l'écosystème logiciel de Google.
Un dispositif réalisé en local sur le smartphone
Le système de détection fonctionne entièrement en local sur l'appareil, garantissant ainsi que les données ne sont pas envoyées sur les serveurs de Google. Cette approche préserve évidemment la confidentialité des données des utilisateurs, mais aussi assure une meilleure réactivité. Dès réception, le message peut être signalé et flouté immédiatement, là où un envoi sur un serveur prendrait quelques secondes de traitement.
La détection des contenus sensibles est rendue possible grâce à l'intégration avec le composant système « Android System SafetyCore ». Ce module, récemment introduit, fournit une infrastructure de protection de la vie privée directement sur l'appareil, permettant à des applications comme Google Messages de mettre en œuvre des fonctionnalités de sécurité avancées sans compromettre la vie privée des utilisateurs. Cette technologie ne fonctionne pas actuellement avec les vidéos, mais nul doute que Google améliorera sa technologie pour détecter les clips sexuellement explicites dans les prochains mois.
Pour le moment, l'option « Sensitive Content Warnings » (qui aura probablement le droit à une traduction prochaine en français) n'est disponible que dans la version bêta de Google Messages, mais le déploiement va débuter très prochainement. Quand elle sera disponible plus largement dans le monde, nous ne manquerons pas de vous le signaler.
Source : Android Authority
07 février 2025 à 17h46
