Le gendarme de la protection de la vie privée britannique, l'Information Commissioner's Office (ICO), épingle Snapchat pour de potentiels manquements concernant l'intelligence artificielle (IA) conversationnelle My AI. Si le réseau social ne répond pas à ces préoccupations, il risque l'interdiction de son chatbot.
Introduite au mois de février, My AI est basée sur le modèle de langage GPT d'OpenAI, qui alimente aussi ChatGPT. L'IA est disponible pour tous les utilisateurs du réseau social dans le but de discuter de nombreux sujets, lui demander des conseils ou des recommandations. Elle est désormais ciblée par les autorités britanniques sur la protection des données.
Snapchat doit prendre des mesures pour éviter l'interdiction de My AI
Après son enquête, l'ICO conclut provisoirement que « Snap n'a pas correctement identifié et évalué les risques pour plusieurs millions d'utilisateurs de My AI au Royaume-Uni, dont des enfants âgés de 13 à 17 ans ». Dès le lancement de la fonctionnalité, l'entreprise prévenait que « toutes les conversations seront stockées et pourront être examinées afin d'améliorer l'expérience du produit ».
« Ne partagez aucun secret avec My IA et ne comptez pas sur elle pour vous conseiller », alertait alors Snapchat. Visiblement, cela n'est pas suffisant pour le régulateur britannique. Dans un avis préliminaire, il statue que l'entreprise « n'a pas évalué de manière adéquate les risques en matière de protection des données posés par la technologie d'IA générative, en particulier pour les enfants ».
S'il s'agit pour l'instant d'un avertissement préventif, la plateforme doit désormais s'engager à apaiser les inquiétudes des autorités. « Si un avis d'exécution final devait être adopté, Snap pourrait être tenu de cesser de traiter les données en rapport avec My AI. Cela signifie ne pas proposer ce produit aux utilisateurs britanniques en attendant que Snap procède à une évaluation adéquate des risques », conclut l'ICO.
L'IA générative dans le viseur des régulateurs
Ce n'est pas première fois que My AI pose problème. Au mois de mai, Snapchat a fait l'objet de nombreuses critiques après que le chatbot a encouragé des relations sexuelles entre une mineur et un adulte. Si la société s'efforce de rappeler que les modèles d'IA générative ne sont pas infaillibles, les mettre à la portée de jeunes utilisateurs soulève effectivement des questions.
L'exploitation des conversations pour la formation des IA est également au cœur des préoccupations des législateurs, notamment en termes de protection de la vie privée. Au mois de mars, l'Italie n'a pas hésité à bannir ChatGPT pendant plusieurs semaines, dans le but de protéger les données personnelles de ses citoyens.
- Photos et vidéos éphémères.
- Filtres et effets créatifs.
- Messagerie instantanée privée.
Source : 9to5Mac
