Accusée par La Quadrature du Net d’avoir mis en place un système qui défavorise les allocataires les plus précaires, la Caisse des Allocations Familiales tente de se défendre.
La polémique a suffisamment enflé pour mériter une réponse. Alors qu’il y a quelques jours, La Quadrature du Net, association de défense pour les libertés numériques, pointait du doigt l’algorithme utilisé par la CAF en raison de biais, l’organisme a publié une longue mise au point sur X/Twitter où il se défend de toutes discriminations.
« Classer » pas « surveiller »
Arguant que « l’accompagnement des allocataires mérite un débat serein et documenté », la Caisse des Allocations Familiales a livré sa version des faits. Les algorithmes, que la Quadrature accuse d’entretenir un « score de suspicion », ne sont pas là pour « surveiller les allocataires », mais plutôt pour « classer les dossiers » comportant d’éventuelles erreurs afin de « garantir des droits justes et éviter des remboursements postérieurs importants ».
Ces algorithmes ne sont d’ailleurs pas « opaques » selon la CAF, mais « confidentiel pour ne pas faciliter la fraude ». Leur fonctionnement a été déclaré à la CNIL et la Commission d’Accès aux Documents Administratif (CADA) a confirmé le bien-fondé de ce fonctionnement, justifie l’organisme.
Enfin, l’algorithme ne « discrimine » pas les allocataires les plus pauvres, mais, puisque la CAF verse plus d’aides à cette catégorie de la population, elle est mécaniquement « surreprésentées » donc plus sujette aux erreurs. Pour gommer le côté répressif du contrôle, la caisse explique même que « 31 % des régularisations post contrôles sont en faveur de l’allocataire qui reçoit un complément financier ».
Un algorithme trop « confidentiel » ?
Malheureusement, l’organisme ne revient pas sur le fond du problème, à savoir les critères qui poussent l’algorithme à encourager les contrôles de certains profils plutôt que d’autres. L’algorithme étant « confidentiel », impossible de vérifier les dires de la CAF.
Surtout, la réponse publiée sur Twitter survole le problème plus politique soulevé par La Quadrature du Net. Pour l’association, « il ne peut exister de modèle de l’algorithme qui ne cible pas les plus défavorisé·es » puisque l’algorithme s’est précisément fondé sur « sur l’observation des indus et non sur celle des indus frauduleux », expliquait Daniel Buchet, directeur de la maîtrise des risques et de la lutte contre la fraude à la CAF, en 2010.
À demi-mot, la caisse confirme d’ailleurs ce fonctionnement puisqu’elle avoue que les profils les plus précaires concentrent plus de risques d’erreurs et que, mathématiquement, si 31 % des régularisations « sont en faveur de l’allocataire », 69 % sont soit neutres, soit en défaveur des personnes visées.
Une clause de revoyure au printemps 2024
Ces trop-perçus s’expliquent d’ailleurs souvent par « des erreurs déclaratives involontaires » dues au fait que « ces prestations sont encadrées par des règles complexes […] multipliant les risques d’erreurs possibles », avance La Quadrature du Net. Un argument confirmé par Daniel Buchet qui expliquait en 2005 que « ce sont les prestations sociales elles-mêmes qui génèrent le risque » puisqu’elles sont « à la fois dans leurs conditions d’attribution et dans leurs montants, liées à de nombreux éléments de la situation de l’usager, très variable dans le temps, et donc très instable ».
Pour tenter d’éteindre le feu, la CAF a tout de même expliqué travailler « avec des sociologues, datascientists et autres spécialistes pour mieux faire connaitre et adapter […] sa pratique des algorithmes ». Une clause de revoyure a été fixée au printemps 2024 pour évaluer les modifications à potentiellement apporter à cette méthodologie.
