Depuis 2011, la Caisse nationale des allocations familiales (Cnaf) utilise le même algorithme anti-fraude. D’après une étude de La Quadrature, il s’agirait d’un ciblage discriminatoire des pauvres. Détails.
La Quadrature du net pointe du doigt l’algorithme anti-fraude de la Cnaf
Le 27 novembre 2023, l’association des défenses des libertés numériques, La Quadrature du net, avait publié une étude choquante sur l’algorithme de la Cnaf. D’après cette enquête récente, son code source favoriserait les plus précaires. Cet outil statistique fonctionne selon le principe que les pauvres sont plus susceptibles de frauder les allocations familiales.
L’association dénonce ainsi que l’algorithme en question ciblerait les 13,5 millions d’allocataires susceptibles de commettre des erreurs dans leur déclaration. Ils figurent donc en tête de liste en cas de contrôle.
L’outil de la Cnaf prévoit notamment un score de suspicion allant de 0 à 1. Les données relatives à chaque allocataire font l’objet d’une mise à jour mensuelle. En se basant sur ce paramètre, la Cnaf est en mesure d’identifier les fraudeurs. C’est notamment le cas des allocataires affichant un score proches de 1.
Selon La Quadrature du net, ce score de suspicion est déjà élevé pour les personnes aux faibles revenus. Il s’agit en l’occurrence des :
- Chômeurs
- Allocataires des minima sociaux
- Habitants de quartiers défavorisés
Assez étonnamment, ce sont les plus aisés qui affichent un score de suspicion faible sur cet outil de la Cnaf. Il faut reconnaître de que ce n’est pas très équitable étant donné que le public est déjà précaire.
Notons que les critères retenus dans la version actuelle de l’outil de la Cnaf n’ont pas encore passé au crible par la Quadrature du net. En revanche, ceux des anciennes versions de 2010 à 2018 sont déjà connus :
- La situation familiale de l’allocataire
- L’âge de l’allocataire et de son conjoint
- La fréquence de connexions à l’espace web dédié
- Le nombre de mails échangés
En prenant en compte ces différents paramètres, l’association a jugé que cet outil de la Cnaf s’apparente à une surveillance prédictive aux accents dystopiques.
Un algorithme jugé trop opaque par le collectif Changer le Cap
Ce n’est pas la première fois que l’algorithme anti-fraude de la Cnaf a été critiqué. N’oublions pas qu’au printemps cet outil avait déjà été ciblé par le collectif « Changer le Cap ». C’est ainsi que ce code informatique a été considéré comme trop opaque. Le collectif tablait plutôt sur la mise en route de contrôles aléatoires.
De son côté, la Quadrature du net a déjà donné d’autres institutions. En tête de liste figurent notamment Pôle emploi, l’Assurance vieillesse ou encore les Mutualités sociales. En raison, ces dernières utilisent des systèmes automatisés anti-fraude comme celui de la Cnaf.
La Cnaf, quant à elle, ne manque pas d’argument pour défendre son programme informatique. Elle précise que les allocataires de certains minima sociaux à l’instar du RSA ou de la prime d’activité, sont soumis à des déclarations de revenus trimestrielles complexes. Souvent, leurs ressources varient. Selon la Cnaf, ces personnes-là sont susceptibles de commettre des erreurs. Et, c’est la que son algorithme entre en jeu.
Nicolas Grivel, directeur général délégué chez Cnaf, souligne : « l’outil n’est pas discriminatoire, et ne cible pas forcément les personnes les plus pauvres, mais celles dont les revenus varient ».
