Fraude sociale : selon la Quadrature du net, l'algorithme de la Cnaf a un "fonctionnement délibérément discriminatoire"

"Les dirigeants de la Cnaf profitent de l'opacité entourant l'algorithme pour nier son fonctionnement délibérément discriminatoire", affirme La Quadrature du Net, une association de défense des libertés numériques. Dans sa lutte contre la fraude aux aides sociales, la Caisse nationale des allocations familiales (Cnaf, qui gère les Caf, les caisses d'allocations familiales) utilise depuis le début des années 2010 un algorithme pour identifier des bénéficiaires à risque et récupérer des "indus", c'est-à-dire des trop-perçus. 

Or La Quadrature du Net affirme que ce système vise particulièrement les personnes les plus précaires, selon plusieurs critères, comme le fait de ne pas avoir de travail ou de revenus stables, ou d'être allocataire du RSA. Après plusieurs demandes infructueuses, la Commission d'accès aux documents administratifs (Cada) a finalement autorisé l'association à obtenir et publier les codes sources de deux versions antérieures de l'algorithme.

"Notre objectif est de limiter au maximum les erreurs déclaratives et leurs conséquences en termes de génération d'indus", a déclaré mardi à l'AFP le directeur général de la Cnaf, Nicolas Grivel, ajoutant que cet algorithme n'est "pas discriminatoire" et ne cible "pas forcément les personnes les plus pauvres mais celles dont les revenus varient". Dans les faits, cela revient pourtant au même, rétorque Alex*, membre de La Quadrature du Net.

franceinfo : Que révèlent ces codes sources de l'algorithme ?

Alex, de la Quadrature du net : On savait que l'algorithme, dès les années 2010, avait conduit à un surcontrôle des plus précaires grâce à des statistiques agrégées et d'un travail de terrain du sociologue Vincent Dubois. Mais ce dernier n'avait pas eu le droit de publier le code source de l'algorithme pour des questions de confidentialité. La publication des deux versions de l'algorithme, celle utilisée entre 2010 et 2014 et celle utilisée entre 2014 et 2018, vient prouver noir sur blanc que dans l'algorithme de la Cnaf, on trouve bien des critères qui sont ouvertement discriminatoires envers les personnes aux minima sociaux et les familles monoparentales. L'idée, c'est de mettre un peu fin à un débat médiatique qui s'est installé depuis que la contestation monte autour de cet algorithme, depuis un peu plus d'un an. Les dirigeants de la Cnaf profitent de l'opacité entourant l'algorithme pour nier son fonctionnement délibérément discriminatoire.

Comment sont "notés" les bénéficiaires ?

Il y a ce qu'on appelle nous le "score de suspicion", la Cnaf appelle cela le "score de risque". C'est un chiffre compris entre 0 et 1. On peut appeler cela une note. Ce chiffre représente la probabilité qu'un allocataire ait reçu des indus. Donc plus le score est proche de 1, plus un allocataire est suspect, c’est-à-dire qu'il est probable pour la Cnaf qu'en cas de contrôle, des indus soient détectés. Plus le score est proche de 1, plus la probabilité d'être contrôlé est élevée. Le but de cet algorithme est de cibler les dossiers sur lesquels la Cnaf a le plus de chances de récupérer des indus de manière à alimenter une politique du chiffre, ce qui s'appelle le rendement des contrôles. 

Le directeur général de la Cnaf, Nicolas Grivel, affirme que l'algorithme ne cible "pas forcément les personnes les plus pauvres mais celles dont les revenus varient"...

L'algorithme va cibler les personnes en situation instable parmi les personnes les plus précaires. Quand on parle de revenu qui varie ou de changement de situation qui n'aurait pas été déclaré assez rapidement, on va parler de personnes qui a priori sont en situation d'autant plus précaire qu'elles sont dans un moment d'instabilité. L'algorithme va en effet se concentrer sur les minima sociaux, et parmi les gens qui touchent ces prestations-là. Il va s'intéresser aux situations où il y a le plus d'erreurs possibles, c’est-à-dire là où les personnes ont eu un parcours de vie récent un peu plus agité. Bien sûr, il n'y aura pas que cela, mais c'est ce qui va augmenter le score de risque. Donc oui, on parle des personnes "dont les revenus varient", mais plus généralement qui sont dans des situations particulièrement compliquées. C'est encore plus cynique pour moi.

La Cnaf ne vise donc pas réellement à s'attaquer à la fraude sociale ?

C'est difficile pour un algorithme de "prédire" quel allocataire aurait ou non fraudé. Parce que la fraude nécessite de prouver une intention. Et le faire à partir d'une base de données, c'est plus compliqué à caractériser. Par contre, ce dont les équipes statistiques de la Cnaf se sont rendu compte, c'est que c'était très facile de modifier l'objectif. Non pas pour aller détecter la fraude mais des indus, qui sont en très grande majorité liés à des erreurs déclaratives involontaires, elles-mêmes liées à la complexité des prestations sociales, en particulier des minima sociaux. Et pour les familles monoparentales, c'est aussi parce qu'il y a des règles assez complexes d'encadrement et de définition de la vie conjugale. Au nom de la lutte contre la fraude, on a en fait un algorithme de récupération d'indus, et qui va aller récupérer de l'argent auprès d'un public déjà en difficulté.

*Alex n'a pas souhaité donner son nom pour respecter le fonctionnement interne de La Quadrature du Net.