Le Défenseur des droits alerte sur les risques de discrimination liés à l'utilisation des algorithmes pour gérer l'épidémie de coronavirus

Après s'être penché sur la question avec des chercheurs et des juristes, Jacques Toubon a publié un état des lieux sur internet.

Jacques Toubon, le Défenseur des droits, le 6 septembre 2019 à Paris.
Jacques Toubon, le Défenseur des droits, le 6 septembre 2019 à Paris. (CHRISTOPHE ARCHAMBAULT / AFP)

Oui aux algorithmes pour sortir de l'épidémie de coronavirus, mais gare aux discriminations. C'est en quelque sorte l'avertissement que publie le Défenseur des droits sur son site internet, dimanche 31 mai. Dans ce message, Jacques Toubon appelle les pouvoirs publics à y prendre garde. "Le recours à des algorithmes comme support à la décision privée ou publique n'est pas nouveau" mais "dans la crise sanitaire inédite que le monde traverse, l'usage des outils numériques a connu une accélération sans précédent, reposant souvent sur des algorithmes sans que l'on en soit toujours conscient ou informé", écrit-il.

>> Coronavirus : déconfinement, traitements, tests... Retrouvez toutes les informations sur l'épidémie de Covid-19 dans notre direct

Le Défenseur des droits publie cet état des lieux en partenariat avec la Cnil et après avoir réuni chercheurs, juristes et développeurs. La Cnil et le Défenseur des droits "ont, chacun dans leur domaine de compétences, déjà fait part de leurs préoccupations quant à l'impact de certains systèmes algorithmiques sur les droits fondamentaux", peut-on également lire.

Jacques Toubon souhaite ainsi "mettre en lumière les risques considérables de discrimination que peuvent faire peser sur chacun et chacune d'entre nous l'usage exponentiel des algorithmes dans toutes les sphères de notre vie", ajoutant que "ce sujet est longtemps resté un angle mort du débat public. Il ne doit plus l'être".

Le Défenseur des droits fait ainsi un liste de recommandations. "Les biais algorithmiques doivent pouvoir être identifiés puis corrigés et les auteurs de décisions discriminatoires doivent pouvoir être sanctionnés". Il propose aussi de "former davantage les professionnels ou encore de renforcer les obligations sur la transparence des algorithmes".

"Pas seulement des génies des maths"

"Sans une réflexion approfondie et une mobilisation des pouvoirs publics, le risque est grand en France que le droit de la non-discrimination ne parvienne pas à remplir son office et à protéger la population", prévient-il. Dans le cadre de sa mission de lutte contre les discriminations et de promotion de l'égalité, le Défenseur des droits "souhaite donc, en partenariat avec la Cnil, alerter sur la nécessité pour les pouvoirs publics de se mobiliser dès maintenant pour prévenir et corriger ces discriminations".

Dans un entretien au JDD, Jacques Toubon explique que les algorithmes "doivent répondre à un objectif de transparence et d'égalité". Selon lui, "les créateurs de ces outils ne sont pas seulement des génies des maths, ils ont une responsabilité sociale, tout comme les grandes entreprises mondiales qui en sont à l'origine".