Nouveau monde. L'inquiétante démocratisation de la reconnaissance faciale

Une technologie qui permet d’identifier une personne à partir d’une simple photo, en la comparant avec quelque trois milliards d’images provenant des réseaux sociaux comme Facebook, YouTube, etc. Ce n’est pas une application créée par un grand groupe technologique ou par une agence gouvernementale, non, c’est une solution bon marché qui émane d’une simple start-up.

Selon le New York Times, qui révèle l’existence de cette solution, celle-ci serait même déjà prête pour fonctionner dans un casque de réalité augmentée.

Une technologie inquiétante

Mise au point par Clearview AI, cette solution commence à faire polémique aux États-Unis, parce qu'elle repose sur l'exploitation sans autorisation de photos provenant notamment de Facebook. Mais surtout, au-delà, cela pose la question de la démocratisation d’une technologie aussi sensible que l'identification par reconnaissance faciale. C’est trop simple, trop bon marché. Le New York Times révèle que l’application est déjà utilisée par plusieurs services de police locaux, aux États-Unis et ailleurs. Demain, par n'importe qui ? Clearview a été fondée par un proche de l’ancien maire de New York, Rudolph Giuliani, et elle est soutenue financièrement par l’investisseur Peter Thiel, co-fondateur de Palantir, société spécialisée dans l’exploitation du big data pour les gouvernements.

Le bon côté de la reconnaissance faciale, c’est la possibilité de retrouver des terroristes ou des enfants perdus au milieu d’une foule. Le mauvais, c’est le risque de pister de simples citoyens ou, dans certains pays, des opposants politiques. En plus, se pose la question de la fiabilité. Clearview annonce 75% de réussite, ce qui laisse un gros risque de "faux positifs", c'est-à-dire des personnes identifiées à tort. On sait que les algorithmes de reconnaissance faciale ont notamment du mal à être efficace avec des personnes à la peau noire.

Un moratoire en Europe ?

La reconnaissance faciale, techniquement, est aujourd’hui une réalité. On peut parier que ce type d’outils va se développer, tout comme ceux permettant de créer des deepfakes (fake news à partir de vidéos). Donc, tout dépend de l’utilisation qui est faite de cette technologie. La réponse n’est pas technologique, elle est juridique.

Des villes comme San Francisco ont pris la décision d’interdire l’identification faciale par la police. En France, des expérimentations sont menées (Nice, Marseille). Au niveau européen, c’est la prudence qui domine. La Commission européenne envisage un moratoire de trois à cinq ans, pendant lequel l’identification faciale serait interdite dans l’espace public. Comme tout ce qui touche à l’équilibre entre sécurité et vie privée, il s’agit donc d’une question éminemment politique.