Reconnaissance faciale : "Ces logiciels, comme beaucoup de technologies, peuvent avoir une utilisation néfaste", estime un spécialiste

Amazon a décidé d'interdire à la police d'utiliser son logiciel de reconnaissance faciale Rekognition pendant un an, dans un contexte de pression des associations de défense des libertés et de manifestations contre les violences policières et le racisme aux États-Unis. Jean-Gabriel Ganascia, professeur à Pierre et Marie Curie et expert en intelligence artificielle, a estimé jeudi 11 juin sur franceinfo que "ces logiciels, comme beaucoup de technologies, peuvent avoir une utilisation néfaste".

franceinfo : Que reproche-t-on à ce logiciel Recognition ?

Jean-Gabriel Ganascia : C’est un logiciel qui peut être utilisé par la police pour reconnaitre les visages dans une manifestation et poursuivre les personnes après la manifestation. Cela a l’air d’être extrêmement intrusif, extrêmement policier comme outil. C’est pour lutter contre ça que les ONG d’un côté, les employés d’Amazon de l’autre, ont demandé à la société d’arrêter de fournir le logiciel au service public.

Effectivement, c'est une question extrêmement importante pour les libertés publiques. En même temps, il y a une deuxième chose qui est très étonnante, c'est que normalement, ce sont des décisions politiques. Nous voyons que nous avons la société civile d'un côté et puis les sociétés privées qui se font le relais de l'opinion de la société civile pour forcer les politiques dans les questions qui relèvent normalement de la souveraineté. C’est une évolution politique centrale de nos sociétés.

Une étude a montré que ce logiciel-là peinait à identifier le sexe des personnes à la peau foncée. Cela donnait lieu à des craintes d'arrestation injustes fondées sur des reconnaissances faciales inexactes. Est-ce un risque ?

Il se peut effectivement qu’il y ait des erreurs. D'autant plus, que lorsqu'on a affaire à des gens dont la peau est foncée, souvent pour des raisons simplement d’éclairage, on a plus de difficulté avec ces logiciels. Cela conduit d'ailleurs quelques fois des personnes à dire qu'il y avait ce qu'on appelle des biais ou que les systèmes étaient racistes. Bien sûr, la technologie n'est pas en tant que telle raciste. Mais bien sûr, il peut y avoir des utilisations qui sont extrêmement problématiques. Et c'est bien sûr avec ce qui se produit aujourd'hui aux États-Unis, ce contre quoi les employés et un certain nombre d'organisations non gouvernementales s'opposent de façon extrêmement virulente.

Peut-il y avoir une utilisation éthique de ce genre de logiciel ?

Je pense que ces logiciels, comme beaucoup de technologies, peuvent avoir une utilisation néfaste, des utilisations policières en l’occurrence pour la reconnaissance faciale. On sait par exemple qu'en Chine, c'est utilisé pour établir le crédit social dans la population, ce qui donne froid dans le dos. Ce qui veut dire que chacun a une note. Mais on peut avoir des utilisations qui sont tout à fait positives. Par exemple, le système Parafe (Passage automatisé rapide aux frontières extérieures) dans les aéroports qui permet de s'identifier.

De même, peut être que vous allez de chez vous pouvoir vous connecter sur votre compte bancaire en croisant la reconnaissance faciale et d'autres techniques pour vous assurer que c'est bien vous qui êtes présents. Dans ce cas-là, ça peut être extrêmement positif. Donc, ça dépend vraiment de ce que l'on en fait.