Vidéo Les algorithmes qui nous entourent sont-ils racistes et sexistes ?

En 2017, une informaticienne nommée Joy Buolamwini s'est rendu compte qu'un logiciel censé reconnaître son visage n'y parvenait pas. La raison ? L'algorithme du logiciel ne détectait pas sa peau noire. Cette discrimination est le résultat d'un "biais algorithmique". "Les premiers algorithmes de reconnaissance faciale ne reconnaissaient pas les peaux noires pour la simple raison que les gens qui ont pensé et développé cet algorithme et l'ont implémenté étaient principalement blancs", explique l'auteure et informaticienne Aurélie Jean.

Des conséquences préoccupantes

Un algorithme apprend à partir d'une base de données comme un ensemble d'images. Si les données qu'on lui soumet excluent une catégorie de la population, l'algorithme l'exclura aussi. Les conséquences d'un biais algorithmiques peuvent être graves. Des chercheurs ont découvert que les voitures autonomes esquivaient mieux les piétons blancs que les piétons noirs. 

Des algorithmes sexistes ?

Conçus à 88 % par des hommes, les algorithmes reproduisent aussi le sexisme de notre société. Fin 2019, l'algorithme utilisé par la carte de crédit d'Apple aurait défavorisé les femmes dans l'obtention d'un crédit. Aurélie Jean rappelle toutefois que les algorithmes ne sont pas les "coupables" : "C'est nous les humains qui sommes machos, racistes, sexistes." Pour endiguer ce phénomène regrettable, Aurélie Jean loue une meilleure diversité dans le milieu du développement. "Par exemple, dans une équipe de 10 personnes, si on a deux ou trois femmes, on se rend compte que, parfois, ça suffit à créer une nouvelle dynamique", poursuit-elle.

Aujourd'hui, seulement 15 % des ingénieurs en informatique sont des femmes.