Nouveau monde. Identification de l'orientation sexuelle par intelligence artificielle : une question d’éthique

Des chercheurs de l’université américaine de Stanford ont publié un article scientifique montrant qu’il serait possible à une intelligence artificielle de savoir si des personnes sont homosexuelles ou hétérosexuelles, juste en analysant leurs visages sur des photos. Cela se baserait sur l’idée que les homosexuels hommes auraient souvent des traits de visage féminins et les lesbiennes souvent des traits masculins. Le programme se serait "entraîné" sur 35 000 photos sur Facebook. Les résultats seraient loin d’être infaillibles mais néanmoins significatifs : les chercheurs parlent de 81% de réussite pour les hommes et 74% pour les femmes.

Big Brother des mœurs

Cette affaire a suscité immédiatement des inquiétudes et des réactions d’indignation. Le site Usbek et Rika se demande quelle utilisation de ce logiciel pourrait être faite dans un pays comme la Tchétchénie qui traque les homosexuels. Il faut toutefois préciser que le but de ces chercheurs n’est pas de faire la promotion de ce genre d’intelligence artificielle, au contraire. Ils ont voulu mettre en garde contre des exploitations déviantes ou inappropriées de l’intelligence artificielle qui pourraient aller à l’encontre du respect de "la vie privée et de la sécurité des homosexuels". D’ailleurs, ils se sont refusés à rendre publique l’algorithme qu’ils ont utilisé.

Réguler l’IA

Dans le cas présent, deux questions se posent. D’abord, peut-on déterminer avec fiabilité l’orientation sexuelle d’une personne à partir de son aspect physique ? C’est déjà un postulat qui repose sur des théories controversées. Ensuite, en admettant que ce soit possible techniquement, a-t-on le droit de le faire ? Dans quel cadre juridique ou même politique ? Cette étude montre surtout qu’il paraît vraiment nécessaire de se pencher sur la question de "l’éthique de l’intelligence artificielle". L’IA n’est pas dangereuse en elle-même, c’est l’utilisation que l’on peut en faire qui a de quoi inquiéter. Les algorithmes ne sont que des outils et c’est aux hommes de déterminer avec précision ce qu’il est possible de faire ou de ne pas faire avec. Mais c’est sans doute plus facile à dire qu’à faire.