Nouveau monde. Vers une intelligence artificielle "responsable"

Le géant Google vient d’adopter une liste de grands principes éthiques en matière d'intelligence artificielle. Va-t-on vers une "bonne" et une "mauvaise" IA ? 

"Bénéficier à la société", "éviter de créer des biais injustes", "respecter la vie privée" ou encore  "rendre des comptes". Voilà quelques-uns des principes adoptés récemment par le groupe Google en matière d’intelligence artificielle. Une charte officielle que la firme vient de rendre publique. De l’IA propre et éthique en somme.

Pourquoi Google se soucie d’éthique ?

Une histoire a récemment agité la Silicon Valley. On a appris que Google avait passé un partenariat avec le Pentagone pour un projet baptisé Maven, visant à l’analyse d’images de drones. Cela a généré beaucoup d’agitation en interne, avec une pétition signée par plus de 4 000 employés et même la démission d’une douzaine d’entre eux.

Pas question pour ces salariés de travailler sur des technologies de guerre. Ils ont réclamé une politique claire en la matière. En réponse, Google publie donc cette charte et annonce sa décision de rompre le partenariat avec le Pentagone à partir de l’an prochain. Déjà que la firme vient d’abandonner sa devise Don’t be evil (ne pas faire le mal), tout cela a provoqué un certain émoi.

Pourquoi le Pentagone a-t-il besoin des Gafam ?

Les géants du numérique sont aujourd’hui les plus avancés en matière d’intelligence artificielle. Google possède la société Deep Mind, rachetée en 2014, qui a mis au point le programme AlphaGo victorieux du champion mondial de Go. La firme travaille sur des projets avancés au sein de sa division Google AI.

Tout cela ne veut pas dire que la compagnie de Sundar Pichaï ne va plus du tout travailler avec l’armée. Elle ne s’interdit pas de plancher sur des projets en matière de cybersécurité, d’entraînement, de recrutement de santé des soldats.

Craintes en matière d’IA

L’intelligence artificielle peut apporter énormément de choses aux forces de défense. Mais on sait également les craintes qui entourent le développement de ces technologies. Le fait que les géants du numérique choisissent dès maintenant de se positionner sur ces questions marque peut-être une étape importante.

Il faudra peut-être, demain, légiférer sur la  "bonne" et la  "mauvaise" IA. Cette annonce est aussi un élément de communication qui permet à Google de redorer son blason dans un contexte actuel un peu tendu pour les géants du numérique.