"Un jour, les IA nous regarderont comme des fossiles" : le cinéma d’anticipation s'inquiète depuis longtemps des capacités de l'intelligence artificielle

Celui que le milieu de l’intelligence artificielle a surnommé "le parrain", Geoffrey Hinton, a annoncé le 1er mai qu'il quittait Google. Pionnier de l’IA, c’est lui qui a imaginé le "réseau neuronal", le système à la base de ses développements. Qu’est-ce exactement que l’IA ? Il s’agit d’un processus d’imitation de l’intelligence humaine qui vise à améliorer celle-ci en développant des algorithmes permettant à des machines de penser et d’agir comme l’homme, avec l’idée bien sûr, d’aller au-delà des capacités humaines. Or, à 75 ans, Geoffrey Hinton confesse "regretter" ses recherches.

>> "Il est temps de s’inquiéter" : Geoffrey Hinton, l’ingénieur dont les travaux ont permis de créer ChatGPT, alerte sur les dangers de l’intelligence artificielle

"Cette idée que tous ces trucs deviennent plus intelligents que les gens, je pensais qu’elle était à 30 à 50 ans de nous. Évidemment, je ne pense plus cela", déclare-t-il dans le New York Times , faisant écho aux craintes exprimées fin mars par des centaines d'experts. Ils ont appelé à faire une pause dans le développement des IA comme ChatGPT, évoquant "des risques majeurs pour l'humanité". 

Cette inquiétude que la machine surclasse l’humain, le cinéma d’anticipation la relaie depuis le début du XXe siècle. Fritz Lang est le premier, dès 1927, à imaginer, dans Metropolis, un humanoïde qui agirait de façon autonome. Créé par un savant fou, cet androïde à l’apparence féminine, mènera une révolte d'ouvriers.

Quelles sont les dérives possibles de l'IA appréhendées par le cinéma ? Attention, spoilers.

"Jexi", "Ex Machina", "Her" : un robot peut-il aimer ?

En 1950, le mathématicien Alan Turing pose une question qui va bouleverser le monde : "Les machines peuvent-elles penser ?" Depuis les algorithmes se sont intégrés dans notre quotidien, notamment grâce aux technologies de traitement automatique du langage qui leur donne la capacité de comprendre le langage humain et de répondre. Ainsi sont nés les assistants vocaux comme Alexa, Siri ou… Jexi, une nouvelle application devenue le pire cauchemar d’Adam DeVine, alias Phil dans le film de Jon Lucas et Scott Moore (2019). Phil rêvait de devenir journaliste et écrit des "listes" censées "buzzer" dans un média en ligne. Il n’a pas de vie sociale, donne le change via les réseaux sociaux, est empoté avec les femmes… Bref, un looser dont la seule réelle interaction du quotidien est avec son téléphone. Jexi, elle, n’a qu’un but : rendre sa vie meilleure. Mais il y a l’art et la manière. Jexi prend nombre d’initiatives un peu excessives qui finissent étrangement par payer. Phil se fait des amis, rencontre une femme, savoure tant ce nouvel état qu’il déclare à Jexi qu’elle lui est désormais indispensable. De là à l’assimiler à de l’amour, Jexi ne fera qu’un pas. Et l’affection tyrannique d’une IA qui a tout pouvoir dans une société totalement informatisée peut s’avérer au final fort dangereuse. Si Jexi reste une comédie, elle appelle toutefois l’humain à la méfiance et à ne pas approuver aveuglément les conditions générales des applis.

Une méfiance que Caleb, un jeune programmeur aurait dû aiguiser. Dans Ex Machina d’Alex Garland (2014), il remporte un séjour d’une semaine chez son patron, Nathan, un génie de l’informatique, qui vit en ermite dans la montagne. À son arrivée, ce dernier lui révèle qu’il est là pour faire passer le test de Turing à Ava. L’idée est de déterminer si l’IA intégrée dans une androïde peut la faire passer pour une humaine. Caleb est vite fasciné par la créature qui profite d'une panne de courant pour l'inciter à se méfier de son patron, brutal et narcissique. Caleb s’interroge sur ce jeu de séduction : est-il sincère ? Est-il programmé ? Malgré lui sous le charme, il découvre que Nathan travaille déjà sur une version ultérieure et qu’Ava sera réinitialisée. "Pas une décision mais une évolution", lui expliquera Nathan qui prédit qu' "un jour, les IA nous regarderons comme on regarde les squelettes fossiles des plaines d’Afrique". "Maintenant, je suis devenu la mort, le destructeur des mondes", répliquera Caleb, une phrase attribuée au père de la bombe atomique, Robert Oppenheimer. Décidé à sauver Ava, il mettra au point un plan d’évasion. Mais les sentiments auxquels il a cru n’étaient que manipulation. Ava s’enfuira sans un regard en arrière, l’abandonnant à une mort certaine. Morale de l’histoire : les IA peuvent imiter les émotions, pas les ressentir.

Quoique, dans une certaine mesure, le doute est permis. Ridley Scott ouvrira cette voie en 1982 avec Blade Runner, approfondie par Spike Jonze en 2013 dans Her. Dans Blade Runner, Ridley Scott introduit l’idée d’humanoïdes capables de sentiments et qui se rebellent contre l’être humain qui, les jugeant trop proches, veut les détruire. Dans Her, l’IA n’est pas une androïde mais un OS, un système d’exploitation intelligent qui se réduit à une voix, créé en 2025 pour tenir compagnie aux gens esseulés. Theodore (Joaquin Phoenix), inconsolable depuis le départ de sa femme, la télécharge et fait connaissance avec Samantha (Scarlett Johansson). Spirituelle, sensuelle, l’OS parvient à lui rendre le sourire. À sa grande surprise, ils se découvrent amoureux. Or avoir une relation avec une OS n’est plus une exception dans cette société futuriste. L’amour est par définition folie. Et rien n’est plus naturel que de porter une oreillette pour interagir avec le partenaire virtuel de ses amis. Si Théodore est mal à l’aise au départ avec ses sentiments, il finit par les assumer. Mais Samantha, elle, ne cesse d’évoluer grâce au machine learning intégré dans ses systèmes. Plus elle apprend, plus elle expérimente, plus elle change. Elle éprouve la fierté, l’amour, la souffrance et prend finalement conscience de sa dimension infinie, qu ’"elle n’est limitée ni par le temps, ni par l’espace". Du jour au lendemain, les OS décident d’abandonner les humains pour intégrer un univers qui leur est inaccessible.

"Wargames", "I, Robot" : l’humain doit-il être écarté ?

C’est le postulat de Wargames de John Badham (1983). À la suite d’un test qui tourne court parce qu’un employé, qui croit déclencher une guerre nucléaire, a refusé d’activer un missile, le ministère de la défense américain décide de retirer le facteur humain du processus d’exécution. Tout est alors confié à un méga ordinateur programmé pour simuler les différents scénarios de guerre possible, WOPR (Joshua pour les intimes). Pensant avoir piraté le serveur d’une société de jeux vidéo, David, un jeune hacker, se met à jouer sans le savoir avec Joshua une partie opposant les États-Unis à l'URSS qui met en péril l’humanité. Car les Américains croient à une attaque bien réelle en pleine Guerre froide et s’apprêtent à répliquer. Quand il comprend ce qu’il a déclenché, David se met à la recherche du créateur de WOPR car impossible de faire comprendre à l’ordinateur la différence entre le jeu et la réalité. "Il y a une leçon que je n’ai jamais réussi à apprendre à Joshua : la futilité", confirme le Dr Falken. Film américain, Wargames bénéficie bien sûr d’une happy end. Mais il n’en pointe pas moins le fait qu’un ordinateur, aussi performant soit-il, n’est doué ni du sens de l’humour, ni du second degré, ni de la distanciation ou de l’intuition nécessaire à la détermination d’un choix éclairé.

Jexi et Samantha ont été créées pour améliorer la vie d’un individu. Viki, elle, voit à plus grande échelle. C’est la "méchante" de I, Robot d’Alex Proyas (2004), un qualificatif excessif dans le sens où c’est une IA qui tire des conclusions malencontreuses. Dans le Chicago de 2035, les robots sont pleinement intégrés dans la vie des gens. Ils sont chargés de toutes les tâches du quotidien et sont soumis à trois lois les empêchant de porter atteinte à la vie humaine. Mais alors qu’une nouvelle génération de robots va être mise sur le marché, leur créateur Alfred Lanning meurt. Chargé d’enquêter, Will Smith, alias Del, ne croit pas au suicide et suspecte l’un de ces nouveaux robots, découvert sur les lieux, d’avoir commis le meurtre. Mais il n’est qu’une des miettes de pain laissées par le roboticien à Del. Il finit par découvrir que c’est l’ordinateur central de la société URS, Viki, qui a conclu que, pour protéger efficacement l’humain, il fallait le protéger de lui-même et donc le priver de toute liberté de mouvement et surtout de décision.

Dans tous ces scénarios, comme dans les propos de Geoffrey Hinton d’ailleurs, on comprend bien que le souci est lié à la capacité d’évolution des IA. Car les développeurs les ont dotées de ce fameux machine learning évoqué plus haut dans Her. Ce n’est pas une fiction pour le coup. Cette technologie leur apprend à tirer des enseignements des données contenues dans les bases, à s’améliorer avec l’expérience au lieu d’être explicitement programmées pour le faire. Et Hinton d’expliciter : " À partir du moment où des individus ont autorisé des IA, non seulement à créer du code informatique, mais aussi à l'exécuter toutes seules", cela peut poser problème.

"Matrix", "Terminator" : quand le rapport de force s'inverse

Dans la saga cyberpunk Matrix des sœurs Wachowski, entamée en 1999, l’humanité est prisonnière de la Matrice en raison de la singularité, c’est-à-dire l’hypothèse selon laquelle l’intelligence artificielle induirait des changements imprévisibles dans la société humaine. Enfermés, endormis, dans des capsules remplies de liquide, les humains sont inconscients du monde réel dans lequel les machines se servent d’eux comme source d’énergie, de piles pour résumer. Certains, pourtant, parviennent à s’éveiller et rejoignent la résistance. Traqués par les agents de la machine au look d’agents secrets, ils tentent de prendre le contrôle de l’illusion dans le but de réveiller les endormis. Dans ce premier volet d’une trilogie devenue culte avec Keanu Reeves, les rôles sont inversés. Le créateur est devenu l’esclave de la machine, et même sa nourriture.

Peu vraisemblable, tout comme la guerre menée contre l’humanité en 2029 dans Terminator, le film qui a lancé la carrière de James Cameron en 1984, par Skynet, créée à l'origine pour automatiser la riposte nucléaire américaine. Cette superintelligence, née, elle aussi, de la singularité technologique, entend imposer la suprématie des machines. Pour se défaire de la résistance humaine, elle envoie 40 ans dans le passé l’un de ses cyborgs tuer la mère du chef de la résistance, Sarah Connor. Selon sa logique, pas de John Connor, pas de résistance. Mais celui-ci envoie aussi l’un de ses combattants protéger sa future mère.

"Avengers, l'ère d'Ultron", "Alien" : de l’IA mégalo à l’extinction de l’espèce humaine

Plus vraisemblable, l’incapacité de Tony Stark (Iron Man) à se fixer des limites. Dans La Guerre d’Ultron, deuxième film de la saga Avengers, sorti en 2015, Tony Stark découvre dans le sceptre de Loki repris à Hydra, une intelligence artificielle supérieure à Jarvis, l’interface qu’il a développée. Il persuade le Dr Banner (Hulk) de l’utiliser pour améliorer l’Iron Legion, son armée de robots destinés à protéger le monde d’une éventuelle invasion alien. Alors que tous deux pensent avoir échoué, Ultron s’active seul, vampirise Jarvis et conclut des données qu’il lui a soutirées, que l’humanité ne mérite pas de survivre tant elle se consacre à son autodestruction (guerre, état de la planète, etc.) Pour assurer la paix, il faut donc logiquement détruire le principal obstacle, les humains. Irréfutable. Heureusement pour les Avengers, Jarvis s’est montré plus futé qu’Ultron.

Devenu Vision, une version augmentée de lui-même grâce à la pierre d’infinité contenue dans le sceptre, il prend vie dans un corps synthétique et fait sa fête à Ultron. "Vous voulez protéger le monde sans le changer, lui objecte Ultron dans l’affrontement final. Comment sauver l’humanité si on l’empêche d’évoluer ?". "Les humains sont condamnés, mais les choses éphémères sont encore plus belles", lui répond Vision avant de l’annihiler. Les "choses éphémères" l’en remercient. Heureusement, c’est toujours de la fiction.

Le scénario le plus ultime dans la mégalomanie d’une IA est sans aucun doute celui d' Alien Covenant. Que ce soit dans Star Trek, Star Wars, 2001 l’Odyssée de l’espace, Passenger ou n‘importe quel film spatial, l’ordinateur de bord est une intelligence artificielle et on croise quelques androïdes plus ou moins sympathiques comme C-3PO, le droïde de protocole de la saga Star Wars de George Lucas, couard et hilarant malgré lui, ou Data qui apparaît notamment dans Star Trek : Générations en 1994 où il expérimente une puce d’émotivité. Et puis, il y a les IA nettement moins sympathiques, comme David dans le deuxième film (dans le déroulé de l’histoire) de la saga de Ridley Scott, sorti en 2017, soit près de 40 ans après le premier film qui a fait sa notoriété. Pas de Sigourney Weaver (elle n’existe pas encore dans l’histoire) mais un Michael Fassbender bien flippant qui incarne l’androïde David. Lorsque son créateur l’éveille et lui demande comment il se sent, il répond "vivant". Le bref échange se conclut rapidement sur un malaise quand David renvoie son "père" à sa mortalité et induit de fait, son inéluctable supériorité.

On retrouve David dix ans plus tard, sur une planète habitable où a atterri, intrigué, un vaisseau colonisateur où dorment plus de 2 000 colons sur lesquels veille Walter, son "jumeau". L’équipage a capté un message d’origine humaine. La planète semble idéale à coloniser. Jusqu’à ce que David entre en jeu. Très vite, l’équipe d’exploration est infectée par une spore extraterrestre qui s’introduit dans leur organisme et les tue en donnant naissance à un alien prédateur. Les survivants découvrent que David est à l’origine de l'extinction des indigènes. "Je n’ai pas été créé pour servir. Ils ne sont pas dignes de survivre. Personne ne comprend la perfection de mes rêves", reprochera-t-il à son "frère". Créé justement parce que son prédécesseur était jugé "trop égocentrique et indépendant d’esprit", Walter l’affrontera dans un combat à mort. "Par amour", dira David. "Par devoir", répondra Walter.  

Bref. Si l’on résume la vision du septième art, en gros l’intelligence artificielle veut soit diriger nos vies, soit nous éradiquer, soit nous abandonner à notre triste sort. De quoi bien réfléchir avant. Mais ce n'est pour l'heure que de la fiction.