Technologies : l'intelligence artificielle trop "inhumaine" pour partir au combat

Dernier volet de notre panorama des armes et technologies qui feront les guerres de demain. Vendredi 4 août, on s'intéresse à l'intelligence artificielle (IA) qui menace de remplacer le soldat, avec à la clef d'énormes questions éthiques.
Article rédigé par France Info, Eric Biegala
Radio France
Publié Mis à jour
Temps de lecture : 2 min
Un simulateur de vol de l'Armée de l'Air française avec l'assistanced'une intelligence artificielle, au Festival Mondial de l'Intelligence Artificielle de Cannes (WAICF), le 9 février 2023. (ERIC DERVAUX / HANS LUCAS)

L'intelligence artificielle est déjà largement employée dans les systèmes d'arme, notamment pour ce qui est de la navigation. Les avions utilisent des systèmes qui agrègent, apprennent à utiliser une masse de données pour décider d'une marche à suivre, concernant les performances de l'appareil. Là où il y a encore 15 ou 20 ans, c'était le pilote qui prenait la décision, l'IA peut maintenant également gérer l'étagement de la maintenance des pièces et appareils de toute une flotte.

>> Le "rayon de la mort" : de la science-fiction à la réalité

L'intelligence artificielle se révélera sans doute indispensable pour gérer les relations entre un avion de combat et ses drones ailiers, comme ce sera le cas pour l'avion de chasse dit de 6e génération. L'US Air Force américaine a déjà mis en œuvre quelques expérimentations en ce domaine.

À terre également, l'intelligence artificielle peut être utilisée pour naviguer de façon parfaitement autonome (sans guidage ou repérage satellitaire) sur des terrains perpétuellement changeants, comme un champ de bataille, où le relief et les obstacles peuvent être modifiés d'heure en heure.

Remplacer des tâches humaines

Autre application militaire possible de l'IA : elle peut automatiser de nombreuses tâches normalement remplies dans un état-major, comme la planification de l'environnement ou l'analyse du renseignement opérationnel. La start-up française NukkAI, en partenariat avec Thalès, a par exemple conçu une intelligence artificielle capable de fusionner des données totalement hétérogènes et permettre à un état-major de 15 personnes de faire le même travail qu'un état-major de 100 personnes. Le système doit d'ailleurs être testé incessamment à l'occasion d'un exercice de l'Otan.

>> Combats aériens : l'intelligence artificielle va-t-elle remplacer le pilote ?

Existera-t-il à terme, des armes pilotées entièrement par intelligence artificielle ? Sans doute, mais il vaudrait probablement mieux l'éviter. En 2020, un exercice sur simulateur de combat aérien tournoyant et mettant aux prises un appareil piloté par un pilote chevronné, l'un des as de Top Gun, et un appareil piloté par une IA, s'est traduit par une victoire sans appel de l'intelligence artificielle : cinq "kill" pour l'IA, aucun pour le pilote. Il faut dire que l'intelligence artificielle pilotait de manière absolument "inhumaine", attaquant par exemple en face-à-face, ce qu'un pilote de combat ne fait jamais et n'est d'ailleurs nullement entraîné à faire.

L'IA capable de se retourner contre nous

Pire peut-être ; en mai dernier, un colonel de l'armée de l'air américaine racontait, dans un colloque londonien, qu'on pourrait parfaitement imaginer un drone piloté par IA, mais sous contrôle d'un opérateur humain, et chargé de bombarder des batteries ennemies, choisir de se débarrasser de l'opérateur, en le tuant, pour être sûr de remplir sa mission première. L'officier signalait même une autre réaction "intelligente" du drone, une fois qu'on lui eut interdit de s'en prendre physiquement à l'opérateur : il avait trouvé un autre moyen de le circonvenir en détruisant les relais de communication qui auraient permis à l'opérateur de le freiner dans sa mission première.

Actuellement les armées occidentales (américaine, française, britannique) s'interdisent officiellement de construire ou de tester des Systèmes d'Armes Létales Autonomes, pilotées par intelligence artificielle. Mais tout le monde n'a peut-être pas les mêmes scrupules.

Commentaires

Connectez-vous à votre compte franceinfo pour participer à la conversation.