Deux intellectuels assis iraient-ils moins loin, désormais, qu’un robot qui marche ? Telle est la question à laquelle ont répondu près de 17.000 signataires d’une lettre ouverte lancée le 28 juillet par une cohorte de scientifiques, spécialistes de neuroscience, de robotique et d’intelligence artificielle, inquiets, semble-t-il, que la réalité soit en train de dépasser la science-fiction. Demain, des robots pourraient s’émanciper de l’humanité, à des fins prioritairement belligènes.
Le texte est sans ambiguïté : « Des armes autonomes seraient idéales pour accomplir des tâches précises tels que des assassinats, ou des actions de déstabilisation des nations, soumettant des populations et tuant sélectivement un groupe ethnique particulier. » Cela fait froid dans le dos, en effet, et l’on se remémorera Hall 9000, l’ordinateur devenu fou de 2001, l’Odyssée de l’espace, ou encore Terminator. On pensera aussi à Planète hurlante, adapté d’un superbe roman de Philip K. Dick, sans oublier son fascinant Les Marteaux de Vulcain plaçant le monde sous la coupe d’ordinateurs tout-puissants, ou son non moins célèbre Les androïdes rêvent-ils de moutons électriques ? que Ridley Scott porta au cinéma sous le titre Blade Runner. Plus près de nous, Matrix, Transcendance, ou Ghost in the Shell.
Dès les années cinquante et jusqu’à la fin de sa vie, Jacques Ellul avait tenté d’avertir ses contemporains sur les inéluctables dérives du système technicien dans lequel l’homme s’est enchâssé au point d’en être devenu l’esclave. Un système exclusivement tourné vers le profit, par la grâce infernale d’un machinisme de plus en plus sophistiqué et aliénant. Tout comme, avant lui, mêmement prophétique, un Georges Bernanos, dans sa France contre les robots.
Aujourd’hui, des drones aux tapis roulants, en passant par les voitures sans chauffeurs, les animaux virtuels, tamagotchis ou véritables bestioles électroniques, les cyber-réceptionnistes ou robots à tout faire, jusqu’aux métamoteurs de recherche qui recensent et génèrent des milliers d’informations en un éclair de seconde, tout concourt à assister l’homme pour mieux se substituer à l’antique main-d’œuvre des usines ou des champs.
Mais demain ? Couvert par le secret d’État, le complexe militaro-industriel, notamment américain, développe plus que jamais, ces « armes autonomes » qui s’affranchissent allègrement de toute intervention humaine. L’astrophysicien Stephen Hawking se demande si la création de l’intelligence artificielle ne serait pas le plus grand événement dans l’histoire de l’homme, c’est-à-dire le dernier. Avant le grand Armageddon cybernétique ?
Le grand Isaac Asimov nous avait pourtant prévenus et, en démiurge de génie, nous avait révélé le Décalogue de la robotique : 1) Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger. 2) Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi. 3) Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi. 4) Un robot ne peut ni nuire à l’humanité ni, restant passif, permettre que l’humanité souffre d’un mal.
Cette dernière loi, appelée loi zéro, autorise même un robot à empêcher l’humanité de se nuire à elle-même. Au détriment des robots ?