Robot, trop humain

Dans le cadre de l’appel des Fanes de Carottes « Robot, trop humain« , j’avais écrit l’édito1 que je reproduis ici (en l’étoffant un peu) et qui, il me semble, est tout à fait d’actualité. Dans une dépêche de l’AFP parue aujourd’hui, voici ce que l’on peut lire :

Les autorités pakistanaises estiment que les drones ont tué plus de 1.700 personnes ces trois dernières années, en grande majorité des combattants islamistes. Mais les missiles n’épargnent pas, parfois, les civils.

Un institut américain, la New America Foundation, estimait début octobre que les drones avaient tué entre 1.667 et 2.614 personnes depuis 2004, dont 20% de civils. L’institut britannique indépendant Investigative Bureau of Journalism recensait lui en août dernier 2.292 à 2.863 morts depuis 2004. Et si la plupart seraient, selon lui, des combattants de rang inférieur, jusqu’à 775 pourraient avoir été des civils, dont au moins 164 enfants.

Quand on confie à des machines la mission de tuer (fussent-elle simplement téléguidées), ne déshumanise-t-on pas le meurtre ? Ne se dédouane-t-on pas moralement de l’acte criminel en attribuant à autrui, à la matière, la responsabilité d’actes qu’on ne veut pas assumer. Et si, à l’avenir, ces machines gagnaient en autonomie et en intelligence ?

Ajout de décembre 2012 : Cet article a été publié dans le n°6 de l’Ampoule : Machines & inventions » publié par les Éditions de l’Abat-Jour et

La « loi de la nature » une superstition. — Si vous parlez avec tant d’enthousiasme de la conformité aux lois qui existent dans la nature, il faut que vous admettiez soit que, par une obéissance librement consentie et soumise à elle-même, les choses naturelles suivent leurs lois — en quel cas vous admirez donc la moralité de la nature — ; soit que vous évoquiez l’idée d’un mécanicien créateur qui a fabriqué la pendule la plus ingénieuse en y plaçant, en guise d’ornements, les êtres vivants. — La nécessité dans la nature devient plus humaine par l’expression « conformité aux lois », c’est le dernier refuge de la rêverie mythologique.

Humain, trop humain, F. Nietzsche

 Les robots, mais d’une manière générale les machines, prennent, au fil du temps, une part de plus en plus importante dans notre société : du simple iPod à la sonde Phoenix explorant Mars, les liens que nous tissons avec eux sont, chaque jour, plus complexes et plus étroits. Ce changement culturel, comme toute révolution liée au progrès technologique (comme ce fut le cas, par exemple avec l’avènement de l’imprimerie), se doit d’être accompagné par une réflexion interdisciplinaire sur les tenants et aboutissants de tels bouleversements. L’art en général et la science-fiction en particulier ont déjà entamé, depuis la moitié du siècle dernier, cette réflexion. A nous, simples citoyens, de la faire rebondir.

La relation étroite et ambiguë qui unit l’homme et le robot ne date pas du siècle dernier. Ni du siècle d’avant. Le désir de concevoir un outil comme extension de soi, comme suppléant amélioré, remonte en effet à ce temps très ancien où, pour la première fois, un homme s’est saisi d’une perche pour attraper un fruit inaccessible. L’image de la perche est, à mon avis, la meilleure illustration de ce fantasme qui nous envahit quand nous songeons au robot : le prolongement de nous-mêmes (cf. les nombreux exo- ou endosquelettes décrits et employés dans la science-fiction). En effet, l’humain, aussi humain soit-il, trop humain ou pas, fait face à ses propres limites (physiques mais aussi intellectuelles, émotives, etc.) qui l’entravent dans sa volonté de dominer le monde. Telle pomme est trop haute pour sa petite taille ? Qu’à cela ne tienne, son cerveau conçoit, Deus ex machina2, un engin capable de le prolonger, de compenser ses faiblesses, de suppléer à sa propre finitude, en un mot de perfectionner sa chair en projetant son être dans la matière, tout ceci dans le but programmé de dominer le réel (attraper une pomme, explorer des endroits inaccessibles ou dangereux, rendre possible ce que l’homme, de ses propres mains, ne peut réaliser).

 Comme nous l’ont montré précédemment InFolio, Llo et StellaStabat, beaucoup d’améliorations ont été apportées au robot depuis la perche originelle et l’homme ne cesse de perfectionner sa création. Il tente d’injecter à la machine ce qui lui semble le mieux le définir dans son humanité : l’intelligence, l’acquisition des sens et de la mobilité, le langage, la cognition et l’apprentissage, la socialisation, l’anthropomorphisme, les capacités émotionnelles… Les différentes voies visant à perfectionner le robot vont souvent dans le même sens : faire le robot à l’image de l’homme. Mais en mieux…

Car là est le carrefour paradoxal : l’homme imparfait, incapable de répondre entièrement aux ambitions démesurées qu’il s’est fixé, crée une machine pour le prolonger, pour le rendre parfait, mais, ce faisant, il lui injecte ses propres attributs, il le calque sur lui-même en gommant certains de ses défauts et en accentuant certaines qualités. Mais peut-on rendre quelque chose de parfait si on le fait hériter de soi-même, être imparfait ?

On voit bien que c’est un rapport métaphysique qui s’insinue entre ce sujet, l’homme, et ce qui semble être l’objet, le robot. Un flux entre deux matières opposées, entre le vivant et l’inerte, le souffle organique instillé dans la matière métallique inanimée. Un rêve, on ne peut plus démiurgique bien sûr, alchimique pour le moins ! L’homme assis sur le trône divin donne vie à la matière, le fantasme n’est pas nouveau : le dieu chrétien façonne l’homme à même la terre glaise, le rabin donne vie au Golem en inscrivant EMETH (vérité en hébreu) sur son front, Frankenstein insuffle l’étincelle de vie à sa créature, Geppetto taille un morceau de bois qui s’anime pour devenir Pinocchio, etc.

Derrière cette relation métaphysique, il y a aussi comme un désir de filiation qui s’installe entre l’homme et sa créature. Une filiation patriarcale bien sûr où le père éduque le fils selon ses propres critères mais surtout une relation de servitude dans la mesure où le fils n’existe que pour servir le père. En ce sens la relation homme-robot semble utilitariste : cependant elle peut entrer dans un schéma affectif comme ces nouveaux robots qui servent de familiers et d’animaux de compagnie.

Comme dans tous processus de (pro-)création, il y a également une projection spéculaire, inconsciente ou non, de sa propre image dans le corps de l’autre, quelque chose qui inconsciemment dit : « Je donne la vie à ce robot pour qu’il me survive et je le fais à mon image pour qu’il me perpétue et m’immortalise après ma propre disparition. » Le robot, en ce sens, peut être une réponse à notre désir de descendance parfaite et rêvée : l’enfant prodigue qui réalise en mieux tout ce que les parents n’ont jamais réussi à faire, et qui le fait durablement, même après leur mort. Tima, dans le Métropolis d’Ozamu Tezuka est typiquement cette petite fille-robot : créée par le docteur Laughton à l’image de sa fille disparue, afin de dominer le monde.

Hal, dans 2001, l’odyssée de l’espace

Jean-François Lyotard3 avance que notre obsession, notre fascination pour les voyages interstellaires, notre désir de nous transposer ailleurs, de tout refaire depuis le début (le fantasme de la seconde chance en quelque sorte) serait en relation directe avec la disparition programmée de notre espèce. Les hommes savent, inconsciemment ou non, que, quoiqu’il advienne, l’humanité est absolument éphémère et vouée à disparaître. Tôt ou tard. Au mieux, notre soleil a encore entre 5 et 7 milliards d’années à vivre et finira par s’éteindre, inexorablement, nous entraînant dans sa mort. Cette lubie de l’expatriation planétaire serait donc intrinsèquement liée à notre instinct de survie (argument que l’on peut bien sûr réfuter quand on observe le peu d’intérêt que suscite réellement la préservation de notre écosystème). Les robots dans ce cadre là ont tout à fait leur place. Si nous-mêmes, pour des raisons physiques, économiques ou autres, nous ne pouvons pas migrer corporellement vers d’autres lieux alors nous enverrions nos copies mécaniques immortelles, capables de nous représenter dans notre humanité, dont la mission serait le témoignage culturel et intellectuel de notre existence, la preuve historique de notre place dans l’histoire cosmique.

Enfin le robot suscite également beaucoup d’inquiétudes : depuis Isaac Asimov et ses lois morales dictant la conduite du robot4 jusqu’au très sérieux dossier d’Implications philosophiques5 qui réfléchit à l’octroi de droits aux robots afin de garantir l’intégrité de notre propre humanité. Les robots inquiètent autant qu’ils fascinent, car ils peuvent aussi refléter nos imperfections (la haine, la violence, la convoitise, la folie, etc.), mais en pire…

Le fantasme d’une armée de robots indestructibles sans conscience (que l’on retrouve souvent dans la Science Fiction comme dans la nouvelle Nouveau modèle6. L’autre inquiétude, que reflète bien la SF, est que le robot échappe totalement à notre contrôle, soit de manière technique (erreur de programmation, piratage) soit parce que nous lui aurions donné une conscience qui l’émancipe suffisamment pour qu’il échappe à notre contrôle (HAL dans 2001 l’Odyssée de l’Espace, de Arthur C. Clarke et Stanley Kubrick par exemple)… Quelles qu’en soient les raisons, la coexistence avec des êtres, par définition supérieurs à nous (en force, en intelligence, en résistance), fussent-ils créés et contrôlés par nous, est une source d’inquiétudes légitimes qui alimente depuis longtemps notre imaginaire et ravive nos angoisses d’asservissement (à l’échelle de notre espèce, comme dans la Planète des Singes). Tout ceci n’est évidemment pas sans nous rappeler le mythe d’un certain docteur Faust : entre progrès scientifiques, soif de connaissances, ambitions aux limites sans cesse repoussées, un pacte avec le diable peut être contracté sans même que nous nous en rendions compte.

Wall-e, seul survivant d’une terre rendue invivable par les humains…

Quoiqu’on en dise et qu’on voudrait nous faire croire, la problématique concernant les robots n’est pas restreinte aux seuls champs technologiques et scientifiques. La promiscuité et la relation que nous entretenons et continuerons de tisser à l’avenir avec les robots posent également d’autres questions (abordées finalement par la science fiction avant tout le monde) d’ordre éthique, eschatologique, anthropologique, psychologique, social. Il serait parfaitement irraisonné de les occulter car répondre à ces questions revient à fixer et à définir les limites, les rôles et les relations entre le créateur et sa création.

Humain, trop robot, avez-vous dit ? Non ! Robot, trop humain.


En infra...

  1. Beaucoup de remerciements accompagnent cet édito avec en premier lieu, InFolio, Ekwerkwe,  Rose, StellaStabat pour leurs éclairages et leurs exemples dans la littérature de SF []
  2. A propos du cerveau, cette remarquable réflexion d’Andrée Chedid :

    « Nous sommes néanmoins trop simples et nos vies bien trop brèves, pour arriver jusqu’au bout de ce cerveau millénaire tellement vaste avec toutes ses voies multiples et ses méandres. D’ailleurs comprendre le cerveau à l’aide du cerveau serait, comme dirait mon ami philosophe, « aussi impossible que de s’asseoir sur ses propres genoux ». Jamais, tant
    sa construction est complexe nous n’en verrons la fin. À moins peut-être qu’un jour grâce, à un robot ou à une machine un homme crie : « Deus ex machina. »

    Ou plutôt deus ex Machina? »

    L’Étoffe de l’univers, Andrée Chedid, Flammarion, 2010 []

  3. La Condition Postmoderne, Jean-François Lyotard, Coll. Critique, Editions de Minuit, 1979 []
  4. « Les Robots« , Isaac Asimov, J’ai lu, 1967 :

    •  Première Loi : ‘Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.’ ;
    • Deuxième Loi : ‘Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.’ ;
    • Troisième Loi : ‘Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi.’ »

    []

  5. http://www.implications-philosophiques.org est un site d’expression philosophique et éthique qui regroupe des étudiants avancés issus de disciplines variées. Le dossier sur les robots est ici. []
  6. Second Variety, Philip K. Dick, 1953) de Philip K. Dick d’où sera tiré le film Planète Hurlante de Christian Duguay) n’est pas loin. A propos de l’usage meurtrier qu’on l’on pourrait faire des robots, on pourra lire les articles de Noel Sharkey, professeur de robotique à l’université Sheffield, qui met en garde contre l’utilisation déjà effective — les articles datent de 2007 — des robots par l’armée : un article ici et un autre en anglais là []

2 Comments Robot, trop humain

  1. Julie (De Litteris)

    Je relis pour la troisième fois cet article en le trouvant toujours aussi excellent et juste (notamment cette dernière partie où tu parles d’expatriation… je n’avais pas vu les choses ainsi et je trouve cette idée de robots, emblématiques de l’humanité, intéressante : après tout, c’est un module, une machine – même emplie de musique, d’extraits des différentes langues de l’humanité, de représentations artistiques- que nous avons envoyée à travers l’espace, pour nous représenter).

    Ce que tu évoques dans un premier temps (l’auto-robotisation de l’homme) me fait penser à une nouvelle de Greg Egan, « en apprenant à être moi », où l’homme a découvert le moyen d’atteindre l’immortalité en transférant sur un cristal ses souvenirs et en insérant dans un corps robotisé ce cristal. Mais les souvenirs sont-ils suffisants pour définir l’homme ? Un corps bionique peut-il être considéré comme un véritable réceptacle « humain », propre à contenir le moi ?

    C’est un très beau texte, que je te recommande, si tu le connais pas : tu le trouveras dans le recueil « axiomatique » (en livre de poche), avec les autres excellentes réflexions, entre SF et métaphysique, de cet auteur australien.

    belle journée à toi!

  2. Sébastien

    Poser la question de l’humanisation du robot (que toutes les recherches scientifiques tendent à réaliser) implique éthiquement, il me semble, qu’on ait répondu à LA question anthropo-ontologique : Qu’est-ce qui définit réellement l’humanité dans l’homme ? Sa culture et son histoire (sa mémoire dit Greg Egan) diraient certains, sa carte génétique diraient d’autres… Sa faculté de créer ses outils, de s’adapter à l’environnement… Il y un peu de tout ça et pourtant ce n’est pas suffisant. On a longtemps cru, avec Descartes, que la Raison était la définition absolue de l’homme (reléguant par là même un certain nombre de fous à l’état de sous-humains), or l’histoire nous a montré qu’avec raison l’homme pouvait commettre les pires actes de barbarie… Devant cet échec, Lévinas propose de définir l’homme comme un être capable de répondre de ses dires et de ses actes, de répondre de et pour lui-même et de répondre de et pour l’ensemble de sa communauté… Le robot, pour moi, sera trop humain à partir du moment où il sera capable d’endosser ce « répondre de et pour » de Lévinas. A quand donc un robot « responsable » ? Ceci rejoint finalement les 3 lois édictées par Asimov.

    J’essaierai de trouver Greg Egan, ça fait longtemps d’ailleurs que je n’ai pas lu de SF… Merci du tuyau !

Ecrire dans les marges