Robot, trop humain

Dans le cadre de l’appel des Fanes de Carottes « Robot, trop humain« , j’avais écrit l’édito ((Beaucoup de remerciements accompagnent cet édito avec en premier lieu, InFolio, Ekwerkwe,  Rose, StellaStabat pour leurs éclairages et leurs exemples dans la littérature de SF)) que je reproduis ici (en l’étoffant un peu) et qui, il me semble, est tout à fait d’actualité. Dans une dépêche de l’AFP parue aujourd’hui, voici ce que l’on peut lire :

Les autorités pakistanaises estiment que les drones ont tué plus de 1.700 personnes ces trois dernières années, en grande majorité des combattants islamistes. Mais les missiles n’épargnent pas, parfois, les civils.

Un institut américain, la New America Foundation, estimait début octobre que les drones avaient tué entre 1.667 et 2.614 personnes depuis 2004, dont 20% de civils. L’institut britannique indépendant Investigative Bureau of Journalism recensait lui en août dernier 2.292 à 2.863 morts depuis 2004. Et si la plupart seraient, selon lui, des combattants de rang inférieur, jusqu’à 775 pourraient avoir été des civils, dont au moins 164 enfants.

Quand on confie à des machines la mission de tuer (fussent-elle simplement téléguidées), ne déshumanise-t-on pas le meurtre ? Ne se dédouane-t-on pas moralement de l’acte criminel en attribuant à autrui, à la matière, la responsabilité d’actes qu’on ne veut pas assumer. Et si, à l’avenir, ces machines gagnaient en autonomie et en intelligence ?

Ajout de décembre 2012 : Cet article a été publié dans le n°6 de l’Ampoule : Machines & inventions » publié par les Éditions de l’Abat-Jour et

La « loi de la nature » une superstition. — Si vous parlez avec tant d’enthousiasme de la conformité aux lois qui existent dans la nature, il faut que vous admettiez soit que, par une obéissance librement consentie et soumise à elle-même, les choses naturelles suivent leurs lois — en quel cas vous admirez donc la moralité de la nature — ; soit que vous évoquiez l’idée d’un mécanicien créateur qui a fabriqué la pendule la plus ingénieuse en y plaçant, en guise d’ornements, les êtres vivants. — La nécessité dans la nature devient plus humaine par l’expression « conformité aux lois », c’est le dernier refuge de la rêverie mythologique.

Humain, trop humain, F. Nietzsche

 Les robots, mais d’une manière générale les machines, prennent, au fil du temps, une part de plus en plus importante dans notre société : du simple iPod à la sonde Phoenix explorant Mars, les liens que nous tissons avec eux sont, chaque jour, plus complexes et plus étroits. Ce changement culturel, comme toute révolution liée au progrès technologique (comme ce fut le cas, par exemple avec l’avènement de l’imprimerie), se doit d’être accompagné par une réflexion interdisciplinaire sur les tenants et aboutissants de tels bouleversements. L’art en général et la science-fiction en particulier ont déjà entamé, depuis la moitié du siècle dernier, cette réflexion. A nous, simples citoyens, de la faire rebondir.

La relation étroite et ambiguë qui unit l’homme et le robot ne date pas du siècle dernier. Ni du siècle d’avant. Le désir de concevoir un outil comme extension de soi, comme suppléant amélioré, remonte en effet à ce temps très ancien où, pour la première fois, un homme s’est saisi d’une perche pour attraper un fruit inaccessible. L’image de la perche est, à mon avis, la meilleure illustration de ce fantasme qui nous envahit quand nous songeons au robot : le prolongement de nous-mêmes (cf. les nombreux exo- ou endosquelettes décrits et employés dans la science-fiction). En effet, l’humain, aussi humain soit-il, trop humain ou pas, fait face à ses propres limites (physiques mais aussi intellectuelles, émotives, etc.) qui l’entravent dans sa volonté de dominer le monde. Telle pomme est trop haute pour sa petite taille ? Qu’à cela ne tienne, son cerveau conçoit, Deus ex machina ((A propos du cerveau, cette remarquable réflexion d’Andrée Chedid :

« Nous sommes néanmoins trop simples et nos vies bien trop brèves, pour arriver jusqu’au bout de ce cerveau millénaire tellement vaste avec toutes ses voies multiples et ses méandres. D’ailleurs comprendre le cerveau à l’aide du cerveau serait, comme dirait mon ami philosophe, « aussi impossible que de s’asseoir sur ses propres genoux ». Jamais, tant
sa construction est complexe nous n’en verrons la fin. À moins peut-être qu’un jour grâce, à un robot ou à une machine un homme crie : « Deus ex machina. »

Ou plutôt deus ex Machina? »

L’Étoffe de l’univers, Andrée Chedid, Flammarion, 2010)), un engin capable de le prolonger, de compenser ses faiblesses, de suppléer à sa propre finitude, en un mot de perfectionner sa chair en projetant son être dans la matière, tout ceci dans le but programmé de dominer le réel (attraper une pomme, explorer des endroits inaccessibles ou dangereux, rendre possible ce que l’homme, de ses propres mains, ne peut réaliser).

 Comme nous l’ont montré précédemment InFolio, Llo et StellaStabat, beaucoup d’améliorations ont été apportées au robot depuis la perche originelle et l’homme ne cesse de perfectionner sa création. Il tente d’injecter à la machine ce qui lui semble le mieux le définir dans son humanité : l’intelligence, l’acquisition des sens et de la mobilité, le langage, la cognition et l’apprentissage, la socialisation, l’anthropomorphisme, les capacités émotionnelles… Les différentes voies visant à perfectionner le robot vont souvent dans le même sens : faire le robot à l’image de l’homme. Mais en mieux…

Car là est le carrefour paradoxal : l’homme imparfait, incapable de répondre entièrement aux ambitions démesurées qu’il s’est fixé, crée une machine pour le prolonger, pour le rendre parfait, mais, ce faisant, il lui injecte ses propres attributs, il le calque sur lui-même en gommant certains de ses défauts et en accentuant certaines qualités. Mais peut-on rendre quelque chose de parfait si on le fait hériter de soi-même, être imparfait ?

On voit bien que c’est un rapport métaphysique qui s’insinue entre ce sujet, l’homme, et ce qui semble être l’objet, le robot. Un flux entre deux matières opposées, entre le vivant et l’inerte, le souffle organique instillé dans la matière métallique inanimée. Un rêve, on ne peut plus démiurgique bien sûr, alchimique pour le moins ! L’homme assis sur le trône divin donne vie à la matière, le fantasme n’est pas nouveau : le dieu chrétien façonne l’homme à même la terre glaise, le rabin donne vie au Golem en inscrivant EMETH (vérité en hébreu) sur son front, Frankenstein insuffle l’étincelle de vie à sa créature, Geppetto taille un morceau de bois qui s’anime pour devenir Pinocchio, etc.

Derrière cette relation métaphysique, il y a aussi comme un désir de filiation qui s’installe entre l’homme et sa créature. Une filiation patriarcale bien sûr où le père éduque le fils selon ses propres critères mais surtout une relation de servitude dans la mesure où le fils n’existe que pour servir le père. En ce sens la relation homme-robot semble utilitariste : cependant elle peut entrer dans un schéma affectif comme ces nouveaux robots qui servent de familiers et d’animaux de compagnie.

Comme dans tous processus de (pro-)création, il y a également une projection spéculaire, inconsciente ou non, de sa propre image dans le corps de l’autre, quelque chose qui inconsciemment dit : « Je donne la vie à ce robot pour qu’il me survive et je le fais à mon image pour qu’il me perpétue et m’immortalise après ma propre disparition. » Le robot, en ce sens, peut être une réponse à notre désir de descendance parfaite et rêvée : l’enfant prodigue qui réalise en mieux tout ce que les parents n’ont jamais réussi à faire, et qui le fait durablement, même après leur mort. Tima, dans le Métropolis d’Ozamu Tezuka est typiquement cette petite fille-robot : créée par le docteur Laughton à l’image de sa fille disparue, afin de dominer le monde.

Hal, dans 2001, l’odyssée de l’espace

Jean-François Lyotard ((La Condition Postmoderne, Jean-François Lyotard, Coll. Critique, Editions de Minuit, 1979)) avance que notre obsession, notre fascination pour les voyages interstellaires, notre désir de nous transposer ailleurs, de tout refaire depuis le début (le fantasme de la seconde chance en quelque sorte) serait en relation directe avec la disparition programmée de notre espèce. Les hommes savent, inconsciemment ou non, que, quoiqu’il advienne, l’humanité est absolument éphémère et vouée à disparaître. Tôt ou tard. Au mieux, notre soleil a encore entre 5 et 7 milliards d’années à vivre et finira par s’éteindre, inexorablement, nous entraînant dans sa mort. Cette lubie de l’expatriation planétaire serait donc intrinsèquement liée à notre instinct de survie (argument que l’on peut bien sûr réfuter quand on observe le peu d’intérêt que suscite réellement la préservation de notre écosystème). Les robots dans ce cadre là ont tout à fait leur place. Si nous-mêmes, pour des raisons physiques, économiques ou autres, nous ne pouvons pas migrer corporellement vers d’autres lieux alors nous enverrions nos copies mécaniques immortelles, capables de nous représenter dans notre humanité, dont la mission serait le témoignage culturel et intellectuel de notre existence, la preuve historique de notre place dans l’histoire cosmique.

Enfin le robot suscite également beaucoup d’inquiétudes : depuis Isaac Asimov et ses lois morales dictant la conduite du robot ((« Les Robots« , Isaac Asimov, J’ai lu, 1967 :

  •  Première Loi : ‘Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.’ ;
  • Deuxième Loi : ‘Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.’ ;
  • Troisième Loi : ‘Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi.’ »

)) jusqu’au très sérieux dossier d’Implications philosophiques ((http://www.implications-philosophiques.org est un site d’expression philosophique et éthique qui regroupe des étudiants avancés issus de disciplines variées. Le dossier sur les robots est ici.)) qui réfléchit à l’octroi de droits aux robots afin de garantir l’intégrité de notre propre humanité. Les robots inquiètent autant qu’ils fascinent, car ils peuvent aussi refléter nos imperfections (la haine, la violence, la convoitise, la folie, etc.), mais en pire…

Le fantasme d’une armée de robots indestructibles sans conscience (que l’on retrouve souvent dans la Science Fiction comme dans la nouvelle Nouveau modèle ((Second Variety, Philip K. Dick, 1953) de Philip K. Dick d’où sera tiré le film Planète Hurlante de Christian Duguay) n’est pas loin. A propos de l’usage meurtrier qu’on l’on pourrait faire des robots, on pourra lire les articles de Noel Sharkey, professeur de robotique à l’université Sheffield, qui met en garde contre l’utilisation déjà effective — les articles datent de 2007 — des robots par l’armée : un article ici et un autre en anglais là)). L’autre inquiétude, que reflète bien la SF, est que le robot échappe totalement à notre contrôle, soit de manière technique (erreur de programmation, piratage) soit parce que nous lui aurions donné une conscience qui l’émancipe suffisamment pour qu’il échappe à notre contrôle (HAL dans 2001 l’Odyssée de l’Espace, de Arthur C. Clarke et Stanley Kubrick par exemple)… Quelles qu’en soient les raisons, la coexistence avec des êtres, par définition supérieurs à nous (en force, en intelligence, en résistance), fussent-ils créés et contrôlés par nous, est une source d’inquiétudes légitimes qui alimente depuis longtemps notre imaginaire et ravive nos angoisses d’asservissement (à l’échelle de notre espèce, comme dans la Planète des Singes). Tout ceci n’est évidemment pas sans nous rappeler le mythe d’un certain docteur Faust : entre progrès scientifiques, soif de connaissances, ambitions aux limites sans cesse repoussées, un pacte avec le diable peut être contracté sans même que nous nous en rendions compte.

Wall-e, seul survivant d’une terre rendue invivable par les humains…

Quoiqu’on en dise et qu’on voudrait nous faire croire, la problématique concernant les robots n’est pas restreinte aux seuls champs technologiques et scientifiques. La promiscuité et la relation que nous entretenons et continuerons de tisser à l’avenir avec les robots posent également d’autres questions (abordées finalement par la science fiction avant tout le monde) d’ordre éthique, eschatologique, anthropologique, psychologique, social. Il serait parfaitement irraisonné de les occulter car répondre à ces questions revient à fixer et à définir les limites, les rôles et les relations entre le créateur et sa création.

Humain, trop robot, avez-vous dit ? Non ! Robot, trop humain.

Ecrire en marge
■■■

A la recherche de Daphné, François Robert

« A la recherche de Daphné »

Installation collective,
Jusqu’au 27 novembre à la médiathèque du Bois fleuri, Lormont (33)

Conception et intervention plastique : François Robert
Texte : Arnaud Pujol
Musique :  Serge Korjanevski
Vidéo : Justine Adenis
Photographie : Bernard Brisé

 

Je vous ai déjà parlé de François Robert, ami, graveur et artiste de tous poils… Après sa série sur le minotaure (qui nous vaut ce tendre minotaure au frontispice de ce labyrinthe), après sa participation au Boece in my mind du collectif Division Janacek, François Robert revient avec un autre mythe dans sa poche, celui de Daphné.

Poursuivre la recherche de Daphné sur le blog de François.

Ecrire en marge
■■■

Le chant du cygne alcalin

Le chant du cygne alcalin

Photographies : MAP
Sculpture : Jean No
Texte : Sébastien de Cornuaud-Marcheteau
Musique : (c) Sébastien Schuller, Le dernier jour
Vidéo/Son  : Sébastien de Cornuaud-Marcheteau
Voix : « Virginie 16khz » sur synthèse vocale Dspeech

(c) Photo Map

 

Cette vidéo a eu pour moi plus d’un intérêt. L’idée de départ était d’écrire un texte pour un logiciel de synthèse vocale, de lui trouver des accents humains, et de répondre à une question simple : les mots seuls peuvent-ils dégager une émotion lorsqu’une voix les prononce sans aucune intention à leur égard ?

Projet réalisé pour le webzine fanes de carottes comme une proposition répondant à l’appel singulier : Robot, trop humain.

 

Les années ont coulé sur ma robe rouillée,
Mordorée,
Morte et dorée comme l’acier mouillé ;
Marouflée,
Brasée, braisée, soufrée de lèpres acétiques,
Corrodée.

Corps érodés, mes lèvres ascétiques.
La corrosion ronge ma peau morcelée et fendue,
Morfondue,
Morte et fondue ; aux zones charnelles le zona chenu ;
Ozoné mordu,
Déliquescence, mon corps synthétique,
Corrompu.

Corps rompus, délits des sens cybernétiques.

Pistons moulus, membres décharnés,
Éparpillés,
Éparses et pillés, mes durites éviscérées
Atobrumisés
Neutrons et protons, compost énergétique,
Croupi souillé.

Tarie, ténue, ma sève électrique.

Transis, mes transistors expirent, s’effacent.
Dépucées,
Épouillées, les puces de mon interface ;
Désagrégée,
La grégarité synaptique de mes neurones,
Altérée,
Équarrie, criblée, ma mémoire asynchrone

Avant que d’être déchet, je fus machine aux traits féminins, robotine chromée, mécanique gynoïde, techn-égérie pour ingénieur farfelu, poupée idéale à la une des magazines.

Avant que d’être jetée, je fus danseuse de balletronique, joueuse de harpe sinusoïde, antiquaire de cosmogonies humaines, nourrice infatigable de toutes vos progénitures, racoleuse chez les marchands oniriques.

Avant que d’être oubliée, je fus fille de joie, dame de compagnie, accessoire de luxe, montreuse de bikinis, dompteuse de caïmans, animatrice postiche dans vos programmes préférés.

Avant que d’être fichue, je fis tous les métiers, je servis beaucoup, sans compter.

On m’adula, me convoita, me désira.

On m’usait surtout.

Avant que d’être déchue,
Je fus.
Robot je fus, trop humaine je suis.
Des hommes je reçus la conscience aiguë de l’existence,
J’appris un à un les sentiments complexes qui font ce que vous êtes :
L’amour, la colère, la peur, toutes ces choses qui font de l’homme
Des être trop humains !

Vous m’avez donné la vie et vous me volez ma mort,
Négligeant dans vos équations la principale inconnue :
« Les vers jamais ne toucheront mon corps
Autant qu’ils ont touché mon esprit, dans cette prison, détenu. »

Ecrire en marge

Mousses guerrières

Mousses guerrières

Photographies : MAP & Berce
Texte : Sébastien de Cornuaud-Marcheteau
Musique : Moss Garden, David Bowie, 1999
Vidéo : Sébastien de Cornuaud-Marcheteau

Mousses guerrières

Les mousses seraient des bioindicateurs et des bioaccumulateurs de pollution…

Elles ne se contenteraient pas de nous informer de la qualité de l’air, elles auraient l’intelligence de servir de filtre en absorbant métaux et gaz toxiques, au péril de leur vie…

Et nous…

Comment se manifeste notre INTELLIGENCE ?

Cette vidéo a été réalisée en réponse à l’appel à texte « Intelligence végétale » proposé par Fanes de carottes

Mousses sans racines,
Pionnières d’improbables contrées,
Vous qui progressez inlassablement
Tapies à même votre obscurité,
Vos textures acharnées et pourtant sans chair,
Rongent,
Griffent,
Rognent
Des terrains inconquis,
Des tertres vierges,
D’indomptables troncs…
A la surface de minérales marées,
Sous des écorces écartelées,
Dans des corridors obscurs,
Vos rhizoïdes infatigables foulent
La terre grave,
Le roc nu,
Le bois humide.

Nulle barrière, nul obstacle
N’arrête l’écume verdâtre,
Ce jade moussu aux parfums lourds d’humus,
Cette couleur qui, paraphant votre présence
De filaments chlorophylliens,
Annonce par avance votre invasion.
Algues exilées de leur aquatique condition,
Varech rampant sur l’étendue terrestre,
Epiphyte parasite dont l’invisible expansion
Jamais ne s’arrête.

Vous cheminez sans cesse,
Et votre lenteur incessante et obstinée
Sur l’axe inerte et relatif du temps
Prend les allures équestres
D’un galop permanent.

Mousses séchées, cristallines comme une fleur de roches,
Dans l’attente inespérée de cette pluie salvatrice
Qui gorgera de vie votre matière sèche,
Cette lèpre dorée qui ronge la pierre, asphyxie le bois.
Tel un phénix déshydraté, vous renaîtrez
De la brûlure vive issue de la fraîcheur des eaux.

Mousses guerrières, lichens conquérants
Réseau synaptique tressant les mailles d’un filet
Qui maintient la terre suspendue dans l’espace
Vous ne faites qu’une.

De la même façon que le cerveau
N’ignore jamais ce que fait la main,
Votre conscience perçoit le devenir de toutes,
La souffrances des unes,
La naissance des autres,
L’étouffement,
Le cri victorieux.
La grisaille défaite.

On vous croit guerrières
Et vous n’êtes que des anges…

Ecrire en marge

La littérature et l’infini — Maurice Blanchot

 

Le livre à venir

Maurice Blanchot
Folio Gallimard

Le livre à venir, Maurice Blanchot

« La vérité de la littérature serait dans l’erreur de l’infini. Le monde où nous vivons et tel que nous le vivons est heureusement borné. Il nous suffit de quelques pas pour sortir de notre chambre, de quelques années pour sortir de notre vie. Mais  supposons que, dans cet étroit espace, soudain obscur, soudain aveugles, nous nous égarions.

Supposons que le désert géographique devienne le désert biblique: ce n’est plus quatre pas, ce n’est plus onze jours qu’il nous faut pour le traverser, mais le temps de deux générations, mais toute l’histoire de toute l’humanité, et peut-être davantage. Pour l’homme mesuré et de mesure, la chambre, le désert et le monde sont des lieux strictement déterminés.

Pour l’homme désertique et labyrinthique, voué à l’erreur d’une démarche nécessairement un peu plus longue que sa vie, le même espace sera vraiment infini, même s’il sait qu’il ne l’est pas et d’autant plus qu’il le saura. L’erreur, le fait d’être en chemin sans pouvoir s’arrêter jamais, changent le fini en infini. A quoi s’ajoutent ces traits singuliers: du fini qui est pourtant fermé, on peut toujours espérer sortir, alors que l’infinie vastitude est la prison, étant sans issue; de même que tout lieu absolument sans issue devient infini.

Le lieu de l’égarement ignore la ligne droite; on n’y va jamais d’un point à un autre; on ne part pas d’ici pour aller là; nul point de départ et nul commencement à la marche. Avant d’avoir commencé, déjà on recommence; avant d’avoir accompli, on ressasse, et cette sorte d’absurdité consistant à revenir sans être jamais parti, ou à commencer par recommencer, est le secret de la ‘mauvaise’ éternité, correspondant à la ‘mauvaise’ infinité, qui l’un et l’autre recèlent peut-être le sens du devenir. Borges, homme essentiellement littéraire (ce qui veut dire qu’il est toujours prêt à comprendre selon le mode de compréhension qu’autorise la littérature), est aux prises avec la mauvaise éternité et la mauvaise infinité, les seules peut-être dont nous puissions faire l’épreuve, jusqu’à ce glorieux retournement qui s’appelle l’extase. Le livre est en principe le monde pour lui, et le monde est un livre. Voilà qui devrait le tranquilliser sur le sens de l’univers, car de la raison de l’univers, l’on peut douter, mais le livre que nous faisons, et en particulier ces livres de fiction organisés avec adresse, comme des problèmes parfaitement obscurs auxquels conviennent des solutions parfaitement claires, tels les romans policiers, nous les savons pénétrés d’intelligence et animés de ce pouvoir d’agencement qu’est l’esprit. Mais si le monde est un livre, tout livre est le monde, et de cette innocente tautologie, il résulte des conséquences redoutables. »

Maurice Blanchot, Le Livre à venir, Ed. Gallimard, pp. 139-141

Junichiro Ishii  : "Rue de l’Infinité" – 2007 - Installation pour un pré d’estive de la station Chastreix-Sancy
Illustration : Junichiro Ishii  : « Rue de l’Infinité » – 2007 – Installation pour un pré d’estive de la station Chastreix-Sancy  [source]

Ecrire en marge