Dans les films et séries de science-fiction, un thème revient souvent : celui du robot anthropoïde dont on peine à voir en quoi il diffère de l’humain. Dans Her (Spike Jonze, 2014), un homme tombe amoureux – d’un amour qui exige l’impossible exclusivité – de Samantha, un système d’exploitation qui l’assiste dans toutes ses tâches. Dans I-Robot (Alex Proyas, 2004), ce sont les machines qui se mettent à rêver et à disposer du libre arbitre, la conscience émergeant des circuits imprimés. Certains robots découvrent l’humour et réclament des droits semblables à ceux des humains, y compris celui de mourir (L’Homme bicentenaire, Chris Columbus,2000).
Dans des séries comme Humans ou Westworld, les robots subissent des maltraitances et sont « déshumanisés ». Ils servent à tout, y compris à se défouler et à commettre en toute impunité des actes (qui vont jusqu’au viol et au meurtre) que la morale et la loi interdisent envers les humains. Ce qu’endurent les robots à visage humain semble souvent faire délibérément allusion aux atrocités subies au cours de l’histoire par les esclaves ou les victimes de génocides. Les choses sont présentées de façon à blâmer une humanité encore incapable de reconnaître dans l’androïde son prochain, elle qui, tragiquement, considéra parfois le Noir ou le Juif comme appartenant à une sous-humanité.
À travers différents récits de golems, certains textes traditionnels insistent sur le fait qu’il importe précisément de ne pas confondre l’être humain et la créature artificielle qui lui ressemble parfois. Ces récits furent considérés par les théologiens rationalistes (parmi lesquels Maïmonide) comme des métaphores. Mais ils furent compris au sens premier par de nombreux exégètes, croyant dans le pouvoir démiurgique des sages. Au XVIIIe siècle, le Gaon de Vilna déclara qu’il se savait capable, depuis l’âge de 13 ans, de créer un golem mais qu’il s’en était abstenu. La création de tels êtres est toujours associée aux possibilités combinatoires de l’alphabet hébraïque et donc à la maîtrise d’un certain type de langage. « Comment ne pas voir, se demande Henri Atlan, dans le succès de la génétique et de ses interprétations informatiques en termes de codes et de programmes, la preuve éclatante de l’efficacité du logos dans la maîtrise du vivant ? »
C’est à Abraham et à Sarah que la tradition rabbinique attribue en premier la capacité de fabriquer des golems et le patriarche est d’ailleurs considéré comme l’auteur du Sefer Yetsira, livre qui devait servir de source aux démiurges de toutes les époques. La Tora dit qu’Abraham et Sarah avaient « fait des âmes (néfech) à ‘Haran » (Genèse, 12, 5). Un midrash comprend le verset au sens littéral (ils les ont littéralement faits) et souligne la prouesse (car « tous les autres hommes réunis ne seraient pas même capables de créer un moucheron » conclut ce midrash).
Il n’en reste pas moins que ces golems sont considérés comme inférieurs à l’homme. Adam est appelé « golem » avant que Dieu lui insuffle l’âme qui le rendra véritablement humain (Vayikra Raba, 29). Un maître médiéval, rabbi Éléazar de Worms, considère que seul Dieu est capable de doter un être de parole et d’intelligence. Selon rabbi Joseph Achkenazi, kabbaliste de Safed au XVIe siècle, un sage peut animer sa créature d’un néfech (principe vital) mais pas d’une âme supérieure (néchama). Selon un autre commentaire, Abraham créa également un veau (Malbim sur Genèse 18,7-8). Ceci permet d’expliquer comment le patriarche (dont on dit qu’il connaissait et respectait la Tora avant qu’elle soit donnée) put offrir à ses hôtes du beurre et du lait en même temps que du veau (ce que la Tora interdit). La question ne se pose plus s’il s’agit d’un veau artificiel (qui n’a pas été engendré par une vache mais qui a été créé ex nihilo), qui n’est pas considéré comme un animal du point de vue halakhique.
Rabbi Tvsi Hirsh Achkénazi (1660-1718, surnommé le ‘Hakham Tsvi) se demande si un golem compte dans le minian, quorum de dix hommes nécessaire à certaines prières. Certes, on enseigne que « les actes des justes sont comme leur progéniture », mais le Talmud raconte pourtant que rabbi Zéra détruisit un golem créé par son collègue sans craindre de commettre un homicide. C’est pourquoi, conclut ce rabbin, le golem n’est pas considéré comme humain et ne compte pas dans le minian. Quoi qu’il en soit, le ‘Hakham Tsvi prend la question très au sérieux et laisse entendre au passage que son grand-père, rabbi Éliyahou de Helm, avait lui-même créé un golem qui échappa à son contrôle et qui dut être détruit.
Existe-t-il des golems féminins ? Oui ! On raconte que rabbi Salomon Ibn Gabirol (1021-1058) avait créé une golem qui travailla à son service. Une autre évocation d’un golem-femme se trouve dans un commentaire rabbinique qui résout ce faisant les difficultés présentes dans un texte midrashique. On raconte dans ce dernier que Joseph médit de ses frères en les accusant auprès de son père d’avoir mangé un animal vivant (sans l’abattre préalablement, donc) et d’avoir eu des relations sexuelles avec des femmes cananéennes. Or, soit Joseph ment, soit ses frères sont des renégats, les deux hypothèses posant problème aux exégètes. C’est pourquoi rabbi Isaïe Horowitz (1565-1630) explique que Joseph n’avait pas connaissance du fait que ses frères savaient créer des golems. Ce qu’ils firent pourtant en créant un veau artificiel (qui n’est pas soumis à l’obligation d’abattage rituel) et une créature féminine qui leur tenait compagnie (Chlah sur Vayéchev). De ce commentaire astucieux, on déduit qu’un golem n’a nullement le statut d’animal ou d’humain (car les frères de Joseph n’ont rien fait de mal).
Si certains rabbins admettent qu’un golem puisse être capable de parole, tous s’accordent cependant à dire qu’il ne saurait être doté d’intellect et de faculté de reproduction.
La capacité créatrice des sages n’est jamais critiquée en elle-même mais deux risques sont soulignés.
Le premier est celui de confusion. Un texte (Sefer haguématriot, XIIIe siècle) raconte que le prophète Jérémie fabriqua un golem. Mais ce dernier fit prendre conscience à son créateur qu’il venait d’introduire de la confusion dans le monde et demanda à Jérémie de défaire ce qu’il avait fait. Pour Henri Atlan, cette confusion concerne l’impossibilité de différencier l’homme de la machine mais également le fait que la créature artificielle ne procède pas d’une rencontre sexuée qui contient une précieuse dose de hasard (qui, en hébreu, se dit mikré, terme proche de kri, l’épanchement de sperme). Et Atlan de commenter ainsi ce récit : « Nous ne devons renoncer à rien dans la recherche de la connaissance, et certainement pas à atteindre cette perfection qui nous rendrait capables de créer un être humain ; mais quand nous croyons, peut-être à juste titre, du reste, mais ce n’est pas la question, y être arrivés, nous devons alors nous abstenir de le faire. »
Le second risque est celui de créer quelque chose qui pourrait échapper dangereusement à son créateur (inquiétude constante dans les récits de golems). De ce point de vue, Isaac Asimov – l’un des plus féconds auteurs de science-fiction – était plus optimiste que les rabbins. Rappelons au passage que cet écrivain génial assumait pleinement son identité juive et, bien que se disant « athée et humaniste », il fut un lecteur passionné de la Bible et rédigea des essais sur le sujet. Certaines de ses nouvelles font d’ailleurs explicitement allusion à la Bible (comme Azazel, publié en 1988). Asimov (qui inventa le mot « robotique ») élabora les « trois lois des robots » intégrées à leur « intelligence » et rendant impossible le fait qu’un robot s’en prenne à des humains et l’obligation de leur obéir. Asimov imagina que des robots inventèrent d’eux-mêmes une « loi zéro » selon laquelle la sécurité collective des humains l’emporte sur celle de l’individu. Pour Asimov, il était toutefois impensable que ces lois soient violées et que la machine se retourne contre l’homme. Assistant à la projection de 2001, l'Odyssée de l'espace, il quitta la salle en colère lorsque l'ordinateur viola sa première loi et s’en prit aux humains. Asimov trouvait pénible la récurrence du thème de la créature s’en prenant à son créateur comme dans le roman de Mary Shelley, tendance qu’il appelait « le complexe de Frankenstein ». Asimov montre dans son œuvre que la formulation de ces lois et la façon dont les robots les interprètent sont variables, mais la machine demeure fondamentalement du côté de l’homme et lui ressemble même de plus en plus.
Certes, il s’agit de littérature mais elle inspira et inspire encore les spécialistes d’intelligence artificielle et d’éthique. Les transhumanistes s’y réfèrent pour montrer qu’une I.A. bien programmée ne doit pas être redoutée. On se demande seulement comment adapter ou améliorer les « trois lois » pour programmer les I.A. de demain. Mais Asimov péchait peut-être par excès d’optimisme. Les I.A. et robots militaires, par exemple, ne peuvent pas obéir à la première de ces lois. Et comme le remarque Robert Sawyer, autre auteur de science-fiction, « le développement de l'I.A. est un business et les business ne s'intéressent notoirement pas à des garanties fondamentales, en particulier philosophique, mais également sécuritaire et sanitaire. (Quelques exemples rapides : l'industrie du tabac, l'industrie automobile, l'industrie nucléaire. Pas une seule d'entre elles n'a dit dès le départ que les garanties fondamentales sont nécessaires, chacune d’elles a résisté aux garanties imposées de l'extérieur, les gouvernements, et aucune n'a accepté la loi absolue qui est de ne jamais causer de dommages aux humains.) ».
Pour conclure, les machines sont des machines et les intelligences artificielles portent bien leur nom. Si la tradition juive encourage l’homme à rivaliser avec Dieu en matière de création, il n’est pas dit pour autant que toute prouesse technologique soit souhaitable et inoffensive.
Publié le 27/09/2019