Les voitures autonomes roulent déjà sur nos routes, même si elles posent des problèmes éthiques et juridiques, et pas seulement techniques. L’un d’entre eux, le « dilemme du tramway », décrit, dans sa version historique, la situation d’un conducteur dont le tramway n’aurait plus de freins. Il serait alors contraint de faire un choix entre deux options : la mort d’un piéton dans un cas, de cinq piétons dans l’autre, selon la voie où il guiderait le tramway. En éthique de l’intelligence artificielle, c’est la voiture autonome qui effectue ce choix de trajectoire, tandis que les victimes peuvent inclure des piétons et des passagers. Le dilemme du tramway n’a pas vocation à rendre compte d’une situation réelle, car il néglige délibérément plusieurs paramètres techniques, comme le temps disponible pour prendre une décision ou l’accessibilité des données. C’est un exercice volontairement poussé à l’extrême : son enjeu est de s’interroger sur un choix purement éthique dans un contexte technologique inédit.
Différentes stratégies sont proposées pour « résoudre » le dilemme du tramway. Certains suggèrent de recourir à un sondage d’opinion : le peuple choisirait quelle victime mettre à mort. D’autres souhaitent évaluer quelle solution bénéficierait le plus à la société et la désigner comme la meilleure. Ainsi, renverser un enfant qui pourrait vivre encore longtemps serait « sous-optimal » ; une solution « plus utile » consisterait à renverser une personne âgée, dont les jours sont comptés. Le calcul des probabilités dans la mise en œuvre de ces « solutions » se substitue au jugement éthique. Leur rationalité froide donne le frisson. Et pourtant faire appel au calcul semble logique, puisque la machine ne sait que calculer.
En juin 2017, le gouvernement allemand, conscient de la gravité des problèmes moraux, a recueilli l’avis d’un comité consacré spécifiquement au cas de la voiture autonome. Sans se prononcer sur le caractère rationnel des prétendues « solutions », ce dernier n’émit qu’une préconisation négative, affirmant ce qu’une machine ne devait pas faire : elle ne devait pas tenir compte des caractéristiques individuelles des personnes humaines, comme leur âge, leur genre, ou leur Q.I. À part interdire, que faire ? Il existe bien une solution positive au dilemme du tramway, telle qu’on peut la réaliser dans le code. Elle consiste à laisser le hasard choisir.Et elle s’appuie dans sa motivation sur la tradition juive.
Au septième chapitre du livre de Josué, on lit une étrange histoire. Après la mort de Moïse, le peuple d’Israël est guidé par un nouveau chef, Josué. C’est lui qui traverse enfin le Jourdain et entre en Terre promise. Mais cette terre est déjà habitée : Josué doit faire la guerre à ses occupants. Assez vite, l’armée d’Israël prend la ville de Jéricho. Le peuple en liesses’illusionne alors en croyant que la conquête sera facile : étant donné que cette terre lui avait été promise par Dieu, il devrait voler de victoire en victoire. Or, la première défaite arrive juste après. Les habitants d’une petite localité du nom de Haï, située non loin de Jéricho, repoussent les hommes de Josué. Cette défaite semble contredire la promesse de Dieu : le récit biblique doit l’expliquer.
L’auteur du texte en invente une explication à la fois mythologique et philosophique. Il se trouve qu’au moment de la bataille de Jéricho Dieu déclare que lui seul peut légitimementprendre possession de la propriété des peuples qui occupaient précédemment la Terre promise. Au peuple d’Israël, ces objets étaient interdits : celui qui y toucherait devrait être mis à mort.
Une fois la défaite de Haï constatée, il est logique de supposer que sa cause ne peut être qu’un viol de l’interdit divin. Le septième chapitre, en effet, avant même que l’auteur ne nous livre la description de l’aventure de Haï, s’ouvre par cette information : « Les enfants d'Israël commirent une infidélité au sujet des choses dévouées par interdit. » (Josué 7,1)
Cette phrase n’est qu’une interpolation textuelle rétrospective. En réalité, c’est seulement lorsque l’armée revient et annonce la débâcle que Josué comprend ce que le lecteur sait déjà. Josué reste alors seul face à Dieu, déchire ses vêtements, se prosterne le visage contre terre et demeure devant l’arche d’Alliance jusqu’au soir. C’est là que Dieu l’informe de la punition qu’il a infligée au peuple d’Israël à Haï. Le peuple doit « éliminer l’interdit de son sein » en trouvant le coupable qui sera brûlé. Mais qui est le coupable ?
Josué passe beaucoup de temps, jusqu’au soir, à discuter avec Dieu. Le Talmud s’arrête sur cet épisode et suppose logiquement que, durant tout ce temps, Josué a bien eu l’idée de demander à Dieu de lui révéler le nom du coupable. Absente du livre de Josué, cette question n’apparaît que dans le Talmud (traité Sanhedrin, p. 43b), mais la raison en est évidente : la discussion entre Josué et Dieu commence par : « Pourquoi cette défaite ? » et aboutit à l’ordre de brûler le coupable. Logiquement, donc, elle doit passer par une étape où Josué demande à Dieu qui est ce coupable.
Or Dieu ne répond pas. Il dit : « וכי דילטור אני ? » – « Mais suis-je délateur ? » Puis il ajoute : « Va et jette les dés ». Le mot « délateur » est écrit dans le texte araméen du Talmud en caractères hébraïques mais c’est le mot latin. À l’époque romaine comme aujourd’hui, il a un sens moral clair : le délateur est un personnage méprisé et haï.
« Jette les dés ! » commande Dieu à Josué. Derrière cet ordre, il y a la répugnance de Dieu à l’idée de devenir un délateur. Ce n’est pas à lui de dénoncer le coupable par peur qu’il ne soit impliqué dans une affaire de jugement humain, mais c’est à l’homme de suivre la procédure et de chercher, ou plutôt créer, la vérité. L’enjeu, par-delà la question de la recherche du coupable, est celui de la confiance en la procédure.
Les dés pointent vers un homme qui s’appelle Achan. Celui-ci, d’abord, se rebelle contre Josué : « Tu me condamnes par un tirage au sort ? Et si le sort était tombé sur toi ? » Josué réplique : « Je t’en prie, avoue ton crime. C’est par un tirage au sort que sera partagée la terre entre les tribus d’Israël. » Aussitôt Achan avoue. Il a compris que ce n’est pas sa vie qui est en jeu, mais la confiance en la procédure.
Dans le mythe biblique, l’homme fait confiance à Dieu, on peut dire, par définition. La machine risque de ne pas bénéficier de cette confiance. Le concepteur devrait donc se donner le souci de l’extraire du domaine du mal humain tout comme Dieu, qui, dans l’épisode d’Achan, ne souhaite pas se mêler des affaires de jugement. Pour ce faire, la seule issue possible serait de doter la machine de propriétés qui la positionneraient par-delà le bien et le mal. Il faut déployer le hasard : la procédure du tirage au sort est bien la seule à n’être ni bonne ni mauvaise.
Le bien et le mal humains ne sont pas des catégories intrinsèques au fonctionnement de la machine : celle-ci les apprend en analysant les données, par exemple des phrases dans le langage humain naturel. La machine connaît les vocables « bien » et « mal », non le bien et le mal. Cette situation n’est pas anormale, mais les conséquences devraient en être suivies jusqu’au bout. Puisqu’un système informatique n’a pas connaissance des valeurs morales, il doit s’en démarquer en s’extirpant des projections de l’éthique humaine. Toutefois, ces projections paraissent inévitables parce que la machine imite l’homme en faisant son apprentissage à partir de données produites par les humains. Elle est soumise à des biais et à des faussetés que contiennent ces données. Quand la machine fournit des informations à des humains impliqués dans un conflit, elle doit injecter une dose de hasard dans son interaction avec l’utilisateur, autrement dit : elle doit tirer au sort.
C’est dans les mythes que je découvre d’éventuelles solutions à des dilemmes éthiques apparemment insolubles. Sous une forme ou sous une autre, ces dilemmes ont toujours été source de tourment pour l’humanité. Bien avant l’invention des voitures autonomes ou des premiers assistants robotiques, des récits associaient déjà le mal et la pure fonctionnalité des démons, ou le mal et l’innovation trop rapide, irréfléchie. Aujourd’hui, ce type de comparaison, que j’appelle « homologie », nous permet de sortir d’une impasse bien connue des historiens. Il s’agit du paradoxe dit « de la nouveauté en éthique » : si une technologie disruptive, radicalement nouvelle, couvre un champ d’action inédit, alors les questions éthiques qu’elle pose nous semblent tout aussi nouvelles et incommensurables avec la réflexion morale qui l’a précédée.
Croire qu’il existe pareilles nouveautés en éthique, c’est être assuré de ne pas aller bien loin dans la réflexion. Les fonctionnalités qu’offrent aux utilisateurs les systèmes informatiques sont certes incomparables aux capacités d’action de l’époque du Talmud ou du Zohar, mais le bien et le mal qu’elles introduisent dans le monde ne nous sont pas inconnus. Nous les trouvons dans les récits que les hommes se racontent depuis la nuit des temps et qui introduisent des motifs fondamentaux, ceux-là même que l’on distingue dans notre réalité technologique.
Entre l’informatique et le mythe, les motifs communs sont par nature des ressemblances fonctionnelles. Ils se dévoilent lorsqu’on fait abstraction et du contenu matériel du domaine technique et de la fiction narrative d’un mythe : leurs fonctions et leurs relations nous intéressent davantage que leurs aspects apparents. Les motifs communs avec le mythe ne sont jamais ce qui saute aux yeux : pour les trouver, il faut dégager chaque terme d’une comparaison, autant du côté scientifique et technologique que du côté mythologique, de toutes leurs qualités propres en laissant seul le pivot de pure relation fonctionnelle. C’est cette méthode de comparaison homologique qui permet d’interpréter les mythes : on se raconte des vieilles histoires, mais on cherche toujours à en tirer des enseignements pertinents pour notre situation contemporaine.
Publié le 07/10/2019