Pittsburgh, 2018. Une Volvo XC90 modifiée par Uber roule seule dans la nuit. Elaine Herzberg traverse la route en poussant son vélo. Le système de détection hésite. La voiture ne freine pas. Elaine meurt. Ce soir-là, le dilemme du trolley IA et choix moraux cesse d’être un exercice de philo pour devenir un fait divers avec un nom, une famille, un dossier judiciaire. Cette collision a transformé une question théorique en urgence éthique concrète.
Qu’est-ce que le dilemme du trolley, et pourquoi ça nous concerne tous ?
Revenons en 1967. La philosophe britannique Philippa Foot pose une question simple et dérangeante. Un tramway fou fonce sur cinq personnes attachées à la voie. Vous êtes près d’un levier. Si vous le tirez, le tramway bascule sur une voie annexe où se trouve une seule personne. Vous choisissez quoi ?
La plupart des gens tirent le levier. Cinq vies contre une, le calcul semble évident. Sauf que non, rien n’est évident.
Le dilemme du trolley révèle une asymétrie morale que nous portons tous sans le savoir. Nous tolérons mieux une action qui sauve cinq vies au prix d’une mort qu’une inaction qui laisse cinq personnes mourir. Ce n’est pas de la logique pure, c’est de la psychologie morale à l’état brut. Et c’est là que ça devient vraiment intéressant pour le dilemme du trolley IA et choix moraux.
Foot voulait dynamiter l’utilitarisme, cette théorie qui dit que le bien, c’est ce qui maximise le bonheur total. Or le trolley montre que nous ne fonctionnons pas comme ça. Nos choix moraux sont liés au contexte, à notre responsabilité personnelle, à la distance entre notre geste et ses conséquences.
En 2014, une équipe de chercheurs a soumis ce type de scénarios à 2 millions de personnes dans 190 pays. Résultat : des variations culturelles réelles, mais une tendance universelle. Tuer directement déplaît plus que laisser mourir. Ce que nos grands-mères appelaient « avoir les mains propres » correspond à quelque chose de profondément câblé dans nos cerveaux.
Or c’est exactement ce câblage-là qu’on essaie aujourd’hui de traduire en code. Bonne chance à tout le monde.
Comment le dilemme du trolley IA s’applique concrètement à nos machines autonomes
Une Tesla 2024 traite 230 images par seconde. Deux cent trente. C’est le temps qu’il faut à un humain pour cligner des yeux, et la voiture a déjà analysé la scène, calculé les trajectoires possibles et amorcé une réponse.
Si la collision est inévitable, l’algorithme doit choisir : protéger les passagers en heurtant des piétons, ou sacrifier les occupants pour épargner les autres ? C’est exactement le levier de Philippa Foot. Sauf que personne ne tire ce levier. C’est le code qui le fait, silencieusement, sans intention ni remords ni conscience.
Quand on programme une voiture autonome, on écrit littéralement ses valeurs morales en bits et en octets. On décide : est-ce qu’on maximise le nombre de vies sauvées ? Est-ce qu’on protège en priorité les occupants du véhicule ? Est-ce qu’on accorde plus de valeur à un cycliste casqué qu’à un piéton qui traverse hors des clous ? Chaque ligne de code est un engagement éthique, même si personne dans l’équipe d’ingénierie ne l’a formulé ainsi lors du sprint de développement.
Le dilemme du trolley IA et choix moraux n’est donc plus une question théorique : c’est une réalité de programmation concrète qui se joue dans des open spaces à Munich, San Francisco et Shenzhen. Des ingénieurs en sweat-shirt décident de questions que les philosophes débattent depuis des siècles, souvent entre deux réunions Zoom.
Mercedes-Benz a au moins eu le mérite d’être honnête là-dessus. En 2016, leur directeur général a déclaré sans détour que leur voiture autonome protégerait toujours ses passagers en premier, même si cela signifiait tuer des innocents. Brutal, oui. Mais c’était au moins une décision éthique assumée, pas dissimulée dans des lignes de code que personne n’irait jamais lire.
Pourquoi programmer des valeurs morales dans une IA, c’est une mission quasi impossible
On pourrait croire qu’il suffit d’écrire une instruction : Sauve le maximum de vies. C’est une erreur d’une naïveté presque touchante, et c’est précisément là que le dilemme du trolley IA et choix moraux redevient un vrai casse-tête d’ingénierie.
Le code ne comprend rien à la moralité. Il exécute des instructions. Nuance colossale.
Prenons cette directive en apparence simple : maximiser les vies sauvées. Une voiture autonome pourrait l’interpréter comme freine à fond à chaque situation ambiguë. Ou bien comme écrase ce piéton isolé, c’est un dommage collatéral mineur comparé à la mission qui sauve cent vies ailleurs. Les algorithmes ne fonctionnent pas comme notre jugement. Ils ne voient pas la moralité, ils voient des variables, des conditions, des arbitrages numériques.
L’IA ne peut pas comprendre que tuer quelqu’un diffère moralement de le laisser mourir. Elle ne connaît que des chiffres et des règles logiques. C’est un peu comme demander à une calculatrice si elle préfère le jazz ou le classique. La question est mal posée dès le départ.
Pourtant, les législateurs tentent d’avancer. L’Union européenne a publié en 2021 ses premières lignes directrices sur l’IA dite « de confiance », posant sept exigences dont la transparence et la responsabilité humaine. C’est un début. Mais entre un document de Bruxelles et le comportement réel d’un algorithme embarqué à 130 km/h sur l’autoroute, il y a un gouffre que personne ne sait encore mesurer précisément.
D’ailleurs, le problème ne se limite pas aux voitures. Les mêmes questions émergent dans les algorithmes médicaux qui priorisent les patients aux urgences, dans les drones militaires qui identifient des cibles, dans les systèmes de crédit qui décident qui mérite un prêt. Le dilemme du trolley IA et choix moraux ne se promène plus seulement sur des rails imaginaires.
Qui est responsable quand la machine choisit mal
C’est la question qui fait fuir les avocats et les PDG en même temps. Et pour cause.
Dans l’accident de Tempe, en Arizona, Uber a d’abord rejeté la faute sur la conductrice de sécurité présente dans le véhicule. Rafaela Vasquez regardait une émission sur son téléphone au moment de l’impact. Condamnée en 2023 à trois ans de probation, elle est devenue, d’une certaine façon, le bouc émissaire d’un système entier. Or la vraie question n’est pas de savoir qui fixait son regard ailleurs : c’est de savoir qui a décidé qu’une seule personne pouvait superviser une machine capable de tuer.
Les constructeurs automobiles arguent que leurs systèmes réduisent globalement le nombre d’accidents. C’est probablement vrai. Les statistiques de sécurité routière aux États-Unis montrent que 94% des accidents graves sont liés à une erreur humaine. Donc si une IA conduit mieux qu’un humain dans 99% des cas, faut-il l’interdire parce qu’elle échoue différemment dans le 1% restant ? Cette tension irrésolue résume à elle seule tout le dilemme du trolley IA et choix moraux appliqué à nos routes.
C’est là que le débat philosophique rejoint la politique publique. Et que personne n’a de réponse propre.
Car nous acceptons collectivement des risques tout le temps. On autorise la vente de cigarettes. On laisse des gens conduire des motos. On construit des centrales nucléaires. Mais ces risques-là, nous les avons choisis progressivement, collectivement, avec des décennies de débat social. Le risque algorithmique, lui, s’est glissé dans nos vies avant qu’on ait eu le temps de tenir cette conversation.
Questions fréquentes sur le dilemme du trolley IA et choix moraux
D’où vient le dilemme du trolley et qui l’a inventé
Le dilemme du trolley a été formulé en 1967 par la philosophe britannique Philippa Foot dans un article intitulé « The Problem of Abortion and the Doctrine of Double Effect ». Il a ensuite été popularisé et décliné en dizaines de variantes par le philosophe américain Judith Jarvis Thomson dans les années 1970. Ce n’est donc pas une invention de l’ère numérique : ça fait plus de cinquante ans que les philosophes s’arrachent les cheveux dessus, bien avant que les voitures puissent rouler toutes seules. En savoir plus sur Philippa Foot.
L’expérience Moral Machine du MIT, c’est quoi exactement
En 2016, des chercheurs du MIT ont lancé la plateforme Moral Machine, qui a collecté les réponses de 2,3 millions de personnes dans 233 pays face à des scénarios de dilemmes moraux appliqués aux voitures autonomes. Les résultats, publiés dans Nature en 2018, ont révélé des différences culturelles significatives : les pays d’Asie de l’Est privilégiaient davantage les personnes âgées, les pays latins protégeaient plus fortement les piétons par rapport aux passagers. Aucun consensus mondial n’a émergé, ce qui complique sérieusement l’idée d’une éthique universelle programmable et confirme que le dilemme du trolley IA et choix moraux reste, culturellement, un terrain miné.
Les voitures autonomes sont-elles vraiment programmées pour décider qui vit et qui meurt
La plupart des constructeurs affirment que leurs systèmes ne contiennent pas de hiérarchies explicites de vies humaines. Techniquement, les algorithmes visent à éviter toute collision, pas à choisir entre victimes. Mais cette réponse esquive le problème : dès qu’un système doit prioriser une action d’urgence, il fait implicitement un choix. Mercedes-Benz a été l’exception en 2016, en déclarant publiquement que ses véhicules protégeraient d’abord leurs passagers. Les autres constructeurs restent bien plus discrets sur leurs paramètres réels.
Qui est légalement responsable quand une voiture autonome tue quelqu’un
La réponse varie selon les pays et évolue rapidement. Dans l’affaire Uber de 2018 à Tempe, Arizona, la conductrice de sécurité Rafaela Vasquez a été condamnée en 2023 à trois ans de probation. Uber a conclu un accord à l’amiable avec la famille d’Elaine Herzberg dont le montant n’a pas été divulgué. En Europe, le règlement européen sur l’IA de 2024 commence à établir des cadres de responsabilité pour les systèmes automatisés à haut risque. Mais dans la majorité des juridictions, le droit n’a pas encore rattrapé la technologie, ce qui laisse une zone grise juridique considérable face au dilemme du trolley IA et choix moraux. Cette zone grise rejoint d’ailleurs une question voisine tout aussi vertigineuse : la machine qui décide a-t-elle seulement une forme de conscience ?
Et si la vraie question, c’était la nôtre
On débat beaucoup de ce que les machines devraient décider. Mais peut-être qu’on devrait d’abord se demander ce que nous voulons, nous, en tant que société face au dilemme du trolley IA et choix moraux.
Ce dilemme, dans sa version IA, n’est pas un problème d’ingénierie à résoudre. C’est un miroir tendu vers nos propres valeurs collectives. Est-ce qu’on veut des machines qui maximisent l’utilité globale comme Bentham l’aurait voulu ? Ou des machines qui respectent des principes absolus, même inefficaces parfois, comme Kant l’aurait défendu ? Est-ce qu’on leur confie nos choix moraux les plus douloureux parce que ça nous évite de les assumer nous-mêmes ? Au fond, le dilemme du trolley IA et choix moraux nous demande d’écrire, noir sur blanc, ce que nous refusons depuis toujours de formuler à voix haute.
Philippa Foot n’a jamais voulu nous donner une réponse. Elle voulait nous forcer à regarder comment nous raisonnons. En 2025, ses rails imaginaires traversent nos villes pour de vrai. Et le levier, d’une façon ou d’une autre, reste entre nos mains, qu’on le veuille ou non.
À propos de l'auteur
Directeur de publication : Cédric Rouaud, responsable éditorial de CuriositéWeb.com.
