L’esprit moral : pourquoi vos intuitions éthiques sont moins fiables que vous ne le pensez — et comment y remédier

Il s’agit d’un article traduit par une machine. La version originale est disponible en anglais.

Dernière mise à jour : 25 octobre 2026 · 24 min de lecture

Un frère et une sœur, tous deux adultes, voyagent ensemble et, un soir, décident de faire l’amour. Ils utilisent un contraceptif. Ils y prennent plaisir, mais conviennent de ne pas recommencer. Ils gardent la chose pour eux. Personne n’en subit de tort. Ni l’un ni l’autre n’en souffre ni n’en est troublé par la suite.

Est-ce mal ?

La plupart des gens répondent oui, sur-le-champ. L’enquêteur passe alors aux raisons. Le risque génétique ? Exclu, puisqu’ils ont utilisé un contraceptif. La confusion sociale pour d’éventuels enfants ? Il n’y a pas d’enfants, et ils sont convenus de garder le secret. L’un d’eux aurait-il pu se sentir contraint ? Le scénario pose un consentement mutuel. Et si cela abîmait leur relation ? Ce n’est pas le cas — ils sont plus proches qu’avant.

Et une à une, les raisons tombent. La personne interrogée concède chaque point, parfois à contrecœur mais de bonne foi. Oui, si l’on exclut tout risque génétique, je l’admets. Oui, si le secret et l’accord mutuel sont acquis, je l’admets. Et au terme de ce processus, une fois les raisons épuisées et chaque objection formulée reconnue puis écartée, le verdict ne bouge pas.

« Je trouve quand même que c’est mal. Je le sais, c’est tout. »

La personne qui dit cela n’est pas stupide, et elle ne fait pas preuve de mauvaise volonté. Elle décrit avec une rare exactitude quelque chose de vrai sur elle-même. La conviction n’est pas née des raisons ; les raisons ont été consultées une fois la conviction installée. Et quand les raisons ont cédé, la conviction est restée debout toute seule, sans aucune raison qu’elle saurait formuler pour la soutenir.

Le psychologue Jonathan Haidt et ses collègues ont appelé cela la stupéfaction morale (moral dumbfounding) : la persistance d’un jugement moral après que toutes les raisons qui l’étayaient ont été retirées. Pour la comprendre, il faut regarder de plus près comment se forme le jugement moral.

Le chien émotionnel et sa queue rationnelle

La tradition occidentale dominante en psychologie morale va de Piaget à Kohlberg : le développement moral y est l’acquisition progressive d’une capacité de raisonnement, un passage de l’obéissance primitive aux règles à une réflexion fondée sur des principes de justice et de droits. Dans ce tableau, le jugement moral, lorsqu’il fonctionne correctement, est le produit du raisonnement moral. On réfléchit, on aboutit à une conclusion et, si l’on a atteint un stade de développement suffisamment avancé, on peut même expliquer pourquoi.

En 2001, Jonathan Haidt a soutenu que ce tableau était, pour l’essentiel, à l’envers.

Le modèle intuitionniste social de Haidt pose que le jugement moral est le produit d’un traitement affectif rapide et automatique, quelque chose qui se déclenche vite, rend un verdict et se présente comme une conclusion alors qu’aucun raisonnement n’y a conduit. Ce qui suit le verdict relève de la rationalisation : la production de raisons susceptibles de l’étayer, menée par un système dont la tâche est de défendre le verdict plutôt que d’évaluer s’il est juste. La métaphore que choisit Haidt est celle d’un chien et de sa queue. Le système émotionnel est le chien, et c’est lui qui agit ; la raison est la queue, qui bouge en fonction de ce que fait le chien. À n’observer que la queue, on conclurait que le chien raisonne. Mais la queue ne dirige rien.

Vu de l’intérieur, cela heurte l’intuition, et c’est voulu. Quand on raisonne sur une question morale, on a bien l’impression de raisonner : on examine, on pèse, on révise parfois. Haidt répond en distinguant ce que l’esprit conscient peut observer de lui-même et ce qui produit effectivement les résultats. On peut observer le processus de raisonnement. On ne peut pas observer le verdict affectif arrivé avant que le raisonnement commence.

L’idée d’une primauté de l’affect remonte à Robert Zajonc, qui a montré que les réactions affectives à un stimulus peuvent précéder l’évaluation cognitive et fonctionner indépendamment d’elle : on se forme des préférences avant de se former des croyances. Haidt applique cela directement au jugement moral. Le caractère « mal » du scénario d’inceste survient comme une sensation physique, avant que la machinerie de la justification se soit mise en route.

Haidt a avancé quatre raisons de douter que le raisonnement gouverne le jugement moral. Le problème du double processus : les jugements moraux sont rapides et automatiques ; la réaction précède la délibération et ressemble à une perception plutôt qu’à une inférence. Le problème du raisonnement motivé : on raisonne sur la morale moins comme un juge qui pèse les preuves que comme un avocat qui défend son client, poussé par le désir de s’accorder avec son groupe et de préserver sa vision du monde. Le problème du « post hoc » : le raisonnement fabrique sans peine des justifications pour des verdicts déjà rendus, ce qui donne l’illusion que les raisons sont venues d’abord. Et le problème de l’action : ce que font les gens suit leurs émotions morales de plus près que leur raisonnement moral. Dans le modèle de Haidt, le raisonnement fait bien changer les esprits, mais surtout ceux des autres, par la persuasion et l’influence sociale, plutôt que celui de la personne qui raisonne.

Vu de l’intérieur, le raisonnement semble fonctionner parce que c’est tout ce qu’on peut observer. La machinerie qui a rendu le verdict tourne en deçà du seuil d’observation, et le raisonnement consacre ses efforts à instruire le dossier de ce verdict au lieu de l’évaluer.

Le débat sur le double processus

Le modèle intuitionniste social de Haidt ne fait pas l'unanimité. Le modèle du double processus de Joshua Greene, élaboré en parallèle avec des recherches en neuro-imagerie, pose que le jugement moral fait intervenir deux systèmes distincts : un processus rapide, mû par l'émotion, et un autre plus lent et plus délibéré, et que le système délibéré peut l'emporter sur le système émotionnel, ce qu'il fait parfois. Greene et un collègue ont ensuite contesté ce qu'ils jugeaient être une lecture trop réductrice du rôle de la raison, en soutenant que le raisonnement délibéré produit parfois une véritable révision morale, et pas seulement une rationalisation après coup.

Haidt ne répond pas que la raison ne produit jamais de véritable révision, mais qu'elle le fait bien moins souvent, et dans des conditions bien plus étroites, que ne le supposait la tradition rationaliste. Les résultats obtenus depuis sont contrastés. Quand l'équipe de Greene a mis cela à l'épreuve, un argument solide en faveur de Julie et Mark a suscité plus d'adhésion qu'un argument faible, mais seulement lorsqu'on obligeait les participants à réfléchir deux minutes de plus avant de répondre. Deux réplications préenregistrées de plus grande ampleur, en 2022, n'ont pas pu reproduire ce schéma, si bien que même cette étroite ouverture reste incertaine. Selon la lecture de Haidt, la thèse centrale tient : le jugement moral est avant tout affectif, la raison intervient surtout en aval, et la vision rationaliste du développement moral se trompe en grande partie. Ce qui reste débattu, c'est dans quelle mesure, et dans quelles conditions. S'il a raison, vos verdicts moraux arrivent d'ordinaire avant vos raisons, et la tâche première de ces raisons est de les défendre.

La stupéfaction morale — à quoi ressemble le mécanisme sous pression

La vignette de « Julie et Mark » est l’exemple de Haidt lui-même, conçu pour montrer ce que prédit le modèle intuitionniste social : un scénario construit pour retirer toutes les justifications habituelles, fondées sur le tort causé, de la condamnation de l’inceste, de sorte que si le jugement reposait sur ces raisons, les supprimer devrait l’ébranler. Les entretiens d’origine de Haidt, menés auprès de 31 étudiants de premier cycle de l’université de Virginie, ont montré qu’il n’en est rien, et des études ultérieures ont reproduit l’effet, quoique le plus souvent chez une minorité de participants.

L’expression « stupéfaction morale », forgée par Haidt avec Fredrik Björklund et Scott Murphy dans un manuscrit de 2000, désigne précisément ceci : le maintien obstiné d’un jugement moral en l’absence de raisons pour l’étayer, accompagné de la conscience perplexe, chez le sujet, que ces raisons sont épuisées. Ce qui en fait une stupéfaction, c’est la persistance du jugement une fois ses étais justificatifs abattus, jointe à un désarroi visible devant la position où l’on se retrouve.

McHugh et ses collègues, qui ont travaillé avec des protocoles explicites pour repérer des indicateurs mesurables de la stupéfaction morale, ont constaté dans leur étude par entretiens que 22 participants sur 31 avaient été stupéfaits au moins une fois sur quatre scénarios. Réponse par réponse, environ 17 % des réponses étaient des aveux explicites d’absence de raisons assortis du maintien du jugement, et 9 % de plus étaient des « déclarations sans appui » : des affirmations que l’acte est mal, sans la moindre justification à l’appui. Ces chiffres sont des estimations basses, car ils ne comptent que les réponses qui verbalisaient la structure de la stupéfaction. Une part importante des participants qui avaient d’abord avancé des justifications fondées sur le tort causé ont fini, après avoir renoncé à ces justifications, par maintenir malgré tout leur jugement.

Ce qui se passe quand les raisons s’épuisent est précis : les participants ne cherchent pas de nouveaux arguments. Ils expriment leur désarroi. « Je le sens, c’est tout. » « C’est mal, voilà, je ne peux pas l’expliquer. » On y voit des faux-fuyants si on les aborde comme des échecs du raisonnement. On y voit des descriptions exactes de soi si l’on prend au sérieux le modèle intuitionniste social : la conviction ne dépendait pas des raisons, parce qu’elle n’en était pas issue.

Selon cette lecture, les raisons avancées étaient des rationalisations après coup. Il ne s’agit pas de malhonnêteté délibérée. C’est le raisonnement qui cherche des justifications à une position qu’il n’a pas créée, avec une machinerie dont la fonction est de plaider, non d’évaluer.

L'objection de Royzman

Les recherches sur la stupéfaction morale ont un contradicteur méthodologique sérieux. En 2015, Royzman et ses collègues ont soutenu que bien des participants qui semblaient stupéfaits dans le paradigme de Haidt ne manquaient nullement de raisons ; ils rejetaient implicitement la stipulation d'innocuité. Ils doutaient que le scénario soit sans danger et ne cessaient de trouver des torts que la stipulation n'avait pas explicitement exclus : effets psychologiques, dégâts à long terme sur la relation, torts trop lointains pour être visibles de l'extérieur. Selon cette lecture, la stupéfaction apparente tenait à ce que les participants s'accrochaient à une raison fondée sur le tort, qu'ils n'étaient pas prêts à abandonner tout à fait, plutôt qu'au maintien d'un verdict sans raison.

C'est une critique de fond. Si la plupart des cas apparents de stupéfaction se ramenaient, à y regarder de près, à un raisonnement implicite sur le tort, le phénomène serait bien moins révélateur de la primauté de l'affect que ne l'affirmait Haidt.

McHugh et ses collègues ont répondu de façon empirique dans une étude complémentaire en 2020. Adhérer à une raison quand elle figure sur une liste à cocher, ont-ils fait valoir, n'est pas la même chose qu'être guidé par elle. Ils n'ont donc exclu que les participants qui, à la fois, formulaient avec leurs propres mots une raison fondée sur le tort ou sur une norme et y adhéraient, et, dans une seconde étude, qui l'appliquaient de manière cohérente d'une situation à l'autre. Très peu de gens satisfaisaient à ce critère, et chez tous les autres l'effet ne disparaît pas. Il se resserre, comme se resserre tout effet expérimental soumis à des contrôles plus stricts, mais il demeure. Le phénomène est plus étroit que ne l'avançait Haidt au départ et moins universel que ne le laissaient entendre ses premiers écrits, mais il existe, et son existence nous renseigne sur la structure de la conviction morale.

Même calcul, verdict différent

Le dilemme du tramway est usé jusqu’à la corde, mais il montre encore quelque chose d’étrange : deux cas au nombre de victimes identique reçoivent des verdicts opposés.

Dans le scénario de l’aiguillage, un tramway fou fonce vers cinq personnes. Vous pouvez actionner un levier pour le dévier sur une voie secondaire, ce qui tuera une personne au lieu de cinq. La plupart des gens disent qu’il faut actionner le levier. Dans les échantillons occidentaux, l’approbation tourne autour de 85 à 90 % ; dans une enquête couvrant 42 pays, elle s’établit en moyenne à environ 81 % d’un pays à l’autre.

Dans le scénario de la passerelle, le calcul est identique : cinq personnes sur le trajet du tramway, une mort en évite cinq. Mais ici, le mécanisme diffère. Vous êtes sur une passerelle. Le seul moyen d’arrêter le tramway est de pousser un inconnu corpulent sur les rails, en vous servant de son corps comme d’un obstacle. Dans la même enquête menée dans 42 pays, l’approbation tombe à environ 51 %. Dans les études antérieures sur des échantillons occidentaux, la majorité jugeait que ce n’était pas permis.

Le calcul et l’issue sont les mêmes. Ce qui change, c’est la structure causale : dans un cas intervient un mécanisme, dans l’autre il faut poser les mains sur le corps d’autrui, et le verdict s’inverse.

Greene et ses collègues ont eu recours à l’imagerie cérébrale pour trouver un corrélat neuronal de cette asymétrie précise. Lorsque les sujets envisageaient le scénario de la passerelle, avec son tort personnel, sa causalité directe et son contact physique, les régions cérébrales associées au traitement émotionnel s’activaient de façon préférentielle. Lorsqu’ils envisageaient le scénario de l’aiguillage, où le tort est impersonnel, indirect et médiatisé par un mécanisme, les régions du raisonnement délibératif montraient une activité relative plus forte.

L’interprétation qu’en tire Greene est provocante : l’intuition morale qui interdit de pousser l’inconnu ne suit peut-être aucune différence morale entre les deux cas. Selon lui, elle suit quelque chose de très ancien dans l’évolution, une aversion pour le tort direct et personnel, calibrée pour un monde où les seules personnes qu’on pouvait blesser étaient à portée de main. Philippa Foot a introduit le tramway en 1967 sous la forme d’un dilemme auquel est confronté son conducteur ; Judith Jarvis Thomson a ensuite ajouté le passant à l’aiguillage et l’homme sur la passerelle. Toutes deux ont remarqué à quel point les intuitions divergent d’un cas à l’autre et ont proposé des principes pour l’expliquer : faire le mal ou le laisser advenir, détourner une menace ou se servir d’une personne comme d’un moyen. Les philosophes se demandent encore si ces principes marquent une véritable différence morale. Les neurosciences de Greene proposent une autre explication, dérangeante : les verdicts divergents pourraient être un artefact de la manière dont s’est construite notre psychologie morale, et non la réponse à une différence moralement pertinente.

L’instinct vif, physique et direct qui interdit de pousser l’inconnu est peut-être celui-là même qui rend les torts lointains moins urgents sur le plan moral. Les conditions de travail dans les chaînes d’approvisionnement, la politique de lutte contre la pollution de l’air et les décisions financières qui appauvrissent des millions de personnes impliquent des torts réels et quantifiables, qui dépassent souvent ceux qui suscitent une réaction morale immédiate. Mais ils passent par des mécanismes, à distance, et touchent des personnes statistiques plutôt que des individus visibles. Une aversion réglée sur le contact physique direct ne s’en trouverait pas déclenchée, et l’urgence morale ne se ferait donc pas sentir.

La question de la validité écologique

Les dilemmes du tramway sont de toute évidence artificiels. Ils évacuent l'incertitude, n'exigent aucune action, n'entraînent aucune conséquence interpersonnelle et ne ressemblent presque en rien aux décisions morales que les gens ont réellement à prendre. Un critique a de bonnes raisons de se demander si leurs résultats se généralisent à quoi que ce soit.

La réponse est qu'une asymétrie apparentée se retrouve aussi dans les comportements réels : une forte attraction morale vers l'identifiable, et une attraction faible vers le statistique. Dans des études sur les dons caritatifs, les donateurs ont donné davantage pour un seul enfant malade identifié que pour un groupe de huit, même quand les huit étaient tous identifiés. L'expérience sur les dons décrite plus bas a relevé la même asymétrie dans des dons réels. Une attraction du genre de celle que laisse entrevoir le dilemme du tramway se manifeste donc dans des contextes qui n'ont rien d'artificiel : dans ces études, une victime identifiable sollicitait plus fortement la compassion et le portefeuille qu'une victime statistique, dans de vraies décisions de don comme dans les expériences de pensée. L'effet est moins solide qu'il n'y paraissait. De récentes réplications préenregistrées des deux études, fondées sur des dons hypothétiques, n'ont trouvé aucun avantage fiable de la victime identifiable ; la force et la portée de cette attraction restent donc débattues.

L’arithmétique de la compassion

En 1991, William Desvousges et ses collègues ont demandé à des gens combien ils paieraient pour empêcher des oiseaux migrateurs de se noyer dans des bassins de pétrole. Un premier groupe apprenait que le programme sauverait 2 000 oiseaux, un deuxième 20 000, un troisième 200 000.

Les consentements à payer se sont établis à 80, 78 et 88 dollars. L’écart entre 2 000 et 200 000, un facteur cent, a produit une différence de préoccupation morale si faible qu’elle se perdait dans le bruit statistique.

L’explication la plus probable est que les gens mettaient un prix sur l’image d’un oiseau qui se débat dans un bassin de pétrole. Une seule image mentale a fixé le prix, et l’image était la même, qu’elle représente 2 000 oiseaux ou 200 000.

On appelle cela l’insensibilité à l’ampleur. Les participants de Desvousges savaient sans doute que 200 000 est plus grand que 2 000 ; l’erreur ne tient donc pas à l’arithmétique. Connaître un nombre et le ressentir sont deux opérations cognitives différentes, servies par des systèmes différents, et c’est le ressenti, non le savoir, qui a fixé ces prix.

Thomas Schelling a mis en évidence le problème des « vies identifiées » en 1968 : vies statistiques et vies identifiées ne sont pas traitées comme moralement équivalentes, même lorsque nous savons qu’elles devraient l’être. Un enfant qui a un nom et une photo peut susciter des dons à une échelle qu’une statistique anonyme, fût-elle de millions de morts, approche rarement. L’écart vient du système affectif, qui réagit à un être humain individuel et identifiable comme il ne réagit pas à un nombre.

Slovic et ses collègues sont allés plus loin et ont constaté que présenter des informations statistiques aux côtés d’une victime identifiée réduisait les dons par rapport à la présentation de la seule victime identifiée. Ajouter les chiffres semble avoir évincé l’engagement émotionnel au lieu de le compléter. L’appel disait en substance : voici une fillette, Rokia, et voici des millions d’autres personnes menacées par la faim à travers l’Afrique. Cette information aurait dû ajouter du poids moral ; les dons ont au contraire baissé. Selon les auteurs, les statistiques ont fait passer les gens du ressenti au calcul, mais les donateurs ont peut-être aussi eu le sentiment que tout don n’était qu’une goutte d’eau dans la mer.

Ce résultat signifie que l’antidote évident, davantage d’information et de quantification, peut aggraver les choses. Si la pensée analytique et l’engagement émotionnel se disputent l’activation, et si c’est l’engagement émotionnel qui pousse à l’action morale, les outils les plus disponibles pour corriger l’insensibilité à l’ampleur risquent de jouer contre la motivation qu’ils sont censés servir.

Jessica McClure avait dix-huit mois lorsqu’elle est tombée dans un puits, au fond d’un jardin de Midland, au Texas, en 1987. Elle est restée coincée cinquante-huit heures sous les yeux du monde entier, en direct à la télévision, et des inconnus émus ont envoyé assez d’argent pour constituer un fonds fiduciaire pouvant atteindre 800 000 dollars. Ce qui les a touchés, c’est une enfant nommée, suivie heure par heure en direct à la télévision. Des populations statistiques anonymes, si nombreuses soient-elles, suscitent rarement cette réaction. Il s’agit d’un échec de la psychologie morale avant d’être un échec des médias ou de la politique. Médias et politique amplifient une architecture préexistante : ils répondent à ce qui suscite l’engagement émotionnel, parce que c’est ce dont se nourrit la psychologie morale de leur public.

L'effondrement de la compassion

Slovic a étudié la façon dont la réponse morale ne suit pas l'ampleur de la souffrance. Dans une étude que Slovic a présentée avec Daniel Västfjäll et Ellen Peters, les participants pouvaient faire un don pour aider une fillette malienne affamée, Rokia, ou un garçon affamé, Moussa. Ils donnaient moins, et ressentaient moins, quand on leur demandait d'aider les deux enfants ensemble que lorsqu'on leur demandait d'aider l'un ou l'autre seul. Le modèle de Slovic : la compassion culmine face à une seule victime, commence à faiblir à deux et s'effondre à mesure que le nombre grossit jusqu'à devenir une statistique.

Slovic a appliqué explicitement cette idée à la manière dont les sociétés réagissent aux atrocités de masse. Le monde sait en général, à peu près, ce qui se passe ; ce qui lui permet en partie de rester passif face à un génocide, soutenait-il, c'est que la réponse morale ne croît pas avec les chiffres. Une seule mort est perçue comme une tragédie, tandis qu'un million de morts deviennent, dans le traitement qu'en fait le cerveau, quelque chose de plus proche d'une abstraction. Il en résulte un plafond de l'engagement émotionnel, calibré sur des individus plutôt que sur des quantités.

Le problème de l’universalisme

L’échappatoire la plus accessible à tout ce qui précède est la suivante : les intuitions morales individuelles sont peut-être faussées par la proximité, l’identité et l’affect, mais il existerait un sens moral universel, commun à toutes les cultures et ancré dans quelque chose comme la nature humaine, qui, bien compris, suit la vérité morale.

Haidt et Joseph ont proposé en 2004 ce qui allait devenir la théorie des fondements moraux : un petit ensemble de dimensions de la préoccupation morale, innées mais calibrées par la culture. Ils en comptaient quatre au départ ; en trois ans, la liste était passée aux cinq qui ont fait la célébrité de la théorie — Soin/Préjudice, Équité/Tricherie, Loyauté/Trahison, Autorité/Subversion et Sainteté/Pureté. Liberté/Oppression a ensuite été proposée comme sixième candidate, et en 2023 les chercheurs de la théorie ont scindé l’Équité en Égalité et Proportionnalité, ce qui donne six fondements centraux. La thèse n’était pas que toutes les cultures moralisent de la même façon, mais qu’elles puisent dans un ensemble commun de fondements, qu’elles pondèrent différemment selon leur histoire, leur écologie et leur structure sociale.

Aux États-Unis, un résultat s’est révélé solide : les progressistes moralisent surtout autour du Soin et de l’Équité ; les conservateurs pondèrent les cinq fondements de manière plus égale, y compris la Loyauté, l’Autorité et la Sainteté, à des niveaux que les progressistes n’atteignent pas. La conséquence pratique, que Haidt avait déjà signalée, est que, souvent, chaque camp ne reconnaît même pas comme morales les préoccupations morales de l’autre.

Hors des États-Unis, une équipe a cherché à savoir si la structure elle-même, plutôt que les pondérations, se retrouve dans un éventail plus large de sociétés, y compris des échantillons non WEIRD. Elle a constaté que la structure à cinq fondements tient aussi bien dans les cultures WEIRD que dans les autres, même si certains items du questionnaire se comportent un peu différemment d’une culture à l’autre.

Y voir un sauvetage de l’universalisme se heurte à un problème. L’affirmation selon laquelle les intuitions morales suivent des faits moraux objectifs est à la disposition de toutes les cultures à la fois, et c’est précisément ce qui la disqualifie comme validation des pondérations intuitives d’une culture en particulier. Chaque culture a les intuitions que son histoire, son écologie et sa structure sociale ont produites. Les origines évolutives de ces intuitions expliquent pourquoi elles existent ; elles ne leur confèrent aucun privilège épistémique. Les données sur les divergences entre cultures n’en justifient d’ailleurs aucune : dans des sociétés différentes, les gens accordent au Soin, à la Loyauté et à l’Autorité des poids différents, chacun avec la même assurance.

Il faut distinguer cela du relativisme moral, qui serait une autre erreur. Les données interculturelles ne montrent pas que toutes les opinions morales se valent. Elles interdisent de tenir les certitudes morales d’une culture pour dignes de confiance au seul motif qu’elles sont largement partagées ou intensément ressenties. L’étendue et l’intensité sont des propriétés de la certitude, et, à elles seules, elles ne sauraient en garantir le contenu.

Et le progrès moral est réel, ce qui veut dire que le tableau est intelligible, mais pas simple. Sur l’esclavage, la condition des femmes, le traitement des enfants et l’étendue du cercle de ceux qui comptent pleinement comme patients moraux, la direction du mouvement n’a rien d’aléatoire. Les mécanismes sont multiples : évolution des conditions économiques, changements religieux, nouvelles sympathies nées de la littérature et du contact, organisation politique, argumentation philosophique sur le temps long. Ce que ces cas ont en commun, c’est que l’aboutissement moralement juste exigeait de passer outre des intuitions majoritaires fermement ancrées, qui ne montraient aucune tendance à se corriger d’elles-mêmes. Un sentiment moral répandu et sûr de lui avait tort, et il a fallu aller contre lui.

Le problème WEIRD

Henrich et ses collègues ont montré que l'écrasante majorité des recherches en psychologie avaient été menées sur des échantillons WEIRD (occidentaux, instruits, industrialisés, riches et démocratiques), qui ne sont pas représentatifs des populations humaines, même pour des mesures cognitives élémentaires. Les premières recherches de Haidt sur les fondements moraux, qui s'appuyaient largement sur des échantillons américains, n'ont pas fait exception.

C'est une préoccupation méthodologique réelle. Si les fondements ont été identifiés surtout dans des populations occidentales et instruites, leur prétention à l'universalité est menacée. Les travaux interculturels menés depuis y ont en partie répondu : dans 30 sociétés diverses, la structure à cinq facteurs tient aussi bien dans les cultures WEIRD que dans les autres, même si certains items du questionnaire se comportent différemment d'une culture à l'autre. La critique WEIRD affaiblit les premières affirmations sur l'universalité biologique spécifique de tel ou tel fondement et sur son contenu exact. Elle ne sauve pas l'argument universaliste, car des fondements présents dans toutes les cultures n'en restent pas moins pondérés de façon très différente d'une culture à l'autre.

Ce qu’exige un raisonnement moral corrigé

Le jugement moral se présente avant tout comme un sentiment, produit par une machinerie affective calibrée pour la proximité, la visibilité et l’identité individuelle. Cette machinerie réagit mal à l’échelle et à la distance, et elle ne réagit pas de la même manière aux individus identifiés qu’aux populations statistiques. Et il n’existe pas de sens moral universel qui transcenderait ces distorsions, car les sens moraux dont disposent les humains sont ceux que l’histoire évolutive et culturelle a produits, et non ceux qui suivent ce qui compte à l’échelle des décisions collectives modernes.

La solution n’est pas de ressentir moins, ni de devenir quelqu’un qui évalue la souffrance de manière analytique plutôt qu’émotionnelle. Comme le biais est inscrit dans la façon dont le système de réponse affective traite l’information, la résolution de ressentir autrement ne l’atteindra pas ; la correction doit être intégrée à la manière dont les décisions sont prises. Une personne qui se promet de se soucier davantage des souffrances lointaines s’y tiendra jusqu’au moment où la victime identifiée apparaîtra, et alors une bonne part de son attention morale risque de se reporter sur elle.

Quantifier explicitement l’ampleur au moment de la décision accomplit ce que la réponse morale spontanée ne peut pas accomplir. Imposer la comparaison de 2 000 et de 200 000 sur la même échelle, selon les mêmes critères, produit des jugements que le système affectif ne livrera pas seul. La méthode de l’altruisme efficace, quels que soient ses autres défauts, consiste à ramener les résultats à une échelle commune. Son échafaudage philosophique est l’argument de Singer, en 1972, selon lequel la distance géographique et l’anonymat ne sont pas moralement pertinents : un enfant qui se noie a le même droit à votre aide, qu’il soit sous vos yeux ou sur un autre continent. L’analyse coût-efficacité de GiveWell est cette méthode mise en pratique : combien de vies par dollar, ce qui oblige à arbitrer entre les causes pour d’autres raisons que celle de savoir laquelle s’est présentée avec un visage.

Cela fait peser la charge sur les institutions plus que sur la résolution individuelle. Un tri de l’aide étrangère opéré au gré de la couverture télévisée plutôt que d’une analyse systématique de l’endroit où un dollar fait le plus de bien est avant tout une défaillance structurelle. Concevoir des institutions qui exigent une analyse comparative explicite avant d’engager des ressources est difficile, parce que la psychologie morale qui fausse les dons individuels anime aussi les électorats qui financent les organisations d’aide.

Tenir la distance et le mécanisme pour moralement indifférents dans les politiques publiques, c’est inscrire le travailleur de la chaîne d’approvisionnement et la victime de la pollution dans le même registre que la personne qui se tient devant vous. L’analyse coûts-bénéfices de la réglementation a la bonne structure pour opérer cette correction, et souvent elle n’y parvient pas.

Il faut nommer clairement une dépendance normative : ces corrections présupposent que l’échelle est moralement pertinente et que la distance seule ne l’est pas, de sorte que 200 000 morts comptent davantage que 2 000, où qu’elles surviennent. C’est une position normative substantielle, de nature largement conséquentialiste, vers laquelle les données empiriques poussent fortement sans pour autant l’établir. Ce que montrent les données, c’est que tout cadre qui ignore l’échelle et laisse la distance diminuer le poids d’une revendication reproduira les défaillances précises décrites plus haut. Ce qu’on met sur l’autre plateau de la balance relève d’un choix normatif.

L’altruisme efficace a ses propres modes de défaillance : un long-termisme spéculatif, un entre-soi méthodologique, et l’effondrement de FTX, à l’issue duquel Sam Bankman-Fried, le donateur le plus en vue du mouvement et son plus célèbre porte-parole, a été reconnu coupable de sept chefs de fraude et d’association de malfaiteurs et condamné à vingt-cinq ans de prison fédérale. Rien de tout cela ne réfute la méthode de base. Cela montre en revanche que les corrections structurelles sont exposées au même raisonnement motivé qu’elles sont censées contrer, appliqué désormais au cadre lui-même.

Les institutions qui devraient incarner cette correction structurelle à grande échelle, comme les gouvernements démocratiques, les organismes d’aide internationale et les agences de santé publique, sont toutes sensibles aux intuitions que cet article s’est employé à démonter : aux histoires individuelles, aux photographies, aux crises visibles et proches. L’écart entre la position de ces institutions et celle qu’elles devraient occuper est un fossé de psychologie morale, et le combler exige un effort soutenu à rebours de la manière dont fonctionne la motivation morale.

L’esprit moral dans son élément

Le participant du début, à court de raisons mais la conviction intacte, ne raisonne pas mal.

Sa cognition morale fonctionne exactement comme elle a été conçue pour fonctionner. Le scénario d’inceste déclenche une aversion héritée de l’évolution, une réaction de dégoût pour reprendre les termes de Haidt, qui remplissait une fonction là où l’inceste avait des coûts réels : génétiques, sociaux, structurels. La conviction n’est irrationnelle qu’au sens où une machinerie construite dans un but précis opère là où ce but ne s’applique pas : le scénario a été posé comme dépourvu des torts qui rendent l’aversion pour l’inceste adaptative, et l’aversion se déclenche malgré tout.

Il en va de même du passant qui n’a pas pu pousser l’inconnu du haut de la passerelle et du responsable politique qui a précipité les ressources vers la catastrophe télévisée en ignorant celle, plus silencieuse, qui tuait davantage de gens à un rythme plus lent. L’un comme l’autre appliquent fidèlement leurs instincts moraux, et chaque instinct est fonctionnel dans son domaine d’origine et muet dans celui qui décide qui reçoit de l’aide et qui n’en reçoit pas.

Pourtant, les convictions morales qui résistent à la pression rationnelle peuvent receler une information sociale réelle : des avertissements accumulés par l’expérience, des normes dont la fonction n’est pas transparente, un savoir implicite sur les lignes de partage de la confiance au sein d’une communauté. Parfois, la résistance à la révision suit quelque chose qui n’a pas encore pu être formulé. Les intuitions morales ont évolué parce qu’elles suivaient parfois quelque chose. Les écarter entièrement au profit du calcul explicite est une autre erreur.

Mais il faut tenir cette concession dans ses limites exactes. Elle ne s’étend pas à la répartition des ressources entre 200 000 personnes que le décideur ne verra jamais, dont la souffrance n’émet guère de signal émotionnel parce qu’elles n’ont pas de visage. Elle ne s’étend pas au jugement selon lequel un enfant qui se noie tout près a un droit plus fort qu’un enfant qui meurt du paludisme sur un autre continent, quand la seule différence est la proximité. Dans ces contextes, ceux-là mêmes où s’exercent les décisions morales collectives, l’intuition fonctionne à contre-emploi.

Le participant du début savait quelque chose : sa conviction était un savoir moral opérant, dans son domaine. Ce domaine n’atteint pas les 200 000 personnes qu’un décideur ne verra jamais, et la plupart des décisions qui comptent portent sur des gens comme elles.

Articles connexes

• L’économie de la confiance : ce qui arrive à une société quand ce qui fait fonctionner les marchés commence à disparaître
• Le paradoxe de la tolérance : ce que Karl Popper a vraiment dit et pourquoi tout le monde s’en sert à tort
• La biologie de la prise de risque : pourquoi adolescents, traders et soldats commettent les mêmes erreurs

Pour aller plus loin

En tant que Partenaire Amazon, Eikleaf réalise un bénéfice sur les achats remplissant les conditions requises. Les liens vers les livres ci-dessous sont des liens affiliés : si vous achetez par leur intermédiaire, nous pouvons percevoir une petite commission, sans frais supplémentaires pour vous.

Vidéos recommandées

Avertissement relatif à l’IA générative

Certains contenus de cette page ont été générés et/ou édités avec l’aide d’une IA générative.

Médias

KATRIN BOLOVTSOVA – Pexels

Principales sources et références

Haidt, J. (2001). The emotional dog and its rational tail: A social intuitionist approach to moral judgment. Psychological Review, 108(4), 814–834. https://doi.org/10.1037/0033-295X.108.4.814

Greene, J. D., Sommerville, R. B., Nystrom, L. E., Darley, J. M., & Cohen, J. D. (2001). An fMRI investigation of emotional engagement in moral judgment. Science, 293(5537), 2105–2108. https://doi.org/10.1126/science.1062872

Zajonc, R. B. (1980). Feeling and thinking: Preferences need no inferences. American Psychologist, 35(2), 151–175. https://doi.org/10.1037/0003-066X.35.2.151

Kohlberg, L. (1971). From is to ought: How to commit the naturalistic fallacy and get away with it in the study of moral development. In T. Mischel (Ed.), Cognitive development and epistemology (pp. 151–235). New York: Academic Press.

Paxton, J. M., & Greene, J. D. (2010). Moral reasoning: Hints and allegations. Topics in Cognitive Science, 2(3), 511–527. https://doi.org/10.1111/j.1756-8765.2010.01096.x

Paxton, J. M., Ungar, L., & Greene, J. D. (2012). Reflection and reasoning in moral judgment. Cognitive Science, 36(1), 163–177. https://doi.org/10.1111/j.1551-6709.2011.01210.x

Herec, J., Sykora, J., Brahmi, K., Vondracek, D., Dobesova, O., Smelik, M., Vaculik, M., & Prochazka, J. (2022). Reflection and reasoning in moral judgment: Two preregistered replications of Paxton, Ungar, and Greene (2012). Cognitive Science, 46(7), e13168. https://doi.org/10.1111/cogs.13168

McHugh, C., McGann, M., Igou, E. R., & Kinsella, E. L. (2017). Searching for moral dumbfounding: Identifying measurable indicators of moral dumbfounding. Collabra: Psychology, 3(1), 23. https://doi.org/10.1525/collabra.79

McHugh, C., McGann, M., Igou, E. R., & Kinsella, E. L. (2020). Reasons or rationalizations: The role of principles in the moral dumbfounding paradigm. Journal of Behavioral Decision Making, 33(3), 376–392. https://doi.org/10.1002/bdm.2167

Haidt, J., Björklund, F., & Murphy, S. (2000). Moral dumbfounding: When intuition finds no reason. Unpublished manuscript, University of Virginia.

Royzman, E. B., Kim, K., & Leeman, R. F. (2015). The curious tale of Julie and Mark: Unraveling the moral dumbfounding effect. Judgment and Decision Making, 10(4), 296–313. https://doi.org/10.1017/S193029750000512X

Foot, P. (1967). The problem of abortion and the doctrine of the double effect. Oxford Review, 5, 5–15.

Thomson, J. J. (1976). Killing, letting die, and the trolley problem. The Monist, 59(2), 204–217. https://doi.org/10.5840/monist197659224

Thomson, J. J. (1985). The trolley problem. Yale Law Journal, 94(6), 1395–1415. https://doi.org/10.2307/796133

Awad, E., Dsouza, S., Shariff, A., Rahwan, I., & Bonnefon, J.-F. (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences, 117(5), 2332–2337. https://doi.org/10.1073/pnas.1911517117

Kogut, T., & Ritov, I. (2005). The « identified victim » effect: An identified group, or just a single individual? Journal of Behavioral Decision Making, 18(3), 157–167. https://doi.org/10.1002/bdm.492

Desvousges, W. H., Johnson, F. R., Dunford, R. W., Boyle, K. J., Hudson, S. P., & Wilson, K. N. (1992). Measuring nonuse damages using contingent valuation: An experimental evaluation of accuracy (RTI Monograph 92-1). Research Triangle Park, NC: Research Triangle Institute.

Schelling, T. C. (1968). The life you save may be your own. In S. B. Chase, Jr. (Ed.), Problems in public expenditure analysis (pp. 127–176). Washington, DC: Brookings Institution.

Small, D. A., Loewenstein, G., & Slovic, P. (2007). Sympathy and callousness: The impact of deliberative thought on donations to identifiable and statistical victims. Organizational Behavior and Human Decision Processes, 102(2), 143–153. https://doi.org/10.1016/j.obhdp.2006.01.005

Maier, M., Wong, Y. C., & Feldman, G. (2024). Revisiting and rethinking the identifiable victim effect: Replication and extension of Small, Loewenstein, and Slovic (2007). Collabra: Psychology, 9(1), 90203. https://doi.org/10.1525/collabra.90203

Majumder, R., Tai, Y. L., Ziano, I., & Feldman, G. (2024). Revisiting the impact of singularity on the identified victim effect: Replication and extension of Kogut and Ritov (2005a) Study 2. Judgment and Decision Making, 19, e26. https://doi.org/10.1017/jdm.2024.31

Slovic, P. (2007). If I look at the mass I will never act: Psychic numbing and genocide. Judgment and Decision Making, 2(2), 79–95. https://doi.org/10.1017/S1930297500000061

Associated Press. (2011, March 25). Baby Jessica turns 25, gains access to trust fund. NBC News. https://www.nbcnews.com/id/wbna42283074

Graham, J., Haidt, J., & Nosek, B. A. (2009). Liberals and conservatives rely on different sets of moral foundations. Journal of Personality and Social Psychology, 96(5), 1029–1046. https://doi.org/10.1037/a0015141

Haidt, J., & Joseph, C. (2004). Intuitive ethics: How innately prepared intuitions generate culturally variable virtues. Daedalus, 133(4), 55–66. https://doi.org/10.1162/0011526042365555

Haidt, J., & Graham, J. (2007). When morality opposes justice: Conservatives have moral intuitions that liberals may not recognize. Social Justice Research, 20(1), 98–116. https://doi.org/10.1007/s11211-007-0034-z

Atari, M., Haidt, J., Graham, J., Koleva, S., Stevens, S. T., & Dehghani, M. (2023). Morality beyond the WEIRD: How the nomological network of morality varies across cultures. Journal of Personality and Social Psychology, 125(5), 1157–1188. https://doi.org/10.1037/pspp0000470

Henrich, J., Heine, S. J., & Norenzayan, A. (2010). The weirdest people in the world? Behavioral and Brain Sciences, 33(2–3), 61–83. https://doi.org/10.1017/S0140525X0999152X

Doğruyol, B., Alper, S., & Yilmaz, O. (2019). The five-factor model of the moral foundations theory is stable across WEIRD and non-WEIRD cultures. Personality and Individual Differences, 151, 109547. https://doi.org/10.1016/j.paid.2019.109547

Singer, P. (1972). Famine, affluence, and morality. Philosophy & Public Affairs, 1(3), 229–243.

GiveWell. (2017, June 1). How GiveWell uses cost-effectiveness analyses. GiveWell Blog. https://blog.givewell.org/2017/06/01/how-givewell-uses-cost-effectiveness-analyses/

United States Attorney’s Office, Southern District of New York. (2024, March 28). Sam Bankman-Fried sentenced to 25 years in prison for orchestrating massive fraud. U.S. Department of Justice. https://www.justice.gov/usao-sdny/pr/sam-bankman-fried-sentenced-25-years-prison