道徳的な心：あなたの倫理的直観はなぜ思っているほど当てにならないのか、そしてどうすればよいのか

これは機械翻訳された記事です。原文は英語です。

最終更新日：2026年10月25日 · 読了時間23分

ともに成人した男女のきょうだいが一緒に旅をしていて、ある晩、セックスをしようと決める。二人は避妊をする。それを楽しむが、もう二度としないと決める。そのことは二人だけの秘密にする。誰も害を被らない。どちらも、あとになって傷ついたり悩んだりすることはない。

これは間違っているだろうか？

ほとんどの人は即座に、間違っていると答える。そこで聞き手が理由を問いはじめる。遺伝的な害はどうか。二人は避妊していたのだから、それは除外される。生まれてくる子どもにとっての社会的な混乱は？　子どもはいないし、二人は秘密を守ることで合意している。どちらかが無理強いされたと感じたのでは？　シナリオでは、互いの同意が前提になっている。二人の関係が壊れたら？　壊れてはいない――二人はかえって親密になった。

こうして、理由はひとつ、またひとつと崩れていく。インタビューを受ける人は、ときにしぶしぶながらも誠実に、譲歩をひとつずつ認めていく。たしかに、遺伝的な害がないという前提なら、それは認めよう。たしかに、秘密が守られ、互いに合意しているという前提なら、それも認めよう。そしてこの過程の終わりに、理由が尽き、口にした異論がすべて認められ、退けられたあとでも、判断は動かない。

「それでもやっぱり間違っていると思う。とにかく、わかるんだ」

こう言う人は愚かではないし、わざと物わかりの悪いふりをしているのでもない。自分自身についての真実を、めったにないほど正確に語っているのである。確信は理由から始まったのではない。確信が先に訪れ、理由はそのあとで呼び出された。そして理由が崩れたとき、確信はそれ自体で立ち続けた。確信を支える理由として本人が言葉にできるものは、もう何も残っていなかった。

心理学者ジョナサン・ハイトと共同研究者たちは、これを「道徳的唖然（moral dumbfounding）」と呼んだ。判断を支える理由がすべて剥ぎ取られたあとも、道徳的判断が持続する現象である。これを理解するには、道徳的判断がどのように下されるのかを詳しく見る必要がある。

情動の犬と、その理性の尻尾

道徳心理学における西洋の主流の伝統は、ピアジェからコールバーグへと連なっている。道徳の発達とは推論の能力を段階的に獲得していく過程であり、原始的な規則の遵守から、正義と権利についての原理に基づく省察へと向かう歩みだ、という考え方である。この図式では、道徳的判断は、正しく機能していれば道徳的推論の産物になる。よく考え、結論に達する。発達段階が十分に進んでいれば、その理由を説明することさえできる。

2001年、ジョナサン・ハイトは、この図式はかなりの程度まで逆さまだと論じた。

ハイトの社会的直観モデルによれば、道徳的判断は速く自動的な情動的処理の産物である。それは素早く作動して判断を生み出し、推論によって導かれたわけではないのに結論のように感じられる。判断のあとに続くのは合理化、つまり判断を支えうる理由をひねり出す過程であり、それを担うシステムの役目は、判断が正しいかどうかを評価することではなく、判断を擁護することにある。ハイトが持ち出す比喩は、犬とその尻尾である。情動のシステムが犬であり、行動するのはこちらだ。理性は尻尾であり、犬の動きに応じて動く。尻尾だけを見ていれば、犬が推論していると結論するだろう。だが尻尾は何も動かしてはいない。

内側から見ると、これは直観に反するように感じられる。しかも、そう感じられるようにできているのである。道徳的な問いについて推論しているとき、それはたしかに推論しているように感じられる。検討し、比較衡量し、ときには考えを改めている。ハイトはこれに対し、意識が自分自身について観察できるものと、実際に出力を生み出しているものとを区別する。推論の過程は観察できる。推論が始まる前に届いていた情動的な判断は観察できない。

情動が優位にあるという主張は、ロバート・ザイアンスにさかのぼる。ザイアンスは、刺激に対する情動的な反応が認知的な評価に先行し、それとは独立に働きうることを見出した。人は信念を形成する前に、好みを形成するのである。ハイトはこれをそのまま道徳的判断に当てはめる。近親相姦のシナリオの「間違っている」という感覚は、正当化の仕組みが動き出す前に、身体の感覚のようにやって来る。

ハイトは、推論が道徳的判断を動かしているという見方を疑う理由を四つ挙げた。第一に、二重過程の問題。道徳的判断は速く自動的であり、反応は熟慮に先立ち、推論というより知覚のように感じられる。第二に、動機づけられた推論の問題。人は道徳について、証拠を比較衡量する裁判官というよりは、依頼人を弁護する弁護士のように推論する。その背中を押すのは、集団に溶け込みたい、自分の世界観を守りたいという願いである。第三に、事後的説明の問題。推論は、すでに下された判断の正当化をたやすく作り出し、理由が先にあったかのような錯覚を生む。そして第四に、行動の問題。人の行動は、道徳的推論よりも道徳的感情のほうに、より密接に連動している。ハイトのモデルでも、推論は人の考えを変える。ただしそれは主に、説得や社会的影響を通じて変わる他人の考えであって、推論する本人の考えではない。

内側から見れば、推論はうまく機能しているように感じられる。観察できるのがそれだけだからである。判断を下した仕組みは観察の届かない水準で動いており、推論の過程は、その判断を評価するのではなく、その判断を擁護する論拠づくりに力を注いでいる。

二重過程をめぐる論争

ハイトの社会的直観モデルに異論がないわけではない。ジョシュア・グリーンの二重過程モデルは脳画像研究と並行して練り上げられたもので、道徳的判断には区別できる二つのシステムが関わると考える。速く情動に駆動される過程と、より遅く熟慮的な過程であり、熟慮的なシステムは情動的なシステムを覆すことができ、実際にときにそうしている。グリーンはのちに共同研究者とともに、理性の役割を過度に割り引く解釈だと彼らが考えるものに反論し、熟慮的な推論は単なる事後的な合理化にとどまらず、ときに本物の道徳的修正をもたらすと主張した。

ハイトの応答は、理性が本物の修正をもたらすことは決してない、というものではない。それは合理主義の伝統が想定していたよりもはるかにまれにしか起きず、しかもはるかに狭い条件の下でしか起きない、というのである。その後の証拠はまちまちだ。グリーンのチームがこれを検証したところ、ジュリーとマークを擁護する強い論証は、弱い論証よりも多くの賛同を得た。ただしそれは、答える前に2分間余分に考えさせた場合に限られていた。2022年に行われた、より大規模な二つの事前登録型の追試はこのパターンを再現できず、その狭い突破口さえ確かではなくなった。ハイトの読みでは、核心の主張は生き残っている。道徳的判断は主として情動的なものであり、理性は主に下流で働き、道徳の発達についての合理主義的な図式は大きく的を外している。争われているのは、それがどの程度なのか、どのような条件の下でなのか、という点である。ハイトが正しければ、あなたの道徳的判断はたいてい理由より先に届き、理由の主な仕事はその判断を擁護することになる。

道徳的唖然――圧力の下で仕組みはどう見えるか

「ジュリーとマーク」のシナリオはハイト自身の例であり、社会的直観モデルが予測するものを示すために作られた。近親相姦を非難するときの標準的な、害に基づく正当化をすべて剥ぎ取るように組み立てられた場面であり、判断がそうした理由に依存しているのなら、理由を取り除けば判断は揺らぐはずである。バージニア大学の学部生31人を対象としたハイトの最初のインタビューでは、判断は揺らがなかった。その後の研究もこの効果を再現しているが、たいていは参加者の少数派においてである。

「道徳的唖然」という用語は、ハイトがフレドリック・ビョークルンド、スコット・マーフィーとともに2000年の草稿で造ったもので、まさにこの現象を指す。支える理由がないまま道徳的判断を頑固に保ち続け、しかも本人が、支える理由が尽きたことに困惑しながら気づいている状態である。人を唖然とさせるのは、正当化の支柱が叩き落とされたあとも判断が持続し、同時に、自分が置かれた立場への戸惑いが目に見えて表れることだ。

マクヒューらは、道徳的唖然の測定可能な指標を特定するための明確な手順を用いて、インタビュー研究で、参加者31人のうち22人が四つのシナリオを通じて少なくとも一度は唖然とした状態に陥ったことを見出した。回答ごとに数えると、およそ17%は、理由がないことを明言しつつ判断を維持するものであり、さらに9%は「根拠のない断言」、つまり正当化を伴わずに間違っていると言い切るものだった。これらの数字は控えめである。唖然の構造を言葉にした回答だけを数えているからだ。当初は害に基づく正当化を挙げていた参加者のかなりの割合が、その正当化を取り下げたあとも、結局は判断を維持していた。

理由が尽きたときに起きることには、はっきりした特徴がある。参加者は新しい論証を探しにいかない。戸惑いを口にするのである。「とにかくそう感じる」。「とにかく間違っている。説明はできない」。推論の失敗として捉えれば、これらは言い逃れに聞こえる。社会的直観モデルを真剣に受け止めれば、正確な自己報告として読める。確信は理由から生じたのではなかったのだから、理由に依存してもいなかったのである。

そう読むなら、差し出された理由は事後的な合理化だった。意図的な不誠実ではない。推論の過程が、自分で生み出したわけではない立場のために正当化を探し回っているのであり、そのために使う仕組みの仕事は、評価ではなく弁護なのである。

ロイズマンの挑戦

道徳的唖然の研究には、方法論の面で手ごわい挑戦者がいる。2015年、ロイズマンらは、ハイトのパラダイムで唖然としているように見えた参加者の多くは、そもそも理由を挙げられなかったのではなく、害がないという前提を暗に拒んでいたのだと論じた。彼らはシナリオに害がないことを疑い、前提が明示的には排除していない害を次々に見つけ出していた。心理的な影響、長期的な関係の損傷、外からは見えないほど遠い害である。この読みに従えば、見かけ上の唖然とは、参加者が理由なき判断を保っていたのではなく、完全には手放す気になれない、害に基づく理由にしがみついていた状態だということになる。

これは実質のある批判である。見かけ上の唖然の大半が、詳しく調べると暗黙の害の推論に解消されてしまうのなら、この現象は、ハイトが主張したほどには情動の優位を示す証拠にならないだろう。

マクヒューらは2020年の追跡研究で、実証的にこれに答えた。チェックリストで示された理由に同意することは、その理由に導かれていることと同じではない、と彼らは論じた。そこで、害や規範に基づく理由を自分の言葉で述べ、かつそれに同意した参加者だけを除外し、第二の研究では、その理由を状況をまたいで一貫して適用したことも条件に加えた。この基準を満たす人はごくわずかで、残る全員のあいだで効果は消えない。より厳しい統制の下ではどんな実験効果も狭まるように、効果は狭まる。それでも残る。この現象は、ハイトが当初示唆したよりも狭く、彼の初期の著作がほのめかしたほど普遍的でもない。だが存在はしており、その存在は道徳的確信の構造を知る手がかりになる。

同じ計算、違う判断

トロッコ問題は使い古されているが、それでも奇妙なことを示している。犠牲者の数がまったく同じ二つのケースが、正反対の判断を受けるのである。

分岐器のケースでは、暴走するトロッコが5人に向かって突き進んでいる。レバーを引けばトロッコを側線に切り替え、5人の代わりに1人を死なせることができる。ほとんどの人は、引くべきだと答える。西洋のサンプルでは賛成はおよそ85〜90%に達し、42カ国にまたがる調査では、国ごとの平均で約81%だった。

歩道橋のケースでも、計算はまったく同じである。トロッコの進路上に5人がいて、1人の死が5人を救う。だがここでは仕組みが違う。あなたは橋の上にいる。トロッコを止める唯一の方法は、大柄な見知らぬ男を線路に突き落とし、その体を障害物として使うことだ。同じ42カ国の調査で、賛成は約51%に下がった。それ以前の西洋のサンプルを用いた研究では、多数派がそれは許されないと答えていた。

計算も結果も同じだ。変わるのは因果の構造である。一方のケースは仕組みを介し、もう一方では自分の手で他人の体に触れなければならない。そして判断がひっくり返る。

グリーンらは脳画像を用いて、まさにこの非対称性に対応する神経活動を見つけた。被験者が、個人的な危害、直接の因果、身体の接触を伴う歩道橋のケースについて考えているときには、情動の処理に関わる脳領域が優先的に活性化した。危害が非個人的で間接的であり、仕組みを介して生じる分岐器のケースについて考えているときには、熟慮的な推論に関わる領域が相対的に強い活動を示した。

グリーンが引き出す解釈は挑発的である。見知らぬ男を突き落とすことに反対する道徳的直観は、二つのケースのあいだにある道徳的な違いを何ひとつ捉えていないのかもしれない。彼の説明では、その直観が捉えているのは進化的に古いもの、つまり、傷つけうる相手が手の届く距離にいる人だけだった世界に合わせて調整された、直接的で個人的な危害への嫌悪である。フィリッパ・フットは1967年、トロッコをその運転士が直面するジレンマとして提示した。のちにジュディス・ジャーヴィス・トムソンが、分岐器のそばにいる傍観者と、歩道橋の上の男を付け加えた。二人とも、こうしたケースのあいだで直観がいかに鋭く分かれるかに気づき、それを説明する原理を提案した。危害を加えることと危害を許すことの違い、脅威の向きを変えることと人を手段として使うことの違いである。それらの原理が本当の道徳的な差異を示しているのかどうか、哲学者たちはいまも議論している。グリーンの神経科学が差し出すのは、居心地の悪い別の答えだ。判断の違いは、道徳的に意味のある違いへの反応ではなく、道徳心理がどのように作られたかの副産物なのかもしれない。

見知らぬ男を突き落とすことへの、生々しく身体的で直接的な本能は、遠くの危害の道徳的な切迫感を薄れさせているのと同じ本能なのかもしれない。サプライチェーンの労働条件、大気汚染をめぐる政策、何百万人もの人を貧困に陥れる金融上の決定は、現実の、数量化できる危害を伴っており、その危害は多くの場合、即座に道徳的反応を引き起こす危害を上回る。だがそれらは仕組みを通じて、遠くから、目に見える個人ではなく統計上の人々を巻き込んでやって来る。直接の身体接触に合わせて調整された嫌悪がそれらによって引き起こされることはなく、だから道徳的な切迫感は感じられない。

生態学的妥当性の問題

トロッコ問題が人工的なのは明らかである。不確実性を取り除き、実際の行動を求めず、対人的な帰結を伴わず、人々が実際に直面する道徳的決定とはほとんど似ていない。批判者が、トロッコのシナリオから得られた知見はそもそもどこかに一般化できるのかと問うのには、十分な根拠がある。

これに対する答えは、これと関連する非対称性は現実の行動にも現れる、というものだ。特定できるものへの強い道徳的な引力と、統計的なものへの弱い引力である。慈善寄付の研究では、寄付者は8人の集団よりも、特定された1人の病気の子どもに多く寄付した。8人全員が特定されていた場合でさえそうだった。後述する寄付実験も、実際の寄付で同じ非対称性を見出した。つまり、トロッコ問題がほのめかす種類の引力は、人工的ではない文脈にも現れる。これらの研究では、特定できる犠牲者は、統計上の犠牲者よりも強く同情と財布を引きつけた。思考実験でも、現実の寄付の決定でも同じである。もっとも、この効果はかつて思われていたほど確かなものではない。最近、両研究を仮想の寄付で事前登録のうえ再現しようとした追試では、特定できる犠牲者の確かな優位は見られなかった。この引力がどれほど強く、どこまで一般的なのかは、いまも議論が分かれている。

思いやりの算術

1991年、ウィリアム・デスヴージェスらは、渡り鳥が油の溜まった池で溺れ死ぬのを防ぐためにいくら払うかを人々に尋ねた。あるグループには、このプログラムで救われる鳥は2000羽だと伝え、別のグループには2万羽、さらに別のグループには20万羽だと伝えた。

支払意思額は80ドル、78ドル、88ドルだった。2000羽と20万羽の違い、つまり100倍の差が生んだ道徳的関心の違いはごくわずかで、統計的なノイズの中に消えてしまった。

最もありそうな説明は、人々が値段をつけていたのは油の池でもがく1羽の鳥のイメージだった、というものだ。値段を決めたのはただ一つの心像であり、そのイメージは、2000羽を表していても20万羽を表していても同じに見えた。

これを規模への鈍感さと呼ぼう。デスヴージェスの実験の参加者は、20万が2000より大きいことはおそらくわかっていた。だから誤りは算術にあるのではない。数を知っていることと、それを感じることは別の認知操作であり、別のシステムが担っている。そしてあの値段を決めたのは、知ることではなく感じることのほうだったのである。

トーマス・シェリングは1968年、「特定された命」の問題を指摘した。統計上の命と特定された命は、そうすべきだとわかっているときでさえ、道徳的に等価には扱われない。名前があり写真の添えられた一人の子どもは、匿名の統計がめったに及ばない規模の寄付を集めることがある。その統計が何百万人もの死を表していてもである。この差は情動のシステムから生じる。このシステムは、一人の特定できる人間には反応するが、数字には同じようには反応しない。

スロヴィックらはさらに踏み込み、特定された犠牲者と一緒に統計情報を示すと、特定された犠牲者だけを示した場合よりも寄付が減ることを見出した。数字を加えることは、情動的な関与を補うどころか、押しのけてしまったようである。訴えは要するにこう言っていた。ここに一人の少女、ロキアがいる。そしてアフリカ全土で、さらに何百万人もが飢えに直面している。この情報は道徳的な重みを増すはずだった。ところが実際には寄付が減った。著者らの説明では、統計が人々を感じることから計算へと押しやったのだという。ただし、寄付者が、どんな寄付も焼け石に水だと感じた可能性もある。

この発見は、誰もが思いつく解毒剤、つまりより多くの情報とより多くの数量化が、事態をかえって悪化させうることを意味する。分析的な思考と情動的な関与が活性化をめぐって競合し、道徳的な行動を駆動するのが情動的な関与であるなら、規模への鈍感さを正すために最も手近な道具は、本来役立つはずの動機そのものに逆らって働くかもしれない。

1987年、テキサス州ミッドランドの裏庭の井戸に落ちたとき、ジェシカ・マクルーアは生後18カ月だった。彼女は58時間にわたって閉じ込められ、世界がその様子をテレビの生中継で見守った。同情した見知らぬ人々から寄せられたお金は、最大80万ドルの信託基金を設けるのに十分な額に達した。人々を動かしたのは、生中継で刻一刻と追われた、名前のある一人の子どもだった。匿名の統計上の集団は、どれほど大きくても、そうした反応をめったに生み出さない。これはメディアや政治の失敗である以前に、道徳心理の失敗を映し出している。メディアと政治は、それに先立つ構造を増幅しているにすぎない。両者が情動的な関与を生むものに反応するのは、それこそが受け手の道徳心理を動かしているものだからである。

思いやりの崩壊

スロヴィックは、苦しみの大きさに応じて道徳的反応が大きくならない仕組みを調べてきた。スロヴィックがダニエル・ヴェストフィエル、エレン・ピーターズとともに報告した研究では、人々は飢えに苦しむマリの少女ロキア、あるいは飢えに苦しむ少年ムーサを助けるために寄付することができた。二人を一緒に助けるよう求められたときには、どちらか一人を助けるよう求められたときよりも、寄付は少なく、感じる気持ちも小さかった。スロヴィックのモデルによれば、思いやりは犠牲者が1人のときに頂点に達し、2人で薄れはじめ、数が統計へと膨らむにつれて崩壊する。

スロヴィックはこれを、社会が大量の残虐行為にどう反応するかに明示的に当てはめた。世界は概して、何が起きているかをおおよそ知っている。彼の主張によれば、ジェノサイドのあいだ世界が傍観するのを許している要因の一つは、道徳的な反応が数とともに大きくならないことである。一人の死は悲劇として受け止められるが、百万人の死は、脳の処理のなかでは抽象に近いものになる。その結果生じるのは、量ではなく個人に合わせて調整された、情動的関与の上限である。

普遍主義の問題

ここまでに確かめてきたことすべてから逃れる、最も手近な道はこうだ。個々の道徳的直観は、近さ、アイデンティティ、情動によって歪められているかもしれない。しかし、文化を超えて共通し、人間の本性のようなものに根ざした普遍的な道徳感覚があり、それを正しく理解すれば、道徳的な真理を捉えている、と。

ハイトとジョセフは2004年、のちに道徳基盤理論となるものを提唱した。生得的でありながら文化によって調整される、少数の道徳的関心の次元である。当初は四つだったが、3年のうちにリストは理論を有名にした五つに増えた。ケア／危害、公正／欺瞞、忠誠／背信、権威／転覆、神聖／純潔である。のちに自由／抑圧が六つ目の候補として提案され、2023年には理論の研究者たちが公正を平等と比例性に分け、中核となる基盤は六つになった。すべての文化が同じように道徳を語るという主張ではなかった。どの文化も共通の基盤を土台にしており、地域の歴史、生態、社会構造に応じて、その重みづけが異なるという主張だったのである。

米国内では、ひとつの知見が揺るぎないものと確かめられている。リベラルは主にケアと公正を軸に道徳を考えるのに対し、保守派は五つの基盤すべてをより均等に重んじ、忠誠、権威、神聖もリベラルには見られない水準で重視する。ハイトがすでに指摘していたその実際上の帰結は、どちらの側も、相手の道徳的関心をそもそも道徳的なものとして認識しないことが多い、ということである。

米国の外では、ある研究チームが、重みづけではなく構造そのものが、非WEIRDのサンプルを含むより幅広い社会に当てはまるかどうかを検証した。その結果、個々の質問項目のふるまいは文化によっていくらか異なるものの、五つの基盤からなる構造はWEIRDの文化でも非WEIRDの文化でも同じように成り立つことがわかった。

これを普遍主義の救済とみなそうとすると、問題に突き当たる。道徳的直観が客観的な道徳的事実を捉えているという主張は、あらゆる文化が同時に持ち出せるものであり、まさにそのことが、特定の文化の直観的な重みづけを正当化する根拠としての資格を奪う。どの文化も、その歴史、生態、社会構造が生み出した直観を持っている。そうした直観の進化的な起源は、それがなぜ存在するのかを説明するが、認識のうえでの特権を与えはしない。文化間の相違を示すデータも、そのどれかを正当化するものではない。異なる社会の人々は、ケアや忠誠や権威を異なる水準で重んじており、そのいずれもが同じだけの確信を伴っている。

これを道徳相対主義と混同してはならない。相対主義はまた別の誤りである。文化間のデータは、あらゆる道徳的見解が等しく妥当だと示しているわけではない。それが取り除くのは、ある文化の道徳的確信を、広く共有されている、あるいは強く感じられているというだけの理由で信頼に足るものとして扱う選択肢である。広さと強さは確信の性質であり、それだけでは確信の中身を保証できない。

そして道徳の進歩は現実にある。つまり全体像は扱いうるものではあるが、単純ではない。奴隷制、女性の地位、子どもの扱い、そして誰が完全な道徳的配慮の対象に数えられるかという範囲について、変化の方向はでたらめではない。その仕組みには多くの原因が絡んでいる。経済状況の変化、宗教の転換、文学や接触を通じて育まれた新たな共感、政治的な組織化、長い時間をかけた哲学的な論証。これらのケースに共通するのは、道徳的に正しい到達点に至るには、自ら正される気配を見せない、強固に抱かれた多数派の直観を覆さなければならなかったという点である。広く行き渡った、自信に満ちた道徳的感情は間違っていた。それには逆らわなければならなかったのである。

WEIRD問題

ヘンリックらは、心理学研究の圧倒的多数がWEIRD（西洋の、教育を受けた、工業化された、裕福な、民主的な）サンプルを対象に行われてきたこと、そしてそうしたサンプルが、基本的な認知の尺度においてさえ人類集団を代表していないことを示した。アメリカ人のサンプルに大きく依拠していたハイトの初期の道徳基盤研究も、その例外ではなかった。

これは方法論上の現実的な懸念である。基盤が主に西洋の教育を受けた集団で特定されたのなら、その普遍性の主張は危うくなる。その後の比較文化研究は、これに部分的に答えている。30の多様な社会にわたって、個々の質問項目のふるまいは文化によって異なるものの、五因子構造はWEIRDの文化でも非WEIRDの文化でも同じように成り立つ。WEIRD批判が弱めるのは、特定の基盤が持つとされた生物学的な普遍性と、その正確な内容についての初期の主張である。それでも普遍主義の議論が救われるわけではない。文化をまたいで存在する基盤であっても、その重みづけは文化ごとに大きく異なるからである。

正された道徳的推論に必要なもの

道徳的判断は主として感情としてやって来る。それを生み出すのは、近さ、見えやすさ、個人の特定性に合わせて調整された情動の仕組みである。この仕組みは規模や距離にはうまく反応せず、特定された個人と統計上の集団とでは反応の仕方が異なる。そして、こうした歪みを超越する普遍的な道徳感覚は存在しない。人間が持っている道徳感覚は、進化と文化の歴史が生み出したものであって、現代の集団的な意思決定の規模で何が重要かを捉えるものではないからである。

答えは、感じることを減らすことでも、苦しみを感情ではなく分析によって評価する人間になることでもない。偏りは情動反応のシステムが情報を処理する仕方に組み込まれているので、違う感じ方をしようと決意したところで、そこまでは届かない。是正は、意思決定のやり方のほうに組み込まなければならないのである。遠くの苦しみをもっと気にかけようと決意した人は、特定された犠牲者が現れるまではそうするだろう。だがその瞬間、道徳的な注意の多くはそちらに向き直ってしまうだろう。

意思決定の段階で規模を明示的に数量化することは、自然に湧き上がる道徳的反応にはできない働きをする。2000と20万を同じ尺度の上で、同じ基準によって比べさせることで、情動のシステムが自力では出せない判断が生まれる。効果的利他主義の方法論は、ほかにどんな問題を抱えていようと、結果を共通の尺度に載せることを軸に組み立てられている。その哲学的な足場は、地理的な距離と匿名性は道徳的に重要ではないという、シンガーの1972年の議論である。溺れている子どもは、目の前にいようと別の大陸にいようと、あなたに同じだけのことを求める権利を持つ。GiveWellの費用対効果分析は、この方法論を実地に当てはめたものだ。1ドルあたり何人の命か。支援先のあいだの選択を、どちらが顔を伴って現れたか以外の根拠で行うよう求めるのである。

そうなると、重荷を負うのは個人の決意よりも制度のほうである。1ドルが最も大きな善をなす場所を体系的に分析するのではなく、テレビ報道に反応して行われる対外援助の振り分けは、主として構造的な失敗である。資源を投じる前に明示的な比較分析を求めるよう制度を設計するのは難しい。個人の寄付を歪めるのと同じ道徳心理が、援助機関に資金を出す政治的な支持層を動かしているからである。

政策において距離と仕組みを道徳的に無関係なものとして扱うとは、サプライチェーンの労働者や汚染の被害者を、目の前に立っている人と同じ帳簿に載せることを意味する。規制の費用便益分析は、この是正にふさわしい構造を備えているが、それを実現できないことも多い。

ここで、ひとつの規範的な前提をはっきり名指ししておきたい。こうした是正は、規模は道徳的に重要であり、距離それ自体は重要ではない、したがって20万人の死はどこで起きようと2000人の死より重い、ということを前提にしている。これは実質的な規範的立場であり、おおむね帰結主義的なものだ。経験的な証拠はこの立場へ向かう強い圧力を生むが、それを確立するわけではない。証拠が示しているのは、規模を無視し、距離によって要求を割り引くことを許す枠組みはどれも、ここまで見てきた具体的な失敗をそのまま繰り返すということである。天秤の反対側に何を載せるかは、規範的な選択である。

効果的利他主義には、それ自身の失敗の形がある。思弁的な長期主義、方法論上の閉鎖性、そしてFTXの破綻である。この破綻で、運動の最も著名な寄付者であり公の擁護者でもあったサム・バンクマン＝フリードは、詐欺と共謀に関する7件の罪状で有罪となり、連邦刑務所での禁錮25年を言い渡された。そのどれも、中核的な方法論を論駁するものではない。ただそれは、構造的な是正もまた、それが対抗するために設計されたのと同じ動機づけられた推論に弱く、今度はその推論が枠組みそのものに向けられうることを示している。

構造的な是正を大規模に体現すべき制度、たとえば民主的な政府、国際援助機関、公衆衛生機関は、いずれも本稿が解体してきた直観に反応する。個人の物語に、写真に、目に見える身近な危機に。これらの制度がいまいる場所と、いるべき場所との距離は、道徳心理のギャップである。それを埋めるには、道徳的な動機の働き方に逆らう、持続的な努力が必要になる。

本来の環境にある道徳的な心

冒頭の参加者は、理由が尽きても確信を失わなかったが、推論を誤っているわけではない。

その人の道徳的認知は、作られたとおりに正確に働いている。近親相姦のシナリオは、進化した嫌悪を引き起こす。ハイトの枠組みでいえば嫌悪反応であり、それは近親相姦が遺伝的、社会的、構造的な現実のコストを伴っていた環境で機能を果たしていた。確信が非合理なのは、ある目的のために作られた仕組みが、その目的の当てはまらない場所で作動しているという意味においてだけである。シナリオは、近親相姦への嫌悪を適応的なものにしている害を欠くように設定されているのに、嫌悪はそれでも作動する。

歩道橋から見知らぬ男を突き落とせなかった傍観者も、テレビに映った災害に資源を急いで振り向け、よりゆっくりと、より多くの人を死なせている静かな災害を無視した政治家も、同じである。どちらも道徳的本能に忠実に従っている。そしてそれぞれの本能は、本来の範囲では機能するが、誰が助けを得て誰が得られないかを決める範囲では沈黙する。

それでも、合理的な圧力に耐えて残る道徳的確信は、現実の社会的な情報を含んでいることがある。経験から蓄積された警告、機能が透けて見えない規範、共同体の信頼がどこを通っているかについての暗黙の知識である。改訂への抵抗が、まだ言葉にできるようになっていない何かを捉えていることもある。道徳的直観が進化したのは、それがときに何かを捉えていたからだ。明示的な計算を優先して直観を全面的に退けるのは、また別の誤りである。

だが、この譲歩はその厳密な範囲にとどめておこう。それは、意思決定者が決して目にすることのない20万人、顔を持たないがゆえにその苦しみがほとんど情動的な信号を生まない人々のあいだで資源を配分することには及ばない。違いが近さだけであるときに、近くで溺れている子どもは別の大陸でマラリアのために死にかけている子どもよりも強い要求を持つ、という判断にも及ばない。そうした文脈、まさに集団的な道徳的決定が行われる文脈で、直観はミスマッチを抱えたまま動いているのである。

冒頭の参加者は、あることを知っていた。その確信は、その範囲の内側では機能する道徳的知識だったのである。その範囲は、意思決定者が決して目にすることのない20万人には届かない。そして重要な決定のほとんどは、そうした人々についての決定なのである。

関連記事

• 信頼の経済学――市場を機能させているものが消え始めるとき、社会には何が起きるのか
• 寛容のパラドックス――カール・ポパーは実際に何を言ったのか、そしてなぜ誰もがそれを誤用しているのか
• リスクテイクの生物学――10代、トレーダー、兵士はなぜ同じ過ちを犯すのか

参考図書

Amazonのアソシエイトとして、Eikleafは適格販売により収入を得ています。以下の書籍リンクはアフィリエイトリンクです。リンク経由でご購入いただくと、追加費用なしで当サイトに少額の手数料が支払われる場合があります。

• 社会はなぜ左と右にわかれるのか：対立を超えるための道徳心理学 — Jonathan Haidt (2014). 道徳判断を「直感という犬と、理性という尻尾」として説明する。なぜ私たちは先に感じ、後から理屈をつけるのか、道徳の基盤は人によってどう違うのか。
• モラル・トライブズ：共存の道徳哲学へ 上 — Joshua Greene (2015). トロッコ問題で知られる神経科学者が、直感がいつ人を誤らせるのかを説明し、道徳をめぐる対立では熟慮に切り替えるべきだと論じる。
• 反共感論：社会はいかに判断を誤るか — Paul Bloom (2018). 心理学者が、共感がいかに道徳的な選択を特定できる少数の人々へと偏らせるのか、そしてより信頼できる思いやりとはどういうものかを示す。

おすすめ動画

生成AIに関する免責事項

このページの内容の一部は、生成AIの支援を受けて作成および／または編集されています。

メディア

KATRIN BOLOVTSOVA – Pexels

主な出典と参考文献

Haidt, J. (2001). The emotional dog and its rational tail: A social intuitionist approach to moral judgment. Psychological Review, 108(4), 814–834. https://doi.org/10.1037/0033-295X.108.4.814

Greene, J. D., Sommerville, R. B., Nystrom, L. E., Darley, J. M., & Cohen, J. D. (2001). An fMRI investigation of emotional engagement in moral judgment. Science, 293(5537), 2105–2108. https://doi.org/10.1126/science.1062872

Zajonc, R. B. (1980). Feeling and thinking: Preferences need no inferences. American Psychologist, 35(2), 151–175. https://doi.org/10.1037/0003-066X.35.2.151

Kohlberg, L. (1971). From is to ought: How to commit the naturalistic fallacy and get away with it in the study of moral development. In T. Mischel (Ed.), Cognitive development and epistemology (pp. 151–235). New York: Academic Press.

Paxton, J. M., & Greene, J. D. (2010). Moral reasoning: Hints and allegations. Topics in Cognitive Science, 2(3), 511–527. https://doi.org/10.1111/j.1756-8765.2010.01096.x

Paxton, J. M., Ungar, L., & Greene, J. D. (2012). Reflection and reasoning in moral judgment. Cognitive Science, 36(1), 163–177. https://doi.org/10.1111/j.1551-6709.2011.01210.x

Herec, J., Sykora, J., Brahmi, K., Vondracek, D., Dobesova, O., Smelik, M., Vaculik, M., & Prochazka, J. (2022). Reflection and reasoning in moral judgment: Two preregistered replications of Paxton, Ungar, and Greene (2012). Cognitive Science, 46(7), e13168. https://doi.org/10.1111/cogs.13168

McHugh, C., McGann, M., Igou, E. R., & Kinsella, E. L. (2017). Searching for moral dumbfounding: Identifying measurable indicators of moral dumbfounding. Collabra: Psychology, 3(1), 23. https://doi.org/10.1525/collabra.79

McHugh, C., McGann, M., Igou, E. R., & Kinsella, E. L. (2020). Reasons or rationalizations: The role of principles in the moral dumbfounding paradigm. Journal of Behavioral Decision Making, 33(3), 376–392. https://doi.org/10.1002/bdm.2167

Haidt, J., Björklund, F., & Murphy, S. (2000). Moral dumbfounding: When intuition finds no reason. Unpublished manuscript, University of Virginia.

Royzman, E. B., Kim, K., & Leeman, R. F. (2015). The curious tale of Julie and Mark: Unraveling the moral dumbfounding effect. Judgment and Decision Making, 10(4), 296–313. https://doi.org/10.1017/S193029750000512X

Foot, P. (1967). The problem of abortion and the doctrine of the double effect. Oxford Review, 5, 5–15.

Thomson, J. J. (1976). Killing, letting die, and the trolley problem. The Monist, 59(2), 204–217. https://doi.org/10.5840/monist197659224

Thomson, J. J. (1985). The trolley problem. Yale Law Journal, 94(6), 1395–1415. https://doi.org/10.2307/796133

Awad, E., Dsouza, S., Shariff, A., Rahwan, I., & Bonnefon, J.-F. (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. Proceedings of the National Academy of Sciences, 117(5), 2332–2337. https://doi.org/10.1073/pnas.1911517117

Kogut, T., & Ritov, I. (2005). The “identified victim” effect: An identified group, or just a single individual? Journal of Behavioral Decision Making, 18(3), 157–167. https://doi.org/10.1002/bdm.492

Desvousges, W. H., Johnson, F. R., Dunford, R. W., Boyle, K. J., Hudson, S. P., & Wilson, K. N. (1992). Measuring nonuse damages using contingent valuation: An experimental evaluation of accuracy (RTI Monograph 92-1). Research Triangle Park, NC: Research Triangle Institute.

Schelling, T. C. (1968). The life you save may be your own. In S. B. Chase, Jr. (Ed.), Problems in public expenditure analysis (pp. 127–176). Washington, DC: Brookings Institution.

Small, D. A., Loewenstein, G., & Slovic, P. (2007). Sympathy and callousness: The impact of deliberative thought on donations to identifiable and statistical victims. Organizational Behavior and Human Decision Processes, 102(2), 143–153. https://doi.org/10.1016/j.obhdp.2006.01.005

Maier, M., Wong, Y. C., & Feldman, G. (2024). Revisiting and rethinking the identifiable victim effect: Replication and extension of Small, Loewenstein, and Slovic (2007). Collabra: Psychology, 9(1), 90203. https://doi.org/10.1525/collabra.90203

Majumder, R., Tai, Y. L., Ziano, I., & Feldman, G. (2024). Revisiting the impact of singularity on the identified victim effect: Replication and extension of Kogut and Ritov (2005a) Study 2. Judgment and Decision Making, 19, e26. https://doi.org/10.1017/jdm.2024.31

Slovic, P. (2007). If I look at the mass I will never act: Psychic numbing and genocide. Judgment and Decision Making, 2(2), 79–95. https://doi.org/10.1017/S1930297500000061

Associated Press. (2011, March 25). Baby Jessica turns 25, gains access to trust fund. NBC News. https://www.nbcnews.com/id/wbna42283074

Graham, J., Haidt, J., & Nosek, B. A. (2009). Liberals and conservatives rely on different sets of moral foundations. Journal of Personality and Social Psychology, 96(5), 1029–1046. https://doi.org/10.1037/a0015141

Haidt, J., & Joseph, C. (2004). Intuitive ethics: How innately prepared intuitions generate culturally variable virtues. Daedalus, 133(4), 55–66. https://doi.org/10.1162/0011526042365555

Haidt, J., & Graham, J. (2007). When morality opposes justice: Conservatives have moral intuitions that liberals may not recognize. Social Justice Research, 20(1), 98–116. https://doi.org/10.1007/s11211-007-0034-z

Atari, M., Haidt, J., Graham, J., Koleva, S., Stevens, S. T., & Dehghani, M. (2023). Morality beyond the WEIRD: How the nomological network of morality varies across cultures. Journal of Personality and Social Psychology, 125(5), 1157–1188. https://doi.org/10.1037/pspp0000470

Henrich, J., Heine, S. J., & Norenzayan, A. (2010). The weirdest people in the world? Behavioral and Brain Sciences, 33(2–3), 61–83. https://doi.org/10.1017/S0140525X0999152X

Doğruyol, B., Alper, S., & Yilmaz, O. (2019). The five-factor model of the moral foundations theory is stable across WEIRD and non-WEIRD cultures. Personality and Individual Differences, 151, 109547. https://doi.org/10.1016/j.paid.2019.109547

Singer, P. (1972). Famine, affluence, and morality. Philosophy & Public Affairs, 1(3), 229–243.

GiveWell. (2017, June 1). How GiveWell uses cost-effectiveness analyses. GiveWell Blog. https://blog.givewell.org/2017/06/01/how-givewell-uses-cost-effectiveness-analyses/

United States Attorney’s Office, Southern District of New York. (2024, March 28). Sam Bankman-Fried sentenced to 25 years in prison for orchestrating massive fraud. U.S. Department of Justice. https://www.justice.gov/usao-sdny/pr/sam-bankman-fried-sentenced-25-years-prison