Mai 252012
 

L’essentiel :
-Dilemme moral : la déontologie et l’utilitarisme sont-ils des choix vraiment contradictoires ? Exemple du dilemme du wagon fou.
-Greene ou l’utilitarisme réducteur.
-L’analogie avec les 3 lois de la robotique d’Isaac Asimov.

L’éthique normative tente de répondre à la question : « Quel est le meilleur comportement moral dans une situation particulière ? ». Deux théories s’opposent : la déontologiste se réfère à une norme éthique dont il ne faut pas dévier — exemple : « tu ne tueras point » —; la conséquentialiste considère des valeurs plus générales que le comportement doit promouvoir — exemple : « tu amélioreras le plus de vies possible » —.
Nous pressentons déjà l’arbitraire de cette distinction : la morale, à déterminants culturels et historiques, n’est pas figée dans une déontologie de l’âge glaciaire, et le conséquentialisme doit tenir compte des repères moraux qui aident à déterminer les limites des aspects bénéfiques d’un comportement.
Ce qui n’empêche pas les partisans de l’une et l’autre théorie de détenir, disent-ils, la vérité exclusive. Certains veulent trouver dans les neurosciences une confirmation indiscutable de leurs dires. Sans doute n’est-ce qu’un enfermement dans ses illusions quand il n’existe pas de théorie démontrée de la conscience et de ses connexions avec la neurophysiologie. Pire, nous en avons discuté dans « l’Homme Polyconscient », il est possible que la conscience puisse fonctionner selon la théorie qu’elle s’est choisie.

Joshua Greene déclare par exemple le conséquentialisme vainqueur à l’aide des données empiriques obtenues sur le dilemme du wagon fou :
Un wagon dévale une voie ferrée, hors de contrôle. Plus bas sur la voie travaillent 5 ouvriers, qui seront à coup sûr tués par l’impact du wagon lancé à toute allure. Mais avant ce point, hors de portée de voix, se trouve un aiguillage que Denise peut manoeuvrer pour envoyer le wagon sur une voie secondaire, où travaille un autre ouvrier, esseulé. Il va être tué si Denise dévie le wagon. Que pensez-vous que Denise doive faire ? Manoeuvrer l’aiguillage pour sauver 5 ouvriers et en tuer un, ou ne rien faire et laisser les 5 ouvriers périr ?
85% des personnes interrogées pensent que Denise devrait manoeuvrer l’aiguillage.
Dans un scénario alternatif, l’aiguillage n’existe plus, mais la voie ferrée passe sous un pont, sur lequel vous êtes juché à côté d’un gros homme, Franck, suffisamment corpulent pour qu’en le faisant tomber sur la voie, sa masse bloque le wagon ; il meurt, mais les 5 ouvriers sont sauvés. Devez-vous pousser Franck ?
88% des personnes interrogées disent que non.

Au premier abord, les réponses conjuguées semblent irrationnelles : la majorité accepte l’idée de sacrifier 1 ouvrier pour en sauver 5 dans le premier scénario, et refuse dans le second. En fait les situations ne sont pas exactement comparables. Dans le cas de Denise, c’est une autre personne qui manoeuvre l’aiguillage : il est demandé une position d’arbitre moral. Dans le cas de Franck, nous devons intervenir nous-même en tuant un innocent pour en sauver 5 autres. Les freins à l’action deviennent soudainement plus sévères.
Au cours de l’enquête, les interrogés ont été placés dans une IRM fonctionnelle ; les zones cérébrales activées sont différentes selon le type de réponse : quand existe un refus de tuer soi-même le gros homme, ce sont les aires émotives qui s’allument, tandis que s’il est conseillé à Denise de manoeuvrer l’aiguillage pour tuer l’ouvrier isolé, ce sont les aires rationnelles.

Greene conclue que l’émotion nous détourne de la décision juste, qui devrait être dans les deux scénarios de sauver cinq personnes au détriment d’une…
Peut-on imaginer conviction plus utilitariste ? Comment être aussi aveugle à ses propres intentions ? Greene se croit-il sérieusement une sorte d’entomologue extra-terrestre venu étudier impartialement l’espèce humaine ? Piteusement, il tente de justifier le conséquentialisme par l’une de ses déclinaisons, l’utilitarisme, ou encore de valider une règle morale par elle-même.
Nous pourrions appliquer au dilemme une autre règle morale : que ni l’ouvrier esseulé ni le gros homme n’étaient destinés à mourir, au départ, et que l’intervention d’un autre ou de soi-même pour changer cet état de fait relève d’une prétention extraordinaire, se prendre en quelque sorte pour une divinité chargée de tacler la fatalité. L’utilitarisme, alors, est-il si affranchi de l’instinct et si fondé sur la raison qu’il veut le laisser croire ?
Me fiant à cette autre règle, j’ai laissé sans hésiter les 5 ouvriers se faire tuer dans le premier scénario comme dans le second. L’activisme meurtrier est la frontière déterminante. Le fait que Denise soit un intermédiaire ne change rien : en polyconscience nous nous identifions immédiatement à elle. La réponse serait inversée si le sacrifice d’une personne était passif et non actif, par exemple dans la situation suivante : 2 wagons partent simultanément sur les 2 voies où travaillent l’ouvrier esseulé et les 5 autres, et vous ne pouvez sauter que dans un seul pour en manoeuvrer les freins. Le choix du wagon ne pose aucune difficulté.
Tuer activement se situe au-delà des frontières déontologiques qui nous sont imposables. L’affaire serait à nouveau différente si je pouvais me sacrifier moi-même pour sauver les 5 ouvriers, par exemple en me précipitant au milieu de la voie ferrée. La déontologie, si elle n’ordonne pas de le faire, ne l’empêche pas non plus.

Nous pouvons affirmer, de surcroît, que la majorité des personnes qui ont répondu de façon différente aux premier et second scénario ne sont pas incohérentes ; au contraire, elles ont répondu correctement. Pourquoi ?
Le dilemme montre qu’en l’absence d’implication personnelle, les sondés répondent avec leur panconscience (utilitariste), jugée la plus apte dans cette situation, tandis qu’une implication personnelle allume le reste de la polyconscience, incluant les sentiments, et fait choisir différemment. Les deux comportements sont nécessaires car ils ont, réellement, chacun leur domaine de compétence. Analogie avec un contribuable qui se permet de petites tricheries sur sa feuille d’impôt parce que ne pas le faire lui donnerait l’impression d’être lésé dans un pays où c’est la coutume, mais qui vote pour les élus promettant la moralisation fiscale. Est-il incohérent ?
L’expérience est incomplète. Il aurait fallu réinterroger les mêmes personnes sur leur choix après avoir réfléchi à leurs deux réponses successives, et éventuellement un débat sur les motivations. L’activation de la persona la plus « célèbre » dans une situation précise, qu’il s’agisse de la panconscience ou d’une persona émotive, est un réflexe. La conscience peut recruter davantage de ressources mentales si on lui en laisse le temps et qu’elle y soit intéressée.

Notons que, la philosophie utilitariste attribuant à chaque individu une valeur différente déterminée par sa fonction sociale, les adeptes purs de ce mode de pensée n’hésiteraient sans doute pas à envoyer le wagon tuer les 5 ouvriers pour sauver un unique ingénieur expérimenté, beaucoup plus difficile à remplacer…

Deux variantes du scénario ont été proposées par Marc Hauser : dans l’une, Ned, tout comme Denise, est à côté d’un aiguillage qui permet de dévier le wagon vers la voie où travaille un ouvrier unique, et sauver les 5 ouvriers. Toutefois, il est heureux que l’ouvrier unique soit un gros homme, dont la masse stoppera le wagon, car sinon il continuerait et rejoindrait la voie principale, percutant quand même les 5 autres.
56% des sondés jugent licite que Ned manoeuvre l’aiguillage.
La seconde variante met Oscar dans la situation de Ned, avec une légère différence : l’ouvrier unique n’a pas besoin d’être gros pour arrêter le wagon car un énorme rocher est posé plus loin sur la voie et le stoppera de toute façon.
Oscar doit manoeuvrer l’aiguillage pour 72% des sondés.

Certains se demandent, devant ces résultats, quelle est la valeur de notre discernement moral. Y aurait-il une telle dissociation entre jugement et justification que ses commandements seraient aléatoires ?

La différence de vote dans les 4 scénarios, Denise, Franck, Ned et Oscar, ne traduit que l’existence de « décisionnaires forts » et « faibles » parmi les personnes interrogées. Certaines sont sûres de leur réponse, tranchant nettement entre l’éthique et l’utilitarisme, d’autres hésitent et de petites variations les font basculer d’une position à l’autre. Analogie avec une élection politique où ce sont les indécis qui font pencher la balance pour des causes parfois anecdotiques. Ici, la réticence à instrumentaliser un congénère est influencée par ses caractéristiques. Probablement que Denise ne devrait pas, de l’avis de la majorité, envoyer le wagon sur la voie secondaire si un enfant, au lieu d’un ouvrier, était au milieu. Pourtant l’utilitarisme dirait que mieux vaut sauver un être réalisé qu’un être en devenir. Mais l’émotion reprend le dessus : protégeons l’enfant innocent.
Autre variable, l’implication personnelle dans le fait de sacrifier un ouvrier ou Franck influence fortement la décision ; cela traduit le degré d’aptitude du sondé à s’identifier avec « l’exécuteur ». Enfin, l’incertitude quand au résultat de l’action réduit le pouvoir de décision ; c’est la différence entre Ned et Oscar : Oscar semble plus assuré de sauver les 5 ouvriers car un rocher barre la voie de toute façon, tandis que Ned court davantage le risque de tuer le gros ouvrier pour rien.

Nous pourrions penser, devant cette histoire, qu’il existe en nous un côté « humain », émotionnel, éthique, et un autre « inhumain », froid et rationnel, qui ferait de nous une machine s’il prenait entièrement le pouvoir. Crainte justifiée, mais la définition de l’humain n’est pas non plus dans le sentiment ; elle se tient en réalité dans la confrontation entre les deux tendances. L’émotion sans frein nous rapproche de l’animal, la raison de la machine : il faut conserver impérativement cette opposition pour rester humain.
Comme l’appréciation du juste milieu peut être, en société, biaisé par l’intérêt individuel, l’éthique sociale a accouché de règles et de limites : la déontologie. Celle-ci s’impose, dans le groupe considéré, à l’utilitarisme. C’est l’erreur un peu sotte des philosophes utilitaristes, de considérer le déontologisme comme une philosophie concurrente de la leur. En réalité leurs rapports sont identiques aux trois lois de la robotique d’Asimov : la seconde loi est autorisée à s’appliquer si la première loi n’est pas contredite. En l’occurrence ici, la nécessité utilitariste s’impose seulement après que les règles déontologiques soient respectées : si je ne peux sauter que dans un des deux wagons partis tuer soit un soit cinq ouvriers, je sacrifie sans hésiter à la nécessité utilitariste d’en sauver cinq, la déontologie m’y autorise. Si je dois tuer activement un ouvrier pour en sauver cinq, je faillis à la première loi « Tu ne tueras point », et ne peux ainsi obéir à la seconde loi « Tu sauveras le plus de gens possible ».

Le discours de Joshua Greene est caractéristique de cette malheureuse dérive utilitariste américaine qui atteint un tel degré de prétention qu’elle s’estime universelle et capable de s’affranchir de tout contrôle déontologique. Pour Greene, l’émotion est l’apanage du cerveau archaïque et nous empêche de laisser intervenir la raison, produite par les structures cérébrales les plus évoluées et les plus récentes. En quelque sorte, si Greene devait juger les 3 lois d’Asimov, il dirait que la dernière arrivée est la prééminente…

Il existe un vice fondamental de raisonnement dans ce débat : c’est penser que la morale puisse être réglée par la raison, voire par des équations mathématiques. La morale est un consensus culturel. Que la mentalité occidentale devienne très « raisonnable » n’y change rien. D’innombrables règles, en matière de sacrifice, présentent une logique interne, spécifique à leurs postulats moraux : sauver le plus grand nombre, le plus riche, le plus génial, le plus faible, le plus jeune… Quel philosophe se prenant pour Dieu veut affirmer laquelle est inscrite dans les constantes de l’Univers ? Il ne fait que s’identifier, simplement, à sa propre culture.

 Posted by at 23 h 08 min

  2 Responses to “Le dilemme du wagon fou”

  1. Une prolongation vers l’éthique médicale

  2. Une variante :

    Un juge se précipite avec des pensions alimentaires étranglantes sur un chemin
    où 5 charmants divorcés lutinent en riant avec leurs nouvelles conquêtes.
    Un quidam peut tourner le panneau indicateur à un croisement, juste avant l’endroit fatidique,
    pour diriger le juge vers un divorcé solitaire, en train de se masturber, l’air abattu,
    qui sera achevé à coup sûr par les 5 pensions que le juge est chargé d’agrafer sur une tête.
    Que doit faire le quidam ? Sacrifier le vil pratiquant onaniste en lui faisant porter la charge de toutes les pensions
    pour sauver les 5 malheureux divorcés qui tentent de reprendre goût à la vie ?

    J’attends vos réponses moralement inexpugnables…

 Leave a Reply

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>

(required)

(required)