Il nous semble pertinent, pour terminer, de mettre l’accent sur la relation entre l’homme et la science, plus particulièrement entre l’éthique et la technologie 18. L’amélioration de la performance au combat était jusqu’à présent un problème instrumental ; avec l’augmentation du soldat, elle devient aussi une question ontologique.
Pour aborder ce sujet, nous nous référerons à un poème de Goethe, intitulé « L’apprenti sorcier 19 ». Bien que le poème ait certaines caractéristiques d’un conte de fées pour enfants, il offre matière à réflexion. Dans le poème, le maître sorcier doit partir faire une course, il laisse la maison entre les mains de son apprenti. Immédiatement, l’insouciance et la présomption dominent l’apprenti : désormains, le balai dans la maison obéira à ses ordres ! À l’aide de formules magiques, il ordonne au balai de nettoyer la maison. Le balai commence à recueillir un seau d’eau et commence à nettoyer le plancher. De nombreux autres seaux suivent, jusqu’à ce que l’inondation menace. Effrayé, l’élève tente d’arrêter le balai, mais échoue. Dans un acte de désespoir, il prend une hache et fend le balai. Le balai n’est pas détruit : il y a maintenant deux demi-balais et chacun d’eux transporte l’eau à la maison, ce qui aggrave le problème. L’apprenti se rend compte qu’il a perdu le contrôle. Il crie à l’aide. Le maître revient à temps et rétablit l’ordre.
Ce poème soulève des questions fondamentales. Ralf Stockmann considère que le balai de Goethe est en fait un robot : le balai peut recevoir des informations, il a des membres avec lesquels il peut marcher, il a d’autres membres avec lesquels il peut porter un seau, et il a un ordinateur central pour traduire la commande reçue oralement en un ensemble de mesures 20. Pour d’autres commentateurs, la magie est ici une allégorie de la technologie 21.
De ce poème, on peut déduire trois problématiques impactant la question du soldat augmenté.
Premièrement, la distinction entre la science « de haut niveau » et la science « fondée sur les faits 22 ». Le poème de Goethe dépeint la science éminente sous un jour positif, ce qui est inhabituel. Dans le monde d’aujourd’hui, il est presque courant d’être désobligeant à propos de la science purement éminente, presque théorique. Le sorcier est présenté dans le poème comme quelqu’un qui est à la fois compétent et vertueux. Compétent : il connaît son métier. Vertueux : ses
18. Sur ce thème, voir notamment Hendrik Verhoog, Science and the Social Responsibility of the Natural
Scientist. A Meta-Scientific Analysis of Recent Literature About the Role of Natural Science in Society, Krips
Repro Meppel, 1980.
19. « Der Zauberlehrling ». Ce poème a été popularisé auprès du grand public grâce au dessin animé musical
Fantasia de Walt Disney (NdT).
20. Voir conférence de Ralf Stockmann, op. cit.
21. J.M. van der Laan, Seeking Meaning for Goethe’s Faust, Continuum, 2007, p 100-101.
22. En anglais, respectivement eminence-based medecine et evidence-based medecine. Dans le monde anglo-saxon, ces termes sont utilisés surtout en médecine (NdT).
102 Fondation pour l’innovation politique
Le soldat augmenté : regards croisés sur l’augmentation des performances du soldat
compétences sont ancrées dans un caractère fort et droit. Tant qu’il est présent, la situation est stable ; dès qu’il quitte la maison, l’immaturité de l’élève s’impose. La technologie prend le dessus et crée une distance entre l’apprenti et le balai-robot. Certains soulignent que les énormes avancées technologiques du siècle dernier se font au prix d’« une perte de chaleur humaine et d’une objectivation exagérée de la relation entre le médecin et le patient », ajoutant que les hôpitaux modernes sont devenus de « gigantesques usines de santé », et que l’être humain doit « retourner au centre et rester maître de la technologie – et non l’inverse – sinon il nous arrivera la même chose qu’à l’apprenti sorcier de Goethe 23 ».
Une fois le sorcier de retour, le calme est rétabli – mais il devient alors évident qu’il s’agit d’un conte fantastique. Cependant, Goethe a proposé ailleurs des pensées qui vont au-delà de l’univers fictionnel. Plutôt que d’attendre de l’aide de l’extérieur, comme le ferait un enfant lorsqu’il demande de l’aide à ses parents, la société moderne devra trouver elle-même les réponses à ses difficultés.
En second lieu, Goethe décrit la tentation que représente le pouvoir, c’est-à-dire, dans ce cas, le pouvoir de commander le balai-robot. La magie et la technologie offrent aux humains la promesse d’un pouvoir sur le monde environnant à un degré qui serait autrement impossible. L’apprenti n’a pas le caractère moral du sorcier et succombe à la tentation. Il utilise ses pouvoirs à la légère 24.
Enfin, la science moderne développe-t-elle ou retire-t-elle le potentiel qu’a l’homme de faire des choix moraux 25 ? L’exemple le plus connu est celui des voitures autonomes. À l’instar du fameux dilemme des trolleybus 26, les voitures autonomes sont programmées pour « décider », en cas d’accident, soit de heurter l’obstacle, potentiellement un être humain ; soit de l’éviter, au risque de tuer les passagers de l’automobile 27. Peut-on considérer que l’intelligence artificielle retirerait alors à l’homme le supplice d’une décision difficile ?
Dans Faust, un autre chef-d’œuvre de Goethe, le héros, Faust, un savant perdu dans sa quête de connaissance, est au bord du suicide. Il rencontre Méphistophélès qui lui déclare : « Eritis sicut Deus, scientes bonum et malum [« Vous serez semblable à Dieu et connaîtrez la différence entre le bien et le mal »] 28. » Méphistophélès fait et donne à Faust ce qu’il exige de lui. En d’autres termes, Faust n’obtient pas la connaissance du bien et du mal lui-même ; elle lui est donnée. Cependant, une fois que Faust est satisfait et dit : « Reste donc ! tu me plais tant ! 29 », son âme appartient à Méphistophélès. À la suite de cet accord faustien, une multitude
23. « Such progress, however, often has to be paid for by a loss in terms of human warmth and by an exaggerated objectivization of the relationship between physician and patient. […] This disastrous development is particularly a threat in hospitals, which in some places have degenerated into gigantic health factories. […] The human being must once again be returned to the centre and remain master of technology – not the other way around – otherwise the same thing will happen to us that Goethe’s sorcerer’s apprentice experienced » (Ulrich Frey, « Welcoming Remarks », in Anthony J. Culyer et Bruno Horisberger, dir., Economic and Medical Evaluation of
Health Care Technologies, Springer Verlag, 1983, p. XXI).
24. Voir J.M. van der Laan, op. cit.
25. Voir Ingmar Persson et Julian Savulescu, « The perils of cognitive enhancement and the urgent imperative to enhance the moral character of humanity », Journal of Applied Philosophy, vol. 25, n° 3, août 2008, p. 162-177. 26. Voir Sarah Bakewell, « Clang Went the Trolley », nytimes.com, 22 novembre 2013 (www.nytimes. com/2013/11/24/books/review/would-you-kill-the-fat-man-and-the-trolley-problem.html).
27. Voir « Moral Machine – Human Perspectives on Machine Ethics », http://moralmachine.mit.edu/ (http://moralmachine.mit.edu/hl/fr).
28. Goethe, Faust, première partie, trad. G. de Nerval, in Théâtre complet, Gallimard, « Bibliothèque de la Pléiade », 1988, p. 1173.
29. Ibid., p. 1166. [il y a quelque chose qui ne va pas dans le raisonnement, puisque la seconde citation se trouve en fait avant la première, donc ça n’est pas quand Faust est satisfait qu’il prononce cette seconde phrase]
d’événements se produisent, dont beaucoup ont un caractère incontrôlé. Faust n’est jamais satisfait. À un âge avancé, il assiste à la noyade d’une population entière. Lorsqu’il fait de son mieux pour les aider de façon altruiste, il éprouve de la satisfaction. Dès lors, Méphistophélès ne peut plus poser les mains sur lui ; il est racheté. Dans Faust, il n’y a pas de sorcier pour sauver la situation ; l’individu arrogant doit trouver, à travers l’expérience douloureuse de la vie, sa propre voie.
104