Moor insistera sur la nécessité de conceptualiser les objets informatiques et les effets qu’ils produisent. Sans clarification conceptuelle, pas de théories éthiques possibles :
« Obtenir une conception claire de la situation à partir de laquelle on peut formuler des politiques éthiques est la première étape logique de l'analyse. »67
Nous allons parcourir ces caractéristiques propres aux objets informatiques que soulèvent Moor dans son article fondateur « What is Computer Ethics ? »68.
La première caractéristique des objets informatiques est qu’ils nous donnent de nouvelles possibilités d’action. L’éthique étant une réflexion sur les comportements et les principes d’action, il est important d’étudier ces nouveaux contextes d’actions propres à l’informatique, et leurs implications tant du point de vue individuel que sociétal. Ces nouvelles possibilités d’actions génèrent nécessairement de nouvelles valeurs, ou en réévaluent d’anciennes (comme la propriété intellectuelle des logiciels par exemple). L’avantage de cette réévaluation est qu’elle nous permet de réitérer les fondements de certaines valeurs, pour mieux les
66 Maner Walter, « Unique ethical problems in information technology ». Science and Engineering Ethics, 2(2),
137–154, 1996, p.142
67 Moor James H., “What is Computer Ethics?” In Metaphilosophy 16 (4):266-275 (1985) 68 Ibid
L’éthique dans l’histoire de l’informatique
59
appliquer à un contexte particulier : pourquoi doit-on protéger la propriété intellectuelle ? Pourquoi l’impartialité des décisions émanant d’instances politiques est-elle nécessaire ? La seconde caractéristique se situe d’un point de vue plus structurel : Moor interroge ce qui fait que la révolution informatique est révolutionnaire. Il défend l’idée selon laquelle la « logique plastique » (logical malleability) de l’ordinateur est une caractéristique inédite, qui donne à penser un « outil universel » :
« Les ordinateurs sont plastiques en termes de logique, en ce sens qu'ils peuvent être façonnés et moulés pour effectuer toute activité pouvant être caractérisée en termes d'entrées, de sorties et d'opérations logiques de connexion. [...] Comme la logique s'applique partout, les applications potentielles de la technologie informatique semblent illimitées. L'ordinateur est ce qui se rapproche le plus d'un outil universel. »69
Moor en vient à formuler la question qui devrait guider la logique programmatique des ordinateurs : « Comment modeler la logique des ordinateurs pour qu’ils servent nos buts de la meilleure façon ? »70 Pour répondre à cette question il faut distinguer deux dimensions possibles dans la « logique plastique » de l’informatique : l’une est syntaxique (elle concerne sa structure, faite de chiffres, de variables, de langages de programmation etc.), l’autre est sémantique (les symboles de la programmation peuvent signifier différentes choses). Le terme de « plasticité » (malleability) permet de se représenter l’étendue des possibilités offertes par la logique de programmation informatique. Cette plasticité logique est ce qui fait la puissance universelle de l’informatique : elle possède une capacité d’adaptation à toute forme d’activité grâce à cette combinaison inédite de la syntaxe et de la sémantique dans une machine, et « de ce fait, elle crée des situations pour lesquelles nous n’avons pas de règle de conduite prédéfinie. »71
69 Moor James H., “What is Computer Ethics?” In Metaphilosophy 16 (4):266-275 (1985), p.269 70 Ibid
71 Salles Maryse, « Responsabilité économique et sociale des concepteurs de systèmes d'information :
contribution à une éthique appliquée », Innovations, 2015/1 (n° 46), p. 197-226. DOI : 10.3917/inno.046.0197. URL : https://www.cairn.info/revue-innovations-2015-1-page-197.htm
L’éthique dans l’histoire de l’informatique
60
La proposition de Moor ici est alors de comprendre comment fonctionne cette logique pour mieux l’aborder d’un point de vue éthique. La compréhension des programmes informatiques doit comporter les deux dimensions, syntaxiques et sémantiques, qui sont en fait numériques et non-numériques. Moor insiste sur le fait qu’on ne peut pas simplement comprendre un programme à partir de sa syntaxe mathématique. Certains aspects ne pourront être compris que par les mathématiques certes, mais d’autres requièrent une interprétation plus large. En d’autres termes, la logique mathématique n’étant pas la seule caractéristique de l’informatique, elle ne peut être l’unique prisme d’analyse de l’éthique informatique :
« L'erreur est de considérer le symbole mathématique comme l'essence d'un ordinateur et d'utiliser ensuite cette conception pour juger de l'utilisation appropriée des ordinateurs. »72
La troisième caractéristique que Moor décrit est « le facteur invisible ». D’un point de vue éthique évidemment, la possibilité de se cacher derrière son écran favorise certains comportements. Il est malvenu d’un point de vue éthique de se servir de l’invisibilité rendue possible par la nature même des objets informatiques, pour accomplir des actes délictueux. Mais Moor ira plus loin dans son analyse, allant jusqu’à décrire la notion de « valeurs invisibles » qui sont embarquées dans la conception même des programmes. Le caractère implicite des valeurs portées au moment de la programmation porte sur les choix que doivent opérer les programmeurs dans leur conception, des choix qui peuvent faire l’objet de jugements de valeur, plus ou moins subjectifs, plus ou moins biaisés :
« Les valeurs de programmation invisibles sont les valeurs qui sont intégrées dans un programme informatique. [...] Afin de mettre en œuvre un programme qui satisfait aux spécifications, un programmeur porte des jugements de valeur sur ce qui est important et ce qui ne l'est pas. Ces valeurs sont intégrées dans le produit final et peuvent être invisibles pour la personne qui exécute le programme. »73
72 Moor James H., “What is Computer Ethics?” In Metaphilosophy 16 (4):266-275, 1985, p.270 73 Moor J.H., “What is Computer Ethics?” In Metaphilosophy 16 (4):266-275, 1985, p.273
L’éthique dans l’histoire de l’informatique
61
A noter que cette description du « facteur invisible » de l’informatique fait de Moor le précurseur des recherches en Value Sensitive Design, champ de recherche apparu dans les années 90, qui analyse les valeurs explicites ou implicites dans les objets informatiques.
Moor prend deux exemples de problématiques éthiques, explicites et implicites, pour comprendre les conséquences de ces valeurs invisibles : le premier concerne un service en ligne de réservation de vols aériens. Le moteur de recommandation privilégiait systématiquement la société qui a conçu ce service en ligne, à savoir l’American Airline, au détriment d’autres compagnies, comme la Braniff Airline. Leur algorithme de recommandation était donc explicitement orienté pour favoriser la visibilité de leur propre compagnie. C’est pourquoi la
Braniff Airline a par la suite engagé des poursuites contre American Airline, estimant que « ce
genre de biais dans le service de réservation avait contribué à ses difficultés financières. »74
L’autre exemple qu’il développe concerne un incident qui s’est produit sur la centrale nucléaire de Three Mile Island. Le programme informatique dédié à la détection des dysfonctionnements a été programmé dans une logique linéaire, c’est-à-dire que si un incident est détecté, cela permet de gérer la réaction en chaîne due à ce premier incident. Le programme reposait donc sur une suite linaire et dépendante d’incidents. Or, l’incident qui s’est produit relevait d’événements « simultanés, et indépendants ». La logique programmatique ne permettait pas de traiter ce type d’évènements non linéaires. Le problème de cette simulation informatique inadaptée vient d’une « décision de programmation, aussi inconsciente ou implicite qu’elle ait pu être. »75
Une troisième forme d’invisibilité que soulève Moor est ce qu’il appelle l’« invisible complex
calculation » : il entend par là l’impossibilité pour l’esprit humain « d’inspecter et de
comprendre » la masse de calculs complexes opérés par d’éventuels super-calculateurs qui n’existaient pas encore à son époque mais qui sont opérationnels aujourd’hui. Cette
74 Ibid, p.274 75 Ibid
L’éthique dans l’histoire de l’informatique
62
problématique que l’on appelle souvent le phénomène de la « boîte noire », pose la question de la confiance et de la crédibilité accordées à des résultats issus de calculs informatiques non vérifiables par l’homme : « Quelle politique doit-on définir sur la confiance que l’on fait aux calculs invisibles ? »76 interroge Moor. Ce dernier reconnaît que l’une des solutions se trouve
certainement dans les ordinateurs eux-mêmes, qui ont la capacité d’évaluer leur propre calcul et de « rendre visible l’invisible. »77 Ils peuvent trouver l’information que l’on recherche, mais
à condition de savoir « quand, où et comment attirer [leur] attention [sur ce que l’on cherche]. »78
Le premier dilemme éthique de la Computer Ethics ayant été conceptualisé est peut-être celui de l’invisibilité. Moor souligne que nous sommes ravis, bien sûr, de ne pas avoir à comprendre tous les rouages de l’informatique et de ne pas voir tous les calculs et langages de programmation dès que l’on utilise un ordinateur. Mais paradoxalement, si cette invisibilité facilite grandement l’usage de l’ordinateur, elle est aussi un facteur qui nous rend vulnérable :
« Nous ne voulons pas inspecter chaque transaction informatisée ou programmer chaque étape pour nous-mêmes ou regarder chaque calcul informatique. En termes d'efficacité, le facteur d'invisibilité est une bénédiction. Mais c'est justement cette invisibilité qui nous rend vulnérables. Nous sommes ouverts aux abus invisibles ou à la programmation invisible de valeurs inappropriées ou à des erreurs de calcul invisibles. Le défi de l'éthique informatique est de formuler des politiques qui nous aideront à faire face à ce dilemme. Nous devons décider quand faire confiance aux ordinateurs et quand ne pas leur faire confiance. C'est une autre raison pour laquelle l'éthique informatique est si importante. »79
Cette analyse rapprochée, sur le terrain, des problèmes ou dilemmes que pouvaient poser les objets informatiques, dans leur nature même, a donc permis de poser les fondements conceptuels de la Computer Ethics, qui perdurent encore aujourd’hui.
76 Ibid, p.275 77 Ibid 78 Ibid 79 Ibid
L’éthique dans l’histoire de l’informatique
63