Chapitre 2 – Les promesses de l’utilisation des systèmes d’intelligence artificielle en santé
3. Un système de santé en transition
L’avènement de l’innovation numérique en santé, et plus particulièrement des méthodes utilisées en IA et des données massives, offre donc des perspectives prometteuses pour les systèmes de santé, que celles-ci concernent la prestation de soins ou la recherche (voir Schéma 2).
50 Bien que le concept de jumeau numérique soit issu de l’ingénierie, Torkamani et al. (2017) décrivent un système où le jumeau numérique serait une autre personne (existante) qui partage différents paramètres de santé avec un individu, et qui peut être utilisé pour déterminer quand celui-ci a un risque élevé de développer une maladie, recommander des comportements pour réduire ce risque, et identifier les signes précoces de maladies (Torkamani et al. 2017).
Schéma 2 - Vision d’ensemble de l’utilisation des données massives et de l’IA en santé
L’ensemble de ces méthodes et leurs usages qui tendent à devenir omniprésents semblent conduire à de potentielles transformations profondes des systèmes de santé. De nombreux auteurs décrivent en effet l’émergence d’une « révolution » dans les méthodes de recherche (ex. Rial- Sebbag 2017) ; voire d’un changement de paradigme scientifique qui transformerait la façon dont la connaissance est produite, selon une science guidée par les données :
La science-data-driven marquerait l’avènement d’un quatrième paradigme après la science empirique décrivant les phénomènes, la science théorique usant des modèles et des généralisations, et la science computationnelle simulant les phénomènes complexes (Hey et al., 2009 dans Coutellec and Weil-Dubuc 2017 p. 65).
Le phénomène du Big Data et la construction des connaissances à partir de ces données massives représenteraient en effet un nouveau paradigme de recherche pour de nombreuses disciplines (Coutellec et Weil-Dubuc 2017; Kitchin 2014; Chang, Kauffman, et Kwon 2014). La forme que prend cette nouvelle épistémologie est cependant contestée :
Whilst Jim Gray envisages the fourth paradigm of science to be data-intensive and a radically new extension of the established scientific method, others suggest that Big Data ushers in a new era of empiricism, wherein the volume of data, accompanied by techniques that can reveal their inherent truth, enables data to speak for themselves free of theory (Kitchin 2014 p. 3).
Kitchin (2014) met en effet en évidence deux principales tendances concernant la forme que pourrait prendre ce changement de paradigme : celle d’un nouvel empirisme et celle d’une science guidée par les données (data-driven). Selon la vision d’un nouvel empirisme, l’avènement du quatrième paradigme se fait par un mode empirique de production de la connaissance, à partir des données et sans jamais prendre assise sur une théorie. Les données produisent du sens de manière inhérente et les méthodes scientifiques traditionnelles (qui fonctionnent sur la base d’hypothèses préalables) deviennent par conséquent caduques. C’est ainsi la « sérendipité digitale » qui permet, selon cette vision, la création de nouvelles connaissances, et ce de manière objective et hautement simplifiée (Kitchin 2014). Si cette vision a particulièrement gagné en crédibilité en dehors du milieu universitaire – notamment, dans le milieu des affaires – elle est également critiquée pour son manque de validité scientifique et ses retombées qui ne permettraient pas l’avancée des connaissances per se (Kitchin 2014).
Selon la vision de l’apparition d’une science guidée par les données, ce nouveau paradigme est centré sur le meilleur moyen de donner du sens aux phénomènes et aux processus, mais les hypothèses et les idées sont générées à partir des données elles-mêmes plutôt qu’à partir de théories (Kitchin 2014; Coutellec et Weil-Dubuc 2017). Cette approche reconfigure alors la version traditionnelle des méthodes scientifiques, comme un nouveau moyen d’élaborer des théories – et n’est donc pas « theory free » comme le nouvel empirisme décrit précédemment. Dans le cadre d’une evidence-based medecine (ou la médecine fondée sur les données probantes), la valorisation des données massives par les systèmes d’IA représente en effet une opportunité de rationaliser la production de « preuves » pour aider la décision clinique, qu’elles soient issues de données biomédicales, de la littérature scientifique ou des médias sociaux et du web (Peek et al. 2015). L’épistémologie de la science data driven favoriserait l’émergence de nouvelles idées que la science guidée par la connaissance n’aurait pas permise (Kitchin 2014). Cette science guidée par les données pourrait ainsi transformer notre conception des développements aboutissant à la connaissance, notamment parce qu’elle marquerait la fin du modèle « hypothético-déductif » pour
laisser place à un modèle « empirico-inductif » où les données guident la création de connaissance (Coutellec et Weil-Dubuc 2017).
Considérant l’hyperbole (ou « hype ») entourant le développement et l’usage de l’IA et des données massives (Emanuel et Wachter 2019; Gandomi et Haider 2015; Fox et Do 2013; Gibert 2019), il est raisonnable de questionner si l’arrivée de ces méthodes représente réellement un changement de paradigme. Kitchin (2014) reconnait que l’avènement de ce nouveau paradigme n’est pas manifeste et nécessite encore un cadre théorique robuste. On peut également questionner si un modèle guidé par les données est une réelle transformation des approches scientifiques traditionnelles, considérant que construire des théories à partir des données est une démarche qui existait avant l’innovation numérique, notamment dans le domaine des sciences sociales51. Cependant, le « véritable point de bascule », selon Cardon, Cointet, et Mazières (2018), est la rétropropagation permises par les récentes avancées connexionnistes : les couches additionnelles de réseaux de neurones peuvent apprendre à partir des potentielles erreurs observées en sortie (outputs) du réseau, qui peut être propagée vers les entrées. Cela signifie que les réseaux de neurones peuvent maintenant analyser ce qui jusqu’à présent constituait le résultat de leur analyse (Cardon, Cointet, et Mazières 2018). De plus, c’est l’efficacité de la prédiction connexionniste qui marque une rupture importante dans le champ de l’IA : il est possible de faire des prédictions sur des données non-linéaires que l’on retrouve couramment dans des contextes réels en dehors des conditions de laboratoire, les modèles étant de plus en plus tolérants aux potentielles erreurs retrouvées dans les jeux de données (Cardon, Cointet, et Mazières 2018).
Que le changement de paradigme scientifique soit avéré ou non, l’innovation numérique – et donc l’usage des systèmes d’IA – s’accompagne incontestablement de transformations importantes en ce qui a trait aux systèmes de santé, que l’on considère qu’il existe une réelle rupture avec leur fonctionnement traditionnel ou que ces transformations s’opèrent en continuité52 d’une
51 C’est par exemple l’approche défendue par différentes méthodes empiriques dites « inductives », comme la
théorisation ancrée qui, à la différence des approches traditionnelles où la théorie est créée puis vérifiée, consiste à construire une théorie et à la valider à partir des données (Paillé 1994).
52 Satava décrit par exemple déjà en 2003 les effets disruptifs de l’avènement de technologies en santé ; incluant l’IA
automatisation croissante où l’ampleur de la présence technologique est sans précédent. Selon Schwab, qui défend l’idée de l’apparition d’une quatrième révolution industrielle qui prend source dans l’avènement des nouvelles technologies numériques, ces changements ne sont pas un simple prolongement de la 3ème révolution industrielle pour trois raisons : 1) la rapidité (exponentielle) du déploiement de cette révolution ; 2) l’ampleur et la profondeur des bouleversements qui l’accompagnent – qui ne transforment pas seulement notre manière de faire mais également notre conception de « qui nous sommes » ; et 3) son impact systémique – car cette révolution implique la transformation de systèmes entiers à tous les niveaux de la société (Schwab 2016). Selon Lahlou (2015), cette nouvelle révolution est caractérisée par l’automatisation du travail sur l’humain, qui fait suite à celle du travail sur la nature, sur la matière et sur l’information qui se sont opérées par le biais des révolutions industrielles précédentes.
L’automatisation du travail « sur l’humain » et belle est bien celle qui s’observe en santé. Il est en effet possible d’identifier différents changements relativement au secteur médical, imposés par la transition numérique. En premier lieu, les avenues prometteuses décrites précédemment s’accompagnent d’une certaine « immédiateté dans notre rapport aux données » dont l’accès s’est partiellement affranchi de la médiation humaine, soit celle des professionnels de santé ou des patients (Coutellec et Weil-Dubuc 2017). C’est particulièrement le cas de la santé mobile, où le patient se retrouve de plus en plus responsabilisé dans la gestion de sa propre santé (Devillier 2017b). La portabilité de ces nouveaux dispositifs crée de nouveaux lieux et de nouveaux agents de soins qui peuvent défier la gouvernance actuelle des systèmes de santé :
Notre système de santé sera profondément remanié dans les prochaines années du fait des innovations thérapeutiques ou diagnostiques à venir. Le passage des actes de l’hôpital vers la ville, de la ville au domicile, du domicile au travail, le transfert des compétences entre professionnels et patients (surveillance de traitement, du diabète, de la pression artérielle…), les innovations de la robotique, de la télémédecine et des Big Data représentent autant de challenges que nous allons devoir prendre en compte et maîtriser pour créer la santé de demain (Brouard, 2017, p. 29).
Concernant la recherche en santé, un changement majeur s’observe concernant la taille potentielle des cohortes de participants ou le temps nécessaire pour faire les études (Brouard 2017). Le ResearchKit d’Apple a par exemple transformé les iPhones en outils de collecte pour la recherche,
transformant les centaines de millions d’utilisateurs de ces téléphones intelligents en participants potentiels. C’est ce que présente Sharon (2016) :
Early ResearchKit apps have been a success in this sense: Apple likes to boast that within 24 hours of the launch of Stanford’s cardiovascular study, 11,000 participants had signed up. Similarly, the Parkinson mPower app was downloaded by 680 people in its first 3 h, and the Icahn School of Medicine’s asthma study app enrolled more than 8000 participants within 6 months, all without any direct contact with researchers (p. 565).
S’ensuit une dissociation entre la capacité de collecte et la capacité d’analyse (temporellement et sémantiquement) qui conduit ainsi à un décalage entre le rythme de production des données et la vitesse de l’appropriation du sens qu’elles recèlent (Coutellec et Weil-Dubuc 2017).
Également, ces nouveaux modes de collecte de données (en particulier, les applications mobiles ou les capteurs) offrent l’opportunité à des firmes multinationales (ex. les GAFAM53) d’entrer dans la sphère de la recherche biomédicale (Sharon 2016). L’entrée de ces nouveaux acteurs s’accompagne de nouvelles asymétries de pouvoir entre secteurs public et privé entraînant un déséquilibre entre les expertises qui affecte la recherche dans son ensemble (Sharon 2016). En effet, ces firmes internationales, possédant des moyens supérieurs à ceux dont peut disposer la recherche publique, deviennent indispensables à l’existence même d’un système de santé dont le fonctionnement repose sur les données, rendent le système public traditionnel caduque54 et amènent des préoccupations relatives à l’apparition d’un monopole privé tant au niveau de l’expertise numérique que de celle nécessaire à la gestion des données (Sharon 2016).
L’innovation numérique en santé s’accompagne de répercussions pour les patients, les professionnels de santé et le système de santé à différents niveaux (Thompson et al. 2018). Pour Devillier (2017) c’est l’ensemble du parcours de soin du patient qui est affecté par le partage de données. Les transformations qui l’accompagnent ne sont pas sans conséquence sur l’évaluation
53 Acronyme faisant références aux 5 principales firmes privées de l’écosystème de l’IA : Google, Amazon,
Facebook, Apple et Microsoft.
54 C’est par exemple ce que présente Sharon (2016), qui décrit que l’Institut National du cancer américain a reconnu
que son système traditionnel d’analyse des données n’est plus viableet que l’infrastructure de grands organismes de recherche comme le NIH ne sont plus à la hauteur de celles des entreprises privées internationales qui collectent et conservent des données génomiques (Sharon, 2016).
éthique et scientifique des projets de recherche ou de la pratique clinique (Rial-Sebbag 2017; Thompson et al. 2018). Des implications en termes de consentement libre et éclairé des patients ou des participants (Rial-Sebbag 2017), de protection de la vie privée (Azencott 2018); de sécurité (Brundage et al. 2018) ou encore de justice sociale (Ganascia 2018; Mittelstadt et Floridi 2016) apparaissent. Le CCNE français va jusqu’à décrire une « rupture » qui conduit à un changement dans la perception des enjeux éthiques traditionnels de la recherche et du soin, selon quatre principales caractéristiques majeures des données massives en santé :
- Un changement d’échelle, tenant à l’augmentation considérable du nombre des données disponibles et de notre capacité à les analyser ;
- Leur pérennité : utiliser les données ne les détruit pas, elles sont donc réutilisables ; - Leur diffusion rapide, qui permet leur partage, et peut s’opérer au-delà de l’équipe médicale et des frontières nationales ;
- Leur capacité à générer de nouvelles informations (données secondaires) et de nouvelles hypothèses, par l’effet de leur traitement (CCNE 2019, p.15).
Le changement associé au développement desdites technologies n’est alors pas seulement technologique mais également éthique et social. Ce changement tend vers une redéfinition de la relation de soin et une responsabilisation accrue du patient. Les risques associés à l’innovation numérique en santé ne sont pas précisément définis, et il est encore nécessaire de démontrer la pertinence de l’application pratique de ces technologies, soit d’en valider la portée bénéfique (Panch, Mattie, et Celi 2019)55. De nouveaux acteurs entrent en ligne de compte et de nombreux éléments amènent à penser qu’une redéfinition des responsabilités telles qu’entendues jusqu’à présent est nécessaire, pour les chercheurs comme pour les cliniciens :
Le passage d’une recherche basée sur des hypothèses à une recherche basée sur les données a eu de ce fait de grandes implications pour les acteurs de la santé en modifiant la qualité de leurs liens et l’étendue de leurs droits et devoirs (Rial-Sebbag 2017 p. 44).
Considérant les différents points de rupture qui accompagnent les transformations décrites, il est alors possible de considérer les technologies qui relèvent de l’IA et des données massives comme des technologies « disruptives » (Sharon 2016; van den Broek et van Veenstra 2018;
Thompson et al. 2018; Howard 2014; Wadhwa 2014). Selon le modèle de Christensen (2003) les technologies (ou innovations) disruptives se définissent en opposition aux technologies incrémentielles (incremental) ou durables (sustaining) (Christensen, Raynor, et McDonald 2015; Christensen et Overdorf 2000). Alors que le développement des dernières vise l’amélioration de produits déjà existants, les innovations disruptives ont généralement un impact majeur et inattendu sur le marché (Pavie et Egal 2014). Ces innovations modifient radicalement les conditions d’usage et impliquent le plus souvent un changement technique ou technologique radical (Pavie et Egal 2014)56. L’anticipation des risques associés aux innovations disruptives ainsi que l’évaluation de leur impact sur la société est plus difficile que pour les autres innovations, selon Pavie et Egal (2014), en raison de deux principaux facteurs : 1) la complexité à anticiper les niveaux d’adoption et donc de gérer l’effet de masse potentiel qui en résulte et 2) le knowledge gap, soit la connaissance limitée de l’existence de risques ou autres conséquences imprévisibles :
« Disruptive innovations often rely on new techniques or technologies, for which scientific knowledge is still limited, and for which all consequences cannot always be foreseen » (Pavie et Egal, p. 58).
Également, la rapidité de l’implémentation des technologies disruptives et la relative lenteur des processus de régulation créent un écart entre le développement technologique et son encadrement (Howard 2014; Satava 2003), risquant de laisser la gouvernance de ces technologies guidée par d’autres impératifs que les exigences éthiques et sociales :
« Disruptive technology is immediately felt on nately, our political, social, and behavioral systems are too slow to respond, and the moral and ethical implications are either ignored or made subservient to a more pressing (commercial?) need » (Satava 2003 p. 247). La rupture et les conséquences qui accompagnent le développement de technologies disruptives viennent ainsi défier le respect des règles traditionnelles de gouvernance (notamment éthiques) et présente des enjeux de responsabilité sociale attribuée aux acteurs de la recherche et de l’innovation
56 Considérer les technologies qui relèvent de l’IA et des données massives comme disruptives selon les théories de
Christensen (soit, d’un point de vue managérial) mériterait cependant une analyse plus approfondie. La « disruption » telle que décrite par Christensen (2003), renvoie à un processus par lequel une petite entreprise disposant de peu de ressources est en mesure de remplacer avec succès les entreprises établies en développant des innovations considérées a priori comme inappropriées pour satisfaire les consommateurs selon les métriques d’évaluation en place (Danneels 2004; Christensen, Raynor, et McDonald 2015; Christensen et Overdorf 2000). Cette théorie renvoie à un énoncé basé sur des corrélations (Christensen, Raynor, et McDonald 2015) relatives aux effets perturbateurs de certaines technologies sur la dynamique du marché (Kenagy et Christensen 2002). Ces technologies changent les métriques de performance selon lesquelles les entreprises vont rivaliser (Danneels, 2004). Ici, c’est bien selon la rupture dans les conditions d’usage et la complexité de la gestion des risques tels que décrits par Pavie et Egal (2014) que le terme est utilisé.
(Wadhwa 2014; Pavie et Egal 2014; Howard 2014; Kolko 2012; Satava 2003). De plus, les facteurs d’incertitude décrit par Pavie et Egal (2014) rendent la détermination de la responsabilité des parties prenantes de l’innovation indispensable pour permettre aux humains de se protéger eux- mêmes ainsi que de protéger leur environnement (Pavie et Egal 2014). Il semble alors essentiel de se pencher sur le caractère disruptif de l’innovation numérique en santé d’un point de vue de l’attribution de la responsabilité associée à leur développement. Les transformations qu’amènent ces technologies demandent de prendre expressément en considération leurs conséquences éthiques et sociales en vue d’une innovation responsable.