Article
Reference
Intelligence artificielle en orthopédie: à quels risques serons-nous confrontés ?
FARRON, Alain, HANNOUCHE, Didier
FARRON, Alain, HANNOUCHE, Didier. Intelligence artificielle en orthopédie: à quels risques serons-nous confrontés ? Revue médicale suisse , 2019, vol. 15, no. 675, p. 2271-2272
PMID : 31840953
Available at:
http://archive-ouverte.unige.ch/unige:128296
Disclaimer: layout of this document may differ from the published version.
1 / 1
ÉDITORIAL
WWW.REVMED.CH
11 décembre 2019
2271
Intelligence artificielle en orthopédie : à quels risques
serons-nous confrontés ?
Prs ALAIN FARRON et DIDIER HANNOUCHE Le 2 octobre 2018, un Boeing 737 Max de Lion
Air, avec 189 personnes à bord s’abîmait en mer de Java 13 minutes seulement après son décollage. Le 10 mars 2019, un avion identique d’Ethiopian Airlines s’écrasait avec ses 157 occupants, 6 minutes après son envol d’Addis- Abeba. La suite est connue de tous. Des centaines de Boeing 737 Max restent toujours cloués au sol. Ces accidents résultent proba- blement d’une origine multifactorielle. Un élément cependant interpelle :
dans les deux cas, les pilotes ont tenté l’impossible pour redresser les appareils piquant irrémé- diablement du nez. Les avions, pourvus des dernières avancées technologiques, possédaient un système électronique « intelligent » donnant des instructions au pilote automatique pour stabiliser le vol.
L’enquête a montré que les analyses trans- mises contenaient des informations erronées.
Beaucoup plus grave, le système, malgré les vains efforts des pilotes, serait resté maître des avions, menant 346 personnes à la cata- strophe. À une époque où il ne se passe pas une seule journée sans que ne soient vantés les innombrables mérites de l’intelligence artificielle (IA), ce dramatique exemple doit nous alerter.
Il est vrai que les démonstrations médiatiques de systèmes dotés d’IA, tel AlphaGo capable de générer des performances extraordinaires et de battre en compétition les meilleurs représentants de l’espèce humaine, ont plutôt de quoi doper notre enthousiasme ! L’assis- tance par ordinateur, l’IA, le deep learning, le machine learning ou encore la réalité aug- mentée ont peu à peu pris place dans de nombreux domaines d’activités de notre société : systèmes de contrôle et de pilotage, finance, défense, et bien sûr santé, pour ne citer que quelques exemples.
L’orthopédie fait office de pionnière en la matière et de nombreux fabricants ont commercialisé des systèmes intégrant ce type d’assistance.1 Trois domaines sont principa- lement concernés : l’imagerie médicale, la planification opératoire ainsi que l’assistance durant l’intervention chirurgicale. L’IA apporte en effet une aide significative pour les images reconstruites en 3D, les structures osseuses et musculotendineuses se prêtant bien aux processus de segmentation auto- matique. Les logiciels de planifica- tion opératoire intègrent égale- ment de plus en plus fréquemment des systèmes dotés d’IA, « pro- posant » alors aux chirurgiens un positionnement de l’implant pro- thétique parfaitement adapté à la configuration anatomique par- ticulière du patient. Finalement, les divers processus d’assistance durant l’inter- vention (guides de coupes personnalisés et imprimés en 3D, navigation chirurgicale, réalité augmentée, et bientôt robotisation) sont censés reproduire avec une grande préci- sion l’acte chirurgical tel qu’il a été visualisé puis planifié.
Il n’existe cependant pas de technologie, aussi pointue soit-elle, qui n’engendre des dangers spécifiques, allant jusqu’à faire dire à Stephen Hawking que l’IA pourrait mettre fin à l’humanité !2 Sans être aussi alarmiste, la littérature scientifique actuelle confirme l’intérêt croissant porté aux incertitudes liées à cette évolution ainsi qu’aux moyens dont nous disposons pour leur faire face. Les principaux risques liés à l’utilisation de l’IA en médecine clinique ont ainsi été identifiés puis classés selon trois périodes de surve- nue.3 À court terme, durant la phase de mise en place de systèmes d’IA, la préoccupation principale concerne le degré de confiance à accorder aux interprétations réalisées par les Articles publiés
sous la direction de
ALAIN FARRON Service universitaire d’orthopédie et de traumatologie, Site Hôpital orthopédique, CHUV, Lausanne
DIDIER HANNOUCHE Service universitaire
d’orthopédie et de traumatologie, HUG et Université de Genève
TOUTE TECHNOLOGIE, AUSSI POINTUE
SOIT-ELLE, ENGENDRE DES
DANGERS SPÉCIFIQUES
Bibliographie 1
Trivedi V. A peek into the future of orthopaedics:
computers and Artificial intelligence! Ortho Rheum Open Access 2018;10:555797.
2
Quotidien «Le Monde»
3 décembre 2014.
3
Challen R, Denny J, Pitt M, et al. Artificial intelligence, bias and clinical safety. BMJ Qual Saf 2019;28:331-7.
REVUE MÉDICALE SUISSE
WWW.REVMED.CH 11 décembre 2019
2272
machines. À moyen terme, lors de la phase d’état, survient alors le risque que l’être humain accorde trop de confiance aux prédictions de l’IA. Pourrait alors en découler une certaine
« automatisation » du processus ne permet- tant pas toujours au clinicien d’anticiper les échecs et leurs conséquences. À plus long terme, durant la phase de progression, les enjeux principaux viendraient de « l’autono- misation » potentielle du mécanisme mis en place. L’IA pourrait ainsi proposer de nouvelles voies pour atteindre les buts recherchés. En se focalisant prioritairement sur l’objectif à atteindre, sans réflexion sur la manière d’y parvenir, il existe un danger que le système d’IA occulte certains principes, par exemple éthiques, gouvernant la société.
La nécessité de régir, voire de réglementer, l’utilisation de l’IA en médecine constitue donc une priorité.4 À la conception des technologies d’IA, en premier lieu, par une définition claire des objectifs ainsi que par une sélection pertinente des données servant à entraîner la machine. Lors du développement
ensuite, en évitant la genèse de black boxes, zones d’opacité accessibles aux seuls concep- teurs. Finalement, en accompagnant l’inté- gration en clinique des systèmes dotés d’IA par des stratégies assurant le maintien de l’expertise des médecins. Mais ce qui paraît actuellement primordial pour
l’utilisation d’une IA remplissant les exigences de sécurité, c’est qu’elle soit issue de programmes de recherche interdisciplinaire, réunissant des cliniciens, des ingénieurs, ainsi que les fabri- cants. Cette stratégie devrait
limiter les risques de dérive. Car il convient de se remémorer que le terme « d’intelligence » artificielle pourrait être usurpé. Il ne s’agit finalement que d’une machine à qui il man- quera toujours, comme l’a affirmé Einstein, l’élément essentiel caractérisant le cerveau humain : la créativité.
The True sign of intelligence is not knowledge but imagination Albert Einstein
LE TERME
« D’INTELLIGENCE » ARTIFICIELLE POURRAIT ÊTRE
USURPÉ
Bibliographie 4 Macrae C. Governing the safety of artificial intelligence in healthcare. BMJ Qual Saf 2019;28:495-8.
