Ethique et objets connectés
Mémoire
Maîtrise en droit - avec mémoire
Mathilde Bondu
Université Laval
Québec, Canada
Maître en droit (LL. M.)
et
Université Paris-Saclay
Cachan, France
Master (M.)
ÉTHIQUE ET OBJETS CONNECTÉS
Mémoire
Cheminement bi-diplômant – Propriété intellectuelle fondamentale et
technologies numériques
Mathilde Bondu
Sous la direction de :
Ivan Tchotourian, Université Laval
Résumé
Ce projet de recherche porte sur l’opportunité de l’éthique comme mode de régulation des objets connectés. Actuellement au cœur d’une véritable course à l’innovation se faisant de plus en plus pressante, nous relèverons qu’il s’agit de biens complexes rendant difficile leur appréhension par le droit. Ce sujet se focalisera ensuite sur le cadre juridique applicable à cette technologie au regard des données personnelles récoltées de manière massives pour pouvoir enrichir et assurer le fonctionnement de ces objets. Démontrant certaines limites de ce régime légal au regard du poids de l’économie de la donnée, l’éthique sera étudiée de manière théorique dans le contexte du numérique comme outil de régulation, y compris son utilité mais aussi son inévitable manipulation par les acteurs du numérique. Ce projet aura pour objectif enfin de dresser un bilan concret des initiatives véritablement destinées à assurer une meilleure régulation des objets connectés par l’éthique, finalement débitrice d’une forte collaboration entre les trois acteurs principaux du numérique : pouvoirs publics, entreprises et citoyens.
Table des matières
RÉSUMÉ ... II TABLE DES MATIÈRES ... III AVERTISSEMENT ... V REMERCIEMENTS ... VI
INTRODUCTION ... 1
I. DE L’IMPACT DES OBJETS CONNECTÉS SUR LA RÉGULATION ... 1
A.RÉVOLUTION NUMÉRIQUE ET OBJETS CONNECTÉS ... 2
B.RISQUE D’EXPLOITATION DES DONNÉES PERSONNELLES PAR L’INTERMÉDIAIRE DES OBJETS CONNECTÉS ... 4
C.LES LIMITES DE LA RÉGLEMENTATION CLASSIQUE AUTOUR DES OBJETS CONNECTÉS ... 5
II. L’ÉMERGENCE D’UNE RÉFLEXION SUR L’ETHIQUE COMME NOUVEAU RÉGULATEUR DES OBJETS CONNECTÉS ... 7
A.DÉFINITIONS ... 8
B.UN CHOIX ENTRE L’ETHIQUE OU LE DROIT ? ... 10
III. DÉMARCHE MÉTHODOLOGIQUE ... 10
A.PROBLÉMATIQUE GÉNÉRALE ... 10
B.INTÉRÊTS DE LA RECHERCHE DÉLIMITÉE ET OBJECTIFS POURSUIVIS ... 11
C.QUESTIONS DE RECHERCHE ET HYPOTHÈSES DE TRAVAIL ... 12
D.MÉTHODOLOGIE DE LA RECHERCHE ... 13
IV. PLAN DE LA RECHERCHE ... 16
PARTIE I – LES LACUNES DE LA RÉGLEMENTATION D’UNE TECHNOLOGIE ÉVOLUTIVE : L’OBJET CONNECTÉ ... 16
CHAPITRE 1 – L’OBJET CONNECTÉ, UNE TECHNOLOGIE MULTIFORME À L’ÉPREUVE DE LA RÉGLEMENTATION ... 16
(A) LE FONCTIONNEMENT DE L’OBJET CONNECTÉ DOTÉ D’UNE INTELLIGENCE ARTIFICIELLE ... 17
1)DÉFINITIONS ... 17
2)LA DIFFICULTÉ ENGENDRÉE PAR UN ALGORITHME AUTO-APPRENANT, L’INTELLIGENCE ARTIFICIELLE ... 20
(B) LA COMPLEXIFICATION DE L’OBJET CONNECTÉ : L’ENVIRONNEMENT DE L’INTERNET DES OBJETS ... 25
1)L’INTERCONNEXION AU SEIN DE L’INTERNET DES OBJETS ... 26
2)L’AVÈNEMENT DE LA 5G, ET RISQUE DE PERTE DE CONTRÔLE ... 28
CHAPITRE 2 - L’ÉTAT DU DROIT POSITIF AUTOUR DE LA RÉGLEMENTATION DES OBJETS CONNECTÉS ET DE LA COLLECTE DES DONNÉES À CARACTÈRE PERSONNEL ... 30
A. LES SPÉCIFICITÉS DES RÉGLEMENTATIONS FRANÇAISE ET CANADIENNE ... 30
1.LA RÉGLEMENTATION FRANÇAISE, HÉRITIÈRE DE LA PENSÉE EUROPÉENNE ... 30
2.LA RÉGLEMENTATION CANADIENNE, ASPIRATIONS D’AMÉRIQUE DU NORD ... 34
B. L’ORGANISATION DU DROIT DES DONNÉES PERSONNELLES AUTOUR D’UNE LOGIQUE DE RESPONSABILISATION ... 38
1.MAÎTRISE DES DONNÉES PAR L’INDIVIDU, LE PRINCIPE D’AUTODÉTERMINATION INFORMATIONNELLE ... 39
C. LE TRAVAIL DIFFICILE DU LÉGISLATEUR AUTOUR D’UNE RÉGLEMENTATION ADAPTABLE AUX NOUVELLES
TECHNOLOGIES ... 48
1.PRIVACY BY DESIGN ET PRINCIPES ÉTHIQUES ... 48
2.LES LIMITES VISIBLES DE L’APPROCHE CLASSIQUE DE PROTECTION DES DONNÉES PERSONNELLES ... 50
PARTIE II – L’OPPORTUNITÉ CONCRÈTE DE L’ETHIQUE AU SERVICE DE LA RÉGULATION DES OBJETS CONNECTÉS 53 CHAPITRE 1 – LA COMPLÉMENTARITÉ CONDITIONNÉE DE L’ÉTHIQUE AU DROIT ... 53
(A) L’ETHIQUE, UNE NOUVELLE FORME DE NORME JURIDIQUE ... 54
1.L’ETHIQUE COMME SOURCE DE DROIT INDISPENSABLE DE L’OBJET CONNECTÉ ... 54
2.LE POIDS POTENTIEL DU DROIT SOUPLE DANS LE NUMÉRIQUE ... 60
(B) L’INTERROGATION AUTOUR DE L’APPLICATION DE L’ÉTHIQUE AU DROIT DES OBJETS CONNECTÉS ... 66
1.LE TRAVAIL DE COLLABORATION ENTRE LES ACTEURS DU NUMÉRIQUE ... 67
2. UN DROIT SOUPLE SOUS LA FORME D’UNE CERTIFICATION ... 69
3.L’INTRICATION DE L’ETHIQUE AUX SOURCES DE DROIT TRADITIONNELLES ... 72
CHAPITRE 2 - L’APPLICATION EN PRATIQUE DE L’ETHIQUE ENTRE POUVOIRS PUBLICS, ENTREPRISES, ET CITOYENS ... 76
(A) LES POUVOIRS PUBLICS FACE AU DÉFI DE L’ETHIQUE ... 76
1. L’ÉLABORATION D’UNE CORÉGULATION ENCORE EN APPRENTISSAGE ... 76
2.LE RÔLE POLITIQUE D’IMPULSION DES RÉFLEXIONS AUTOUR DE LA RÉGULATION ... 80
3.L’ÉLABORATION DE NOUVEAUX USAGES RESPONSABILISANTS ... 85
B. LES ENTREPRISES, UN DIFFICILE ÉQUILIBRE ENTRE PROFIT ET RÉGULATION PAR L’ÉTHIQUE ... 89
1.L’IMPLICATION AMBIGUË DES ENTREPRISES AU REGARD DE L’ÉTHIQUE ... 89
2.L’AVANTAGE DE L’ÉTHIQUE AU REGARD DE LA PRÉVENTION DES RISQUES ... 90
3.LA RSE, OU LA RÉGULATION PAR L’ÉTHIQUE AU SERVICE D’ENTREPRISES PLUS JUSTE ... 93
C. L’INFLUENCE FONDAMENTALE DE LA SOCIÉTÉ CIVILE SUR L’ÉTHIQUE ... 97
1.LE POIDS DES CITOYENS SUR LA LÉGITIMITÉ DE L’ÉTHIQUE ... 97
2.L’IMPORTANCE D’UNE ÉDUCATION TECHNOLOGIQUE ... 100
CONCLUSION ... 104
Avertissement
Ce mémoire a été préparé et rédigé dans des conditions exceptionnelles liées à la crise pandémique du sars-cov2 [covid-19] apparu dès janvier 2020. Ce sujet de recherche a bénéficié d’un certain avantage dans le cadre de ses recherches bibliographiques puisque la majorité des sources recherchées étaient disponibles en ligne. Néanmoins, certains ouvrages auraient pu alimenter ce mémoire notamment des ouvrages de droit canadiens, ouvrages de droit classique comme des traités de droit civil, ou des ouvrages spécifiques aux enjeux du numérique.
Remerciements
La rédaction de ce mémoire aura été rythmée par un retour en urgence en France et un confinement imposé.
Je tiens ainsi à remercier en premier lieu, le soutien du professeur Alexandra Bensamoun directrice de mon Master 2, pour m’avoir offert cette chance de faire partie pendant un an de la promotion PIFTN et pour nous avoir, mes camarades et moi, soutenus jusqu’au bout pendant un confinement éprouvant et lors de notre retour précipité en France.
Je suis aussi très fière de mes directeurs de recherches, les professeurs Ivan Tchotourian et Arnaud Latil, que je souhaite remercier. Ils m’ont encadrée pendant la rédaction de ce mémoire, et j’ai aimé échanger sur ce sujet qui me passionnait autant que mes co-directeurs.
Ensuite, que ne seraient ces remerciements sans mentionner mes parents. Papa, Maman, Grand-mère, je voulais vous remercier de m’avoir offert une petite bulle pour travailler et rédiger au mieux mon mémoire malgré cette situation si particulière, mais aussi pour m’avoir encouragée pendant toutes mes années d’études. A mes frères, merci pour votre soutien discret, car vous le comprendrez plus tard, j’ai aussi à cœur de vous rendre fiers. A mes amis proches, vos messages de soutien et votre affection m’auront permis de rédiger ce mémoire dans les meilleures conditions possibles. Enfin, à ma famille PIFTN, les anciens et les nouveaux, mes colocataires, merci à tous pour votre soutien, c’est une année qui sera marquée d’une pierre blanche et je continuerai de cultiver cet esprit de famille qui a été déterminant pour ma promotion cette année.
Introduction
En 1983, Hannah Arendt écrivait :
« Vivre une vie entièrement privée, c’est avant tout être privé de choses essentielles à une vie véritablement humaine : être privé de la réalité qui provient de ce que l’on est vu et entendu par autrui, être privé d’une relation “objective” avec les autres, qui provient de ce que l’on est relié aux autres et séparé d’eux par un monde d’objets communs […] »1.
De ce « monde d’objets », il est possible aujourd’hui de dresser une comparaison avec les objets connectés. Nos vies hyper-connectées et notre utilisation des nouvelles technologies ont poussé le droit à revenir sur sa légitimité et ses fondements. On peut régulièrement lire que les objets connectés inondent le marché2 : entre les wearables3, les objets de domotique pour la maison, sans compter ceux dédiés aux entreprises, chaque individu en semble être le propriétaire. Leur utilité n’a de cesse de s’imposer : dans les foyers, les entreprises, les hôpitaux, chez les mineurs, et même chez les plus âgées.4 Ainsi depuis la création dans les années 90 du grille-pain de John Romkey ou
de la lampe DAL de Rafi Haladjian, l’objet connecté a marqué un changement radical dans l’utilisation des technologies numériques. De cette révolution technologique, l’on peut observer un impact considérable sur la régulation traditionnelle du numérique (I), ce qui ouvre par conséquent de nouvelles réflexions sur la possibilité d’un caractère protéiforme du cadre légal des objets connectés à travers l’utilisation de l’éthique (II). De ce double constat, ce mémoire de recherche formulera ensuite sa démarche méthodologique (III). Il y aura lieu enfin de dresser un plan en réponse à la problématique générale (IV).
I. De l’impact des objets connectés sur la régulation
La place de l’objet connecté sur le marché du numérique s’explique par sa capacité à offrir des services pertinents, nourris par des informations souvent personnelles (A). Cette capacité des
1 Hannah Arendt, Condition de l’homme moderne, Paris, Calmann-Lévy, 1983, chapitre 70.
2 Ministère de l’économie et des finances, Marché des objets connectés à destination du grand public, 2018. 3 Pour l’instant l’Académie avoue être dans l’impasse pour traduire ce mot, nous considérerons qu’il s’agit d’un objet
connecté « portable » sous forme d’accessoire.
4 Il existe sur le marché une grande diversité d’objets connectées dédiés aux seniors : piluliers connectées, sols
entreprises à récolter de telles données a pu faire entrevoir de nouveaux risques sur la vie privée des individus, risques souvent emportés par le poids commercial de ce type d’objet (B). Cette nouveauté a donc imposé au régulateur d’en repenser le cadre juridique, faisant émerger l’utilité d’un nouvel outil perfectible de la régulation : l’éthique (C).
A. Révolution numérique et objets connectés
Ce monde des objets connectés est généralement considéré comme le fruit d’une 4ème révolution
industrielle5. Cette expression illustre la force de changement qu’impose cette technologie, celui
de l’ouverture du monde privé aux entreprises, condition sine qua none pour accéder aux services offerts par l’objet connecté. Cette innovation fait partie d’un mouvement technologique plus large, multipliant les nouvelles technologies. Elles ont comme but de s’immiscer de plus en plus dans la vie privée des individus pour améliorer et faciliter leurs habitudes de vie au quotidien, jusqu’à par exemple devenir des instruments médicaux de pré-diagnostic au temps du coronavirus, comme le titre le New York Times dans un article « Alexa, Do I Have Coronavirus » ?6. Or, au contraire de
l’adage « toute vérité n’est pas bonne à dire », il faut souligner que cette innovation se développe au détriment de la vie privée des individus. Cette omniprésence impacte la quantité de données collectées, qui est massive, et surtout qui ne concerne pas des données sans importance, mais bien des données à caractère personnel. Ce processus participe donc à l’idée d’une vie privée de plus en plus digitalisée et digitalisable, à travers la relation particulière de l’utilisateur et de l’entreprise qui propose l’objet. Et l’ampleur de cette relation n’est pas forcément claire pour l’utilisateur qui souhaite seulement demander à son enceinte connectée « quel temps fait-il aujourd’hui ? ». L’entreprise qui exploite les données collectées dispose d’une connaissance approfondie de la vie personnelle du consommateur, et souvent professionnelle. Cette prise de conscience des individus
5 Klaus Schwab, « Comment façonner la quatrième révolution industrielle », La Tribune, 16 janvier 2018, en ligne : < https://www.latribune.fr/opinions/tribunes/klaus-schwab-comment-faconner-la-quatrieme-revolution-industrielle-764814.html > (consulté le 28/04/2020).
6 Jacob Sunshine et Shyam Gollakota, « Alexa, Do I Have Coronavirus », The New York Times, 05 avril 2020, en ligne :
est presque toujours débitrice des grands scandales qui ont pu éclater, par exemple avec les enceintes connectées « Alexa »7 ou « Google Home »8.
Mais avant d’aller plus loin, il semble important de comprendre en quoi consiste l’objet connecté. Ce dernier dispose de nombreuses définitions, nous pouvons le définir comme une technologie où les « objets captent, stockent, traitent et transmettent des données, peuvent recevoir et donner des instructions et qui ont pour cela la capacité à se connecter à un réseau d’information »9. Ce
traitement est assuré par un algorithme d’intelligence artificielle (ci-après « IA ») qui participe à la richesse mais aussi à la complexité du fonctionnement de cette technologie. L’IA n’est pas la seule composante déterminante de l’objet connecté. Il fait partie d’un environnement plus vaste, celui de « l’Internet des Objets », couramment désigné sous l’abrégé « IOT », « the Internet Of Things » dans les pays anglo-saxons. Il désigne l’écosystème auquel appartiennent les objets connectés, c’est-à-dire celui d’Internet, de son interconnexion avec d’autres objets, et la base de stockage d’un service de cloud10. L’intérêt de l’objet connecté est donc sa capacité, de récolter, traiter et analyser
des données afin de traiter une demande, et de mettre ses données en réseaux. Pourtant, son inconvénient majeur réside aussi dans son fonctionnement, l’objet doit collecter un nombre important de données, qui sont généralement enregistrées, stockées et recroisées par les entreprises à travers l’écosystème que nous avons pu décrire. Avec le développement récent de l’IA et des nouvelles technologies, cette activité des entreprises, celle de collecter massivement, à tendance à se développer. Ce constat mérite que l’on s’y attarde car c’est aussi ce qui fonde la force économique de la donnée, souvent qualifiée de nouveau pétrole ou « or noir ». La donnée
7 Kesso Diallo, « Des employés d’Amazon écoutent les conversations des utilisateurs avec Alexa », Le Figaro, 11 avril
2019, en ligne : < https://www.lefigaro.fr/secteur/high-tech/des-employes-d-amazon-ecoutent-les-conversations-des-utilisateurs-avec-alexa-20190411> (consulté le 28/04/2020).
8 Nicolas, Six, « L’enceinte connectée de Google enregistrait les sons dans l’appartement en permanence », 11
octobre 2017, en ligne : https://www.lemonde.fr/pixels/article/2017/10/11/google-corrige-un-bug-qui-faisait-qu-une-de-ses-enceintes-connectees-enregistrait-en-permanence_5199486_4408996.html (consulté le 28/04/2020).
9 Arnaud de Baynast, Jacque Lendrevie, et Julien Lévy, Mercator, Malakoff, Dunod, 12e éd., 2017, p.212
10 « Le « cloud computing » (en français « informatique en nuage » ou « informatique dans les nuages ») est, selon la
définition officielle de la Commission générale de terminologie et de néologie, un « mode de traitement des données d'un client, dont l'exploitation s'effectue par l'internet, sous la forme de services fournis par un prestataire », […] le « nuage » représentant est un ensemble de serveurs en réseau (incluant des systèmes d'exploitation et des logiciels), installés dans un datacenter, qui exécutent les traitements et stockent les données » V. Serge Braudo, « Définition du cloud computing », en ligne : < https://www.dictionnaire-juridique.com/definition/cloud-computing.php> (consulté le 28/04/2020).
personnelle fait l’objet d’une véritable économie mondiale, où la maîtrise du marché par les entreprises numériques repose sur la quantité et la qualité des données qu’elles récoltent pour alimenter leurs bases de données, et donc développer leurs stratégies commerciales, expliquant donc que les GAFAM soient les premières capitalisations boursières au monde.
B. Risque d’exploitation des données personnelles par l’intermédiaire des objets connectés
La révolution des objets connectés a donc favorisé la valorisation économique des données sans favoriser proportionnellement, les droits des consommateurs à la protection de leur vie privée. Les données récoltées ne concernent pas des caractéristiques objectives des personnes mais bien des informations personnelles : leur adresse, leur statut familial, leurs goûts musicaux, leurs habitudes de vie. Cette capacité de collecte des entreprises et la promesse d’un service efficace et personnalisé, entraine de nouveaux risques touchant la vie privée. Quels sont les garde-fous en cas d’accès et de manipulation des données personnelles ?
Dans le cas des objets connectés, le principal enjeu juridique repose sur la protection de la vie privée dans le cadre de l’exploitation des données personnelles. Dès 2014, le Conseil d’État français soulignait certains usages numériques attentatoires à ce droit : « la diffusion des données personnelles en dehors de la volonté de l’individu concerné, leurs utilisations malveillantes, l’utilisation par les pouvoirs public à des fins de sauvegarde de l’ordre public, ou encore celui de la bulle informationnelle »11. De manière générale, ces risques concernent l’intégrité de notre vie
privée, désormais à mi-chemin entre sphère privée et sphère économique des entreprises.
C’est ainsi que le numérique, illustré dans ce mémoire par les objets connectés, a suscité le besoin d’un encadrement plus important du droit fondamental de protection de la vie privée,12 notamment
au travers de la protection des données personnelles. Centrer cette rédaction sur ce point n’est pas
11 Conseil d’État, Les rapports du Conseil d’État – Le numérique et les droits fondamentaux, La documentation
française, 9 septembre 2014, p.17.
12 En droit français, le droit au respect à la vie privée figure notamment à l’article 9 du Code civil, à l’article 8 de la
Convention européenne des droits de l’homme, à l’article 7 de la Charte des droits fondamentaux de l’Union européenne, et en filigrane dans la Déclaration des droits de l’Homme et du citoyen de 1789 à travers le terme « liberté » à l’article 2.
anodin. Il est animé par l’envie d’illustrer un certain paradoxe : pourquoi limiter la collecte des données par des normes juridique alors que pour fonctionner l’objet connecté doit nécessairement collecter beaucoup de données des utilisateurs, aussi personnelles soient-elles ? Faire usage d’un objet connecté signifie abandonner une partie de sa vie privée pour obtenir un service. Ainsi, le droit à la protection de la vie privée ne peut être absolu. Mais, cela ne signifie pas non plus que l’utilisateur doit céder ce droit lorsqu’il donne son consentement pour l’utilisation de ses données, car la première finalité auquel il consent est celle de faire fonctionner l’objet connecté. Par conséquent, à l’heure de la révolution du numérique, la notion de vie privée ne peut plus être considérée comme un concept intouchable. Il s’agit alors de trouver un juste équilibre entre le respect des droits fondamentaux des utilisateurs et la liberté d’entreprendre des entreprises.
C. Les limites de la réglementation classique autour des objets connectés
Avant même que ne se soit posée la question d’une réglementation de l’exploitation des données personnelles, de l’IA ou de l’objet connecté, il faut rappeler que le numérique a suscité d’importants débats autour de son encadrement juridique. Celui-ci s’est d’ailleurs initialement constitué en opposition avec l'idée même d’une réglementation à l’image de la fameuse phrase de Lawrence Lessig « Code is Law » dans sa publication du Harvard Magazine13. L’idée d’une réglementation
n’a donc pas tout de suite été une évidence dans le monde du numérique. Pourquoi ? Dans un premier temps, son immatérialité rendait la maitrise de cet espace beaucoup plus difficile, et les techniques de contrôle du législateur étaient inadaptées à ce secteur. Néanmoins de nouveaux corps de règles ont émergé, avec pour objectif d’encadrer certaines pratiques numériques, surtout après l’émergence de nouveaux scandales d’utilisation abusives. Du constat de la révolution numérique, le législateur a tiré des conclusions. Il fallait trouver un équilibre entre régulation du numérique dans le cadre de l’exploitation des données, et l’économie mondiale des objets connectés régie par une logique de marché.
Aujourd’hui, l’objet connecté ou l’algorithme d’IA ne disposent pas d’une réglementation spécifique, mais peuvent s’inscrire dans certaines réglementations plus générales liées au
13 Lawrence Lessig, « Code Is Law, On Liberty in Cyberspace », Harvard Magazine, 01 janvier 2000, en ligne :
numérique. Il est vrai qu’une résolution a été adoptée par la France par exemple sur la régulation des objets connectés et le développement de l'Internet des objets en Europe en 201814 mais ce n’est
pas une initiative qui a pu porter ses fruits. Pendant longtemps, les problématiques relatives aux algorithmes et aux données personnelles n’ont donc pas été encadrées, et « le premier réflexe en matière de numérique [était] de ne pas céder à une forme d’impulsivité normative »15.
Une régulation non contraignante des objets connectés et l’utilisation des données avait été adoptée dans le monde, néanmoins le contexte des scandales sur les pratiques des grandes entreprises du numérique ont convaincu le législateur de mettre en place un cadre juridique de droit dur fort. Par exemple en Europe, l’idée d’une normalisation autour des données personnelles a progressivement vu le jour pour aboutir à l’adoption du Règlement relatif à la protection la protection des données à caractère personnel (ci-après RGPD)16. Cette réforme a poursuivi plusieurs objectifs, « renforcer
les droits de la personnes » et « crédibiliser la régulation grâce à une coopération renforcée entre les acteurs du numérique et les responsabiliser dans le traitement des données »17. On aurait pu
croire que ce Règlement allait mettre fin à au traitement abusif des données à caractère personnel et peut-être inspirer d’autres régimes. Pourtant la constance des récents scandales de l’été 2019 s’accumulant, un nouveau discours a pu émerger en Europe et sur la scène internationale, celui d’un constat commun : l’inadaptation de la régulation autour des objets connectés, illustré par l’irrespect des entreprises internationales aux règles de droit actuelles en matière de protection des données à caractère personnel.
S’ouvre alors un nouvel espace de discussion entre différents acteurs, publics et privés, nationaux et internationaux, portant chacun un point de vue différents sur ce que devrait être la régulation de l’objet connecté, sans que ne soit oublié le cadre juridique actuel. La complexification de la
14 Le Sénat appelle notamment « à se doter rapidement d'une stratégie industrielle ambitieuse, globale et à long
terme incluant l'internet des objets, et demandant la mise en place rapide d'une certification des objets connectés qui garantisse un haut niveau de sécurité informatique et de protection des données à caractère personnel, incluant notamment le libre consentement des personnes », V. Sénat, Résolution européenne sur la régulation des objets
connectés et le développement de l'internet des objets en Europe, Session ordinaire-n°106, 22 mai 2018.
15 Alexandra Bensamoun et Grégoire Loiseau, « L’intelligence artificielle : faut-il légiférer ? », D.2017, p.581.
16 Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des
personnes physiques à l'égard du traitement des données à caractère personnel et à la libre circulation de ces données, et abrogeant la directive 95/46/CE.
régulation est soulevée, dans un monde où les technologies du numérique sont en constantes évolutions, et n’attendent pas le législateur pour évoluer. Nous pensons par exemple à l’augmentation massive des capacités de stockage, la multiplication des sources de collecte, la création de nouveaux objets connectés, la 5G… La situation actuelle pousse à croire qu’acteurs privés et publics éprouvent encore et toujours des difficultés à communiquer pour trouver une régulation effective, se dessinant ainsi les limites de la réglementation telle que nous la connaissons, issue de l’État. C’est ce que Me Basdevant appelle :
« Un choc de souveraineté avec le numérique [où] les changeurs de norme sont les opérateurs économiques, les Etats-plateformes, les GAFAM […] »18.
A l’heure actuelle, une réflexion plus vaste sur le mode de gouvernance des objets connectés et du numérique a lieu, pour assurer la conformité des comportements des acteurs du numérique au cadre juridique adopté. Prenant en compte le flou technologique qui entoure le numérique, certains estiment qu’« il paraît peu pertinent de s'en remettre au législateur. Les recherches académiques émergent seulement depuis 2-3 ans et il convient de prendre un peu de recul avant d'imposer une règle précise à respecter »19. La technicité des technologies du numérique impose pendant un
temps que le législateur ne prenne pas les commandes de la régulation des objets connectés. Cela ne signifie pas non plus une expérimentation chaotique sans encadrement juridique. Ainsi, pour concilier régulation du numérique et nouvelles pratiques, l’éthique demeure un outil essentiel.
II. L’émergence d’une réflexion sur l’Ethique comme nouveau régulateur des objets connectés
L’éthique est une notion polysémique qui nécessite que l’on s’attache à la définir afin de saisir son sens juridique (A). Comprendre cette notion poussera inévitablement à s’interroger sur la légitimité d’une hiérarchie avec le droit dur dans le domaine du numérique, puisque l’éthique relève d’un besoin politique, social et économique (B).
18 Conférence organisée par le Collège des Bernardins le 17 mai 2017, « Le numérique tuera-t-il l’État de droit ? », en
ligne : < https://vimeo.com/217837527> (consulté le 28/04/2020).
19 Philippe, Besse, Céline, Castets-Renard, Aurélien Garivier, et Jean-Michel, Loubes, « L'IA du Quotidien peut-elle
être Éthique ? Loyauté des Algorithmes d'Apprentissage Automatique », Hal- Archives Ouvertes, 2018, en ligne :
A. Définitions
La nécessité de l’ouverture d’un dialogue entre acteurs du numérique et l’État-régulateur est apparue indispensable pour rétablir la confiance des consommateurs. C’est donc imposé un outil connu de tous : l’éthique. Elle est une réponse à l’absence de gouvernance internationale des objets connectés mais aussi du numérique. Le numérique bouleversant la régulation telle que nous la connaissons, une nouvelle norme a pu voir le jour.
L’éthique peut être un élément flou, si son cadre n’est pas défini. Que signifie-t-elle ? Cette notion est très large. Si nous effectuons une recherche simple en ligne, le dictionnaire Larousse nous offre deux définitions : « Partie de la philosophie qui envisage les fondements de la morale ; Ensemble des principes moraux qui sont à la base de la conduite de quelqu'un20 ». Certains y voient un
équivalent de la morale, où se distinguent le conséquentialisme, l’éthique déontologique et l’éthique des vertus21. Il est important de souligner dans ce mémoire que l’éthique et la déontologie
se distinguent, d’un point de vue juridique, en ce que les valeurs et les principes relèvent du domaine de l’éthique, tandis que les règles de celui de la déontologie22. Le rapport Villani, qui avait
pour but de définir une stratégie nationale liée à l’IA, l’a définie comme « [une] branche de la philosophie qui [tente] de distinguer le bien du mal, l'idéal vers lequel tendre et les chemins qui nous en éloignent »23. Mais en réalité, elle recouvre plusieurs sens selon le contexte dans lequel
elle intervient. Il peut s’agir du sens courant, agir de manière juste, ou du sens accordé par Aristote à travers la philosophie morale24, mais aussi du sens juridique, plus couramment employé dans la
catégorie du droit mou (ou « soft law ») qui désigne :
20 Dictionnaire Larousse, en ligne : <https://www.larousse.fr/dictionnaires/francais/%C3%A9thique/31389 >
(consulté le 05 mai 2020).
21 Florian Cova, Emmanuel Kant et l’éthique des principes, extrait de La Morale, 2012, p. 85 à 95.
22 Luc Bégin, « Légiférer en matière d’éthique : le difficile équilibre entre éthique et déontologie », Éthique publique,
Revue internationale d’éthique sociétale et gouvernementale, printemps 2011, vol.13, #1, p. 39-61, en ligne : <https://journals.openedition.org/ethiquepublique/361> (consulté le 28/04/2020).
23 Cédric Villani, Donner du sens à l'intelligence artificielle : pour une stratégie nationale et européenne, Paris, 28 mars
2018, p.139.
24 Pour Aristote, vertu et éthique relèvent de la même définition, les deux termes renvoyant à une même réalité, en
latin mores, en grec éthos : celle qui concerne les « mœurs ». Il définit l’Ethique comme « […] une disposition acquise de la volonté [habitude], consistant dans un juste milieu relatif à nous, lequel est déterminé par la droite règle et tel que le déterminerait un homme prudent », en ligne :
< https://www.universalis.fr/encyclopedie/ethique-a-nicomaque/1-la-morale-aristotelicienne/> (consulté le 05/05/2020).
« Une norme ou un ensemble de normes émanant d’une autorité ou personne qui n’use pas d’un pouvoir d’imposer la norme à autrui ou d’une capacité à s’engager elle-même, mais propose une norme afin d’influencer les autorités ou personnes qui usent de ce pouvoir ou de cette capacité »25.
De quelle légitimité l’éthique dispose-t-elle en droit du numérique ? Malgré la souplesse de son cadre, certains affirment qu’il s’agit d’une source de droit26, et « la démarche éthique vise à
identifier des valeurs communes, afin de développer des principes cadres susceptibles d'être diffusés dans un environnement international »27. Elle a le bénéfice d’investir un champ d’action
beaucoup plus large que le droit, car elle promeut des valeurs acceptées par tous et co-construites. Généralement, les experts de l’IA estiment que l’éthique comprend « quatre principaux domaines de recherche : i) la méta-éthique, […] ii) l’éthique normative, […] iii) l’éthique descriptive, […] et ; iv) l’éthique appliquée »28.
L’éthique telle qu’elle est appréhendée par les juristes consiste en une éthique appliquée dans le contexte du numérique, au contraire d’une éthique fondamentale qui « Dans la tradition occidentale de réflexion éthique a dominé jusqu’ici l’idée que celle-ci avait pour but et était en mesure d’accéder à la détermination de principes fondamentaux […] abstraction faite des contextes »29.
Cette éthique appliquée est souvent considérée comme « l’éthique du numérique »30 en matière
d’IA31. L’on s’interrogera donc sur l’éthique dans un domaine particulier mais réel, le numérique,
et non pas dans une perspective générale.
25 Jacques Ghestin, Hugo Barbier et Jean-Sylvestre Bergé, Traité de droit civil. Introduction générale, Paris, Librairie
générale de droit et de jurisprudence, 5e éd., 2018, p.321.
26 Ce point sera explicité dans le Chapitre 3 du mémoire.
27 Alexandra Bensamoun et Grégoire Loiseau, « L'IA à la mode éthique », D.2017, p.1371.
28 Commission européenne, Groupe d’experts de haut niveau sur l’intelligence artificielle, Lignes directrices en
matière d’Ethique pour une IA digne de confiance, Bruxelles, 8 avril 2019, p.49.
29 Hubert Faes, « Sens et valeur du contexte en éthique », Revue d'éthique et de théologie morale 2014/3, n° 280, en
ligne : < https://www.cairn.info/revue-d-ethique-et-de-theologie-morale-2014-3-page-11.htm> (consulté le 28/04/2020), p.11-33.
30 Marcello Vitali Rosati, « Une éthique appliquée ? Considérations pour une éthique du numérique », Revue
internationale d’éthique sociétale et gouvernementale, vol. 14, n° 2 | 2012 : Quelques enjeux éthiques du numérique, en ligne <https://journals.openedition.org/ethiquepublique/995> (consulté le 28/04/2020).
B. Un choix entre l’Ethique ou le Droit ?
Lorsque nous nous interrogeons sur les notions d’Ethique et de Droit, il semble que tout les oppose en matière de régulation, puisque l’éthique est non-contraignante, co-construite et souple. Le professeur Godefroy résume cette distinction par une expression volontairement caricaturée :
« L'éthique, pourvoyeur de confiance, et le droit, sanctionnateur de la règle, sont guidés par des aspirations a priori divergentes »32.
Mais la réalité de la régulation des objets connectés est tout autre. L’éthique possède la capacité d’être la plus grande alliée du droit dur dans le contexte complexe du numérique, et peut devenir grande « éclaireuse du droit »33. Une réflexion collective, co-construite, parfois internationale,
assurée par le cadre souple de l’éthique, semble être le meilleur moyen pour le droit de se voir offrir un ancrage fort et légitime dans la régulation des objets connectés. Il ne faut néanmoins pas oublier que la théorie n’est pas toujours respectée en pratique. Le monde de l’entreprise est stratégique, et « éthique » peut aussi rimer avec « profit ». Sans contrôler l’application de l’éthique et son utilisation, elle peut rapidement devenir une nébuleuse, objet céleste servant de bouclier pour rassurer le consommateur sur les pratiques économiques d’une entreprise.
III. Démarche méthodologique
Il sera opportun de définir la problématique générale de ce mémoire en réponse aux constats dressées précédemment et de formuler une thèse (A), qui sera suivie par les objectifs et les intérêts de cette recherche délimitée (B). La problématique appellera plusieurs questions de recherches qu’il nous faudra expliciter (C). L’introduction se clôturera sur la méthodologie de recherche adoptée (D).
A. Problématique générale
Après avoir définie l’éthique, la question se pose du rôle véritable de l'Ethique et du Droit dans la régulation de l’objet connecté. Ethique et Droit sont coauteurs de la norme, mais la complexité de
32 Godefroy Lêmy, « Éthique et droit de l'intelligence artificielle, Osmose ou symbiose ? », D.2020, p.231.
33 Commission nationale informatique et libertés, Comment permettre à l’homme de garder la main ? Les enjeux
éthiques des algorithmes et de l’intelligence artificielle. Synthèse du débat public animé par la CNIL dans le cadre de
l’encadrement légal de l’objet connecté invite à s’interroger sur l’intrication réelle de ces deux piliers. Parmi les nombreux enjeux éthiques autour des objets connectés, nous avons choisi de nous intéresser à la problématique de l’éthique comme mode de régulation du numérique. Elle invite à une régulation difficilement maitrisable, ce qui semble en contradiction avec l’utilisation croissante des données personnelles et la protection du droit à la vie privée toujours aussi importante, comme le prouve encore récemment le scandale de l’affaire Cambridge Analytica34. Pourtant le
développement d’une régulation souple et co-construite semble être le meilleur moyen de réguler les comportements des entreprises dans le domaine du numérique. L’Ethique est-elle le dernier
recours pour une régulation effective des objets connectés ? Notre thèse consistera à mettre en
lumière la capacité de l’éthique à réguler certains aspects des nouvelles technologies comme les objets connectés. Elle peut être un allié de choix pour le droit dur afin d’encadrer la réglementation de cet objet complexe sans le remplacer. Il sera mis en avant son utilisation protéiforme selon les contextes : pouvoirs publics, entreprises et auprès des individus.
B. Intérêts de la recherche délimitée et objectifs poursuivis
Faire le choix de traiter de l’éthique et des objets connectés répond dans un premier temps à l’abondance de la littérature juridique ayant émergées ces dernières années (presse, doctrine, lignes directrices, code de conduite) sans que ne soient apportées de véritables réponses sur l’éthique comme mode de régulation35. Cette question du recours ultime à l’éthique est d’autant plus
pertinente d’un point de vue social et scientifique que l’essor du monde de l’Internet des objets est toujours d’actualité, surtout durant la période de confinement imposée par l’épidémie du covid-19. Les consommateurs gardent confiance dans les objets connectées, et il s’agit d’un objet technologique inventif, parfois ludique, souvent utile. Le sujet de l’éthique est donc au cœur du sujet de la régulation des objets connectées, ce qui peut être illustré une nouvelle fois par les différentes publications des pouvoirs publics sur le sujet comme les lignes directrices publiées par
34 William Audureau , « Ce qu’il faut savoir sur Cambridge Analytica, la société au cœur du scandale Facebook », Le
Monde, 22 mars 2018, en ligne :< https://www.lemonde.fr/pixels/article/2018/03/22/ce-qu-il-faut-savoir-sur-cambridge-analytica-la-societe-au-c-ur-du-scandale-facebook_5274804_4408996.html> (consulté le 29/04/2020).
35 Nous pensons encore et toujours aux différents scandales qui émergent tous les ans sur les objets connectés et les
les experts européens de la Commission européenne en 201936 ou le projet d’un rapport par
l'Unesco sur l'élaboration de règles éthiques sur l'intelligence artificielle37.
Il est certain que la particularité de l’objet connecté comparé aux autres technologies repose sur sa dimension matérielle. Néanmoins, ce mémoire ne traitera que de la dimension immatérielle de l’objet connecté au regard des données personnelles, et n’évoquera pas l’éthique autour de sa conception de manière approfondie, c’est-à-dire l’éthique des objets connectés. Un « design » éthique des objets connectés et la matérialisation du consentement, l’élaboration éthique des algorithmes d’IA, l’interrogation sur les limites éthiques du développement d’objets connectés, sont des problématiques qui nous semblent mériter une réflexion nouvelle, distincte de celle de l’éthique comme mode de régulation des objets connectés. Peut-être est-ce même, la suite logique de ce mémoire.
Enfin, ce mémoire dispose d’un objectif principal : évaluer le potentiel de l’éthique dans le domaine de la régulation des objets connectés, sans qu’elle ne soit sacralisée. Il sera donc démontré qu’il existe déjà un régime juridique à vocation éthique encadrant les objets connectés sur le plan des données personnelles. L’éthique n’a pas pour but de remplacer la réglementation actuelle, comme on pourrait le croire avec la manipulation que l’on peut en faire à l’image du concept d’« éthique des affaires », mais plutôt de faire émerger une réflexion commune entre les acteurs du numérique.
C. Questions de recherche et hypothèses de travail
Afin de répondre à notre problématique générale « L’Ethique est-elle le dernier recours pour une régulation effective des objets connectés ? », quatre questions de recherche ont pu être dressées. Dans un premier temps, nous répondrons à la question suivante : l’Ethique convient-elle aux
spécificités techniques de l’objet connecté et de son environnement numérique constamment en mouvement ? Il s’agira de présenter les incompatibilités techniques fondamentales des objets
36 Commission européenne, supra note 28.
37 Unesco, Steering AI and Advanced ICTs for Knowledge Societies: a Rights, Openness, Access, and Multi-stakeholder
Perspective, Paris, 27 novembre 2019. NB : Les premières réunions à ce sujet devaient se dérouler durant cet été
connectés avec le droit (qu’il soit rigide ou mou), et faire état des difficultés que cela engendre dans la régulation de cette technologie.
Nous nous interrogerons sur l’utilité de l’Ethique alors que les objets connectés font déjà l’objet
d’un encadrement juridique actuel au titre des données personnelles. Il sera constaté que la
collecte des données personnelles fait l’objet d’un encadrement juridique fort ayant déjà anticipé l’utilisation de l’Ethique mais sous-estimant l’impact que porterait le numérique sur la souveraineté de l’État-régulateur.
Dans un troisième temps, il sera judicieux de comprendre comment l’Ethique est un outil efficace
pour encadrer les objets connectés et contrer les dérives de la vague numérique. L’Ethique
relève d’un outil souple, légitime, issu d’une co-construction avec tous les acteurs du numérique et demeure un allié précieux pour réguler les nouvelles technologies connectées. Mais, elle peut être facilement manipulée par les entreprises et nécessite pour être applicable, une grande rigueur et loyauté dans son application.
Enfin nous réfléchirons sur un plan plus pragmatique: comment s’exprime l’Ethique régulatrice
des objets connectés en pratique ? L’Éthique fait déjà partie du paysage technologique, à
plusieurs niveaux. Les pouvoirs publics ont multiplié les initiatives introduisant de l’Ethique. Les entreprises appliquent l’Ethique mais doivent aussi concilier cet outil avec leurs propres objectifs économiques. La régulation des objets connectés nécessite aussi un effort des individus dans le respect de leurs propres droits, des initiatives, un comportement actif, faisant partie de leur rôle démocratique.
D. Méthodologie de la recherche
AVERTISSEMENT : Contraintes imposées par la crise sanitaire autour du Covid-19 et la situation de confinement
Il est certain que l’accès aux bibliothèques en France et au Canada pendant la rédaction de ce mémoire aurait permis d’affiner mes recherches. J’ai pourtant le sentiment que ce sujet porté sur le numérique m’aura permis une certaine aisance dans mes recherches pendant cette
période particulière, à travers l’accès aux bases juridiques en ligne française et canadienne, dans la presse, et surtout dans la documentation abondante sur ce sujet fournie par les différentes institutions nationales et internationales. Néanmoins, la lecture d’ouvrages en bibliothèque de doctrine ou plus théorique sur la théorie de l’Ethique ou d’introduction du Droit aurait été appréciée, ainsi que l’accès à de la documentation en droit canadien, ce qui justifie mon approche modérément comparée avec ce dernier. Ce mémoire a néanmoins l’ambition de répondre pertinemment à la problématique générale formulée, et cette période de confinement n’aura pas altéré cet objectif.
Afin d’étayer la démonstration autour de ces questions de recherches, il nous faut définir l’approche méthodologique de notre mémoire qui débutera par notre cadre théorique. Notre travail dressera un bilan de l’impact des normes de droit dur et de leurs lacunes, au regard de la pratique des acteurs privés dans la collecte des données personnelles. Pourtant, nous proposons une réflexion qui n’est pas de savoir si le régime de protection des données personnelles est suffisamment protecteur de la vie privée des utilisateurs d’objets connectés, mais si l’objet connecté bénéficie d’un mode de régulation adéquat compte tenu de la constante évolution du numérique et de l’opportunité de l’Ethique dans ce cadre juridique.
A la lumière de ces élements, il nous faut définir la base de notre réflexion pour mener à bien notre étude. Plusieurs approches vont être employées dans ce mémoire. Dans un premier temps, la recherche reposera sur une approche de droit comparé modérée : elle s’attardera sur une approche majoritairement franco-européenne avec des incursions dans le droit canadien et québécois. Cette approche comparée a une grande importance car « Le droit comparé est […] l’instrument le plus puissant pour décrire le droit national »38. Observer le système adopté en France et au sein de
l’Union européenne concernant les objets connectés à la lumière de l’approche du Canada, offre un point de vue nouveau et enrichit la réflexion autour de l’opportunité de l’Ethique. Le Canada et la province du Québec dispose d’une réflexion riche en matière d’éthique, illustré avec la Déclaration de Montréal pour un développement responsable de l'intelligence artificielle39.
38 Otto Pfersmann, « Le droit comparé comme interprétation et comme théorie du droit », Revue internationale de
droit comparé n°53, 2001, p.287.
39 La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, Montréal, décembre
L’utilité de l’approche comparative est de tirer des conséquences sur les limites et les avantages de l’approche franco-européenne, comme le souligne Otto Pfersmann « Il s’ensuit enfin que le droit comparé peut en effet jouer un rôle important dans la technologie de la production normative »40.
La démarche proposée impliquera majoritairement des recherches en droit, mais aussi quelques analyses basées sur la philosophie du droit. Ensuite, ce mémoire nécessite des recherches autour des textes de droits, de la jurisprudence et de la doctrine pertinente mais aussi de sources plus diverses comme des recommandations, des lignes directrices, des codes de bonne conduite. Il ne s’agit donc pas d’une pensée positiviste qui « se borne à décrire ce qui est visible »41, ce mémoire
se veut d’une réflexion réaliste et c’est en cela qu’il entend contribuer à la connaissance et au fonctionnement de l’ordre juridique.
Pour situer notre démarche méthodologie, il faut rappeler que la science du droit relève de la distinction fondamentale de Kelsen entre le droit et science du droit42. Selon Jacques Chevallier
« La science du droit a donc un caractère « purement intellectuel » : elle ne tend pas à la « création du droit » mais à la « connaissance du droit »43 ce qui porte tout son sens dans le cadre de ce
mémoire qui s’interroge sur le poids de l’éthique comme mode de régulation des objets connectés. Enfin notre recherche sera axée à la fois sur une perspective interne et externe. Interne car le droit est notre sujet. Il s’agira ainsi d’une analyse exégétique traditionnelle, faisant état du droit, et des principes mis en avant par les textes cités, prolongée par des élements de théorie du droit issu de la critique pertinente des textes. Externe car prenant le droit comme objet, et se fondant sur une approche descriptive. Cette double recherche offre donc l’opportunité d’avoir la distance nécessaire avec l’objet de notre étude, l’Ethique, pour mieux « adopter le point de vue « du dedans » [mais] aussi « du dehors »44.
40 Otto Pfersmann, supra note 38, p.288.
41 Michel Miaille, Une introduction critique du droit, Paris, Maspero, 1976, p. 11-19. 42 Hans Kelsen, Théorie pure du droit, Paris, Dalloz, 1962.
43 Rapportant les propos de Carbonnier, Jacques Chevallier, « Doctrine juridique et science juridique », Droit et
Société, Librairie générale de droit et de jurisprudence : Lextenso éditions/L.G.D.J., 2002, p.110.
IV. Plan de la recherche
Afin de mettre à l’épreuve nos différentes hypothèses, notre étude sera axée autour de deux parties principales, chacune divisées en deux chapitres. Chaque chapitre répondra donc à une sous-question de recherche. La première partie aura pour but d’évaluer les lacunes de la réglementation liée à l’objet connecté (PARTIE I). Son premier chapitre répondra à la première question de recherche et fera office de chapitre explicatif du fonctionnement des objets connectés (I). Le second chapitre sera dédié au cadre juridique des objets connectées dans le cadre des données personnelles et des premières pistes posées sur l’intérêt de l’Ethique (II).
Ensuite, la seconde partie s’attachera à comprendre l’opportunité que l’Ethique offre pour adapter la réglementation actuelle autour des objets connectés, à la fois sur un plan théorique mais aussi plus concret (PARTIE II). Ainsi son premier chapitre s’attachera à définir l’Ethique au sens juridique, de fixer son importance dans le contexte du numérique, et de cerner les limites de sa condition (II). Le deuxième chapitre aura pour vocation d’étudier l’utilisation de l’Ethique sur trois plans différents, pouvoirs publics, entreprises, individus (IV).
PARTIE I – Les lacunes de la réglementation d’une technologie
évolutive : l’objet connecté
Il n’est pas rare que le monde du numérique fasse émerger de nouvelles technologies sans qu’aucun cadre juridique ne leur soient précisément donnés, c’est le cas de l’objet connecté.
Ce constat permet donc d’assister à des incompatibilités techniques initiales entre les besoins de l’objet connecté pour fonctionner (Chapitre 1) et le cadre juridique qui s’applique pour lui autour des données personnelles (Chapitre 2).
CHAPITRE 1 – L’objet connecté, une technologie multiforme à l’épreuve
de la réglementation
Le sujet de notre étude dispose d’une particularité. Il est à la fois une technologie capable de colleter, d’analyser et d’exécuter un service (A) mais faisant aussi partie d’un environnement plus grand, celui de l’Internet des objets (B).
(A) Le fonctionnement de l’objet connecté doté d’une intelligence artificielle
Le développement rapide des objets connectés occulte parfois les difficultés d’encadrement juridique qu’ils engendrent. La complexité du fonctionnement de l’objet associé à l’intelligence artificielle (ci-après IA) implique dans un premier temps que l’on étudie sa définition, pour ensuite déterminer les principes de l’IA qui peuvent poser problème à la régulation de cet objet.
1) Définitions
- L’objet connecté
L’objet connecté est présent dans tous les domaines et relève d’une véritable prolifération : le sport avec la montre connectée, le domaine de la domotique et des maisons connectées45, la santé avec
les bracelets connectés, ou encore plus original la religion avec un chapelet connecté46. L’auteur
canadien Alexandre Plourde, distingue judicieusement ces objets en cinq grandes catégories : les véhicules automobiles, les technologies prêt-à-porter, les systèmes domotique, les appareils domestiques et les assistants vocaux47. Ce succès est aussi débiteur d’un comportement de l’objet,
la récolte des informations sur ses utilisateurs. Pour le comprendre, il faut définir cette technologie : une première définition simple à comprendre serait celle donnée par la CNIL48 : « objets dotés de
moyen de communication avec ou sans fil »49. Nous lui préférons une définition plus précise :
« Objets qui captent, stockent, traitent et transmettent des données, qui peuvent recevoir et donner des instructions et qui ont pour cela la capacité à se connecter à un réseau d’information »50.
45 La maison connectée va bientôt connaitre un standard commun appelé Project Connected Home over IP afin de
favoriser l’interopérabilité entre ses objets connectés, les initiateurs du projet sont Apple, Amazon, Google et la Zigbee Alliance. La première version est censée être présentée fin 2020.
46 Radio Canada, “Le Vatican lance un chapelet intelligent pour encourager les jeunes à prier”, Radio canada, 18
octobre 2019, en ligne : < https://ici.radio-canada.ca/nouvelle/1351699/erosaire-chapelet-croix-intelligent-intelligente-connectee-connecte> (consulté le 13/08/2020).
47 Alexandre Plourde, « Retour vers le futur : l’Internet des objets et la protection de la vie privée », Volume 465 -
Développements récents en droit à la vie privée, JuriBistro eDoctrine, 2019, en ligne :
< https://edoctrine.caij.qc.ca/developpements-recents/465/369051330/> (consulté le 12/05/2020).
48 Abrégé pour : Commission national de l’informatique et des libertés.
49 CNIL, « Objets connectés : n’oubliez pas de les sécuriser ! » (04 décembre 2017), en ligne :
< https://www.cnil.fr/fr/objets-connectes-noubliez-pas-de-les-securiser> (consulté 12/05/2020).
Cette technologie repose nécessairement sur la collecte et l’exploitation des données de toutes natures. Ensuite vient une seconde étape après la collecte, souvent appelée « l’analytique des objets ». Les données brutes vont être transformées en informations utiles pour l’exécution du service demandé, à l’aide de programmes informatiques directement présents dans l’objet connecté ou dans d’autres objets connectés ou parfois au d’un service de cloud, qui vont donc analyser et interpréter les données brutes.
Ces programmes d’analyse sont généralement composés d’algorithmes d’intelligence artificielle. On peut définir l’algorithme « comme une suite finie et non ambigüe d’instructions permettant d’aboutir à un résultat à partir de données fournies en entrée »51. Mais l’algorithme doté d’une IA
dispose de nombreuses définitions, notamment en raison de son caractère très technique et « hautement plus complexe qu’un algorithme classique »52, défini comme « un programme
informatique « […] dont le but est de reproduire, par une machine, des capacités cognitives humaine afin de lui confier des tâches relativement complexes »53. Si le terme d’intelligence
artificielle a été formulé pour la première fois par John McCarthy et Marvin Lee Minsky, l’on attribue le premier programme d’IA à Alan Turing. Depuis, la notion même d’intelligence artificielle n’a cessé d’évoluer, mais elle reste « envisagée comme une notion cadre, volontairement flexible »54. Très en vogue depuis plusieurs années, cette technologie révolutionnaire constitue en
réalité « la raison d’être des objets connectés »55 : la capacité de l’IA à se rapprocher de
l’intelligence humaine en imitant ses capacités cognitives, rend l’objet connecté immensément différent des accessoires numériques classiques que l’on retrouve sur le marché. Il a capacité à collecter, analyser, interpréter des données, et donc à prédire ou anticiper les comportements des utilisateurs. Cette collecte est rendue possible par les capteurs dont les objets sont équipés, capteurs
51 Commission nationale informatique et libertés, supra note 33, p.5. 52 Commission nationale informatique et libertés, supra note 33, p.16.
53 Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires et leur
environnement, Adoptée lors de la 31e réunion plénière de la Commission européenne pour l’efficacité de la justice (Strasbourg, 3-4 décembre 2018), Conseil de l’Europe, p.73.
54 Alexandra Bensamoun et Grégoire Loiseau, supra note 15, p.581.
parfois ignorés56… Enfin après avoir analysé, l’objet « fonctionne » ou agit57, c’est-à-dire que le
programme d’IA s’exécute et prend une décision par rapport à l’action demandée par l’utilisateur. - Spécificité de l’algorithme d’intelligence artificielle
La caractéristique principale de l’algorithme d’IA repose sur sa capacité à simuler l’intelligence humaine, par le mimétisme du fonctionnement synaptique des neurones interconnectés du cerveau humain. L’IA dispose ainsi de ce que l’on pourrait appeler un « comportement intelligent »58 sans
qu’on la compare à une véritable intelligence humaine ! Aujourd’hui l’on parle d’une IA faible en comparaison à l’IA forte qui est un concept pour certains utopique. Les deux notions sont définies ainsi par Laurence Devillers, spécialiste de l’IA :
« La faible cherche à imiter certaines fonctions de l’intelligence pour répondre à des missions spécifiques. […] La forte, quant à elle, vise à développer une sorte de conscience de soi »59.
Le succès de l’objet connecté repose donc sur son autonomie, et l’absence d’intervention humaine pour exécuter le service demandé. C’est cette caractéristique qui rend son encadrement juridique autour des données personnelles particulièrement complexe. Une seconde caractéristique complexe de l’IA repose sur les techniques d’apprentissages qui lui sont inculquées. L’IA est un algorithme paramétré à travers des « instructions à exécuter [qui] ne sont plus programmées explicitement par un développeur humain, elles sont en fait générées par la machine elle-même, qui « apprend » à partir des données qui lui sont fournies »60. Pour comprendre cette capacité à agir seule, il faut
s’attarder sur l’apprentissage constant qu’effectue l’IA à travers le machine learning ou « apprentissage automatique ». Il consiste à « alimenter la machine avec des exemples de la tâche que l’on se propose de lui faire accomplir. L’homme entraîne ainsi le système en lui fournissant
56 Voir le robot-cuiseur de la marque Lidl, en ligne : <
https://www.numerama.com/tech/525214-monsieur-cuisine-connect-micro-cache-android-non-securise-les-dessous-du-robot-cuisine-de-lidl.html>, (consulté le 13/07/2020).
57 Il est important de préciser que la collecte ne peut être effectuée correctement que si l’objet est allumé et connecté
à Internet.
58 Commission européenne, Centre de recherche de l’Europe, IA une perspective européenne, Luxembourg (Office
des publications de l'Union européenne), 2018.p.92.
59 Laurence Devillers, Des robots et des Hommes, Éditions Plon, 2017, p.288. 60 Commission nationale informatique et libertés, supra note 33, p.5.
des données à partir desquelles celui-ci va apprendre et déterminer lui-même les opérations à effectuer pour accomplir la tâche en question »61. Les algorithmes du machine learning apprennent
par l’entrainement, plus précisément par la répétition. Mais cette technique s’illustre dans une sous-catégorie souvent évoquée dans la presse : le deep learning ou « apprentissage profond ». Cette technologie fut relancée par des chercheurs canadiens dans les années 2000, notamment le spécialiste Yoshua Bengio ayant reçu le prix Turing de l’Association for Computing Machinery62
au côté de Yann Le Cun et Geoffrey Hinton en 2018. L’on peut dire tout d’abord dans des termes simples que le deep learning, permet à l’algorithme d’apprendre par lui-même. Pour l’instant, il s’agit d’une approche supervisée qui nécessite notamment beaucoup de données annotées pour permettre de faire travailler de manière autonome l’algorithme d’IA sans intervention de l’homme.
2) La difficulté engendrée par un algorithme auto-apprenant, l’intelligence artificielle
Le fonctionnement de l’objet connecté à travers l’IA employant la méthode du machine learning, impose de nombreuses problématiques juridiques. Nous sélectionnerons deux enjeux qui nous paraissent essentiels au regard de notre problématique générale : l’apprentissage automatique impliquant de recevoir un volume très important de données, et un processus de l’IA opaque dont le résultat est difficile à expliciter.
- L’alimentation massive en données
A travers l’objet connecté, sont récoltées un nombre important de données, personnelles ou non. Cette opération est essentielle car l’établissement de corrélations par le programme d’IA nécessite un entrainement considérable, débiteur du nombre de données collectées. Sans elles, sans cette « gourmandise en données »63, l’objet connecté n’est pas en mesure de fonctionner correctement.
Il s’agit d’ailleurs de l’une des trois conditions de la montée en puissance de l’IA au sein des objets
61 Commission nationale informatique et libertés, supra note 33, p.16. 62 Considéré comme le « prix Nobel » de l’informatique.
connectés selon Jocelyn Maclure et Marie-Noëlle Saint-Pierre64 : « Le machine learning,
l’augmentation de la puissance de calcul, et la disponibilité des données numériques ».
L’accumulation en données par l’algorithme d’IA illustre fondamentalement la première limite des objets connectés face à la protection des données personnelles et de la vie privée des individus. Au motif d’amélioration du service au client et de sa personnalisation, l’entrainement de l’algorithme implique que l’objet collecte un nombre massif de données, grâce à ses capteurs, renseignant l’entreprises fournissant l’objet, sur l’utilisation et son environnement général. Cette alimentation de l’IA est au prix de son utilité, comme le souligne la doctrine « la collecte massive et le traitement de données sont de l'essence même des robots intelligents : l'apprentissage est à ce prix […], il nécessite une grande masse de données »65 et pour être adaptées aux utilisateurs « […] les machines
devront nous connaître, disposer de suffisamment de données sur nous pour pouvoir personnaliser l'échange […] »66. De ce fait, l’objet connecté transmet une masse importante de données,
professionnelles, personnelles ou non, dont on ignore souvent la destination et surtout l’usage et l’utilisation, sans compter que ces données sont conservées par les entreprises.
On peut donc dresser un parallèle avec le phénomène de Big Data, ou Méga-données, lui-même abreuvé par le web, les réseaux sociaux et les données réceptionnées par les objets connectés. C’est une notion assez floue, plus généralement considérée comme polymorphe. Il peut s’agir du concept simple d’un nombre massif d’informations impossible à gérer avec des outils classiques, ou l’idée d’une inadaptation des entreprises à gérer un nombre immense de données. La CNIL le désigne comme « immense quantités de données diverses ; mais également les techniques qui permettent de les traiter, de les faire parler, d’y repérer des corrélations inattendues, voire de leur conférer une capacité prédictive »67. Cette comparaison prend tout son sens lorsque l’on prend conscience de la
64 Jocelyn Maclure et Marie-Noëlle Saint-Pierre, « Le nouvel âge de l’intelligence artificielle : une synthèse des enjeux
éthiques », Les Cahiers de propriété intellectuelle, octobre 2018, n°3, p.747.
65 Alexandra Bensamoun et Grégoire Loiseau, « L’intégration de l’intelligence artificielle dans certains droits
spéciaux », Dalloz IP/IT 2017, p.295.
66 Stéphane Grumbach et Stéphane Frénot, « Tribune - Vers un principe de précaution numérique ? », Le Monde, 15
avril 2013, en ligne : < https://www.lemonde.fr/idees/article/2013/04/15/vers-un-principe-de-precautionnumerique_3160109_3232.html> (consulté le 13/07/2020).
quantité d’information sur une personne à travers la seule utilisation de son objet est massive, offrant un pouvoir incroyable aux entreprises.
Jusqu’où les entreprises peuvent-elles donc exploiter nos données ? D’un autre côté, il est possible de s’interroger sur les moyens d’entrainer les IA sans avoir accès à une source importante d’informations issues de nos données ? C’est ce que soulignent les professeurs Bensamoun et Loiseau « apprendre de l'humain, c'est donc d'abord apprendre l'humain. Dans ce cadre, le robot intelligent sera amené à se nourrir de données à caractère personnel, voire de données sensibles »68, ce qui fait particulièrement écho lorsque l’on parle des objets connectées, technologie au plus
proche des individus. Nous pouvons même rajouter en cette période de crise sanitaire que certains journalistes soulèvent même que l’IA ne peut travailler sur des enjeux liés au COVID-19 car il n’y pas assez de données69… C’est donc là le même enjeu que partagent les objets connectés avec le
phénomène de Big Data. Nous comprenons que le premier des défis du législateur autour des objets connectés, est de concilier un principe d’encadrement des données personnelles collectées, avec son principe inverse, le besoin des données pour entreprendre. Cette balance met en lumière le paradoxe de l’encadrement juridique de l’objet connecté, objet technique, par le droit dur. C’est une question que se pose aussi le Commissariat à la protection de la vie privée du Canada, à savoir « comment peut-on protéger un système intelligent muni de plusieurs points de connexion et de capteurs sans pour autant le rendre inutilisable ? »70.
Ces difficultés liées au volume et à la quantité des données ne sont pas « vraiment abordées par le droit des données personnelles »71, plutôt encadrées par des principes de minimisation ou de
proportionnalité, dont l’application est souvent débitrice d’une certaine éthique des entreprises, qui
68 Alexandra Bensamoun et Grégoire Loiseau, supra note 65, p.295.
69 Tiernan Ray, « L'IA se heurte à un problème massif de données dans le diagnostic du Covid-19, en ligne : < https://www.zdnet.fr/actualites/l-ia-se-heurte-a-un-probleme-massif-de-donnees-dans-le-diagnostic-du-covid-19-39901817.htm> (consulté le 12/05/2020).
70 Commissariat à la protection de la vie privée du Canada, « La protection de la vie privée pour tous : Hier, c’était
déjà demain… L’Internet des objets : l’impératif d’un cadre approprié pour la sécurité de l’information et la protection de la vie privée ; Commentaires au Rendez-vous de la sécurité de l’information (RSI) 2014 » (07 mai 2014), en ligne : < https://www.priv.gc.ca/fr/nouvelles-du-commissariat/allocutions/2014/sp-d_20140507_dc/> (consulté le 12/05/2020).
71 Jean-Sylvestre Bergé et Daniel Le Métayer, « Phénomènes de masse et droit des données », Communication
Commerce Électronique, Lexis-Nexis, 2018, 12 (20), p.9.
