Le capitalisme de surveillance

Nos données, comme Lanier l’écrivait, sont des individus sous formes déguisées. Chaque nouveau renseignement sur notre personne, actions et interactions sur des plateformes créent des données pouvant être transformées en pièces d’informations. Ces dernières, une fois agrégées avec celles d’une foule d’autres personnes, peuvent révéler de nombreux renseignements à notre sujet42_{. Qui êtes-vous, quels emploi ou occupation occupez-vous,}

comment se déroulent vos journées, comment votre ménage est-il composé, quels sont vos loisirs, vos désirs et même, vos secrets ? Semblez-vous être une personne en santé et fiable ? Avez-vous le profil pour être sélectionnée pour ce poste ou cette opportunité ? Au-delà des prédictions et des déductions surprenantes et invasives de certains algorithmes, les atteintes à la vie privée varient en fonction des usages qui sont faits de ces données. Ces utilisations peuvent souvent aller à l’encontre des intérêts de ceux et celles qui les ont produites. Nous exposerons la manière dont les nombreuses entreprises ayant adopté le capitalisme de

41 _{Ce capitalisme de surveillance menace également la dignité des internautes, nous y reviendrons dans les}

prochaines sections.

42 _{Nos données peuvent également révéler beaucoup d’information sur les autres, sans leur consentement, même}

si ce n’était pas l’intention de départ. Pensons par exemple à nos données issues des réseaux sociaux, qui nous lient constamment à d’autres utilisateurs et utilisatrices. Nous n’aborderons pas spécifiquement cet enjeu, bien qu’il représente une dimension très importante des risques d’atteinte à la vie privée.

surveillance peuvent capter nos moindres faits et gestes. Nous montrerons comment elles peuvent prédire et orienter ceux du futur afin d’en tirer profit43_.

Zuboff explique dans son ouvrage The age of surveillance capitalism: the fight for a human

future at the new frontier of power, publié en 2019, que le capitalisme de surveillance

« revendique les expériences humaines unilatéralement en tant que matériaux bruts pour leur transformation en données comportementales (behavioral data) » (Zuboff, 2019 : 14, notre traduction). Elle souligne qu’une petite partie des données des utilisateurs et utilisatrices prélevée lors de leur utilisation des plateformes sert à améliorer les produits et services. Cependant, la majorité des données restantes est convertie en « surplus comportemental ». Celui-ci sert à nourrir les machines intelligentes qui émettent des prédictions sur nos comportements futurs. Les entreprises ne veulent pas seulement connaître nos informations

actuelles pour les utiliser et les revendre. Elles veulent pouvoir prédire nos comportements futurs et les façonner. Elles veulent, selon Zuboff, avoir la capacité de nous automatiser afin

de générer plus de profits, en détenant toujours plus d’informations et de pouvoir sur nous. De manière discrète, sans que nous en ayons conscience, ces entreprises tentent de « pousser, cajoler, synchroniser et regrouper [nudge, coax, tune, and herd] » nos comportements vers des directions plus profitables (Zuboff, 2019 : 15, notre traduction). Zuboff dénonce explicitement Google comme chef de file dans ce capitalisme de surveillance. L’entreprise est suivie par Facebook, puis Microsoft. Elle soupçonne Amazon de commencer à s’y mettre et Apple d’y réfléchir44_.

Comme Zuboff le mentionne, il faut se demander : (1) comment nos expériences de vie sont mises en données ; ensuite, nous pourrons nous demander (2) comment elles sont appropriées et utilisées par les entreprises ; puis (3) comment celles-ci s’en servent pour influencer et manipuler nos comportements dans le but d’en tirer plus de profits. Le capitalisme de surveillance procède donc en premier lieu, comme nous l’avons déjà abordé, à une

quantification de soi, ou une datafication de toutes nos informations, actions et interactions

43 _{Nous n’aborderons pas non plus, comme nous l’avons déjà mentionné, les enjeux touchant la démocratie ni}

la surveillance par diverses formes d’autorité (ex. : États et employeurs).

44 _{Même si toutes les entreprises n’adoptent pas ces techniques aussi invasives du capitalisme de surveillance,}

plusieurs tendent vers ce modèle afin de faire croître leurs revenus. Les acteurs qui possèdent la plupart de nos données personnelles (principalement Google et Facebook) les pratiquent.

en ligne sur des plateformes numériques. Cette datafication procède également par le biais des objets connectés qui se multiplient dans nos environnements. Tout est transformé en données : l’ensemble des interfaces des plateformes sont conçues (designed) pour capter les données et les convertir en informations. Les surplus comportementaux qu’ils en déduisent sont vastes et variés. Ils passent du virtuel au réel, n’étant pas limités au fil de réseaux sociaux et au contenu des téléphones cellulaires. Zuboff parle d’une économie d’échelle (scale) animant les entreprises. Elle veut s’étendre « à notre système sanguin (bloodstream), notre lit, nos conversations lors du déjeuner, nos transports, notre réfrigérateur, notre espace de stationnement, notre salon » (Zuboff, 2019 : 193, notre traduction). Le marché des objets intelligents pour le domicile est en croissance, tout comme celui des services de santé connectés et des voitures autonomes. Ces nouvelles technologies, dont plusieurs sont dotées d’intelligence artificielle, font croître les possibilités de mises en données du monde et de surveillance. Elles ont le potentiel d’encercler nos existences et de pénétrer toujours plus loin dans notre vie privée. Dans une première vague de traitement de toutes ces données par l’intelligence artificielle, les algorithmes « apprennent » à nous connaître. Cela leur sert surtout à nous envoyer des publicités ciblées (Zuboff, 2019 : 192). Nous verrons plus loin que le capitalisme de surveillance peut aller bien au-delà de la publicité. Le DaL pourrait exacerber cette tendance à entrer dans notre intimité.

En second lieu, Zuboff se penche sur la question de l’appropriation des données des internautes, qu’elle qualifie de dépossession. Nous avons vu dans le chapitre précédent que les collectes de données sont actuellement peu réglementées et peu encadrées par les législations. Il suffit de demander aux individus de consentir aux termes et conditions d’utilisation des plateformes et voilà ! Leurs renseignements et traces en ligne peuvent être prélevés, puis utilisés et revendus45_{. Comme nous l’avons écrit, la plupart des utilisateurs et}

utilisatrices ne lisent pas ces contrats. Même après la lecture, les implications du contrat ne sont pas forcément comprises. En fin de compte, notre consentement est facilement accordé pour un accès à des services pratiques et gratuits. Une étude empirique récente a démontré qu’avant de se joindre à un nouveau service en ligne, 74 % des participants et participantes

45 _{Bien sûr, plusieurs États tentent d’encadrer ces pratiques, comme cela a été précisé dans le premier chapitre.}

Il demeure assez aisé pour des entreprises d’acquérir les renseignements de leurs utilisateurs et utilisatrices, et difficile de contrôler les utilisations qui s’ensuivent.

optaient pour la procédure d’adhésion rapide, sans lire les politiques de vie privée et les termes et conditions d’utilisation. La plupart des gens qui décidaient d’accéder à ces contrats, plutôt que d’y adhérer rapidement, ne faisaient que dérouler rapidement les paragraphes et accepter le tout. Une compréhension détaillée des seules politiques de vie privée aurait cependant demandé plusieurs dizaines de minutes (Obar et Oeldorf-Hirsch, 2020).

Cette étape de récolte des données s’avère donc peu problématique pour les entreprises. Plusieurs récents scandales de vols de données chez de grandes entreprises (par exemple chez Desjardins en 2019) ont effrité la confiance des utilisateurs et utilisatrices envers les plateformes, les rendant plus hésitants à confier leurs données46_{. Toutefois, pour accéder à}

une majorité de plateformes et services en ligne, il demeure nécessaire de fournir des renseignements personnels ou d’accepter que nos données soient récoltées. C’est ce que Lanier qualifiait de chantage doux. Si le DaL que nous avons présenté était mis en place, on pourrait imaginer que les données ne seraient pas systématiquement prélevées sur les utilisateurs et utilisatrices sans leur consentement. Cependant, si ces internautes acceptent de vendre leurs données, elles seront nécessairement traitées et peut-être vendues dans l’objectif d’en tirer des revenus.

Finalement, en troisième lieu, voyons comment les entreprises se servent des données récoltées afin d’influencer et même de manipuler les internautes. Il s’agit probablement de l’aspect le plus problématique et troublant du capitalisme de surveillance par les entreprises. Cela se tient dans ce que Zuboff appelle l’économie d’action. Celle-ci procède à une deuxième vague de traitement des données par l’IA. À ce stade, les algorithmes tenteront d’intervenir dans la réalité des utilisateurs et des utilisatrices, en touchant les gens et les choses qui les entourent. Ces interventions peuvent prendre la forme de gestes aussi subtils que l’ajout d’une phrase spécifique dans le fil d’actualité Facebook d’un utilisateur. Il peut aussi s’agir de la programmation de l’apparition d’un bouton « acheter » sur le téléphone d’une utilisatrice en fonction de ses habitudes d’achat (Zuboff, 2019 : 194). Toutes les

46 _{Un récent rapport de L’Autorité canadienne pour les enregistrements Internet démontre que 86 % des}

individus interrogés sont préoccupés par le fait que des entreprises partagent leurs données à des tiers sans leur consentement. À l’exception des données bancaires, la majorité des internautes ne confierait par leurs données personnelles pour obtenir de meilleurs services (L’Autorité canadienne pour les enregistrements Internet, 2020 : 18-19).

données récoltées à notre sujet peuvent servir à alimenter des algorithmes d’IA. Elles détermineront alors, avec plus ou moins de précision, divers indices comportementaux. Quelles sont les chances que cet homme respecte le code de la sécurité routière ? Que cette femme obéisse aux règlements de la compagnie ? Quel devrait être le montant de la police d’assurance du premier, et les chances de la seconde d’être embauchée pour la compagnie ? Et celle de cet étudiant d’avoir une place dans une prestigieuse université ? Le flux constant de données sur ce que nous faisons permet d’amasser, de déduire et de prédire des quantités astronomiques d’informations sur nous. Le potentiel de prédiction des comportements, en plein essor, commence à peine à montrer sa puissance47_{. Nous nous concentrerons, dans la}

prochaine section, à démontrer les risques que l’implantation du DaL comporte d’augmenter les atteintes à la vie privée et à l’autonomie des individus.