Les atteintes à la vie privée et les pratiques manipulatrices

La plupart des gens sont hésitants à se faire surveiller, c’est pourquoi la plupart de ces mécanismes du capitalisme de surveillance tentent de s’effectuer sans que les individus n’en aient conscience. Si le consentement à des pratiques de surveillance invasives est demandé sur une plateforme, plusieurs de ces individus seront tentés d’accepter si les avantages sont

suffisants (Zuboff, 2019 : 207). Prenons l’exemple d’un homme possédant un véhicule

intelligent, pouvant enregistrer ses moindres gestes et déplacements. Avec le DaL, l’utilisateur pourrait choisir de ne partager aucune donnée à aucune entreprise. Il pourrait toutefois décider de vendre l’ensemble de ses données à sa compagnie d’assurance et à d’autres entreprises. Cela inclurait non seulement ses déplacements, mais aussi l’enregistrement audio en continu dans le véhicule, tout comme les données sur le style de conduite.

Les données du véhicule pourraient révéler le statut socio-économique de l’utilisateur en fonction des lieux visités et du temps passé à chacun d’entre eux. Les entreprises pourraient avoir une idée précise du quartier dans lequel il habite. Elles pourraient savoir s’il fréquente

47 _{Nous ne discuterons pas non plus des enjeux directement liés à la nature prédictive des algorithmes d’IA.}

des endroits où les services sont dispendieux ou l’inverse. Elles pourraient même déduire sa situation familiale en fonction des passagers et passagères qui parlent et prennent place dans son véhicule. Des entreprises pourraient faire afficher sur son GPS des suggestions de restaurants et de commerces en fonction de ses préférences de consommation. D’autres entreprises pourraient lui envoyer diverses publicités extrêmement ciblées, dont certaines pourraient se révéler très invasives sur sa vie privée. Sa compagnie d’assurance pourrait lui offrir de meilleures primes s’il conduit bien. L’utilisateur pourrait cependant être pénalisé sur sa politique d’assurance si sa conduite est jugée dangereuse. Dans un cas plus extrême, la compagnie d’assurance pourrait même aller jusqu’à éteindre le moteur de sa voiture si son paiement d’assurance est en retard (Zuboff, 2019 : 194).

Faute d’encadrement clair dans la plupart des États, il reste difficile de tracer la ligne entre les pratiques légitimes des plateformes et celles qui s’apparentent plutôt à des manipulations et des violations de la vie privée. Lorsque l’on parle de « manipulation », il est question « d’imposer une influence cachée ou couverte sur les décisions d’une personne » (Susser et al, 2018 : 26). Selon les chercheurs Daniel Susser, Beate Roessler et Helen Nissenbaum, pour parler de pratiques manipulatrices, trois caractéristiques doivent être présentes : les influences doivent être « (1) cachées, (2) exploiter des vulnérabilités cognitives, émotionnelles ou autres dans la prise de décisions, et (3) être ciblées (Susser et al, 2018 : 27, notre traduction). Certaines pratiques restent donc discutables, alors que d’autres peuvent certainement être considérées comme de la « manipulation ».

Lanier et Weyl reconnaissent que dans le modèle actuel de data as capital, de nombreuses plateformes tentent de pousser indûment les utilisateurs et utilisatrices à dépenser plus d’argent (Lanier et Weyl, 2018 : 4). La vie privée devient en quelque sorte le prix à payer pour avoir accès à des services gratuits sur des plateformes. Selon eux, les droits économiques qu’obtiendraient les internautes avec le DaL contrebalanceraient les risques de manipulation psychologique et d’atteinte à la vie privée. La propriété de ses données entraîne la conscience qu’elles sont prélevées. De plus, elle inclut le pouvoir de les contrôler, tant pour les usages présents et que futurs. Il ne semble pas y avoir de problème pour ces auteurs dans la collecte et l’usage massif des données des utilisateurs et utilisatrices, tant que leur consentement est présent.

Comme nous l’avions décrit dans le chapitre précédent, certains modèles de gestion des données sont très ambitieux. Celui des micro-redevances émet l’hypothèse selon laquelle les internautes pourraient être en possession de leur propre dossier de données. Ils et elles devraient accorder des contrats ou des données à la pièce. Pour ce qui est des médiateurs de données, l’administration de ces données serait déléguée aux entités. Dans ces deux modèles, si l’internaute choisit d’accumuler plus de redevances, plus de données doivent être vendues. Toutefois, les entreprises qui offrent le plus de redevances exigeront vraisemblablement une plus grande liberté dans l’usage des données, afin de les faire fructifier au maximum. Ce qui donne une importance aux données est la possibilité d’en tirer des connaissances sur les utilisateurs et les utilisatrices. Celles-ci tirent leur valeur lorsqu’elles permettent aux entreprises de disposer d’un certain pouvoir sur leur existence. Ce pouvoir peut être exercé directement, par exemple en influençant leurs comportements d’achats. Il peut aussi être exercé indirectement, en représentant par exemple un potentiel pour la recherche de développement de produits et de services ayant une forte valeur marchande.

Dans la réalité actuelle, où le capitalisme de surveillance semble guider les plus grandes entreprises, il nous apparait difficile d’envisager l’implantation d’un système de DaL qui respecterait réellement l’autonomie des internautes. Comment pourrait-il leur faire bénéficier du fruit de leurs données sans aucun contrecoup, en n’affectant ni leur quotidien ni leur équilibre psychologique ? Quand les individus réalisent qu’ils et elles sont surveillés, la méfiance prend le dessus. Plusieurs désireront prévenir les tentatives d’intrusion de leur vie privée. Si certains utilisateurs et utilisatrices souhaitent tout de même partager une plus grande partie de leurs données pour recevoir une plus grande compensation financière, ils et elles pourraient même se retrouver davantage aliénés (nous y reviendrons dans la prochaine section). L’approche de DaL appelle certainement à changer la façon dont les données sont appropriées, traitées, utilisées et vendues par les entreprises. Seulement, l’incitation à la vente de ses données pourrait se révéler porteuse d’effets pervers, atteignant non seulement la vie privée des utilisateurs et des utilisatrices, mais pouvant également aller jusqu’à influencer leurs choix et leurs opportunités. Le DaL pourrait donc s’avérer une porte grande ouverte à une instrumentalisation encore plus poussée des individus pour leur soutirer des fonds. Demandons-nous maintenant, après ces explications sur le capitalisme de surveillance, si la

marchandisation même des données et par extension de la vie privée, respecterait réellement la dignité des internautes.