REVUE DROITS ET LIBERTÉS I Le capitalisme de surveillance

Retour à la table des matières
Revue Droits et libertés, printemps / été 2022

Shoshana Zuboff, professeure émérite à la Harvard Business School et auteure de L’Âge du capitalisme de surveillance

C’est avec la permission de Shoshana Zuboff et du New York Times que nous publions cette traduction du texte initialement publié le 12 novembre 2021 dans le New York Times[1].

Facebook n’est pas une entreprise quelconque. Elle a atteint le cap du billion de dollars[2] en une seule décennie en appliquant la logique de ce que j’appelle le capitalisme de surveillance — un système économique construit sur l’extraction et la manipulation secrètes des données humaines — à sa vision d’un monde interrelié. Facebook et d’autres grandes entreprises du capitalisme de surveillance contrôlent désormais les flux de l’information et les infrastructures de communication dans le monde entier.

Ces infrastructures sont essentielles pour qu’une société démocratique soit possible, mais nos démocraties ont permis à ces entreprises de posséder, d’exploiter et d’arbitrer nos espaces d’information sans contraintes légales. Ceci a donné lieu à une révolution sournoise dans la manière dont l’information est produite, diffusée et son impact. Une série de révélations depuis 2016[3], appuyées par le témoignage personnel et les preuves fournies par la lanceuse d’alerte Frances Haugen[4], montrent les conséquences de cette révolution.

Les démocraties libérales à travers le monde sont maintenant confrontées à la tragédie des biens non-communs. Les espaces d’information que les gens supposent être publics sont régis uniquement par des intérêts commerciaux privés en vue d’un profit maximum. Internet, en tant que marché autoréglementé, s’est révélé être un échec. Le capitalisme de surveillance laisse dans son sillage une traînée de dégâts sociaux : la destruction massive de la vie privée, l’augmentation des inégalités sociales, l’empoisonnement du discours public par des informations non factuelles, la démolition des normes sociales et l’affaiblissement des institutions démocratiques.

Ces préjudices sociaux ne sont pas le fruit du hasard. Ce sont des effets étroitement liés à l’enchainement des opérations économiques. Chaque préjudice ouvre la voie au suivant et dépend de ce qui l’a précédé.

Il n’y a aucun moyen d’échapper aux systèmes de surveillance, que nous soyons en train de magasiner, de conduire ou de nous promener dans le parc. Toutes les avenues de participation économique et sociale passent désormais par la maximisation du profit du capitalisme de surveillance, une situation qui s’est aggravée pendant presque deux ans de pandémie.

La violence numérique de Facebook déclenchera-t-elle enfin notre engagement à nous réapproprier les biens non-communs? Allons-nous continuer d’ignorer les enjeux fondamentaux d’une civilisation de l’information : comment devrions-nous organiser et gouverner les espaces d’information et de communication du siècle numérique de manière à soutenir et promouvoir les valeurs et principes démocratiques ?

Le capitalisme de surveillance laisse dans son sillage une traînée de dégâts sociaux : la destruction massive de la vie privée, l’augmentation des inégalités sociales, l’empoisonnement du discours public par des informations non factuelles, la démolition des normes sociales et l’affaiblissement des institutions démocratiques.

Recherche et saisie

Facebook, tel que nous le connaissons aujourd’hui, a été façonné à partir de la côte de Google. L’entreprise de Mark Zuckerberg n’a pas inventé le capitalisme de surveillance. Google l’a fait. En 2000, alors que seulement 25 % des informations mondiales étaient stockées numériquement[5], Google était une petite entreprise avec un excellent produit de recherche, mais peu de revenus.

En 2001, pendant l’éclatement de la bulle technologique, les dirigeants de Google ont fait une percée avec une série d’inventions qui allaient transformer la publicité. Leur équipe a appris à combiner des flux massifs de données et d’informations personnelles avec des analyses informatiques avancées pour prédire où une publicité devrait être placée pour obtenir un maximum de clics. Au début, les prédictions étaient calculées en analysant les traces de données que les utilisateur-trice-s laissaient sur les serveurs de l’entreprise sans le savoir lorsqu’ils effectuaient des recherches et parcouraient des pages de Google. Les scientifiques de Google ont appris à extraire des métadonnées prédictives de ces traces numériques et à les utiliser pour analyser des modèles probables de comportement futur.

La prédiction était le premier impératif qui déterminait le deuxième impératif : l’extraction. Les prédictions lucratives nécessitaient des flux de données humaines à une échelle inimaginable. Les utilisateur-trice-s ne se doutaient pas que leurs données étaient secrètement recherchées et capturées dans tous les recoins de l’Internet et, plus tard, dans les applications, les téléphones intelligents, les appareils, les appareils photo et les capteurs. L’ignorance des utilisateur-trice-s était considérée comme étant essentielle à la réussite. Chaque nouveau produit était un moyen d’accroître l’engagement, un euphémisme utilisé pour dissimuler des opérations illicites d’extraction.

À la question « Qu’est-ce que Google? », le cofondateur Larry Page a expliqué en 2001, dans un récit détaillé de Douglas Edwards, premier responsable de la marque Google, dans son livre I’m Feeling Lucky: « Le stockage est bon marché. Les appareils photo sont bon marché. Les gens généreront d’énormes quantités de données », a déclaré M. Page. « Tout ce que vous avez déjà entendu, vu ou vécu deviendra consultable. Votre vie entière sera consultable ».

Plutôt que de faire payer la recherche aux utilisateur-trice-s, Google a survécu en transformant son moteur de recherche en un moyen de surveillance sophistiqué pour saisir des données humaines. Les dirigeant-e-s de l’entreprise ont travaillé pour maintenir ces opérations économiques secrètes, dissimulées aux utilisateur-trice-s, aux législateur-trice-s et aux concurrents. M. Page s’est opposé à tout ce qui pouvait « agiter l’enjeu de la vie privée et mettre en danger notre capacité de collecter des données », a écrit M. Edwards.

L’ignorance des utilisateur-trice-s était considérée comme étant essentielle à la réussite. Chaque nouveau produit était un moyen d’accroître l’engagement, un euphémisme utilisé pour dissimuler des opérations illicites d’extraction.

Les opérations d’extraction à grande échelle ont été le fondement du nouvel édifice économique et ont supplanté d’autres considérations, à commencer par la qualité de l’information, car dans la logique du capitalisme de surveillance, l’intégrité de l’information n’est pas la source des revenus.

C’est dans ce contexte économique que la désinformation l’emporte. Pas plus tard qu’en 2017, Eric Schmidt, président-directeur général de la société mère de Google, Alphabet[6], a reconnu le rôle des opérations de classement algorithmique de Google dans la diffusion d’informations corrompues. « Il y a une ligne que nous ne pouvons pas vraiment franchir »[7], a-t-il déclaré. « Il est très difficile pour nous de comprendre la vérité ». Une entreprise dont la mission est d’organiser et de rendre toutes les informations du monde accessibles en utilisant les systèmes informatiques les plus sophistiqués ne peut pas discerner l’information corrompue.

Facebook, le premier disciple

Zuckerberg a commencé sa carrière d’entrepreneur en 2003, alors qu’il était étudiant à Harvard. Son site Web, Facemash, invitait les visiteurs à évaluer l’attractivité d’autres étudiants. Il a rapidement suscité l’indignation de ses pairs et le site a été fermé. Puis vinrent TheFacebook en 2004 et Facebook en 2005[8], quand M. Zuckerberg a attiré ses premiers investisseurs professionnels.

Le nombre d’utilisateurs de Facebook a rapidement augmenté, mais pas ses revenus. Comme Google quelques années plus tôt, M. Zuckerberg ne pouvait pas transformer la popularité en profit. Au lieu de cela, il est allé de gaffe en gaffe[9]. Ses violations flagrantes des attentes des utilisateur-trice-s en matière de confidentialité ont provoqué une intense réaction du public[10], des pétitions et des actions collectives. M. Zuckerberg semblait comprendre que la réponse à ses problèmes se trouvait dans l’extraction de données humaines, sans consentement, au profit des annonceurs, mais les complexités de cette nouvelle logique lui échappaient.

Il s’est tourné vers Google pour obtenir des réponses.

En mars 2008, M. Zuckerberg a embauché la directrice de la publicité en ligne de Google, Sheryl Sandberg[11], comme bras droit. Mme Sandberg avait rejoint Google en 2001 et jouait un rôle clé dans la révolution du capitalisme de surveillance. Elle a dirigé[12] la mise en place du moteur publicitaire de Google, AdWords, et de son programme AdSense, qui ont généré ensemble la majeure partie des 16,6 milliards de dollars de revenus de l’entreprise en 2007.

Multimillionnaire chez Google au moment où elle a rencontré M. Zuckerberg, Mme Sandberg avait une appréciation avisée des immenses opportunités de Facebook pour l’extraction de riches données prédictives. « Nous avons de meilleures informations que quiconque. Nous connaissons le sexe, l’âge, l’emplacement, et ce sont des données réelles, contrairement à ce que les autres déduisent », a expliqué Mme Sandberg, selon David Kirkpatrick dans The Facebook Effect.

L’entreprise avait de meilleures données et des données réelles parce qu’elle était au premier rang de ce que M. Page avait appelé votre vie entière.

Facebook a ouvert la voie à l’économie de la surveillance en adoptant de nouvelles politiques de confidentialité à la fin de 2009. L’organisation Electronic Frontier Foundation[13] a averti que les nouveaux paramètres tout le monde éliminaient les options qui restreignaient la visibilité des données personnelles, les traitant plutôt comme étant des informations accessibles au public. TechCrunch[14] a résumé la stratégie de l’entreprise : « Facebook oblige les utilisateur-trice-s à choisir leurs nouvelles options de confidentialité pour promouvoir la nouvelle option tout le monde et pour se dédouaner de tout méfait potentiel à l’avenir. En cas de contrecoup important contre le réseau social, il peut prétendre que les utilisateur-trice-s ont volontairement fait le choix de partager leurs informations avec tout le monde ».

Quelques semaines plus tard, M. Zuckerberg a défendu ces décisions[15] auprès d’un intervieweur de TechCrunch. « Plusieurs entreprises seraient piégées par les conventions et leurs héritages. Nous avons décidé ce que seraient les normes sociales désormais et nous avons foncé », s’est-il vanté.

Zuckerberg a juste foncé parce qu’il n’y avait pas de lois pour l’empêcher de se joindre à Google dans la destruction totale de la vie privée. Si les législateur-trice-s voulaient le sanctionner en tant qu’impitoyable et insatiable profiteur, prêt à utiliser son réseau social contre la société, alors les années 2009 et 2010 auraient été le bon moment de le faire.

Un ordre économique déferlant

Facebook a été le premier disciple, mais pas le dernier. Google, Facebook, Amazon, Microsoft et Apple sont des empires de surveillance privée, chacun avec des modèles commerciaux distincts. Google et Facebook sont des entreprises de données et de surveillance capitaliste à l’état pur. Les autres opèrent dans d’autres secteurs d’affaires, par exemple, le secteur des données, des services, des logiciels et des produits physiques. En 2021, ces cinq géants américains de la technologie représentent cinq des six plus grandes entreprises[16] cotées en bourse dans le monde.

À l’aube de la troisième décennie du 21^e siècle, le capitalisme de surveillance est l’institution économique dominante de notre époque. En l’absence de lois pour le contrebalancer, ce système gère presque tous les aspects de l’activité humaine dans le monde numérique. Les bénéfices de la surveillance propulsent maintenant l’économie de la surveillance dans l’économie normale, soit celle de l’assurance, du commerce de détail, du secteur bancaire et de la finance, de l’agriculture, de l’automobile, de l’éducation, des soins de santé et plus. Aujourd’hui, toutes les applications et tous les logiciels, aussi anodins qu’ils puissent sembler, sont conçus pour maximiser la collecte de données.

Historiquement, de grandes concentrations de pouvoir corporatif ont été associées à des préjudices économiques. Mais quand les données humaines sont la matière première et que les prédictions du comportement humain en sont le produit, alors les dommages sont sociaux plutôt qu’économiques. Le problème est que ces nouveaux dommages sont habituellement vus comme des phénomènes distincts, sans liens les uns avec les autres, ce qui les rend impossibles à résoudre. En fait, chaque étape de dommages engendre les conditions pour l’étape suivante.

À l’aube de la troisième décennie du 21^e siècle, le capitalisme de surveillance est l’institution économique dominante de notre époque. En l’absence de lois pour le contrebalancer, ce système gère presque tous les aspects de l’activité humaine dans le monde numérique.

Tout commence par l’extraction. Pour un ordre économique basé sur l’extraction de données humaines, à grande échelle et de manière cachée, la destruction de la vie privée est une condition inéluctable de ses opérations commerciales. Une fois la vie privée mise au rancart, ces données humaines mal acquises sont concentrées dans les entreprises privées, où elles sont considérées comme des actifs d’affaires à déployer à volonté.

L’effet social est une nouvelle forme d’inégalité, reflétée par l’asymétrie colossale entre ce que ces entreprises savent de nous et ce que nous savons d’elles. L’ampleur de cette asymétrie est illustrée dans un document de Facebook coulé en 2018[17], qui décrit son centre d’intelligence artificielle comme ingérant des billions de points de données comportementales chaque jour et produisant six millions de prédictions comportementales chaque seconde.

Ensuite, ces données humaines sont transformées en armes, sous forme d’algorithmes de ciblage conçus de manière à maximiser l’extraction, ces algorithmes sont alors retournés contre les sources humaines de ces données, sans qu’elles s’en doutent afin d’accroître leur engagement. Les mécanismes de ciblage ont un impact dans la vraie vie, parfois avec de graves conséquences. Par exemple, selon les Facebook Files[18], M. Zuckerberg utilise ses algorithmes pour renforcer ou perturber le comportement de milliards de personnes. La colère est récompensée ou ignorée. Les reportages journalistiques deviennent plus fiables ou déjantés. Les éditeurs prospèrent ou dépérissent. Le discours politique devient plus laid ou plus modéré. Les gens vivent ou meurent.

Parfois, le brouillard se dissipe et révèle le dommage ultime : le pouvoir croissant des géants de la technologie prêts à utiliser leur contrôle sur les infrastructures essentielles d’information afin de concurrencer les législateur-trice-s démocratiquement élu-e-s pour la domination de la société. Au début de la pandémie, par exemple, Apple et Google[19] ont refusé d’adapter leurs systèmes d’exploitation pour héberger des applications de recherche des contacts développées par les autorités de santé publique et soutenues par des élu-e-s. En février, Facebook a fermé plusieurs de ses pages en Australie comme marque de refus de négocier[20] avec le Parlement australien au sujet des redevances pour les contenus d’information.

C’est pourquoi, lorsqu’il s’agit du triomphe de la révolution du capitalisme de surveillance, ce sont les législateur-trice-s de toutes les démocraties libérales, en particulier des États-Unis, qui portent le plus lourd fardeau de responsabilité. Ils ont permis au capital privé de gouverner nos espaces d’information pendant deux décennies de croissance spectaculaire, sans aucune loi pour l’entraver.

Il y a cinquante ans, l’économiste conservateur Milton Friedman[21] exhortait les cadres américains : « Il n’y a qu’une seule et unique responsabilité sociale de l’entreprise : utiliser ses ressources et s’engager dans des activités conçues pour augmenter ses profits tant qu’elles respectent les règles du jeu ». Même cette doctrine radicale n’envisageait pas la possibilité d’une absence de règles.

Parfois, le brouillard se dissipe et révèle le dommage ultime : le pouvoir croissant des géants de la technologie prêts à utiliser leur contrôle sur les infrastructures essentielles d’information afin de concurrencer les législateur-trice-s démocratiquement élu-e-s pour la domination de la société.

La contre-révolution de la démocratie

Les sociétés démocratiques déchirées par les inégalités économiques, la crise climatique, l’exclusion sociale, le racisme, les urgences de santé publique et l’affaiblissement des institutions ont un long chemin à parcourir avant d’atteindre la guérison. Nous ne pouvons pas résoudre tous nos problèmes en même temps, mais nous n’en résoudrons jamais aucun, à moins de nous rétablir le caractère sacré de l’intégrité de l’information et de la fiabilité des communications. Le fait d’abdiquer nos espaces d’information et de communication au capitalisme de surveillance est à l’origine de la métacrise de toute démocratie, car elle fait obstacle à la résolution de toutes les autres crises.

Ni Google, ni Facebook, ni aucune autre entreprise dans ce nouvel ordre économique n’avait comme objectif de détruire la société, pas plus que l’industrie des combustibles fossiles n’avait comme objectif de détruire la Terre. Par contre, comme pour le réchauffement climatique, les géants de la technologie et leurs compagnons de route sont prêts à traiter leurs effets destructeurs sur les personnes et la société comme étant des dommages collatéraux, le produit malheureux, mais inévitable, d’opérations économiques parfaitement légales qui ont produit certaines des entreprises les plus riches et les plus puissantes de l’histoire du capitalisme.

Où en sommes-nous aujourd’hui? La démocratie est le seul ordre institutionnel doté de l’autorité et du pouvoir légitimes pour nous faire changer de trajectoire. Si l’idéal de l’autogouvernance humaine doit survivre au siècle numérique, alors toutes les solutions pointent vers une seule solution : une contre-révolution démocratique. Mais à la place des habituelles listes d’épicerie de solutions, les législateur-trice-s doivent procéder avec une compréhension claire de l’adversaire : une hiérarchie unique des causes économiques et de leurs dommages sociaux.

Nous ne pouvons pas nous débarrasser des dommages sociaux ultérieurs à moins de rendre illégaux leurs fondements économiques. Cela signifie que nous devons aller au-delà des moyens pris actuellement qui visent les conséquences, comme la modération des contenus et le contrôle des contenus illégaux. De tels remèdes ne traitent que les symptômes, sans contester la légitimité de l’extraction des données humaines, alors que celle-ci finance le contrôle privé des espaces d’information de la société. De la même manière, des solutions structurelles, telles que le démantèlement des géants de la technologie, peuvent être utiles dans certains cas, mais elles n’affectent pas les opérations économiques sous-jacentes du capitalisme de surveillance.

Les débats autour de la réglementation des géants de la technologie devraient plutôt se concentrer sur les fondements de l’économie de surveillance, c’est-à-dire l’extraction secrète de données humaines à partir de domaines de la vie qui étaient autrefois considérés privés.

Où en sommes-nous aujourd’hui? La démocratie est le seul ordre institutionnel doté de l’autorité et du pouvoir légitimes pour nous faire changer de trajectoire.

Les solutions centrées sur la réglementation de l’extraction sont neutres. Elles ne menacent pas la liberté d’expression. Au contraire, elles libèrent le discours social et les flux de l’information de la sélection artificielle d’opérations commerciales qui visent à maximiser le profit et favorisent la corruption de l’information au détriment de son intégrité. Elles restaurent le caractère sacré des communications sociales et de l’expression individuelle.

Sans extraction secrète, il n’y a pas de concentration illégitime de connaissances sur les personnes. S’il n’y a pas de concentration des connaissances, il ne peut y avoir d’algorithmes de ciblage. Sans ciblage, des entreprises ne peuvent plus contrôler et gérer les flux de l’information et le discours social, ni façonner le comportement humain pour favoriser leurs intérêts. La réglementation de l’extraction éliminerait les dividendes de la surveillance et donc les incitatifs financiers.

Alors que les démocraties libérales ont commencé à relever le défi de réglementer les espaces d’information d’aujourd’hui, détenus par des intérêts privés, nous avons besoin de législateur-trice-s prêts à s’engager dans une réflexion unique autour de questions bien plus fondamentales. Comment devons-nous structurer et gouverner l’information, la connectivité et la communication dans un siècle numérique démocratique ? Quelles nouvelles chartes des droits, quels nouveaux cadres législatifs et quelles nouvelles institutions sont requis pour garantir que la collecte et l’utilisation des données servent les besoins véritables des individus et de la société? Quelles mesures protégeront les citoyens contre un pouvoir non redevable sur l’information, qu’il soit exercé par des entreprises privées ou par des gouvernements?

Les démocraties libérales devraient prendre les choses en main, car elles ont le pouvoir et la légitimité pour le faire. Mais elles doivent savoir que leurs alliés et collaborateurs incluent les peuples de toutes les sociétés qui luttent contre un futur dystopique.

L’entreprise qu’est Facebook peut changer de nom ou de dirigeant-e-s, mais elle ne changera pas volontairement son modèle économique.

Est-ce que l’appel à réglementer Facebook dissuadera les législateur-trice-s de procéder à une remise en cause plus approfondie? Ou provoquera-t-il un sentiment d’urgence accru? Allons-nous enfin rejeter les vieilles réponses et nous libérer pour poser les nouvelles questions, en commençant par celle-ci : que faut-il faire pour que la démocratie survive au capitalisme de surveillance?

Allons-nous enfin rejeter les vieilles réponses et nous libérer pour poser les nouvelles questions, en commençant par celle-ci : que faut-il faire pour que la démocratie survive au capitalisme de surveillance?

[1] En ligne : https://www.nytimes.com/2021/11/12/opinion/facebook-privacy.html

[2] En ligne : https://www.bloomberg.com/news/articles/2021-07-01/facebook-fb-reaps-1-trillion-reward-for-grow-at-any-cost-culture?

[3] En ligne : https://www.propublica.org/article/facebook-doesnt-tell-users-everything-it-really-knows-about-them

[4] En ligne : https://www.nytimes.com/2021/10/03/technology/whistle-blower-facebook-frances-haugen.html

[5] En ligne : https://rss.onlinelibrary.wiley.com/doi/epdf/10.1111/j.1740-9713.2012.00584.x

[6] En ligne : https://www.cnbc.com/2017/11/21/alphabets-eric-schmidt-why-google-can-have-trouble-ranking-truth.html

[7] En ligne : https://www.youtube.com/watch?v=X3VQro6q3u0&t=5131s

[8] En ligne : https://www.nytimes.com/2005/05/26/business/students-startup-draws-attention-and-13-million.html

[9] En ligne : https://www.wsj.com/articles/SB120465155439210627

[10] En ligne : https://www.theguardian.com/technology/blog/2009/sep/21/facebook-privacy

[11] En ligne : https://money.cnn.com/2008/04/11/technology/facebook_sandberg.fortune/

[12] En ligne : https://www.nytimes.com/2008/03/04/technology/04cnd-facebook.html