À l’ère du capitalisme de surveillance
Dominique Peschard, militant à la LDL et président de la LDL de 2007 à 2015
Retour à la table des matières
Revue Droits et libertés, printemps / été 2023
L’intrusion du numérique dans toutes les facettes de nos vies a permis une cueillette de données sans précédent qui touche tous nos champs d’activités, privés et sociaux. Tout est prétexte à cette captation de données qui ne cesse de s’étendre avec le développement de l’Internet des objets, la multiplication des applications de gestion de la vie courante, les capteurs corporels, les villes intelligentes, etc. Ce modèle d’affaires fondé sur l’extraction des données, initié par les Google, Apple, Facebook (Meta), Amazon et Microsoft (GAFAM), est maintenant repris par toutes les entreprises et services publics. Les gouvernements, dépassés par l’expertise et les moyens des géants du numérique, ont abandonné toute velléité de souveraineté numérique et cèdent de plus en plus à l’entreprise privée la gestion et le stockage dans le nuage des données qu’ils recueillent sur les citoyens.
Ces données sont utilisées à des fins de surveillance et de contrôle, pour analyser et influencer nos comportements. Elles servent tant pour nous solliciter à des fins lucratives que pour évaluer le risque que nous représentons. Cette masse immense de données est traitée par des systèmes de décision automatisés (SDA) qui placent les individus dans des catégories qui leur sont favorables ou défavorables. Les algorithmes derrière ces SDA sont opaques et souvent biaisés. Ces entreprises s’approprient notre expérience personnelle afin de comprendre et d’influencer nos comportements. C’est ce que Shoshana Zuboff appelle le commerce de l’avenir humain1.
Les systèmes de protection de ces données sont déficients et on assiste régulièrement à des fuites, des vols de données et à de l’extorsion par rançongiciel. Les victimes de ces actes criminels ont peu de recours et la protection offerte par l’anonymisation des données n’est pas très fiable.
La guerre au terrorisme menée par les États après les attentats du 11 septembre 2001 a certainement contribué à ce que le capitalisme de surveillance puisse se développer sans entraves de la part des gouvernements. Les États ont eux aussi mis en place un système de surveillance généralisé des populations en prétextant que c’était le seul moyen d’assurer notre sécurité. Comme l’a révélé Edward Snowden, les agences de renseignements se sont généreusement abreuvées, à l’insu des populations, à même les données amassées par le capitalisme de surveillance.
Les techniques d’identification biométriques se développent sans encadrement adéquat. Le développement de banques d’ADN et d’outils de reconnaissance faciale menace toute prétention à l’anonymat. Ces outils sont utilisés de manière opaque par les forces policières et permettent de faire des enquêtes en ayant recours à des moyens intrusifs sans mandat judiciaire.
Le modèle d’affaires des GAFAM repose non seulement sur la captation de données sur l’usager, mais aussi sur la capacité de capter son attention et de l’inciter à visiter le plus de sites possible. Plus de clics égalent plus de revenus publicitaires. Une conséquence est que l’usager se voit orienter vers des sites sensationnalistes qui reflètent ses biais. Ces mécanismes favorisent la propagation de fausses nouvelles et l’enfermement de l’internaute dans des chambres d’écho qui renforcent ses préjugés. Ils empoisonnent le débat démocratique et facilitent la polarisation des extrêmes.
Une autre conséquence est de développer la dépendance aux écrans, phénomène particulièrement nocif pour les jeunes, au point de devenir un problème de santé publique. La distanciation et l’anonymat que permettent les plateformes ont favorisé l’humiliation, le harcèlement et l’intimidation en ligne de nombreuses personnes, la plupart du temps des filles et des femmes, laissées à elles-mêmes face à leurs agresseurs. Des adolescent-e-s vulnérables se sont suicidés.
La croissance du capitalisme de surveillance repose sur un développement sans limites de communication de données, y compris pour des usages les plus superficiels. A-t-on vraiment besoin d’une application qui envoie un message pour nous avertir que la pinte de lait dans le frigidaire est à moitié vide ou d’envoyer une photo de notre assiette à tous nos amis ? Notons qu’un simple courriel avec pièce jointe a une empreinte carbone d’environ 20 grammes ! Cette transmission sans limites de données entraîne une explosion des infrastructures, telles que la 5G et les mégas centres de données, la consommation de matières premières comme les métaux rares et d’énergie avec des effets désastreux sur l’environnement.
Comme on le constate, ces développements soulèvent de nombreux enjeux de droits qui dépassent le seul droit à la vie privée. La surveillance et la manipulation des comportements sont des atteintes à l’autonomie des individus et à la vie démocratique. Le manque de transparence dans la collecte de données et les SDA qui servent à la prise de décision sont source de discrimination, portent atteinte au droit à l’information et accentuent le déséquilibre de pouvoir entre les individus et les géants du numérique et les gouvernements. Le développement en catimini de l’identité numérique par le gouvernement Legault en est un exemple. La notion qu’il existe une solution technique à chaque problème et l’idéalisation de l’intelligence artificielle (IA) – pensons à l’application de traçage COVID – permet d’escamoter le débat public sur les enjeux sociaux sous-jacents. Les phénomènes de dépendance et l’impact environnemental du capitalisme de surveillance portent atteinte au droit à la santé et à un environnement sain.
Le défi des années à venir
À ses débuts, dans les années 1990, Internet était source d’espoir. Internet allait briser le monopole des grands médias écrits et électroniques traditionnels sur le débat public et permettre à des voix qui n’avaient pas accès à ces moyens de se faire entendre et de s’organiser. Pour ce faire, Internet devait demeurer neutre, accessible à tous et à l’abri d’interférence étatique. Cet espoir n’était pas sans fondement et Internet a effectivement permis à de nombreux mouvements sociaux (MeToo, Black Lives Matter, la campagne pour l’abolition des mines antipersonnel…) de se développer à une échelle mondiale et d’avoir un impact. Les réseaux sociaux permettent de diffuser et de dénoncer en temps réel les violations de droits aux quatre coins de la planète. On a aussi vu comment ces moyens de communication pouvaient être utiles en temps de pandémie. Ceci ne doit toutefois pas nous faire perdre de vue que, si nous n’intervenons pas, le développement du numérique sous la gouverne du capitalisme de surveillance, comporte de graves dangers pour les droits humains.
Nous devons pouvoir utiliser Internet et les plateformes de communication et d’échange à des fins socialement utiles. Le défi des prochaines années est de se réapproprier ces outils numériques afin de les mettre au service du bien commun. Le capitalisme de surveillance n’est pas une fatalité et les nouveaux moyens d’information et d’échange sont devenus tellement névralgiques qu’ils constituent un commun qui doit être soustrait au capitalisme de surveillance.
Les marchés qui font le commerce de l’avenir humain entrainent des conséquences néfastes, dangereuses
et antidémocratiques, et causent des préjudices intolérables dans une société démocratique. Ils devraient être illégaux tout comme le commerce d’organes et d’êtres humains est illégal. Nous devons définir un droit qui garantisse à chacun la protection de son expérience personnelle. Nous devons aussi refuser les moyens de fichage et de surveillance biométriques, tout particulièrement, la reconnaissance faciale.
La croissance débridée du numérique à des fins socialement néfastes et inutiles induit un impact environnemental majeur qui est encore largement méconnu. Le numérique est présenté comme quelque chose d’immatériel et la population est maintenue dans l’ignorance de la vaste quantité de ressources et d’énergie que requièrent ces infrastructures. Les considérations environnementales sont une partie intégrante de la réappropriation du numérique dans un objectif de promotion du bien commun.
Nous sommes au tout début de la prise de conscience de l’existence du capitalisme de surveillance et de ses effets. L’enjeu de la prochaine période est de dénoncer et de s’opposer au développement d’une société de surveillance et de revendiquer la mise en place d’un cadre règlementaire qui fait primer les droits humains sur les intérêts de tous les acteurs qui tirent profit du capitalisme de surveillance, qu’il s’agisse des États, des entreprises ou des acteurs du secteur privé.