Introduction

Démocratiser les codes et désign informatiques faisant loi et surveillance

Démocratiser les codes et désign informatiques faisant loi et surveillance

Revue Droits et libertés, Vol. 33, numéro 1, printemps 2014

 

Pierrot Péladeau, chercheur invité chez Communautique et chroniqueur au Journal de Montréal

L’informatisation de nos sociétés vient à peine de commencer. Nous ne sommes qu’au seuil d’une révolution où nos rapports interpersonnels et collectifs passeront de plus en plus par des machines numériques. L’un des enjeux est l’avenir même de la démocratie et des droits de la personne. En conséquence, le développement même de l’informatique doit devenir une question de démocratie et de droits de la personne.

L’informatique transforme les institutions humaines. Car ce qui caractérise l’animal social humain est sa capacité à manier des représentations symboliques à l’aide d’images et de sons, de lettres et de mots, de chiffres ainsi que d’opérateurs logiques et mathématiques. Or, l’informatique augmente et élargit spectaculairement la capacité de produire et manier ces symboles servant la pensée, la communication et l’action humaines. L’informatique ne peut donc que s’immiscer dans tous les domaines de la vie sociale et les transformer.

Voilà pourquoi on ne peut pas simplement parler des effets de l’informatique sur la démocratie et sur les droits de la personne en particulier. Ou réciproquement, d’application de ces derniers à l’informatique. Nous assistons plutôt à des coévolutions qui exigent de penser ensemble ces réalités, non seulement entre elles, mais avec plusieurs autres, tel la mondialisation ou le droit avec lesquels l’informatique coévolue également.

En outre, l’informatisation des activités humaines implique comme condition et résultat nécessaires une production d’informations en quantités et détails sans précédent. Cependant, rien ne prédétermine la nature des informations produites ni leurs utilisations possibles ou non.

La liberté dans l’universalité

À l’origine de l’informatique moderne, il y a l’ordinateur, incarnation physique du concept de machine de Turing universelle. En répondant à un problème de philosophie mathématique, Alan Turing a inventé le concept d’une machine capable d’exécuter n’importe quelle suite finie, non ambigüe, d’instructions sur n’importe quel type de données[1]. Cette machine est dite universelle puisqu’elle peut exécuter n’importe quel algorithme sur n’importe quelles informations. C’est pourquoi les premiers ordinateurs s’appelaient calculateurs universels : ils pouvaient exécuter n’importe quel programme.

Cette universalité d’application est un fait politique capital à partir de l’instant où l’informatique supporte les rapports entre êtres humains. De la même manière qu’il est possible avec les mots et règles d’une langue de concevoir une quasi-infinité de textes législatifs des plus émancipateurs aux plus asservissants, il est également possible de concevoir une quasi-infinité de désign et d’algorithmes régissant les rapports entre personnes physiques et légales. Et une fois confiées à une machine, les règles et opérations énoncées dans le programme seront automatiquement et impitoyablement mises en œuvre avec une remarquable efficacité. Le juriste Lawrence Lessig l’a bien résumé dans sa formule le code fait loi[2]. En fait, l’informatique transforme le droit lui-même en lui offrant de nouveaux médias et espaces d’expression et d’application, de nouvelles logiques, de nouveaux lieux, acteurs, actrices et processus de production[3].

Bien sûr, durant une génération, l’informatique a été confinée à d’immenses et couteuses machines centralisant nécessairement leur puissance chez quelques très grandes organisations. Cependant, la miniaturisation des processeurs et l’omniprésence d’Internet ont définitivement ouvert l’horizon à toutes les formes de régulation et de surveillance imaginables. Le pouvoir que les dispositifs numériques offrent sur les rapports interpersonnels peut donc, d’une quasi-infinité de manières, être distribué entre acteurs et actrices autonomes, ou partagé avec de tiers surveillants, ou concentré en des mains contrôlantes, voire autoritaires. Aucune option n’est prédéterminée. Aux humain-e-s de décider ce qu’ils souhaitent commander à leurs machines.

Exemple à l’échelle intime

Les autorités européennes et états-uniennes ont commencé à autoriser la commercialisation de pilules avec micropuce électronique sans fil. Certains « modèles » de pilules enregistrent automatiquement l’instant précis où nous les prenons. Ces informations peuvent ensuite être communiquées à distance à tout intéressé : nous-mêmes, un-e proche aidant-e, notre médecin, notre pharmacien-ne, notre établissement de santé, l’assureur qui paie le traitement.

On imagine aisément de nombreuses situations où un tel dispositif serait manifestement utile. Pour aider patient-e-s et proches à garder trace de la prise de plusieurs médicaments en même temps. Pour aider médecins et pharmacien-ne-s à ajuster une prescription individuelle comportant risques et effets secondaires importants, et éventuellement le protocole pour toutes les personnes recevant ce traitement.

On imagine autant de nombreuses situations qui, au contraire, seraient controversées. Pour permettre aux médecins de talonner et réprimander ces nombreux patient-e-s qui ajustent ou interrompent de leur propre chef un traitement prescrit. Ou à un assureur de suspendre le paiement d’un médicament pour indiscipline des patient-e-s dans sa prise.

Or qui décidera du mode précis de surveillance confié au dispositif? Nous les patients consommateurs et consommatrices du médicament sur une base ad hoc, avec ou sans nos médecins? Les médecins collectivement à travers des protocoles standardisés? Le fabricant de la pilule? Le fabricant du dispositif numérique? L’agence gouvernementale qui en autorise la commercialisation? L’assureur? Nos député-e-s par voie de législation? Un gouvernement par voie règlementaire? C’est précisément le caractère inédit du dispositif qui en fait une question ouverte, imprévue par le droit existant.

Un exemple planétaire

À une tout autre échelle, Internet est aujourd’hui l’une des infrastructures clés sur laquelle repose l’informatisation des sociétés à travers presque toute la planète. Les révélations d’Edward Snowden sur les pratiques de la NSA ont cependant souligné à quel point Internet facilite la surveillance de masse. Car les conceptrices et les concepteurs de son désign initial et de ses développements subséquents, comme le Web, n’avaient pas imaginé une telle possibilité.

Or, Edward Snowden lui-même a rappelé à plusieurs reprises qu’il est dès aujourd’hui techniquement possible de reconfigurer Internet pour rendre impossible la surveillance de masse. Premièrement, en chiffrant (cryptant) par défaut les communications de bout en bout afin de les rendre illisibles même si interceptées. Deuxièmement, en «routant» par défaut ces mêmes communications « en oignon » afin d’en camoufler les emplacements des participant-e-s.

De telles mesures ne peuvent immuniser totalement contre la surveillance ciblée d’individus ou organisations en particulier. Mais elles peuvent rendre économiquement irréalisable la surveillance de masse de populations entières.

Qui actuellement en discute et en décidera? Ce sont, notamment, quelques milliers d’individus qui se sont autodésignés membres de l’Internet Engineering Task Force, un groupe international sans aucun statut légal, ni mode d’adhésion formalisés.

Or, où sommes-nous, citoyen-e-s québécois-es ou d’ailleurs dans le monde, dans cette délibération qui nous concerne directement? Plutôt dans un rôle de spectatrices ou de spectateurs. Car la gouvernance démocratique d’Internet, innovation technique devenue mondiale, reste encore largement à inventer. Il n’en tient qu’à l’État québécois ou d’ailleurs et aux sociétés civiles de prendre les moyens d’y participer.

Par contre, certains États comme la Chine et l’Iran ont décidé de balkaniser partiellement Internet afin d’en contrôler la portion existant sur leur territoire, et leur population à travers elle. En Europe, on discute également d’une semblable approche mais, au contraire, pour mieux protéger leur population contre la surveillance.

L’avenir d’Internet, y compris sa survie même, s’inscrit aussi dans un horizon ouvert.

La surveillance fait société

Un autre fait incontournable est que la surveillance est une composante indissociable de toute vie sociale. Ceci est vrai de toutes les sociétés humaines, tout comme de nombreuses sociétés animales. Et même de communautés végétales comme le démontrent des découvertes biologiques récentes.

Il s’ensuit qu’une société informatisée est, nécessairement, une société de surveillance accrue. Et comme l’illustre l’exemple des pilules à micro puce sans fil, la surveillance permise par l’informatique peut prendre d’innombrables formes entrainant des conséquences très différentes, voire radicalement opposées.

De même, le fait que les activités d’agences comme la NSA ou notre Centre de la sécurité des télécommunications Canada sont conduites essentiellement par des moyens informatiques qui les rendent aisées à surveiller par ces mêmes moyens informatiques. Au lieu de s’en tenir aux déclarations de leurs administrateurs, laconiques ou carrément mensongères, leurs métadonnées peuvent automatiquement fournir un portrait exact et détaillé, même en temps réel si on le souhaitait, de tous les types d’activités de surveillance réalisées par ces agences.

D’où la question : comment les parlements, gouvernements et sociétés civiles peuvent-ils orienter l’informatique et la surveillance qu’elle permet et, non pas seulement préserver les libertés et la démocratie, mais bien les renforcer?

Les nouveaux législateurs

Le premier défi vient du fait que si code et désign font loi alors un pouvoir social de plus en plus considérable échappe actuellement aux institutions démocratiques classiques. Il se retrouve plutôt entre les mains de technocrates, ingénieur-e-s, bidoulleuses et bidouilleurs et firmes informatiques commerciales.

Cela peut être des organisations informelles privées internationales comme l’Internet Engineering Task Force dans le cas d’Internet. Ou des entreprises commerciales ou des organisations professionnelles dans celui des pilules à micro puce.

Un tel détournement est facilité par le fait que, contrairement aux textes de lois et règlements qui sont écrits en langage naturel (français et anglais au Canada), codes et désign sont écrits dans des langages mathématiques et formels qui sont actuellement incompris par la quasi-totalité des citoyen-ne-s, y compris chez ceux qui forment la société civile, les législatures et les gouvernements.

Un exemple troublant est celui du Dossier Santé Québec en cours d’implantation. Dans les 10 dernières années, le gouvernement et l’Assemblée nationale ont tenu plusieurs consultations publiques sur l’implantation d’un résumé électronique d’informations médicales. Chaque fois, il y eut quasi-unanimité à maintenir le principe fondamental du consentement des patient-e-s à la communication de ses renseignements médicaux. Député-e-s, patient-e-s, professionnel-le- de la santé, pratiquement tous étaient d’accord sur le maintien du principe.

Sauf, qu’une fois amorcé le déploiement du Dossier Santé Québec, il a fallu admettre que le coûteux dispositif ne permettait pas l’exercice concret du consentement ad hoc du patient. D’où l’adoption en 2012 du projet de loi 59 qui abolit pratiquement ce consentement lorsque les renseignements médicaux passent par la machine Dossier Santé Québec. C’est désormais tout ou rien. Ou bien tous les professionnel-le-s et établissements de santé ont accès à tout le contenu du Dossier Santé Québec. Ou bien personne n’y a accès. Bref, le désign du système adopté nous a imposé de renoncer à un principe de droit fondamental sur lequel nous faisions consensus.

Pourtant, bien d’autres systèmes d’informations médicales existants ou possibles, non seulement maintiennent le consentement de la patiente ou du patient, mais rehaussent le contrôle que peuvent exercer patient-e-s et professionnel-le-s de la santé sur la communication d’ informations médicales.

Sauf que les député-e-s ont, sans en avoir jamais eu véritablement conscience, abdiqué leur pouvoir législatif au profit des technocrates réunis par Inforoute Santé Canada, l’organisation parapublique pancanadienne qui a conçu ce modèle de résumé électronique d’informations médicales.

En 2012, il n’était absolument pas trop tard pour que l’Assemblée nationale reprenne ce pouvoir. Mais cela impliquait de reprendre à neuf des développements informatiques qui avaient déjà coûté des centaines de millions de dollars.

L’informatique est politique

Si l’informatique peut mettre en œuvre n’importe quelle sorte d’instructions sur n’importe quel type d’informations supportant et organisant des rapports entre êtres humains, alors le choix d’un type particulier de dispositif numérique et des détails de son désign et de son code n’est pas prédéterminé par la technique. Un tel choix est fondamentalement de nature politique. Pareillement, pour le type de surveillance que permet ou non ce dispositif.

Premièrement le défi démocratique exige de nous, , de collectivement apprendre à distinguer les dimensions des innovations informatiques qui impliquent l’exercice d’un pouvoir social. Or, ces dimensions politiques ont souvent un caractère émergeant. Ainsi Internet, avant d’être l’infrastructure sociale qu’il est aujourd’hui, a été des protocoles de communications numériques développés indépendamment dans des réseaux interuniversitaires, interbancaires, téléphoniques et militaires. De même Facebook, avant de s’imposer mondialement comme aujourd’hui, n’a été qu’une proposition de réseautage social parmi des dizaines d’autres disponibles sur un marché ouvert.

Deuxièmement, il faut obliger les concepteurs à communiquer à la citoyenne et au citoyen concernés ces dimensions politiques de leurs innovations numériques d’une manière compréhensible, fiable et vérifiable.

Troisièmement, enfin, il faut démocratiser ces innovations, soit en amenant leur délibération dans des institutions démocratiques existantes ; soit en développant la capacité des citoyens et de la société civile à participer aux instances nouvelles.

Sur le plan des moyens, cela exige de développer :

  • dans la population une culture informatique et société qui va bien au-delà du savoir utiliser des dispositifs numériques professionnels ou personnels ;
  • une citoyenneté active des niveaux local jusqu’à international dans les forums de discussion où se discutent l’organisation et la régulation du social à travers le désign et le code numériques ;
  • une expertise et veille sociale publiques qui, en matière de surveillance, dépasse très largement la compétence des commissariats à la protection des renseignements personnels, car si cette problématique constitue un critère d’évaluation nécessaire, il demeure totalement insuffisant (donc inefficace seul) pour préserver les libertés, les droits de la personne et la démocratie; et enfin
  • une préférence pour des technologies ouvertes qui permettent, d’une part à tous d’en inspecter le détail du désign et du code source — ce qu’ils permettent à qui de faire ou non exactement, notamment en matière de surveillance — ainsi que de librement les adapter à des besoins démocratiquement définis.

Nous ne sommes qu’au seuil de la révolution numérique. À nous de la façonner en réinventant la démocratie elle-même.

Revenir à la Table des matières de la revue Droits et libertés

 



[1] A. Turing, « On computable numbers, with an application to the Entscheidungs problem » (problème de la décidabilité, NdA), Proceedings of the London Mathematical Society, Série 2, 42 (1936-7), 230–265.

[2] L. Lessig, Code and Other Laws of Cyberspace, New York, Basic Book, 2000,

[3] P. Péladeau, « L’informatique ordinatrice du droit et des procès d’information sur les personnes », Technologie de l’information et société, vol. 1, no. 3 (1989), 35-56.