Callum Voge. Photographie utilisée avec sa permission.

Global Voices a interviewé Callum Voge, directeur des affaires gouvernementales et du plaidoyer à l’Internet Society, pour discuter des défis liés à la législation sur la technologie. L'entretien a été édité pour plus de clarté et de concision.

Global Voices (GV) : Quelles sont les caractéristiques d'une bonne législation en matière d'Internet ?

Callum Voge (CV) : Une bonne législation en matière d'Internet est possible lorsque les décideurs politiques et le public sont informés. C'est le plus simple. Il est très important que la politique numérique soit élaborée en consultation avec des experts.

Les décideurs politiques doivent se poser certaines questions. Tout d'abord, la proposition est-elle réellement réalisable sur le plan technologique ? Ensuite, cette législation a-t-elle des conséquences qui pourraient ne pas être évidentes – des conséquences négatives inattendues ? Et si elles existent, comment y remédier ? Comment y remédier ?

À l’Internet Society, nous avons mis au point la boîte à outils d'évaluation de l'impact de l'Internet pour faciliter ce processus, en identifiant ce dont l'Internet a besoin pour exister et ce dont il a besoin pour prospérer. Tout comme il est d'usage dans de nombreux pays d'effectuer une évaluation de l'impact sur l'environnement lors du lancement d'un grand projet, il convient de procéder de la même manière pour les politiques relatives à l'Internet ou au numérique. Nous sommes très heureux qu'elle ait été utilisée, par exemple, par l'Union européenne récemment.

Avec notre communauté, nous avons identifié quatre grands principes essentiels pour l'Internet : il doit être ouvert, mondial, sûr et digne de confiance. D'autres caractéristiques décrivent ce dont l'Internet a besoin pour prospérer et atteindre son potentiel : accessible, sans restriction, collaboratif, décentralisé, commun, technologiquement neutre, et confidentiel. Il s'agit là de principes essentiels.

Nous sommes heureux de voir les gouvernements, les activistes et la société civile utiliser cette boîte à outils. Et ensuite, par le biais du processus d'élaboration des politiques, nous espérons un changement positif. L'objectif, bien sûr, est de faire en sorte que l'Internet devienne une ressource pour tous qui profite à tous.

GV : Il est difficile de légiférer sur l'Internet car il faut trouver un équilibre entre des éléments très importants mais différents – presque contradictoires – comme permettre la liberté d'expression tout en limitant la désinformation et les discours haineux. Que pensez-vous de la façon de marcher sur cette corde raide ?

CV : C'est une question très délicate, n'est-ce pas ? Car les problèmes que nous observons, comme vous l'avez mentionné : la désinformation, les contenus nuisibles en ligne, ou encore des choses horribles comme les abus sexuels sur les enfants sont bien présent, et doivent être traités d'une manière ou d'une autre. Bien entendu, nous soutenons les gouvernements qui tentent de trouver des moyens de rendre l'Internet plus sûr.

Mais, en même temps, certaines approches ne sont, à notre avis, ni proportionnelles ni efficaces. Nous avons beaucoup travaillé sur le projet de loi britannique sur la sécurité en ligne et sur la proposition de l'Union européenne visant à lutter contre les abus sexuels sur les enfants en ligne.

Ces deux textes ont des objectifs très positifs et se trouvent à des stades différents du processus législatif. Le projet de loi britannique sur la sécurité en ligne a été adopté en septembre et a reçu l'assentiment royal pour devenir une loi. Le processus européen en est à un stade moins avancé ; le Conseil, le Parlement et la Commission négocieront et tenteront de trouver un terrain d'entente.

Mais, avec ces deux propositions, nous voyons de nouvelles obligations pour les plateformes sous la forme d'ordres de détection. Cela signifie que les plateformes seraient poussées à affaiblir le cryptage ou à créer des portes dérobées de cryptage ou ce que l'on appelle le client side-scanning  (ou « analyse côté client ») pour accéder aux messages privés. Ils estiment que les messages privés doivent être surveillés et qu'ils doivent modérer ce type de contenu.

Il s'agit là d'une demande très effrayante, qui ne se limite pas aux pays dotés de gouvernements non démocratiques.

L'idée des “portes dérobées de chiffrement” est qu'une clé est créée pour le gouvernement afin qu'il puisse décrypter les messages et les données, comme un cadenas de la TSA (Transportation Security Administration ou l'Administration de la Sécurité des Transports) qui peut être ouvert par la TSA mais qui reste verrouillé autrement – comme si le gouvernement n'avait jamais eu l'habitude de mettre son nez dans les affaires des gens. Même si vous êtes convaincu que votre gouvernement n'abusera pas de ces pouvoirs, il y a d'autres problèmes. Ce que nous essayons toujours de faire comprendre, c'est que lorsque vous créez une porte dérobée pour le chiffrement, il s'agit d'une faiblesse systémique dans le chiffrement. Cela signifie que non seulement le gouvernement, mais aussi les criminels peuvent exploiter cette faiblesse. Le gouvernement doit également s'inquiéter de ce que l'on appelle les acteurs publics hostiles, c'est-à-dire les autres gouvernements, qui exploitent également ces faiblesses. Ce que nous essayons toujours de souligner, c'est qu'il n'existe pas de porte dérobée qui ne fonctionne que pour les gentils et pas pour les méchants. Une porte dérobée reste une porte dérobée.

Le gouvernement britannique affirme qu'il existe un moyen de le faire en toute sécurité sans violer le cryptage de bout en bout. Les technologues ne sont pas d'accord. Il n'y a pas de technologie connue pour faire cela. Si vous brisez le cryptage, vous le brisez, un point c'est tout. C'est aussi simple que cela.

GV : Existe-t-il d'autres solutions que les portes dérobées de cryptage ?

CV : Une alternative à la porte dérobée de chiffrement est le client site scanning (ou « analyse côté client »). En gros, il s'agit d'un système qui intègre quelque chose sur l'appareil de l'utilisateur et qui analyse le contenu du texte, des images, des fichiers, etc. et le compare à une base de données de contenus répréhensibles avant même que les messages ne soient envoyés. Les forces de l'ordre sont averties en cas de correspondance.

Les décideurs politiques mettent en avant ce système parce qu'ils affirment qu'il ne brise pas le cryptage. Ils ont peut-être raison sur le plan technique, car l'analyse se fait sur nos téléphones avant même que le cryptage ne commence, mais cela va à l'encontre de l'objectif même du cryptage. La métaphore que nous aimons utiliser est que briser le cryptage revient à ouvrir une lettre. Lors de son envoi, le bureau de poste représente cette « analyse côté client ». En d'autres termes, c'est comme si quelqu'un lisait votre lettre par-dessus votre épaule, pendant que vous l'écriviez.

En fin de compte, le résultat est le même. C'est la fin de votre vie privée.

De plus, ce n'est même pas un moyen efficace de scanner. D'une part, les vrais criminels le contourneront facilement. Ce sont les gens normaux qui seront tous scannés. D'autre part, plus de données ne signifie pas plus d'arrestations ou de condamnations, car plus de données nécessitent plus de ressources pour être traitées.

Ces menaces contre le cryptage et la messagerie privée sont menées par des démocraties établies, notamment le Royaume-Uni et l'Union européenne. C'est vraiment dangereux parce que cela normalise et légitime cette approche, et d'autres gouvernements dans le monde adopteront des lois similaires, et des gouvernements plus répressifs pourront utiliser ces pouvoirs pour réprimer les dissidents, les journalistes et les activistes.

GV : Que pensez-vous de l'IA et de sa réglementation ? Avez-vous des idées sur la manière dont nous devrions réglementer ou est-ce que cela revient simplement aux deux choses principales que vous avez dites au début, c'est-à-dire parler aux experts et leur demander ce qui fonctionnera et quelles sont les implications ?

CV : C'est très intéressant parce que, comme nous le savons, l'intelligence artificielle présente des opportunités, mais aussi beaucoup de défis et de risques. Et bien sûr, pour nous, l'intérêt est que si l'IA n'est pas digne de confiance, l'Internet ne le sera pas non plus. Nous pensons qu'il y a un lien étroit entre les deux. Comme il s'agit d'un domaine qui évolue très rapidement, l’Internet Society n'a malheureusement pas la capacité de diriger ce domaine politique, mais nous reconnaissons qu'il s'agit d'un domaine important car, si l'éthique et les valeurs ne sont pas prises en compte lors du développement de l'IA, la confiance dans l'Internet s'en trouvera amoindrie.

Je pense que la diversité des points de vue est nécessaire car l'un des grands problèmes auxquels beaucoup de gens s'identifient est le potentiel de partialité et la répétition des préjugés qui existent dans la société. Pour vraiment comprendre ces préjugés technologiques, nous devons parler, aux technologues, bien sûr, aux décideurs politiques et aux groupes d'intérêt, mais surtout aux groupes défavorisés au sein de nos sociétés et de nos communautés. C'est une question d'éthique, et il s'agit d'empêcher que ce genre de mauvais traitements ne se répète dans l'espace numérique.

GV : Avez-vous observé des tendances dans la législation, dans son évolution au cours des trois dernières années ?

CV : Oui, sans aucun doute. Il existe un risque de fragmentation de l'Internet, car différents pays adoptent des lois différentes régissant l'Internet, et il sera de plus en plus difficile d'offrir les mêmes services partout. Une tendance connexe que nous observons est la souveraineté numérique, un terme à la mode utilisé par de nombreux gouvernements – il existe différentes variantes : souveraineté numérique, souveraineté sur l'Internet, souveraineté dans l'espace numérique, tous ces termes sont synonymes et utilisés par différents gouvernements.

La signification varie d'un gouvernement à l'autre. Pour certains pays, il s'agit simplement de diversifier leur chaîne d'approvisionnement ; ils ne veulent pas dépendre de technologies importées. Pour d'autres pays, il s'agit davantage de concurrence – dans le cas de l'Europe, ils veulent s'assurer que des fournisseurs de services locaux existent et qu'il y a des alternatives légitimes aux grands fournisseurs étrangers.

Enfin, la dernière définition, qui est bien sûr plus courante chez les gouvernements plus autoritaires, est la souveraineté de l'État dans le domaine numérique, c'est-à-dire la capacité de contrôler le flux d'informations sur l'Internet. Quelles qu'en soient les raisons, c'est en fin de compte l'État qui décide de ce qui est légitime et de ce qui ne l'est pas, parfois à travers le prisme de ce qui constitue une menace pour sa légitimité en tant que gouvernement.

Ainsi, lorsque nous parlons de nos politiques de souveraineté numérique comme étant naturellement bonnes ou mauvaises, il est impossible de le dire, car il existe un large éventail de politiques qui en découlent. Ce que nous pouvons dire, cependant, c'est que cette tendance est préoccupante. Elle prend l'Internet mondial existant que nous connaissons et sur lequel nous comptons et lui applique des frontières géographiques. Au fur et à mesure que ce point de vue sera normalisé par les décideurs politiques, nous pouvons nous attendre à voir apparaître de nouvelles politiques qui transformeraient notre Internet mondial en une série d'intranets fragmentés qui ne sont pas entièrement connectés les uns aux autres.