Image réalisée par Ibrahim Kizza pour APC. Utilisée avec permission.

Cet article fait partie de la série « Ne demandez pas à l'IA, demandez à un pair » une collaboration entre Global Voices, l'Association pour le progrès des communications (APC) et GenderIT. Cette série vise à réaffirmer l'importance du partage des connaissances entre les personnes, comme cela se fait depuis des décennies. Vous pouvez suivre la série sur APC.org, GenderIT.org, et globalvoices.org. Elle fait aussi partie de la série « Perspectives humaines sur l'IA » d'avril 2026, publiée par Global Voices. Vous pouvez soutenir ce reportage en faisant un don ici.

En tant que l'un des pays les plus tristement célèbres pour son utilisation de l'IA à des fins de surveillance et de restriction des libertés des citoyens, la Chine ne peut apporter de réponse directe à la question de savoir comment développer une approche de l'IA respectueuse des droits humains. Pourtant, son adoption assumée de l'IA et ses ambitions de domination sur le marché mondial de l'IA peuvent servir d'étude de cas pour comprendre la relation florissante entre le secteur privé et l'État, entre la machine et la société.

En février 2026, un ingénieur espagnol, Sammy Azdoufal, a découvert qu'il pouvait prendre contrôle de 7 000 aspirateurs intelligents, visionner en temps réel les images des domiciles, écouter les sons environnants grâce aux caméras intégrées et localiser précisément les habitations grâce à leur adresses IP, simplement en déchiffrant la connexion entre son aspirateur DJI Romo récemment acquis, et sa manette PlayStation.

Bien que l'entreprise chinoise ait rapidement corrigé la faille de sécurité, cet incident souligne la facilité avec laquelle les technologies de surveillance basées sur l'IA peuvent s'infiltrer dans notre quotidien et les risques qu'elles représentent.

Les technologies de surveillance et de guerre basées sur l'IA s'accompagnent de menaces universelles

L'aspirateur intelligent mentionné précédemment est indisponible sur le marché américain car son fabricant, DJI, a été désigné comme « entreprise militaire chinoise » en 2022 et ajouté à la liste noire du Pentagone pour des raisons de sécurité nationale.

Dans ce contexte, les discussions sur les technologies de surveillance alimentées par l'IA et les menaces qu'elles représentent se sont largement limitées à la Chine, mais cette technologie est universelle et affecte les populations du monde entier.

La Chine est en effet pionnière dans l'utilisation de technologies de surveillance sophistiquées pour renforcer son régime répressif et a même exporté ces outils vers d'autres États autoritaires, comme l'ont largement documenté les médias internationaux. L'expérience chinoise, tant dans la gestion sociale des Ouïghours au Xinjiang que dans le système national de contrôle du COVID-19, montre que la surveillance humaine sous couvert de contrôle social et l'application de technologies de surveillance — reconnaissance faciale, système de crédit social, géolocalisation et suivi des données en ligne — fonctionne en tandem pour maintenir un système de contrôle de proximité qui parvient à prévenir tout acte déstabilisateur. La réalité orwellienne montre que, doté d'un puissant moteur d'IA, l'État peut consolider son pouvoir au détriment des libertés individuelles de réunion, d'expression et de mouvement.

Le marché mondial des technologies répressives

Ces technologies répressives de pointe ont une portée commerciale inimaginable. En Chine, les systèmes de reconnaissance faciale basés sur l'IA sont utilisés pour verbaliser les piétons traversant hors des passages piétons et les véhicules stationnés illégalement, traiter les paiements en ligne et hors ligne, et surveiller les résultats scolaires des élèves, entre autres.

Alors que les États démocratiques se montrent sceptiques quant à l'utilisation par la Chine de la surveillance par IA, ces réticences les incitent simplement à acquérir des outils d'IA similaires auprès de fournisseurs non chinois. La police britannique, par exemple, a récemment acheté la technologie de reconnaissance faciale par IA utilisée par les services de renseignement israéliens pour identifier et suivre les civils palestiniens transitant par Gaza. Les 50 appareils de reconnaissance faciale par IA seront déployés à l'échelle nationale pour identifier et suivre les personnes figurant sur la liste de surveillance de la police britannique. Aux États-Unis, l'IA a également été utilisée dans le cadre de la surveillance et de l'arrestation massives d'immigrants sans papiers, ainsi que lors de la récente guerre contre l'Iran.

Sur le plan numérique, l'impact de l'IA sur les médias et l'écosystème de l'information a été dévastateur. La censure intégrée et les biais politiques de DeepSeek, une IA générative chinoise, utilisée pour diffuser un discours pro-chinois, ont été largement documentés.

En parallèle, les IA génératives occidentales se montrent également utiles pour diffuser de la propagande sur Internet. Comme le révèlent les rapports de transparence d'OpenAI, des opérateurs russes et chinois de la désinformation ont utilisé ChatGPT pour analyser l'opinion publique et adapter les contenus à leurs publics cibles. Récemment, dans le contexte de la guerre israélo-américaine contre l'Iran, la propagande de guerre, sous forme de vidéos deepfake générées par l'IA, a également inondé les principales plateformes de médias sociaux.

Une minorité d'opérateurs de désinformation peut désormais manipuler la perception de la réalité par la majorité grâce à leurs assistants IA.

La nécessité de rééquilibrer les pouvoirs

La Chine a également un enseignement vital à offrir au monde en matière de gouvernance de l'IA. Depuis 2022, elle a mis en place une série de lois et de réglementations, notamment les Dispositions relatives aux recommandations algorithmiques (2022), les Dispositions relatives à la gestion de la synthèse profonde (2023), les Mesures transitoires relatives à l'IA génératives (2023), et les Mesures d'indication de l'IA (2025), pour empêcher l'utilisation illégale et malveillante de l'IA et de garantir que les contenus générés par machine soient conformes aux valeurs socialistes fondamentales de la Chine. Les droits des utilisateurs concernant la protection des données personnelles, le consentement et l'accès à ces données ont été équitablement pris en compte, avec des exigences supplémentaires en matière de responsabilité des entreprises pour renforcer la transparence des algorithmes et garantir des mesures non discriminatoires et non addictives.

Pourtant, alors que l'objectif des lois est de protéger la sécurité nationale, l'ordre public et l'idéologie politique, il n'y a aucune restriction sur le pouvoir de l'État. Sur les réseaux sociaux chinois, il n'est pas rare de voir les utilisateurs se plaindre que la police ait frappé à leur porte simplement parce qu'ils avaient acheté un objet suspect, comme un drone pour prendre des photos. Le système de crédit social, associé à la censure en ligne, à un système de gestion des réseaux et à d'autres dispositifs de contrôle social, surveille l'activité en ligne des utilisateurs, notamment leurs transactions financières, leurs interactions sociales et leurs propos. Il restreint leur accès aux services numériques et publics, tels que les systèmes de paiement en ligne et les réservations de voyages, lorsque leur score de crédit est faible et qu'ils sont inscrits sur la « liste des personnes malhonnêtes » établie par les tribunaux chinois.

Les obligations légales imposées au secteur privé semblent justifiées. Pourtant, rares sont les organisations de la société civile indépendantes chargées de surveiller ce secteur et de s'assurer que les entreprises technologiques appliquent bien les mesures de protection requises par la loi. De ce fait, les failles de sécurité et les fuites de données personnelles dues à des produits d'IA mal conçus, comme l'aspirateur DJI Romo, persistent ces dernières années. En 2025, une importante fuite de données a exposé les informations de milliards d'utilisateurs chinois, notamment leurs noms, numéros d'identité, mots de passe et coordonnées bancaires et financières liées à leurs comptes sur les réseaux sociaux. Ces données pourraient être exploitées par des escrocs pour nuire aux personnes concernées.

Malgré tous les risques sécuritaires, les citoyens de Chine continentale ont rapidement adopté les nouvelles technologies, en particulier l'IA. Le dernier exemple en date, observé début mars dans les grandes villes chinoises, est l'engouement pour OpenClaw, un robot conversationnel d'IA conçu par le programmeur autrichien Peter Steinberger qui intègre d'autres robots d'apprentissage automatique (LLM) comme DeepSeek et Claude, fonctionne sur un ordinateur local et stocke les données localement. Saisissant l'opportunité, d'autres entreprises chinoises, dont Tencent, ByteDance et Xiaomi, ont lancé des produits similaires. Un tel fanatisme technologique, alimenté à la fois par la politique du gouvernement chinois visant à intégrer les technologies de pointe à l'économie et par la crainte d'être laissé pour compte face à l'innovation technologique rapide, transforme les gens en adeptes d'un géant technologique auquel ils consacrent leur temps, leur énergie, leurs désirs, leurs idées et leurs données, sans savoir qui les contrôle ni où cela pourrait les mener.

Bien que la transparence et la protection des droits des consommateurs soient inscrites dans la législation chinoise sur l'IA, la protection des droits humains reste insuffisante, car les citoyens ignorent leurs droits et les risques liés à une utilisation abusive et malveillante de cette technologie. À la place, la plupart des citoyens de Chine continentale, faute de choix, ont accepté les technologies de surveillance, comme l'omniprésence des caméras de sécurité à reconnaissance faciale, comme une caractéristique normale et pratique de la vie publique. Tout mécanisme de changement est bloqué.

On peut voir dans la dystopie chinoise de l'IA que les citoyens ne maîtrisent pas la technologie, mais sont soumis à un régime qui la perçoit comme un moyen d'étendre et de consolider le pouvoir politique et économique de l'État. Ceci démontre que l'approche des droits humains en matière d'IA doit viser à rééquilibrer les pouvoirs entre l'État-entreprise, la machine et les individus, grâce à un cadre décisionnel qui replace l'humain au centre, et à la lutte contre le fanatisme technologique par le biais de recherches centrées sur l'humain, de débats publics, de pratiques culturelles réflexives et d'une éducation aux sciences humaines.