Image réalisée par Sabeen Yameen pour l'APC, utilisée avec permission.

Par Hija Kamran

Cet article fait partie de la série « Ne demandez pas à l'IA, demandez à un pair » une collaboration entre Global Voices, l'Association pour le progrès des communications (APC) et GenderIT. Cette série vise à réaffirmer l'importance du partage des connaissances entre les personnes, comme cela se fait depuis des décennies. Vous pouvez suivre la série sur APC.org, GenderIT.org et globalvoices.org. Elle fait aussi partie de la série « Perspective humaines sur l'IA » d'avril 2026, publiée par Global Voices. Vous pouvez soutenir ce reportage en faisant un don ici.

Mon travail m'amène constamment à questionner les nouvelles technologies, à demander : comment sont-elles conçues, pour qui sont-elles créées, comment sont-elles contrôlées, qui en bénéficient et qui doit en assumer seul les conséquences. Ce scepticisme m'a conduite à adopter tardivement les nouvelles technologies plus de fois que je ne peux le compter.

L'année dernière, j'ai sérieusement commencé à me demander si une IA éthique et féministe était même possible. Pourrait-il exister une version de cette technologie qui nous permette, en tant que féministes et défenseurs des droits humains, de l'utiliser sans compromettre nos convictions politiques ni notre engagement en faveur de la défense des droits humains intersectionnels ?

Cette hésitation et cette absence d'empressement à adopter chaque nouvelle tendance technologique proviennent d'années d'observation du fonctionnement des entreprises technologiques. Elles ont maintes fois démontré que leur priorité est leur modèle économique, pas les personnes qui utilisent leurs plateformes. « Monsieur le Sénateur, nous diffusons des pubs », comme l'a dit un jour Mark Zuckerberg. Mais au-delà des déclarations qui deviennent virales, il y a aussi celles prononcées lors des réunions à huis clos. Par exemple, j'ai récemment demandé à un représentant d'une entreprise technologique, lors d'une conférence sur les droits, comment sa plateforme de réseau social faisait la distinction entre les interactions nocives et inoffensives lors de la diffusion de pubs. Il m'a répondu : « J'encourage les gens à lire nos conditions d'utilisation. » Le fait de supposer que les gens n'ont pas lu ces documents, surtout dans une salle où tout le monde a passé des années à analyser les modèles économiques des entreprises technologiques, m'a révélé le peu d'intérêt qu'il y a pour une interaction constructive et la transparence, sans parler de la prise de responsabilité.

Donc quand je me demande si l'IA pourra un jour être éthique ou féministe, même dans un futur parallèle, ce n'est pas par cynisme gratuit, mais après des années à observer la répétition des mêmes schémas. Les promesses de faire mieux, le discours soigneusement élaboré sur la responsabilité, la mise en scène de l'écoute, rien de tout cela n'a véritablement modifié la façon dont ces systèmes sont construits ni à qui ils profitent. Au contraire, cela a surtout mis en évidence que lorsqu'il s'agit de protéger nos droits, nous sommes largement livrés à nous-mêmes. Aucun gouvernement ni aucune entreprise technologique ne viendra les défendre pour nous ou avec nous.

Donc lorsque nous parlons d'une approche de l'IA fondée sur les droits de l'homme, cela signifie confronter et démanteler les systèmes qui sont intentionnellement conçus pour servir le pouvoir, non les individus, et refuser d'accepter que ce soit la seule façon pour ces technologies d'exister.

Mettre à l'épreuve le status quo technologique

Cette proposition part d'un constat que nous ne pouvons ignorer : la technologie n'est pas neutre. Elle renforce activement les mêmes structures de pouvoir patriarcales et coloniales sous lesquelles nombre d'entre nous vivons depuis des générations — une entité puissance (en l'occurence, une multinationale du secteur technologique) dicte la nature de nos interactions sociales, et le public s'y soumet sans poser de question. Ces systèmes sont conçus par des acteurs spécifiques, dans des lieux spécifiques, avec des visions du monde bien particulières. Il est donc important de savoir qui les construit, qui les contrôle, où ils sont construits, qui définit ce qui constitue une « norme d'excellence », et qui doit s'y conformer pour que ces systèmes continuent de fonctionner sans interruption. Tout cela façonne la manière dont le pouvoir s'exerce sur les récits et sur nos vies.

L'une des premières choses qu'il nous faut admettre c'est que la technologie n'a jamais été neutre. Cette idée a toujours été davantage une stratégie marketing dans laquelle beaucoup d'entre nous ont succombé, car chaque système porte les valeurs, les priorités et les préjugés des personnes et des institutions qui le conçoivent. Et l'IA ne fait pas exception, puisqu'elle repose sur une infrastructure et est entraînée sur des données qui reflètent le monde tel qu'il est, c'est-à-dire inégalitaire, biaisé et souvent violent, puis elle reproduit ces schémas à plus grande échelle, avec une couche d'autoritié qui les rend plus difficiles à remettre en question.

Prenons l'exemple des donnés d'entraînement. Ces systèmes sont alimentés par d'énormes quantités d'informations collectées sur Internet, qu'il s'agisse de documents publics ou d'interactions quotidiennes auxquelles nous participons sans même nous rendre compte. Et ces données sont façonnées par des histoires d'exclusion, de racisme, de sexisme et d'inégalités économiques. Quand l'IA apprend de ces données, elle les encode, les amplifie parfois, puis nous les présente comme des résultats neutres. Un contenu qualifié d'« intelligent » n'est souvent qu'une manière plus efficace de répéter ce qui existe déjà.

Ensuite il y a les biais des entreprises, qui sont bien moins subtils. Les entreprises qui développent ces systèmes ne sont pas des institutions publiques sujettes à leurs propres biais ; ce sont plutôt des entités à but lucratif avec des actionnaires et des objectifs de croissance. Cela influence tout, des problèmes qui méritent d'être résolus à la rapidité avec laquelle les systèmes sont déployés, souvent sans comprendre pleinement les conséquences. Quelles terres seront acquises pour de vastes centres de données qui laisseront une empreinte écologique durable mais augmenteront la valeur actionnariale, quelles connaissances seront volées et accaparées par les entreprises dans la course à l'IA la plus avancée, quelles vies seront qualifiées de « dommages collatéraux » dans cette guerre à la précision, qui sera réduit au silence et à l'invisibilité pour avoir tant vanté les innovations promises par ces systèmes ?

Tout cela mène à des inégalités plus difficiles à identifier car elles sont dissimulées sous des couches d'algorithmes, de code, d'automatisation, de complexité et de stratégies marketing minutieusement élaborées. Le monde numérique amplifie les problèmes du monde physique, souvent de manière plus difficile à percevoir et à contester.

Et le plus troublant est peut-être la façon dont l'IA contribue à la déshumanisation croissante. Dans les contextes militarisés, en particulier, les individus sont réduits à des données, des cibles à identifier, à suivre et à éliminer en quelques secondes. Les décisions aux conséquences mortelles sont de plus en plus souvent prises par des systèmes qui ne comprennent pas le contexte, l'histoire ou l'humanité. La réduction des êtres humains à de simples entrées et sorties, à des signaux à traiter, à des objectifs à atteindre, facilite la justification des préjudices dans les rapports et les comptes rendus.  Les morts et la destruction deviennent un indicateur de réussite, et les individus sont réduits à de simples chiffres sur un fichier, ce qui est un choix politique délibéré quant à la valeur que nous accordons à la vie humaine.

Elle ne peut pas être nous

Tout cela alimente également le discours de plus en plus répandu selon lequel l'IA finira par remplacer les humains. Mais si l'on prend du recul et que l'on observe la réalité, cette idée commence à s'effondrer. Ce que l'IA sait faire, c'est identifier des schémas, traiter d'énormes quantités de données, générer des réponses convaincantes et reproduire un ton qui semble humain. Ce que l'IA ne sait pas faire, c'est être humaine. Elle ne peut pas comprendre le contexte tel que nous le vivons, faire preuve d'empathie, entretenir des relations ni porter le poids de l'expérience vécue.

La reproduction de schémas pour simuler une connexion humaine n'est pas la même chose qu'une véritable connexion humaine. Elle ne découle ni de la compréhension ni de l'empathie ; elle repose plutôt sur des prédictions qui ne sont que des estimations statistiques basées sur les données entrées dans le système. Et lorsqu'on commence à considérer cela comme équivalent à l'interaction humaine, on finit par dévaloriser ce que signifie réellement comprendre l'autre. Le soin, la construction d'une communauté, la résistance, l'empathie, la joie, être présent l'un pour l'autre — ce ne sont pas des fonctions que l'on peut automatiser.

Même l'idée d'IA « consciente », qui continue de resurgir dans les débats technologiques, n'est souvent qu'un simple changement d'appellation pour des systèmes de prédiction plus complexes. En fin de compte, ces modèles génèrent toujours des résultats basés sur des probabilités façonnées par les données. Ils ne savent pas ce qu'ils disent et n'en comprennent pas les conséquences, car ils n'ont pas ce sentiment de responsabilité vis à vis des autres. Cette distinction est cruciale, surtout quand ces systèmes sont présentés comme des décideurs dans des domaines qui affectent considérablement la vie des gens.

Et c'est peut-être là qu'on peut faire le lien avec un problème encore plus grand. Lorsque nous commençons à croire que les humains peuvent être remplacés, il devient plus facile d'accepter des systèmes qui traite déjà les individus comme de simples données, que ce soit dans la recherche, le recrutement, les forces de l'ordre, la santé, l'aide sociale ou la guerre. La même logique qui réduit les personnes à de simples données les rend également jetable. S'opposer à ce discours, c'est donc s'accrocher à l'idée que la vie humaine, l'empathie, les expériences, les réalités et les relations ne peuvent être réduites à quelque chose qu'une machine peut simuler et optimiser.

Si nous voulons sérieusement envisager une approche de l'IA fondée sur les droits humains, nous devons d'abord abandonner cette idée que la technologie puisse nous remplacer, ou qu'elle soit prioritaire par rapport à nous, ou qu'elle puisse définir ce que signifie être humain. Elle ne peut pas, et elle ne devrait pas. Car tout ce que cette technologie puise — la terre, l'environnement, les ressources, le temps, l'énergie, des écosystèmes entiers — provient d'un monde qui existe pour les êtres vivants — humains, flore, faune — qui l'habitent depuis bien avant même que ces systèmes ne soient conceptualisés. Repenser cette relation implique de reconnaître que l'IA ne doit jamais se faire au détriment de la vie ou de la dignité, ou des conditions mêmes qui rendent la vie possible.

Besoin de responsabilisation

Cependant, la responsabilité de protéger le monde dans lequel nous vivons ne peut être reportée sur ceux qui ont le moins de pouvoir pour façonner ces technologies. Actuellement, des décisions sont prises dans des pièces auxquelles la plupart d'entre nous n'aurons jamais accès, et pourtant, c'est nous qui devons en subir les conséquences. Une approche fondée sur les droits humains implique de remettre en question ce déséquilibre et d'exiger que la responsabilité incombe à ceux qui détiennent le pouvoir.

Et peut-être cela signifie-t-il aussi que nous devrions être sceptiques dès le départ, non pas une fois le mal fait, mais au moment même où ces technologies sont introduites et commercialisées. Il est dans notre intérêt de poser rapidement les questions qui dérangent, comme d'où cela vient-il, qui l'a conçu, comment ça fonctionne, et qui en profite réellement ? Car sans cela, nous finissons par accepter ces systèmes comme s'ils étaient inévitables, au lieu de les considérer pour ce qu'ils sont : des choix. Et ce faisant, nous perdons de vue l'idée fondamentale que l'avenir doit être construit autour des êtres vivants, et non optimisés pour les machines.

Hija Kamran est rédactrice en chef de GenderIT.org et stratège en matière de plaidoyer au sein du programme Droits des femmes de l'APC. Son travail sur les politiques et les campagnes la spécialise dans les enjeux à l'intersection de la technologie, du genre et des droits humains.