Image créée sur Canva par Global Voices.

Cet article fait partie de la série «Perspectives humaines sur l'IA » d'avril 2026, publiée par Global Voices. Cette série vise à explorer l'utilisation de l'IA dans les pays de la majorité mondiale, comment son utilisation et son exécution affectent des communautés individuelles, ce que cette expérience implique pour les générations futures, et bien plus encore. Vous pouvez soutenir ce reportage en faisant un don ici.

En novembre 2023, un groupe de parents d'élèves d'une école à Rio de Janeiro a signalé à la police que des adolescents créaient et partageaient des images de nus générées par intelligence artificielle (IA) mettant en scène d'autres élèves. Moins d'un an plus tard, en septembre 2024, dans l’État de Bahia, un autre groupe d'adolescents a également été soupçonné d'utiliser l'IA pour créer des images pornographiques d'autres élèves, tandis que dans l'État du Mato Grosso, des élèves ont été exclus après avoir partagé dans des communautés pornographiques sur les réseaux sociaux des images IA représentant un professeur et d'autres élèves.

Ce ne sont là que quelques exemples de cas récents rapportés par les médias brésiliens et mentionnés dans une note technique publiée début avril 2026 par le centre de recherche indépendant Internetlab. Ce document vise à discuter des « moyens de lutter contre la violence en ligne à l'encontre des filles et des femmes au Brésil » et à recommander des discussions réglementaires adaptées au contexte national.

Selon le Forum brésilien de sécurité publique, rien qu'en 2025, le Brésil a enregistré 1 568 féminicides, soit une augmentation de 4,7 % par rapport à l'année précédente et le chiffre le plus élevé depuis la signature de la loi criminalisant ce type de crime, dix ans auparavant. La recrudescence des violences sexistes relayée par les médias a provoqué des manifestations fin 2025. Par ailleurs, la multiplication des contenus misogynes en ligne « alimente ces violences », rapporte Deutsche Welle.

Pour Clarice Tavares, directrice de recherche chez Internetlab et co-auteure de la note technique, interrogée par Global Voices, les violences sexistes, en ligne comme hors ligne, s'inscrivent dans une même structure misogyne : elles coexistent et son interdépendantes. « Nous traversons une période complexe de recrudescence des violences faites aux femmes, et les politiques publiques doivent prendre en compte ces contextes spécifiques », analyse-t-elle.

Abordant la question de l'intelligence artificielle et des questions de genre, Tavares souligne que les bases de données utilisées par les plateformes peuvent être biaisées et, par conséquent, influencer leurs résultats. Internetlab a choisi d'examiner la violence liée à l'IA dans sa note technique, explique-t-elle, en raison de son impact plus large et de la possibilité de la combattre par une réglementation appropriée.

Entre autres choses, le document d'Internetlab souligne les risques associés aux « deepfakes à contenu sexuel non consensuel » et plaide pour que cette possibilité soit classée comme « risque excessif », notant que « ces technologies affectent les femmes et les filles de manière disproportionnée ».

Uma pesquisa conduzida pela Security Hero demonstrou que deepfakes sexualmente explícitas representam 98% de todos os vídeos de deepfake online, e que 99% das pessoas alvo desses conteúdos eram mulheres. A pesquisa também indicou um aumento de 464% do número de deepfakes sexuais entre 2022 e 2023.

Une étude menée par Security Hero a révélé que les deepfakes à caractère sexuel explicite représentent 98 % de toutes les vidéos deepfake en ligne, et que 99 % des personnes ciblées par ce type de contenu sont des femmes. L'étude a également indiqué une augmentation de 464 des deepfakes à caractère sexuel entre 2022 et 2023.

Bien que Tavares affirme que le problème ne se limite pas à une seule plateforme, elle cite Grok, l'IA intégrée à X, comme la partie émergée de l'iceberg, exposant un problème plus vaste déjà répandu en ligne.

Je pense que cette affaire mérite toute notre attention, car l'IA qui a permis la création de ce type de contenu était déjà intégrée à son propre réseau social, ce qui a contribué à amplifier sa portée. C'était très flagrant. Je pense qu'il s'agit d'un problème systémique, mais le cas de Grok a rendu impossible de l'ignorer et de s'inquiéter de la situation actuelle. Il était évident que plusieurs failles existaient dans les outils et les plateformes qui ont permis à ces phénomènes de se produire à une telle échelle.

Que dit la loi au Brésil ?

Au cours de la dernière décennie, le Brésil a connu des avancées législatives concernant les droits en ligne. L'année dernière, 11 ans après que Marco Civil da Internet — une loi qui constitue le cadre juridique brésilien des droits civiques sur Internet — a été signée, la Cour suprême fédérale (STF) a voté pour considérer l'un de ses articles partiellement inconstitutionnel. L'article 19 portait sur la responsabilité civile des plateformes quant aux contenus publiés par des tiers (utilisateurs). La majorité des juges a estimé que, dans le contexte actuel, cette norme était insuffisante pour protéger les droits fondamentaux et la démocratie.

« Il nous reste encore beaucoup à faire pour comprendre comment cette décision sera mise en œuvre. Un nouveau régime relatif à la responsabilité des plateformes a établi des règles de fonctionnement en attendant l'adoption d'une réglementation plus solide. Les plateformes ont désormais davantage d'obligations en matière de modération des contenus, la décision nous invite donc à repenser leur responsabilité et leurs obligations », explique Tavares.

Dans le contexte des violences sexistes en ligne, elle souligne également l'importance d'avoir une définition juridique de la misogynie pour mettre en œuvre la décision de la Cour suprême. « Nous souhaitons adapter cette décision aux politiques publiques et à la législation existantes en matière de violences sexistes, afin de les adapter à ce nouveau contexte de violence numérique » explique-t-elle.

L'analyse d'Internetlab mentionne une augmentation des projets de loi visant à criminaliser les comportements misogynes, le mouvement dit de la « pilule rouge » et la « manosphère », mais note que, bien qu'il s'agisse d'une étape importante pour lutter contre ce problème, le choix de la criminalisation comme la seule et unique solution pourrait limiter l'efficacité des stratégies de prévention et de réparation pour les victimes.

Leur recommandation concernant l'IA inclut, par exemple, la création de programmes d'enseignement sur la culture numérique afin de développer une analyse critique du fonctionnement des algorithmes, des plateformes, des outils d'intelligence artificielle et des autres éléments de l'écosystème numérique.

Quant aux plateformes, la note recommande l'adoption de mesures de sécurité dès la conception de leurs projets (sécurité intégrée), « afin de prévenir la création et la diffusion de ce type de contenu » qui cible principalement les femmes et les enfants. Les deepfakes à caractère sexuel non consensuel devraient être considérés comme un « risque excessif », leur utilisation et leur application devant être interdites, et des règles concernant la responsabilité et les obligations des plateformes numériques et des agents d'IA devraient être établies.

La Fondation Movember, une organisation de santé masculine, estime que deux tiers des jeunes hommes interagissent régulièrement avec des influenceurs prônant la masculinité en ligne. Un article publié par ONU Femmes indique que « les experts constatent que la popularité d'un discours extrémiste dans la sphère masculine non seulement normalise la violence à l'égard des femmes et des filles, mais est de plus en plus liée à la radicalisation et aux idéologies extrémistes ».

À l'approche des élections au Brésil, alors que des cas de vidéos générées par IA montrant des violences contre des électrices sont signalés, Tavares estime que de nouvelles dimensions de la violence politique sexiste doivent être prises en compte. « Avec la production de vidéos ou même les chatbots comme Gemini, ChatGPT, ou Claude, nous constatons que l'IA sera probablement utilisée comme un outil d'accès à l'information, et qu'elle pourrait engendrer des biais sexistes, reproduisant ainsi les violences sexistes et politiques. Nous cherchons encore à évaluer l'impact qu'elle peut et va avoir à l'avenir. »