Illustration par Tactical Tech, avec des éléments visuels de Yiorgos Bagakis et Alessandro Cripsta.

Cet article a été écrit par Safa Ghnaim en collaboration avec l'Institut Goethe du Brésil et a été initialement publié sur DataDetoxKit.org. Une version éditée est republiée par Global Voices dans le cadre d'un accord de partage de contenu.

Les outils d'intelligence artificielle (IA), en particulier celles qui génèrent des images, des vidéos et des audios sont mises en avant comme des « applications de créativité » pour les personnes et comme des « outils efficaces » pour les entreprises. Cependant, il existe très peu de moyens de contrôler l'utilisation réelle et les dégâts provoquées par ces images créées de façon artificielles.

Il n'est pas surprenant que les outils d'IA soient en train d'aggraver le problème du harcèlement en ligne, par exemple, à travers la création et la distribution d'images intimes sans consentement. Ces images correspondent à des photos ou des vidéos intimes de personnes nues, ou d'images sexuellement suggestives ou explicites qui exposent un vrai corps ou un corps généré par IA d'une personne et qui sont diffusées sans consentement.

La diffusion d'images intimes non consenties touche de nombreuses personnes, pas seulement des célébrités, et ce n'est pas facile à gérer. Les plateformes et les autorités luttent pour contrôler la situation.

La face cachée de l'Iceberg

La technologie avance de façon si rapide que maintenant il suffit d'une simple image d'une personne (et cela comprend une image même innocente) pour créer un contenu sexuel explicite avec un des nombreux outils d'intelligence artificielle.

Bien que certains de ces outils aggravent le problème de harcèlement, en facilitant la création d'images intimes non consenties de n'importe quelle personne, d'autres sont utilisés pour combattre ce phénomène. Cependant, les outils créés par l'IA et qui sont entrainés pour détecter des images générées par IA ne sont pas parfaits, et une grande partie du travail pour les identifier et les éliminer requiert des personnes qui travaillent en tant que modérateurs de contenus.

Un des cas les plus illustratifs de 2024 a impliqué des images complètement fausses sexuellement et explicites générées par IA de Taylor Swift. Ces images sont apparues d'abord sur 4 chaînes et, en quelques minutes, ont été diffusées rapidement sur de nombreux réseaux sociaux. Une de ces images a été vue plus de 47 millions de fois avant d'être supprimée. Il est possible que ces images soient toujours diffusées en ligne, puisqu'il n'y a pas de réelle façon de les supprimer complètement d'Internet.

Mais ceci n'est pas un cas isolé. Selon une étude de 2021, 41% des 10 000 personnes interrogées aux Etats-Unis ont expérimenté une forme de harcèlement en ligne. Parmi les interrogés de moins de 35 ans, 33% des femmes et 11% des hommes ont dit qu'ils avaient eu des expériences d'harcèlement sexuel en ligne.

De façon similaire, une analyse de 2023 de plus de 95 000 vidéos a montré que 98% sont des faux contenus pornographiques et, parmi eux 99% des personnes ciblées sont des femmes. D'autres groupes vulnérables, comme les mineurs et les personnes LGBTQ+, sont également victimes d'harcèlement sexuel en ligne de façon disproportionnée.

Comment se protéger de ce type de harcèlement ?

Il existe certains mécanismes de protection qui ont été implémentés dans  les plateformes pour t'aider à bloquer tes informations et les protéger des regards non désirés. Bien que ces conseils ne seront pas une forteresse impénétrable, ils peuvent rendre plus difficile la tâche aux harceleurs ou à ceux qui essayent de faire du mal en t'atteignant.

Chaque plateforme est différente et possède des configurations et options accessibles pour les utilisateurs. Comme exemple ici il y a les actions que tu peux prendre pour ajuster les contrôles sur Instagram  et TikTok :

• Configure ton profil en mode “privé”. Sur les plateformes comme Instagram et TikTok, tu peux configurer ton profil en mode privé pour qu'uniquement les personnes que tu connais comme tes followers puissent voir ce que tu diffuses. Cependant, ils pourront toujours voir tes commentaires sur des publications d'autres personnes y compris t'envoyer des messages. Apprends comment configurer ton profil en mode privé sur Instagram et TikTok.

• Élimine les followers ou bloque les personnes. Si quelqu'un te cause des problèmes ou te fait te sentir inconfortable, tu peux l'éliminer de tes suiveurs ou le bloquer complètement. Apprends comment bloquer des personnes sur Instagram et TikTok.

Il faut une communauté

Si nous regardons la quantité de personnes qui sont harcelées en ligne, il parait logique de supposer qu'il y a beaucoup de harceleurs. Mais la réalité est qu'il faut uniquement une personne mal intentionnée pour causer des dégâts de façon générale. Considéreriez-vous comme harceleur une personne qui diffuse du contenu intime sans consentement, bien qu'il ne soit pas celui qui ait généré les images à l'origine? Dans le cas de Taylor Swift, il a fallu quelques personnes pour créer son contenu intime sans consentement, mais cela n'aurait pas été si viral si des personnes ne l'avaient pas diffusé.

Donc, comment peux-tu devenir un allié pour une personne qui se fait harceler? Peu importe quelle plateforme tu utilises, le plus probable est que tu aies une fonction pour “dénoncer”. Les applications comme Instagram, te permettent de dénoncer les publications spéciales ou les profils si tu vois quelque chose de semblable à du harcèlement. Dénoncer sur Instagram est une excellente option pour signaler les personnes ou les situations problématiques que tu peux voir ou entendre. Instagram ne donnera pas le nom de la personne qui dénonce à la personne dénoncée.

Quand tu dénonces sur Instagram, la plateforme peut éliminer la publication ou avertir, désactiver ou bannir le profil, en fonction de ce qui s'est passé et de la violation ou non des lignes directrices de la communauté. Il convient de noter que les lignes directrices de la communauté Meta ne sont pas toujours utiles, et éliminer les publications ou interdire les comptes a causé diverses controverses.

Si vous connaissez personnellement la personne harcelée, contactez-la si vous n'avez aucun problème à la contacter. Il se peut qu'elle ne se rende pas compte de ce qui se passe et qu'elle réagisse avec détresse, colère ou tristesse. Si vous vous sentez prêt à la soutenir, vous pouvez lui offrir des ressources (comme celles qui figurent à la fin de ce guide) et l'aider à surveiller et à documenter le harcèlement.

Bien que vous ne souhaitiez probablement pas revoir les images de harcèlement, il peut être utile de les documenter avant qu'elles ne soient supprimées. Envisagez de prendre une vidéo ou une capture d'écran du message ou du commentaire, avec le nom du compte de l'autre personne et la date. Conservez cette preuve dans un endroit sûr, hors de vue, sur votre téléphone ou votre ordinateur. Par exemple, sur certains téléphones, vous pouvez créer un « dossier sécurisé » protégé par un mot de passe.

Ces preuves peuvent être utiles au cas où la personne concernée déciderait de porter l'affaire devant un tribunal et aurait besoin de preuves.

Il est important que la personne concernée décide de ce qu'elle veut faire : veut-elle contacter les autorités, engager un avocat ou contacter son école, son université ou son lieu de travail ? Ou préfère-t-elle garder la situation aussi confidentielle que possible ? Dans les cas de diffusion d'images intimes sans consentement, les victimes sont privées d'une grande partie de leur pouvoir de décision ; veillez donc à les aider à reprendre le contrôle.

 Savoir vers qui se tourner

Si vous ou une personne de votre entourage faites l'objet d'images intimes sans consentement, sachez qu'il existe des organisations dédiées à cette question qui sont prêtes à vous aider. Vous n'avez pas à faire face seul à ces situations. Voici quelques organisations qui soutiennent les anglophones :

• Chayn (dans le monde entier) : Chayn fournit des ressources et un soutien aux victimes de violences sexistes.
• StopNCII (dans le monde entier) : StopNCII dispose d'une base de ressources et d'un outil qui peut vous aider à supprimer les images intimes non consensuelles.
• Take Back the Tech (mondial) : propose des explications et des ressources telles que Hey Friend, qui donne des conseils sur la manière dont tu peux soutenir tes amis lorsqu'ils sont victimes de harcèlement.
• National Sexual Assault Hotline de RAINN (États-Unis) : RAINN propose une ligne téléphonique privée où vous pouvez discuter en ligne ou appeler un membre du personnel formé à la gestion de crise.
• Take It Down (États-Unis) : vous aide pas à pas à déposer une demande de retrait d'images intimes diffusées sans consentement.
• Cyber Civil Rights Initiative (CCRI) (États-Unis) : comprend des guides étape par étape et des listes d'avocats et de lois aux États-Unis. Une liste de ressources internationales est également disponible.
• Revenge Porn Helpline (Royaume-Uni) : offre des conseils aux adultes qui ont été victimes de brimades.
• Umi Chatbot  (Australie) : il s'agit d'un moyen rapide d'obtenir des informations sur la manière de traiter les images intimes diffusées sans le consentement de l'intéressé. Le site web propose également des ressources sur la manière de recueillir des preuves et de faire un rapport.

Pour plus de conseils et de ressources sur la manière de faire face au harcèlement en ligne :

• You're Not Powerless in the Face of Online Harassment (Vous n'êtes pas impuissant contre le harcèlement en ligne.)
• What to do if you or someone you know is targeted with deepfake porn or AI nudes (Que faire si vous ou une personne de votre entourage êtes victime de pornographie ultra-fausse ou de nudité générée par l'IA).