Taiwan : les victimes de vidéos pornos deepfake demandent de nouvelles lois

Le visage de Mr Bean a été placé sur le corps tiré d'une pub de Charlize Theron. Capture d'écran de la vidéo YouTube de Fat Ninja.

[Sauf mention contraire, tous les liens de ce billet renvoient vers des pages web en chinois, ndt.]

L'arrestation récente à Taïwan du populaire youtuber Xiao Yu (Zhu Yuchen de son vrai nom) a attiré l'attention du public sur les crimes numériques commis à l'aide d'une IA (intelligence artificielle) et l'absence de lois proposées par le gouvernement afin de lutter contre la violence sexuelle dans le cyberespace.

Il a été arrêté en compagnie de deux associés le 17 octobre pour avoir vendu depuis juillet 2020, via un groupe Telegram, des vidéos pornographiques deepfake (ou d'hypertrucage) [fr] générées par IA et figurant l'image de célébrités. Tous trois ont été libérés sous caution le lendemain.

Plus d'une centaine de personnes, dont des youtubeurs, youtubeuses, politiciens, politiciennes et célébrités ont été victimes de ce nouveau crime technologique. Leur visage a été incrusté sur d'autres corps dans des vidéos pornographiques vendue à des fins pécuniaires. La présidente taïwanaise Tsai Ing-wen [fr] serait l’une des victimes, bien que l'extrait vidéo la représentant ne soit pas explicite et ait été rapidement supprimé de LINE, la plus populaire application de messagerie à Taïwan.

Selon une enquête menée en mai par l'organe de presse Mirror Media, l'équipe de production réalisait de fausses vidéos pornos de trente secondes qu'elle diffusait sur des sites pornos, invitant ceux qui les regardaient à s'abonner pour un accès complet, les ajoutant alors au groupe Telegram. Ils ont ainsi enregistré près de 8000 membres sur quatre groupes différents avant d'attirer l'attention du public.

Les membres pouvaient voter pour produire de nouvelles vidéos par un financement participatif, ou commander des vidéos personnalisées afin de vivre leurs phantasmes sexuels ou d'humilier une ancienne compagne. Les autorités estiment à 10 millions de nouveau dollars taïwanais (soit près de 320 000 €) les bénéfices réalisés.

Plusieurs victimes ont pris la parole depuis l'arrestation de Xiao Yu. Huang Jie, conseillère de Kaohsiung city, est celle qui s'est fait le plus entendre. Elle espère que cet incident pourra éduquer les gens quant aux dégâts causés par les crimes commis à l'aide d'une IA :

「又不是妳真的去演。」 

「夠正才會用妳的臉。」 

「妳是瞧不起演A片的嗎?」 

「小玉也太不挑了。」 

不是真的去演,傷害和性暴力就不存在嗎?五月受訪時,當我知道我的臉被拿去這樣使用,一開始覺得「惡搞影片應該蠻好笑的吧」但當我真的看到影片時,完全笑不出來,只有滿滿的噁心反胃,甚至起雞皮疙瘩、深陷恐懼。 無論小玉的心態是好玩、惡搞還是單純想賺錢,這對受害者來說,就是真實的傷害、羞辱和踐踏。

稍早,有許多實況圈、網紅界受害者私訊我…我們願意鼓起勇氣,一起站出來提告,用法律制裁小玉,也嚴正警告躲在電腦後觀看影片的人,你們不是沒有責任,你們的訕笑、觀看,都是一次次的加害。

在此,除了要求警方嚴加偵辦,也懇請社會大眾關注逐漸興起的AI犯罪,#不要下載不要流傳這類影片,更要共同抵制這種低級的公眾人物,#不能再養出第二個小玉 ,讓這種墮落的風氣繼續蔓延。

最重要的,也呼籲立法院正視 #數位性暴力 的問題,進行修法,才有更有力的工具嚴懲惡狼…

« Ce n'est pas vraiment toi qui joue »

« Ton visage est utilisé parce qu'il est joli »

« Alors tu dédaignes les vidéos pour adultes ? »

« Xiao Yu a pas choisi le bon visage »

Donc si ce n'est pas réellement la personne, ça veut dire qu'il n'y a pas de violence sexuelle ?

En mai, lorsque j'ai appris que mon visage était utilisé, j'ai pensé qu'il s'agissait juste d'une autre vidéo parodique. Mais en la visionnant, j'étais incapable de rire et j'avais envie de vomir. Puis j'ai eu peur. J'étais paralysée. Quelles qu'aient été les intentions de Xiao Yu, que ce soit pour rire ou gagner de l'argent, la douleur et l'humiliation ressenties par les victimes sont réelles.

Un certain nombre d'entre elles, des actrices de télé-réalité et des youtubeuses, m'ont contactée en privé… Ensemble, nous sommes allées déposer plainte contre Xiao Yu. Et nous avons averti ceux qui regardent ces vidéos, cachés derrière leur écran : vous faites partie du crime. Vos blagues obscènes et votre consommation ont blessé des personnes, encore et encore.

Ici, nous poussons la police pour qu'elle poursuive l'enquête, et nous incitons le public à prendre au sérieux les crimes émergents avec IA.  #Ne-téléchargez-ni-ne-diffusez-ces-vidéos, boycottez les personnes avec des goûts aussi vils. #Ne-créez-pas-un-autre-Xiao-Yu et ne répandez cette culture pourrie.

Enfin, nous poussons le corps législatif à prêter attention à la #violence-sexuelle-dans-le-cyberespace et à amender la loi pour punir ces créatures maléfiques…

L'opinion de Huang Jie a été partagée par Manaki, une actrice contrariée que des internautes aient pris l'incident à la légère et en aient même plaisanté :

其實被惡意換臉已經是一種傷害了,加上有些人資訊不清楚可能會誤以為真。 身為當事人是真的很困擾,身心也非常疲憊。名譽也造成不可抹滅的侵害! 希望大家別再當玩笑了,謝謝你們。 也希望數位性暴力能立法管制!

Avoir son visage placé ainsi sur quelqu'un d'autre est douloureux. Certains peuvent croire que c'est réel. J'ai été bouleversée par l'incident et les dégâts occasionnés à ma réputation sont irréversibles. S'il vous plaît, ne prenez pas ça pour une blague. J'aimerais que plus de lois soient adoptées pour régler le problème de la violence sexuelle dans le cyberespace.

Kao Chia-yu, législatrice et membre du Parti démocrate progressiste [fr], victime d'un tel crime, a fait remarquer sur Facebook que la seule ressource légale actuellement disponible à Taïwan pour punir les crimes d'hypertrucages pornographiques est de déposer plainte pour diffamation, un délit mineur assorti d'une peine relativement légère. Elle a aussi milité pour l'adoption de nouvelles lois visant à mettre fin à ces crimes.

Dans un post Facebook en date du 18 juin, la présidente taïwanaise Tsai Ing-wen a promis que le gouvernement renforcerait les lois réprimant la désinformation et les fausses vidéos réalisées à l'aide d'une IA.

Commentez

Merci de... S'identifier »

Règles de modération des commentaires

  • Tous les commentaires sont modérés. N'envoyez pas plus d'une fois votre commentaire. Il pourrait être pris pour un spam par notre anti-virus.
  • Traitez les autres avec respect. Les commentaires contenant des incitations à la haine, des obscénités et des attaques nominatives contre des personnes ne seront pas approuvés.