En Corée du Sud, les victimes de « deepfakes » pornographiques se sentent impuissantes

La Corée du Sud commence à mesurer l’ampleur de la diffusion massive de contenus pornographiques générés par l’intelligence artificielle (IA) sur le service de messagerie Telegram, après l’ouverture d’une enquête policière début septembre, mais les victimes se sentent souvent abandonnées.

Dans la plupart des cas, le même schéma se répète, selon l’activiste Bang Seo-yoon, qui a commencé à documenter les témoignages des victimes.

Des collégiens et lycéens utilisent des photos prises à partir de comptes Instagram pour générer du contenu pornographique à l’aide de l’IA, qu’ils partagent ensuite via des salles de chat, dans le but d’humilier leurs camarades de classe et leurs professeurs.

Selon l’activiste de 18 ans, “ce n’est pas seulement le mal causé par le ‘deepfake’ lui-même, mais la diffusion de ces vidéos parmi des connaissances qui est encore plus humiliante et douloureuse”, a-t-elle déclaré à l’AFP.

Selon la startup de cybersécurité Security Hero, le nombre de ces programmes basés sur l’IA a augmenté de 500 % en 2023 et 99 % des victimes sont des femmes, souvent des chanteuses et des actrices célèbres.

Cette année, les principaux labels de K-pop JYP Entertainment et ADOR, qui gèrent des groupes tels que Twice et NewsJeans, ont annoncé leur intention d’engager des poursuites judiciaires pour protéger leurs artistes.

Mais peu de cas aboutissent : entre 2021 et juillet 2024, 793 délits liés aux « deepfakes » ont été signalés, mais seulement 16 personnes ont été arrêtées et poursuivies, selon les données de la police.

Mais depuis que le scandale a éclaté, les plaintes se sont multipliées : 118 plaintes ont été déposées en seulement cinq jours, fin août, et sept personnes ont été arrêtées lors d’une opération policière. Une seule d’entre elles était majeure.

– Des sanctions « insignifiantes » –

Les poursuites sont compliquées par le fait que les tribunaux sud-coréens émettent rarement des mandats d’arrêt contre des mineurs.

Et “les peines prononcées sont souvent insignifiantes, comme des amendes ou des probations, qui sont disproportionnées par rapport à la gravité des crimes”, a déclaré la professeure de philosophie et militante féministe Yoon Kim Ji-young, interrogée par l’AFP.

Selon elle, le mépris du président Yoon Suk Yeol pour le féminisme, qu’il impute au faible taux de natalité en Corée du Sud, suggère aux hommes qu’il est « acceptable d’être hostile ou discriminatoire envers les femmes ».

Les victimes se retrouvent « victimes d’abus sexuels et de moqueries de la part de leurs camarades de classe dans les espaces en ligne », a déclaré Kang Myeong-suk, responsable du soutien aux victimes à l’Institut des droits humains des femmes de Corée (WHRIK).

« Les auteurs de ces actes ne subissent souvent aucune conséquence » tandis que les victimes vivent « dans la peur de voir leurs images manipulées diffusées par leur entourage ».

Certaines personnes commentent en ligne que les victimes devraient « s’en remettre » car ces images trafiquées ne sont même pas réelles, a déclaré Kang.

« Mais ce n’est pas parce que les images manipulées ne sont pas réelles que la douleur endurée par les victimes est moins authentique. »

– Rejet de faute –

La police sud-coréenne accuse Telegram, qui a la réputation de ne pas coopérer avec les autorités. Son fondateur Pavel Durov a été arrêté et inculpé fin août en France pour avoir publié des contenus illégaux sur l’application.

La messagerie cryptée s’était déjà retrouvée au cœur d’un précédent scandale de violences et d’exploitation sexuelle en Corée du Sud : l’affaire de la « Nth Room », en 2020.

Les salles de discussion Telegram permettaient aux membres payants de visionner des photos et des vidéos d’actes sexuels violents obtenus par chantage et impliquant des mineurs.

Le chef de ce réseau a été emprisonné.

Une victime d’un “deepfake” diffusé en 2021, qui a requis l’anonymat, a déclaré à l’AFP que l’excuse de la police selon laquelle le faible taux de poursuites est dû au manque de coopération de Telegram n’est pas valable, car de nombreuses victimes parviennent à identifier elles-mêmes leurs auteurs.

Elle était une camarade de classe de l’Université nationale de Séoul qu’elle voyait rarement mais qu’elle trouvait toujours « gentille ».

« C’était difficile à accepter », a-t-elle déclaré, ajoutant que la police lui avait demandé de rassembler elle-même toutes les preuves et qu’elle avait ensuite dû faire pression pour obtenir un procès, qui est actuellement en cours.

cdl-hs/ceb/vgu/lgo/tmt