La pornographie deepfake est devenue une véritable crise en Corée du Sud. Désormais, non seulement les créateurs et les diffuseurs sont punis, mais aussi les simples spectateurs. Un streamer américain risque jusqu’à 31 ans de prison, et les visionneurs s’exposent à trois ans d’emprisonnement et à des amendes pouvant aller jusqu’à 19 000 €.

À l’été 2024, les autorités sud-coréennes ont découvert un vaste réseau sur Telegram, comptant 220 000 utilisateurs partageant des images et vidéos pornographiques générées par intelligence artificielle, représentant des femmes sans leur consentement. Ce système, qui exploite l’image de personnes réelles dans des contextes sexuels fictifs, a déclenché une vague de protestations dans le pays.

En septembre 2024, l’Assemblée nationale sud-coréenne a adopté une loi répressive étendant les sanctions aux personnes qui stockent ou visionnent ce type de contenu. Désormais, toute personne reconnue coupable d’avoir simplement regardé un deepfake risque trois ans de prison et jusqu’à 19 000 € d’amende. Pourtant, des milliers d’arrestations ont déjà eu lieu, et l’affaire d’un streamer américain très connu suscite un intérêt international croissant.

La Corée du Sud submergée par les deepfakes

En mars 2025, le Bureau national d’enquête a annoncé l’arrestation de 963 personnes pour avoir produit, partagé, possédé ou visionné des contenus deepfake. La majorité étaient dans la vingtaine et utilisaient des groupes Telegram pour diffuser des vidéos falsifiées montrant leurs camarades de classe, ainsi que des actrices et chanteuses sud-coréennes.

La police a affirmé avoir supprimé ou bloqué plus de 10 000 vidéos. Le scandale a pris une dimension internationale lorsqu’un streamer américain très suivi a été accusé d’avoir créé et partagé du contenu deepfake de deux streameuses sud-coréennes sans leur accord. Il encourt une peine de 31 ans de prison, bien que le procès soit toujours en cours.

Telegram a exprimé sa volonté de collaborer avec les autorités pour stopper la propagation de ces contenus, mais de nombreuses victimes dénoncent la lenteur des retraits, facilitant la migration des contrevenants vers d’autres plateformes.

Pour les experts, au-delà des campagnes de sensibilisation, la clé réside dans l’automatisation de la détection et de la suppression de ces contenus. Toutefois, cette approche se heurte à des questions complexes liées à la vie privée et aux politiques propres à chaque application. Il est également envisagé d’imposer des amendes aux plateformes qui laissent circuler ou stocker ces contenus, et de renforcer les sanctions contre les créateurs, les diffuseurs et les spectateurs.

Source : 3djuegos