Twitch publie des directives actualisées concernant la prolifération du contenu deepfake sur ses livestreams.
Dans un récent billet de blog, Twitch s’est attaqué à la dernière controverse sur le deepfake dans le but de protéger ses streamers féminins. Ce billet fait suite à un incident malheureux survenu en janvier, au cours duquel les images de plusieurs streamers de Twitch ont été exploitées à des fins de contenu explicite.
Pour les non-initiés, le deepfaking consiste à utiliser l’intelligence artificielle pour créer des images, des vidéos et des sons convaincants de personnes disant ou faisant des choses qu’elles n’ont jamais dites ou faites.
Il s’agit d’une technologie puissante et en plein essor qui divertit et trompe. Si le deepfake peut avoir des utilisations positives, son utilisation abusive suscite de vives inquiétudes. La technologie peut également être utilisée pour créer des contenus malveillants ciblant des individus spécifiques. Par exemple, pour créer de fausses vidéos de personnes faisant ou disant des choses qu’elles n’ont pas réellement faites. Cela peut entraîner une perte de confiance, une atteinte à la réputation et même des conséquences juridiques.
Twitch s’est attaqué au problème des contenus explicites de type “deepfake” en appelant ce terme “synthetic non-consensual exploitative imagery” (imagerie synthétique d’exploitation non consensuelle) ou “synthetic NCEI” (imagerie synthétique d’exploitation non consensuelle). Le mois prochain, Twitch mettra à jour sa politique en matière de violence et d’exploitation sexuelle des adultes. Elle souligne que la promotion, la création ou le partage intentionnels de NCEI synthétiques entraîneront une suspension indéfinie en cas de première infraction. La politique de Twitch en matière de nudité chez les adultes sera également mise à jour pour couvrir les NCEI synthétiques. À l’avenir, la présentation d’un NCEI sur la plateforme de streaming entraînera l’application immédiate de la politique du site de streaming, quel que soit le contexte. Twitch organise également un camp de créateurs le 14 mars pour sensibiliser les spectateurs à cette question sociale cruciale.
La streameuse Zara Ward, experte en matière de NCEI, discutera avec un membre de l’équipe de sécurité de Twitch de tout ce qu’il faut savoir sur les NCEI synthétiques.
L’essor de la technologie du deepfaking est de plus en plus inquiétant et ses conséquences sont considérables. Outre le contenu explicite sans consentement, elle peut être utilisée pour manipuler l’opinion publique, diffuser de la désinformation, influencer les élections et créer du contenu malveillant dans tous les cercles qui peuvent avoir un impact préjudiciable sur les individus et la société. Tandis que Twitch prend des mesures essentielles pour résoudre le problème afin de protéger les utilisateurs et de maintenir un environnement sûr, on ne sait pas encore comment d’autres entreprises vont s’attaquer à cette menace croissante.
Source : Twitch
