Twitch lance sa lutte contre le deepfake !

Malheureusement, les dérives sur Twitch existent depuis que la plateforme a été lancée. On vous parlait par exemple il y a quelques semaines de ce stream géré par une IA qui avait fini banni à cause de propos transphobes. 

Mais depuis quelque temps, un phénomène commence à prendre de l'ampleur sur la toile, le deepfake. Twitch a décidé de prendre les devants et annonce des sanctions, du moins dans certains cas de figure. 

SpeeDons 3 à Paris : Marathon de Speedrun en direct sur Twitch pour Médecins du Monde

Speedons 2023 : Le marathon caritatif de Speedrun récolte plus d'un million d'euros pour Médecins du Monde

La SGDQ 2019 a débuté

Twitch prend les devants contre le deeepfake

Cela fait des années que l'on peut voir sur le net des alertes contre le phénomène du deepfake. Pour résumer en quelques mots la pratique, c'est insérer via un programme une tête sur un corps qui n'est pas le bon. 

On peut par exemple parler de Reface qui est sûrement la plus populaire. Sauf que si dans le cas de cette application, on ajoute souvent son visage sans arrière-pensée, ce n'est clairement pas le cas de tous les deepfake. 

Il y a quelques mois de cela, c'est via un thread que la streameuse Maghla alertait par exemple sur ces pratiques. Des serveurs Discord entiers se seraient spécialisés dans le fait de faire des deepfake de streameuses avec des films pornographiques. 

✨DISCORD✨

Y a des discords dédiés aux fausses nudes et de mecs qui se branlent sur les streameuses avec partages de screens de lives + faux montages + rp sexe. Y a des sections, sous sections etc … c’est riche.

— Maghlarnaque (@Maghla) October 24, 2022

Plus récemment, il y a eu la polémique de ce streamer américain Atrioc dont les viewers se sont rendu compte qu'un des onglets de son navigateur menait directement vers un site de deepfake pornographique qui s'est spécialisé dans le fait de créer de faux films avec les visages de célèbres streameuses. 

Après cet épisode qui a fait énormément de bruit, Twitch a annoncé avoir consulté des experts sur le sujet (source). En résulte deux choses, la première, c'est l'ajout du deepfake dans les motifs de ban de Twitch, que ce soit des personnes qui en diffusent, ou même des personnes qui en diffuseraient des extraits pour dénoncer la pratique. 

De plus, le 14 mars prochain, Twitch créera un Creator Camp sur le sujet pour aider les créateurs de contenu à réagir si un phénomène similaire venait à arriver pour eux. 

Toutefois, si le fait de bannir le deepfake sexuel est logique étant donné que la plateforme n'autorise déjà pas la pornographie, on peut se poser la question du deepfake non sexuel. En effet, ces techniques pourraient être utilisées de différentes manières, toujours avec une volonté de nuire. 

Pour le moment, Twitch n'a pas encore décidé la marche à suivre, mais dans leur communiqué, ils assurent suivre avec intérêt la situation et celle-ci pourrait entraîner de nouvelles règles dans les mois à venir.