En octobre, aux États-Unis, une trentaine d’étudiantes d’un lycée du New Jersey ont découvert être les cibles de deepfakes pornographiques. Les auteurs ? Des garçons de leur établissement.
En réaction, la jeune Francesca Mani a décidé de s’adresser à ses représentants politiques pour freiner la propagation d’un phénomène déjà relativement courant.
Auprès de la Technology Review, elle est revenue début décembre sur son engagement, la création du site web AI Heeelp !, qu’elle a construit pour aider à diffuser de l’information et des outils pour lutter contre le phénomène, et les discussions qu’elle a eues avec plusieurs sénateurs américains.
Deux d’entre eux ont déposé une proposition de loi pour créer des peines civiles et pénales pour la création et le partage de deepfakes pornographiques non consentis.
En France, le projet de loi pour sécuriser et réguler le numérique contient des mesures ciblant, elles aussi, la création de deepfakes non consentis, et en particulier de deepfakes pornographiques.