La star de Teen Marvel, Xochitl Gomez, est la dernière victime du deepfake porno. Cependant, après avoir découvert les deepfakes sexuellement explicites et non consensuels circulant sur X, anciennement Twitter, elle a été déconcertée lorsque la plateforme n'a pas pris de mesures et ne les a pas supprimés.
De nombreux problèmes sont survenus parallèlement à l’essor de l’intelligence artificielle, mais le deepfake porn est l’un des plus préoccupants. Bien que les deepfakes existent depuis un certain temps, les progrès technologiques les ont rendus plus accessibles et plus convaincants. En conséquence, de nombreuses personnes, notamment des femmes, ont vu leur image prise ou recréée sans leur consentement et utilisée dans du contenu pornographique. C'est devenu un problème majeur pour les célébrités féminines, mais aussi pour les femmes ordinaires qui ont vu leur image utilisée dans du contenu sexuellement explicite à des fins de vengeance pornographique, de harcèlement et d'intimidation. Il existe également une préoccupation majeure concernant l’utilisation de deepfakes pour décrire la maltraitance des enfants.
Malheureusement, il n’existe actuellement aucune loi fédérale contre la pornographie deepfake non consensuelle, et seuls quelques États ont une législation qui en protège les citoyens. De nombreuses femmes victimes de deepfake pornographie se sont retrouvées sans possibilité de la combattre en raison du manque de réglementation et de l’anarchie d’Internet. La plupart n’ont pas les ressources financières nécessaires pour intenter une action en justice. Même des célébrités comme Scarlett Johansson ont déclaré qu’il était inutile de lutter contre les deepfakes.
Un petit niveau de protection dont bénéficient les femmes provient des plateformes de médias sociaux qui ont interdit la pornographie deepfake et générée par l’IA. Si ces sites appliquaient de telles interdictions, cela rendrait plus difficile la circulation de ces contenus préjudiciables. Cependant, l’expérience de Gomez montre que les médias sociaux ne font pas respecter leurs règles.
Xochitl Gomez parle de son expérience avec le porno deepfake
(Axelle/Bauer-Griffin/Getty)
En apparaissant sur le podcast de Taylor Lautner et de sa femme, La compression , Xochitl Gomez (alias America Chavez) a parlé de ses expériences en tant que victime de deepfake pornographie. La jeune femme de 17 ans a révélé qu'elle avait trouvé du matériel sexuellement explicite circulant sur X, anciennement Twitter, mais qu'elle avait extrêmement du mal à le supprimer. X a interdit la pornographie générée par l’IA en 2018 et a mis en place des politiques contre les images et vidéos deepfake sexuellement explicites, ainsi que contre les médias trompeurs et la nudité non consensuelle. Considérant que les images de Gomez violent clairement les règles de X et que ce contenu mettait en scène un mineur, on aurait pu penser que la plateforme agirait immédiatement.
Cependant, Gomez a été choquée lorsqu'elle a découvert que son équipe avait déjà tenté de prendre des mesures contre le contenu, en vain. Actualités NBC signalé que pas plus tard que le 19 janvier 2024, les photos étaient encore visibles sur X, qui n'a pas répondu aux demandes de commentaires. Gomez a expliqué que le contenu la laissait bizarre et qu'elle voulait désespérément le supprimer car ce n'était pas un bon look pour elle. Elle s'est demandé : Pourquoi est-ce si difficile à démonter ? C'était toute ma réflexion à ce sujet, c'était : « Pourquoi est-ce autorisé ? »
En fin de compte, cependant, elle s'est résignée à accepter que le contenu ne pouvait tout simplement pas être supprimé, révélant qu'elle essayait simplement de ne pas y penser et rangeait son téléphone pour régler le problème. Pourtant, les questions qu’elle a posées restent très pertinentes. Pourquoi est-ce si difficile de supprimer ce contenu ? Il est moralement répréhensible et dégoûtant que du porno deepfake soit réalisé à partir d’un individu non consentant. C’est carrément horrible quand il s’agit d’un mineur. De la véritable pédopornographie circule sur X et, bizarrement, la plateforme ne fait rien à ce sujet, même si cela devrait être le problème le plus urgent à résoudre.
Cela ne ressemble guère à une situation complexe si un individu signale du matériel sexuellement explicite et informe la plateforme qu’il n’y a pas consenti. Le matériel va à l’encontre de plusieurs règles du site Web. Qu’y a-t-il d’autre à examiner ou à déterminer ? C’est déjà suffisamment traumatisant pour un individu de trouver ce genre de contenu sur les réseaux sociaux ; le moins que ces plateformes puissent faire est d’adhérer à leurs demandes de suppression. Aucun individu, et surtout pas un mineur, ne devrait être obligé d’accepter que le contenu existe parce que X et d’autres plateformes de médias sociaux refusent de manière persistante et perplexe de protéger leurs utilisateurs.
(Image en vedette : Axelle/Bauer-Griffin/FilmMagic / Getty)
