Hace unos días Taylor Swift fue trending topic cuando las redes sociales se llenaron de imágenes explícitas suyas que después se supo eran deepfakes generados con inteligencia artificial.
Aunque ya se sabía que las imágenes se originaron en 4chan y luego se propagaron en canales privados de Telegram antes de difundirse en Twitter, no se conocían detalles.
Ahora, una investigación de la consultora de medios sociales Graphika, citada por la revista Rolling Stones, revela precisamente cómo empezó todo. Y la sorpresa es que todo empezó como un juego.
En uno de los foros de la comunidad 4chan alguien propuso un reto: intentar crear prompts para superar las barreras que los modelos de IA tienen y que normalmente impiden crear imágenes pornográficas de gente famosa. Las imágenes de Taylor Swift se originaron allí, pero hubo más celebridades afectadas.
Cristina López G., analista de Graphika, explicaba que “aunque las imágenes pornográficas virales de Taylor Swift han llamado la atención sobre el problema de las imágenes íntimas no consentidas generadas por la IA, no es ni mucho menos la única víctima”.
Otras actrices, cantantes y políticas fueron objeto de este tipo de deepfakes incluso con más frecuencia de Taylor Swift. Entre los ejemplos están Ariana Grande, Billie Eilish o Emma Watson.
Según The New York Times, los usuarios de 4chan fueron compartiendo trucos y consejos para superar los filtros de plataformas como DALL-E, Microsoft Designer y Bing Image Creator. Las imágenes creadas se iban compartiendo en ese foro y los usuarios votaban a favor o en contra según la calidad o realismo que se conseguía con esos prompts.
Así, ese singular concurso para superar las barreras de estos modelos fue precisamente la motivación de los usuarios para “derrotar” esos mecanismos de protección. Como apuntaba López G., “es importante entender la naturaleza ludificada de sta actividad maliciosa para poder prevenir futuros abusos en el origen [de la generación de imágenes por IA]”.
Las primeras imágenes de Swift comenzaron a aparecer en el foro el 6 de enero, pero tardaron algo más de una semana en acabar difundiéndose en Telegram y X (antes Twitter).
La explosión viral de dichas imágenes provocó que Taylor Swift se convirtiera en trending topic en X durante varios días. La red social tuvo que bloquear esas búsquedas para al mismo tiempo ir borrando las imágenes que se detectaban, lo que finalmente mitigó gran parte de los problemas.
Comentarios