Imágenes gráficas y sexualmente sugerentes de Taylor Swift, la icónica estrella del pop, han sido difundidas por inteligencia artificial (IA) en las redes sociales, destapando la oscura realidad de la tecnología de IA y sus potenciales consecuencias devastadoras.
NOTAS RELACIONADAS
Las grotescas imágenes falsas de Swift se propagaron principalmente en la red social X (anteriormente conocida como Twitter). A pesar de haber sido retiradas, la viralización masiva previa a su eliminación plantea preocupaciones sobre la capacidad de la IA para crear contenido perjudicial y realista.
El portavoz de Swift no emitió comentarios sobre el incidente.
La plataforma X, como otras redes sociales, prohíbe compartir "medios sintéticos, manipulados o fuera de contexto que puedan engañar o confundir", aunque no respondió a los comentarios de CNN.
Este incidente adquiere relevancia en un año electoral en Estados Unidos, aumentando la inquietud sobre cómo las imágenes generadas por IA podrían utilizarse para desinformar y manipular la opinión pública.
Ben Decker, director de Memetica, una agencia de investigación digital, alerta sobre el uso sin control de la IA generativa para crear contenido perjudicial en las redes sociales, sin suficientes salvaguardas.
La falta de una supervisión efectiva por parte de las redes sociales, como X, que ha reducido su equipo de moderación, plantea dudas sobre la seguridad en línea. Meta también ha disminuido sus esfuerzos de lucha contra la desinformación, generando preocupación de cara a las elecciones de 2024.
La procedencia de las imágenes de Taylor Swift aún no está clara, pero su impacto ha llevado a reflexiones sobre la necesidad de regulaciones más estrictas.
Este episodio pone de manifiesto las crecientes amenazas de las imágenes generadas por IA y la falta de consenso en la moderación de contenidos. Decker sugiere que la notoriedad de Swift podría impulsar a legisladores y empresas tecnológicas a actuar, similar a los cambios tras el colapso de Ticketmaster en 2022.
El uso de tecnología para crear "porno de venganza" no consentido ha llevado a nueve estados de EE. UU. a implementar leyes contra imágenes "deepfake", resaltando la urgente necesidad de abordar los riesgos de la IA en la era digital.