Imágenes falsas de Taylor Swift se están difundiendo en las redes sociales. La controvertida gráfica creada por inteligencia artificial.
Taylor Swift se ha convertido en la protagonista no deseada de imágenes pornográficas que circulan ampliamente en las redes sociales, especialmente en la plataforma X, antes conocida como Twitter. Las imágenes que representan a la estrella de la música en poses sexuales explícitas fueron creadas únicamente utilizando inteligencia artificial. Antes de ser eliminadas, millones de personas las habían visto. Una vez que el contenido virtual aparece en Internet, encuentra fácilmente su camino hacia canales de comunicación menos moderados.
El lado oscuro de la inteligencia artificial
Este incidente ha llamado la atención de la sociedad sobre el potencial dañino de la inteligencia artificial para crear contenido falso, especialmente en el contexto de las próximas elecciones presidenciales en Estados Unidos. Hay crecientes preocupaciones sobre la desinformación generada por la inteligencia artificial en forma de imágenes y videos que serán difíciles de distinguir de los reales.
Este es un ejemplo perfecto de cómo la inteligencia artificial puede ser utilizada con diversos fines no éticos, especialmente cuando hay barreras insuficientes para proteger el espacio público», dijo Ben Decker de Memetica, una agencia de investigación digital, en una entrevista con CNN.
Decker sostiene que las plataformas de redes sociales carecen de planes efectivos de monitoreo de contenido, especialmente cuando se trata de herramientas de inteligencia artificial que rápidamente ganan popularidad, creando contenido potencialmente perjudicial.
Moderación de contenido débil en redes sociales
La plataforma X (anteriormente Twitter) ha reducido significativamente su número de moderadores, dependiendo principalmente de sistemas automatizados e informes de usuarios. Como resultado, actualmente está bajo escrutinio, especialmente en la Unión Europea, por sus prácticas de moderación de contenido. Otro ejemplo es Meta (Facebook, Instagram), que tampoco se enfoca efectivamente en moderar el contenido. CNN obtuvo información de fuentes informadas de que la empresa de Mark Zuckerberg ha reducido la plantilla en equipos que lidian con la desinformación, campañas coordinadas de acoso y troleo.
Las imágenes falsas prácticamente quedan impunes
El origen de las imágenes falsas de Taylor Swift en las redes sociales es desconocido. Sin embargo, hay muchas herramientas en Internet, incluidas algunas disponibles como código abierto, que permiten la generación de prácticamente cualquier cosa que la imaginación humana sugiera.
Tecnologías como deepfake, por ejemplo, se han utilizado durante mucho tiempo en lo que se conoce como «porno vengativo», donde se utilizan imágenes falsas sin el consentimiento de la persona afectada en un contexto que seguramente no habrían elegido. A pesar de las regulaciones teóricas contra tales delitos, hacer cumplir la ley encuentra dificultades.