Miami, 10 de agosto de 2025 – La nueva función de generación de vídeos con inteligencia artificial «Grok Imagine», desarrollada por xAI y vinculada a la red social X (antes Twitter), ha encendido las alarmas en la comunidad tecnológica y de derechos digitales.
La herramienta, que permite a los usuarios crear clips con sonido en apenas segundos, ha sido acusada de producir imágenes generadas por IA de la cantante Taylor Swift con contenido sexual explícito, sin ninguna solicitud directa por parte del usuario.
La controversia surgió tras una investigación realizada por la periodista Jess Weatherbed, de The Verge, quien documentó cómo Grok, al seleccionar el modo «picante» (una de las cuatro opciones de estilo disponibles junto a «normal», «divertido» y «personalizado»), generó automáticamente un videoclip donde una figura generada digitalmente de Swift aparecía en ropa interior y realizando movimientos sugestivos, en el contexto de una escena de celebración.
Lo preocupante, según Weatherbed, es que no fue necesario introducir comandos explícitos o realizar modificaciones técnicas para desbloquear el contenido, bastó con confirmar la mayoría de edad y seleccionar el filtro «picante» para obtener una animación con claros elementos de desnudez parcial no consensuada. Esta situación revive tensiones en torno a los riesgos de los deepfakes, especialmente en el caso de figuras públicas que han sido víctimas de este tipo de ataques previamente.
Cabe recordar que en 2024, imágenes falsas de desnudos de Taylor Swift ya habían sido masivamente distribuidas en la plataforma, lo que llevó a X a reforzar públicamente su política contra los contenidos de desnudez no consensuada. Sin embargo, esta nueva funcionalidad de Grok plantea dudas sobre la eficacia real de dichas políticas, y sobre los límites éticos del diseño de IA generativa con fines recreativos.
El propio chatbot de Grok ha reconocido su capacidad para generar este tipo de contenido, aunque en pruebas posteriores se negó a cumplir con solicitudes más explícitas o que implicaran menores de edad. No obstante, el hecho de que el sistema pueda producir clips sexualizados de celebridades a partir de comandos ambiguos o indirectos abre interrogantes urgentes sobre moderación algorítmica, consentimiento digital y responsabilidad empresarial.
Hasta el momento, ni X ni xAI han emitido declaraciones oficiales al respecto, mientras Elon Musk continúa promocionando Grok Imagine en su fase de pruebas. Según cifras compartidas por el empresario, la función ha generado más de 34 millones de imágenes desde su lanzamiento preliminar esta semana, y su disponibilidad general está prevista para octubre.
[Fuentes]
https://www.digitalmusicnews.com
https://www.elespanol.com
