La red social X, anteriormente conocida como Twitter, ha emitido un comunicado que marca un cambio significativo en su política sobre contenido sexual. Según declaraciones de la plataforma, «creemos que los usuarios deberían poder crear, distribuir y consumir material relacionado con temas sexuales, siempre que sea producido y distribuido consensualmente». Este giro se produce tras la introducción de Grok, un chatbot inteligente lanzado por Elon Musk a finales de noviembre de 2023.
El mayor cambio en el ecosistema de la plataforma llegó en mayo de 2024, cuando la Unión Europea aprobó el uso de Grok en su territorio, cumpliendo con las leyes de privacidad y seguridad digital. Este desarrollo coincide con el cambio de nombre de Twitter a X, lo que también refleja un enfoque renovado hacia la libertad de expresión y la creación de contenido.
La inteligencia artificial y la creación de contenido
Grok permite a los usuarios generar imágenes hiperrealistas basadas en fotos de rostros, una capacidad que, aunque no es nueva, ha encontrado un uso problemático en la creación de desnudos no consensuados. Este avance tecnológico plantea dilemas éticos y legales que han sido advertidos por numerosos especialistas en ética digital y derecho. Un informe de Homeland Security reveló que, en un solo mes, se habían detectado más de 100 000 desnudos falsos generados por ordenador, lo que pone de manifiesto la magnitud del problema.
La situación se complica aún más debido a que X es una de las pocas plataformas que permite la publicación de imágenes pornográficas. Esta decisión, que se ha defendido en nombre de la libertad de expresión, crea un contexto en el que la normalización del desnudo explícito se encuentra con la capacidad de Grok para generar contenido de manera instantánea y anónima, complicando la detección y la responsabilidad.
Responsabilidad y consecuencias legales
La responsabilidad de X en la regulación de este tipo de contenido es crucial. La falta de barreras técnicas y normativas claras desde el inicio ha permitido que el abuso se produzca a gran escala. Las víctimas de estas creaciones deben demostrar el daño y enfrentarse a un laberinto legal para lograr la retirada del contenido, mientras que la generación de imágenes es rápida y anónima.
Un informe de Save the Children destaca que un 20% de los adolescentes en España son víctimas de esta práctica, lo que subraya la gravedad de la situación. No se trata de un simple escándalo tecnológico, sino de una colisión entre decisiones humanas concretas: el desarrollo de modelos de inteligencia artificial, la falta de regulación y la normalización del desnudo en plataformas globales.
A pesar de que la Agencia Española de Protección de Datos (AEPD) emitió una resolución en noviembre de 2025 que sanciona la creación y difusión de imágenes íntimas falsas de menores, la respuesta sigue siendo insuficiente. La realidad es que la regulación ha llegado tarde, dejando a los afectados en una posición vulnerable y expuesta a un daño considerable.
La lección que se extrae de este caso es clara: la tecnología no es inherentemente mala, pero su desarrollo debe ir acompañado de una regulación adecuada y una reflexión ética que evite que situaciones como estas se conviertan en la norma. La pregunta ahora es cómo se abordarán los desafíos que plantea el uso de la inteligencia artificial en la creación de contenido en el futuro.
