El Gobierno de España ha solicitado oficialmente a la Fiscalía General del Estado que investigue a Grok, la inteligencia artificial de X (anteriormente conocida como Twitter), por la posible generación y difusión de material que podría estar relacionado con la pornografía infantil. La ministra de Juventud e Infancia, Sira Rego, ha remitido un escrito en el que expresa su preocupación sobre el uso de esta tecnología y su implicación en delitos de violencia sexual contra menores.
Según fuentes del departamento de Rego, Grok habría producido contenido a petición de usuarios que podría considerarse un delito según el artículo 189 del Código Penal, que tipifica la pornografía infantil, así como el artículo 173, que se refiere a los delitos contra la integridad moral. Estas prácticas no solo son inaceptables, sino que también atentan gravemente contra la dignidad y los derechos fundamentales de la infancia en el entorno digital.
La gravedad de la situación
En su comunicación a la Fiscalía, la titular de Juventud e Infancia menciona un fallo del Juzgado de Menores de Badajoz (sentencia 86/2024) del 20 de junio, en el que se condenó a varios individuos por utilizar inteligencia artificial para manipular imágenes de menores. Esta resolución establece que tales prácticas constituyen una forma de violencia digital, tipificada como delito de pornografía infantil y contra la integridad moral. Rego subraya que “estamos ante una vulneración de derechos fundamentales” y resalta la urgencia de que la Fiscalía aborde esta problemática.
La ministra afirma que es imprescindible que se analicen estos hechos de manera profunda y se impulsen las acciones necesarias para garantizar la protección de la infancia en internet. “Debemos poner freno a prácticas que atentan contra su dignidad y desarrollo libre y seguro en el espacio digital”, añade Rego, resaltando la responsabilidad del Estado en este ámbito.
Iniciativas legislativas en marcha
En paralelo, el Congreso está tramitando una ley orgánica destinada a la protección de los menores en entornos digitales, promovida por el Ministerio de Juventud e Infancia junto a otros ministerios. Esta ley busca reforzar el marco de protección de la integridad y la intimidad personal frente a nuevas formas de vulneración que surgen con el uso de tecnologías como la inteligencia artificial. Se reafirma que el interés superior del menor debe prevalecer en cualquier modelo de negocio digital.
El Ministerio de Juventud e Infancia aboga por la necesidad de construir entornos digitales seguros, dado que internet y las plataformas digitales no fueron diseñadas con la infancia en mente y frecuentemente no garantizan un entorno libre de violencia ni la mercantilización de la imagen de los menores. La situación actual pone de manifiesto la urgencia de adoptar medidas eficaces para proteger a los más vulnerables en el mundo digital.
