MADRID (EP). TikTok ha defendido sus sistemas "robustos" contra el contenido sexual de menores, después de que este martes el Gobierno haya pedido a la Fiscalía General del Estado investigar delitos de violencia sexual en las redes sociales.

"El contenido sexualmente explícito con menores (CSAM, por sus siglas en inglés) es repugnante y está categóricamente prohibido en nuestra plataforma", han trasladado fuentes de la plataforma a Europa Press.

Así se ha expresado la plataforma después de que la portavoz del Gobierno y ministra de Inclusión, Seguridad Social y Migraciones, Elma Saiz, haya reivindicado la necesidad de investigar este tipo de delitos, argumentando que Grok generó "en once días 3 millones de fotos de desnudos generados por inteligencia artificial y, muchas de ellas, de menores".

Saiz ha explicado en la rueda de prensa posterior a la reunión del Consejo de Ministros que se trata de un "asunto de enorme relevancia" y que "el compromiso de este Gobierno con la defensa de los entornos digitales de los menores es absoluto".

En este sentido, ha indicado que, a partir de ahora, el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes solicitará a la Fiscalía investigar y, en su caso, perseguir estos posibles delitos de violencia sexual digital en las principales redes sociales.

"No podemos permitir, a través del algoritmo, que se pueda amplificar o amparar todo esto. Está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad, de su libertad", ha declarado la ministra.

Ante ello, TikTok ha asegurado que cuenta con sistemas "robustos" para "frustrar los intentos de explotar o dañar a los jóvenes". "Seguimos dando prioridad e invirtiendo en tecnologías avanzadas para ir un paso por delante de los malos actores", han aseverado.

"Firme" compromiso con la defensa a los menores en redes

Respecto a cómo se va a actuar y cómo se puede actuar contra quien crea, contra quien difunde el material y contra la plataforma, la ministra ha señalado que "el compromiso de este Gobierno con la defensa y con generar entornos seguros en redes sociales" a los menores es "firme". "Tenemos un marco de legislación actual que nos permite esa protección, pero lo que hacemos con esta medida es concretarlo aún más", ha precisado.

Saiz ha agregado que, en virtud del Artículo 8 del Reglamento orgánico del Ministerio Fiscal, "respetando absolutamente la autonomía del órgano", el ministro de Presidencia, Félix Bolaños, "se va a dirigir a la Fiscalía, acompañando un informe de lo que pasa en otros países" del entorno, de cara a que "investigue y, en su caso, tipifique este tipo de acciones".

En concreto, se solicita al Ministerio Fiscal que, tras oír a la Junta de Fiscales de Sala del Tribunal Supremo, analice e investigue los hechos, ejerza "las acciones penales que estime pertinentes, y se establezcan "criterios de actuación y medidas concretas que permitan a las posibles víctimas y a sus tutores y representantes legales hacer valer sus derechos ante la Fiscalía".

El Gobierno ha detallado que el informe técnico ha sido elaborado por el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, el Ministerio para la Transformación Digital y de la Función Pública, y el Ministerio de Juventud e Infancia, que ya había alertado con anterioridad de la afección de estas prácticas a los menores.

El informe, al que ha tenido acceso Europa Press, advierte de la posible participación de las redes sociales en estas prácticas, ya que "permite su difusión masiva con una velocidad y opacidad que dificultan enormemente la detección y persecución, al tiempo que favorece la articulación de redes que producen, comparten y monetizan estos contenidos".

El Gobierno argumenta en su informe que "la confluencia entre la IA generativa y las RRSS ha originado un ecosistema de riesgo en el que ha proliferado la promoción y distribución de contenidos sexuales y pornográficos". "También, por desgracia, los que afectan a los menores de edad", añade.

Además, expone que, según datos de la Comisión Europea, el 98% de los deepfakes son de carácter pornográfico; que en España uno de cada cinco jóvenes afirma haber sufrido la difusión de falsos desnudos suyos creados con IA siendo menores y que un tercio asegura haber sufrido acoso sexual digital durante su infancia, según Save the Children.

Según ha insistido Elma Saiz, "hay que poner coto y lo que no se puede es que el propio algoritmo amplifique este potencial daño que pueden sufrir" los menores. "Así que ese es el trabajo que ahora se inicia", ha manifestado.

El propio presidente del Gobierno, Pedro Sánchez, anunciaba esta mañana en su perfil de X que el Consejo de Ministros invocaría "el artículo 8 del Estatuto Orgánico del Ministerio Fiscal". "Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas", argumentaba el jefe del Ejecutivo, para quien "el Estado no lo puede permitir". "La impunidad de los gigantes debe acabar", ha concluido Sánchez en su mensaje en la red social.

Para la ministra de Juventud e Infancia, Sira Rego, la decisión supone dar "un paso más para garantizar los derechos de la infancia en RRSS". "En enero, solicitamos a Fiscalía que investigase si X había cometido delitos de pornografía infantil, hoy, activamos en Consejo de Ministros el Art. 8 del Estatuto del Ministerio Fiscal para investigar a las grandes plataformas", ha escrito también Rego en redes sociales.

Vulneración de varios artículos del Código Penal

Fuentes del departamento que dirige Sira Rego, la activación del Artículo 8 se produce tras considerar que estos hechos "podrían estar afectando al interés público tutelado por el Ministerio Fiscal" y que supondrían una vulneración de artículos del Código Penal como 189.1.a (elaboración de material pornográfico utilizando a menores) y 189.1.b (producción, venta, distribución, exhibición, ofrecimiento o facilitación de material pornográfico, o la posesión para estos fines).

El Gobierno también cree que vulneraría los artículos 189.5 (adquisición o posesión de pornografía infantil, incluidos los deepfakes, para uso propio, así como el acceso a sabiendas a este contenido a través de internet) y 189 bis (distribución o difusión a través de internet de contenidos específicamente destinados a promover, fomentar o incitar delitos relacionados con la pornografía infantil) del Código Penal. A ello se le sumaría un posible delito contra la integridad moral, tipificado en el artículo 173.1 del Código Penal.

Las fuentes de Juventud han detallado que todo ello ha sido recogido en un informe presentado por parte del Consejo de Ministros en el que se analiza la posible responsabilidad penal de las plataformas digitales en la generación y difusión de material de violencia sexual hacia la infancia a través de IA.

"En el documento se explica que las herramientas de inteligencia artificial generativa integradas en distintas redes sociales no sólo están permitiendo crear imágenes sexuales de apariencia realista a partir de fotografías de personas menores de edad, sino que, además, contribuyen, en virtud de su propia configuración algorítmica, a su difusión masiva e indiscriminada en el entorno digital", han añadido.

La iniciativa acordada este martes en el seno del Gobierno forma parte del paquete de medidas anunciadas por el Ejecutivo en materia de protección de los menores en el entorno digital, como son la de prohibir el acceso de los menores de 16 años a las redes sociales y la obligación de implementar sistemas efectivos de verificación de edad en las plataformas, entre otras.