La Justicia ordena el bloqueo de web por imágenes íntimas falsas
El Juzgado de Familia de Paso de los Libres dictó una cautelar por adolescentes, cuyos rostros fueron utilizados en publicaciones apócrifas.
La jueza de Familia, Niñez y Adolescencia de Paso de los Libres, Marta Rut Legarreta, dictó una medida cautelar para proteger los derechos de adolescentes cuyos rostros fueron utilizados sin consentimiento en imágenes íntimas falsas, generadas mediante inteligencia artificial a través de una aplicación.
Según informaron, la medida regirá hasta que se acredite el cese del riesgo de daños, priorizando el interés superior de las adolescentes afectadas.
La medida cautelar de protección se dictó en el marco de una causa por vulneración de derechos de adolescentes. La jueza Marta Rut Legarreta ordenó al Enacom el bloqueo inmediato de un sitio web desde el territorio argentino. La aplicación utilizaba inteligencia artificial para generar imágenes de desnudez falsas con rostros reales sin consentimiento.
La resolución se emitió tras tomarse conocimiento del uso de esta herramienta tecnológica y su difusión a través de WhatsApp. La jueza advirtió que el daño concreto se produjo por el funcionamiento de esta aplicación, que permite crear y compartir contenido sexual simulado sin verificar edad ni consentimiento.
Además, la jueza Legarreta basó su decisión en los riesgos concretos que representa el entorno digital cuando no existen filtros preventivos, especialmente para niñas y adolescentes, advirtiendo que "el entorno digital no garantiza barreras efectivas de edad ni consentimiento, lo que expone especialmente a niños y adolescentes a formas modernas de violencia simbólica, digital y psicológica".
La jueza Marta Rut Legarreta fundó su decisión en tratados internacionales y leyes nacionales de protección a la niñez y prevención de violencia de género, entre ellas la "Ley Olimpia" (Ley 27736), que reconoce la violencia digital como una modalidad de agresión hacia las mujeres.
Se ordenó: La intervención del Enacom, solicitando el bloqueo inmediato del acceso desde Argentina al sitio web de la aplicación y a sus servidores DNS. Y además se ordenó la notificación a la Unidad Fiscal Especializada en Ciberdelincuencia (Ufeci) para que colabore en las investigaciones e impulse medidas que permitan identificar a los responsables.
La medida regirá hasta que se acredite el cese del riesgo de daños, priorizando el interés superior de las adolescentes afectadas.s
Sin controles
El informe técnico elaborado por el Área de Seguridad Informática de la Dirección de Informática del Poder Judicial de Corrientes explica que se utilizan modelos avanzados de inteligencia artificial, como redes generativas antagónicas (Gans) y modelos de difusión, para simular la eliminación digital de ropa en fotografías reales, generando imágenes manipuladas que violan la privacidad y dignidad de las personas. También se advirtió que el sitio carece de controles de edad, almacenamiento seguro y transparencia sobre sus desarrolladores, lo que agrava los riesgos de abuso, acoso y difusión no consentida de contenido íntimo.