El acosador se escondía detrás del perfil de un chico de su edad; se trata de la primera causa de grooming facilitada por el uso de IA que investiga la Justicia porteña
A la adolescente de 13 años la vamos a llamar Lara. Hace unos meses, el chico con el que tenía un vínculo virtual empezó a pedirle fotos sexuales. Cuando ella se negó, él se puso más insistente. Pero ella siguió diciendo que no. Entonces él le mandó una foto generada por inteligencia artificial en la que ella aparecía desnuda.
—Si no me pasás las fotos que te pedí, voy a viralizar esta —la amenazó.
Días después, cumplió la amenaza.
El drama de esta chica, de la que preservamos su identidad para resguardar su intimidad, sintetiza un escenario sobre el que ya vienen alertando especialistas: el uso malintencionado de la inteligencia artificial deja más expuestos a niños, niñas y adolescentes frente a delitos como el grooming y la pedofilia.
Detrás del perfil de Instagram de ese chico que aparentaba tener la misma edad que Lara, que subía fotos familiares y hasta seguía y era seguido por amigos de la adolescente, se escondía una persona mayor de edad.
Esta historia se convirtió en la primera causa de grooming que investiga la Justicia porteña donde la inteligencia artificial operó como un medio facilitador para la extorsión. Por eso, la Unidad Fiscal N°7, especializada en delitos informáticos, avanza con una triple imputación contra esta persona: grooming, amenazas coactivas y distribución de material de abuso sexual contra niños, niñas y adolescentes.
“Más allá de que en la imagen no se vea el cuerpo verdadero de la víctima, entendemos que hay una afectación porque se utilizó su cara y el resultado es muy realista”, analiza el fiscal Tomás Vaccarezza, a cargo de la investigación, y remarca la necesidad de denunciar este tipo de casos aún cuando, en apariencia, se den entre adolescentes.
“Lo que tiene este delito es que nunca sabés quién está detrás. Uno puede suponer que es un menor, pero puede ser alguien mayor de edad, como en este caso”, alerta.
Cómo usan la IA los acosadores
El grooming es un tipo de acoso sexual que tiene como víctimas a niños, niñas y adolescentes y se da en un entorno virtual. De la mano de la inteligencia artificial, todo el proceso que normalmente desarrolla un acosador para ganarse la confianza de un niño, niña o adolescente y luego pedirle material de índole sexual puede reducirse en forma dramática: solo hace falta una foto generada en forma artificial como objeto de amenaza o extorsión.
“El grooming tal y como lo conocemos requiere de un enganche previo, de una ingeniería social para obtener datos, de un proceso de fidelización para que el menor entre en confianza y así pedirle fotos o videos. Pero ahora basta con una foto trucada y una amenaza”, explica Hernán Navarro, fundador de Grooming Argentina.
Ground Picture – Shutterstock
“Gracias a la facilidad con la que se accede a aplicaciones o plataformas de inteligencia artificial para desnudar a alguien sin su consentimiento, el grooming podría convertirse en el delito más rápido del mundo”, alerta Navarro con una dosis de ironía. “El tema es urgente, pero no hay leyes ni políticas públicas que estén a la altura de las circunstancias”, plantea.
Josefina Gutiérrez, responsable de proyectos de Chicos.net, organización que promueve los derechos de niños, niñas y adolescentes en entornos digitales, hace hincapié en una estrategia frecuente entre los acosadores: la falsificación de perfiles para aparentar ser chicos, como ocurrió en el caso de Lara. Y destaca que en ese punto, las herramientas de IA también resultan sumamente funcionales.
“El uso malintencionado de esta herramienta no sólo es útil para manipular imágenes de menores que puedan servir para extorsionarlos después. También facilita la suplantación de identidad, es decir, que los acosadores se hagan pasar por chicos mediante la manipulación de audios y hasta de videos”, remarca la especialista.
“Es cierto que todo esto no arranca con la inteligencia artificial, que el grooming es un delito preexistente”, puntualiza Gutiérrez. “Pero también es cierto que puede potenciarse gracias a la proliferación de aplicaciones, plataformas y demás herramientas que son de cada vez más fácil acceso”, agrega.
Los retos que encarna el uso de la inteligencia artificial están presentes en las charlas que Chicos.net da en escuelas. “Cada vez más, nos encontramos con docentes que quieren aprender sobre inteligencia artificial no solo por su potencialidad tecnológica sino también acerca de los desafíos éticos y del cuidado de la privacidad para poder ayudar mejor a sus estudiantes”, reconoce.
El avance de la inteligencia artificial y el potencial impacto de su uso malintencionado sobre niños, niñas y adolescentes pone a los adultos, dice Gutiérrez, ante el desafío de acortar la brecha digital con los más chicos. “Necesitamos estar alfabetizados en inteligencia artificial para acompañarlos mejor y fortalecer nuestro vínculo de confianza con ellos. No hay que olvidar que, muchas veces, las víctimas de grooming tardan en recurrir a un adulto por vergüenza o culpa”, recomienda.
De acuerdo con una investigación publicada por LA NACION a fines de noviembre, las dos fiscalías especializadas en ciberdelitos de la Ciudad investigan 10 casos de generación de imágenes de desnudos de adolescentes sin su consentimiento. “Casi todos se dieron en ámbitos escolares, entre compañeros de colegio”, contextualizó el fiscal Vaccarezza.
El deep fake porno, nombre con que se reconoce a esta práctica, fue una de las mayores preocupaciones de los colegios del país de este año, tras haberse instalado entre los adolescentes. Pocos días después de publicada la investigación, el Ministerio de Educación porteño anunció la implementación de un protocolo de actuación para casos de estas características en todas las instituciones educativas porteñas.
Más información
Dónde denunciar un caso de deep fake porno:
Dónde denunciar un caso de grooming:
