Viralizaron fotos falsas de adolescentes creadas con IA

Fotos de adolescentes con contenido sexual se viralizaron en los grupos de redes sociales de adolescentes y los colegios de los que forman parte. Las imágenes, en realidad, eran montajes realizados con Inteligencia Artificial, y los responsables de su creación y distribución serían otros menores de edad.

La pesadilla de las jóvenes comenzó cuando aparecieron las fotos falsas en grupos de la red de mensajería Telegram y rápidamente comenzaron a compartirse en distintos grupos. Los padres de las menores afectadas presentaron una denuncia y a partir de allí se inició una investigación para determinar quiénes eran los responsables de la edición de las imágenes y de su distribución.

El uso de IA para crear falsas imágenes o videos de adolescentes ya tiene antecedentes similares. El caso que llegó esta semana a la Justicia ocurrió en Roca, pero también hubo denuncias similares en un colegio privado de Cipolletti.

caras lindas inteligencia artificial

La inteligencia artificial permite crear o modificar fotos de manera realista.

A través de la inteligencia artificial se obtienen imágenes realistas, es decir, que los autores y distribuidores de las imágenes en casos como estos buscan hacer creer que son fotos reales, filtradas en la red, lo que agrava el daño a las víctimas.

La denuncia penal trascendió este jueves por la tarde, poco antes de que la Justicia ordenara la realización de cuatro allanamientos en las viviendas de los jóvenes, todos menores de edad, sospechados de haber editado y distribuido las imágenes falsas.

La denuncia por las fotos con IA

La Justicia buscó equipos informáticos para determinar si fueron utilizados para la creación de las fotos falsas o su distribución en los grupos de Telegram.

Según se manifestó en la denuncia ante la Fiscalía, los sospechosos habrían tomado fotos de sus hijas de las redes sociales y mediante la IA produjeron imágenes usando los rostros de las jóvenes roquenses con los cuerpos desnudos de otras personas.

Las jóvenes afectadas no concurren al mismo colegio, pero sí integrarían grupos en común de jóvenes en redes sociales. Las identidades de los implicados se preservan, como las escuelas a las que asisten víctimas y sospechosos, para preservar a las jóvenes afectadas por las fotos falsas. Hay implicados que asisten a colegios privados, que estarían analizando posibles sanciones.