Una serie de avances sociales han resultado del uso generalizado de la inteligencia artificial (IA), pero como ocurre con todas las tecnologías, es posible hacer un mal uso de la IA, y pueden terminar en producir videos de abuso infantil.
En plataformas como «DALL-E», «Midjourney» y «Stable Diffusion», que brindan recursos para producir imágenes increíblemente realistas a través de comandos sencillos, los analistas están preocupados por el uso de inteligencia artificial para crear pornografía infantil.
La cantidad de contenido pedófilo virtual generado por inteligencia artificial ha aumentado significativamente, según Rebecca Portnoff, directora de «Thorn», una organización fundada en 2012 que trabaja para prevenir la explotación sexual de niños y adolescentes.
Afirmó que «imágenes de niños, incluido el contenido de víctimas conocidas, se están reutilizando para esta producción realmente malvada», y explicó que, en realidad, esto también hace que el trabajo de los investigadores sea muy desafiante.
Esto se debe a que para distinguir entre imágenes generadas por IA e imágenes reales, los agentes involucrados en la identificación del maltrato infantil también deben hacer esta distinción.
«Cuando la policía está tratando de encontrar a un niño en apuros, la identificación de la víctima ya es una aguja en un pajar. La simplicidad de uso y el realismo de estas herramientas representan un problema significativo. Todo esto hace que el trabajo sea aún más difícil», según Portnoff.
El uso de IA para producir contenido pedófilo hizo que las autoridades comenzaran a pensar en cómo podrían llevar a los delincuentes ante la justicia. En otras palabras, juzgarlos bajo las mismas leyes que hacen ilegal la pedofilia en el mundo real.
Aunque hay acuerdo en que quienes crean videos de abuso infantil, aunque sean creados con inteligencia artificial y no con abuso infantil real, son delincuentes, todavía no hay claridad sobre el tema.
Debido a que estos materiales se utilizan para dibujar niños reales, esa es la principal defensa. Con el fin de difundir la información y atraer a nuevas víctimas potenciales, los pedófilos crean artificialmente las imágenes, muchas de las cuales se basan en fotografías de víctimas reales.