Esta demanda marcaría un paso decisivo en la lucha contra el mal uso de la inteligencia artificial y la protección de la privacidad.
En septiembre de 2023, la ciudad española de Almendralejo fue sacudido por un incidente, en el que once adolescentes denunciaron la circulación de fotografías manipuladas mediante inteligencia artificial.
Este caso desató un intenso debate sobre el uso inapropiado de la IA. La situación evidenció cómo, con sorprendente facilidad y rapidez, estas herramientas pueden llegar a manos de cualquier persona.
En San Francisco, California, el pueblo está llevando a cabo un esfuerzo para cerrar estas aplicaciones que prometen “desnudar cualquier foto”. Esto se está logrando mediante una demanda, que podría sentar un importante precedente en la lucha contra el uso indebido de la tecnología.
El fiscal de San Francisco, David Chiu, advirtió que “la proliferación de estas imágenes ha alcanzado una cantidad alarmante de mujeres y niñas en todo el mundo”, destacando así la gravedad de la situación y la urgencia de abordarla.
La demanda presentada contra los sitios web que facilitan la creación de imágenes falsificadas de desnudos mediante IA sostiene que estos servicios han violado numerosas leyes estatales relacionadas con prácticas comerciales fraudulentas y pornografía no consentida.
Según Chiu, estas imágenes “se utilizan para acosar, humillar y amenazar a mujeres y niñas”. Además, destacó el impacto devastador que tales acciones tienen sobre las víctimas: “El daño a su reputación, su salud mental, la pérdida de autonomía y, en algunos casos, la aparición de tendencias suicidas son consecuencias trágicas y significativas”.
De este modo, San Francisco se convierte en la primera ciudad en los Estados Unidos en emprender acciones legales contra esta problemática. Sin embargo, el proceso se enfrenta a significativos obstáculos, siendo la identificación de los operadores de estos sitios web la mayor dificultad.
A pesar de los retos, David Chiu señaló que se están empleando herramientas avanzadas de investigación y citación para profundizar en la identidad y localización de los responsables.
Cabe recordar que este fenómeno no es exclusivo de Estados Unidos o España. En agosto de 2023, un caso similar sucedió en Chorrillos cuando escolares del colegio St George’s fueron acusados de manipular fotos de sus compañeras utilizando inteligencia artificial para luego venderlas.
