Urgente acción legal frente a imágenes abusivas creadas por IA

MadridLas imágenes de abuso infantil generadas por IA están convirtiéndose en un problema grave, y las agencias de aplicación de la ley deben adaptarse rápidamente para enfrentar estos nuevos desafíos. El Departamento de Justicia ha iniciado su primer caso federal enfocado exclusivamente en imágenes generadas por IA. Esto representa un gran avance, ya que los niños representados en estas imágenes no son reales sino virtuales. Muchos estados también se apresuran a aprobar leyes para abordar y prevenir la difusión de estas imágenes creadas o alteradas digitalmente.

Las principales preocupaciones que impulsan estos esfuerzos incluyen:

• La dificultad de distinguir entre víctimas reales y virtuales, lo que puede desviar recursos valiosos de la investigación de casos reales de abuso infantil.
• La posibilidad de que las imágenes generadas por IA se utilicen para manipular y explotar a los niños.
• El impacto emocional y psicológico en los niños cuyas imágenes reales son alteradas para parecer explícitas.

La policía enfrenta el desafío de mantenerse al día con la tecnología en constante evolución. Los dos problemas principales que tienen son detener la difusión de contenido dañino y actualizar sus métodos para adelantarse al uso tecnológico de los delincuentes. Les preocupa la necesidad de arrestar y enjuiciar a los infractores, ya que las leyes que obedecen aún no se han adaptado a las nuevas tecnologías.

Lea también:

28 de octubre de 2024 · 13:31

Hombre en el Reino Unido encarcelado por crear imágenes abusivas con IA

Modelos de IA de código abierto, que cualquiera puede modificar y utilizar, agravan el problema. Estas herramientas son gratuitas y se pueden emplear para alterar imágenes de niños, generando un mercado ilegal de este contenido en la web oscura. El peligro supera las meras alteraciones digitales. Las imágenes creadas por IA fomentan una cultura nociva en la que la explotación se promueve y difunde, afectando profundamente a las víctimas.

Compañías tecnológicas como Google, OpenAI y Stability AI están colaborando con grupos como Thorn para frenar la propagación de imágenes de abuso sexual infantil. Su objetivo es mejorar futuros herramientas de inteligencia artificial incorporando características de seguridad más avanzadas. No obstante, algunos expertos opinan que estas medidas llegan tarde. Anteriormente, la prioridad era desarrollar herramientas de inteligencia artificial más rápidas, no necesariamente más seguras, lo que permitió que las versiones anteriores crearan imágenes dañinas sin ser detectadas.

Enfrentamos nuevos desafíos que necesitan el esfuerzo conjunto de legisladores, empresas tecnológicas y autoridades. Es esencial mejorar las leyes y la tecnología para abordar estos problemas y proteger a las personas de ser explotadas, especialmente ahora que las imágenes pueden ser falsificadas de manera muy convincente.