Entrenar a las IA para que observen 26 rasgos sutiles puede ayudar a frustrar los intentos de vender imágenes fraudulentas.
Las «fotos» de satélite generadas por ordenador pueden ser muy difíciles de detectar para los humanos y otros algoritmos de aprendizaje automático, lo que preocupa cada vez más a los responsables de la seguridad nacional, que temen que las imágenes manipuladas lleguen a manos de las tropas o se utilicen para influir en la opinión pública. Pero la ayuda puede estar en camino. Los investigadores han publicado esta semana un nuevo método para detectar imágenes de satélite falsificadas, incluso aquellas que normalmente engañarían a las técnicas avanzadas de detección por ordenador, así como a ojos humanos adiestrados.
El equipo de la Universidad de Washington empezó por crear las mejores falsificaciones que pudo. Mediante una herramienta llamada CycleGAN, crearon una red generativa adversarial que enfrentó a dos algoritmos de inteligencia artificial. La primera IA trabajó para detectar imágenes falsas, y la segunda identificó los factores que la primera IA empleó para encontrar las falsificaciones y usó para producir fraudes aún más perfectos. Al final, el equipo creó un conjunto de 8.064 imágenes de satélite, incluyendo imágenes reales de Tacoma y Seattle (Washington) y de Pekín, y otras falsas que combinaban imágenes de las tres ciudades.
«Con nuestros propios ojos, era casi imposible saber si la imagen de satélite simulada era auténtica o falsa», escribieron.
A continuación, introdujeron las imágenes en una nueva herramienta de aprendizaje automático que tiene en cuenta 26 características de la imagen relacionadas con aspectos como el brillo, los canales de color, etc.
Su herramienta identificó correctamente el 94% de las imágenes falsas. Pero también calificó erróneamente de falsas varias imágenes reales, logrando una fiabilidad global del 73%.
Esto «indica que podemos distinguir las imágenes falsas de los satélites observando más de cerca sus características de color, claridad de los bordes y textura», escribieron.
El reto de detectar imágenes de satélite falsas no es pequeño ni intrascendente. En 2019, Todd Myers, líder de automatización de la Dirección de Tecnología CIO en la Agencia Nacional de Inteligencia Geoespacial, o NGA, describió la amenaza en un evento de Defense One: «desde una perspectiva táctica o de planificación de la misión, entrenas a tus fuerzas para que vayan por una determinada ruta, hacia un puente, pero no está ahí. Entonces te espera una gran sorpresa».
Mientras que la NGA y las agencias gubernamentales son capaces de corroborar las imágenes de fuente abierta con información clasificada, el público en general no lo hace. Esto plantea el riesgo de que un adversario publique imágenes manipuladas de las líneas de conflicto, los despliegues de tropas, etc. para crear narrativas públicas engañosas sobre dónde podrían estar concentrándose las tropas.
«Los chinos nos llevan mucha ventaja», dijo entonces.
El FBI advirtió el mes pasado que prevé un uso mucho mayor de las falsificaciones profundas en los próximos meses.
Fte. Nextgov
