Un nuevo marco de procesamiento de redes neuronales permite a la inteligencia artificial juzgar mejor los objetos y las posibles amenazas en entornos hostiles.
Investigadores del Army Research Laboratory y socios universitarios de la Internet of Battlefield Things Collaborative Research Alliance (IoBT CRA), han desarrollado un método para que las redes neuronales tengan más confianza en su comprensión de los entornos del campo de batalla.
Para lograrlo, los investigadores revisaron los marcos que representan la incertidumbre, clasificaron las fuentes de incertidumbre en el entorno operativo común de las redes de información militar y, lo que es más importante, crearon soluciones para gestionar la incertidumbre dentro de los sistemas.
Los investigadores desarrollaron las ideas de los enfoques de gestión de la incertidumbre en un flujo de trabajo que maximiza la eficacia en el cumplimiento de los objetivos de la misión, a pesar de la presencia de incertidumbre en las entradas de datos. A través de este proceso, enseñan a las redes neuronales cuándo decir «estoy seguro» y tienen razón.
Esta mejora de la confianza en las redes neuronales tiene importantes implicaciones en el campo de batalla, ya que la certeza en las conclusiones y comportamientos de la IA es primordial para garantizar una autonomía ética y eficaz en la toma de decisiones en combate.
«Las aplicaciones de defensa modernas, como el reconocimiento de objetivos asistido, aprovechan cada vez más los avances de la IA para mejorar la automatización de diversas funciones del campo de batalla», dijo la Dra. Maggie Wigness, investigadora del Ejército y subdirectora de la alianza de colaboración del IoBT CRA. «Un componente clave de la mejora de la automatización es la mejora de la confianza de la máquina en la comprensión de su entorno, para que pueda aplicar el ‘buen juicio'».
Las antiguas tecnologías de sistemas inteligentes solían basarse en enfoques bien entendidos por los ingenieros para dar respuestas, pero el auge de la IA en general, y de las redes neuronales en particular, cambia eso.
«Las antiguas tecnologías de fusión de datos, como una pantalla de radar circular de color verde, parecida a las que suelen aparecer en las películas antiguas, mostraban los objetivos como puntos que pitaban en la pantalla», explica el Dr. Tarek Abdelzaher, profesor de la Universidad de Illinois y director académico del laboratorio IoBT CRA. «Los operadores sabían que se acercaba algo porque podían ver los puntos y sabían lo que significaba un punto».
El entorno operativo del mañana estará repleto de dispositivos y plataformas autónomas inteligentes que crearán firmas de información diversas y complejas.
«La IA puede recoger los datos de estas complejas firmas de información, pero la lógica que conecta esas señales con una conclusión como, por ejemplo, ‘esto es un objetivo’, es mucho más complicada y difícil de indicar al operador por parte de la máquina», dijo.
Debido a las señales más sutiles que los operadores pueden no entender, ya no está claro por qué un sistema de fusión de datos piensa que un elemento es, por ejemplo, un tanque frente a un civil, ni está siempre claro el grado de confianza del sistema en su evaluación.
Los investigadores abordan esta cuestión en su artículo On Uncertainty and Robustness in Large-Scale Intelligent Data Fusion Systems (Incertidumbre y solidez en los sistemas de fusión de datos inteligentes a gran escala), publicado en la 2ª Conferencia Internacional del IEEE sobre Inteligencia Artificial Cognitiva, y en las soluciones desarrolladas en el IoBT CRA, que contribuyen a hacer posible el mando y control sin restricciones de sistemas de sistemas complejos, inteligentes y omnipresentes en los espacios de combate modernos.
«La medición y mitigación de la incertidumbre para los marcos de aprendizaje automático es sólo un ejemplo de cómo el IoBT CRA está proporcionando la resistencia necesaria para producir una red de combate», dijo Wigness. «Sabemos que el entorno operativo multidominio del Ejército va a ser muy dinámico y disputado, por lo que una de las principales áreas de enfoque de investigación del programa se centra en generar contribuciones científicas que aborden directamente la resiliencia y la robustez.»
Este trabajo y otros relacionados con el CRA de IoBT, a diferencia de otras investigaciones sobre IA, fueron diseñados específicamente para trabajar en el entorno del campo de batalla, centrándose en la mitigación de la incertidumbre en entornos hostiles bajo importantes limitaciones de recursos y cuellos de botella en las comunicaciones. Los entornos hostiles crean problemas únicos para el Ejército: las plataformas se destruyen, los enlaces de comunicación se interrumpen, los sensores se infiltran para dar datos erróneos, pero el Ejército confía en que la IA siga funcionando correctamente.
Según los investigadores, se espera que un entorno operativo común habilitado por la IA resista los fallos, sortee su incapacidad para comunicarse y llegue a conclusiones precisas.
Fte. Army.mil
