Una de las principales ventajas de la tecnología de automatización e inteligencia artificial, cada vez más avanzada, es la disminución de la carga de trabajo y el aumento de la seguridad de los seres humanos, ya se trate de conducir un vehículo, pilotar un avión o patrullar una calle peligrosa en un lugar desplegado con la ayuda de compañeros autónomos de tierra y aire.
Pero cuando se produce un fallo tecnológico y las máquinas no funcionan como han sido diseñadas, los compañeros humanos de los equipos hombre-máquina pueden verse abrumados al intentar comprender su entorno en un momento crítico, especialmente cuando se han acostumbrado a las capacidades de la máquina y dependen de ellas.
Sin un conocimiento de la situación del sistema y del entorno, el miembro humano del equipo puede ser incapaz de adaptarse, reduciendo la seguridad y amenazando el éxito de la misión. Esta realidad se ha puesto de manifiesto en los accidentes de aviones modernos de los últimos años, en los que han muerto cientos de personas, porque los sistemas automatizados avanzados fallaron en vuelo y los pilotos no fueron capaces de evaluar la situación y responder adecuadamente a tiempo.
Estos ejemplos subrayan la necesidad de diseñar interfaces hombre-máquina (HMI) que permitan a los humanos mantener el conocimiento de la situación de los sistemas altamente automatizados y autónomos para que puedan adaptarse ante circunstancias imprevistas.
DARPA anunció recientemente su programa Enhancing Design for Graceful Extensibility (EDGE), cuyo objetivo es crear un conjunto de herramientas de diseño de HMI que se integren en los procesos de diseño de sistemas. Al priorizar y orientar estas herramientas hacia la cuantificación, el apoyo y la comprobación del conocimiento de la situación, en lugar de la carga cognitiva a expensas del conocimiento de la situación, EDGE ayudará a crear sistemas HMI que permitan a los operadores no sólo supervisar los sistemas autónomos, sino también adaptar su uso para satisfacer las necesidades de situaciones imprevistas.
«A medida que las máquinas altamente automatizadas y los sistemas con IA se han ido complicando, la tendencia en el desarrollo de HMI ha sido reducir la carga de trabajo cognitivo de los humanos tanto como sea posible. Desgraciadamente, la forma más fácil de hacerlo es limitando la transferencia de información», afirma Bart Russell, director del programa EDGE en la Oficina de Ciencias de la Defensa de DARPA. «Reducir la carga de trabajo es importante, porque una persona sobrecargada no puede tomar buenas decisiones. Pero limitar la información erosiona el conocimiento de la situación, lo que dificulta que los operadores humanos sepan cómo adaptarse cuando la IA no funciona como está diseñada». Los sistemas actuales de IA tienden a ser frágiles -no manejan bien las situaciones inesperadas- y la guerra se define por lo inesperado».
Las herramientas de diseño de EDGE se centrarán en apoyar la capacidad de los operadores de sistemas autónomos, que no sean necesariamente científicos de datos o expertos en IA, para entender lo suficiente el funcionamiento abstracto de un sistema, de modo que puedan adaptarse con él cuando se encuentren con situaciones fuera de lo normal. Los diseñadores podrán aprovechar las herramientas de diseño EDGE para crear HMI que ayuden a los operadores a entender los procesos de un sistema de IA, o cómo funciona; el estado del sistema con respecto a su envolvente de rendimiento (es decir, si está en su «zona de confort», o cerca de los límites de su velocidad, alcance, etc.); y el contexto ambiental, que es a menudo donde aparecen los elementos más imprevistos.
«Necesitamos que las HMI hagan un trabajo mejor de intercambio de información entre el sistema y el ser humano», dijo Russell. «Ahora mismo hay mucho trabajo centrado en el diseño de máquinas que entiendan las intenciones humanas, lo que se denomina Teoría de la Mente de la IA. A mí me interesa ayudar a los humanos a entender mejor los complejos sistemas con los que trabajan». EDGE se centra específicamente en el Observar, Orientar, Decidir y menos en el Actuar en el bucle OODA. No se trata de la rapidez con la que se pulsa un botón, ni de la ergonomía de la cabina, sino de lo bien que se percibe la información que se recibe y de si eso ayuda a desarrollar una comprensión suficiente de los procesos de los sistemas, del estado con respecto a la envolvente de rendimiento de la máquina y del contexto en el que está operando para seguir completando una misión a pesar de las condiciones fuera de lo normal».
El conjunto de herramientas de diseño de HMI de EDGE incluirá modelos que cuantifican las demandas de conocimiento de la situación para permitir el codiseño detallado entre los ingenieros de software y los diseñadores de HMI; métodos de diseño componibles para acelerar y madurar la implementación del diseño; y un tablero de HMI para realizar pruebas y verificaciones realistas en las primeras etapas del proceso de diseño.
El 1 de junio de 2021 está previsto un seminario web para los proponentes interesados. Puede obtener más información y detalles sobre la inscripción aquí: https://go.usa.gov/xHSKg. Se espera que en las próximas semanas esté disponible en beta.SAM.gov un anuncio de la agencia (BAA).
Fte. DARPA
