El Departamento de Defensa de EE.UU. está actualizando sus directrices sobre armas autónomas para tener en cuenta los avances en inteligencia artificial, con una directiva revisada que se publicará a finales de este año, según dijo el jefe de la oficina de políticas de capacidades emergentes del Pentágono a Breaking Defense en una entrevista exclusiva.
La directiva 3000.09 del Departamento de Defensa, firmada por el entonces subsecretario de Defensa Ash Carter el 21 de noviembre de 2012, establecía la política, las responsabilidades y los procesos de revisión para el «diseño, desarrollo, adquisición, pruebas, despliegue y empleo de sistemas de armas autónomas y semiautónomas, incluidas las municiones guiadas que pueden seleccionar y discriminar objetivos de forma independiente».
Pero en la década transcurrida desde su publicación, la inteligencia artificial y las tecnologías de aprendizaje automático han dado un enorme salto adelante, y es «totalmente plausible» que haya que hacer revisiones que reflejen la iniciativa de «IA responsable» del Pentágono y otros principios éticos adoptados por el departamento, dijo Michael Horowitz, director de política de capacidades emergentes del DoD.
«La autonomía y la IA no son exactamente lo mismo», dijo Horowitz a Breaking Defense el 24 de mayo. «Pero dada la creciente importancia que tiene la IA, y pensando en el futuro de la guerra y la forma en que el Departamento la ve, creo que asegurar que se refleje en la directiva parece tener sentido».
Es importante señalar que, en base a la definición inscrita en la directiva 3000.09 del Departamento de Defensa, el Ejército no opera actualmente ningún sistema de armas que se pueda calificar como arma autónoma, y al menos públicamente no está desarrollando un arma de este tipo. El Departamento caracteriza un «arma autónoma» como un sistema autónomo o semiautónomo que puede elegir sus propios objetivos y aplicar fuerza letal o no letal sin un humano que lo opere.
La directiva no se aplica a los drones no armados ni a los drones armados como el MQ-9 Reaper, cuya trayectoria de vuelo y lanzamiento de armas está controlada por un piloto humano sentado en un lugar remoto. Tampoco se aplica a sistemas como las municiones de merodeo Switchblade que EE.UU. ha proporcionado a Ucrania, que son programadas por un operador humano para alcanzar objetivos específicos y pueden ser desactivadas cuando sea necesario.
«Fue la primera política nacional publicada sobre sistemas de armas autónomas, y de hecho sigue siendo una de las únicas políticas nacionales disponibles públicamente», dijo Horowitz. «Estableció el estándar esencialmente para el diálogo global que siguió y demostró el enfoque responsable de Estados Unidos sobre la potencial incorporación de la autonomía en los sistemas de armas».
En una entrevista de 2012 con Defense News, David Ochmanek, entonces subsecretario adjunto para el desarrollo de la fuerza política, describió la doctrina como «flexible» e hizo hincapié en la imposición de un «riguroso proceso de revisión» que ahora se llevaría a cabo antes de aprobar cualquier arma autónoma futura.
Pero esa promesa no ha servido para calmar a los opositores, que plantean comparaciones con Terminators y se han organizado en campañas, como la llamada Campaign to Stop Killer Robots (Campaña para Detener los Robots Asesinos), para prohibir preventivamente la tecnología. Horowitz, experto en drones desde hace tiempo y autor de un artículo titulado «The Ethics & Morality of Robotic Warfare: Assessing the Debate over Autonomous Weapons» (La ética y la moralidad de la guerra robótica: evaluación del debate sobre las armas autónomas), es muy consciente del debate en torno a estos sistemas y, aunque evitó comentar esas preocupaciones directamente, señaló que el aumento de la atención del Departamento sobre la autonomía y la IA en los últimos años siempre ha sido con la idea de que un ser humano participe en el proceso.
«Yo diría que una de las cosas del enfoque de Estados Unidos sobre el papel de la IA y los sistemas autónomos ha sido imaginar estos sistemas como una forma de mejorar al combatiente», dijo. «Es la razón por la que, desde hace un par de administraciones, Estados Unidos ha hablado de cosas como la formación de equipos hombre-máquina, porque tiende a pensar en la IA y los sistemas autónomos como cosas que trabajan en sinergia con los militares mejor entrenados del mundo para mejorar su capacidad.»
IA modernizada
La actualización no se debe a que haya un gran avance tecnológico en el horizonte, sino a una norma del Departamento que exige que las directivas se actualicen cada 10 años. Por el momento, no está claro qué parte de la directiva original tendrá que ser revisada, pero Horowitz pareció restar importancia a una reescritura masiva.
«Nuestro instinto al entrar en este proceso es que el enfoque fundamental de la directiva sigue siendo sólido, que la directiva establece un enfoque muy responsable para la incorporación de la autonomía y los sistemas de armas», dijo Horowitz.
«Pero queremos asegurarnos, por supuesto, de que la directiva sigue reflejando los puntos de vista del Departamento y la forma en la que éste debería pensar en los sistemas de armas [autónomos]», continuó. «Ha pasado una década. Y es totalmente plausible que haya algunas actualizaciones y aclaraciones que sean útiles».
Horowitz se negó a entrar en detalles sobre los cambios que cree que son necesarios, pero sí destacó que el documento refleja al Pentágono de 2012, que se ha transformado en el transcurso de las administraciones de Obama, Trump y Biden. Por ejemplo, el proceso de revisión establecido en la directiva original hace referencia al Subsecretario de Defensa para Adquisiciones, Tecnología y Logística, un cargo que ya no existe y cuyas responsabilidades se dividen ahora entre el Subsecretario de Defensa para Adquisiciones y Sostenimiento y el Subsecretario de Defensa para Investigación e Ingeniería.
También subrayó que esta directiva se centraría en el tema específico de las armas autónomas, y no en los esfuerzos más amplios de IA que existen en todo el Departamento.
«Hay tantas aplicaciones de IA que pueden, que ya están y que influirán en las Fuerzas estadounidenses que, ya sabes, no tienen nada que ver con esto».
Mientras que la oficina de Horowitz, de reciente creación, buscará aportaciones de las organizaciones de defensa relativamente nuevas que se han creado en la última década, como la oficina del Chief Digital and Artificial Intelligence Officer (CDAO), otras organizaciones que pueden ser relativas a la renovación de la Directiva 3000.09 del DoD -el Joint Artificial Intelligence Center, el Defense Digital Service y la Office of Advancing Analytics- están programadas para formar parte de la oficina del CDAO el 1 de junio, informó Breaking Defense a principios de esta semana.
También espera recibir aportaciones de los servicios, el Estado Mayor Conjunto y otras partes interesadas, de las cuales, señaló, hay muchas más ahora que hace una década.
Fte. Breaking Defense
