Análisis efectuado por Juan A. Moliner González, miembro de la Sección de de Prospectiva de la Tecnología Militar, de la Academia de las Ciencias y las Artes Militares (Acami).
La utilización de la Inteligencia Artificial (IA) en Sistemas de Armas Letales Autónomos (SALAS) ha producido una abundante literatura en la que el concepto de ‘control humano significativo (CHS)‘ ha sido empleado de forma habitual como una de las más importantes exigencias legales y éticas de esos sistemas autónomos. Intentar profundizar y precisar el significado de este concepto es el objetivo del presente trabajo.
Concepto de Control Humano Significativo-CHS
En cuanto al control sobre la autonomía del sistema, el CHS se refiere a la posibilidad de que el ser humano, es decir su operador, lo gobierne en todo momento y mantenga en su empleo la capacidad humana de proporcionarle inputs, derivados de su propio juicio «y que le permitan retener un dominio legal y éticamente aceptable de las funciones críticas que se le encomienda ejecutar» (Jiménez-Segovia, R. (2019).
Uno de los aspectos más relevantes que se cuestionan en relación con el CHS, y que dificulta los eventuales acuerdos jurídicos y normativos sobre el mismo, se refiere a su propia terminología.
El CHS es empleado y discutido en las reuniones que se llevan a cabo en la sede de Ginebra de las Naciones Unidas (Convención sobre Ciertas Armas Convencionales, Grupo de Expertos Gubernamentales, CCW/GGE) y en otros foros, mientras que el Departamento de Defensa de EE. UU. utiliza la expresión ‘niveles apropiados de juicio humano‘ en su Directiva de Defensa.
Artículo 36 del I Protocolo Adicional de 1977 a las Convenciones de Ginebra de 1949
La primera vez que apareció el concepto de CHS fue en abril de 2013 en un informe de la Organización No Gubernamental británica haciendo referencia al artículo 36 del I Protocolo Adicional de 1977 a las Convenciones de Ginebra de 1949.
Dicho artículo establece que:
En el estudio, desarrollo, adquisición o adopción de un arma nueva, una Alta Parte Contratante tiene la obligación de determinar si su empleo estaría prohibido por este Protocolo o por alguna otra regla de Derecho Internacional aplicable a la Alta Parte Contratante.
En el Informe se exigía que el CHS cumpliera los tres siguientes requisitos:
- Información: un operador humano, y otros responsables por el planeamiento del ataque, necesitan tener adecuada información contextual sobre el área objetivo de un ataque.
- Acción: la iniciación del ataque debería requerir una acción positiva por un operador humano.
- Rendición de cuentas (accountability): aquellos responsables de evaluar la información y ejecutar el ataque necesitan responsabilizarse de los resultados del ataque.
Generalmente se acepta que el DIH es aplicable a los SALAS, por lo que una importante cuestión es si el CHS y sus requisitos satisfacen las reglas de ese derecho en lo relativo a su control y exigencia de responsabilidad. A esto se objeta que el DIH no requiere el control humano, sino que cada medio o método de guerra empleado cumpla con las obligaciones que ese derecho establece.
Juan A. Moliner González
Academia de las Ciencias y las Artes Militares
