Cada paso adelante en Inteligencia Artificial supone también un avance para hacer daño.
Un informe de 100 páginas, escrito por expertos en Inteligencia Artificial de la industria y la academia, contiene un mensaje claro: cada avance en la IA por parte de los chicos buenos es también un avance para los chicos malos.
El artículo, titulado «The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation,» llama a esto el atributo de «doble uso» de la IA, lo que significa que la capacidad de la tecnología para tomar miles de decisiones complejas cada segundo, podría utilizarse tanto para ayudar como para dañar a las personas, dependiendo de quién diseñe el sistema.
Los expertos consideraron los usos maliciosos de la IA que existen actualmente, o que podrían desarrollarse en los próximos cinco años y los dividieron en tres grupos: digital, físico y político.
A continuación, se presenta una lista seleccionada de los daños potenciales discutidos:
Digital:
- Phishing automatizado o creación de correos electrónicos, sitios web y enlaces falsos para robar información.
- Hacking más rápido, a través del descubrimiento automatizado de vulnerabilidades en el software.
- Engaño a los sistemas de IA, aprovechando los defectos de cómo la IA ve el mundo.
Físico:
- Automatización del terrorismo, mediante el uso de drones. comerciales o vehículos autónomos como armas.
- Enjambres de robots, habilitados por muchos robots autónomos que intentan alcanzar el mismo objetivo.
- Ataques remotos, ya que los robots autónomos no necesitarían controlarse a una distancia determinada.
Político:
- Propaganda, a través de imágenes y vídeos falsos de fácil generación.
- Eliminación automática de disensiones, mediante la búsqueda y eliminación automática de texto o imágenes.
- Persuasión personalizada, aprovechando la información disponible públicamente para apuntalar las opiniones de alguien.
El informe presenta un panorama sombrío de nuestro futuro potencial, sobre todo, teniendo en cuenta que se trata de un estudio a solo cinco años. Pero eso no significa que estemos resignados a la distopía. Los investigadores ya están trabajando en algunas posibles soluciones a estos problemas, aunque advierten que probablemente será una partida de gato y ratón.
Fte. Defense One
