Resumen ejecutivo

Amitai Etzioni es profesor de relaciones internacionales en la Universidad George Washington y autor de Política exterior: pensar de forma innovadora (2016). Fue asesor principal en la Casa Blanca de Carter. Oren Etzioni es director ejecutivo del Instituto Allen de Inteligencia Artificial y profesor de informática en la Universidad de Washington. Fue el fundador y cofundador de Farecast (vendida a Microsoft) y Decide (vendida a eBay).

​

1. Los autores «entienden que la autonomía significa que una máquina tiene la capacidad de tomar decisiones basadas en la información recopilada por la máquina y de actuar sobre la base de sus propias deliberaciones, más allá de las instrucciones y los parámetros de sus productores».
2. Parece «inevitable» que los sistemas autónomos, incluidos los bombarderos y aviones de combate sin piloto humano, prevalezcan más. «Este genio ha dejado la botella y no vemos la forma de volver a ponerla».
3. Para «misiones aburridas, sucias o peligrosas», los robots serán mejores que los humanos. Una incursión de larga duración es un ejemplo de misión «aburrida», la exposición a materiales radiológicos es un ejemplo de misión «sucia», y la tarea de eliminar artefactos explosivos es un ejemplo de misión «peligrosa».
4. Los robots militares podrían lograr ahorros económicos. En la actualidad, cada soldado en Afganistán cuesta 850.000 dólares al año. Por el contrario, «el robot TALON, un pequeño vehículo explorador que puede equiparse con armas, cuesta 230 000 dólares».
5. Los sistemas de armas aéreas estarán menos sujetos a la fatiga y al estrés emocional, y podrán soportar mejor que los pilotos humanos las tensiones físicas, por ejemplo, las maniobras de alta gravedad.
6. Es posible que los robots militares autónomos actúen de manera más ética que los soldados humanos. No estarán necesariamente programados con un «instinto de supervivencia», por lo que será menos probable que «disparen primero y pregunten después». Estarán menos sujetos a emociones de ira, miedo, cobardía y deseos de represalias o venganza.
7. Al reemplazar a los combatientes humanos, «las armas autónomas podrían reducir la posibilidad de sufrimiento y muerte».
8. Por el contrario, los seres humanos distinguen mejor entre «quién es un civil y quién es un combatiente», por lo que los sistemas de armas autónomos podrían ser menos capaces de seguir una regla importante de los conflictos armados, el «principio de distinción».
9. Una norma importante del derecho internacional humanitario es que, en caso de muerte de civiles, alguna persona debe poder ser considerada responsable. Sin embargo, esto sería difícil o imposible con sistemas de armas totalmente autónomos.
10. Llegar a acuerdos internacionales para limitar incluso algunos tipos de armas autónomas puede ser un desafío imposible. Trazar una «línea roja» brillante ya es bastante difícil, al igual que lograr un acuerdo y una aplicación razonable.

​

Lea el artículo completo aquí. Resumen de Stephen Hicks, 2020

‍

‍