Imagínate: una guerra estalla en un lugar lejano, proliferan el caos y la destrucción, e innumerables civiles mueren o son heridos por autómatas tipo Terminator encargados de eliminar a los combatientes enemigos.
En el mundo entero, manifestantes pacíficos salen a la calle a reclamar sus derechos pero se ven violentamente reprimidos por policías tipo Robocop y vehículos robóticos armados que siguen cada movimiento de los manifestantes y les disparan balas y gas lacrimógeno.
Estas situaciones pueden parecer sacadas de una película pero, dentro de no mucho, los robots que pueden apuntar, atacar, matar y herir dejarán de ser ciencia ficción.
Los robots asesinos –o sistemas de armas autónomas letales, como los denominan los gobiernos– han sido por primera vez el tema de un intenso debate por parte de una mayoría de Estados aquí, en la sede de la ONU en Ginebra, en la reunión de expertos en la Convención sobre Ciertas Armas Convencionales que concluye hoy.
Los robots asesinos son armas totalmente autónomas que pueden elegir blancos humanos y disparar contra ellos por sí solos, sin intervención humana. Normalmente se denominan “letales” porque sus diseños se consideran armas militares para matar en conflictos armados. Hay empresas de Estados Unidos, Reino Unido, Alemania, Israel, Emiratos Árabes Unidos, Jordania y Sudáfrica que también están desarrollando armas robóticas “menos letales”, que se manejan por control remoto o que disparan automáticamente cuando se las toca, para realizar labores policiales. Al parecer, pueden disparar gas lacrimógeno, balas de goma y dardos eléctricos. Por el momento no existen armas totalmente autónomas, pero los rápidos avances tecnológicos nos están acercando al momento en que se hagan realidad.
Por ejemplo, la empresa BAE Systems, con sede en Reino Unido, ha desarrollado el prototipo Taranis, un avión no tripulado de combate, que cruza la línea entre los drones y los robots. El Taranis está diseñado para realizar misiones intercontinentales a velocidades supersónicas, sin ser detectado por los radares, y prácticamente sin intervención humana. Al parecer, incluye dos compartimentos de armas que podrían llevar bombas o misiles.
Otro dispositivo es el Atlas, robot humanoide desarrollado principalmente por la empresa estadounidense de robótica Boston Dynamics, con financiación y supervisión de la Agencia de Investigación de Proyectos Avanzados de Defensa (DARPA) de Estados Unidos. Según el sitio web de Boston Dynamics, “Atlas puede caminar sobre los dos pies, lo que le deja los miembros superiores libres para levantar, transportar y manipular objetos. En terrenos muy abruptos, Atlas tiene la fuerza y la coordinación suficientes como para trepar utilizando las manos y los pies, abriéndose camino a través de espacios congestionados. Las manos, articuladas y con sensores, le permiten utilizar herramientas diseñadas para uso humano”. Aunque Atlas no está armado, no resulta difícil concebir que lo pueda estar.
El desarrollo de diminutos robots “nanos”, para usarlos individualmente o en enjambres, complica aún más un panorama tecnológico ya de por sí complejo, ya que es probable que, con el tiempo, estos dispositivos se armen, en una especie de vacío legal.
Desde una perspectiva de derechos humanos, las armas robóticas autónomas, tanto letales como menos letales, resultan sumamente inquietantes por varios motivos.
En primer lugar, Amnistía Internacional cree que el uso de armas sin un control humano efectivo y significativo aumentaría la probabilidad de que se produjeran lesiones y homicidios ilegítimos, tanto en el campo de batalla como en las operaciones policiales.
En segundo lugar, pese a que algunos gobiernos y expertos en tecnología alegan que los robots asesinos autónomos podrían programarse para cumplir con el derecho internacional, a muchos les parece que eso es imposible. Amnistía Internacional cree que, en las operaciones policiales, los sistemas de armas autónomas letales, sin un control humano significativo, no podrían evaluar adecuadamente situaciones complejas y cumplir las normas pertinentes. Las normas relativas a la labor policial prohíben el uso de armas de fuego salvo como defensa frente a una amenaza inminente de muerte o lesiones graves, y resulta muy difícil imaginar una máquina que sustituya el criterio humano, de una importancia fundamental en toda decisión que implique el uso de fuerza letal.
De igual modo, en situaciones de conflicto armado, creemos que los sistemas de armas robóticas no podrían cumplir las leyes de la guerra, incluida la norma que exige que las fuerzas armadas deben distinguir entre combatientes y civiles, deben tomar las precauciones necesarias para minimizar el daño a civiles, y deben evaluar la proporcionalidad de un ataque.
Por último, el permitir que los robots estén facultados para tomar decisiones de vida o muerte traspasa una línea moral fundamental. Además, aún más importante para nosotros, viola los derechos humanos a la vida y la dignidad, ya que puede decirse que el hecho de que unas máquinas arrebaten vidas humanas es el exponente máximo de indignidad, y los seres humanos no deben reducirse a meros objetos.
Es por estas y otras razones por lo que Amnistía Internacional considera que se necesita un nuevo instrumento internacional para abordar esta tecnología de armamento emergente. Creemos que la única solución real es la prohibición total del desarrollo, el despliegue y el uso de sistemas de armas autónomas letales. El adoptar un enfoque de “esperar a ver” podría dar lugar a que los Estados sigan invirtiendo en el desarrollo de estos sistemas de armas y que estos sistemas proliferen rápidamente en una nueva carrera de armamento.
Los gobiernos se reunirán de nuevo para debatir qué hacer con los robots asesinos en la reunión anual de la Convención sobre Ciertas Armas Convencionales que se celebrará en noviembre, y confiamos en que entonces se inicie un proceso formal de negociación para establecer una nueva prohibición global. Amnistía Internacional, junto con nuestras ONG asociadas y expertos en la Campaña para Detener los Robots Asesinos, tratará de trabajar con los gobiernos para garantizar que, como civilización, no nos convertimos en una distopía de ciencia ficción donde los robots asesinos siembren el caos.
Más información:
Campaña para Detener los Robots Asesinos
