La cuestión de quien puede disponer de una vida y bajo qué circunstancias el asesinato es aceptable o no es uno de los pilares de los marcos legales de las sociedades modernas, desde los derechos humanos, los códigos penales y hasta las leyes de guerra, el determinar la vida y la muerte es un asunto humano de gran relevancia; sin embargo, con el caos en el orden internacional, así como el ascenso de armamento totalmente autónomo, las bases de quien puede disponer de una vida  y los costos moral y sociales de tal decisión saltan por los aires, ya que la responsabilidad de quitar una vida se diluye entre quien determina los objetivos, quienes crean la tecnología o quien vende el producto. Y sin responsabilidad a afrontar, el costo mismo de ir a la guerra disminuye.

Por tanto, ¿Qué le podría esperar a las relaciones entre países en el momento en el que la guerra se automatice al punto en el que haya ejércitos de máquinas asesinas autónomas? ¿habrá una nueva ola de conquistas y abusos sociales y territoriales? O acaso, ¿se podrá impulsar un marco regulatorio que disminuya los riesgos del armamento y -en su momento- ejércitos mecánicos autónomos? ¿Cómo pinta el futuro en ambos casos, especialmente entre países poderosos tecnológicamente y los demás? ¿y qué tal las relaciones entre los pueblos y las fuerzas de seguridad?

Para comenzar, es necesario señalar qué es el armamento autónomo y cuáles son sus riesgos: el armamento autónomo usualmente es denominado como “robots asesinos”, éstas son armas capaces de seleccionar y atacar objetivos sin intervención humana directa una vez activadas. A diferencia de los drones convencionales manejados por control remoto, en estas armas la decisión de usar la fuerza letal la toman algoritmos y sensores, no un operador humano.

Entre el armamento autónomo podemos encontrar armas como sistemas de defensa automáticos, los cuales son usados para detectar y atacar automáticamente amenazas inmediatas tal como las baterías antimisiles o las torretas de vigilancia y combate autónomas, éstas no sólo pueden ser usadas en un contexto bélico, sino de vigilancia interior y hasta genocidio, así como en el caso de Israel contra asentamientos palestinos; asimismo están las municiones merodeadoras, las cuales son drones armados con carga explosiva -también conocidos como drones kamikaze- que pueden vagar por una zona en busca de objetivos, tal como se está presenciando en el conflicto Rusia-Ucrania, en donde los drones se convirtieron en un elemento esencial en la batalla. 

Y hablando de drones, también están en desarrollo los vehículos aéreos de combate no tripulados avanzados, los cuales, a diferencia de los drones kamikaze, pueden ser reutilizados; un subtipo de drones inteligentes son los sistemas autónomos de enjambre, esta categoría se refiere a la coordinación de múltiples unidades autónomas actuando juntas mediante IA, imitando comportamientos de enjambres naturales.

Por último, están los robots terrestres armados y los vehículos navales autónomos, los cuales pueden adquirir distintas formas: tanques, drones acuáticos, buques y hasta robots humanoides o cuadrúpedos, los cuales, una vez que la tecnología esté lo suficientemente madura, podrían revolucionar las filas del ejército y sustituir a gran escala a ejércitos tradicionales compuestos por filas humanas.

Se estima que el mercado global de armamento militar autónomo alcanzó unos $16, 000 millones en 2024 y crecerá a más de $26,000 millones para 2029, con una tasa anual compuesta superior al 10%, tan solo el Pentágono en EUA solicitó $1.800 millones en 2024 solo para proyectos de IA, teniendo ya más de 800 programas de IA militar activos. Entre los competidores no sólo se encuentran Estados Unidos y China, sino prácticamente todo país con ecosistemas armamentísticos y tecnológicos con cierto nivel de madurez, tal como Rusia, Europa, India, Israel, etc. 

En este escenario no sólo las finanzas son un aliciente, sino que además el disminuir las bajas humanas en los conflictos provee un incentivo político, el cual no sólo podría animar a desarrollar ejércitos totalmente automatizados y basados en la inteligencia artificial, sino a aventurarse a conflictos más allá de amenazas reales debido a la disminución de los costos sociales de la guerra y la consecuente desensibilización de una población cada vez más censurada algorítmicamente. 

El delegar la decisión de quien asesinar y en qué condiciones representa un quiebre profundo en la guerra, los conflictos armados y la administración de la violencia en general, ya que con este armamento se potencia la violencia sin compasión ni juicio alguno. Además, los sistemas basados en inteligencia artificial no son infalibles, por lo que principios de la guerra como la distinción de combatientes o la proporcionalidad en el ataque pueden no ser respetados por el armamento autónomo, asesinando a población civil a gran escala.

Entre otros riesgos que se vislumbran están la velocidad de la toma de decisiones de los armamentos autónomos, la cual excede por mucho la capacidad de toma de decisión humana, por lo que un error de cálculo entre armas autónomas podría desencadenar conflictos armados a velocidades que escaparían al control humano, sobre todo si se delega totalmente la toma de decisiones a la IA. 

Los ciberataques y el hackeo representan otra vulnerabilidad de este tipo de armamento, el cual es vulnerable técnicamente y puede ser explotado para causar un mal funcionamiento, poniendo en peligro a la propia sociedad y sus altos mandos.

También está el riesgo que este tipo de armamento caiga en manos equivocadas o que sea desarrollado por grupos criminales, terroristas o narcotraficantes, lo que podría implicar un nuevo estadio en la ingobernabilidad de ciertas regiones, así como en el uso de la violencia indiscriminada. 

Y por supuesto, existe la posibilidad de la privatización de ejércitos y máquinas de matar, lo que podría desencadenar en usar armas autónomas para aplastar levantamientos populares y perpetuar la dominación sin riesgo de insubordinación humana. 

Todo lo anterior vuelve imperativo el preguntarse ¿Qué están haciendo los Estados a nivel mundial para disminuir todo este corolario de riesgos, peligros y tensiones? ¿es suficiente la labor internacional en regular el armamento autónomo o acaso la humanidad está condenada a los designios belicistas de unos cuantos países? ¿Cómo podría lucir el futuro en el que no sea posible regular el armamento autónomo y qué actores serían los más afectados? Estas y otras preguntas quedan pendientes para otro escrito, uno en donde se vislumbren escenarios posibles según el contexto actual, hasta entonces.