Las armas autónomas
Todos los avances tecnológicos pueden constituirse como armas de doble filo y la inteligencia artificial (IA) no es la excepción.
Todos los avances tecnológicos pueden constituirse como armas de doble filo y la inteligencia artificial (IA) no es la excepción.
Aunque este concepto esté arraigado a películas de ciencia ficción donde pueden verse robots o súper computadoras que buscan destruir la raza humana, hoy la IA se utiliza para optimizar procesos y encontrar nuevas soluciones en diferentes áreas del conocimiento, gracias a la capacidad de las computadoras para sintetizar grandes cantidades de información.
Pero no todos los campos en los que se utiliza la IA son pacíficos, un ejemplo de ello es su aplicación en materia militar, lo cual ha generado amplios debates en el ámbito internacional debido a sus posibles consecuencias, entre las cuales son:
-la intensificación de ataques biológicos, cibernéticos y físicos, haciéndolos más anónimos y certeros; los ataques cibernéticos son hoy un grave problema pues se han duplicado desde el año 2018 y sus objetivos no siempre son los sistemas de inteligencia gubernamentales sino empresas de petróleo y gas.
-Los Deepfakes que serían la versión con esteroides de las fake news debido a la tecnología de punta que la respalda, su formato es principalmente el vídeo y buscan crear zozobra sobre todo el campo político o generar polarización social.
-El último riesgo y sobre el cual este blog busca profundizar son las armas autónomas (AU).
¿Qué son? Las AU se definen como un tipo de armamento que no requiere de la intervención humana para escoger un objetivo y exterminarlo, toda vez que cuentan con la programación insertada y además se encuentran dotadas de la capacidad de aprender a partir de los datos del entorno.
En el 2018 Antonio Guterres, secretario general de la ONU expresó que este tipo de armamento debería ser prohibido por el derecho internacional pues representan graves problemas de tipo jurídico y moral los cuales son analizados desde la óptica del Derecho Internacional Humanitario (DIH) el cual prescribe el how to de los conflictos armados ya sean internacionales o nacionales.
El DIH cuenta con 3 principios esenciales que son:
Principio de distinción: entre combatientes y no combatientes configurándose especial protección frente a estos últimos.
Principio de proporcionalidad: según el cual se da la ponderación del éxito militar de una acción frente al daño civil colateral.
Principio de precaución: busca que el ataque u operación no se lleve a cabo si se vulnera alguno de los 2 anteriores.
El sistema de DIH es una construcción humana para la “humanización” de los conflictos, esta premisa presenta un primer problema de tipo moral frente a las AU debido a que estas no pueden realizar consideraciones de dicha índole, su actuar se verá regido por la lógica de la optimización de la actuación militar, la cual puede ir en contravía con las normas del DIH.
Las AU también enfrentan problemas jurídicos pues la aprobación de nuevo armamento está supeditada al cumplimiento de dos parámetros:
El primero de ellos es la previsibilidad frente a las consecuencias de su uso y el segundo es la fiabilidad, es decir la certeza de un funcionamiento sin fallos y sin efectos no deseados; el problema con las AU es su rápida capacidad de aprendizaje haciendo imposible tener una estimación acertada de las consecuencias o sus efectos.
Es el artículo 36 del I Protocolo adicional de los Convencidos de Ginebra, el que determina el marco jurídico de las nuevas armas a través de un examen a las mismas, en el artículo, se afirma que es obligación de cada Estado, evaluar si el empleo de dichas armas puede violar o no las normas de DIH, pero en el mismo, no se estipuló la manera, ni quién es el responsable de realizar el procedimiento.
En este sentido, para prohibir el arma, es necesario que cause un sufrimiento innecesario o males superfluos (art. 35-2) y que cause actos indiscriminados (art. 54 b-4). Dado lo anterior, las AU representan uno de los mayores retos para el DIH, toda vez que aún no se han desarrollado en su totalidad y por lo tanto no hay una regulación específica.
El Comité de la Cruz Roja Internacional, plantea la cuestión acerca de si las AU podrían llegar a respetar el DIH en todas las circunstancias, si los principios de humanidad y los dictados de la conciencia pública pueden permitir a las máquinas tomar decisiones de vida o muerte, asimismo el Comité se cuestiona acerca de la responsabilidad en caso de que las armas provoquen un crimen de guerra, ¿a quién se atribuiría la responsabilidad? al ingeniero, programador, fabricante o comandante que activa el arma, finalmente, plantea la incertidumbre que generan este tipo de armas debido a que no hay control humano frente al uso de la fuerza, por lo tanto, dadas las preguntas sin respuestas, el CICR insta a los Estados a no emplear este sistema de armas para garantizar el DIH.
Mecanismos de protección
Actualmente no existen mecanismos de protección aplicables a la construcción u operación de las armas autónomas, esto está relacionado a la limitada cantidad de armas que existe hasta el momento (843 para ser exactos). Además sus actuaciones son realizadas por cortos periodos de tiempo y en ambientes controlados.
Actualmente no existen mecanismos de protección aplicables a la construcción u operación de las armas autónomas, esto está relacionado a la limitada cantidad de armas que existe hasta el momento (843 para ser exactos). Además sus actuaciones son realizadas por cortos periodos de tiempo y en ambientes controlados.
Sin embargo, ciertas autoridades internacionales como la ONU y la CICR han enfatizado en la importancia de la creación de estándares y definiciones claras que permitan comenzar a delimitar un panorama más claro sobre el tema.
Por ahora el único mecanismo de control que se ha establecido para este tipo de armamento -el cual genera una especie de despropósito- es el impedimento de una actuación 100% autónoma, requiriendo siempre algún grado de intervención o control humano. En el año 2018 durante la Comisión sobre armas convencionales el CICR instó al grupo de expertos gubernamentales para definir que tipo y grado de intervención humana sería necesaria para respetar el DIH y calmar las preocupaciones éticas sobre la materia. A día de hoy aún no se ha definido ni siquiera si la intervención humana debe enmarcarse en la etapa de desarrollo del arma o si también debe existir dicha intervención durante su funcionamiento.
En materia de responsabilidad, según la revista académica del centro de altos estudios de Justicia Militar pone de presente que si bien hay una tendencia de atribuir características humanas a la tecnología, el DIH le es aplicable no al armamento si no a quien lo maneja. Idealmente estas armas están diseñadas para actuar sin ninguna intervención humana, por ende, la responsabilidad se alejaría de la base de la pirámide jerárquica, es decir, el soldado en tierra, para acercarse a la cúspide (el personal y mando estratégico que da las órdenes) e incluso llegando a recaer sobre los programadores de dicha arma.
Si bien es cierto, no hay un mecanismo de protección frente a las AU, pero hay ciertos límites, uno de ellos debería ser el riesgo que generan las mismas frente a los principios dada la ausencia de "ética" de las armas.
Primero, respecto al principio de distinción, resulta improbable que un arma pueda distinguir entre civiles y militares, o entre combatientes heridos y los que participan en hostilidades.
Primero, respecto al principio de distinción, resulta improbable que un arma pueda distinguir entre civiles y militares, o entre combatientes heridos y los que participan en hostilidades.
Ahora, la "humanidad" es solo exigible al ser humano debido a que proviene de la naturaleza de la persona humana y de sus valores.
Asimismo, respecto del principio de proporcionalidad, un grupo de drones puede ser programado para bombardear una zona durante un tiempo, pero no está en condiciones de determinar si los daños causados son adecuados con relación a las ventajas militares que perseguían los programadores.
Respecto al artículo 57, numeral 2 del Primer Protocolo Adicional a los Convenios de Ginebra, se traen a colación las precauciones que deben ser tomadas durante los ataques. Específicamente respecto al inciso (i) de hacer todo lo posible para verificar que los objetivos que se proyecta atacar sean objetivos militares y no sean civiles, ni sean bienes de carácter civil, ni que gozan de protección especial y respecto del inciso (iii) de abstenerse de decidir un ataque cuando sea previsible que cause incidentalmente muertos o heridos de la población civil, daños a bienes de carácter civil o ambas, debido a que serían excesivos en relación con la ventaja militar concreta y directa, ante esta consideración resulta casi imposible que una arma, ya programada, que tenga la capacidad de aprendizaje respecto al entorno, tenga este tipo de precauciones, inherentes a consideraciones humanitarias, es decir, inherentes a la persona humana.
Así como el límite mencionado anteriormente, las AU tienen como límite los preceptos y los estándares del DIH, y en caso de algún uso indebido en un futuro cercano el primer candidato para establecer una acción concreta al respecto sería el CICR como ente encargado de la supervisión del cumplimiento del DIH.
Bibliografía
Hurtado Granada, M. I. (2017, julio-diciembre). Los límites del DIH a las armas autónomas. Rev. Cient. Gen. José María Córdova, 15(20), 85-100. DOI: http://dx.doi.org/10.21830/19006586.176 recuperado de: http://www.scielo.org.co/pdf/recig/v15n20/1900-6586-recig-15-20-00085.pdf
https://news.un.org/es/story/2018/11/1444982
No hay comentarios:
Publicar un comentario