Cuanto más aleja la tecnología al actor, más debe aumentar su responsabilidad.
Únete a nosotros en Telegram 
, X y VK .
Escríbenos: info@strategic-culture.su
De persona a objetivo
¿Qué será de la humanidad cuando la tecnología sea capaz de reconocer, clasificar, rastrear y, en última instancia, matar a seres humanos sin que quienes ejecutan los ataques los hayan visto jamás?
Mi amigo Mohammad Reza Dehshiri planteó precisamente esta pregunta, y su respuesta es contundente.
El peligro, escribe, no es la inteligencia artificial, sino la inhumanidad artificial; es decir, la posibilidad de que las máquinas se vuelvan más precisas precisamente cuando los humanos dejen de sentirse responsables de lo que esas máquinas hacen en su nombre.
Con este artículo, inicio una serie que toma el análisis de Dehshiri como punto de partida e intenta llevarlo más allá. Si el problema es la «inhumanidad artificial», la respuesta no puede estar en una IA «más ética», como si la ética fuera un módulo que se instalara a posteriori en un sistema que ya ha sido diseñado.
Necesitamos recuperar una categoría que la jerga tecnológica ha vuelto casi innombrable: la inteligencia humana, entendida no como un vestigio que hay que proteger en medio de las complejidades de la automatización, sino como una forma de conocimiento con características propias y distintivas, que ningún aumento en la potencia computacional puede reemplazar.
La llamaré Inteligencia Humana, y la ambigüedad es deliberada. En la jerga de los servicios de inteligencia, HUMINT se refiere a la más antigua de las disciplinas de inteligencia: aquella que se basa en las personas, las fuentes, los idiomas y la visita paciente y frecuente a distintos lugares.
En terminología filosófica, la expresión denota la facultad de comprender. La tesis de esta primera contribución es que estos dos significados ahora convergen, y que su convergencia tiene implicaciones geopolíticas que se extienden mucho más allá del debate sobre la ética de las armas.
Podemos describir la cadena operativa de la guerra contemporánea en siete etapas: detectar, identificar, clasificar, predecir, priorizar, seleccionar el objetivo, atacar.
Cada eslabón puede perfeccionarse técnicamente sin que la secuencia, tomada en su conjunto, se perfeccione moralmente. El fenómeno resultante se denomina «dataficación de la vida humana»: el individuo reducido a una identidad, una ubicación, un patrón de comportamiento, un índice de amenaza.
Esto no es una abstracción. En abril de 2024, una investigación de Yuval Abraham para +972 Magazine y Local Call describió a «Lavender», un sistema utilizado por las fuerzas armadas israelíes en Gaza para asignar a decenas de miles de personas una probabilidad de afiliación a grupos armados.
Según fuentes internas citadas en la investigación, la verificación humana de cada nombre a menudo no duraba más de veinte segundos: el tiempo necesario para determinar que el objetivo era un hombre.
Las Fuerzas de Defensa de Israel han refutado este relato y han descrito a «Lavender» como una base de datos diseñada para apoyar a los analistas.
Sin embargo, incluso si se acepta la versión oficial, el meollo del asunto sigue siendo el mismo: había un operador humano presente, y su presencia no fue suficiente para transformar la recomendación del sistema en un juicio.
La psicología cognitiva tiene un nombre para este fenómeno, el sesgo de automatización: la tendencia de quienes trabajan con un sistema automatizado a tratar sus recomendaciones como un sustituto de su propia verificación y a no buscar la información que pudiera contradecirlas.
Ya en 1976, Joseph Weizenbaum —quien había creado uno de los primeros programas conversacionales de la historia— ya distinguía entre la capacidad de calcular y la capacidad de juzgar, y argumentaba que hay tareas que no deberían confiarse a una computadora, incluso si esta fuera capaz de realizarlas. Medio siglo después, esta distinción se ha vuelto aún más apremiante. La computación trabaja con lo que ya se ha traducido en datos. El juicio debe decidir si esa traducción ha sido fiel.
Dehshiri deja claro este punto con cuatro distinciones: la precisión técnica no es precisión ética; la exactitud no es justicia; la automatización no es responsabilidad; la superioridad tecnológica no es superioridad moral.
Yo agregaría una quinta, de naturaleza epistémica, de la que dependen las demás: la correlación no es comprensión. Un sistema de aprendizaje automático reconoce patrones estadísticos en un conjunto de datos. No sabe qué es una escuela, porque no sabe qué es un niño, y ni siquiera sabe que no sabe esto.
L’iraniano cita un interesante estudio de caso: el 28 de febrero de 2026, en las primeras horas de la guerra, la escuela primaria Shajareh Tayyebeh en Minab, en la provincia de Hormozgan, fue alcanzada varias veces durante el horario escolar.
Las cifras proporcionadas por las autoridades iraníes oscilan entre 150 y 175 muertos, la gran mayoría de los cuales eran niñas, junto con docenas de maestros y algunos padres; el fiscal del distrito fijó el número total de muertos en 156.
Washington nunca ha reconocido directamente su responsabilidad ni ha publicado los resultados de la investigación del Pentágono. Amnistía Internacional ha descrito el incidente, en el mejor de los casos, como un grave fallo de inteligencia.
Hay un detalle, revelado por imágenes satelitales, que traslada el análisis del plano moral al fáctico.
Según los medios occidentales, la escuela se encontraba junto a una base naval perteneciente a la Guardia Revolucionaria y anteriormente había formado parte de ella; entre las explicaciones que circulan en los círculos estadounidenses se encuentra la de datos de selección de objetivos desactualizados.
Si se confirmara esta hipótesis, Minab no sería un caso de una máquina que cometió un error, sino de una base de datos que había dejado de corresponder a la realidad. El edificio había cambiado. Los datos, no.
Ningún algoritmo de clasificación, por muy sofisticado que sea, puede detectar que un antiguo edificio militar se ha convertido en una escuela si nadie ha registrado el cambio. Todos los que vivían en Minab lo sabían: los padres que llevaban a sus hijas a la escuela cada mañana, el conductor del autobús escolar, los maestros.
Este es precisamente el tipo de información que recopila el HUMINT y que la guerra a distancia tiende a considerar superflua, porque es lenta, costosa y difícil de ampliar. Con base en fuentes de dominio público, la responsabilidad de EE. UU. parece altamente probable, aunque las circunstancias exactas siguen sin estar claras y el nivel de certeza en este punto es bajo: un error en la base de datos, un error de clasificación o una aceptación consciente del riesgo.
Sin embargo, las tres hipótesis convergen en la misma pregunta. ¿Quién, antes del ataque, verificó si había personas en ese edificio?
Más allá del «human-in-the-loop»
El debate internacional se ha conformado durante mucho tiempo con el principio de human-in-the-loop, según el cual un ser humano forma parte del ciclo de toma de decisiones.
Esta fórmula es insuficiente: una persona puede estar presente en el ciclo y, sin embargo, limitarse a dar el visto bueno a la recomendación del algoritmo.
Él propone sustituirlo por un principio más exigente, al que denomina humanity-in-command: la capacidad efectiva de cuestionar, rechazar, anular y detener el proceso automatizado.
La historia de la Guerra Fría ofrece dos ejemplos que aclaran lo que esto significa en la práctica. El 26 de septiembre de 1983, el sistema soviético de alerta temprana Oko señaló el lanzamiento de cinco misiles balísticos desde Estados Unidos.
El oficial de guardia, Stanislav Petrov, descartó la alarma como una falsa alarma y no la reportó como un ataque en curso, razonando que un primer ataque estadounidense nunca consistiría en solo cinco misiles.
Tenía razón: el satélite había confundido el reflejo del sol en las nubes con lanzamientos de misiles.
Veintiún años antes, el 27 de octubre de 1962, en el mar del Caribe, el submarino soviético B-59, aislado y bajo fuego de cargas de profundidad, estaba a punto de lanzar un torpedo con ojiva nuclear. El lanzamiento requería el consentimiento de los tres oficiales de mayor rango a bordo, y Vasily Arkhipov se negó a darlo.
En ninguno de los dos casos el hombre aprobó una recomendación del sistema. La contradijo. Y no lo hizo porque tuviera más datos: de hecho, los datos eran el problema.
Lo hizo porque sabía plantearse una pregunta que ningún procedimiento le exigía hacer, a saber, si lo que estaba viendo tenía sentido en el contexto de todo lo demás que sabía sobre el mundo.
Petrov estaba familiarizado con la doctrina nuclear estadounidense; Arkhipov sabía la diferencia entre un ataque y una amenaza. Es esta capacidad de comparar la señal con el panorama general, el detalle con lo que es plausible, lo que yo denomino Inteligencia Humana. Vale la pena señalar que el Dena fue hundido por un submarino. No sabemos qué se les preguntó a sus oficiales, ni qué margen de discreción tenían para tomar decisiones.
Esta propuesta debe aclararse, ya que existe el riesgo de reducirla a un llamado humanista genérico. La Inteligencia Humana, tal como yo la entiendo, se estructura en tres niveles distintos, cada uno de los cuales marca un límite estructural —más que contingente— de la inteligencia artificial.
El primer nivel es epistémico. La tradición escolástica distinguía entre intellectus, el acto mediante el cual la mente capta inmediatamente una verdad, y ratio, el proceso discursivo de pasar de un elemento a otro: para Tomás de Aquino (Summa Theologiae, I, q. 79, a. 8), ambos no son facultades distintas, sino aspectos de un único intelecto, en el que el razonamiento comienza con una comprensión y regresa a una comprensión. Los sistemas actuales de aprendizaje automático logran una ratio de una potencia sin precedentes, capaz de inferir, combinar y predecir a escalas inaccesibles para la mente humana.
Carecen del aspecto del intellectus, es decir, de la comprensión del significado de lo que procesan. Esta es una tesis filosófica y debe presentarse como tal, pero tiene consecuencias prácticas precisas: un sistema desprovisto de comprensión no puede saber cuándo su propio modelo del mundo se ha vuelto falso.
El segundo aspecto es práctico. La Prudentia, según la definición tomista, es la razón recta aplicada a la acción, y su tarea específica consiste en aplicar el principio universal al caso particular. La máquina generaliza: su valor radica en asignar el caso individual a una clase.
La prudencia hace lo contrario, porque debe reconocer qué es lo que, en este caso particular, queda fuera de la clase. La guerra, que es el ámbito de lo singular y lo imprevisto, es el escenario donde esta diferencia tiene mayor peso.
La nota Antiqua et nova del Vaticano, de enero de 2025, retomó esta línea de pensamiento, haciendo hincapié en la naturaleza encarnada y relacional de la inteligencia humana y su irreducibilidad a una mera función de procesamiento.
El tercer nivel es relacional, y es aquí donde el significado filosófico se encuentra con el de los servicios de inteligencia. Sherman Kent, quien de hecho fundó el campo de los estudios de inteligencia en los Estados Unidos de la posguerra, lo definió ante todo como conocimiento, incluso antes que como organización o actividad.
El HUMINT es la forma de este conocimiento que pasa a través del otro como persona: alguien que habla su idioma, conoce sus costumbres, sabe interpretar un barrio y puede distinguir una fiesta de una manifestación.
Durante las últimas tres décadas, las grandes potencias han ido desviando progresivamente recursos hacia disciplinas técnicas, desde la inteligencia de señales hasta la vigilancia satelital, pasando por las plataformas de fusión de datos. Minab ilustra el costo de este desequilibrio.
Nada de esto implica un rechazo a la tecnología. La inteligencia humana no se opone a la IA de la misma manera que un manual se opone a un mecánico. Establece una jerarquía: el algoritmo como herramienta subordinada a un juicio que no puede producir por sí mismo. Y de ahí se deriva un principio, formulado por Dehshiri, que merece convertirse en un criterio operativo: cuanto más aleja la tecnología al actor de las consecuencias de sus propias acciones, más debe aumentar —y no disminuir— la responsabilidad consciente de quien toma la decisión.
Desde el punto de vista geopolítico
Hasta ahora, el tema podría parecer una cuestión de filosofía moral. No es solo eso. La distribución de la capacidad de guerra algorítmica es una distribución de poder, y las reglas que la rigen serán redactadas —si es que llegan a redactarse— por aquellos que tienen interés en limitarlas lo menos posible.
El estado del derecho internacional lo confirma. El grupo de expertos gubernamentales establecido en virtud de la Convención sobre Ciertas Armas Convencionales ha estado discutiendo los sistemas de armas autónomas letales desde 2017 sin haber llegado a un instrumento vinculante.
En noviembre de 2023, Estados Unidos promovió una declaración política sobre el uso militar responsable de la IA, que por definición no es vinculante; en diciembre del mismo año, la Asamblea General de las Naciones Unidas adoptó la primera resolución dedicada a estos sistemas, mientras que el Comité Internacional de la Cruz Roja ha venido pidiendo desde 2021 la prohibición de los sistemas autónomos impredecibles y de aquellos diseñados para atacar a seres humanos.
En junio de 2024, en su intervención en la cumbre del G7 en Borgo Egnazia, el papa Francisco pidió que nunca se le permitiera a una máquina decidir sobre la vida de una persona. La brecha entre estas posturas y la realidad en los campos de batalla de 2026 se mide en víctimas.
También existe una asimetría más profunda. Quienes controlan los datos deciden quién es un objetivo, y las víctimas de la guerra algorítmica se encuentran en su mayoría fuera de Occidente: en Gaza, Irán, el Sahel y Yemen.
Para los Estados que no producen las plataformas ni controlan sus bases de datos, la inteligencia humana se convierte así en una cuestión de soberanía.
Un país que cuenta con pericia lingüística, conocimiento regional y redes de inteligencia humana conserva su autonomía de juicio; un país que confía su visión del mundo a sistemas diseñados en otros lugares —a menudo por empresas privadas— la cede junto con sus datos. En un orden que tiende hacia la multipolaridad, esta distinción separará a los actores que juzgan de aquellos que son juzgados.
Esto conduce a una propuesta concreta, que desarrollaré en futuros artículos. Junto con el principio general de una supervisión humana significativa, el derecho internacional humanitario podría codificar una obligación específica de verificación humana del estatus civil de cada infraestructura fija incluida en una lista de objetivos, con una fecha de vencimiento más allá de la cual la información se vuelve inválida y debe renovarse utilizando fuentes directas. Esta es una norma mínima.
Aplicada a Minab, habría requerido que alguien preguntara si ese edificio seguía siendo lo que los registros indicaban que era.
La tecnología puede determinar cómo un arma llega a su objetivo, mientras que le corresponde a la humanidad decidir si ese objetivo debe ser atacado. La pregunta subyacente a todo esto es quién, en términos prácticos, ejerce esa humanidad, con qué herramientas de conocimiento y dentro de qué instituciones.
En Minab, alguien debería haber sabido que había una escuela allí. El hecho de que nadie lo supiera, o de que nadie preguntara, es el punto desde el cual debemos volver a empezar.
Traducción: Observatoriode trabajador@s en lucha
Login
