La 'moralidad' del armamento de IA

By miguel brenner

A Un panel designado por el Congreso, llamado Comisión de Seguridad Nacional sobre Inteligencia Artificial, recomienda que el ejército de los Estados Unidos lance un importante programa para desarrollar armas autónomas impulsadas por software de inteligencia artificial (IA).

El panel, encabezado por el ex director ejecutivo de Google, Eric Schmidt, ha preparado un informe que exige un gasto de entre 20 y 30 millones de dólares para hacer avanzar el programa.  

Hay una serie de cosas que tienen que suceder en Estados Unidos para mantener el liderazgo a nivel mundial... #AI son los # Tecnología eso impulsa nuestra producción económica... y tenemos que hacer lo que sea necesario... No es tanto el dinero sino alinear las fuerzas. – #NSCAI Presidente @EricSchmidt

— Comisión de Seguridad Nacional sobre IA (@AiCommission) Febrero 23, 2021

Su vicepresidente, Robert Work, ex subsecretario de Defensa, dijo que se espera que las armas autónomas cometan menos errores que los humanos en batalla, lo que reducirá las bajas. "Es un Imperativo moral al menos perseguir esta hipótesis”, dijo.

El proyecto informe recomienda que Washington “adopte la IA para cambiar la forma en que defendemos a Estados Unidos, disuadimos a los adversarios, utilizamos la inteligencia para darle sentido al mundo y luchamos y ganamos guerras”. (El trabajo está en la junta directiva de Raytheon y en la junta de asesores de Govini, una firma de análisis y big data comprometida con transformar el negocio del gobierno a través de la ciencia de datos).  

Los imperativos morales categóricos de On High es algo que me perdí mientras crecía. El costo de una juventud malgastada. Cómo envidiaba a nuestro anciano vecino escocés que me obsequiaba con historias de su infancia cuando asistía a los servicios calvinistas en Dunfermline. Allí, en la iglesia todos los domingos, un predicador férreo y de severa rectitud le inculcó la justa obligación de superarse. Yo, en contraste con aquellas experiencias espirituales edificantes de la juventud, pasaba el Día del Señor descansando frente al televisor viendo partidos de béisbol.  

Por lo tanto, agradezco las altruistas advertencias emitidas por los mejores y más brillantes de Silicon Valley de que tengo el “imperativo moral” de apoyar el gasto de unas decenas de miles de millones en armas dirigidas por Inteligencia Artificial que matan sólo a quienes lo merecen, es decir, los elegidos por Washington.eléctrico“Ahora tengo la causa moral que he estado extrañando todos estos años; su ausencia es la fuente de mi vacilación irresoluta en cuestiones de muerte violenta y destrucción. 

“Propongo… [adoptemos] la #AI recomendaciones de la comisión, que se publicarán el 1 de marzo”. – #NSCAI Presidente @EricSchmidt

— Comisión de Seguridad Nacional sobre IA (@AiCommission) Febrero 23, 2021

Es cierto que algunos hábitos de pensamiento desafortunados se resisten tenazmente a ser desarraigados por completo. La propensión a contrastar las doctrinas militares basadas en la fe con la realidad es una de ellas. Siguen apareciendo preguntas incómodas que impiden mi progreso en el camino de la Verdad Ética y la Redención. Por lo tanto, le suplico sinceramente que me ayude a disipar esas dudas. Aquí están, en formato resumido. 

No. 1 “Conmoción y pavor” El bombardeo de cientos de sitios en todo Irak en marzo de 2003 tenía como objetivo intimidar a los líderes iraquíes para que se rindieran, así como despejar el camino para la invasión. Grandes edificios, instalaciones y complejos fueron destruidos provocando miles de víctimas. Pregunta: ¿cómo habrían afectado los sistemas de armas de IA a esta estrategia? ¿Existe una versión más precisa de “Shock & Awe” que tenga el mismo impacto psicológico y militar? 

No. 2 Faluya  Durante la guerra, las fuerzas estadounidenses arrasaron la mayor parte de Faluya. - dos veces, conduciendo a unos cien mil al desierto. Pregunta: dado que el enemigo estaba disperso por toda la ciudad y camuflado, ¿cuál habría sido la capacidad de los sistemas de inteligencia artificial para identificar objetivos apropiados mediante búsquedas basadas en algoritmos en bancos de datos para coincidencias de retina y reconocimiento facial? ¿etc? ¿Cómo podrían los muchachos de Fort Meade y del Comando Central alertar a los civiles de que no había rival para ellos y que podían quedarse en casa con seguridad viendo videos de CNN del asalto en sus televisores?  

N° 3 Mosul y Raqqa En la campaña contra ISIS, arrasamos la mayor parte de Mosul y Raqqa. Sólo los marines dispararon más de 20,000 proyectiles de artillería contra Mosul, una ciudad densamente poblada de más de un millón de habitantes. La Fuerza Aérea realizó más de 30,000 misiones de combate. La fuerza aérea francesa, la fuerza aérea iraquí, el ejército nacional y la milicia chiíta también dispararon contra la ciudad.

Con toda esta potencia de fuego, se necesitaron varias semanas para limpiar Mosul de combatientes del ISIS. Las víctimas civiles y los refugiados han sido demasiado numerosos para contarlos. Pregunta: ¿Cómo nos habría permitido la IA alcanzar los mismos objetivos en términos sanitarios a la luz de las tácticas de evasión del ISIS que eran mucho más complejas que las encontradas en Faluya? 

(La otra alternativa para tomar un área urbana es luchar casa por casa con sólo apoyo limitado de artillería y aire. Eso, por supuesto, significa mayores bajas para las tropas de combate. De hecho, arrasar la ciudad sustituye las bajas militares por bajas civiles entre los atacantes. fuerza – ¿en una proporción de 10:1 o 20:1?) 

N° 4 Libia Aquí Estados Unidos proporcionó la mayor parte del poder de fuego para derrocar y matar al líder del país, Muammar Gaddafi. Sin su control, el país ha sucumbido a una década de lucha multipartidista casi continua con muerte, devastación y dislocación masiva a su paso. Actualmente, el escenario político está dominado por la lucha de poder entre dos coaliciones en guerra.

Uno, con sede en Trípoli, fue instalado por Washington y sus aliados, y tiene un estatus nominal como gobierno reconocido internacionalmente. El otro, centrado en la ciudad oriental de Bengasi, está dirigido por el general Khalifa Haftar, quien se ganó el favor al derrotar a algunas de las milicias yihadistas que han florecido desde la muerte de Gadafi. El primero está respaldado por Arabia Saudita, los Emiratos Árabes Unidos y especialmente el líder de Turquía, Recep Erdogan, quien ha transferido a miles de sus representantes de Al Qaeda, ISIS y otros militantes desde Siria.

La propia Trípoli está dominada por islamistas. Haftar cuenta con el respaldo de los vecinos Egipto, Jordania, Rusia y Francia. Varias milicias tribales y movimientos yihadistas deambulan por el vasto interior de Libia. Recientemente, Estados Unidos se ha mostrado ambiguo en su apoyo e instó a las dos partes a llegar a un acuerdo. modus vivendi - con poco éxito. Pregunta: Washington proporciona armas, directa o indirectamente, a TODOS los partidos antes mencionados, excepto a las milicias islamistas. ¿Aumentaría su influencia y sus objetivos tendrían más posibilidades de realizarse si esas entregas de armas incluyeran sistemas de armas de inteligencia artificial?

N° 5 Yemen: La matanza y el hambre de los hutíes liderada por Arabia Saudita ha dependido crucialmente de la participación del ejército estadounidense. Su campaña habría sido imposible sin los aviones estadounidenses que proporcionaban reabastecimiento de combustible, sin los oficiales estadounidenses sentados en el cuartel general del comando saudí para dirigir los objetivos y sin la inteligencia estadounidense. Además, proporcionamos lo último en bombas y misiles “inteligentes”. También ayudamos a imponer el bloqueo que negaba alimentos y medicinas a la población en general. La intención saudita ha sido coaccionar a los hutíes para que se sometan causando tanta miseria como sea posible. Pregunta: ¿Cómo habría cambiado todo esto el uso extensivo de sistemas de armas de IA? ¿No estarían ubicados los 'objetivos' críticos en Washington, Tampa y Riad, que son fácilmente accesibles para armas no asistidas por IA? 

No. 6 La guerra de Vietnam Este fue un conflicto entre una insurrección a nivel nacional y una campaña masiva de contrainsurgencia. Una parte importante de la estrategia estadounidense tenía como objetivo negar el santuario del Vietcong despojando grandes áreas de vegetación (Agente Naranja) y obligando a los civiles a abandonar amplias franjas de territorio declarado como zona de "libre fuego". ¿La posesión de armamento de IA habría alterado de manera sustancial la conducción de la guerra, los niveles de bajas y el resultado? ¿Cómo? 

No. 7 Segunda Guerra Mundial Los bombardeos masivos de las ciudades se convirtieron en la norma. Culminó en Hiroshima y Nagasaki. Las bajas civiles en el anterior bombardeo de Tokio fueron casi tan elevadas. Sucedió también con los ataques aéreos contra Hamburgo y Dresde. Todos compartían los objetivos de socavar la moral del enemigo, paralizar la producción industrial y satisfacer el ansia de venganza contra los ataques aéreos alemanes contra Londres, Coventry, Rotterdam y las atrocidades japonesas. (Como la invasión de Irak fue una venganza por el 9 de septiembre). Pregunta: si hubiéramos tenido acceso a armas de IA en ese momento, ¿este pensamiento habría sido diferente y nuestras acciones habrían sido diferentes?  

La reflexión sobre estas cuestiones nos lleva a tres conclusiones claras: 

N° 1 El despliegue generalizado de armas dirigidas por Inteligencia Artificial no supondrá cambios apreciables en las decisiones relativas al uso de la fuerza militar, la conducción de la guerra o sus consecuencias. 

N° 2 Si revisamos la historia de las guerras, o restringimos nuestra consideración a las guerras recientes en el Medio Oriente que involucran a Estados Unidos, la fracción de víctimas civiles que podría reducirse mediante el uso de armas de IA es muy baja. Los actos de guerra que producen la gran mayoría de las víctimas no son de un tipo que permita la sustitución a gran escala de las armas de IA. *

(HACIA Sin embargo, las armas dirigidas se desarrollarán, desplegarán y utilizarán a un ritmo acelerado. En nuestra era posmoderna, cualquier innovación de alta tecnología asociada con dispositivos electrónicos disfruta de un presunto reclamo de utilidad, valor y virtud superiores).  

N° 3 La innovación asociada con las armas de inteligencia artificial, como los drones y el ejército de voluntarios, podría alentar el activismo militar al prometer menos bajas estadounidenses. El resultado neto, sin embargo, bien podría ser más muerte y destrucción netas en conjunto. 

Hace varios años asistí a las ceremonias del Día de la República en Nueva Delhi. Tuve un asiento en la acera para ver el desfile encabezado por Nehru y su gabinete a lo largo del gran Camino Raj desde el Palacio Presidencial (Rashtrapati Bhavan) hasta la Puerta de la India. Fueron seguidos por otros dignatarios, carrozas y luego un impresionante despliegue de caballería con turbantes y magníficos atuendos. Un espectáculo digno de un Durbar imperial. De hecho, Lutyens lo había diseñado todo para honrar al inmortal Raj británico.  

Al final de la procesión, siguiendo a los jinetes a una distancia respetable, había un escuadrón menos glamoroso de “barrenderos” vestidos de color caqui: que usaban escobas de paja para limpiar el estiércol que quedaba.  

El mundo político actual nos trae recuerdos de esa ocasión, en la medida en que constantemente se nos presenta una enorme basura de tonterías después del último megaevento, y cantidades menores después de eventos más pequeños. Las recomendaciones urgentes del informe de AI de la comisión entran en la última categoría, pero no les falta nada de picante.

En general, existe un desequilibrio entre la producción y la eliminación. La capacidad de palada no se ha mantenido. El dilema para los comentaristas es colocarse en la posición de los barrenderos “intocables” de Nueva Delhi, a quienes se les exige hacer el trabajo sucio de mantener el espacio público libre de materia olorosa.

La repetición hace que la tarea sea aún más fastidiosa. Es como si la Brigada Ligera de 800 efectivos, comandada por nuestro Lord Cardigans, pasa diariamente en marcha hacia el Valle de la Muerte. Sí, alguien tiene que hacerlo, los “intocables” no existen y la mejor solución sería estabilizar a los “caballos”. Las posibilidades de que esto último suceda en algún momento en el futuro previsible son nulas.  

Yo personalmente me he despedido. Así pues, en lugar de desmantelar sistemáticamente el informe, he seguido la estrategia de evitarlo y limitarme a las pocas observaciones y preguntas presentadas anteriormente. 

* Los promotores del armamento de IA basan su promoción en una concepción errónea de la guerra. Suponen que es de naturaleza esencialmente instrumental. No lo es. La destrucción, el saqueo y la brutalidad contra los civiles son, por lo general, parte integral de la guerra.

En el extremo, pensemos en Atila el Huno, cuyos ejércitos masacraban y saqueaban rutinariamente, o en la Horda Dorada de Genghis Khan, que hizo lo mismo, o en Timur, cuya tarjeta de presentación era una pirámide de cráneos en las puertas de la ciudad, o en los nazis. Para ellos, la guerra antiséptica habría sido un anatema, quitándole toda la diversión.

Las pasiones de las guerras inspiradas por la religión u otras ideologías también son un mal augurio para los no combatientes: por ejemplo, la aniquilación de Jericó por Josué – obediente a las órdenes de su comandante; las cruzadas; el 17^thLa Guerra de los Treinta Años del Siglo; los recientes ataques del Estado Islámico. O el flagelo del nacionalismo moderno.

¿Estaban los serbios que bombardeaban Sarajevo preocupados por la precisión de los objetivos? ¿Radovan Karadzic o Slobodan Mladic habrían dado la bienvenida a las armas de IA como una solución a un dilema moral que ponía en peligro sus almas inmortales?

En todos estos casos, la noción misma de “daños colaterales” era irrelevante.

Michael Brenner es profesor de asuntos internacionales en la Universidad de Pittsburgh. mbren@pitt.edu

Las opiniones expresadas son exclusivas del autor y pueden o no reflejar las de Noticias del Consorcio.