
Une cour du Googleplex, Mountain View, Californie, siège de Google, 2014. (Runner1928, CC BY-SA 3.0, Wikimedia Commons)
A Un comité nommé par le Congrès, appelé Commission de sécurité nationale sur l'intelligence artificielle, recommande que l'armée américaine lance un vaste programme visant à développer des armes autonomes alimentées par un logiciel d'intelligence artificielle (IA).
Le panel, dirigé par l'ancien directeur général de Google, Eric Schmidt, a préparé un rapport qui appelle à des dépenses de 20 à 30 milliards de dollars pour faire avancer le programme.
Il y a un ensemble de choses qui doivent se produire en Amérique pour maintenir le leadership mondial… #AI est le technology c'est cela qui détermine notre production économique… et nous devons faire tout ce qu'il faut… Ce n'est pas tant l'argent qui compte, mais plutôt l'alignement des forces. – #NSCAI Président @EricSchmidt
– Commission de sécurité nationale sur l'IA (@AiCommission) 23 février 2021
Son vice-président, Robert Work, ancien secrétaire adjoint à la Défense, a déclaré que les armes autonomes devraient commettre moins d'erreurs que les humains au combat, ce qui entraînerait une réduction du nombre de victimes. "C'est un impératif moral au moins poursuivre cette hypothèse », a-t-il déclaré.
Le projet le rapport recommande que Washington « adopte l’IA pour changer la façon dont nous défendons l’Amérique, dissuadons les adversaires, utilisons l’intelligence pour donner un sens au monde, et combattons et gagnons les guerres ». (Le travail est en cours au conseil d'administration de Raytheon et au conseil consultatif de Govini, une société de big data et d'analyse engagée à transformer les activités du gouvernement grâce à la science des données.)

Eric Schmidt, à droite, en 2013. (Chatham House, CC BY 2.0, Wikimedia Commons)
Les impératifs moraux catégoriques d’On High sont quelque chose qui m’a manqué en grandissant. Le prix d’une jeunesse mal dépensée. Comme j'enviais notre voisin écossais vieillissant qui me régalait de récits de son enfance où il assistait aux services calvinistes à Dunfermline. Là, à l'église tous les dimanches, un prédicateur inflexible et d'une rectitude sévère lui a inculqué la juste obligation de s'améliorer. Contrairement à ces expériences spirituelles édifiantes de la jeunesse, je passais le jour du Seigneur en me prélassant devant la télévision et en regardant des matchs de football.
Je suis donc reconnaissant pour les avertissements nobles émis par les meilleurs et les plus brillants de la Silicon Valley selon lesquels j'ai un « impératif moral » de soutenir les dépenses de quelques dizaines de milliards dans des armes dirigées par l'intelligence artificielle qui ne tuent que ceux qui le méritent, c'est-à-dire les élus de Washington. »Élire.« Maintenant, j’ai la cause morale qui m’a manqué toutes ces années – son absence étant la source de mes hésitations irrésolues sur les questions de mort violente et de destruction.
« Je propose… [nous] adoptons le #AI les recommandations de la commission, qui seront rendues publiques le 1er mars. – #NSCAI Président @EricSchmidt
– Commission de sécurité nationale sur l'IA (@AiCommission) 23 février 2021
Certes, certaines habitudes de pensée malheureuses résistent obstinément au déracinement total. La propension à tester les doctrines militaires fondées sur la foi par rapport à la réalité en est une. Des questions embarrassantes continuent de surgir pour entraver ma progression sur le chemin de la vérité éthique et de la rédemption. C’est pourquoi je sollicite sincèrement votre aide pour dissiper ces doutes. Les voici, sous forme résumée.

Le bombardement « de choc et de crainte » de l'armée américaine sur Bagdad au début de la guerre en Irak, tel que diffusé sur CNN.
N°1 « Choc et crainte » Le bombardement de centaines de sites en Irak en mars 2003 avait pour but d’inciter les dirigeants irakiens à se rendre et d’ouvrir la voie à l’invasion. De grands bâtiments, installations et complexes ont été détruits, faisant des milliers de victimes. Question : comment les systèmes d’armes IA auraient-ils affecté cette stratégie ? Existe-t-il une version plus précise de « Shock & Awe » qui aurait le même impact psychologique et militaire ?
N°2 Falloujah Au cours de la guerre, les forces américaines ont rasé la majeure partie de Falloujah. - deux fois, en conduisant une centaine de milliers dans le désert. Question : étant donné que l'ennemi était dispersé dans toute la ville et camouflé, quelle aurait été la capacité des systèmes d'IA à identifier les cibles appropriées grâce à des recherches basées sur des algorithmes dans les banques de données pour les correspondances rétiniennes et la reconnaissance faciale. etc? Comment les civils pourraient-ils être alertés par les gars de Fort Meade et du Commandement central qu'il n'y avait pas de match pour eux et qu'ils pouvaient rester chez eux en toute sécurité à regarder des vidéos de CNN de l'assaut sur leurs téléviseurs ?

15 novembre 2004 : Rue de Falloujah fortement endommagée par les combats. (Corps des Marines des États-Unis, James J. Vooris)
N° 3 Mossoul et Raqqa Lors de la campagne contre l’Etat islamique, nous avons rasé la majeure partie de Mossoul et de Raqqa. Les Marines ont tiré à eux seuls plus de 20,000 30,000 obus d’artillerie sur Mossoul, une ville densément peuplée de plus d’un million d’habitants. L'Air Force a effectué plus de XNUMX XNUMX missions de combat. L'armée de l'air française, l'armée de l'air irakienne, l'armée nationale et la milice chiite ont également tiré sur la ville.
Avec toute cette puissance de feu, il a fallu plusieurs semaines pour débarrasser Mossoul des combattants de l’Etat islamique. Les victimes civiles et les réfugiés sont trop nombreux pour être comptés. Question : comment l’IA aurait-elle permis d’atteindre les mêmes objectifs sur le plan sanitaire face aux tactiques d’évasion de l’EI bien plus complexes que celles rencontrées à Fallouja ?
(L’autre alternative pour prendre une zone urbaine est de combattre de maison en maison avec seulement un soutien aérien et d’artillerie limité. Cela signifie bien sûr des pertes plus élevées pour les troupes de combat. Raser la ville substitue en fait des pertes civiles aux pertes militaires parmi les attaquants. force – dans un rapport de 10:1 ou 20:1 ?)

Un soldat américain transporte un enfant irakien blessé vers un centre de traitement en mars 2007. (James F. Cline III, Wikimedia Commons)
N°4 Libye Ici, les États-Unis ont fourni l'essentiel de la puissance de feu nécessaire pour renverser et tuer le dirigeant du pays, Mouammar Kadhafi. Une fois son emprise retirée, le pays a succombé à une décennie de conflits multipartites presque continus, avec pour conséquence la mort, la dévastation et la dislocation massive. Actuellement, la scène politique est dominée par la lutte pour le pouvoir entre deux coalitions en guerre.
L’un d’entre eux, basé à Tripoli, a été installé par Washington et ses alliés et a un statut nominal de gouvernement internationalement reconnu. L'autre, centrée dans la ville orientale de Benghazi, est dirigée par le général Khalifa Haftar qui a gagné les faveurs en battant certaines des milices jihadistes qui ont prospéré depuis la mort de Kadhafi. Le premier est soutenu par l'Arabie saoudite, les Émirats arabes unis et surtout le dirigeant turc Recep Erdogan, qui a transféré des milliers de ses alliés d'Al-Qaïda, de l'EI et d'autres militants mandatés depuis la Syrie.

Vue aérienne de Tripoli, Libye, en 2011. (M.PanyGoff, Wikimedia Commons)
Tripoli elle-même est dominée par les islamistes. Haftar bénéficie du soutien de l’Égypte, de la Jordanie, de la Russie et de la France voisines. Diverses milices tribales et mouvements djihadistes parcourent le vaste intérieur de la Libye. Les États-Unis ont récemment tergiversé dans leur soutien tout en exhortant les deux parties à parvenir à un accord. modus vivendi – avec peu de succès. Question : Washington fournit des armes, directement ou indirectement, à TOUS les partis mentionnés ci-dessus, à l'exception des milices islamistes. Son influence augmenterait-elle et ses objectifs auraient-ils plus de chances d’être réalisés si ces livraisons d’armes incluaient des systèmes d’armes à IA ?
N°5 Yémen: Le massacre et la famine des Houthis menés par les Saoudiens dépendent essentiellement de la participation de l’armée américaine. Leur campagne aurait été impossible sans les avions américains assurant le ravitaillement, sans les officiers américains assis au quartier général du commandement saoudien pour diriger le ciblage et sans les services de renseignement américains. En outre, nous avons fourni les dernières bombes et missiles « intelligents ». Nous avons également contribué à faire respecter le blocus qui refusait de la nourriture et des médicaments à la population en général. L’intention saoudienne a été de contraindre les Houthis à se soumettre en leur causant autant de misère que possible. Question : en quoi l’utilisation intensive de systèmes d’armes IA aurait-elle changé tout cela ? Les « cibles » critiques ne seraient-elles pas situées à Washington, Tampa et Riyad, facilement accessibles aux armes non assistées par l’IA ?

Un village yéménite détruit. (Almogdad Mojalli/VOA)
N°6 La guerre du Vietnam Il s’agissait d’un conflit entre une insurrection à l’échelle nationale et une campagne anti-insurrectionnelle massive. Une grande partie de la stratégie américaine visait à nier le sanctuaire du Vietcong en dénudant de vastes zones de végétation (Agent Orange) et en forçant les civils à quitter de vastes étendues de territoire déclarées zones de « tir libre ». La possession d’armes IA aurait-elle modifié de manière substantielle la conduite de la guerre, le nombre de victimes et l’issue ? Comment?
N ° 7 Seconde Guerre mondiale Les bombardements massifs de villes sont devenus la norme. Cela a culminé à Hiroshima et Nagasaki. Les pertes civiles lors du précédent bombardement incendiaire de Tokyo ont été presque aussi nombreuses. C'était le cas des raids aériens contre Hambourg et Dresde. Ils partageaient tous les objectifs suivants : saper le moral de l'ennemi, paralyser la production industrielle et satisfaire le désir de vengeance contre les assauts aériens allemands sur Londres, Coventry, Rotterdam et les atrocités japonaises. (Comme l’invasion de l’Irak était une vengeance du 9 septembre). Question : si nous avions eu accès aux armes de l'IA à l'époque, cette réflexion aurait-elle été différente et nos actions auraient-elles été différentes ?

Avion américain sur l'île de Tinian qui a participé à l'attentat d'Hiroshima. (Harold Agnew, Wikimédia Commons)
La réflexion sur ces questions nous amène à trois conclusions claires :
N° 1 Le déploiement généralisé d’armes dirigées par l’intelligence artificielle n’aura aucun changement appréciable sur les décisions concernant le recours à la force militaire, la conduite de la guerre ou sur ses conséquences.
N° 2 En examinant l’histoire des guerres, ou en limitant notre examen aux récentes guerres au Moyen-Orient impliquant les États-Unis, la fraction des pertes civiles qui pourrait être réduite par l’utilisation d’armes IA est très faible. Les actes de guerre qui font la grande majorité des victimes ne sont pas de ceux qui permettent une substitution à grande échelle des armes IA. *
(IA Les armes dirigées seront néanmoins développées, déployées et utilisées à un rythme accéléré. À notre époque postmoderne, toute innovation de haute technologie associée aux gadgets électroniques bénéficie d’une prétention présumée à une utilité, une valeur et une vertu supérieures.)
N° 3 L’innovation associée aux armes IA, comme les drones et l’armée volontaire, pourrait encourager l’activisme militaire en promettant moins de victimes américaines. Le résultat net, cependant, pourrait bien être davantage de morts et de destructions nettes au total.
Il y a plusieurs années, j'ai assisté aux cérémonies du Jour de la République à New Delhi. J'avais un siège au bord du trottoir pour le défilé dirigé par Nehru et son cabinet le long du grand Raj Path, du palais présidentiel (Rashtrapati Bhavan) à la porte de l'Inde. Ils étaient suivis par d'autres dignitaires, des chars, puis par un ensemble impressionnant de cavalerie enturbannée et en tenue magnifique. Un spectacle digne d'un Durbar Impérial. En effet, Lutyens avait tout conçu pour honorer l’Immortel Raj britannique.
À la toute fin du cortège, derrière les cavaliers à une distance respectable, se trouvait une escouade moins glamour de « balayeurs » vêtus de kaki : qui utilisaient des balais de paille pour nettoyer le fumier laissé sur place.
Le monde politique d'aujourd'hui rappelle des souvenirs de cette occasion dans la mesure où on nous présente constamment une énorme quantité de BS à la suite du dernier méga-événement, et des quantités moindres après des événements plus petits. Les recommandations urgentes contenues dans le rapport d’AI de la commission entrent dans cette dernière catégorie, mais ne manquent de rien de piquant.
Dans l’ensemble, il existe un déséquilibre entre la production et l’élimination. La capacité de pelletage n’a pas suivi. Le dilemme pour les commentateurs est celui des balayeurs « intouchables » de New Delhi qui sont tenus de faire le sale boulot consistant à garder l'espace public exempt de matières odorantes.
La répétition rend la tâche encore plus fastidieuse. C'est comme si la brigade légère forte de 800 hommes, commandée par nos Lord Cardigans locaux,, traverse quotidiennement en marche vers la Vallée de la Mort. Oui, il faut que quelqu'un le fasse, les « intouchables » n'existent pas, et la meilleure solution serait de mettre les « chevaux » à l'écurie. Les chances que la dernière situation se produise dans un avenir proche sont nulles.
Personnellement, j'ai pris congé. Ainsi, au lieu d’un démantèlement systématique du rapport, j’ai suivi la stratégie d’évitement consistant à me limiter aux quelques remarques et questions présentées ci-dessus.
* Les promoteurs des armes IA fondent leur promotion sur une conception erronée de la guerre. Ils supposent qu’il s’agit essentiellement d’un instrument de nature. Ce n'est pas. La destruction, le pillage et la brutalité des civils font généralement partie intégrante de la guerre.
À l’extrême, pensez à Attila le Hun dont les armées massacraient et pillaient régulièrement, ou à la Horde d’Or de Gengis Khan qui faisait de même, ou à Timur dont la carte de visite était une pyramide de crânes à la porte de la ville, ou aux nazis. Pour eux, une guerre antiseptique aurait été un anathème – en enlevant tout son plaisir.
Les passions des guerres inspirées par la religion ou d'autres idéologies sont également de mauvais augure pour les non-combattants : par exemple, l'anéantissement de Jéricho par Josué – obéissant aux ordres de son commandant ; les croisades; le 17thLa guerre de trente ans du siècle ; le récent déchaînement de l’État islamique. Ou le fléau du nationalisme moderne.
Les Serbes qui bombardaient Sarajevo se souciaient-ils de la précision du ciblage ? Radovan Karadzic ou Slobodan Mladic auraient-ils accueilli favorablement les armes IA comme solution à un dilemme moral qui mettait en danger leurs âmes immortelles ?
Dans tous ces cas, la notion même de « dommage collatéral » n’était pas pertinente.
Michael Brenner est professeur d'affaires internationales à l'Université de Pittsburgh. [email protected]
Les opinions exprimées sont uniquement celles de l'auteur et peuvent ou non refléter celles de Nouvelles du consortium.
Faites un don en toute sécurité avec PayPal
Ou en toute sécurité par carte bancaire ou chèque en cliquant sur le bouton rouge :
L’esprit technique est une belle chose, avec toutes ces capacités de calcul. En tant qu'artiste, je comprends naturellement les artistes, mais je reconnais également les personnes ayant un penchant technique. Je peux les voir et apprécier les techniciens pour leurs compétences. Mais ce qui est intéressant, c'est qu'ils ne peuvent pas me voir. Il semble que, puisque je n'ai pas les compétences mathématiques aussi fines qu'elles, je n'existe pas. Je ne suis qu'un simplet.
La psychologie de tout cela me fascinait depuis un certain temps. Tous ceux que j’ai connus dotés d’un esprit hautement technique ont également un côté aveugle de la taille de l’État du Montana. C'est comme si ceux qui sont dotés de telles compétences devaient le faire dès la naissance en acceptant la perte d'autres facultés : daltonien, sourd, zéro créativité. Mettre en page une page et simplement aligner les choses ? Écrire un paragraphe? Choisir une couleur? Dessiner un dessin ? Écris une chanson? Pas.
Microsoft en est un excellent exemple. Tout ce que cette entreprise a jamais produit est laid – « idiot » le décrit mieux. S'ils embauchent des artistes, ils ne les utilisent pas. Leur logiciel est conçu par et pour ceux qui ont un état d'esprit technique naïf (le reste de l'utilisation est stupide). Leurs systèmes d’exploitation peuvent donc s’avérer difficiles d’une manière étrange. (« intuitif » est un mot clé pour encore plus de menus déroulants)
La photo au début de cet article est révélatrice. Googleplex est moche à vomir ! Les hideux meubles en plastique vert le poussent partout.
Le point de mon discours est le suivant : nous vivons dans une société qui honore et promeut ceux qui ont des compétences élevées en mathématiques, mais il faut se poser la question : dans un monde sensé, ces gens prendraient-ils des décisions de commandement ?
Michael Brenner a fait ici des observations très judicieuses et posé des questions poignantes. Des questions qui n'ont qu'une seule réponse raisonnable.
L’intelligence artificielle (IA) n’est que cela. La collecte de données n’équivaut pas à la sagesse. C'est drôle comme cela n'est pas encore devenu évident, pour l'inhumanité, dans sa conduite.
L’application d’algorithmes (un ensemble de directives informatiques) aux réponses humaines finira-t-elle par remplacer toutes les formes d’interaction sociale de tous les organismes vivants et deviendra-t-elle un processus virtuel de substitution, bêtement considéré comme équivalent – par ceux qui orchestrent la fraude perpétrée contre la « pensée » ? la sagesse expérientielle durement acquise et réellement vécue de l'espèce ?
Les données électroniques rassemblées ne constituent pas une véritable expérience vécue. Tout au plus, tout ce qui est généré par ordinateur, dans cette veine, n’est qu’une simple théorie dystopique et cybernétique concoctée du comportement humain. Bien que beaucoup d’entre nous agissent comme des robots stupides, j’espère sérieusement que ce n’est pas la véritable intention des « dieux » de « l’anthropomorphisme mécaniste ».
Étant donné que « l'esprit », tel qu'on le sait scientifiquement à l'heure actuelle, n'est pas simplement aussi fondamental et simpliste que le prétendrait la « théorie de la communication/du contrôle » ; est un système de contrôle autonome fabriqué simulé, une sorte de prothèse adéquate. L’idée même est absurde !
Jusqu'à présent, aucun effort de l'imagination scientifique n'a encore déterminé que « l'esprit » était simplement une « fonction » d'échanges chimiques organiques entre « les structures neuronales du cerveau et les systèmes de communication mécano-électriques ».
Si l’esprit humain peut être réduit – en raison de la domination actuelle et du pouvoir marketing de la communauté manufacturière de l’intelligence artificielle (IA), à une simple fonction de robotique, alors nous, les gens, avons été relégués à de simples widgets isolés (aliénés) de la robotique. nos propres vies, adroitement séparées de notre humanité naturelle et innée, par la progéniture de cette race mécanique.
N'est-ce pas un objectif tacite du corporatisme totalitaire de réduire, en tant que menace, toute voix dissidente à ses dispositifs de « commandement et de contrôle », qui doivent être réduits, comme dans le cas de la restriction de la « liberté d'expression » aux seuls ceux habilités à s'exprimer sur au nom de l’homme corporatiste mondial ?
Alors que les choses dégénèrent en ce moment, socialement, politiquement et économiquement (culturellement), nous sommes sur la bonne voie vers une réalité objective, désensibilisée et perceptuellement déformée – vue à travers nos filtres mentaux intérieurs façonnés par le conditionnement de masse historique.
Que sont les algorithmes autres que des compilations pondérées d'hypothèses projectives préprogrammées sur des comportements humains répétitifs. Ces formules ne disent absolument rien sur l’organisation et le fonctionnement holistiques de l’esprit. Il ne s’agit là que d’une tentative d’amélioration des stéréotypes : une tentative d’évaluer le contenu des êtres humains individuels, sans prendre en compte toute l’étendue et l’infinité du cœur, de l’esprit et de l’esprit.
La pratique consistant à stéréotyper les réactions comportementales des « autres » n'est-elle pas semblable à supposer un résultat ? Frankenstein est revisité en tentant de faire appliquer cela par une application algorithmique.
Les stéréotypes sur les individus sont mal vus par les censeurs éthiques de la société – les soi-disant défenseurs des droits de l'homme –, mais comment se fait-il alors que la prédiction par l'algorithme appliqué ne soit pas également mal vue et massivement opposée à son veto ? Cela pourrait-il avoir quelque chose à voir avec le fait que gagner de l’argent grâce à l’emploi trompeur de processus d’exploitation brevetés/marqués, monopolistiques, est toujours sanctionné comme méthode capitaliste légitime pour élever socialement l’effort productif ?
Les souvenirs de nos fausses raisons d’envahir l’Irak, et autres, m’accompagneront dans la tombe. Maintenant, l’idée de laisser ces IDIOTS du ministère de la Défense et du complexe militaro-industriel (MIC) QUI PROPRIÉTENT LES ÉTATS-UNIS D’AMÉRIQUE… juste l’idée de mettre en place un jeu de reproches à leur encontre, comme l’IA,… sans compter les milliards de nos habitants. les impôts – pas les impôts du MIC, nos impôts, nous les dépenserons…. ça me rend… juste triste.
Bien dit, la guerre n'est pas seulement l'Enfer, c'est la perturbation totale de tout ce que l'humanité pourrait qualifier de décent !