Um pátio do Googleplex, Mountain View, Califórnia, sede do Google, 2014. (Runner1928, CC BY-SA 3.0, Wikimedia Commons)
A Um painel nomeado pelo Congresso, denominado Comissão Nacional de Segurança sobre Inteligência Artificial, recomenda que os militares dos Estados Unidos lancem um grande programa para desenvolver armas autónomas alimentadas por software de inteligência artificial (IA).
O painel, liderado pelo ex-presidente-executivo do Google, Eric Schmidt, preparou um relatório que prevê gastos de 20 a 30 bilhões de dólares para avançar o programa.
Há um conjunto de coisas que precisam acontecer na América para manter a liderança global… #AI é o # Tecnologia que impulsiona a nossa produção económica… e precisamos de fazer o que for preciso… Não é tanto o dinheiro, mas sim o alinhamento das forças. – #NSCAI Presidente @EricSchmidt
— Comissão Nacional de Segurança sobre IA (@AiCommission) 23 de fevereiro de 2021
Seu vice-presidente, Robert Work, ex-vice-secretário de Defesa, disse que se espera que as armas autônomas cometam menos erros do que os humanos em batalha, levando à redução de baixas. "É um imperativo moral pelo menos perseguir essa hipótese”, disse ele.
O rascunho relatório recomenda que Washington “adote a IA para mudar a forma como defendemos a América, dissuadir adversários, usar a inteligência para dar sentido ao mundo e lutar e vencer guerras”. (O trabalho está no conselho de administração da Raytheon e no conselho de consultores da Govini, uma empresa de big data e análise comprometida em transformar os negócios do governo por meio da ciência de dados.)
Eric Schmidt, à direita, em 2013. (Chatham House, CC BY 2.0, Wikimedia Commons)
Os imperativos morais categóricos de On High são algo que perdi enquanto crescia. O custo de uma juventude mal gasta. Como eu invejava nosso idoso vizinho escocês que me presenteou com histórias de sua infância, quando frequentava os cultos calvinistas em Dunfermline. Lá, na igreja todos os domingos, ele foi incutido com a justa obrigação de melhorar a si mesmo por um pregador de aço de retidão severa. Eu, em contraste com aquelas experiências espirituais edificantes da juventude, passei o Dia do Senhor descansando em frente à TV assistindo a jogos de bola.
Portanto, estou grato pelas advertências nobres emitidas pelos melhores e mais brilhantes do Vale do Silício de que tenho um “imperativo moral” de apoiar o gasto de algumas dezenas de bilhões em armas dirigidas por Inteligência Artificial que matam apenas aqueles que merecem, ou seja, os escolhidos de Washington”.Eletr.“Agora tenho a causa moral que me faltava todos estes anos – sendo a sua ausência a fonte da minha vacilação irresoluta em questões de morte violenta e destruição.
“Eu proponho… [nós] adotarmos o #AI recomendações da comissão, que serão divulgadas em 1º de março.” – #NSCAI Presidente @EricSchmidt
— Comissão Nacional de Segurança sobre IA (@AiCommission) 23 de fevereiro de 2021
É certo que alguns hábitos infelizes de pensamento resistem tenazmente a serem totalmente desenraizados. A tendência para testar doutrinas militares baseadas na fé contra a realidade é uma delas. Perguntas embaraçosas continuam surgindo para impedir meu progresso no caminho da Verdade Ética e da Redenção. Portanto, peço sinceramente sua ajuda para esclarecer essas dúvidas. Aqui estão eles, em formato resumido.
O bombardeio de “choque e pavor” dos militares dos EUA em Bagdá no início da Guerra do Iraque, conforme transmitido pela CNN.
Nº 1 “Choque e Pavor” O bombardeamento de centenas de locais em todo o Iraque, em Março de 2003, pretendia intimidar a liderança iraquiana à rendição, bem como abrir caminho à invasão. Grandes edifícios, instalações e complexos foram destruídos, causando milhares de vítimas. Pergunta: como os sistemas de armas de IA afetariam esta estratégia? Existe uma versão mais precisa de “Shock & Awe” que tenha o mesmo impacto psicológico e militar?
Nº 2 Faluja No decorrer da guerra, as forças americanas arrasaram a maior parte de Fallujah - duas vezes, dirigindo cerca de cem mil pessoas para o deserto. Pergunta: dado que o inimigo estava disperso pela cidade e camuflado, qual teria sido a capacidade dos sistemas de IA para identificar alvos apropriados através de pesquisas orientadas por algoritmos em bancos de dados para correspondências de retina e reconhecimento facial. etc.? Como os civis poderiam ser alertados pelos caras de Fort Meade e do Comando Central de que não havia adversário para eles e que poderiam ficar em casa com segurança assistindo aos vídeos da CNN sobre o ataque em suas TVs?
15 de novembro de 2004: Rua em Fallujah fortemente danificada pelos combates. (Corpo de Fuzileiros Navais dos EUA, James J. Vooris)
No. 3 Mossul e Raqqa Na campanha contra o ISIS, arrasámos a maior parte de Mosul e Raqqa. Só os fuzileiros navais dispararam mais de 20,000 mil projéteis de artilharia contra Mossul, uma cidade densamente povoada com bem mais de um milhão de habitantes. A Força Aérea realizou mais de 30,000 missões de combate. A força aérea francesa, a força aérea iraquiana, o Exército Nacional e a milícia xiita também dispararam contra a cidade.
Com todo este poder de fogo, foram necessárias várias semanas para libertar Mossul dos combatentes do ISIS. As vítimas civis e os refugiados foram demasiado numerosos para serem contabilizados. Pergunta: como é que a IA nos teria permitido alcançar os mesmos objectivos em termos sanitários, à luz das tácticas de evasão do ISIS que eram muito mais complexas do que as encontradas em Falluja?
(A outra alternativa para tomar uma área urbana é lutar de casa em casa com apenas artilharia e apoio aéreo limitados. Isso, claro, significa um número maior de baixas para as tropas de combate. Arrasar a cidade, na verdade, substitui as baixas civis por baixas militares entre os atacantes. força – em uma proporção de 10:1 ou 20:1?)
Um soldado americano carrega uma criança iraquiana ferida para um centro de tratamento em março de 2007. (James F. Cline III, Wikimedia Commons)
Nº 4 Líbia Aqui, os EUA forneceram a maior parte do poder de fogo para derrubar e matar o líder do país, Muammar Gaddafi. Com o seu controlo removido, o país sucumbiu a uma década de conflitos multipartidários quase contínuos, com morte, devastação e deslocação em massa no seu caminho. Actualmente, o cenário político é dominado pela luta pelo poder entre duas coligações em conflito.
Um, com sede em Trípoli, foi instalado por Washington e seus aliados e tem um estatuto nominal como governo reconhecido internacionalmente. A outra, centrada na cidade oriental de Benghazi, é liderada pelo general Khalifa Haftar, que ganhou favores ao derrotar algumas das milícias jihadistas que floresceram desde a morte de Gaddafi. O primeiro é apoiado pela Arábia Saudita, pelos Emirados Árabes Unidos e especialmente pelo líder da Turquia, Recep Erdogan, que transferiu milhares dos seus representantes da Al-Qaeda, do ISIS e de outros militantes da Síria.
Vista aérea de Trípoli, Líbia, em 2011. (MrPanyGoff, Wikimedia Commons)
A própria Trípoli é dominada por islâmicos. Haftar tem o apoio dos vizinhos Egito, Jordânia, Rússia e França. Várias milícias tribais e movimentos jihadistas percorrem o vasto interior da Líbia. Os Estados Unidos recentemente equivocaram-se no seu apoio, ao mesmo tempo que apelavam às duas partes para que chegassem a um acordo modus vivendi – com pouco sucesso. Pergunta: Washington fornece armas, direta ou indiretamente, a TODOS os partidos acima mencionados – exceto às milícias islâmicas. Será que a sua influência aumentaria e os seus objectivos teriam mais hipóteses de serem concretizados se essas entregas de armas incluíssem sistemas de armas de IA?
Nº 5 Iêmen: O massacre e a fome dos Houthis liderados pelos sauditas dependeram crucialmente da participação dos militares americanos. A sua campanha teria sido impossível sem os aviões dos EUA a fornecerem reabastecimento, os oficiais dos EUA sentados no quartel-general do comando saudita para direcionar os alvos e a Inteligência dos EUA. Além disso, fornecemos o que há de mais moderno em bombas e mísseis “inteligentes”. Também ajudamos a reforçar o bloqueio que negava alimentos e medicamentos à população em geral. A intenção saudita tem sido coagir os Houthis à submissão, causando tanta miséria quanto possível. Pergunta: como o emprego extensivo de sistemas de armas de IA teria mudado isso? Os “alvos” críticos não estariam localizados em Washington, Tampa e Riade, que são facilmente acessíveis a armas não assistidas por IA?
Uma aldeia iemenita destruída. (Almogdad Mojalli/VOA)
Nº 6 A Guerra do Vietnã Este foi um conflito entre uma insurreição à escala nacional e uma campanha massiva de contra-insurgência. Uma parte importante da estratégia americana visava negar o santuário vietcongue, desnudando grandes áreas de vegetação (Agente Laranja) e forçando os civis a sair de amplas áreas de território declaradas como zonas de “fogo livre”. Teria a posse de armamento de IA alterado de forma substancial a condução da guerra, os níveis de baixas e o resultado? Como?
Nº 7 da Segunda Guerra Mundial O bombardeio massivo de cidades tornou-se a norma. Culminou em Hiroshima e Nagasaki. As baixas civis no bombardeio anterior em Tóquio foram quase tão altas. Foi assim com os ataques aéreos contra Hamburgo e Dresden. Todos partilhavam os objectivos de minar o moral do inimigo, paralisar a produção industrial — e satisfazer o desejo de vingança contra os ataques aéreos alemães a Londres, Coventry, Roterdão e as atrocidades japonesas. (Como a invasão do Iraque foi uma vingança pelo 9 de setembro). Pergunta: se tivéssemos acesso a armas de IA na época, esse pensamento teria sido diferente e as ações teriam sido diferentes?
Aviões dos EUA na Ilha Tinian que participaram do bombardeio de Hiroshima. (Harold Agnew, Wikimedia Commons)
A reflexão sobre estas questões leva-nos a três conclusões claras:
No. 1 A implantação generalizada de armas dirigidas pela Inteligência Artificial não provocará alterações apreciáveis nas decisões relativas ao uso da força militar, à condução da guerra ou às suas consequências.
No. 2 Revendo a história da guerra, ou restringindo a nossa consideração, às recentes guerras no Médio Oriente envolvendo os Estados Unidos, a fracção de vítimas civis que poderia ser reduzida pela utilização de armas de IA é muito baixa. Os actos de guerra que produzem a grande maioria das vítimas não são de um tipo que permita a substituição em grande escala de armas de IA. *
(IA armas dirigidas serão desenvolvidas, implantadas e utilizadas a um ritmo acelerado – no entanto. Na nossa era pós-moderna, qualquer inovação de alta tecnologia associada a dispositivos eletrónicos goza de uma suposta reivindicação de utilidade, valor e virtude superiores.)
No. 3 A inovação associada às armas de IA, como os drones e o exército voluntário, poderia encorajar o activismo militar ao prometer menos baixas americanas. O resultado líquido, porém, poderia muito bem ser mais mortes e destruição líquidas no total.
Há vários anos, participei nas cerimónias do Dia da República em Nova Deli. Eu tinha um assento na calçada para o desfile liderado por Nehru e seu gabinete ao longo do grande Raj Path, do Palácio Presidencial (Rashtrapati Bhavan) ao Portão da Índia. Eles foram seguidos por outros dignitários, carros alegóricos e, em seguida, uma impressionante formação de cavalaria com turbantes em trajes magníficos. Um espetáculo digno de um Durbar Imperial. Na verdade, Lutyens projetou tudo para homenagear o Imortal Raj Britânico.
Bem no final da procissão, seguindo os cavaleiros a uma distância respeitável, estava um esquadrão menos glamoroso de “varredores vestidos de cáqui: que usavam vassouras de palha para limpar o esterco deixado para trás.
O mundo político de hoje traz de volta memórias daquela ocasião, na medida em que somos constantemente presenteados com uma enorme quantidade de besteiras após o último megaevento, e quantidades menores após eventos menores. As recomendações urgentes do relatório da AI da Comissão enquadram-se nesta última categoria, mas não carecem de pungência.
No geral, há um desequilíbrio entre produção e descarte. A capacidade de escavação não acompanhou. O dilema dos comentadores está na posição dos “intocáveis” varredores de Nova Deli, que são obrigados a fazer o trabalho sujo de manter o espaço público livre de matérias odoríferas.
A repetição torna a tarefa ainda mais cansativa. É como se a Brigada Ligeira de 800 homens, comandada pelo nosso Lord Cardigans local,, passa diariamente em marcha até o Vale da Morte. Sim – alguém tem que fazer isso, “intocáveis” não existem, e a melhor solução seria estabilizar os “cavalos”. As chances de o último acontecer a qualquer momento no futuro previsível são nulas.
Eu pessoalmente me despedi. Assim, em vez de um desmantelamento sistemático do relatório, segui a estratégia de evitar, limitando-me às poucas observações e questões apresentadas acima.
* Os vendedores de armamento de IA baseiam a sua promoção numa concepção errada de guerra. Eles presumem que é essencialmente de natureza instrumental. Não é. A destruição, o saque e a brutalização de civis são parte integrante da guerra – normalmente.
No extremo, pense em Átila, o Huno, cujos exércitos massacravam e pilhavam rotineiramente, ou na Horda de Ouro de Genghis Khan, que fez o mesmo, ou em Timur, cujo cartão de visita era uma pirâmide de caveiras no portão da cidade, ou nos nazistas. Para eles, a guerra anti-séptica teria sido um anátema – tirando-lhe toda a diversão.
As paixões das guerras inspiradas pela religião ou outras ideologias também são um mau presságio para os não-combatentes: por exemplo, a aniquilação de Jericó por Josué – obediente às ordens do seu Comandante; as Cruzadas; o 17thGuerra dos Trinta Anos do Século; a recente violência do Estado Islâmico. Ou o flagelo do nacionalismo moderno.
Os sérvios que bombardearam Sarajevo estavam preocupados com a precisão dos alvos? Será que Radovan Karadzic ou Slobodan Mladic teriam acolhido as armas de IA como uma solução para um dilema moral que punha em perigo as suas almas imortais?
Em todos estes casos, a própria noção de “dano colateral” era irrelevante.
Michael Brenner é professor de assuntos internacionais na Universidade de Pittsburgh. [email protegido]
As opiniões expressas são exclusivamente do autor e podem ou não refletir as de Notícias do Consórcio.
Doe com segurança com PayPal
Ou com segurança por cartão de crédito ou cheque clicando no botão vermelho:
A mente técnica é uma coisa linda – com todas essas habilidades de cálculo. Como artista, entendo naturalmente os artistas, mas também reconheço aquelas pessoas com inclinação técnica. Posso vê-los e apreciar os técnicos por suas habilidades. Mas o que é interessante é que eles não podem me ver. Parece que, como não tenho as habilidades matemáticas tão afinadas quanto elas, eu não existo. Eu sou apenas um simplório.
A psicologia de tudo isso me fascinava há algum tempo. Qualquer pessoa que conheci com uma mente altamente técnica também tem um lado cego do tamanho do Estado de Montana. É como se aqueles que são dotados de tais habilidades devessem fazê-lo ao nascer, aceitando a perda de outras faculdades: daltônicos, surdos para tons, criatividade zero. Criar uma página e simplesmente alinhar as coisas? Escreva um parágrafo? Escolha uma cor? Desenhar um desenho? Escrever uma música? Não.
A Microsoft é um excelente exemplo disso. Tudo o que aquela empresa já produziu é feio – “idiota” descreve melhor. Se eles realmente contratam artistas, eles não os utilizam. Seu software é projetado por e para aqueles com uma mentalidade técnica ingênua (o resto do uso é estúpido). Seus sistemas operacionais, portanto, podem ser difíceis de maneiras estranhas. (“intuitivo” é um slogan para ainda mais menus suspensos)
A foto no início deste artigo é reveladora. Googleplex é vômito feio! Os horríveis móveis de plástico verde empurram tudo para cima.
O ponto do meu discurso é este: vivemos numa sociedade que honra e promove aqueles com altas habilidades matemáticas, mas é preciso fazer a pergunta: num mundo são, essas pessoas estariam tomando decisões de comando?
Aqui Michael Brenner fez observações muito sábias e fez perguntas comoventes. Perguntas que têm apenas uma resposta razoável.
A Inteligência Artificial (IA) é apenas isso. A coleta de dados não equivale à sabedoria. Engraçado como isso ainda não se tornou evidente, até à desumanidade, na sua conduta.
Será que a aplicação de algoritmos (um conjunto de directivas computacionais) às respostas humanas acabará por substituir todas as formas de interacção social dos organismos vivos e tornar-se-á o processo substituto virtual, tolamente considerado equivalente – por aqueles que orquestram a fraude por ser perpetrada contra o “pensamento”? sabedoria experiencial duramente conquistada e realmente vivida da espécie?
Os dados eletrônicos coletados não são experiências reais. No máximo, qualquer coisa gerada por computador, nesse sentido, é mera teoria distópica e cibernética do comportamento humano. Embora muitos de nós actuemos como robôs estúpidos, espero seriamente que esta não seja a verdadeira intenção dos “deuses” do “antropomorfismo mecanicista”.
Dado que a 'mente', tanto quanto é cientificamente conhecida no presente momento, não é apenas tão básica e simplista como a “teoria da comunicação/controlo” a pretenderia; é um sistema de controle autônomo fabricado simulado, um tipo adequado de prótese. A própria ideia é absurda!
Por nenhum esforço da imaginação científica, até agora, a 'mente' foi definitivamente determinada como sendo meramente uma 'função' de intercâmbios químicos orgânicos entre “as estruturas neurais do cérebro e os sistemas de comunicação mecanoelétricos”.
Se a mente humana puder ser reduzida – devido ao actual domínio e poder de marketing da comunidade de produção de Inteligência Artificial (IA), a uma função puramente robótica, então nós, o povo, seremos relegados a meros dispositivos isolados (alienados) de nossas próprias vidas, habilmente separadas de nossa humanidade natural e inata, pelos descendentes desta raça de máquina.
Não será um objectivo não declarado do corporativismo totalitário reduzir, como ameaça, quaisquer vozes dissidentes aos seus dispositivos de “comando e controlo”, que precisam de ser restringidos, como na restrição da “liberdade de expressão” apenas àqueles credenciados para falar em em nome do homem corporativista global?
À medida que as coisas estão a degenerar neste momento, social, política e economicamente (culturalmente), estamos no bom caminho para uma realidade objectiva insensível, perceptivamente distorcida – vista através dos nossos filtros mentais internos moldados pelo histórico condicionamento em massa.
O que são algoritmos além de compilações ponderadas de suposições projetivas pré-programadas sobre comportamentos humanos repetitivos? Estas fórmulas não dizem absolutamente nada sobre a organização holística e o funcionamento da mente. Isto nada mais é do que uma tentativa de melhorar os estereótipos: tentar avaliar o conteúdo dos seres humanos individuais, sem ter em conta toda a extensão e infinidade do coração, da mente e do espírito.
A prática de estereotipar as reações comportamentais dos “outros” não é semelhante a presumir um resultado? A tentativa de impor isso por meio de aplicação algorítmica é Frankenstein revisitado.
A estereotipagem dos indivíduos é desaprovada pelos censores éticos da sociedade – os chamados defensores dos direitos humanos, mas como é então que a previsão através de algoritmos aplicados não é igualmente desaprovada e esmagadoramente vetada? Poderia ter alguma coisa a ver com o facto de que ganhar dinheiro através do emprego enganoso de processos patenteados/marcados, monopolistas e exploradores, ainda é sancionado como métodos capitalistas legítimos de elevação social do esforço produtivo?
As memórias das nossas falsas razões para invadir o Iraque, e outros, irão comigo para o túmulo. Agora, a ideia de deixar aqueles IDIOTAS do Departamento de Defesa e do Complexo Industrial Militar (MIC) QUE SÃO DONOS DOS ESTADOS UNIDOS DA AMÉRICA... apenas a ideia de colocar um jogo de culpa para eles, como a IA,... sem contar os bilhões de nossos impostos – não os impostos do MIC, os nossos impostos, vamos gastar com isso…. me deixa... simplesmente triste.
Bem dito, a guerra não é apenas o Inferno, é a ruptura total de tudo o que a humanidade poderia chamar de decente!