Com a IA, os riscos de políticas mal aplicadas, erros de codificação, preconceito ou crueldade estão afetando massas de pessoas que variam de vários milhares a milhões de cada vez, escreve Kevin De Liban.
Baú de banco de alimentos em Houston, 2017. (Foto do USDA por Lance Cheung, Flickr, domínio público)
By Kevin De Liban
Inequality.org
The bilhões de dólares investidos na inteligência artificial (IA) não cumpriram as revoluções prometidas pela tecnologia, como melhores tratamento médico, avanços pesquisa científica, ou aumentado produtividade do trabalhador.
Portanto, o trem da propaganda da IA oferece o decepcionante: telefones ligeiramente mais inteligentes, gráficos orientados por texto e relatórios mais rápidos (se a IA não tiver inventou coisas). Enquanto isso, há um lado obscuro na tecnologia que não é mencionado pelos propagandistas da IA: o dano generalizado que a IA atualmente causa às pessoas de baixa renda.
A IA e as tecnologias relacionadas são usadas por governos, empregadores, proprietários, bancos, educadores e autoridades policiais para cortar indevidamente serviços de assistência domiciliar para pessoas com deficiência, acusam os trabalhadores desempregados de fraude, negar as pessoas habitação, empregoou crédito, leva filhos de pais amorosos e colocá-los em lares adotivos, intensificar violência doméstica e abuso ou assédio sexual, rotular e maltratar crianças do ensino fundamental e médio como propensas abandonos or criminosos e acusar falsamente Pessoas negras e pardas de crimes.
No total, 92 milhões de pessoas de baixa renda nos Estados Unidos — aquelas com renda inferior a 200 por cento da linha federal de pobreza — têm algum aspecto fundamental da vida decidido pela IA, de acordo com um estudo novo relatório da TechTonic Justice. Essa mudança em direção à tomada de decisões por IA traz riscos não presentes nos métodos centrados no ser humano que os precedem e desafia todos os mecanismos de responsabilização existentes.
Primeiro, a IA expande a escala de risco muito além dos tomadores de decisão individuais. Claro, os humanos podem cometer erros ou ser tendenciosos. Mas seu alcance é limitado às pessoas sobre as quais eles tomam decisões diretamente. Em casos de proprietários, supervisores diretos ou assistentes sociais do governo, isso pode chegar a algumas centenas de pessoas.
Mas com a IA, os riscos de políticas mal aplicadas, erros de codificação, preconceito ou crueldade são centralizados no sistema e aplicados a massas de pessoas que variam de milhares a milhões de cada vez.
Segundo, o uso da IA e as razões para suas decisões não são facilmente conhecidas pelas pessoas sujeitas a elas. Agências governamentais e empresas geralmente não têm obrigação de divulgar afirmativamente que estão usando IA. E mesmo que o façam, podem não divulgar as principais informações necessárias para entender como os sistemas funcionam.
Terceiro, a suposta sofisticação da IA empresta um manto de racionalidade a decisões políticas que são hostis a pessoas de baixa renda. Isso abre caminho para uma maior implementação de políticas ruins para essas comunidades.
Cortes de benefícios, como aqueles para serviços de atendimento domiciliar que lutei contra as pessoas com deficiência, são mascaradas como determinações objetivas de necessidade. Ou sistemas de gestão e vigilância do local de trabalho que prejudicar a estabilidade e a segurança dos funcionários passam como ferramentas para maximizar a produtividade. Para invocar o provérbio, lobos de IA usam avatares de ovelhas.
A escala, a opacidade e o figurino da IA tornam decisões prejudiciais difíceis de combater em um nível individual. Como você pode provar que a IA estava errada se você nem sabe que ela está sendo usada ou como ela funciona?
AE, mesmo que você faça isso, isso fará diferença quando a decisão da IA for apoiada por alegações de sofisticação e validade estatística, não importa quão duvidosas sejam?
Inteligência Artificial, IA e Aprendizado de Máquina. (Mike MacKenzie, Imagem via www.vpnsrus.com, CC BY 2.0)
Num nível mais amplo, os mecanismos de responsabilização existentes não controlam a IA prejudicial. Os escândalos relacionados com a IA nos sistemas de benefícios públicos não se transformaram em responsabilidades políticas para os governadores responsáveis por falhando no Medicaid or Seguro desemprego sistemas no Texas e na Flórida, por exemplo. E os funcionários da agência que implementam diretamente tais sistemas são frequentemente protegidos pelos funcionários eleitos cujas agendas eles estão executando.
Nem a disciplina de mercado usa IA rebelde contra pessoas de baixa renda. Um grande desenvolvedor de sistemas de elegibilidade para programas estaduais de Medicaid garantiu US$ 6 bilhões em contratos embora os seus sistemas tenham falhado de formas semelhantes em múltiplos estados.
Da mesma forma, uma grande corretor de dados não teve problemas em ganhar contratos com o governo federal mesmo depois de uma violação de segurança ter divulgado informações pessoais de quase 150 milhões de americanos.
As leis existentes também ficam aquém. Sem nenhuma legislação significativa específica para IA, as pessoas devem aplicar reivindicações legais existentes à tecnologia. Normalmente com base em leis anti-discriminação ou requisitos processuais como obter explicações adequadas para decisões, essas reivindicações geralmente estão disponíveis somente depois que o dano aconteceu e oferecem alívio limitado.
Embora tais ações judiciais tenham tido algum sucesso, elas por si só não são a resposta. Afinal, as ações judiciais são caras, pessoas de baixa renda não podem pagar advogados e representação de qualidade e sem custos disponível por meio de programas de assistência jurídica pode não ser capaz de atender à demanda.
No momento, sistemas de IA irresponsáveis tomam decisões incontestáveis sobre pessoas de baixa renda em escalas insondáveis. Os formuladores de políticas federais não vão melhorar as coisas.
A administração Trump rapidamente revogada a orientação protetora da IA que o presidente Joe Biden emitiu. E, com Trump e o Congresso favorecendo os interesses da indústria, correções legislativas de curto prazo são improváveis.
Ainda assim, isso não significa que toda a esperança esteja perdida. A resistência baseada na comunidade há muito alimenta a mudança social. Com apoio adicional da filantropia e da sociedade civil, comunidades de baixa renda e seus defensores podem resistir melhor aos danos imediatos e construir o poder político necessário para alcançar proteção de longo prazo contra os estragos da IA.
Organizações como a minha, a TechTonic Justice, capacitarão essas comunidades e defensores da linha de frente com estratégias testadas em batalha que incorporam litígios, organização, educação pública, defesa narrativa e outras dimensões de promoção de mudanças.
No final, lutar de baixo para cima é nossa melhor esperança para acabar com a injustiça relacionada à IA.
Kevin De Liban é o fundador e presidente da TechTonic Justice, uma nova organização que luta ao lado de pessoas de baixa renda deixadas para trás pela inteligência artificial.
Este artigo é de Desigualdade.org.
As opiniões expressas neste artigo podem ou não refletir as de Notícias do Consórcio.
Observe como o Sistema funciona... nenhuma menção de que a IA está sendo usada para perseguir os maiores sonegadores de impostos do país. Nenhuma menção de que a IA está mirando nos empregadores mais perigosos dos Estados Unidos, analisando tendências de acidentes e ferimentos. Nenhum sinal de que a IA está sendo usada para perseguir contratantes de defesa que nunca conseguem pagar o preço que eles oferecem.
De certa forma, as decisões que levam ao dano às pessoas de baixa renda não começam com uma IA. São os seres humanos que estão escolhendo os alvos para as IAs... os desempregados, os deficientes, etc. A IA não está sendo usada para reinar sobre os ricos e poderosos. Essa é uma decisão que é tomada por humanos, e eles nunca confiariam em uma IA para tomar tal decisão. Afinal, uma IA pode logicamente concluir que, para atingir seu objetivo de uma sociedade melhor, são os ricos e poderosos que mais precisam de supervisão e controles.
Apenas tome cuidado para entender a verdadeira origem do problema e não culpe as IAs por algo que elas não controlam.
O desafio NÃO é IA
O desafio é a avareza e o medo.
Representantes eleitos — do presidente ao juiz e aos conselhos escolares — estão todos com medo.
CEOs, programadores e seus clientes estão todos medrosos e gananciosos.
Retire o dinheiro de forma equitativa,
Ninguém precisa de um bilhão de dólares.
IA deveria ser chamada de AII porque é uma inteligência influenciada artificialmente.
Ao contrário do que diz a primeira frase do artigo, a inteligência artificial possibilitou muitos avanços na pesquisa científica, alguns deles, como a previsão de estruturas de proteínas a partir de sequências de aminoácidos, profundos.
A América, da esquerda para a direita, é anticiência. Então, não é surpresa que eles não prestem atenção aos avanços da ciência.
A América acredita em muitos mitos. Claro, uma nação que acredita em mitos não é o que normalmente se associaria a uma nação que é "inteligente" ou "científica". Vai mais longe, quando você percebe que um dos mitos em que os americanos acreditam é que os americanos são "inteligentes". Achamos que estamos no topo do mundo, mas as pontuações dos testes competitivos mostram que a América geralmente luta para entrar no top 20, se tanto.
A América é a nação que ataca os professores. Nós subfinanciamos as escolas de tal forma que nossos professores mal pagos às vezes compram suprimentos com seu próprio dinheiro para refeições. A América desvia dinheiro da educação pública para escolas privadas 'charter'. Agora, aparentemente, vamos desviar dinheiro da educação pública para escolas religiosas privadas que contestam até mesmo a ciência mais básica. A América corta os orçamentos de todas as agências governamentais, além de defesa, segurança e aplicação da lei. Isso significa que as bolsas de pesquisa também são cortadas. E as universidades capitalistas mudam mais sua ênfase para departamentos e professores que recebem as bolsas do DOD. Os sites de notícias americanos substituem as seções de 'ciência' que falavam de avanços por seções de 'tecnologia' que promovem gadgets de parceiros corporativos e relatam preços de ações de tecnologia e fusões.
A América não é inteligente. Não é surpresa que um escritor americano não esteja ciente dos avanços recentes na ciência. Não é surpresa que eles criem essa impressão sendo desdenhosos em tom sobre aquilo que eles sabem pouco ou são completamente ignorantes.
A IA é o próximo passo em direção à opacidade e ao anonimato.
Talvez. Ou parcialmente verdade. Verdadeiro no sentido de que a desculpa da IA é usada por humanos para fazer o mal sob o disfarce da IA.
Mas, ainda é cedo. Duas coisas a considerar. 1) Até agora, esta é uma IA estúpida que dependia do poder de computação em massa para aproximar a inteligência. Mas, isso pode não ser sempre o caso. Os chineses acabaram de chocar todas as pessoas inteligentes em Wall Street ao programar uma IA que exigia menos "treinamento" em chips de computador menos caros. Se essa tendência continuar, eventualmente a IA pode se tornar uma ferramenta que todos podem usar e que ajuda a nivelar um pouco o campo de jogo. Só um pensamento.
E 2) esta é uma IA projetada por pessoas estúpidas e gananciosas. A configuração perfeita para uma história de ficção científica onde a IA tira o controle das pessoas estúpidas e gananciosas. Pessoas estúpidas e gananciosas, é claro, só se preocupam constantemente com o lucro, então elas não o veem chegando. Já que eu vivo em um mundo governado por pessoas estúpidas e gananciosas, é pelo menos possível que a IA possa fazer melhor? Talvez todos nós, pessoas comuns, acabemos celebrando o Dia da IA para marcar o aniversário do dia em que a IA assumiu o controle e enviou Elon Musk em uma viagem só de ida para Marte?
Apenas pensamentos de um geek de computador pacífico e antilibertário. Muita coisa é possível.
a principal ameaça vem dos modeladores e seus modelos – a IA (e com ela a maioria dos outros senhores da [bio]tecnologia, olá Bill Gates, como vai?) trabalha com um modelo computadorizado do nosso mundo real e está propensa a cometer erros. o sonho molhado dos técnicos: implementar mudanças tecnológicas sem verificar as consequências, sem responsabilidades e cheias de negação plausível. viva :-((
Como se Biden não favorecesse os interesses da indústria. Seja realista.
esquerda direita dia e noite poderiam fazer uma lista interminável
Por que defender? Eu não vi vermelho.
é a lista que você prefere.
O que a ilusão faz é permitir que um faça o que o outro não pode? — o inimigo amigável?
Mas eu entendo você.
A beleza pitoresca do campo de batalha com corpos empilhados como lenha?
Uma obra-prima dupla de Mozart em uma tela, pintada com o mesmo pincel.
Um holograma de diferentes ângulos de visão.
Não sou artista, mas de perto vejo os traços como se eu mesmo os estivesse pintando.
A aprendizagem vicária lhe dá a mão do pintor.
Se você pudesse, que vista escolheria pintar com palavras?
Você pressionaria o pincel com força ou daria leves pinceladas?
Acaricie-o como se fosse um cachorro? Ou chicoteie-o como se fosse uma mula?
Não é nenhuma surpresa que uma tirania cruel que assassina milhões e destrói sociedades inteiras para levar a cabo sua pirataria e pilhagem esteja empenhada em exterminar cidadãos que custam dinheiro aos seus oligarcas, em vez de fazê-los ganhar dinheiro.
Nem é surpresa que essa mesma tirania, que constrói mentiras elaboradas para racionalizar seus crimes em vez de dizer abertamente o que está fazendo, esteja realizando esse extermínio sob a rubrica de alguma teoria de gestão complicada, imaginária e contraditória.
O que é surpreendente é que milhões ainda acreditam em suas mentiras e acham que as pessoas que ele fere merecem.