Con l’intelligenza artificiale, i rischi di politiche applicate in modo errato, errori di codifica, pregiudizi o crudeltà stanno colpendo masse di persone che vanno da diverse migliaia a milioni alla volta, scrive Kevin De Liban.
Baule della banca alimentare a Houston, 2017. (Foto USDA di Lance Cheung, Flickr, di pubblico dominio)
By Kevin De Libano
Inequality.org
The miliardi di dollari riversati nell'intelligenza artificiale (IA) non hanno prodotto le rivoluzioni promesse dalla tecnologia, come una migliore trattamento medico, avanza ricerca scientificao aumentato produttività del lavoratore.
Quindi, il clamore dell'intelligenza artificiale rivela qualcosa di deludente: telefoni leggermente più intelligenti, grafica guidata tramite testo e scrittura di report più rapida (se l'intelligenza artificiale non ha... ha inventato le cose). Nel frattempo, c'è un lato oscuro della tecnologia che non viene menzionato dai ciarlatani dell'IA: il danno diffuso che l'IA causa attualmente alle persone a basso reddito.
L'intelligenza artificiale e le tecnologie correlate vengono utilizzate da governi, datori di lavoro, proprietari, banche, educatori e forze dell'ordine per tagliare in modo errato servizi di assistenza domiciliare per le persone disabili, accusano i lavoratori disoccupati di frode, negare alle persone alloggiamento, occupazione, o credito, prendere bambini da genitori amorevoli e metterli in affidamento, intensificare la violenza domestica e di abuso o molestia sessuale, etichettare e maltrattare i ragazzi delle scuole medie e superiori come probabili abbandoni or criminali e accusare falsamente Persone di colore e di colore criminali.
In totale, 92 milioni di persone a basso reddito negli Stati Uniti, ovvero coloro con redditi inferiori al 200 percento della soglia di povertà federale, hanno un aspetto chiave della vita deciso dall’intelligenza artificiale, secondo un nuovo rapporto di TechTonic JusticeQuesto spostamento verso il processo decisionale basato sull'intelligenza artificiale comporta rischi non presenti nei metodi incentrati sull'uomo che li precedono e sfida tutti i meccanismi di responsabilità esistenti.
In primo luogo, l'intelligenza artificiale espande la scala del rischio ben oltre i singoli decisori. Certo, gli esseri umani possono commettere errori o essere di parte. Ma la loro portata è limitata alle persone su cui prendono direttamente decisioni. Nel caso di proprietari, supervisori diretti o assistenti sociali governativi, potrebbe arrivare al massimo a qualche centinaio di persone.
Ma con l'intelligenza artificiale, i rischi di politiche applicate male, errori di codifica, pregiudizi o crudeltà vengono centralizzati nel sistema e applicati a masse di persone che possono variare da diverse migliaia a milioni alla volta.
In secondo luogo, l'uso dell'IA e le ragioni delle sue decisioni non sono facilmente note alle persone a cui sono sottoposte. Le agenzie governative e le aziende spesso non hanno alcun obbligo di dichiarare in modo affermativo di utilizzare l'IA. E anche se lo facessero, potrebbero non divulgare le informazioni chiave necessarie per comprendere il funzionamento dei sistemi.
In terzo luogo, la presunta sofisticatezza dell'IA conferisce un velo di razionalità alle decisioni politiche ostili alle persone a basso reddito. Ciò apre la strada a un'ulteriore implementazione di cattive politiche per queste comunità.
Tagli ai benefici, come quelli ai servizi di assistenza domiciliare contro cui ho combattuto per le persone disabili, sono mascherate da determinazioni oggettive di necessità. O sistemi di sorveglianza e gestione del posto di lavoro che compromettere la stabilità e la sicurezza dei dipendenti passano come strumenti per massimizzare la produttività. Per richiamare il proverbio, i lupi AI usano avatar di pecore.
La scala, l'opacità e il costume dell'IA rendono le decisioni dannose difficili da combattere a livello individuale. Come puoi dimostrare che l'IA ha sbagliato se non sai nemmeno che viene utilizzata o come funziona?
AE, anche se fosse così, avrebbe importanza quando la decisione dell'IA sarà supportata da affermazioni di validità e sofisticatezza statistica, per quanto dubbie possano essere?
Intelligenza artificiale, IA e apprendimento automatico. (Mike MacKenzie, Immagine tramite www.vpnsrus.com, CC BY 2.0)
A un livello più ampio, gli attuali meccanismi di responsabilità non frenano l'IA dannosa. Gli scandali correlati all'IA nei sistemi di previdenza pubblica non si sono trasformati in passività politiche per i governatori responsabili fallimento del Medicaid or Assicurazione contro la disoccupazione sistemi in Texas e Florida, per esempio. E i funzionari dell'agenzia che implementano direttamente tali sistemi sono spesso protetti dai funzionari eletti di cui stanno eseguendo gli ordini del giorno.
Né la disciplina di mercato che l'IA ribelle usa contro le persone a basso reddito. Uno dei principali sviluppatori di sistemi di idoneità per i programmi Medicaid statali ha ottenuto 6 miliardi di dollari in contratti anche se i suoi sistemi hanno fallito in modi simili in più stati.
Allo stesso modo, un grande mediatore di dati non ha avuto problemi a vincere contratti con il governo federale anche dopo che una violazione della sicurezza ha reso pubbliche le informazioni personali di quasi 150 milioni di americani.
Anche le leggi esistenti sono carenti. Senza una legislazione significativa specifica per l'IA, le persone devono applicare le rivendicazioni legali esistenti alla tecnologia. Solitamente basate su leggi contro la discriminazione o requisiti procedurali come l'ottenimento spiegazioni adeguate ai fini delle decisioni, queste richieste sono spesso accessibili solo dopo che il danno si è verificato e offrono un risarcimento limitato.
Sebbene tali cause legali abbiano avuto un certo successo, da sole non sono la risposta. Dopo tutto, le cause legali sono costose, le persone a basso reddito non possono permettersi gli avvocati e la rappresentanza di qualità e gratuita disponibile tramite programmi di assistenza legale potrebbe non essere in grado di soddisfare la domanda.
In questo momento, sistemi di intelligenza artificiale non responsabili prendono decisioni insindacabili sulle persone a basso reddito su scale incomprensibili. I decisori politici federali non miglioreranno le cose.
L'amministrazione Trump ha rapidamente revocata la guida protettiva sull'intelligenza artificiale che il Presidente Joe Biden ha emesso. E, con Trump e il Congresso che favoriscono gli interessi dell'industria, è improbabile che si ottengano soluzioni legislative a breve termine.
Tuttavia, ciò non significa che ogni speranza sia perduta. La resistenza basata sulla comunità ha da tempo alimentato il cambiamento sociale. Con un ulteriore supporto da parte della filantropia e della società civile, le comunità a basso reddito e i loro sostenitori possono resistere meglio ai danni immediati e costruire il potere politico necessario per ottenere una protezione a lungo termine contro le devastazioni dell'IA.
Organizzazioni come la mia, TechTonic Justice, forniranno a queste comunità in prima linea e ai loro sostenitori strategie collaudate in battaglia che incorporano contenziosi, organizzazione, istruzione pubblica, advocacy narrativa e altre dimensioni del cambiamento.
In definitiva, la nostra migliore speranza per porre fine alle ingiustizie legate all'intelligenza artificiale è combattere dal basso.
Kevin De Liban è il fondatore e presidente di TechTonic Justice, una nuova organizzazione che lotta al fianco delle persone a basso reddito, abbandonate dall'intelligenza artificiale.
Questo articolo se da Disuguaglianza.org.
Le opinioni espresse in questo articolo possono o meno riflettere quelle di Notizie Consorzio.
Notate come funziona il Sistema... nessuna menzione dell'IA usata per perseguire i più grandi evasori fiscali della nazione. Nessuna menzione dell'IA usata per colpire i datori di lavoro più pericolosi d'America analizzando le tendenze di incidenti e infortuni. Nessun segno che l'IA venga usata per perseguire i contractor della difesa che non riescono mai a pagare il prezzo che hanno offerto.
In un certo senso, le decisioni che portano al danno per le persone a basso reddito non iniziano con un'IA. Sono gli esseri umani a scegliere i bersagli per le IA... i disoccupati, i disabili, ecc. L'IA non viene utilizzata per tenere a freno i ricchi e i potenti. Questa è una decisione presa dagli umani, e non si fiderebbero mai di un'IA per prendere una decisione del genere. Dopotutto, un'IA potrebbe logicamente concludere che per raggiungere il suo obiettivo di una società migliore, sono i ricchi e i potenti ad aver più bisogno di supervisione e controllo.
Bisogna solo fare attenzione a comprendere la vera fonte del problema e non dare la colpa alle IA per qualcosa che non controllano.
La sfida NON è l'intelligenza artificiale
La sfida è l'avarizia e la paura.
I rappresentanti eletti, dai presidenti ai giudici, fino ai consigli scolastici, sono tutti timorosi.
I CEO, i programmatori e i loro clienti sono tutti timorosi e avidi.
Rimuovere il denaro in modo equo,
Nessuno ha bisogno di miliardi di dollari.
L'IA dovrebbe essere chiamata IAI perché è un'intelligenza influenzata artificialmente.
Contrariamente alla prima frase dell'articolo, l'intelligenza artificiale ha reso possibili molti progressi nella ricerca scientifica, alcuni dei quali, come la previsione delle strutture proteiche a partire dalle sequenze di amminoacidi, sono profondi.
L'America, da sinistra a destra, è anti-scienza. Quindi, non sorprende che non prestino alcuna attenzione ai progressi della scienza.
L'America crede a molti miti. Naturalmente, una nazione che crede nei miti non è ciò che normalmente si associa a una nazione che è "intelligente" o "scientifica". Va oltre, quando ci si rende conto che uno dei miti in cui credono gli americani è che gli americani siano "intelligenti". Pensiamo di essere in cima al mondo, ma i punteggi dei test competitivi mostrano che l'America di solito fa fatica a entrare nella top 20, se va bene.
L'America è la nazione che attacca gli insegnanti. Abbiamo così poco finanziato le scuole che i nostri insegnanti sottopagati a volte acquistano le forniture con i loro soldi per i pasti. L'America dirotta i soldi dell'istruzione pubblica verso scuole private "charter". Ora, a quanto pare stiamo per dirottare i soldi dell'istruzione pubblica verso scuole private religiose che contestano anche la scienza più elementare. L'America taglia i budget di ogni agenzia governativa oltre alla difesa, alla sicurezza e alle forze dell'ordine. Ciò significa che anche le sovvenzioni per la ricerca vengono tagliate. E le università capitaliste spostano la loro attenzione verso dipartimenti e professori che ottengono le sovvenzioni del DOD. I siti di notizie americani sostituiscono le sezioni "scientifiche" che parlavano di innovazioni con sezioni "tecnologiche" che promuovono gadget di partner aziendali e riferiscono sui prezzi delle azioni tecnologiche e sulle fusioni.
L'America non è intelligente. Non sorprende che uno scrittore americano non sia a conoscenza dei recenti progressi della scienza. Non sorprende che crei questa impressione usando un tono sprezzante su ciò di cui sa poco o di cui è completamente ignorante.
L'intelligenza artificiale rappresenta un ulteriore passo avanti verso l'opacità e l'anonimato.
Forse. O parzialmente vero. Vero nel senso che la scusa dell'IA è usata dagli umani per fare del male sotto la copertura dell'IA.
Ma è anche presto. Due cose da considerare. 1) Finora, questa è una stupida IA che si è affidata alla potenza di calcolo di massa per approssimare l'intelligenza. Ma potrebbe non essere sempre così. I cinesi hanno appena scioccato tutte le persone intelligenti di Wall Street programmando un'IA che richiedeva meno "addestramento" su chip per computer meno costosi. Se questa tendenza continua, alla fine l'IA potrebbe diventare uno strumento che tutti possono usare e che aiuta un po' a livellare il campo di gioco. Solo un pensiero.
E 2) questa è un'IA progettata da persone stupide e avide. L'ambientazione perfetta per una storia di fantascienza in cui l'IA toglie il controllo alle persone stupide e avide. Le persone stupide e avide ovviamente si preoccupano solo costantemente del profitto, quindi non lo vedono arrivare. Dal momento che vivo in un mondo gestito da persone stupide e avide, è almeno possibile che l'IA possa fare di meglio? Forse tutti noi gente comune finiamo per celebrare l'AI Day per ricordare l'anniversario del giorno in cui l'IA ha preso il controllo e ha mandato Elon Musk in un viaggio di sola andata su Marte?
Solo pensieri di un pacifico geek informatico anti-libertario. Molte cose sono possibili.
la minaccia principale proviene dai modellatori e dai loro modelli: l'intelligenza artificiale (e con essa la maggior parte degli altri signori della [bio]tecnologia, ciao Bill Gates, come stai?) lavora con un modello computerizzato del nostro mondo reale ed è incline a commettere errori. il sogno proibito dei tecnici: implementare cambiamenti tecnologici senza controllare le conseguenze, senza responsabilità e pieno di plausibili negazioni. evviva :-((
Come se Biden non favorisse gli interessi dell'industria. Siate realistici.
sinistra destra giorno e notte potrebbero creare una lista infinita
Perché difendersi? Non ho visto rosso.
è la rosa dei candidati che preferisci.
Ciò che fa l'illusione è permettere a uno di fare ciò che l'altro non può fare? - il nemico amico?
Eppure ti capisco.
La bellezza pittoresca del campo di battaglia con i corpi accatastati come legna da ardere?
Un duplice capolavoro di Mozart su una tela, dipinto con lo stesso pennello.
Un ologramma da diverse angolazioni.
Non sono un artista, ma da vicino vedo i tratti come se li stessi dipingendo io stesso.
L'apprendimento indiretto ti fornisce la mano del pittore.
Se potessi, quale vista sceglieresti di dipingere con le parole?
Preferisci premere con forza il pennello o accarezzarlo delicatamente?
Accarezzarlo come un cane? O frustarlo come un mulo?
Non sorprende che una tirannia spietata che uccide milioni di persone e distrugge intere società per portare avanti la sua pirateria e il suo saccheggio sia intenzionata a sterminare cittadini che costano denaro ai suoi oligarchi, anziché guadagnarlo.
Né sorprende che questa stessa tirannia, che costruisce elaborate bugie per razionalizzare i propri crimini anziché dire apertamente cosa sta facendo, stia portando avanti questo sterminio sotto la guida di una teoria di gestione complicata, immaginaria e contraddittoria.
Ciò che sorprende è che milioni di persone credono ancora alle sue bugie e pensano che le persone che massacra se lo siano meritato.