Con la IA, los riesgos de políticas mal aplicadas, errores de codificación, sesgo o crueldad están afectando a masas de personas que van desde varios miles hasta millones a la vez. escribe Kevin De Liban.
Baúl del banco de alimentos en Houston, 2017. (Fotografía del USDA de Lance Cheung, Flickr, dominio público)
By Kevin De Liban
Inequality.org
The miles de millones de dólares Los avances tecnológicos invertidos en inteligencia artificial (IA) no han cumplido con las revoluciones prometidas, como una mejor tratamiento médico, Avances en investigación científicao aumentado productividad del trabajador.
Así, el tren de la propaganda de la IA ofrece lo decepcionante: teléfonos ligeramente más inteligentes, gráficos guiados por texto y una redacción de informes más rápida (si la IA no ha... inventó cosas). Mientras tanto, la tecnología tiene un lado oscuro que los anunciantes del carnaval de la IA no mencionan: el daño generalizado que la IA causa actualmente a las personas de bajos ingresos.
Los gobiernos, los empleadores, los propietarios, los bancos, los educadores y las fuerzas del orden utilizan la IA y las tecnologías relacionadas para recortar salarios de manera injustificada. servicios de cuidado a domicilio Para las personas con discapacidad, acusan a los trabajadores desempleados de Fraude publicitario:, negar a la gente viviendas, empleoo crédito, Tomar Niños de padres amorosos y ponerlos en hogares de acogida, intensificar la violencia doméstica y abuso o acoso sexual, etiquetar y maltratar a los niños de secundaria y preparatoria como si fueran propensos a... abandonos or criminales y acusar falsamente Personas negras y morenas responsables de delitos.
En total, 92 millones de personas de bajos ingresos en los Estados Unidos (aquellas con ingresos inferiores al 200 por ciento de la línea de pobreza federal) tienen algún aspecto clave de la vida decidido por la IA, según un estudio. nuevo informe de TechTonic JusticeEste cambio hacia la toma de decisiones mediante inteligencia artificial conlleva riesgos que no estaban presentes en los métodos centrados en el ser humano que los precedieron y desafía todos los mecanismos de rendición de cuentas existentes.
En primer lugar, la IA amplía la escala del riesgo mucho más allá de los que toman decisiones a nivel individual. Es cierto que los seres humanos pueden cometer errores o tener prejuicios, pero su alcance se limita a las personas sobre las que toman decisiones directamente. En el caso de los propietarios, los supervisores directos o los asistentes sociales del gobierno, ese número podría llegar a unos pocos cientos de personas.
Pero con la IA, los riesgos de políticas mal aplicadas, errores de codificación, sesgo o crueldad se centralizan en todo el sistema y se aplican a masas de personas que van desde varios miles a millones a la vez.
En segundo lugar, las personas que se ven sometidas a la IA no conocen fácilmente el uso que se hace de ella ni las razones que se esconden detrás de sus decisiones. Los organismos gubernamentales y las empresas no suelen tener la obligación de revelar de forma fehaciente que utilizan IA, y aunque lo hicieran, es posible que no divulguen la información clave necesaria para entender cómo funcionan los sistemas.
En tercer lugar, la supuesta sofisticación de la IA otorga un manto de racionalidad a las decisiones políticas que son hostiles a las personas de bajos ingresos, lo que allana el camino para que se sigan aplicando políticas perjudiciales para esas comunidades.
Recortes de beneficios, como aquellos a los que se les prestan servicios de atención domiciliaria contra los que luché en favor de las personas discapacitadas, se enmascaran como determinaciones objetivas de necesidades. O sistemas de gestión y vigilancia del lugar de trabajo que socavar la estabilidad y la seguridad de los empleados pasan como herramientas para maximizar la productividad. Para citar el proverbio, los lobos de la IA usan avatares de ovejas.
La escala, la opacidad y la apariencia de la IA hacen que sea difícil luchar contra las decisiones perjudiciales a nivel individual. ¿Cómo se puede demostrar que la IA se equivocó si ni siquiera se sabe que se está utilizando o cómo funciona?
AY, aun si lo hiciera, ¿importará cuando la decisión de la IA esté respaldada por afirmaciones de sofisticación y validez estadística, sin importar cuán dudosas sean?
Inteligencia artificial, IA y aprendizaje automático. (Mike MacKenzie, imagen vía www.vpnsrus.com, CC BY 2.0)
En un nivel más amplio, los mecanismos de rendición de cuentas existentes no frenan la IA dañina. Los escándalos relacionados con la IA en los sistemas de beneficios públicos no se han convertido en responsabilidades políticas para los gobernadores a cargo de la IA. Medicaid en decadencia or Seguro de desempleo Por ejemplo, en Texas y Florida, los funcionarios de las agencias que implementan directamente esos sistemas suelen estar protegidos por los funcionarios electos cuyas agendas ejecutan.
El mercado tampoco disciplina los usos descontrolados de la IA contra las personas de bajos ingresos. Un importante desarrollador de sistemas de elegibilidad para los programas estatales de Medicaid ha conseguido $ 6 mil millones en contratos A pesar de que sus sistemas han fallado de manera similar en múltiples estados.
Asimismo, una gran corredor de datos No tuve problemas para ganar contratos con el Gobierno federal incluso después de que una violación de seguridad divulgara la información personal de casi 150 millones de estadounidenses.
Las leyes existentes también son insuficientes. Sin una legislación significativa específica sobre IA, las personas deben aplicar los derechos legales existentes a la tecnología. Por lo general, se basan en leyes contra la discriminación o requisitos de procedimiento como obtener explicaciones adecuadas En el caso de las decisiones, estos reclamos a menudo solo están disponibles después de que se ha producido el daño y ofrecen un alivio limitado.
Si bien estas demandas han tenido cierto éxito, por sí solas no son la solución. Después de todo, las demandas son costosas, las personas de bajos ingresos no pueden pagar abogados y la representación gratuita y de calidad está disponible a través de programas de ayuda legal Es posible que no pueda satisfacer la demanda.
En la actualidad, los sistemas de inteligencia artificial no responsables toman decisiones incuestionables sobre personas de bajos ingresos a escalas inimaginables. Las autoridades federales no mejorarán la situación.
La administración Trump rápidamente Se rescindió la guía protectora de IA que emitió el presidente Joe Biden. Y, con Trump y el Congreso favoreciendo los intereses de la industria, es poco probable que se produzcan soluciones legislativas a corto plazo.
Sin embargo, eso no significa que se haya perdido toda esperanza. La resistencia comunitaria ha impulsado el cambio social desde hace mucho tiempo. Con apoyo adicional de la filantropía y la sociedad civil, las comunidades de bajos ingresos y sus defensores pueden resistir mejor los daños inmediatos y generar el poder político necesario para lograr una protección a largo plazo contra los estragos de la IA.
Organizaciones como la mía, TechTonic Justice, empoderarán a estas comunidades y defensores de primera línea con estrategias probadas en batalla que incorporan litigios, organización, educación pública, defensa narrativa y otras dimensiones del cambio.
Al final, luchar desde abajo es nuestra mejor esperanza para acabar con la injusticia relacionada con la IA.
Kevin De Liban es el fundador y presidente de TechTonic Justice, una nueva organización que lucha junto a personas de bajos ingresos abandonadas por la inteligencia artificial.
Este artículo es de Desigualdad.org.
Las opiniones expresadas en este artículo pueden o no reflejar las de Noticias del Consorcio.
Observe cómo funciona el sistema... no se menciona que se esté utilizando IA para perseguir a los mayores evasores fiscales del país. No se menciona que se esté utilizando IA para perseguir a los empleadores más peligrosos de Estados Unidos mediante el análisis de las tendencias de accidentes y lesiones. No hay ninguna señal de que se esté utilizando IA para perseguir a los contratistas de defensa que nunca pueden pagar el precio que ofertan.
En cierto sentido, las decisiones que conducen a los daños a las personas de bajos ingresos no comienzan con una IA. Son seres humanos quienes eligen los objetivos de las IA... los desempleados, los discapacitados, etc. La IA no se utiliza para controlar a los ricos y poderosos. Esa es una decisión que toman los humanos, y ellos nunca confiarían en una IA para tomarla. Después de todo, una IA podría concluir lógicamente que para lograr su objetivo de una sociedad mejor, son los ricos y poderosos quienes más necesitan supervisión y control.
Simplemente tenga cuidado de comprender la fuente real del problema y no culpe a las IA por algo que no controlan.
El desafío NO es la IA
El desafío es la avaricia y el miedo.
Los representantes electos, desde el presidente hasta los jueces y los consejos escolares, tienen miedo.
Los directores ejecutivos, los programadores y sus clientes son todos temerosos y codiciosos.
Retirar el dinero de manera equitativa,
Nadie necesita mil millones de dólares.
La IA debería llamarse AII porque es inteligencia influenciada artificialmente.
Contrariamente a lo que dice la primera frase del artículo, la inteligencia artificial ha hecho posible muchos avances en la investigación científica, algunos de ellos, como la predicción de estructuras de proteínas a partir de secuencias de aminoácidos, profundos.
Estados Unidos, de izquierda a derecha, es anticientífico, por lo que no sorprende que no preste atención a los avances científicos.
Estados Unidos cree en muchos mitos. Por supuesto, una nación que cree en mitos no es lo que uno normalmente asociaría con una nación "inteligente" o "científica". La cosa va más allá, cuando uno se da cuenta de que uno de los mitos en los que creen los estadounidenses es que los estadounidenses son "inteligentes". Creemos que estamos en la cima del mundo, pero los resultados de las pruebas competitivas muestran que Estados Unidos suele tener dificultades para entrar entre los 20 primeros, si es que lo hace.
Estados Unidos es la nación que ataca a los maestros. Financiamos tan poco las escuelas que nuestros mal pagados maestros a veces tienen que comprar los materiales con su propio dinero para las comidas. Estados Unidos desvía el dinero de la educación pública a escuelas privadas "charter". Ahora, aparentemente, vamos a desviar el dinero de la educación pública a escuelas religiosas privadas que cuestionan incluso la ciencia más básica. Estados Unidos recorta los presupuestos de todas las agencias gubernamentales, excepto las de defensa, seguridad y aplicación de la ley. Esto significa que también se recortan las subvenciones para la investigación. Y las universidades capitalistas desplazan su atención hacia los departamentos y profesores que reciben las subvenciones del Departamento de Defensa. Los sitios de noticias estadounidenses reemplazan las secciones de "ciencia" que hablan de avances con secciones de "tecnología" que promocionan aparatos de socios corporativos e informan sobre los precios de las acciones y las fusiones de empresas tecnológicas.
Estados Unidos no es inteligente. No es de extrañar que un escritor norteamericano no esté al tanto de los últimos avances científicos. No es de extrañar que genere esa impresión al mostrarse desdeñoso con respecto a aquello de lo que sabe poco o de lo que es completamente ignorante.
La IA es el siguiente paso en la opacidad y el anonimato.
Tal vez. O es parcialmente cierto. Cierto en el sentido de que los humanos usan la excusa de la IA para hacer el mal bajo el manto de la IA.
Pero también es muy pronto. Hay que tener en cuenta dos cosas: 1) Hasta ahora, se trata de una IA estúpida que se basa en la potencia de cálculo masiva para aproximarse a la inteligencia, pero puede que no siempre sea así. Los chinos acaban de sorprender a toda la gente inteligente de Wall Street al programar una IA que requiere menos "entrenamiento" en chips informáticos menos costosos. Si esa tendencia continúa, con el tiempo la IA podría convertirse en una herramienta que todos puedan usar y que ayude a nivelar un poco el campo de juego. Es solo una idea.
Y 2) esta es una IA diseñada por gente estúpida y codiciosa. El escenario perfecto para una historia de ciencia ficción donde la IA le quita el control a la gente estúpida y codiciosa. La gente estúpida y codiciosa, por supuesto, solo se preocupa constantemente por las ganancias, por lo que no las ve venir. Dado que vivo en un mundo dirigido por gente estúpida y codiciosa, ¿es al menos posible que la IA pueda hacerlo mejor? ¿Tal vez todos nosotros, la gente común, terminemos celebrando el Día de la IA para marcar el aniversario del día en que la IA tomó el control y envió a Elon Musk en un viaje sin retorno a Marte?
Son sólo reflexiones de un informático pacífico y antilibertario. Es posible hacer muchas cosas.
La principal amenaza proviene de los modeladores y sus modelos: la IA (y con ella la mayoría de los demás señores de la biotecnología, hola Bill Gates, ¿cómo estás?) trabaja con un modelo computarizado de nuestro mundo real y es propensa a cometer errores. El sueño húmedo de los técnicos: implementar cambios tecnológicos sin verificar las consecuencias, sin responsabilidades y lleno de negaciones plausibles. ¡Hurra! :-((
Como si Biden no favoreciera los intereses de la industria. Seamos realistas.
Izquierda, derecha, día y noche podrían hacer una lista interminable
¿Por qué defenderme? No vi nada rojo.
Es la lista corta que prefieres.
¿Lo que hace la ilusión es permitirle a uno hacer lo que el otro no puede? — ¿el enemigo amistoso?
Aún así te entiendo.
¿La pintoresca belleza del campo de batalla con cuerpos apilados como leña?
Una doble obra maestra de Mozart en un solo lienzo, pintada con el mismo pincel.
Un holograma desde diferentes ángulos de visión.
No soy artista, pero al observar de cerca veo los trazos como si los estuviera pintando yo mismo.
El aprendizaje vicario te da la mano del pintor.
Si pudieras, ¿qué vista elegirías pintar con palabras?
¿Presionarías con fuerza el cepillo o lo acariciarías suavemente?
¿Acariciarlo como a un perro? ¿O azotarlo como a una mula?
No es de sorprender que una tiranía viciosa que asesina a millones y destruye sociedades enteras para llevar a cabo su piratería y saqueo esté empeñada en exterminar a ciudadanos que cuestan dinero a sus oligarcas, en lugar de hacerlos ganar.
Tampoco es sorprendente que esta misma tiranía, que construye mentiras elaboradas para racionalizar sus crímenes en lugar de decir directamente lo que está haciendo, esté llevando a cabo este exterminio bajo la rúbrica de alguna teoría de gestión complicada, imaginaria y contradictoria.
Lo sorprendente es que millones de personas todavía creen en sus mentiras y piensan que la gente a la que ataca se lo merece.