Bei der KI sind die Risiken falsch angewandter Richtlinien, Kodierungsfehler, Voreingenommenheit oder Grausamkeit für Massen von Menschen von mehreren Tausend bis hin zu Millionen gleichzeitig relevant. schreibt Kevin De Liban.
Lebensmitteltruhe in Houston, 2017. (USDA-Foto von Lance Cheung, Flickr, gemeinfrei)
By Kevin De Liban
Ungleichheit.org
The Milliarden von Dollar Die in die künstliche Intelligenz (KI) gesteckten Investitionen haben nicht die versprochenen Revolutionen der Technologie gebracht, wie etwa bessere medizinische Behandlung, Fortschritte in der wissenschaftliche Forschung, oder erhöht Mitarbeiterproduktivität.
Der Hype um die KI liefert also nur enttäuschende Ergebnisse: etwas intelligentere Telefone, Grafiken mit Texteingabe und schnelleres Schreiben von Berichten (wenn die KI nicht Dinge erfunden). Unterdessen gibt es eine Schattenseite der Technologie, die von den Marktschreiern der KI unerwähnt bleibt: der weitverbreitete Schaden, den KI gegenwärtig Menschen mit niedrigem Einkommen zufügt.
KI und verwandte Technologien werden von Regierungen, Arbeitgebern, Vermietern, Banken, Pädagogen und Strafverfolgungsbehörden eingesetzt, um zu Unrecht zu kürzen häusliche Pflegedienste für Behinderte, beschuldigen arbeitslose Arbeitnehmer, Betrug, leugnen Menschen Gehäuse, Beschäftigung, oder auch Kredit, nehmen Kinder von liebevollen Eltern und sie in Pflegefamilien unterzubringen, häusliche Gewalt und sexueller Missbrauch oder Belästigung, stempeln Kinder der Mittel- und Oberstufe ab und behandeln sie schlecht als Aussetzer or Verbrecher und fälschlicherweise beschuldigen Schwarze und braune Menschen sind Verbrechensopfer.
Insgesamt werden bei 92 Millionen Menschen mit niedrigem Einkommen in den Vereinigten Staaten – also Menschen mit einem Einkommen von weniger als 200 Prozent der bundesweiten Armutsgrenze – wichtige Aspekte ihres Lebens von der KI bestimmt, so eine neuer Bericht von TechTonic Justice. Dieser Wandel hin zu KI-basierten Entscheidungsprozessen birgt Risiken, die bei den bisherigen, menschenzentrierten Methoden nicht vorhanden sind, und widersetzt sich allen bestehenden Rechenschaftsmechanismen.
Erstens erweitert KI das Risikospektrum weit über einzelne Entscheidungsträger hinaus. Natürlich können Menschen Fehler machen oder voreingenommen sein. Doch ihr Einflussbereich ist auf die Menschen beschränkt, über die sie direkt Entscheidungen treffen. Im Fall von Vermietern, direkten Vorgesetzten oder staatlichen Sachbearbeitern können es höchstens ein paar Hundert Menschen sein.
Doch bei künstlicher Intelligenz werden die Risiken falsch angewandter Richtlinien, Codierfehler, Voreingenommenheit oder Grausamkeit im System zentralisiert und auf eine große Zahl von Menschen - von mehreren Tausend bis hin zu Millionen - gleichzeitig angewendet.
Zweitens sind der Einsatz von KI und die Gründe für ihre Entscheidungen für die Betroffenen nicht leicht nachvollziehbar. Behörden und Unternehmen sind oft nicht verpflichtet, offenzulegen, dass sie KI einsetzen. Und selbst wenn sie es tun, geben sie möglicherweise nicht die Schlüsselinformationen preis, die zum Verständnis der Funktionsweise der Systeme erforderlich sind.
Drittens verleiht die vermeintliche Raffinesse der KI politischen Entscheidungen, die einkommensschwachen Menschen gegenüber feindlich eingestellt sind, einen Anstrich von Rationalität. Dies ebnet den Weg für die weitere Umsetzung schlechter Politik gegenüber diesen Gemeinschaften.
Leistungskürzungen, wie diejenigen für häusliche Pflegedienste gegen die ich für Behinderte gekämpft habe, werden als objektive Bedarfsfeststellungen getarnt. Oder Arbeitsplatzmanagement- und Überwachungssysteme, die untergraben die Stabilität und Sicherheit der Mitarbeiter gelten als Werkzeuge zur Produktivitätsmaximierung. Um das Sprichwort zu zitieren: KI-Wölfe nutzen Schaf-Avatare.
Das Ausmaß, die Undurchsichtigkeit und die Ausgestaltung der KI machen es auf individueller Ebene schwierig, schädliche Entscheidungen zu bekämpfen. Wie kann man beweisen, dass KI falsch war, wenn man nicht einmal weiß, dass sie verwendet wird oder wie sie funktioniert?
AUnd selbst wenn Sie das tun: Wird es eine Rolle spielen, wenn die Entscheidung der KI durch Behauptungen statistischer Komplexität und Gültigkeit untermauert wird, wie zweifelhaft diese auch sein mögen?
Künstliche Intelligenz & KI & maschinelles Lernen. (Mike MacKenzie, Bild über www.vpnsrus.com, CC BY 2.0)
Auf einer breiteren Ebene können die bestehenden Rechenschaftsmechanismen schädliche KI nicht eindämmen. KI-bezogene Skandale in öffentlichen Sozialsystemen sind für die Gouverneure, die für scheiternde Medicaid or Arbeitslosenversicherung Systeme in Texas und Florida zum Beispiel. Und die Behördenmitarbeiter, die diese Systeme direkt implementieren, werden oft von den gewählten Beamten geschützt, deren Agenden sie umsetzen.
Auch die Marktdisziplin, die eigensinnige KI gegen Menschen mit niedrigem Einkommen einsetzt, ist nicht vorhanden. Ein wichtiger Entwickler von Berechtigungssystemen für staatliche Medicaid-Programme hat Verträge im Wert von 6 Milliarden US-Dollar obwohl seine Systeme in ähnlicher Weise versagt haben in mehrere Zustände.
Ebenso ein großer Datenbroker hatte kein Problem damit, Verträge zu gewinnen mit die Bundesregierung selbst nachdem durch eine Sicherheitsverletzung die persönlichen Daten von fast 150 Millionen Amerikanern preisgegeben wurden.
Auch bestehende Gesetze sind unzureichend. Ohne eine sinnvolle KI-spezifische Gesetzgebung müssen die Menschen bestehende Rechtsansprüche auf die Technologie anwenden. Normalerweise basierend auf Antidiskriminierungsgesetze oder Verfahrensanforderungen wie das Erhalten ausreichende Erklärungen für Entscheidungen, diese Ansprüche sind oft erst verfügbar, nachdem der Schaden eingetreten ist, und bieten nur begrenzte Abhilfe.
Obwohl solche Klagen teilweise erfolgreich waren, sind sie allein nicht die Lösung. Schließlich sind Klagen teuer, Menschen mit niedrigem Einkommen können sich keine Anwälte leisten, und qualitativ hochwertige, kostenlose Vertretung ist über Rechtshilfeprogramme ist möglicherweise nicht in der Lage, die Nachfrage zu decken.
Derzeit treffen KI-Systeme, denen keine Rechenschaft gebührt, unanfechtbare Entscheidungen über Menschen mit niedrigem Einkommen in unvorstellbarem Ausmaß. Die Bundespolitik wird die Lage nicht verbessern.
Die Trump-Administration schnell Schutzmaßnahmen gegen KI aufgehoben die Präsident Joe Biden erlassen hat. Und da Trump und der Kongress die Interessen der Industrie bevorzugen, sind kurzfristige legislative Lösungen unwahrscheinlich.
Das heißt jedoch nicht, dass alle Hoffnung verloren ist. Der Widerstand der Gemeinschaft hat schon seit langem den sozialen Wandel vorangetrieben. Mit zusätzlicher Unterstützung durch Wohltätigkeit und die Zivilgesellschaft können einkommensschwache Gemeinschaften und ihre Fürsprecher den unmittelbaren Schäden besser widerstehen und die politische Macht aufbauen, die für einen langfristigen Schutz vor den verheerenden Auswirkungen der KI erforderlich ist.
Organisationen wie meine, TechTonic Justice, werden diese Frontgemeinschaften und -vertreter mit praxiserprobten Strategien stärken, die Prozessführung, Organisation, öffentliche Aufklärung, narrative Interessenvertretung und andere Dimensionen der Veränderungsförderung einbeziehen.
Letzten Endes ist ein Kampf von Grund auf unsere beste Hoffnung, um der KI-bezogenen Ungerechtigkeit ein Ende zu setzen.
Kevin De Liban ist Gründer und Präsident von TechTonic Justice, einer neuen Organisation, die an der Seite von Menschen mit geringem Einkommen kämpft, die durch künstliche Intelligenz im Stich gelassen werden.
Dieser Artikel stammt von Inequality.org.
Die in diesem Artikel geäußerten Ansichten können die von widerspiegeln oder auch nicht Neuigkeiten des Konsortiums.
Beachten Sie, wie das System funktioniert … keine Erwähnung, dass KI eingesetzt wird, um die größten Steuerbetrüger der Nation zu verfolgen. Keine Erwähnung, dass KI eingesetzt wird, um Amerikas gefährlichste Arbeitgeber ins Visier zu nehmen, indem sie Unfall- und Verletzungstrends analysiert. Kein Hinweis darauf, dass KI eingesetzt wird, um Rüstungsunternehmen zu verfolgen, die nie den von ihnen geforderten Preis erzielen können.
In gewisser Weise werden die Entscheidungen, die Menschen mit niedrigem Einkommen schaden, nicht von einer KI getroffen. Es sind Menschen, die die Ziele für die KIs auswählen … die Arbeitslosen, die Behinderten usw. KI wird nicht eingesetzt, um die Reichen und Mächtigen im Zaum zu halten. Das ist eine Entscheidung, die von Menschen getroffen wird, und sie würden einer KI niemals eine solche Entscheidung zutrauen. Schließlich könnte eine KI logischerweise zu dem Schluss kommen, dass es die Reichen und Mächtigen sind, die am meisten Aufsicht und Kontrolle benötigen, um ihr Ziel einer besseren Gesellschaft zu erreichen.
Achten Sie nur darauf, die wahre Ursache des Problems zu verstehen, und geben Sie den KIs nicht die Schuld für Dinge, die sie nicht kontrollieren.
Die Herausforderung ist NICHT KI
Die Herausforderung besteht in Habgier und Angst.
Alle gewählten Volksvertreter – vom Präsidenten über den Richter bis hin zu den Schulbehörden – haben Angst.
CEOs, Programmierer und ihre Kunden sind alle ängstlich und gierig.
Das Geld auf gerechte Weise abheben,
Niemand braucht eine Milliarde Dollar.
KI sollte KII heißen, da es sich um künstlich beeinflusste Intelligenz handelt.
Im Gegensatz zum ersten Satz des Artikels hat künstliche Intelligenz viele Fortschritte in der wissenschaftlichen Forschung ermöglicht, einige davon sind tiefgreifend, wie etwa die Vorhersage von Proteinstrukturen anhand von Aminosäuresequenzen.
Amerika ist von links bis rechts wissenschaftsfeindlich. Es ist also keine Überraschung, dass sie den Fortschritten in der Wissenschaft keine Beachtung schenken.
Amerika glaubt an viele Mythen. Natürlich ist eine Nation, die an Mythen glaubt, nicht das, was man normalerweise mit einer „intelligenten“ oder „wissenschaftlichen“ Nation in Verbindung bringen würde. Es geht sogar noch weiter, wenn man bedenkt, dass einer der Mythen, an die die Amerikaner glauben, der ist, dass Amerikaner „intelligent“ sind. Wir denken, wir sind die Besten der Welt, aber die Testergebnisse zeigen, dass Amerika normalerweise Mühe hat, unter die ersten 20 zu kommen, wenn überhaupt.
Amerika ist die Nation, die Lehrer angreift. Wir unterfinanzieren die Schulen so sehr, dass unsere unterbezahlten Lehrer sich manchmal von ihrem eigenen Essensgeld das nötige Material kaufen. Amerika leitet Geld für die öffentliche Bildung an private „Charter“-Schulen um. Jetzt werden wir offenbar Geld für die öffentliche Bildung an private religiöse Schulen umleiten, die sogar grundlegende wissenschaftliche Erkenntnisse in Frage stellen. Amerika kürzt die Budgets aller Regierungsbehörden außer denen für Verteidigung, Sicherheit und Strafverfolgung. Das bedeutet, dass auch Forschungszuschüsse gekürzt werden. Und die kapitalistischen Universitäten verlagern ihren Schwerpunkt noch stärker auf die Fakultäten und Professoren, die Zuschüsse des Verteidigungsministeriums erhalten. Amerikanische Nachrichtenseiten ersetzen „Wissenschafts“-Abschnitte, die von Durchbrüchen berichten, durch „Technologie“-Abschnitte, die Gadgets von Unternehmenspartnern anpreisen und über Aktienkurse und Fusionen in der Technologiebranche berichten.
Amerika ist nicht schlau. Es ist keine Überraschung, dass ein amerikanischer Autor nichts von den jüngsten Fortschritten in der Wissenschaft weiß. Es ist keine Überraschung, dass er diesen Eindruck erweckt, indem er Dinge, von denen er wenig weiß oder die er völlig unwissend sind, in abweisendem Ton behandelt.
KI ist ein weiterer Schritt in Richtung Intransparenz und Anonymität.
Vielleicht. Oder teilweise wahr. Wahr insofern, als die Ausrede der KI von Menschen genutzt wird, um unter dem Deckmantel der KI Böses zu tun.
Aber es ist auch noch früh. Zwei Dinge sind zu bedenken. 1) Bisher handelt es sich um dumme KI, die auf Massenrechenleistung angewiesen ist, um Intelligenz zu erreichen. Aber das muss nicht immer so bleiben. Die Chinesen haben gerade alle klugen Leute an der Wall Street geschockt, indem sie eine KI programmierten, die weniger „Training“ auf weniger teuren Computerchips erforderte. Wenn sich dieser Trend fortsetzt, könnte KI irgendwann zu einem Werkzeug werden, das jeder nutzen kann und das hilft, die Wettbewerbsbedingungen ein wenig anzugleichen. Nur so ein Gedanke.
Und 2) das ist KI, die von gierigen, dummen Menschen entwickelt wurde. Die perfekte Ausgangslage für eine Science-Fiction-Geschichte, in der die KI den gierigen, dummen Menschen die Kontrolle entreißt. Gierige, dumme Menschen sorgen sich natürlich ständig nur um Profit, also sehen sie ihn nicht kommen. Da ich in einer Welt lebe, die von gierigen, dummen Menschen regiert wird, ist es zumindest möglich, dass KI es besser machen könnte? Vielleicht feiern wir alle, normale Leute, am Ende den KI-Tag, um den Jahrestag des Tages zu begehen, an dem die KI die Kontrolle übernahm und Elon Musk auf eine Reise ohne Rückfahrt zum Mars schickte?
Nur Gedanken eines friedlichen, antilibertären Computerfreaks. Vieles ist möglich.
die größte Bedrohung geht von den Modellierern und ihren Modellen aus – KI (und mit ihr die meisten anderen [Bio]Tech-Oberherren, hallo Bill Gates, wie geht es dir?) arbeitet mit einem Computermodell unserer realen Welt und ist anfällig für Fehler. Der feuchte Traum der Technikfreaks: technologische Veränderungen umzusetzen, ohne die Folgen zu prüfen, ohne Haftung und voller glaubhafter Abstreitbarkeit. Hurra :-((
Als ob Biden die Interessen der Industrie nicht befürworten würde. Seien Sie realistisch.
links rechts Tag und Nacht könnte eine endlose Liste ergeben
Warum verteidigen? Ich habe kein Rot gesehen.
es ist die Auswahlliste, die Sie bevorzugen.
Die Illusion ermöglicht es einem, Dinge zu tun, die der andere nicht kann – der freundliche Feind?
Aber ich verstehe dich.
Die malerische Schönheit des Schlachtfelds mit den wie Brennholz gestapelten Leichen?
Zwei Mozart-Meisterwerke auf einer Leinwand – mit demselben Pinsel gemalt.
Ein Hologramm aus verschiedenen Blickwinkeln.
Ich bin kein Künstler, aber aus der Nähe sehe ich die Striche, als würde ich selbst malen.
Durch stellvertretendes Lernen werden Sie zum Maler.
Wenn Sie könnten, welche Ansicht würden Sie mit Worten malen?
Würden Sie die Bürste fest drücken oder sanft streichen?
Streicheln Sie es wie einen Hund? Oder peitschen Sie es wie ein Maultier?
Es überrascht kaum, dass eine grausame Tyrannei, die im Rahmen ihrer Piraterie und Plünderung Millionen ermordet und ganze Gesellschaften zerstört, darauf aus ist, Bürger auszurotten, die ihre Oligarchen Geld kosten, anstatt ihnen Geld einzubringen.
Ebenso wenig überrascht es, dass genau diese Tyrannei, die zur Rechtfertigung ihrer Verbrechen ausgeklügelte Lügen konstruiert, statt offen auszusprechen, was sie tut, diese Ausrottung unter dem Deckmantel einer komplizierten, imaginären und widersprüchlichen Managementtheorie durchführt.
Überraschend ist, dass Millionen noch immer die Lügen der Regierung glauben und meinen, die Menschen, die sie attackiert, hätten es verdient.