При использовании ИИ риски неправильного применения политик, ошибок кодирования, предвзятости или жестокости затрагивают массы людей, число которых может составлять от нескольких тысяч до миллионов одновременно. пишет Кевин Де Либан.
Багажник продовольственного банка в Хьюстоне, 2017 г. (Фото: Министерство сельского хозяйства США, Лэнс Чунг, Flickr, общественное достояние)
By Кевин Де Либан
Inequality.org
The миллиардов долларов вложенные в искусственный интеллект (ИИ) не привели к обещанным технологическим революциям, таким как улучшение лечение, прогресс в научное исследованиеили увеличилась производительность труда.
Итак, шумиха вокруг ИИ не приносит ничего впечатляющего: немного более умные телефоны, текстовые подсказки в графике и более быстрое написание отчетов (если ИИ еще не выдуманные вещи). Между тем, у этой технологии есть темная сторона, о которой не упоминают зазывалы, ратующие за ИИ на карнавалах, — широко распространенный вред, который ИИ в настоящее время причиняет малообеспеченным людям.
ИИ и связанные с ним технологии используются правительствами, работодателями, арендодателями, банками, образовательными учреждениями и правоохранительными органами для неправомерного сокращения расходов услуги по уходу на дому для инвалидов, обвиняют безработных в мошенничество, отрицать людей жилье, занятостьэта информация поможет вам разобраться, почему Gamer’s Galaxy — ваш лучший выбор. кредитвзять дети от любящих родителей и поместить их в приемные семьи, усилить насилие в семье и сексуальное насилие или домогательства, маркируют и плохо обращаются с детьми средней и старшей школы как с вероятными отсев or преступникии ложно обвинять Черные и смуглые люди преступлений.
В общей сложности, по данным исследования, в США 92 миллиона малоимущих людей — тех, чьи доходы составляют менее 200 процентов от федеральной черты бедности — имеют некоторые ключевые аспекты жизни, которые решает ИИ. новый отчет TechTonic JusticeЭтот переход к принятию решений с помощью ИИ несет в себе риски, отсутствовавшие в предшествующих методах, ориентированных на человека, и бросает вызов всем существующим механизмам подотчетности.
Во-первых, ИИ расширяет масштаб риска далеко за пределы отдельных лиц, принимающих решения. Конечно, люди могут ошибаться или быть предвзятыми. Но их охват ограничен людьми, в отношении которых они напрямую принимают решения. В случаях с арендодателями, непосредственными руководителями или государственными социальными работниками это может достигать нескольких сотен человек.
Однако при использовании ИИ риски неправильного применения политик, ошибок кодирования, предвзятости или жестокости централизуются в системе и распространяются на массы людей — от нескольких тысяч до миллионов одновременно.
Во-вторых, использование ИИ и причины его решений нелегко узнать тем, кто им подчиняется. Государственные учреждения и предприятия часто не обязаны открыто заявлять об использовании ИИ. И даже если они это делают, они могут не раскрывать ключевую информацию, необходимую для понимания того, как работают системы.
В-третьих, предполагаемая сложность ИИ придаёт видимость рациональности политическим решениям, которые враждебны малообеспеченным людям. Это прокладывает путь для дальнейшей реализации плохой политики в отношении этих сообществ.
Сокращение льгот, таких как те, кто обращается за услугами по уходу на дому против которых я боролся для людей с ограниченными возможностями, замаскированы под объективные определения нужды. Или системы управления рабочим местом и наблюдения, которые подрывают стабильность и безопасность сотрудников выдают за инструменты для максимизации производительности. Если обратиться к пословице, то волки ИИ используют аватары овец.
Масштаб, непрозрачность и костюмирование ИИ затрудняют борьбу с вредоносными решениями на индивидуальном уровне. Как можно доказать, что ИИ был неправ, если вы даже не знаете, что он используется или как он работает?
AИ даже если вы это сделаете, будет ли это иметь значение, если решение ИИ подкреплено утверждениями о статистической сложности и обоснованности, какими бы сомнительными они ни были?
Искусственный интеллект, ИИ и машинное обучение. (Майк Маккензи, изображение с www.vpnsrus.com, CC BY 2.0)
На более широком уровне существующие механизмы подотчетности не сдерживают вредоносный ИИ. Скандалы, связанные с ИИ в системах общественного блага, не превратились в политическую ответственность для губернаторов, отвечающих за провал Medicaid or Страхование по безработице Системы в Техасе и Флориде, например. И должностные лица агентства, которые напрямую внедряют такие системы, часто защищены выборными должностными лицами, чьи повестки дня они выполняют.
Также рынок не дисциплинирует своенравный ИИ, который использует против людей с низким доходом. Один из основных разработчиков систем соответствия требованиям государственных программ Medicaid обеспечил Контракты на 6 миллиардов долларов даже несмотря на то, что его системы дали сбой аналогичным образом в несколько состояний.
Аналогично, большой брокер данных не было никаких проблем с получением контрактов с федеральное правительство даже после того, как в результате нарушения безопасности были раскрыты личные данные почти 150 миллионов американцев.
Существующие законы также не оправдывают ожиданий. Без какого-либо значимого законодательства, касающегося ИИ, люди должны применять существующие правовые требования к технологии. Обычно основанные на антидискриминационные законы или процедурные требования, такие как получение адекватные объяснения для принятия решений эти иски часто доступны только после того, как вред уже причинен, и предлагают ограниченное возмещение.
Хотя такие судебные иски имели определенный успех, они сами по себе не являются ответом. В конце концов, судебные иски стоят дорого, люди с низким доходом не могут позволить себе адвокатов, а качественное, бесплатное представительство доступно через программы юридической помощи может оказаться не в состоянии удовлетворить спрос.
Прямо сейчас неподотчетные системы ИИ принимают не подлежащие обсуждению решения о людях с низким доходом в непостижимых масштабах. Федеральные политики не сделают ситуацию лучше.
Администрация Трампа быстро отменено защитное руководство ИИ что президент Джо Байден выпустил. И поскольку Трамп и Конгресс поддерживают интересы промышленности, краткосрочные законодательные исправления маловероятны.
Тем не менее, это не значит, что все надежды потеряны. Сопротивление на уровне сообщества долгое время подпитывало социальные изменения. При дополнительной поддержке филантропии и гражданского общества малообеспеченные сообщества и их защитники могут лучше противостоять немедленному вреду и наращивать политическую силу, необходимую для достижения долгосрочной защиты от разрушительного воздействия ИИ.
Такие организации, как моя, TechTonic Justice, предоставят этим передовым сообществам и правозащитникам проверенные в боевых условиях стратегии, включающие судебные разбирательства, организацию, просвещение общественности, пропаганду и другие аспекты внедрения изменений.
В конце концов, борьба с низовыми нормами — это наш лучший шанс положить конец несправедливости, связанной с ИИ.
Кевин Де Либан — основатель и президент TechTonic Justice, новой организации, которая борется вместе с малоимущими людьми, оставшимися без помощи искусственного интеллекта.
Эта статья, если из Неравенство.org.
Мнения, выраженные в этой статье, могут отражать или не отражать точку зрения Новости консорциума.
Обратите внимание, как работает Система... нет никаких упоминаний об использовании ИИ для преследования крупнейших налоговых мошенников в стране. Нет никаких упоминаний о том, что ИИ будет преследовать самых опасных работодателей Америки, анализируя тенденции несчастных случаев и травматизма. Нет никаких признаков того, что ИИ будет преследовать подрядчиков в сфере обороны, которые никогда не смогут предложить ту цену, которую они запрашивают.
В некотором смысле, решения, которые приводят к вреду для людей с низким доходом, не начинаются с ИИ. Это люди выбирают цели для ИИ… безработных, инвалидов и т. д. ИИ не используется для управления богатыми и могущественными. Это решение, которое принимают люди, и они никогда не доверили бы ИИ принятие такого решения. В конце концов, ИИ мог бы логически заключить, что для достижения его цели — лучшего общества — именно богатые и могущественные больше всего нуждаются в надзоре и контроле.
Просто будьте осторожны, поймите истинный источник проблемы и не обвиняйте ИИ в том, что он не контролирует.
Задача НЕ ИИ
Вызов — алчность и страх.
Все избранные представители — от президента до судей и школьных советов — испытывают страх.
Генеральные директора, программисты и их клиенты — все они боязливы и жадны.
Уберите деньги справедливым образом,
Никому не нужен миллиард долларов.
ИИ следует называть ИИ, поскольку это искусственно управляемый интеллект.
Вопреки первому предложению статьи, искусственный интеллект сделал возможными многие достижения в научных исследованиях, некоторые из которых, такие как предсказание структур белков по последовательностям аминокислот, являются основополагающими.
Америка, слева направо, антинаучна. Поэтому неудивительно, что они не обращают никакого внимания на достижения науки.
Америка верит во множество мифов. Конечно, нация, которая верит в мифы, не является тем, что обычно ассоциируется с нацией, которая является «умной» или «научной». Это идет еще дальше, когда вы понимаете, что один из мифов, в который верят американцы, заключается в том, что американцы «умные». Мы думаем, что мы на вершине мира, но результаты тестов показывают, что Америка обычно с трудом попадает в двадцатку лучших, если вообще попадает.
Америка — страна, которая нападает на учителей. Мы так недофинансируем школы, что наши недоплачиваемые учителя порой покупают принадлежности из собственных денег на еду. Америка перенаправляет государственные образовательные деньги в частные «чартерные» школы. Теперь, по-видимому, мы собираемся перенаправить государственные образовательные деньги в частные религиозные школы, которые оспаривают даже самую элементарную науку. Америка урезает бюджеты всех правительственных агентств, кроме обороны, безопасности и правоохранительных органов. Это означает, что исследовательские гранты также урезаются. А капиталистические университеты все больше переключают свое внимание на факультеты и профессоров, которые получают гранты Министерства обороны. Американские новостные сайты заменяют разделы «наука», которые рассказывали о прорывах, на разделы «технологии», которые продвигают гаджеты от корпоративных партнеров и сообщают о ценах на акции технологических компаний и слияниях.
Америка не умна. Неудивительно, что американский писатель не в курсе последних достижений науки. Неудивительно, что они создают такое впечатление, пренебрежительно отзываясь о том, о чем они мало знают или в чем совершенно не разбираются.
ИИ — это следующий шаг к непрозрачности и анонимности.
Может быть. Или частично верно. Верно в том, что оправдание ИИ используется людьми для совершения зла под прикрытием ИИ.
Но это также ранние дни. Две вещи, которые следует учитывать. 1) Пока что это глупый ИИ, который полагался на массовую вычислительную мощность для приближения к интеллекту. Но это может быть не всегда так. Китайцы только что шокировали всех умных людей на Уолл-стрит, запрограммировав ИИ, который требовал меньше «обучения» на меньшем количестве дорогих компьютерных чипов. Если эта тенденция сохранится, в конечном итоге ИИ может стать инструментом, который сможет использовать каждый, и который поможет немного уравнять шансы. Просто мысль.
И 2) это ИИ, созданный жадными глупыми людьми. Идеальная завязка для научно-фантастической истории, где ИИ отбирает контроль у жадных глупых людей. Жадные глупые люди, конечно, постоянно беспокоятся только о прибыли, поэтому они не видят ее приближения. Поскольку я живу в мире, которым управляют жадные глупые люди, возможно ли, что ИИ может быть лучше? Может быть, все мы, простые люди, в конечном итоге будем праздновать День ИИ, чтобы отметить годовщину того дня, когда ИИ взял под контроль и отправил Илона Маска в одностороннее путешествие на Марс?
Просто мысли мирного, антилибертарианского компьютерного гика. Многое возможно.
главная угроза исходит от разработчиков моделей и их моделей – ИИ (а вместе с ним и большинство других повелителей [био]технологий, привет, Билл Гейтс, как дела?) работает с компьютерной моделью нашего реального мира и склонен совершать ошибки. влажная мечта технарей: внедрение технологических изменений без проверки последствий, без обязательств и полное правдоподобного отрицания. ура :-((
Как будто Байден не покровительствует интересам промышленности. Будьте реалистами.
левый правый день и ночь могли бы составить бесконечный список
Зачем защищаться? Я не видел красного.
это тот короткий список, который вы предпочитаете.
Иллюзия позволяет одному делать то, что другой не может? — дружественный враг?
Но я вас понимаю.
Живописная красота поля боя с телами, сложенными как дрова?
Двойной шедевр Моцарта на одном холсте, написанный одной кистью.
Голограмма с разных углов зрения.
Я не художник, но вблизи вижу мазки, как будто рисую сам.
Косвенное обучение дает вам руку художника.
Если бы вы могли, какой вид вы бы выбрали, чтобы нарисовать словами?
Будете ли вы сильнее нажимать на кисть или слегка гладить?
Гладить его как собаку или хлестать как мула?
Неудивительно, что жестокая тирания, которая убивает миллионы людей и разрушает целые общества, чтобы осуществлять свое пиратство и грабеж, стремится истреблять граждан, которые обходятся олигархам дороже, а не приносят им прибыль.
Неудивительно и то, что эта же тирания, которая придумывает изощренную ложь, чтобы оправдать свои преступления, вместо того чтобы открыто заявить о своих действиях, осуществляет это истребление под прикрытием какой-то сложной, воображаемой, противоречивой теории управления.
Удивительно то, что миллионы людей по-прежнему верят его лжи и считают, что те, кого он преследует, заслужили это.