Камеры для обнаружения «ненормального» поведения

Акции

В химерическом стремлении к идеальной безопасности западные страны обращаются к передовым технологиям для обнаружения и предотвращения террористических атак. Но эти дорогостоящие схемы часто не обеспечивают большей безопасности и при этом еще больше подрывают личную свободу, как заметил Сандер Венема в Нидерландах.

Сандер Венема

Несколько дней назад я прочитал статья о том, как работает TNO (Голландская организация прикладных научных исследований, крупнейший научно-исследовательский институт Нидерландов) развитая технология для умные камеры для использования в аэропорту Амстердама Схипхол. Эти камеры, установленные в аэропорту Схипхол Кубит Визуальный интеллект, компании из Гааги, — предназначены для распознавания определенного «подозрительного поведения», такого как бег, размахивание руками или потение.

Как ни странно, все это обычно встречается в стрессовой среде, которой для многих людей является международный аэропорт. Людям необходимо добраться до ворот вовремя, для чего может потребоваться бежать (особенно, если вы прибыли в Схипхол на поезде, который в Нидерландах общеизвестно ненадежен); они могут бояться летать и пытаться взять свои нервы под контроль; а аэропорты — это также места, где друзья и родственники встречаются после долгого пребывания за границей, что (если вы хотите обнять друг друга) требует махания руками.

Амстердамский аэропорт Схипхол.

Амстердамский аэропорт Схипхол.

Я подозреваю, что из-за этого с этой технологией произойдет много ложных срабатываний. Это неправильная технология и не в том месте. Я полностью понимаю необходимость обеспечения безопасности в аэропорту, и мы все хотим безопасных условий как для пассажиров, так и для экипажа. Полеты должны выполняться в безопасных условиях. Чего я не понимаю, так это менталитета, согласно которому правительственные учреждения должны минимизировать каждый риск в жизни и бороться с ним с помощью технологий. Больше технологий не означает более безопасные аэропорты.

Театр безопасности

Многие меры, принимаемые в аэропортах, представляют собой театр безопасности. Это означает, что меры по большей части неэффективны против реальных угроз и служат скорее показухой. Проблема с автоматическим профилированием, которое пытается сделать и эта программа, заключается в том, что это не работает. Эксперт по безопасности Брюс Шнайер много писал об этом, и я советую вам прочитать его эссе 2010 года:Профилирование делает нас менее безопасными» о конкретном случае безопасности авиаперевозок.

Первая проблема заключается в том, что террористы не соответствуют определенному профилю или могут тщательно избегать «подозрительных» действий. Таким образом, эти системы профилирования можно обойти, как только люди поймут, как это сделать, и из-за чрезмерной зависимости от технологий, а не от здравого смысла, это может фактически привести к еще большей незащищенности.

В романе Младший братКори Доктороу написал о том, как Маркус Йеллоу насыпал гравия в свои ботинки, чтобы обмануть камеры, распознающие походку в его средней школе, чтобы он и его друзья могли улизнуть и поиграть в игру на улице. Аналогичные действия будут предприняты, чтобы попытаться обмануть эти «умные» камеры, но последствия могут быть гораздо серьезнее.

На самом деле мы становимся более безопасными, когда выбираем людей случайным образом, а не полагаемся на конкретный профиль угроз или поведенческий профиль, чтобы выбрать, кого проверять, а кто проходит проверку безопасности без вторичной проверки. Весь смысл случайного отбора в том, что он случайный. Поэтому потенциальный террорист не может заранее знать, по каким критериям система выберет его. Если система действительно использует определенные критерии, а безопасность системы зависит от секретности самих критериев, это будет означать, что кому-то просто придется наблюдать за системой достаточно долго, чтобы выяснить, каковы эти критерии.

Технология может дать сбой, но люди не всегда осознают это. Другой отчет TNO озаглавлен: «Афвейкенд Гедраг(Аномальное поведение) в разделе (по общему признанию небольшому), посвященном проблемам конфиденциальности, говорится, что сбор данных о ненормальном поведении людей является этическим только потому, что общество в целом можно сделать более безопасным с помощью этих данных и связанных с ними технологий. В нем также говорится (и этот аргумент я тоже читал в другом месте), что «общество решило, что безопасность важнее конфиденциальности».

Теперь, ради аргументации, скажем, что это может быть верно в общем смысле (хотя можно спорить, так ли это). всегда В этом случае лично я так не думаю, поскольку иногда затраты слишком высоки, и нам все-таки нужно сохранить свободное и демократическое общество). Проблема здесь в том, что способ внедрения технологий и систем безопасности обычно не является тем, по которому мы, как общество, должны сначала проголосовать, прежде чем будут подписаны (без сомнения, весьма прибыльные) контракты.

В случае с голландским аэропортом Кубит, вероятно, увидел способ быстро заработать, поговорив с руководством Схипхола и/или правительством (как утверждают голландские власти). владеет 69.77 процента акций Схипхола.) в покупку их технологий. Это не то, о чем люди сознательно спорили, а затем впоследствии приняли обоснованное решение.

Основные проблемы конфиденциальности

Мы установили, что эти системы неэффективны и их можно обойти (как и любую другую систему), и они не улучшат общую безопасность. Но что еще более важно, эта технология сопряжена с серьезными проблемами конфиденциальности. То, что здесь делают Схипхол и Кубит, — это анализируют и хранят данные о миллионах пассажиров, подавляющее большинство из которых совершенно невиновны. Это все равно, что стрелять в комара из базуки.

Что происходит с этими данными? Мы не знаем, и мы должны поверить Кубиту и Схипхолу на их слово, что данные о ничего не подозревающих представителях общественности будут удалены. Однако в свете недавних событий, когда кажется удобным собирать и хранить как можно больше данных о людях, я очень сомневаюсь, что какие-либо удаления действительно произойдут.

И самое печальное: в Нидерландах Министерство безопасности и юстиции сейчас говорит о внедрении вышеупомянутой системы поведенческого анализа в другом (секретном) месте в Нидерландах. Готовы ли мы все, человеческие морские свинки, к испытаниям и играм с ними?

Что такое ненормально?

Есть проблемы и с определениями. Это то, что я вижу снова и снова в подобных проектах, нарушающих конфиденциальность. Что представляет собой «ненормальное поведение»? Кто принимает решение по этому поводу и кто контролирует, что является ненормальным поведением, а что нет?

Возможно, в не столь отдаленном будущем значение слова «ненормальный» начнет меняться и станет означать «не такой, как мы» для некоторого определения «нас». Джордж Оруэлл упомянул об этом эффекте в своей книге. Девятнадцать восемьдесят четыре, где вездесущие телеэкраны наблюдают и анализируют каждое ваше движение, и никогда нельзя быть уверенным, какие мысли преступны, а какие нет.

В 2009 году, когда европейский исследовательский проект ИНДЕКТ был профинансирован Европейским Союзом, Европейский Парламент задал Европейской Комиссии критические вопросы. Точнее, об этом спросили:

Вопрос от ЕР: Как Комиссия определяет термин ненормальное поведение используется в программе?

Ответ от ЕК: Что касается конкретных вопросов, Комиссия хотела бы уточнить, что термин поведение or ненормальное поведение не определяется Комиссией. Для этого необходимо обратиться к консорциумам при подаче предложения, где каждый из различных проектов направлен на повышение операционной эффективности правоохранительных служб путем предоставления новой технической помощи. [Источник: Europarl (Письменные вопросы Александра Альваро (ALDE) Комиссии)]

Другими словами: по мнению Европейской комиссии, это зависит от отдельных проектов, точные определения которых неясны. И если вы не закрепите подобные определения (и не закрепите их в законе, чтобы могущественные правительства и корпорации, которые контролируют эти системы, могли быть привлечены к ответственности!), они могут быть изменены со временем, когда к власти придет новое руководство, либо внутри корпорации, контролирующей технологию, или внутри правительства.

Это опасность, которую часто упускают из виду. Нет никакой гарантии, что мы всегда будем жить в демократическом и свободном обществе, и лучшая защита от злоупотреблений властью — это сделать так, чтобы у власть имущих было как можно меньше данных о вас.

Сохранение расплывчатости этих определений является основной тактикой, позволяющей запугать людей и заставить их подчиниться. Это таит в себе опасность расползания законодательной миссии. Мера, которая однажды была реализована для одной конкретной цели, вскоре будет использована для другой, если представится такая возможность.

Как только становится известно, что людей арестовывают за, казалось бы, невинные вещи, многие люди (под)сознательно корректируют свое поведение. Аналогично это работает и со свободой слова: как только определенные мнения и высказывания считаются противоречащими закону и подвергаются действию правоохранительных органов, многие люди начинают дважды думать о том, что они говорят и пишут. Они начинают самоцензуру, и это подрывает свободу людей до такой степени, что мы постепенно скатываемся в технократический оруэлловский кошмар. А когда мы проснемся, будет уже слишком поздно переломить ситуацию.

Сандер Венема — опытный веб-разработчик и программист, обеспокоенный быстро возникающими государствами наблюдения, которые подрывают гражданские свободы и права человека. Он также является основателем Астероид Интерактивный, компания по веб-дизайну и разработке, базирующаяся в Нидерландах. [Версия этой истории изначально была опубликована на http://sandervenema.ch/]

7 комментариев к “Камеры для обнаружения «ненормального» поведения

  1. Карл Столл
    Сентября 20, 2014 в 19: 39

    Профилирование людей (в отличие от профилирования поведения) бесполезно для выявления децентрализованной преступности, такой как кражи кошельков, ограбления банков, ограбления и т. д. С другой стороны, в случае сетевой преступности (организованной преступности, терроризма, шпионажа и т. д.) ) Профилирование рекомендуется ведущими криминалистами, хотя это непопулярное мнение, и мало кто говорит об этом открыто. Однако, если вы прочитаете специальную литературу, вы поймете суть очень быстро. В своей книге «Понимание террористических сетей» бывший агент ЦРУ Марк Сейджман говорит то же самое.
    Это вывод статьи, опубликованной в Журнале общественной экономической теории:
    «Самая эффективная политика правоохранительных органов налагает лишь умеренные ограничения на способность офицера представлять информацию. В отличие от моделей децентрализованной преступности, требование равного обращения никогда не повышает эффективность правоохранительных органов».
    Профилирование, проверка и вербовка преступников, Кристофер Коттон и Ченг Ли, Журнал общественной экономической теории,
    http://onlinelibrary.wiley.com/doi/10.1111/jpet.12115/abstract

  2. ФГ Сэнфорд
    Сентября 18, 2014 в 19: 12

    Джо Т. и Стив оба показывают отличные результаты. Я провел почти тридцать лет, работая в области, в которой мне приходилось терпеть правительственные программы, направленные на компьютеризацию задач, которые лучше выполнялись без компьютеризации. Было много оправданий и объяснений этим программам, но одним из самых нелепых было представление о том, что компьютеризированные данные предоставляют информацию «в реальном времени». Я всегда говорил: «В моем офисе есть телефон и дверь. Ты можешь позвонить мне или постучать в мою дверь. Все остальное даст вам устаревшую информацию». Единственное, чего действительно удалось добиться, — это создать инструмент наблюдения, который контролировал бы персонал, использующий его. Это никогда не улучшало задачу, которую они пытались выполнить. Но это УВЕРЕННО передало много денег налогоплательщиков ИТ-корпорациям.

    Распознавание лиц и идентификация поведения кажутся мне чем-то, что сейчас называют «шарлатанскими медицинскими устройствами». Все эти электромагнитные и коротковолновые диатермические устройства, флуоресцентные люминесцентные трубки высокого напряжения, светящиеся зеленым, синим и фиолетовым светом, рентгеновские аппараты для лечения прыщей и флюороскопы для диагностики дизайнерских болезней того времени – большинство из них оказались совершенно бесполезными, но некоторые Радиационные устройства вызвали массовые уродства, рубцы, истощение и рак. Но «технология» была открыта, и, ей-богу, они собирались создать для нее рынок.

    Множество фотографий и видео «бен Ладена», казалось бы, сводят на нет всякую надежность «распознавания лиц». Он никогда не выглядит одинаково дважды. Но опять же, сэр Лоуренс Оливье никогда не выглядел одинаково ни в одном из своих фильмов. Некоторые утверждают, что он любил корректировать свои черты лица воском телесного цвета. Неизбежно будут «хаки» для современных технологий. Интересно, сколько конгрессменов и сенаторов будут пойманы на тайных интермедиях с незначительными людьми из-за того, что они демонстрируют «подозрительное поведение» в аэропорту – очевидно, АНБ и ЦРУ должны будут обеспечить наличие алгоритма, обеспечивающего «свободный проход» в киберпространство. — иначе представьте себе, какие проблемы могут создать Линдси Грэм и Джон Маккейн!

    • Джо Тедески
      Сентября 18, 2014 в 19: 55

      Ф.Г. Все, что вы там упомянули, от технологий распознавания до воска, приносит деньги. В этом вся суть национальной безопасности. Именно здесь эта «доктрина Бен Ладена» показывает себя лучше всего. Вы подняли это в другом посте.

      У меня есть идея получше. Давайте наймем пару швейцаров из Джерси, чтобы они сидели у каждых ворот. В этом несложно разобраться, но у нас не будет никаких этих дешевых и жирных вещей, верно?

      Мы все должны спросить себя, что после 13 лет этого дерьма… войны, которые не выиграны, ожидание в длинных очередях в аэропортах для проверки… ПРОВЕРЕНЫ! Ты шутишь, что ли. Они всегда меняют правила и не сообщают об этом игрокам. Подумайте, сколько раз вам говорили, что после 9 сентября вы должны заполнить эту форму. О черт, ты знаешь, о чем я говорю.
      Джо Тедески

  3. Джей Би Смит
    Сентября 18, 2014 в 16: 25

    Мозговая инициатива и Obama Care — это величайшие и два худших обмана, совершенные в отношении граждан Соединенных Штатов Америки. Правоохранительные органы штата и местного уровня имплантируют невиновным гражданам биочипы. Согласно «Заметкам о сверхнаблюдении» MG и Катины Майкл, это «как будто старший брат смотрит изнутри». В книге Springer «Защиты в мире окружающего интеллекта» на странице 9 говорится: «Правоохранительные органы заставят нас поверить, что мы можем быть в безопасности только до тех пор, пока они всегда знают, где мы находимся, что мы делаем и что мы делаем». «мышление»». Это такое вторжение в частную жизнь. Они используют LRAD, также известную как система активного отрицания, чтобы заставить вас думать, что вы слышите голоса – в ней есть такая технология, как звуковой прожектор, и она пытается ввести вас в состояние, которое в NIJ называют «возбуждённым бредом». Затем они используют психопаты, такие как преследование, наркотики, похищения людей и т. д., чтобы 1) поместить вас в «камеру кризисной стабилизации» (чтобы лишить вас прав, предусмотренных Второй поправкой), или 2) тюрьму, или 2) заразить вас инфекционным заболеванием. Это план правоохранительных органов по конфискации всего оружия, чтобы они могли пытать вас, не опасаясь за свою жизнь. Они нацелены на женщин-христианок и ветеранов войны. Сходите в Институт Резерфорда и найдите Брэндона Рауба. Его адвокаты раскрыли заговор против наших ветеранов и обнародовали его в судебных документах. Вас отвезут в палаты кризисной стабилизации, даже если вы не представляете опасности ни для себя, ни для окружающих и не проявляете никаких признаков психического заболевания. Почему? Потому что есть дело Верховного суда, вынесенное судьей Кардосой – Шлендорф против Общества Нью-Йоркской больницы,3 NE 105 (92), в котором говорится, что любой человек в здравом уме, а не преступник, имеет право говорить, что происходит в его теле или на его теле. . Они хотят убедиться, что у вас нет никакой возможности избавиться от этого. Никто в Америке не хочет такого уровня вторжения в частную жизнь. Кроме того, это дает правоохранительным органам возможность по своему желанию пытать вас лишением сна, сердечными приступами и другими болями. Кто хочет дать жаждущим власти полицейским контроль над нашей центральной нервной системой? Система активного отрицания может убить, не оставив следов! В отчете Биологической инициативы с дополнениями за 1914 год подробно описаны все виды рака, болезни и инвалидность, которые она вызывает. Отсюда необходимость в Obama Care и открытии всех медицинских записей американцев для правоохранительных органов. Объединенное управление нелетального оружия применило против меня непроверенные военные средства! Полиция штата Вирджиния взяла на себя ответственность за действия психологов, устроивших резню в Технологическом институте Вирджинии. В книге JNLWD 2014 года «Псиопс» хвастаются, что могут создавать жертв самоубийц и массовых убийц.

    • ФГ Сэнфорд
      Сентября 19, 2014 в 15: 09

      Джей Би, лучше проверь свой детектор дыма – уверен, батарейка разряжена.

  4. Джо Тедески
    Сентября 18, 2014 в 14: 49

    Находится ли он на небесах со своими 72 девственницами или страдает в огне ада, Усама Бен Ладен должен улыбаться, когда осознает, сколько США потратили на борьбу с терроризмом после событий 9 сентября. Каждый час США тратят 11 миллиона долларов на национальную безопасность. Это просто национальная безопасность. Нет, я не уверен, включает ли это TSA… поищите. Помните об этом: Бен Ладен, которого считали виновником банкротства России в войне в Афганистане, считал, что он может сделать то же самое с Америкой. Ну что, мы попали в его ловушку? Кому ты рассказываешь.

    https://www.nationalpriorities.org/cost-of/homeland-security-since-911/081114/

    Представьте себе, что мы потратим столько же на альтернативную энергию, необходимую инфраструктуру или здравоохранение.

  5. Стив Найдамаст
    Сентября 18, 2014 в 13: 45

    Я даже не прочитал все эссе, чтобы согласиться с описанием Сандером глупости (за неимением лучшего слова) в попытке заставить компьютеризированные процессы контролировать каждый возможный потенциал риска для человеческого тела. Это просто невозможно, хотя это способствует хорошему пиару в определенных деловых кругах и наверняка принесет дополнительные доходы тем, кто продвигает такие технологии.

    Будучи старшим инженером-программистом в течение многих лет, я находил удивительным то, как моя профессия воспринимается непрофессионалом. Большинство полагает, что мы творим некую форму «магии», хотя на самом деле это просто использование чистой логики. Однако это только на уровне квалифицированных технических специалистов.

    Управление разработкой программного обеспечения, по крайней мере в США, часто осуществляется полными некомпетентными людьми, которые не менее самовозвеличиваются, чем любой другой тип бизнес-менеджеров. Хуже того, они очень мало знают о разработке программного обеспечения или о том, как ею управлять, что приводит к снижению качества продуктов, которые производят их команды.

    Таким образом, даже на уровне технических менеджеров профессиональные разработчики и инженеры сталкиваются с совершенно нелогичной методологией работы в таких средах, согласно которой мы должны разрабатывать программное обеспечение с учетом постоянно меняющихся спецификаций в результате попыток руководства умиротворить и побаловать свои сообщества пользователей.

    Для тех, кого интересует этот парадокс, есть отличная статья «Почему программирование — отстой» на сайте http://stilldrinking.org/programming-sucks.

    Несмотря на то, что описание моей профессии очень точное, оно в то же время довольно пугающее, поскольку, как только читатель поймет, о чем говорится в эссе, он осознает полную глупость технологий, которые Сандер описал в этом эссе…

Комментарии закрыты.