Камере за откривање 'ненормалног' понашања

Акције

У хитеричној потрази за савршеном безбедношћу, западне земље се окрећу напредној технологији за откривање и заустављање терористичких напада. Али ове скупе шеме често не пружају већу сигурност док додатно нарушавају личну слободу, као што је Сандер Венема приметио у Холандији.

Сандер Венема

Пре неколико дана сам прочитао ан чланак о томе како ТНО (Холандска организација за примењена научна истраживања, највећи истраживачки институт у Холандији) развијена технологија za паметне камере за употребу на аеродрому Сцхипхол у Амстердаму. Ове камере — инсталиране на аеродрому Схипхол од стране Кубит визуелна интелигенција, компанија из Хага — дизајнирани су да препознају одређено „сумњиво понашање“, као што је трчање, махање рукама или знојење.

Занимљиво је да су то све ствари које се обично налазе у стресном окружењу које је међународни аеродром за многе људе. Људи морају да стигну до капије на време, што може захтевати трчање (нарочито ако сте стигли у Сцхипхол возом, који је у Холандији познато да је непоуздан); можда се плаше летења и покушавају да држе своје живце под контролом; а аеродроми су такође места где се састају пријатељи и породица након дугог боравка у иностранству, што (ако желите да се загрлите) захтева махање рукама.

Амстердамски аеродром Сцхипхол.

Амстердамски аеродром Сцхипхол.

Претпостављам да ће се због овога догодити много лажних позитивних резултата са овом технологијом. То је погрешна технологија на погрешном месту. У потпуности разумем потребу за безбедношћу на аеродрому и сви желимо безбедно окружење и за путнике и за посаду. Летови морају да функционишу у безбедним условима. Оно што не разумем је менталитет да сваки појединачни ризик у животу треба да буде минимизиран од стране владиних агенција и да се бори са технологијом. Више технологије не значи безбедније аеродроме.

Позориште безбедности

Многе мере које се предузимају на аеродромима представљају театар безбедности. То значи да су мере углавном неефикасне против стварних претњи и служе углавном за показивање. Проблем са аутоматским профилисањем, што овај програм такође покушава да уради, је то не ради. Стручњак за безбедност Брус Шнајер је опширно писао о овоме и препоручујем вам да прочитате његов есеј из 2010.Профилисање нас чини мање безбедним” о конкретном случају безбедности авио путовања.

Први проблем је што се терористи не уклапају у одређени профил или могу пажљиво да избегну „сумњиве“ радње. Стога се ови системи профилисања могу заобићи када људи схвате како, а због претераног ослањања на технологију уместо на здрав разум то заправо може изазвати већу несигурност.

У роману Мали брат, Кори Доктороу је писао о томе како је Маркус Јелоу ставио шљунак у ципеле да завара камере које препознају ход у својој средњој школи како би он и његови пријатељи могли да се искраду да играју игру напољу. Сличне ствари ће бити урађене да би се покушале преварити ове „паметне“ камере, али последице могу бити много веће.

Заправо смо сигурнији када насумично бирамо људе уместо да се ослањамо на одређени профил претње или профил понашања да бисмо изабрали кога ћемо прегледати и ко пролази кроз безбедност без секундарне провере. Цела поента насумичне провере је да је насумична. Дакле, потенцијални терориста не може унапред да зна који су критеријуми по којима ће га систем изабрати. Ако систем користи одређене критеријуме, а безбедност система зависи од тога да ли су сами критеријуми тајни, то би значило да би неко морао само да посматра систем довољно дуго да би сазнао који су критеријуми.

Технологија може пропасти, што људи не схватају увек. Још један ТНО извештај под насловом: „Афвијкенд Гедраг” (Абнормал Бехавиор) наводи у (додуше малом) одељку који се бави забринутошћу за приватност да је прикупљање података о абнормалном понашању људи етички само зато што се друштво у целини може учинити безбеднијим помоћу ових података и повезане технологије. Такође се наводи (а то је аргумент који сам прочитао и на другим местима), да је „друштво изабрало да безбедност и безбедност надмашују приватност.

Сада, хајде да кажемо ради аргумента да би ово могло бити тачно у општем смислу (иако се може расправљати да ли је ово увек У том случају, ја лично не мислим тако, јер су понекад трошкови једноставно превисоки и ипак морамо да одржимо слободно и демократско друштво). Проблем је у томе што начин на који се имплементирају технологија и безбедносни системи обично није нешто о чему ми као друштво морамо прво да гласамо пре него што се потпишу (без сумње веома уносни) уговори.

У случају холандског аеродрома, Кубит је вероватно видео начин да брзо заради новац разговарајући са руководством Сцхипхола и/или владом (као што је холандска држава држи 69.77 одсто акција Сцхипхол-а) у куповину њихове технологије. То није нешто о чему су људи водили свесну дебату, а затим донели одлуку на основу доброг обавештења.

Главни проблеми приватности

Утврдили смо да су ови системи неефикасни и да се могу заобићи (као и сваки систем) и да неће побољшати општу безбедност. Али што је много важније, постоје велики проблеми са приватношћу са овом технологијом. Оно што Сцхипхол и Кубит раде овде је да анализирају и чувају податке о милионима путника, од којих је огромна већина потпуно невина. Ово је као да гађате комарца базуком.

Шта се дешава са овим подацима? Не знамо, и морамо да верујемо Кубиту и Сцхипхолу на реч да се подаци о несумњивим члановима јавности бришу. Међутим, у светлу недавних догађаја у којима се чини згодним прикупљати и чувати што више података о људима, сумњам да ће се брисање заиста догодити.

И тужно је: у Холандији Министарство безбедности и правде сада говори о имплементацији горе поменутог система анализе понашања на другој (тајној) локацији у Холандији. Да ли смо сви ми људски заморчићи спремни за тестирање и игру?

Шта је абнормално?

Постоје и проблеми са дефиницијама. Ово је нешто што видим изнова и изнова са оваквим пројектима који крше приватност. Шта представља „ненормално понашање“? Ко о томе одлучује и ко контролише шта је ненормално понашање, а шта није?

Можда, у не тако далекој будућности, значење речи „ненормално“ почиње да се мења и почиње да значи „не као ми“, за неку дефиницију „нас“. Џорџ Орвел је поменуо овај ефекат у својој књизи Хиљаду деветсто осамдесет четири, где свеприсутни телекрани гледају и анализирају сваки ваш покрет и никада не можете бити сигурни шта су злочиначке мисли, а шта нису.

2009. када је европски истраживачки пројекат ИНДЕЦТ које је финансирала Европска унија, Европски парламент је поставио критична питања Европској комисији. Тачније, ово је питано:

Питање из ЕП-а: Како Комисија дефинише појам абнормално понашање користи у програму?

Одговор ЕК: Што се тиче прецизних питања, Комисија би желела да појасни тај термин понашање or абнормално понашање није дефинисана од стране Комисије. На конзорцијуму је да то уради приликом подношења предлога, где сваки од различитих пројеката има за циљ побољшање оперативне ефикасности служби за спровођење закона, пружањем нове техничке помоћи. [Извор: Еуропарл (Писана питања Александра Алвара (АЛДЕ) Комисији)]

Другим речима: према Европској комисији то зависи од појединачних пројеката, који су сви нејасни у погледу њихових тачних дефиниција. А када не одредите овакве дефиниције (и учврстите их у закону тако да моћне владе и корпорације које надгледају ове системе могу бити позване на одговорност!), оне се могу променити током времена када ново руководство дође на власт, било унутар корпорације која контролише технологију, или унутар владе.

Ово је опасност која се често занемарује. Не постоји гаранција да ћемо увек живети у демократском и слободном друштву, а најбоља одбрана од злоупотребе власти је да се постарате да они на власти имају што мање података о вама.

Одржавање ових дефиниција нејасним је главна тактика у плашењу људи да се покоре. Ово има инхерентну опасност од пузања законодавне мисије. Мера која је некада била примењена за једну специфичну сврху убрзо се користи за другу ако се укаже прилика.

Када се примети да људи бивају хапшени због наизглед невиних ствари, многи људи (под)свесно прилагођавају своје понашање. Слично функционише и са слободом говора: када се одређена мишљења и изјаве сматрају супротним закону, а по њима поступају органи за спровођење закона, многи људи почињу двапут да размишљају о томе шта кажу и пишу. Почињу да се аутоцензуришу, а то нагриза слободу људи до тачке у којој се полако претварамо у технократску орвеловску ноћну мору. А када се пробудимо, већ ће бити касно да се окренемо.

Сандер Венема је искусан веб-програмер и програмер који је забринут због брзог појављивања надзорних држава које поткопавају грађанске слободе и људска права. Он је и оснивач Астероид Интерацтиве, компанија за веб дизајн и развој са седиштем у Холандији. [Верзија ове приче је првобитно објављена на http://sandervenema.ch/]

7 коментара за “Камере за откривање 'ненормалног' понашања"

  1. Царл Столл
    Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

    Профилисање људи (за разлику од профилисања понашања) је бескорисно за откривање децентрализованог криминала, као што је отимање новчаника, пљачка банака, пљачка итд. С друге стране, у случају мрежног криминала (организовани криминал, тероризам, шпијунажа, итд. ) профилисање препоручују врхунски криминолози, иако је то непопуларно мишљење и мало ко то отворено каже. Међутим, ако читате специјализовану литературу, врло брзо добијате поруку. У својој књизи „Разумевање терористичких мрежа“, бивши агент ЦИА-е Марк Сагеман то говори.
    Ово је налаз чланка објављеног у Јоурнал оф Публиц Ецономиц Тхеори:
    „Најефикаснија политика за спровођење закона намеће само умерена ограничења на способност службеника да се профилише. За разлику од модела децентрализованог криминала, захтевање једнаког третмана никада не побољшава ефикасност спровођења закона.”
    Профилирање, скрининг и регрутовање криминалаца, Цхристопхер Цоттон & Цхенг Ли, Јоурнал оф Публиц Ецономиц Тхеори,
    http://onlinelibrary.wiley.com/doi/10.1111/jpet.12115/abstract

  2. ФГ Санфорд
    Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

    Јое Т. и Стеве обојица постижу одличне поене. Провео сам скоро тридесет година радећи на пољу у којем сам морао да трпим владине програме који су настојали да компјутеризују задатке који су боље функционисали без компјутеризације. Било је много изговора и рационализације за ове програме, али међу најсмешнијим је била идеја да компјутеризовани подаци пружају информације у „реалном времену“. Моја поента је увек била: „Моја канцеларија има телефон и врата. Можете ме позвати или покуцати на моја врата. Било шта друго ће вам донети застареле информације”. Једина ствар која је заиста постигнута је стварање алата за надзор који је надгледао особље које га користи. То никада није побољшало задатак који су покушавали да остваре. Али СИГУРНО ЈЕ пренео много новца пореских обвезника ИТ корпорацијама.

    Препознавање лица и идентификација понашања изгледају ми као ствари које сада зову „медицински уређаји за надрилекарство“. Сви ти електромагнетни уређаји и уређаји за дијатермију кратких таласа, флуоресцентне високонапонске луминисцентне цеви које су светлеле зелено, плаво и љубичасто, рендгенске машине за лечење акни и флуороскопи за дијагнозу дизајнерских болести тог дана – већина њих се показала потпуно бескорисном, али неки уређаји за зрачење изазвали су масивну дефигурацију, ожиљке, ослабљеност и рак. Али „технологија“ је откривена, и богами, они ће створити тржиште за њу.

    Безброј „бин Ладенових“ слика и видео снимака чини се да негира било какву поузданост за „препознавање лица“. Никад не изгледа исто двапут. Али опет, сер Лоренс Оливије никада није изгледао исто ни у једном од својих филмова. Неки тврде да је волео да модификује своје особине воском у тоновима тела. Неизбежно ће бити 'хакова' за савремену технологију. Питам се колико ће конгресмена и сенатора бити ухваћено да се шуњају због тајних прекида са безначајним другима јер показују „сумњиво понашање“ на аеродрому – очигледно, НСА и ЦИА би морале да осигурају да постоји алгоритам за „бесплатну пропусницу“ у сајбер простору. ” – иначе, замислите проблеме које би Линдзи Грејем и Џон Мекејн могли да створе!

    • Јое Тедески
      Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

      ФГ Све што сте тамо споменули, између техничких ствари за препознавање, до воска, је прављење новца. То је оно о чему се ради у Државној безбедности. Овде та 'доктрина Бин Ладена' даје најбоље резултате. Поменули сте ово у другом посту.

      Имам бољу идеју. Хајде да унајмимо пар вратара из Јерсеиа да седе на свакој капији. Није тешко открити ово обезбеђење, али нећемо имати ништа од тих јефтиних масних ствари, зар не?

      Сви треба да се запитамо, да после 13 година овог срања...ратова који се не добијају, чекања у дугим редовима на аеродромима да буду прегледани...ПРОВИЂЕНИ! Да ли се шалиш на мој рачун. Увек мењају правила, а не говоре играчима. Замислите колико вам је пута речено да од 9. септембра треба да попуните овај формулар. Ох, дођавола, знаш о чему причам.
      Јое Тедески

  3. ЈБ Смитх
    Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

    Иницијатива мозга и Обама Царе су велике преваре и две најгоре преваре почињене над грађанима Сједињених Америчких Држава. Државни и локални органи за спровођење закона уграђују биочип недужним грађанима. Према „А Ноте он Убервеилланце“ аутора МГ и Катине Мицхаел, то је „као да велики брат изнутра гледа напоље“. „Заштита у свету амбијенталне интелигенције“ од стране Спрингера на 9. страници каже, „спровођење закона би нас натерало да верујемо да можемо бити безбедни само ако знају где смо у сваком тренутку, шта радимо и шта смо 'размишљање'”. То је таква инвазија на приватност. Они користе ЛРАД ака систем активног порицања да би помислили да чујете гласове – он има технологију попут аудио рефлектора и покушава да вас доведе у стање онога што НИЈ назива „узбуђеним делиријумом“. Затим користе Псиопс као што су ухођење, дрога, киднаповање, шта год могу да би вас или 1) ставили у „одељење за кризно стабилизацију“ (да би вам одузели права на 2. амандман) или 2) затвор или 3) дали вам заразну болест. План је да органи за спровођење закона заплене све оружје како би могли да вас муче без страха за своје животе. На мети су хришћанке и војни ветерани. Идите на Институт Рутхерфорд и погледајте Брандона Рауба. Његови адвокати су открили заверу против наших ветерана и објавили је у судским списима. Одводе вас у одељења за кризно стабилизовање чак и ако нисте опасан по себе или друге и не показујете знаке менталне болести. Зашто? Зато што постоји предмет Врховног суда од стране судије Цардоза – Сцхлоендорфф против Друштва њујоршке болнице,105 НЕ 92 (1914) који каже да свако здравог разума, а не злочинац, има право да каже шта се дешава у његовом телу или на његовом телу . Желе да се увере да нема начина да ово скинете. Нико у Америци не жели овакав ниво задирања у приватност. Поред тога, то омогућава органима за спровођење закона могућност да вас муче по вољи лишавањем сна, срчаним ударима и другим боловима. Ко жели да полицајцима гладним моћи да контролу над нашим централним нервним системом? Систем активног порицања може да убије без остављања трага! Извештај Био Иницијативе са додацима за 2014. детаљно описује све врсте рака, болести и инвалидности које изазива. Отуда, потреба за Обамином бригом и отварањем свих америчких медицинских картона за спровођење закона пред олтаром. Заједничка управа за несмртоносно оружје користила је непроверене војне апликације на мени! Полиција државе Вирџинија преузела је одговорност за психопате који су изазвали масакр у техници Вирџиније. Псиопс из 2010. ЈНЛВД-а се хвали да могу створити жртве самоубистава и масовне убице.

    • ФГ Санфорд
      Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

      ЈБ, боље провери свој детектор дима – кладим се да је батерија празна.

  4. Јое Тедески
    Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

    Било да је у рају са своје 72 девице, или пати у ватри пакла, Осама Бин Ладен мора да се насмеје када схвати колико су САД потрошиле на борбу против тероризма од 9. септембра. Сваког сата САД потроше 11 милиона долара на унутрашњу безбедност. То је само Државна безбедност. Не, нисам сигуран да ли то укључује ТСА...иди погледај. Сетите се овога, Бин Ладен који је био акредитован да доведе Русију до банкрота њиховим ратом у Авганистану, веровао је да може да учини исто Америци. Па, јесмо ли упали у његову замку? Ти ми реци.

    https://www.nationalpriorities.org/cost-of/homeland-security-since-911/081114/

    Замислите да толико трошимо на алтернативну енергију, потребну инфраструктуру или здравствену заштиту.

  5. Стеве Наидамаст
    Септембар КСНУМКС, КСНУМКС на КСНУМКС: КСНУМКС

    Нисам чак ни прочитао цео есеј да бих се сложио са Сандеровим описом глупости (у недостатку боље речи) у покушају да компјутеризовани процеси прате сваки могући потенцијал ризика на људском телу. То једноставно није могуће, иако омогућава одличан ПР у одређеним пословним круговима и сигурно ће прикупити додатне приходе за оне који промовишу такве технологије.

    Као старији софтверски инжењер дуги низ година, сматрао сам да је прилично невероватно како лаик гледа на моју професију. Већина верује да ми радимо неки облик „магије“ када је у ствари то једноставно коришћење чисте логике. Међутим, то је само на нивоу квалитетних техничких стручњака.

    Управљање развојем софтвера, барем у Сједињеним Државама, често воде потпуни неспособни људи који нису ништа мање самоувеличавајући од било које друге врсте пословног менаџера. Што је још горе, они врло мало знају о развоју софтвера или о томе како да њиме управљају, улажући под-квалитет у производе који њихови тимови производе.

    Дакле, чак и на нивоу техничког менаџера, професионални програмери и инжењери наилазе на потпуну нелогичну методологију рада у таквим окружењима при чему морамо развијати софтвер у складу са спецификацијама које се стално мењају као резултат менаџмента који покушава да умири и умази своје корисничке заједнице.

    За оне које занима овај парадокс постоји одличан чланак под насловом „Зашто је програмирање безвезе“ на http://stilldrinking.org/programming-sucks.

    Иако је веома тачан у свом приказу моје професије, то је такође прилично застрашујуће јер када читалац схвати шта се наводи у есеју, схватиће потпуну глупост у технологијама које је Сандер описао у овом есеју...

Коментари су затворени.