Извештај Цхрис Хедгеса: Образовање за надзор

Алисон Батлер и Нолан Хигдон расправљају о системима „ед-тецх“ који нарушавају права на приватност малолетника и дискриминишу студенте боје коже.

By Цхрис Хедгес
СцхеерПост

AНова технологија коју је створио војни индустријски комплекс САД и коју је усвојила шира јавност увек је морала да дође са упозорењем.

За већину су интернет, ГПС, екран осетљив на додир и друге свеприсутне технологије обични алати савременог света. Ипак, у стварности, ове технологије служе „двострукој употреби“,

Иако погодују типичним људима, они такође омогућавају масовну принуду, надзор и контролу тих истих људи у рукама корпоративне и војне државе.

Нолан Хигдон и Алисон Батлер, аутори Образовање о надзору: кретање кроз упадљиво одсуство приватности у школама, придружите се водитељу Крису Хеџесу у овој епизоди Извештај Криса Хеџеса. Они истражују софтвер и технолошке системе који се користе у школама К-12 и високошколским установама који надгледају ученике, нарушавају права на приватност малолетника и, у том процесу, дискриминишу обојене студенте.

Употреба ове технологије, објашњава Хигдон, заснована је на третирању људи као производа кроз капитализам надзора.

„Извлачите податке и информације о људима из свих ових паметних технологија, а затим сте у могућности да донесете одлуке о њиховом понашању, како би могли реаговати на нешто. И постоји много индустрија које су заинтересоване за ово“, каже Хигдон Хедгесу.

Батлер објашњава да су студенти, често без избора по том питању, подвргнути употреби ове технологије која инхерентно искоришћава њихове податке. Пошто постоји имплицитна сагласност да се користи, „Веома ограничена количина заштите која постоји да би подаци малолетника била безбедна је нестала када имате технологију која се стави у њихову учионицу“, каже Батлер. "Постоји пасивно прихватање ове технологије."

Хигдон као кључни фактор указује на промене које је Обамина администрација направила 2012. године у Закону о правима на образовање и приватност породице (ФЕРПА). Ове промене су омогућиле да се подаци о студентима деле са приватним компанијама које служе као образовни партнери.

„У ствари, сви ти подаци за које је покрет за права студената радио како би били сигурни да су приватни били су дозвољени да се дистрибуирају овим компанијама“, каже Хигдон.

Аутори наглашавају дубок утицај ове технологије на фундаменталне процесе учења у учионици.

„То смањује радозналост, која је неопходна за образовни процес“, каже Хигдон. „Ментална траума и тешкоћа затварања једног од ретких простора где су у могућности да истражују, мислим да то само говори о проблему са надзором и образовним процесом.

Хост: Цхрис Хедгес

Продуцент: Мак Јонес

Интро: Диего рамос

Посада: Дијего Рамос, Софија Менеменлис и Томас Хеџес

Транскрипт: Диего рамос

Цхрис Хедгес: Алати за надзор су постали свеприсутни у школама и на универзитетима. Технологије, које обећавају већу сигурност и побољшане академске резултате, омогућиле су Гагглеу, Сецурлију, Барку и другима да прикупе детаљне податке о студентима. Ове технологије, међутим, не само да нису испуниле своја обећања, већ су уништиле приватност ученика. 

Ово је посебно тачно у сиромашним заједницама, где се мало проверава велепродајни надзор. Ови подаци се често окрећу против ученика, посебно сиромашних и обојених студената, што убрзава цевовод од школе до затвора. Када ученици и наставници знају да их се посматра и надгледа, то гуши интелектуалну дебату, свако оспоравање доминантног наратива и испитивање злоупотребе моћи. 

Али што је злокобније, дозвољава корпорацијама и владиним агенцијама да стигматизују и криминализују студенте. Ове дигиталне платформе могу циљати младе пропагандом и користити друштвени инжењеринг и анализу трендова за обликовање понашања. Придружио ми се да разговарамо о масовном надзору студената Нолан Хигдон, аутор, са Аллисон Бутлер, Образовање о надзору: кретање кроз упадљиво одсуство приватности у школама.

Дакле, Алисон, хајде да почнемо од тебе, и као што то чиниш у књизи, дај нам портрет колико је наметљив – што нисам знао док нисам прочитао твоју књигу – колико је овај надзор наметљив и како функционише.

Алисон Батлер:  Наравно. Хвала вам пуно што сте нас примили. Рекао бих да је најкраћи одговор на то питање да је невероватно, потпуно, потпуно наметљиво. И да проширимо то, ми тренутно живимо у свету технологија за надзор. Готово да нема места где ви и ја можемо да одемо као појединци где нисмо у неком својству под надзором. Велики део тога је, у извесној мери, наш сопствени избор. На пример, ако уђемо у ауто и користимо ГПС, прихватамо те услове. 

Оно што нас брине, посебно у вези са овим текстом, јесте да имамо огромну количину надзора у нашим школама од К до 12 и вишег образовања. Конкретно за К кроз 12 школа, тај надзор се врши за малолетна лица, за децу млађу од 18 година, без њиховог активног пристанка. Некако смо навикли, били смо некако припремљени за технологије надзора помоћу неких од тих меких технологија, као што је наш ГПС, као што су КР кодови који нам помажу да мало олакшамо преглед менија ресторана, као што су неки од апликације на нашем телефону које чине да се наши животи осећају мало практичнијим. 

Цена тога је да када теже и наметљивије технологије надзора дођу у наше светове, а посебно због наше бриге, уђу у наше учионице, ми смо некако већ поставили темеље где смо припремљени за то, и ми можда неће нужно довести у питање те технологије у мери коју заслужују.

Цхрис Хедгес: Па, те технологије, као што истичете у књизи, се не продају као системи за надзор. Они се продају као побољшања образовања, побољшања безбедности. И само ми дајте слику неких од оних који се покрећу и ових других алата за дигитални надзор, дајте ми слику шта су и како раде.

Нолан Хигдон:  Да. Хвала ти пуно што си ме примио, Цхрис. Алисон и ја смо срећни што смо овде. И мислим да је најлакши начин да се то схвати је, слично као и остатак Силицијумске долине, ове образовне технологије или ед технолошке компаније, имају тенденцију да обећавају превише, а не испуњавају. Дакле, многа оправдања за њихово додавање у учионице су ствари са којима би се људи обично сложили, зар не? Ови алати ће нас учинити сигурнијим или сигурнијим. Они ће побољшати учење. Они ће припремити студенте за тржиште 21. века. Неки од њих се чак оглашавају као инклузивнији. То је више у складу са ДЕИ [различитошћу, једнакошћу и инклузијом], јер они укидају људску пристрасност, или људски елемент, то је оно што они тврде. Али примећујемо да у свим овим случајевима они заиста маскирају више, рекао бих, погубне мотиве. 

Постоји много новца који се може зарадити тако што ћете имати ове алате у учионици и моћи да прикупите податке. Дакле, то је једно питање. Друго питање је, поред маскирања правог мотива, а то је прављење профита, они баш и не испуњавају многа од ових обећања. У књизи говоримо о томе како, иако кажу да су ови алати направљени да промовишу безбедност, често у томе заостају. Постоји недостатак доказа који говоре да они заправо побољшавају учење, а затим постоји много добрих доказа да они заправо раде против циљева ДЕИ. Дакле, у великом броју ових случајева, чини се да су разлози који су дати за поседовање ових техничких алата у школама веома другачији од онога што они заправо раде или стварне сврхе додавањем у школу.

Цхрис Хедгес: Алисон, можеш ли конкретно да објасниш, као, на пример, Барк или да изабереш један или два од ових програма и објасниш нам шта они, наравно прикупљају податке, али шта раде у школском окружењу? Која је њихова функција?

Алисон Батлер: Наравно. Дакле, један пример који се користи у великом броју К до 12 учионица је технологија која се зове ГоГуардиан. ГоГуардиан се ставља на рачунаре, лаптопове у учионици. Дакле, ако имате, аргументације ради, учионицу у којој је сваки ученик доделио лаптоп, то може бити њихов сопствени задатак да имају тај одређени за целу школску годину или могу бити лаптоп рачунари у учионици, а то се једноставно налази где ученик седи. 

ГоГуардиан прати њихове екране, прати све шта раде, а онда наставник испред учионице, или где год да се налази, може да гледа у екране ученика током часа. Један од аргумената који ГоГуардиан каже је да ово помаже наставницима да држе ученике на правом путу, и стога помаже ученицима да остану на правом путу. Дакле, то је представљено као понашање. Представљен је као нека врста алата за фокусирање, јер наставници могу да гледају у екране ученика, а онда постоји нека врста елемента шаргарепе и штапа, што је наставник који може да каже, хеј, мораш да сиђеш са те веб странице . То није оно на чему радимо. 

Или [наставник] може директно да погледа рад ученика и коментарише шта ради добро или шта би можда требало да се прилагоди. Представљен је као оваква технологија заједнице за учионице. Ево шта су неки од проблема које налазимо са ГоГуардиан-ом: Наставницима се често говори да је њихов задатак да прегледају и у ствари, многи наставници које смо интервјуисали за књигу рекли су да верују да су они ти који врше надзор, да су они били су помало непријатни због тога, али су заиста видели моћ надзора у својим рачунарима. Оно што им није речено или није јасно стављено на знање је да је то заправо корпорација која врши сав надзор. А ако посебно мислимо на К кроз 12 учионица, као што сам раније приметио, ово су подаци о малолетницима. 

Дакле, веома ограничена количина заштите која постоји, дигитална заштита, да би подаци малолетника били безбедни, нестаје када имате технологију која се стави у њихову учионицу, постоји пасивно прихватање ове технологије. Сами студенти нису активно прихватили прикупљање њихових података. То је подразумевани пристанак. И у ствари, то је језик који се често користи, коришћењем технологије, то је имплицитна сагласност и не постоји нужно одбијање. Дакле, имамо учионицу конфузије у којој наставник верује да је он главни и да они доносе одређену етичку одлуку, а заправо нису они главни. 

Једном када нешто као што је ГоГуардиан зграби податке ученика и зграби њихове информације, има их, не постоји нека врста искључења на ово, и ако у тренутку када студент можда укључи свој лични мобилни телефон у тај уређај да га напуни, ГоГуардиан сада има све те податке и због дигиталне везе ових уређаја.

Један наставник с којим смо интервјуисали се мало осећао непријатно, причао је причу у којој им је било мало непријатно са ГоГуардиан-ом, делом зато што је ученик био болестан код куће и наставник је и даље могао да види шта се дешава на екрану, чак и када је ученик био код куће, ван школе из оправданог разлога, наставник је могао да види ученика како гледа ИоуТубе видео снимке. И тада је некако помислила, Ох, ово није оно што сам мислила да јесте. Ово није директно повезано са учионицом, зар не? Мислим да нас понекад погодности наших дигиталних технологија позивају да заборавимо да се наше дигиталне технологије могу пратити свуда где се налазимо, а не само у нашим учионицама. 

Мислим да би други пример, нешто што се користи и у К 12 и у високом образовању, био Турнитин. Турнитин је програм у којем наставници могу да га подесе тако да ученици предају своје писмене радове преко ове платформе, а он се продаје, представља се као детекција плагијата, што је, претпостављам, на неком нивоу тачно. Друга подмукла ствар је да вас многе од ових технологија и ове корпорације заправо никада не лажу. Они вам једноставно не говоре целу истину и изостављају неке заиста важне делове. Дакле, Турнитин, да, је софтвер за откривање плагијата. И такође, Турнитин ради најмање две ствари. 

Прво, подучава АИ, зар не? Дакле, студенти који предају своје радове дају све више информација о развоју генеративне АИ, а затим Турнитин такође продаје те информације оглашивачима и маркетиншким радницима, тако да се језик младих анализира и потом користи у рекламирању и маркетингу. језик и на неки начин им се вратио. Дакле, наши млади људи донекле раде за ову корпорацију. Они раде доста посла, а не добијају никакву накнаду. Тако да бих рекао да су то два заиста велика примера који показују колико су ове технологије подмукле, колико су инвазивне и колико могу бити збуњујуће за оне који су подстакнути да их користе.

„… језик младих се анализира, а затим се користи у рекламном и маркетиншком језику и продаје им назад. Дакле, наши млади људи донекле раде за ову корпорацију. Они раде доста посла, а ни на који начин не добијају надокнаду.”

Цхрис Хедгес: Нолане, хајде да причамо о томе како се ове технологије користе за полицију ученика, посебно у сиромашним насељима, што несразмерно утиче на обојене студенте.

Нолан Хигдон: Да, једна од ствари које примећујемо са овим алатима је да они, опет, дају ова огромна обећања, зар не? Дакле, обећавају ствари као што су да можемо да предвидимо да ли ученик може да се бави криминалом, или да можемо да предвидимо да ли ученик има проблеме са менталним здрављем које треба решити. 

Али ђаво је у детаљима. Оно што ови алати раде је да прикупљају много података и кодирају алгоритме да анализирају те податке, да донесу одлуке о нечијем менталном здрављу или потенцијалном криминалу. И ту заиста видимо велики проблем са прекомерним ослањањем на ове алате. Ови алгоритми који тумаче податке, они су кодирани са истом пристрасношћу као и њихови креатори, и видимо изнова и изнова како ови алгоритми доносе расистичке или трансфобичне закључке, а под тим мислим да ће ови алгоритми несразмерно категоризовати ученике боје јер је већа вероватноћа да ће починити кривично дело. Као резултат тога, школа их више надгледа, а ово опет нормализује праћење црних тела. 

Исто као и са детекторима менталног здравља, они несразмерно категоришу ствари као што су транс деца за проблеме менталног здравља, што не значи да само пролазе кроз изазове менталног здравља, што је део живота за неке људе, већ такође значи да они треба пазити на ствари као што су пуцњаве у школи или самоубиство или самоповређивање. 

„... ови алгоритми ће несразмерно категоризовати обојене студенте као за које постоји већа вероватноћа да ће починити злочин.”  

И тако добијате и претерану полицијску контролу ових појединаца. И тако, мислим да је један од митова да је Силицијумска долина генерално продата, али посебно ове ед-технолошке алате, да они имају ове објективне алгоритме који су ослобођени пристрасности људи, и стога могу да извуку тачније закључке . Али истраживање каже не, то није случај, ако ништа друго, ови алати заправо компликују или погоршавају многе проблеме које смо имали са питањима као што су расизам или трансфобија.

Цхрис Хедгес: Алисон, желим да причам о томе како ови подаци, пре свега, завршавају у рукама потенцијалних послодаваца. То је индустрија од више милијарди долара годишње која продаје наше личне податке, све што смо икада урадили, сваки саобраћајни прекршај који смо икада имали, јер у суштини омогућава послодавцима, можда чак и универзитетима, који гледају средњошколце, да имају информације да би то требало да буде приватно и, наравно, да се може употребити против тих студената или потенцијалних запослених.

Алисон Батлер: Тако да бих се некако препирао са једном речју коју сте рекли, а то је продаја наших података. Мислим да је ствар на коју бисмо можда морали да обратимо више пажње, зар не, на Ноланово становиште о томе да је ђаво у детаљима, и на оно што сам раније рекао о томе како нас заправо не лажу, они једноставно не лажу не мора нам све рећи. 

Толико од ових технологија данас ће рећи да не продајемо ваше податке, а то је као врста узвика, зар не? И то је нешто што би требало да будемо као: „Ох, добро, добро. Моји подаци су безбедни.” Апсолутно не. Пре свега, ваши подаци нису безбедни, јер се кршења дешавају тако често да више нису ни наслови, ни вести. У једном тренутку нашег истраживања, покушавали смо да категоризујемо или каталогизирамо све различите повреде, и само смо некако мислили да истицање овога у овим микродетаљима неће бити од помоћи, јер се то дешава стално. Тако смо навикли. 

Али оно што заиста треба да узмемо у обзир је да толико много ових корпорација дели наше податке, зар не? Дакле, оно што се дешава је да имамо оно што бисмо ви и ја могли да замислимо као различите корпорације које немају везе једна са другом, и оне су се удружиле. Они су се уклопили у пословне моделе једни других. Они су повезани у неком својству. Тада себе називају образовним корпорацијама или образовним партнерима. То значи да они заправо не морају да продају наше податке. Они могу да деле наше податке. Тако да можемо бити сигурни на неком нивоу. Али у ствари, то је овај други ниво о коме би можда требало пажљивије да размислимо. 

Дакле, када говоримо о послодавцима, или када говоримо о факултетима, или чак можда ако говоримо о приватним школама, имамо толико образовних партнера који већ имају приступ подацима, који већ могу да ураде неку анализу од тога, да им је дозвољено да га деле. Мислим да смо пре неколико година причали о томе да ће послодавци погледати ваше друштвене медије, посебно са К-12 студената. Канцеларије за пријем на факултете ће погледати ваше друштвене мреже. У ствари, више не морамо да усмеравамо наше младе људе да буду забринути за ове одређене траке. Ови људи не морају да раде много детективског посла. Већ је ту за њих. Дакле, да ли обраћају велику пажњу на то или не, нисам баш сигуран, али подаци већ постоје. Једноставно је испред њих.

Цхрис Хедгес: Нолане, можеш ли да причаш о томе како су они проактивни, друштвени инжењеринг, како то није само прикупљање података, већ коришћење података за обликовање и обликовање понашања.

Нолан Хигдон: Да, и да томе додам слој, да наставим тамо где је Аллисон стала. И ја сам ово чак много рекао данас, ово су технолошке компаније, али то је помало обмањујуће. Многе од ових компанија које воде или поседују ове ед технолошке платформе, као што смо причали о пару, као што су Гаггле, Барк, ту је Цанвас, друге, углавном су у власништву компанија за власнички капитал. Ово је заиста почело у последњих 10 година, ове компаније за капитал су купиле ове ед-технолошке алате, наводно зато што је постојао начин да уђу у учионицу. Постоји читава индустрија овде у научном свету који они зову капитализам надзора, која се заснива на идеји да се људи третирају као производи. Дакле, извлачите податке и информације о људима из свих ових паметних технологија, а онда сте у могућности да донесете одлуке о њиховом понашању, како би могли реаговати на нешто. И постоји много индустрија које су заинтересоване за ово, зар не? Рекламне индустрије желе да знају како да креирају савршену рекламу која ће вас навести да нешто купите. Осигуравајуће компаније желе да знају како да одреде ваше премије, можда на основу здравља или ваших образаца вожње, итд. Дакле, подаци могу бити прилично уносни за индустрију за то. 

Али поред предвиђања понашања, постоје и ентитети који су заинтересовани да подстакну ваше понашање. Па шта могу да урадим? У коју ситуацију могу да те ставим? Које информације могу да вам дам да бисте се овако понашали? И постоји велико уверење у индустрију ако прикупимо довољно података, можемо да подстакнемо понашање људи у правом смеру, посебно овде смо у изборној години, много кампања, то је оно што они покушавају да ураде са овим подацима. Како можемо користити ове податке да натерамо ове људе да гласају, или да их натерамо да можда не гласају, у зависности од таквих ствари? Дакле, постоји много потенцијала у индустрији ако сте у могућности да прикупите више тачака података, и зато су школе тако привлачне, зар не? 

Оне су једно од ретких места које је заштићено као јавни простор, тако да су приватне компаније већ дуго желеле да уђу тамо, а под алтруизмом давања модерних технолошких алата, ово је била прилика за њих да уђу у учионици и добити приступ тим уносним подацима. 

„[Школе] су једно од ретких места које је заштићено као јавни простор, па су приватне компаније већ дуго желеле да уђу тамо и…. добити приступ уносним подацима." 

И само да бисмо то нагласили, неке од ових, као што су велике фирме, не поседују само технолошке алате, већ поседују ствари као што је Баби Цоннецт, који говори родитељима да користе ове алате за надгледање своје бебе. Они такође поседују платформе које гледају на обрасце рада људи након дипломирања. Такође добијете податке из школовања на друштвеним мрежама. Циљ је да се направи такозвани психографски профил појединца од колевке до гроба, а школе су важан део тог процеса.

Цхрис Хедгес: И желим да будем јасан, ви то истичете у књизи, ово је огромна индустрија. ЕдТецх је, кажете, глобална индустрија вредна 123.4 милијарде долара. Говоримо о великом, великом новцу. Алисон, желим да причам о томе, гледали смо током лета како универзитети и школе намећу све врсте нових ограничења и правила како би угасили протесте против геноцида у Палестини, и то је координисано широм земље, без летења, не догађаји, столови, без логора, итд. У којој мери алати попут ових помажу универзитетима и школама у гашењу неслагања или контроверзи, посебно око Палестине?

Алисон Батлер: Мислим у великој мери, и мислим да је ово место где је то индикативно за веће страхове наших универзитета од, па, вероватно да будемо мало неозбиљни, нашег страха од младих људи и онога што они раде са сопственим технологијама , већ страх од стања академске слободе, страх од тога шта значи неслагање, шта значи непослушност. Мислим да проводимо толико времена у нашим учионицама хвалећи историјске чинове неслагања, историјске акте непослушности, али када се то суочи са нама у садашњем времену, то је некако застрашујуће. 

Ако ћу им дати предност у сумњи, администратори траже неки начин да задрже своје кампусе безбедним, да задрже студенте, факултете, особље који имају различите и супротстављене погледе на безбедност. Нажалост, мислим да се реч сигурно често користи као молба немојте ме тужити, зар не? То је еуфемизам за молим вас немојте ме тужити. Тако да из култивисаног осећаја страха мислим да технологије надзора раде заиста добар посао капитализујући страх, зар не? Мислим да то мало померимо, када размишљамо о почетку Цовида, то је капитализирање страха од онога што смо хтели да будемо заједно, зар не? Колико би могло бити опасно да се нађемо у истом простору. И мислим да ове корпорације настављају да капитализују тај страх када гледамо на неслагање и демонстрације и непослушност. И тако имате универзитетске алате, онда имате алате полицијске државе, зар не? Та полиција долази са телесним камерама, које се, будимо искрени, могу укључити и искључити да би се створила и кадрирала веома посебна прича, зар не? Ово је ствар; технологије надзора и ови алати секу у свим правцима. 

Имамо наше студенте који снимају своје акције, што значи да су ту и њихова лица, зар не? Ако су тамо у мирном неслагању, ако су тамо у грађанској непослушности, њихова лица су јако ту, што значи, ако нешто крене наопако, без обзира ко то пође наопако, зар не? Ако се ради о подстицању полиције или супротстављању ученика, ми већ имамо све њихове информације. Дакле, живимо у окружењу у којем мислим да је, као и кроз историју, важно бити присутан, важно је устати, а такође и да се присуство и да се устајање манипулише и маневрише на ужасне начине од стране ових технологија надзора.

Цхрис Хедгес: И, Алисон, то има глобалну грану, јер су универзитети и школе традиционално места где размена идеја и неслагања, у функционалној демократији, то је један од епицентра, један од физичких епицентра где би требало дозволити да се такве врсте дискусија одвијати.

Алисон Батлер: Апсолутно и мислим, опет, када погледамо историју, када гледамо у лук историје, некако имамо насликану слику да је то било неслагање где су се људи понашали као да имају грађанску несугласицу, а ми једноставно не Чини се да то више немам. Дакле, наше врло неграђанске несугласице, наше веома физичке несугласице су сликане и представљене на начин кроз ове технологије које вероватно нисмо могли да урадимо у историји, зар не?

Мислим да се много причало овог лета, када су се приближавали председничким конвенцијама, и РНЦ и ДНЦ су говорили, посебно ДНЦ, будући да је у Чикагу, о томе, хајде да се осврнемо на историју. И мислим да је то важно. Никада не бих рекао да то не треба да радимо, али толико се променило у начину на који наша технологија учествује у овим конвенцијама или овим неслагањима да је наше разумевање понашања потпуно и потпуно другачије.

Цхрис Хедгес: Нолане, ове информације како пишете у књизи не завршавају само у рукама корпорација, оне завршавају у рукама ДХС-а, ФБИ-а. Разговарајте мало о томе како државна безбедност такође користи ове информације.

Нолан Хигдон: Да, такозвана национална безбедност, или индустрија националне безбедности, је у великој мери укључена у прикупљање ових података. И вреди подсетити људе да ови алати — интернет, екран осетљив на додир, ГПС и многе друге функције паметних уређаја у дигиталном добу — потичу из војног индустријског комплекса. Оне су настале кроз финансирање одбране, радећи у сарадњи са универзитетима и школама средином 20. века. И заправо, о чему смо говорили у књизи, када су студенти сазнали за шта су ови алати створени, протестовали су против њих. 

Али до данас, ови алати настављају да прикупљају податке који се деле са ДХС-ом и обавештајном заједницом, опет, под окриљем уочавања потенцијалних терориста, уочавања потенцијалних претњи. Ово је проблематично из више разлога, али један од њих, само са становишта чисто образовања, заиста негативно утиче на учење. Ефективно говоримо студентима када су у кампусу, да су они објекти које треба надгледати и заштитити, од њих и њима управљати. Веома је тешко развити однос поверења у коме се људи осећају пријатно да ризикују и праве грешке, што је од кључног значаја за образовање када је то окружење у којем су увек под надзором.

„Веома је тешко развити однос поверења у коме се људи осећају пријатно да ризикују и праве грешке, што је од кључног значаја за образовање, када је то окружење у којем су увек под контролом полиције.“

Цхрис Хедгес: Па, не само да се контролишу и надгледају, већ док гледамо са студентским протестима, ови алати за праћење су заправо више од надзора. Ради се о гашењу јер одмах знају ко је умешан. Мислим, знали су то још у Оццупи. Знам јер сам провео доста времена у Зукотију [Парк у центру Менхетна], и након што је [градоначелник Њујорка Мајк] Блумберг затворио парк, дошло је до серије полицијских рација на поткровље и они су нашли праве људе, јер су их електронски пратили. Алисон, желим да причаш о, посебно, два алата за сајбер безбедност. Желим да причаш о Аугурију и Пегазу.

Алисон Батлер: Заправо... то су нека врста Ноланових беба. Тако да ћу му то вратити, ако је то у реду.

Нолан Хигдон: Да, Пегасус је у основи део шпијунског софтвера који долази од израелске владе. Али Пегасус је у основи стављен у други софтвер. Дакле, ако бисте ушли у друге рачунаре, у суштини, могли бисте да надгледате људе широм света који имају овај Пегасус софтвер тамо, а он је у суштини стварао глобалну платформу за надзор. А Израел тешко да је сам у томе. Сједињене Државе су биле… 

Цхрис Хедгес: И само желим да прекинем Нолана, Пегаз је израелска творевина. Долази из Израела. Користио се за праћење Џамала Кашогија, мислим.

Нолан Хигдон: Тачно, да, и САД, као што сам рекао, учествују у сличној производњи и надгледању, укључујући рад са Израелом на Пегазу. Али, да, мислим да се ово, до Алисонове тачке историје, променило, морамо много да причамо о нашим очекивањима или о томе шта наша права и закони такође морају да се промене.

Ова идеја о илегалним претрагама и запленама или идеја да је моја приватност нешто што ја поседујем, то се мења у дигиталној ери, а закон – а то је једна од ствари за које се залажемо у тексту – закон треба да сустигне уз то, пошто су многе заштите које смо имали у вези са приватношћу, разоткриле су рупе у закону од стране влада и корпорација, као у примеру Пегаза. Разговарамо о стварима као што су, ваш Први амандман штити слободу говора од владе, али влада може да ради са технолошким компанијама да угаси одређени говор или идеје, или сте заштићени у својој комуникацији, на пример приватно у свом дому, али ако је то имејл , то значи да сте препустили те комуникације приватној компанији која их онда може дати влади. 

Дакле, постоји много оваквих рупа које откривају у дигиталној ери, и то је једна од ствари за које се залажемо у тексту, јер смо чак имали и покрет за права ученика који је ученицима дао право на приватност у школама. То је оно што је створило ФЕРПА овде у Сједињеним Државама. Али онда је око 2012. Обамина администрација променила нешто у ФЕРПА. 

Раније је ФЕРПА значио да школа не може ни са ким да дели информације о ученику. Ако су били малолетни, могли бисте то поделити са њиховим старатељем. Али измене ФЕРПА-е из 2012. године су гласиле: „Не, такође можете да делите њихове информације са образовним партнерима. То су компаније које имају уговоре са школама. И тако ефективно, свим тим подацима за које је покрет за права студената радио на томе да буду приватни били су дозвољени да се дистрибуирају овим компанијама. И као што смо видели, то је оно што му омогућава да уђе и у друге области.

„Раније је ФЕРПА значила да школа не може да дели информације о ученику ни са ким... Али измене ФЕРПА-е из 2012. године су гласиле: 'Не, такође можете да делите њихове информације са образовним партнерима.'

 

Цхрис Хедгес: И причај о Аугурију. Ово је развила фирма за сајбер безбедност, тим... Шта је то, Цимру, који чини огромне количине података доступним владиним и приватним клијентима. Различити огранци војске су заједно платили 3.5 милиона долара за приступ Аугуријевим подацима.

Нолан Хигдон: Да, компаније као што је Аугури, волим да их сматрам некаквим огромним ризницама брокера података. Дакле, они излазе и добијају приступ огромним количинама података. Они анализирају ове податке у реалном времену и на начин на који их индустрија описује, они у основи продају производе који анализирају ове податке за компаније или владе.

Али Аугури је пример нечега што служи интересима влада које можда желе да циљају људе или разумеју активистичко понашање или разумеју активистичку комуникацију на мрежи. Аугури обећава да ће имати ову огромну количину података коју може анализирати и дати неке одговоре на питања која владе могу имати, а која желе да надгледају, разумеју, предвиде или подстакну понашање.

Цхрис Хедгес: Алисон користиш термин у књизи, „алгоритамски расизам“. Можете ли то објаснити?

Алисон Батлер: Дакле, ако размишљамо о алгоритмима, а сви смо ми на неки начин, алгоритми су на неки начин, мислим да је наш кисеоник ових дана, зар не? Све што радимо дигитално је извучено из алгоритма. А алгоритми се, мислим, многима, посебно када разговарамо са студентима К-12 и донекле у високом образовању, осећају као нека мистериозна ствар која се некако у компјутеру... Оно што морамо да запамтимо је да су алгоритми, они су програми, они кодирају, они су језик, то су питања која су изградили људи, тако да су изграђени од погрешног људског расизма, сексизма, хомофобија, способанизам, итд, зар не? 

Дакле, до наше тачке алгоритамског расизма, постоји расизам уклопљен у ове дигиталне технологије, што значи да ће од самог почетка видети обојене људе, и даље, обојене жене, људе који имају различите способности, било кога ко се идентификује као ЛГБТК, у суштини свако ко јесте или идентификује ван онога што креатор алгоритма види као норму, што значи да не гледамо нужно на физичко, опипљиво проживела искуства расизма. На расизам гледамо као на облик учења како да користимо дигиталне технологије, јер, као што сам рекао, то је некако уклопљено у ово, тако да нам проблеми долазе одмах.

Стога почињемо да учимо како да управљамо стварима унутар тог расистичког оквира, и то постаје норма, и постаје нека врста централизованог начина сагледавања, што га чини знатно опаснијим за обојена тела, као и за оне који су у интеракцији са телима у боји како би имали унапред створену идеју уграђену у њихове технологије о томе ко су та тела и како се од њих очекује да се понашају.

„Ми гледамо на расизам као на облик учења како да користимо дигиталне технологије.

Цхрис Хедгес: Па, пример тога што извлачите из књиге је софтвер за препознавање лица у софтверу за тестирање тестова као што је Процторио, развијен је за беле студенте. Црно-смеђи ученици су мање уочљиви и приморани да дају више личних података од белих ученика да би потврдили свој идентитет. 

У другом примеру расистичке пристрасности кодиране у алгоритме, истраживање открива да програми који обећавају да ће тачно предвидети задржавање ученика и успех на курсу лажно претпостављају да обојени студенти неће успети. То је зато што су огромне количине података потребне за обуку алгоритама и АИ, али се они обучавају коришћењем индуктивне логике. Дакле, ако програмирају да виде више ставки, али им се приказује само један резултат, алгоритам ће комуницирати различите ствари као само једну ствар. На пример, ако је алгоритам програмиран да препознаје јабуке, али му се приказују само црвене јабуке, код ће видети све у тој групи као црвену јабуку. Иако је ово нетачно у стварном постојању јабука, тачно је кроз оно што је алгоритам подучен.

Алисон Батлер: Алгоритам реагује на људски унос, зар не? Мислим, мислим да је 1980-их, када смо се некако први пут упознали са рачунарима, постојала је мала фраза, „смеће унутра, смеће напоље“ да ако програмирате, мислим, то није било само обични људи у нашим дневним собама програмирају компјутере у том тренутку, зар не? Али ако сте програмирали у смећу, онда сте добили смеће. И мислим да то видимо са нашом генеративном вештачком интелигенцијом. На пример, свако од нас ко се спотакне или мучи са ЦхатГПТ-ом, можда оно што морамо да погледамо је оно што програмирамо у њега. То је софистицираност која се дешава да ово нисам ја који неспретно покушавам да схватим да ли ЦхатГПТ може да ми направи планове оброка за недељу, тако да не морам толико да размишљам када одем у продавницу. Ово је веома софистицирано програмирање које онда уоквирује и конструише како ми остали гледамо на свет, попут нашег примера софтвера за препознавање лица, а ми имамо пример незаслужене привилегије да будемо белци из 21. века. Та бела се много боље уклапа у модел.

Цхрис Хедгес: Нолане, желим да причам о мигрантима. Пишете у књизи да су школе, посебно универзитети у САД, Великој Британији и Аустралији, овлашћени и од законодаваца очекују да идентификују студенте мигранте са спорним или илегалним имиграционим статусом. Министарство за унутрашњу безбедност САД одржава велике количине података у сврху лоцирања и праћења миграната. На пример, ЛекисНекис, који се широко користи у образовању, продаје податке Служби за имиграцију и царину Одељења за унутрашњу безбедност, ИЦЕ. ЛекисНекис, подружница РЕЛКС корпорације, нуди производе за анализу података и онлајн базе података. Утврђено је да је ИЦЕ-у пружио осјетљиве информације, које је ИЦЕ вјероватно користио за праћење и хапшење појединаца ради депортације.

Нолан Хигдон: Да, ово је дошло из поглавља које је било мотивисано чињеницом да сваки пут када говоримо о овој теми, увек бисмо добили ово питање, неизбежно од некога ко каже „Па, па шта? Немам шта да кријем. Ко брине о мојој приватности?" И у поглављу које читате одатле, Крис, покушали смо да изнесемо листу различитих рањивости, а једна су посебно студенти који су оспорили, или такозвани, статус илегалног мигранта. Они очигледно имају разлог да желе приватност. Можда то нису ни они, можда живе са неким ко има споран мигрантски статус, кога желе да заштите и кроз сопствену приватност, али учествујући у процесу учења где су ти алати присутни, угрожавају тај свој мигрантски статус. или људи са којима живе, може се користити против њих за депортацију, хапшење или било шта друго. 

И ово виђамо изнова и изнова. Зато мислимо да су ови алати толико погубни, јер су тамо где смо започели овај разговор доведени због ствари као што су безбедност и побољшано учење и ДЕИ и ствари са којима би се већина људи сложила, али у пракси су користили против тих мера, криминализујући људе, надгледајући их, а затим користећи те информације, евентуално да би некога депортовали.

„процес учења у којем су ови алати присутни...могли би се користити против њих за депортацију, хапшење или било шта друго.”

Цхрис Хедгес: Такође истичете зато што школски уређаји могу и упозоравају кампусе на веб претраге ученика, људе који претражују њихову сексуалност и који су надмашили сексуалне преференције ученика. Као резултат тога, ЛГБТК+ ученици покушавају да траже информације о својој сексуалности или сексуалној радозналости, укључујући питања у вези са здрављем, ризикују да се јаве школским званичницима, органима за спровођење закона и свима који могу да приступе њиховим информацијама.

Нолан Хигдон: Да, ово се враћа на оно што смо говорили, зар не? Верујемо да образовање треба да буде вежба слободе. Људи би требало да буду у могућности да истражују ко су, истражују информације. Очекује се да ће они правити грешке у учионици као ученици, само наши наставници, али треба да се осећају пријатно да би могли да праве те грешке. Када је идеја да сте стално под надзором, или би то могло да се врати вашим родитељима, или би се ово могло емитовати свету, мање је вероватно да ће ученици делити. Мање је вероватно да ће претражити те информације. То смањује радозналост, која је од суштинског значаја за образовни процес, а да не помињемо да се ови људи боре са критичним питањима о свом идентитету, тако да ментална траума и тешкоћа затварања једног од ретких простора где могу да истражују, мислим то само говори о проблему са надзором и образовним процесом.

Цхрис Хедгес: Алисон, желим да причам о томе шта ово ради у школама и на универзитетима, ви пишете да је овај стални надзор начин да се осигура да се факултет придржава идеолошке хомогености коју тражи школско руководство. Почиње процесом пријаве када се од кандидата тражи да поделе приватне детаље, као што су њихови приступи настави и изјаве о различитости, које се користе да би се осигурала идеолошка хомогеност у кампусу. Наставља се док ученици, често илегално, бележе шта наставници раде у учионици. Ово се може и користило да се изврши притисак на просветне раднике да напусте своју професију ако се сматрају да имају идеолошку позицију која је у супротности са статус куо. Гледали смо ово више пута од 7. октобра.

Алисон Батлер: Мислим да је једна од ствари које ове технологије надзора могу да ураде, било намерно или само случајно, да подстакну окружење неповерења, зар не? Као што је Нолан рекао, као што сам рекао, као што ми стално говоримо у нашим учионицама, школским учионицама, то је место где се праве грешке. То је место за саплитање. Ово је место да будете радознали. То је место где незнање треба разумети на одличан начин. Улазим у учионицу као студент не знајући нешто. Ја сам незналица о томе. Имам прилику да учим из тога. 

Када имамо окружење у којем имамо све ове дивизије постављене за нас путем технологије, све то ризикује да нестане, нестанак је сувише мека реч, да буде избачено, зар не? Не кажем да ученици треба да имају или да наставници треба да имају дане испуњене ужасним причама мржње, али мислим да треба да научимо толико различитих перспектива да бисмо заиста у потпуности предавали и учили. 

А наше дигиталне технологије имају способност снимања, то је ствар која је важна, али имају и способност манипулације, што мења приче које причају наставници и ученици. То ствара учионице које ће, у најбољем случају, рискирати да буду досадне, у реду, али оно о чему заправо говоримо је гушење учења. Говоримо о гушењу изложености. Говоримо о гушењу како управљати разликама, зар не? Мислим да, док посматрамо наше глобалне сукобе ових дана, посебно оно што се дешава у Израелу/Палестини је да нам се уче лекције које говоре да је разлика лоша у односу на разлику начин да почнемо да покушавамо да учимо једни о другима као људским бићима. 

Дакле, када се разлика, када дискусија, када питање, када се неразумевање, истински недостатак разумевања гуши овим дигиталним технологијама, наше учионице више нису места радозналости или истраживања. То су фабрике, само да нам дају диплому, а та диплома можда и не значи толико. Опет, не залажем се ни на који начин, у облику или форми, за учионицу пуну мржње, само да бих на неки начин доказао да су ствари другачије, већ више о чињеници да треба да имамо окружења у којима нам је непријатно , радознали, радознали, узбуђени, све то као алат за учење, и да то радимо заједно у заједници, зар не? 

Мислим да је још једна велика ствар са овим технологијама за надзор, посебно са нашим технологијама друштвених медија, то што су невероватно изоловане. Они су, у ствари, прилично антисоцијални. А оно што школа може да уради, оно што учионице могу да ураде, оно што настава и учење могу да ураде је изградња сарадње и изградња заједнице, што се супротставља изолацији. То се супротставља томе да силоификација и технологије надзора веома напорно раде на изградњи изолације и изградње силоса.

Цхрис Хедгес: Па, то искључује свако преиспитивање доминантног наратива, зар не?

Алисон Батлер: Апсолутно, а ученици не разумеју или не знају структуру доминантног наратива. Не знају нужно да то доводе у питање. Морамо да почнемо да причамо о свим овим стварима више, а то значи да будемо заједно у учионицама, у нашем свету, да будемо заједно у учионицама и да уклонимо, најбоље што можемо, ове технологије.

Цхрис Хедгес: Па, у сваком тоталитарном систему, поента је да се ускрати могућност постављања питања. Нолане, желим да питам, рекли сте, постоји добро документована историја послодаваца који користе надзор да експлоатишу раднике и поткопају колективно преговарање. Уместо да посматрају ЕдТецх надзор као корист за образовни процес или безбедносну меру, едукатори треба да схвате да се може користити за податке како би се поткопала моћ запосленог. Говори о томе.

Нолан Хигдон: Да, ово је био заиста фасцинантан део књиге, и знам да смо покушавали да представимо факултетским синдикатима. Али да, постоји дуга историја послодаваца која сеже вековима уназад, користећи физичке шпијуне или покушавајући да шпијунирају комуникацију да би открили ко је раднички агитатор и уклонили њих и свакога ко саосећа са њима. Ово је потпуно нова ера. Имамо ове алате у учионици који могу да надгледају људе док раде у учионици. Теоретски користите ствари, било у контексту или ван контекста, да бисте се решили тих запослених.

Такође, разговарали смо о Израелу, Гази, доста запослених, факултету тренутно, они немају заштиту. Видели смо додатак или по вољи високог образовања. Дакле, без обзира на то како се људи осећају у вези са тим сукобом, они га избегавају у учионици јер се плаше да све што кажу може бити употребљено против њих да изгубе посао, а то не губе само они, већ и ученици губе прилику да бавити се критичним светским проблемом. Штавише, као факултет, ови алати такође покушавају да науче шта радимо, тако да прикупљају наше податке и профитирају од тога, а да нам не плаћају.

Генерално, раднички покрет жели да буде плаћен за рад. Али штавише, они такође обучавају ове алате како би покушали да ураде неке од функција онога што факултет ради. Дакле, ви тренирате своју замену на неком нивоу, а ја мислим на ствари попут паметног оцењивања и паметног писања задатака, ових нових алата који се појављују.

Или постоји неко место где можете да имате слику свог лица, можете да куцате и слика ће вам предавати. То је начин да вас замени и као предавање. Дакле, многе од ових ствари се спуштају на коцку, одузимају приватност, замењују послове, а факултети заправо учествују у процесу користећи ове алате и не добијају строге баријере у својим уговорима да спрече ову врсту економске експлоатације, да не спомињемо овај покушај надзора да поткопа процес преговора.

„Без обзира на то како се људи осећају у вези са тим сукобом, они га избегавају у учионици јер се плаше да све што кажу може бити употребљено против њих да изгубе посао, а то не губе само они, већ и ученици губе прилику да бавити се критичним светским питањем."

Цхрис Хедгес: Алисон, ако се не контролише, знам да завршаваш књигу са предлозима како да обуздамо овај задирање у нашу приватност, али ако се не заустави, у каквом ћемо образовном, па чак и друштвеном и културном окружењу живети?

Алисон Батлер: Мислим да ако се не контролише, ризикујемо да живимо у фабричким школама, као што сам раније рекао, да ћемо само некако прогурати наше ученике на путу да узму парче папира. Обучаваћемо будуће генерације да је нормално да се надгледају, да не постоји таква ствар као што је приватност. Имаћемо неке врсте образовања напамет где су веома безбедне информације и безбедан начин њиховог презентовања, а ми ћемо, бар у смислу дигиталног језика, знати све о свима, уз могућу упозорење да они који се уклапају у расу, пол и економске и физичке способности, цитат, ненавођење, норме, биће лакше, али ћемо почети да видимо сва наша тела која се не уклапају, све наше људе који се не уклапају нужно у то, опет, веома великодушан, цитирајте, не цитирајте, нормирајте, померајте се све даље и даље на рубове. 

Мислим да бисмо могли да видимо да се за прилично кратко време наше учионице неће сматрати местима радозналости, радозналости. О њима ће се размишљати као о местима пасивног прихватања врло баналних, пажљивих информација.

У исто време, вероватно ће изгледати прилично кул, јер наше технологије за надзор, све наше технологије, изгледају веома софистицирано. Они су врхунац. Они су често рукотворине, зар не? Као што је Нолан раније поменуо, толико тога што користимо долази нам из војно-индустријског комплекса — да можемо да се возимо на непознатим местима је ГПС, застарела војна технологија. Оно што можемо да правимо сјајне слике попут забава, венчања или некретнина је технологија дрона и застарела војна технологија. Мислим да садржај наше учионице ризикује да буде крајње баналан и досадан. Њихов изглед би могао да буде прилично кул, што би могло бити стварно блиставо и позвати нас да заборавимо да размишљамо о садржају.

Цхрис Хедгес: Па кад те влада гледа 24 сата, не можеш да употребиш реч слобода, то је однос између господара и роба. То су били Нолан Хигдон и Алисон Батлер у њиховој књизи, Образовање о надзору: кретање кроз упадљиво одсуство приватности у школама. То је био заиста, заиста сјајан посао који сте обоје урадили. Желим да се захвалим Софији [Менеменлис], Дијегу [Рамосу] Томасу [Хеџису] и Максу [Џонсу], који су продуцирали емисију. Можете ме пронаћи на ЦхрисХедгес.Субстацк.цом.

Цхрис Хедгес је новинар добитник Пулицерове награде који је био страни дописник 15 година за Нев Иорк Тимес, где је служио као шеф бироа за Блиски исток и шеф бироа за Балкан за лист. Претходно је радио у иностранству за Тхе Даллас Морнинг Невс, Тхе Цхристиан Сциенце Монитор и НПР. Он је водитељ емисије „Тхе Цхрис Хедгес Репорт“.

Овај чланак је из Сцхеерпост. 

НАПОМЕНА ЗА ЧИТАОЦЕ: Сада ми више не преостаје начин да наставим да пишем недељну колумну за СцхеерПост и производим своју недељну телевизијску емисију без ваше помоћи. Зидови се приближавају, запањујућом брзином, независном новинарству, при чему елите, укључујући елите Демократске странке, траже све већу цензуру. Молимо, ако можете, пријавите се на цхрисхедгес.субстацк.цом тако да могу да наставим да постављам своју колумну од понедељка на СцхеерПост-у и продуцирам своју недељну телевизијску емисију „Извештај Цхрис Хедгес-а“.

Овај интервју је из Сцхеерпост, за које пише Крис Хеџес редовна колона. Кликните овде да бисте се пријавили за обавештења путем е-поште.

Ставови изражени у овом интервјуу могу, али не морају одражавати ставове Цонсортиум Невс.