'O dilema social' da Netflix conta apenas metade da história

As redes sociais e a IA por trás delas estão entre as múltiplas crises que não podemos mais ignorar à medida que o capitalismo chega ao fim de uma trajetória, escreve Jonathan Cook.

By Jonathan Cook
Jonathan-Cook.net

ISe você se perguntar o que diabos está acontecendo agora – a pergunta “Por que o mundo está virando uma merda?” pensamento – você pode achar o novo documentário da Netflix “The Social Dilemma” um bom ponto de partida para esclarecer seu pensamento. Digo “ponto de partida” porque, como veremos, o filme sofre de duas grandes limitações: uma na análise e outra na conclusão. No entanto, o filme é bom a explorar os contornos das grandes crises sociais que enfrentamos actualmente – sintetizadas tanto pela nossa dependência do telemóvel como pela sua capacidade de religar a nossa consciência e as nossas personalidades.

O filme defende de forma convincente que este não é simplesmente um exemplo de vinho velho em garrafas novas. Este não é o equivalente da Geração Z aos pais dizendo aos filhos para pararem de assistir tanta TV e brincarem ao ar livre. As redes sociais não são simplesmente uma plataforma mais sofisticada para publicidade inspirada em Edward Bernays. É um novo tipo de ataque a quem somos, não apenas ao que pensamos.

De acordo com “O Dilema Social”, estamos a atingir rapidamente uma espécie de “horizonte de acontecimentos” humano, com as nossas sociedades à beira do colapso. Enfrentamos o que vários entrevistados chamam de “ameaça existencial” devido à forma como a Internet, e particularmente as redes sociais, estão a desenvolver-se rapidamente.

Não creio que estejam sendo alarmistas. Ou melhor, penso que eles têm razão em ser alarmistas, mesmo que o seu alarme não seja inteiramente pelas razões certas. Chegaremos às limitações de seu pensamento em um momento.

. Contribuir para Consórcio
Notícias' Campanha de fundos de inverno

Como muitos documentários deste tipo, “O Dilema Social” está profundamente ligado à perspectiva partilhada dos seus muitos participantes. Na maioria dos casos, são ex-executivos e engenheiros de software seniores do Vale do Silício, profundamente desiludidos. Eles compreendem que as suas criações outrora apreciadas – Google, Facebook, Twitter, YouTube, Instagram, Snapchat (o WhatsApp parece estranhamente sub-representado na lista de chamada) – transformaram-se numa galeria dos monstros de Frankenstein.

Isso é tipificado na lamentável história do cara que ajudou a inventar o botão “Curtir” para o Facebook. Ele pensou que sua criação inundaria o mundo com o brilho caloroso da irmandade, espalhando amor como um anúncio da Coca Cola. Na verdade, acabou por inflamar as nossas inseguranças e a necessidade de aprovação social, e aumentou dramaticamente as taxas de suicídio entre as adolescentes.

Se o número de visualizações do documentário servir de medida, a desilusão com as redes sociais está a espalhar-se muito além dos seus inventores.

Crianças como cobaias

Embora não seja sinalizado como tal, “O Dilema Social” divide-se em três capítulos.

A primeira, que trata do argumento com o qual já estamos mais familiarizados, é que as redes sociais são uma experiência global que altera a nossa psicologia e as nossas interações sociais, e os nossos filhos são as principais cobaias. A geração do milênio (aqueles que atingiram a maioridade na década de 2000) é a primeira geração que passou seus anos de formação tendo o Facebook e o MySpace como melhores amigos. Seus sucessores, a Geração Z, mal conhecem um mundo sem as mídias sociais na vanguarda.

O filme apresenta um argumento relativamente fácil: que os nossos filhos não são apenas viciados nos seus telemóveis brilhantes e no que está dentro da embalagem, mas que as suas mentes estão a ser agressivamente reconectadas para prender a sua atenção e depois torná-los flexíveis para que as empresas vendam coisas.

Cada criança não está apenas travada em uma batalha solitária para manter o controle de sua mente contra as habilidades de centenas dos maiores engenheiros de software do mundo. A luta para mudar a perspectiva deles e a nossa – o sentido de quem somos – está agora nas mãos de algoritmos que são refinados a cada segundo de cada dia pela IA, a inteligência artificial. Como observou um entrevistado, as redes sociais não vão se tornar menos especialista em manipular nossos pensamentos e emoções, ele continuará ficando muito, muito melhor nisso.

Jaron Lanier, um dos pioneiros da realidade virtual, explica o que o Google e o resto dessas corporações digitais estão realmente vendendo: “É a mudança gradual, leve e imperceptível em seu próprio comportamento e percepção – que é o produto.” É também assim que estas empresas ganham dinheiro, “mudando o que fazem, o que pensam, quem são”.

Eles obtêm lucros, grandes lucros, com o negócio das previsões – prevendo o que você pensará e como se comportará, para que seja mais facilmente persuadido a comprar o que os anunciantes querem lhe vender. Para terem boas previsões, estas empresas tiveram de acumular grandes quantidades de dados sobre cada um de nós – o que por vezes é chamado de “capitalismo de vigilância”.

“Nossos medos, inseguranças, desejos e anseios podem ser saqueados pelos anunciantes.”

E, embora o filme não explique isso exatamente, há outra implicação. A melhor fórmula para os gigantes da tecnologia maximizarem as suas previsões é esta: além de processarem muitos dados sobre nós, devem gradualmente reduzir a nossa distinção, a nossa individualidade, as nossas excentricidades, para que nos tornemos uma série de arquétipos. Então, as nossas emoções – os nossos medos, inseguranças, desejos, anseios – podem ser mais facilmente avaliadas, exploradas e saqueadas pelos anunciantes.

Estas novas empresas negociam futuros humanos, tal como outras empresas há muito que negociam futuros de petróleo e futuros de barriga de porco, observa Shoshana Zuboff, professora emérita da Escola de Negócios de Harvard. Esses mercados “tornaram as empresas da Internet as empresas mais ricas da história da humanidade”.

Terraplanistas e Pizzagate

O segundo capítulo explica que, à medida que somos conduzidos às nossas câmaras de eco de informações que se auto-reforçam, perdemos cada vez mais a noção do mundo real e uns dos outros. Com isso, nossa capacidade de empatia e compromisso é corroída. Vivemos em diferentes universos de informação, escolhidos para nós por algoritmos cujo único critério é como maximizar a nossa atenção aos produtos dos anunciantes para gerar maiores lucros para os gigantes da internet.

Qualquer pessoa que tenha passado algum tempo nas redes sociais, especialmente numa plataforma combativa como o Twitter, sentirá que há uma verdade nesta afirmação. Coesão social, empatia, jogo limpo e moralidade não estão no algoritmo. Nossos universos de informação separados significam que estamos cada vez mais propensos a mal-entendidos e confrontos.

E há outro problema, como afirma um entrevistado: “A verdade é chata”. Ideias simples ou fantasiosas são mais fáceis de entender e mais divertidas. As pessoas preferem compartilhar o que é emocionante, o que é novo, o que é inesperado, o que é chocante. “É um modelo de desinformação com fins lucrativos”, como observa outro entrevistado, afirmando que a investigação mostra que informações falsas têm seis vezes mais probabilidade de se espalharem em plataformas de redes sociais do que informações verdadeiras.

E à medida que os governos e os políticos trabalham mais estreitamente com estas empresas tecnológicas – uma fato bem documentado o filme falha totalmente na exploração – os nossos governantes estão melhor posicionados do que nunca para manipular o nosso pensamento e controlar o que fazemos. Podem ditar o discurso político de forma mais rápida, mais abrangente e mais barata do que nunca.

Esta seção do filme, entretanto, é a menos bem-sucedida. É verdade que as nossas sociedades estão dilaceradas pela crescente polarização e pelo conflito e parecem mais tribais. Mas o filme implica que todas as formas de tensão social – desde a teoria da conspiração pedófila paranóica de Pizzagate até aos protestos Black Lives Matter – são o resultado da influência prejudicial dos meios de comunicação social.

E embora seja fácil saber que os Terraplanistas estão a espalhar desinformação, é muito mais difícil ter a certeza do que é verdadeiro e do que é falso em muitas outras áreas da vida. A história recente sugere que os nossos parâmetros não podem ser simplesmente o que os governos dizem ser verdade – ou Mark Zuckerberg, ou mesmo “especialistas”. Pode ter passado algum tempo desde que os médicos nos disseram que os cigarros eram seguros, mas há apenas alguns anos foi dito a milhões de americanos que os opiáceos os ajudariam – até que uma crise de dependência de opiáceos eclodiu nos EUA.

Esta seção comete um erro de categoria do tipo apresentado por um dos entrevistados no início do filme. Apesar de todas as desvantagens, a Internet e as redes sociais têm uma vantagem indiscutível quando usadas simplesmente como uma ferramenta, argumenta Tristan Harris, ex-especialista em ética de design do Google e a alma do filme. Ele dá o exemplo de ser capaz de chamar um táxi quase instantaneamente ao pressionar um botão do telefone. Isto, claro, realça algo sobre as prioridades materialistas da maioria dos líderes de Silicon Valley.

Mas a caixa de ferramentas aninhada nos nossos telefones, repleta de aplicações, não satisfaz apenas o nosso desejo por conforto e segurança materiais. Também alimentou o desejo de compreender o mundo e o nosso lugar nele, e ofereceu ferramentas para nos ajudar a fazer isso.

Os telefones tornaram possível que pessoas comuns filmassem e compartilhassem cenas antes testemunhadas por apenas um punhado de transeuntes incrédulos. Todos nós podemos ver por nós mesmos um policial branco ajoelhado desapaixonadamente no pescoço de um homem negro durante nove minutos, enquanto a vítima grita que não consegue respirar, até morrer. E poderemos então julgar os valores e prioridades dos nossos líderes quando estes decidirem fazer o mínimo possível para evitar que tais incidentes voltem a ocorrer.

A Internet criou uma plataforma a partir da qual não apenas ex-executivos desiludidos do Vale do Silício podem denunciar o que os Mark Zuckerberg estão tramando, mas também um soldado do exército dos EUA como Chelsea Manning, expondo crimes de guerra no Iraque e no Afeganistão, e assim pode um especialista em tecnologia de segurança nacional como Edward Snowden, revelando a forma como estamos sendo secretamente vigiados pelos nossos próprios governos.

Os avanços tecnológicos digitais permitiram que alguém como Julian Assange criasse um site, WikiLeaks, que nos ofereceu uma janela sobre o reais mundo político – uma janela através da qual poderíamos ver os nossos líderes comportando-se mais como psicopatas do que como humanitários. Uma janela que esses mesmos líderes estão agora lutando com unhas e dentes para fechar, levando-o a julgamento.

Pequena janela para a realidade

“O Dilema Social” ignora tudo isto para se concentrar nos perigos das chamadas notícias falsas. Dramatiza uma cena que sugere que apenas aqueles que são sugados por buracos negros de informação e sites de conspiração acabam saindo às ruas para protestar – e quando o fazem, sugere o filme, não terminará bem para eles.

Os aplicativos que nos permitem chamar um táxi ou navegar até um destino são, sem dúvida, ferramentas úteis. Mas ser capaz de descobrir o que os nossos líderes estão realmente a fazer – se estão a cometer crimes contra outros ou contra nós – é uma ferramenta ainda mais útil. Na verdade, é vital se quisermos parar o tipo de comportamentos autodestrutivos que preocupam “O Dilema Social”, nomeadamente a nossa destruição dos sistemas de vida do planeta (uma questão que, com exceção do comentário final de um entrevistado, o filme permanece intacto).

“As plataformas caóticas de mídia social proporcionaram uma oportunidade de obter insights sobre uma realidade que antes estava obscurecida.”

O uso das mídias sociais não significa necessariamente que se perca o contato com o mundo real. Para uma minoria, as redes sociais aprofundaram a sua compreensão da realidade. Para aqueles cansados ​​de ter o mundo real mediado por um bando de bilionários e corporações de mídia tradicionais, as caóticas plataformas de mídia social proporcionaram uma oportunidade de obter insights sobre uma realidade que antes estava obscurecida.

O paradoxo, claro, é que estas novas empresas de comunicação social não são menos propriedade de bilionários, não são menos sedentas de poder, não são menos manipuladoras do que as antigas empresas de comunicação social. Os algoritmos de IA que estão a aperfeiçoar rapidamente estão a ser usados ​​– sob a rubrica de “notícias falsas” – para expulsar este novo mercado de denúncias, de jornalismo cidadão, de ideias dissidentes.

As empresas de mídia social estão rapidamente melhorando a distinção entre o bebê e a água do banho, para que possam jogá-lo fora. Afinal de contas, tal como os seus antepassados, as novas plataformas de media estão no negócio dos negócios e não no de nos acordar para o facto de estarem inseridas num mundo corporativo que saqueou o planeta em busca de lucro.

Grande parte da nossa actual polarização e conflito social não se situa, como sugere “O Dilema Social”, entre aqueles que são influenciados pelas “notícias falsas” dos meios de comunicação social e aqueles que são influenciados pelas “notícias reais” dos meios de comunicação social corporativos. Situa-se entre, por um lado, aqueles que conseguiram encontrar oásis de pensamento crítico e transparência nos novos meios de comunicação e, por outro, aqueles que estão presos ao antigo modelo dos meios de comunicação ou aqueles que —incapazes de pensar criticamente depois de uma vida inteira de consumidores de mídia corporativa — foram sugados fácil e lucrativamente para conspirações on-line niilistas.

Caixas Pretas Mentais

O terceiro capítulo chega ao cerne do problema sem indicar exatamente qual é esse cerne. Isto porque “O Dilema Social” não consegue extrair adequadamente das suas premissas já defeituosas a conclusão necessária para acusar um sistema no qual a empresa Netflix que financiou o documentário e o está a transmitir está tão profundamente enraizada.

Apesar de todas as suas ansiedades sinceras sobre a “ameaça existencial” que enfrentamos como espécie, “O Dilema Social” é estranhamente silencioso sobre o que precisa de mudar – além de limitar a exposição dos nossos filhos ao YouTube e ao Facebook. É um final desanimador para a viagem de montanha-russa que o precedeu.

Aqui quero voltar um pouco. O primeiro capítulo do filme faz parecer que a religação de nossos cérebros pela mídia social para nos vender publicidade é algo inteiramente novo. O segundo capítulo trata a crescente perda de empatia da nossa sociedade e o rápido aumento de um narcisismo individualista como algo inteiramente novo. Mas muito obviamente nenhuma das proposições é verdadeira.

Os anunciantes brincam com nossos cérebros de maneiras sofisticadas há pelo menos um século. E a atomização social – individualismo, egoísmo e consumismo – tem sido uma característica da vida ocidental há pelo menos tanto tempo. Estes não são fenômenos novos. Acontece que estes aspectos negativos de longo prazo da sociedade ocidental estão a crescer exponencialmente, a um ritmo aparentemente imparável.

Há décadas que caminhamos para a distopia, como deveria ser óbvio para qualquer pessoa que tenha acompanhado a falta de urgência política para lidar com as alterações climáticas desde que o problema se tornou óbvio para os cientistas na década de 1970.

As múltiplas formas como estamos a danificar o planeta – destruindo florestas e habitats naturais, empurrando espécies para a extinção, poluindo o ar e a água, derretendo as calotas polares, gerando uma crise climática – têm sido cada vez mais evidentes desde que as nossas sociedades transformaram tudo num mercadoria que poderia ser comprada e vendida no mercado. Começamos na ladeira escorregadia em direção aos problemas destacados pelo Dilema Social no momento em que decidimos coletivamente que nada era sagrado, que nada era mais sacrossanto do que o nosso desejo de ganhar dinheiro rápido.

É verdade que as redes sociais estão a empurrar-nos para um horizonte de eventos. Mas o mesmo acontece com as alterações climáticas e com a nossa economia global insustentável, baseada no crescimento infinito num planeta finito. E, mais importante ainda, estas crises profundas estão todas a surgir ao mesmo tempo.

Lá is uma conspiração, mas não do tipo Pizzagate. É uma conspiração ideológica, com pelo menos dois séculos de duração, levada a cabo por uma elite minúscula e cada vez mais fabulosamente rica para enriquecer ainda mais e manter o seu poder, o seu domínio, a todo o custo.

Há uma razão pela qual, como aponta Shoshana Zuboff, professora de administração de Harvard, as corporações de mídia social são as mais fantasticamente ricas da história da humanidade. E é também por essa razão que estamos a atingir o “horizonte de eventos” humano que todos os luminares do Vale do Silício temem, um horizonte onde as nossas sociedades, as nossas economias, os sistemas de suporte à vida do planeta estão todos à beira do colapso. juntos.

A causa dessa crise sistémica de amplo espectro não é nomeada, mas tem um nome. O seu nome é a ideologia que se tornou uma caixa negra, uma prisão mental, na qual nos tornamos incapazes de imaginar qualquer outra forma de organizar as nossas vidas, qualquer outro futuro que não aquele a que estamos destinados neste momento. O nome dessa ideologia é capitalismo.

Acordando da Matrix

As redes sociais e a IA por trás delas são uma das múltiplas crises que não podemos mais ignorar, à medida que o capitalismo chega ao fim de uma trajetória em que está há muito tempo. As sementes da natureza destrutiva atual e demasiado óbvia do neoliberalismo foram plantadas há muito tempo, quando o Ocidente “civilizado” e industrializado decidiu que a sua missão era conquistar e subjugar o mundo natural, quando abraçou uma ideologia que fetichizava o dinheiro e transformava as pessoas em objetos a serem explorados.

Alguns dos participantes de “O Dilema Social” aludem a isso nos últimos momentos do capítulo final. A dificuldade que têm em expressar o pleno significado das conclusões que tiraram de duas décadas passadas nas empresas mais predatórias que o mundo alguma vez conheceu pode dever-se ao facto de as suas mentes ainda serem caixas negras, impedindo-os de permanecer fora do sistema ideológico que, como nós, nascemos. Ou pode ser porque a linguagem codificada é a melhor que se pode gerenciar se uma plataforma corporativa como a Netflix permitir que um filme como este alcance um público de massa.

Tristan Harris tenta articular a dificuldade recorrendo a uma alusão cinematográfica: “Como você acorda da matriz quando não sabe que está na matriz?” Mais tarde, ele observa: “O que vejo é um monte de gente presa a um modelo de negócio, a um incentivo econômico, à pressão dos acionistas que torna quase impossível fazer outra coisa”.

Embora ainda enquadrado na mente de Harris como uma crítica específica às corporações das redes sociais, este ponto é obviamente verdadeiro para todas as corporações e para o sistema ideológico – o capitalismo – que fortalece todas estas corporações.

Outro entrevistado observa: “Não acho que esses caras [os gigantes da tecnologia] tenham a intenção de ser maus, é apenas o modelo de negócios”.

Ele está certo. Mas a “maldade” – a busca psicopática do lucro acima de todos os outros valores – é o modelo de negócio para todas as empresas, não apenas para as digitais.

O único entrevistado que consegue, ou tem permissão, para ligar os pontos é Justin Rosenstein, ex-engenheiro do Twitter e do Google. Ele observa eloquentemente:

“Vivemos num mundo em que uma árvore vale mais, financeiramente, morta do que viva. Um mundo em que uma baleia vale mais morta do que viva. Enquanto a nossa economia funcionar dessa forma e as empresas não forem regulamentadas, continuarão a destruir árvores, a matar baleias, a explorar a terra e a extrair petróleo do solo, mesmo sabendo que está destruindo o planeta e sabemos que deixará um mundo pior para as gerações futuras.”

Este é um pensamento de curto prazo baseado nesta religião do lucro a todo custo. Como se de alguma forma, magicamente, cada empresa agindo em seu interesse egoísta fosse produzir o melhor resultado. … O que é assustador – e o que, esperançosamente, será a gota d’água e nos fará acordar como civilização para o quão falha é esta teoria – é ver que agora we são a árvore, we são a baleia. Nossa atenção pode ser minada. Somos mais lucrativos para uma empresa se passarmos tempo olhando para uma tela, olhando para um anúncio, do que se passarmos nosso tempo vivendo nossa vida de uma maneira rica.”

Aqui está o problema condensado. Essa “teoria falha” sem nome é o capitalismo. Os entrevistados do filme chegaram à sua conclusão alarmante — que estamos à beira do colapso social, enfrentando uma “ameaça existencial” — porque trabalharam dentro das barrigas das maiores feras corporativas do planeta, como o Google e o Facebook.

Essas experiências proporcionaram à maioria desses especialistas do Vale do Silício uma visão profunda, mas apenas parcial. Embora a maioria de nós veja o Facebook e o YouTube como pouco mais do que locais para trocar notícias com amigos ou compartilhar um vídeo, esses especialistas entendem muito mais. Eles viram de perto as corporações mais poderosas, mais predatórias e mais devoradoras da história da humanidade.

No entanto, a maioria deles assumiu erradamente que as suas experiências no seu próprio sector empresarial se aplicam apenas ao seu sector empresarial. Eles compreendem a “ameaça existencial” representada pelo Facebook e pelo Google sem extrapolar para as ameaças existenciais idênticas representadas pela Amazon, Exxon, Lockheed Martin, Halliburton, Goldman Sachs e milhares de outras corporações gigantes e sem alma.

O Dilema Social oferece-nos a oportunidade de sentir o rosto feio e psicopata protegido pela máscara da afabilidade das redes sociais. Mas para aqueles que assistem com atenção, o filme oferece mais: uma oportunidade de compreender a patologia do próprio sistema que empurrou estes gigantes destrutivos das redes sociais para as nossas vidas.

Jonathan Cook é um ex- Guardian jornalista (1994-2001) e vencedora do Prêmio Especial Martha Gellhorn de Jornalismo. É jornalista freelancer baseado em Nazaré. Se você aprecia seus artigos, considere oferecendo seu apoio financeiro.

Este artigo é do blog dele Jonathan Cook.net. 

As opiniões expressas são exclusivamente do autor e podem ou não refletir as de Notícias do Consórcio.

Contribuir para Consórcio
Notícias' Campanha de fundos de inverno