Moderadores do Facebook: ‘Somos as Amídalas da Internet’

Na manhã do último dia 14 de abril, um repórter Senior de notícias de tecnologia do Buzzfeed compartilhou o que parecia ser um relato angustiante do que é trabalhar como um moderador de conteúdo no Facebook.

A nota interna anônima sinalizando a renúncia do empregado foi lançada no Twitter por Ryan Mac em uma série de nove prints. O suposto funcionário em questão é baseado em Austin, TX e trabalha para a Accenture, uma empresa que fornece funcionários para moderação de conteúdo no Facebook.

Um moderador de conteúdo do Facebook contratado pela Accenture em Austin se demitiu esta manhã com uma ácida nota interna. Eu digitei na íntegra para que as pessoas possam ler por si mesmas.

A mensagem descreve a moderação de conteúdo como um trabalho desgastante tanto do ponto de vista mental como físico, que levou alguns de seus colegas de trabalho a entrar em medicação psiquiátrica pela primeira vez ou se auto-medicar com álcool e drogas.

As experiências traumatizantes dos moderadores de conteúdo são bem documentadas ao longo dos anos em publicações como Wired Magazine.

O funcionário em questão alegou que o Facebook fez melhorias em seu programa de bem-estar, mas sustenta que elas ainda são inadequadas, afirmando que “os gerentes vêem os cérebros dos funcionários como máquinas”, em vez de levar em conta as conseqüências do estresse no ambiente de trabalho.

“A questão real, no entanto, não é o impacto persistente de imagens individuais; é o acúmulo de milhares delas ao longo do tempo”, escreve o moderador anônimo. “Os analistas de conteúdo são pagos para olhar o pior da humanidade por oito horas por dia. Somos as amígdalas da Internet, uma primeira linha de defesa – constantemente bombardeada – contra potenciais traumas para a base de usuários.”

O empregado logo descobre que o contrato de confidencialidade, assinado por todos os funcionários quando entram na empresa, torna difícil manter a saúde mental, bem como se candidatar a outros empregos, uma vez que eles não podem discutir os detalhes de sua atividade como moderadores de conteúdo. Soluções propostas incluem treinamento em saúde mental para gerentes, mais tempo em atividades de bem-estar e capacidade de acesso a terapia, entre várias outras sugestões.

O repórter do Buzzfeed propôs que, se executivos como Mark Zuckerberg passassem um tempo experimentando pessoalmente o trabalho de moderação de conteúdo, eles talvez pudessem ficar mais dispostos a fazer melhorias. No entanto, quando questionado em 2019 pela congressista americana Katie Porter, Zuckerberg disse que esse não seria o melhor uso de seu tempo.

O “engajamento” nas redes sociais

Há algo sobre as mídias sociais que os seres humanos não são psicologicamente preparados para lidar. Elas são uma abstração perversa e não natural da comunidade social humana a que nosso cérebro não reage bem. Como um fac-simile da genuína humanidade, ela nos mergulha em algo parecido com uma sala de espelhos, o “uncanny valley” para interações sociais. Pode ser, por tudo o que sabemos, que a principal razão pela qual alguém posta na mídia social seja a raiva. Se um estudo adequado fosse feito, é possivel que ele revelasse exatamente isso.

Quarentenas e lockdowns forçam as pessoas a ficar dentro de casa mergulhadas nas mídias sociais. De repente, todo mundo está no hábito diário de um solipsismo insalubre e irracional. Contudo, sabemos que os seres humanos, em algum nível fundamental como criaturas sociais, precisam interagir na comunidade cara-a-cara,

Quando o Facebook diz que quer “tornar o mundo mais aberto e conectado”, ele quer, na verdade, se tornar O MEIO para toda a interação interpessoal. Ao olhar para trás a esta era, o ser humano futuro talvez dirá: “Como eles podiam ficar na frente de uma tela o dia todo? Eles não sabiam o que isso estava fazendo com eles?”

Como um desenvolvedor de interface do usuário por profissão, eu posso identificar precisamente as obscuras tríades das escolhas de design de interface do usuário que viciou as pessoas à mídia social.

A rolagem infinita, o arquétipo dos esquemas de “engajamento” usado por quase todas as redes sociais, é problemática porque faz os usuários ficarem conectados por mais tempo. O resultado é que os usuários se mantêm ligado em seu feed, sem pensar, por um período de tempo muito mais longo do que ficavam anos atrás , o que aumenta o lucro para a empresa que executa o aplicativo. O usuário não tem ideia de que esses conteúdos são projetados para gerar padrões de uso viciantes para melhorar os lucros da Big Tech,

Entres as coisas mais dramáticas estão os “pontos acumulados” nos mais diversos sites. No Reddit, isso é chamado de karma. No Twitter, são os likes e retweets. Essa pontuação numérica simples exibe a atitude geral da comunidade em relação a um determinado conteúdo. À primeira vista, isso parece ser um conceito radicalmente democrático; todo mundo pode votar! A realidade, porém, é muito diferente. Reddit, por exemplo, sempre obfuscou a verdadeira pontuação do karma (“para evitar a brigadização de votos”). Além disso, a posição de um pedaço de conteúdo dentro do seu feed pode ser intencionalmente decidida pelo Home Office, não pela Comunidade (algoritmo). Isso é incrivelmente sinistro, embora não pareça aos olhos não-treinados

A parte mais bizarra da mídia social é o vício químico. Quando você clica em um ícone para mostrar sua apreciação ou reação a um conteúdo, você recebe um “shot” de dopamina. Isso adiciona valor à interação, e faz com que o usuário se sinta bem. Isso traz, literalmente, um componente quimicamente viciante à mídia social.

O Reddit criou um algoritmo que tece a comunidade de tal modo que parece ser democrático em seu funcionamento geral, mas na verdade é realmente especificamente curado para um conjunto determinado de fins políticos e sociais. Ele promove um sentimento de exclusão a qualquer um que se atreva a discordar do que “todos” já acreditam.

O grande fantasma assombrando o século XXI não será um tipo de “-ismo”. Será a grande besta da Tecnocracia Global, e o Big Brother não será exatamente um governo. Pelo contrário, os ministérios da verdade, paz, amor e abundância serão entidades privadas (ou negociadas publicamente).

Desta forma, nenhuma constituição, ou Magna Carta, ou qualquer outro documento fundamental destinado a manter a tirania do governo à distância, será capaz de operar como pretendido. Não será “o governo privando-nos de nossos direitos”. Serão empresas privadas com seus próprios termos de serviço. Até agora, podemos viver sem Twitter ou Reddit ou Facebook se realmente quisermos. Em breve, provavelmente não seremos capazes de desativar a ditadura tecnocrática a que todos estamos sujeitos.