Morte à Economia de Vigilância!

Neste exato momento, enquanto você lê este post, algoritmos estão tomando decisões sobre sua vida, com base em seus dados, sem o seu conhecimento e sem o seu consentimento. Algoritmos que muitas vezes não foram testados completamente, muito menos auditados periodicamente. Talvez você seja um dos milhões de negros americanos visados ​​pela Cambridge Analytica na tentativa de impedi-los de votar nas eleições de 2016. Talvez tenham negado a você um empréstimo, um emprego ou um apartamento recentemente.

Imagem: iStock

Se isso aconteceu, é quase certo que seus dados tenham algo a ver com isso. Esses dados pessoais na maioria das vezes são imprecisos, mas você não pode corrigi-los porque não tem acesso a eles. Você pode perder seu emprego devido a um algoritmo com defeito. E como disse o Cardeal Richelieu, “dê-me seis linhas escritas pelo mais honesto dos homens e eu encontarei nelas um motivo para mandá-lo para a forca”.

À medida que as empresas de tecnologia moldam nossas percepções, o preconceito e a discriminação – tão miseravelmente humanos – são incorporados naturalmente a seus produtos e serviços em vários níveis e de várias formas.

A economia de vigilância afronta a igualdade e a justiça. Você e seu vizinho não são mais tratados como cidadãos iguais. Você não tem oportunidades iguais a ele porque é tratado de maneira diferente com base em seus dados. Os anúncios e o conteúdo a que você tem acesso, os preços que paga pelos mesmos serviços e até o tempo que você espera no telefone para falar com o serviço de atendimento ao cliente dependem dos seus dados e de seu “score”.

Somos muito mais competentes para coletar dados pessoais do que para mantê-los seguros. Os dados pessoais são uma ameaça séria e não deveríamos coletá-los se não somos capazes de mantê-los seguros. Usando dados de localização de smartphones adquiridos de um “corretor de dados”, é possível rastrear oficiais militares com acesso a dados sigilosos, advogados poderosos e seus clientes, e até mesmo o presidente de um país (através do telefone de alguém que se considera e é pago para ser um agente do serviço secreto).

Nossa atual economia de dados é baseada na coleta de tantos dados pessoais quanto possível, armazenando-os indefinidamente e vendendo-os a quem pagar mais. Ter tantos dados confidenciais circulando livremente é, no mínimo, imprudente. Ao projetar nossa economia em torno da vigilância, estamos construindo uma perigosa estrutura de controle social, estrutura essa que está em conflito aberto com a liberdade. Na sociedade de vigilância que estamos construindo, não existe nada invisível ao radar. Não deveria ser nossa responsabilidade, como querem as grandes companhias, optar pela não coleta de dados nos navegadores. A não-coleta deveria vir como padrão em todo e qualquer software dedicado à comunicação na Internet.

É hora de acabar com a economia de vigilância. Não permitimos a compra e venda de votos (porque isso prejudica a democracia). Por que então devemos permitir a comercialização de dados pessoais? Não devemos permitir anúncios personalizados. Se os anúncios fossem transparentes sobre o que sabem sobre nós, talvez não fôssemos tão indiferentes ao modo como somos direcionados. As vantagens dos anúncios personalizados para os usuários são mínimas, na melhor das hipóteses, e podem ser alcançadas por meio de publicidade contextualizada. Por exemplo, exibir anúncios de equipamentos esportivos apenas quando o usuário procura equipamentos esportivos.

Precisamos ter certeza de que os algoritmos que afetam nossas vidas são confiáveis. Precisamos saber como os algoritmos estão nos julgando e com base em quais dados. Devemos implementar deveres de depositário fiel de dados: qualquer pessoa que deseje coletar ou gerenciar seus dados pessoais deve se comprometer legalmente a usá-los apenas em seu benefício e nunca contra você. Quem gerencia dados pessoais de terceiros é responsável ​​por eles. Temos que melhorar muito nossos padrões de segurança cibernética, através de lei. E é necessário também excluir periodicamente os dados de que não precisamos mais.

Enquanto a solução definitiva não aparece, escolha produtos compatíveis com a privacidade. Por exemplo, ao invés de usar a pesquisa do Google, use DuckDuckGo; em vez de usar o WhatsApp, use o Telegram; no lugar do Gmail, use ProtonMail. Essas escolhas simples podem ter um impacto muito significativo em nossas vidas. Ao escolher produtos éticos sinalizamos às empresas de Internet que nos preocupamos com a nossa privacidade.

Acabar com a economia de dados pode parecer uma proposta radical. Contudo, é ainda mais extremo ter um modelo de negócios cuja existência depende da violação de nosso direito à privacidade em grande escala.

Na verdade, isso é inaceitável.

cameras

Então Você Não Tem Nada a Esconder…

Até mesmo um exibicionista inveterado tem algo a esconder: certas entradas em um diário pessoal, predisposições genéticas, problemas financeiros, crises médicas, vergonhas adolescentes, compulsões anti-sociais, fantasias sexuais, sonhos radicais. Todos nós temos algo que queremos proteger da vista pública. A verdadeira questão é: quem consegue fechar as cortinas? E cada vez mais: como saberemos se elas estão realmente fechadas?

Por que se preocupar com a vigilância do Estado se você não tem nada a esconder? Essa se tornou uma das frases mais ignorantes proferidas em qualquer língua. É uma frase frequentemente expressa com uma voz confiante, cheia de certeza, mas falada por pessoas que, ipso facto, dificilmente estarão preparadas para quando alguém começar a cavar em todos os seus e-mails esquecidos ou nos seus posts mal-considerados nas mídias sociais. O cardeal Richelieu dizia: “Dê-me seis linhas escritas pelo mais honesto dos homens e eu acharei nelas um motivo para enviá-lo para a forca”.

A vigilância tornou-se imbricada na governança, negócios, vida social e até igrejas, mas toda essa tecnologia bem intencionada pode ter consequências inesperadas, que excedem em muito o propósito inicial pretendido. Nas cidades, o poder constituído amplia cada vez mais sua capacidade de vigilância, instalando mais e mais câmeras e radares, sob o aplauso desinformado dos cidadãos.

É tempo de começar um diálogo muito necessário sobre como nos relacionamos emocional e eticamente com a vigilância, e o que isso significa para nossa segurança e nosso modo de vida.

Alguém para cuidar de mim?

Imagine um “estado de visibilidade permanente” em que todas as suas ações podem ser registradas, e em que a cada click (ou tap, ou swipe) sua navegação deixe uma pegada digital na Internet, tornando-a completamente exposta e previsível. Este é o estado da tecnologia hoje.

Frantz Fanon, um filósofo e escritor, descreveu a resposta emocional e física ao monitoramento constante como: “tensões nervosas, insônia, fadiga, acidentes, cabeça ‘aérea’ e menos controle sobre os reflexos.”

Quando pensamos em vigilância, muitas vezes imaginamos algo como o romance “1984”, ou então as artes de uma agência governamental sombria – algo saído de um romance de Tom Clancy. Mas, de fato, a vigilância pode ser bem mais prosaica, e sentida em um nível muito real e íntimo.

Por exemplo, a mera observação da vida social revela as maneiras pelas quais uma pessoa pode monitorar um cônjuge ou parceiro, verificar suas contas de telefone, rastrear seus movimentos diários, com quem ele fala ao telefone ou no Whatsapp. Isso pode não ser o trabalho de um hacker ou de uma patrulha do governo, mas isso é, no entanto, um tipo (crescente) de vigilância. Agora imagine o que um hacker, ou qualquer adversário mal-intencionado pode fazer.

A preocupação é que os chamados “nativos digitais” se acomodem a esse estado de coisas em que a privacidade é crescentemente enfraquecida, a) porque isso proporciona coisas aparentemente mais fáceis, ágeis e convenientes, e b) porque somos induzidos a fazê-lo por corporações que manipulam nossa vontade através da enormidade de dados coletados sobre nós (Google, Facebook). Tudo o que recebemos em troca é um joguinho, uma conta de email, ou um aplicativo gratuito em uma rede social.

Policiamento via ‘Big Data’

A adoção de grandes volumes de análise de dados amplifica e transforma as práticas de vigilância policial.

O que é realmente importante é que não se trata apenas de uma única nova e transformadora tecnologia de vigilância. A ameaça é o poder do uso combinado de várias tecnologias diferentes em conjunto, o que confere às autoridades um nível de ascendência sobre a vida particular dos indivíduos que em um passado recente só seria possível no âmbito de uma autorização judicial.

Os Grandes Dados suplementam os relatórios policiais rotineiros, com avaliações de risco criminal baseadas em algoritmo. Por exemplo, em algumas jurisdições de países avançados, o risco criminal de um indivíduo é medido usando-se uma escala de pontos baseada no histórico criminal violento, prisões, liberdades condicionais concedidas ou episódios de interceptação para checagem policial. Pessoas com valores altos nessa escala são mais propensas a serem paradas pela polícia, adicionando ainda outro ponto ao seu registro, formando assim um círculo vicioso. Na China, essa escala (score social) é a base da vida social, do transporte urbano à permissão para se ter conta em banco, ou de se obter crédito. No ocidente, as seguradoras já baseiam seus prêmios na análise dos movimentos físicos dos portadores de celular (de carro ou a pé), facilitada pelos acelerômetros e outros sensores que equipam esses nossos computadores de bolso.

Quando se começa a codificar as práticas policiais como dados criminais objetivos, a sociedade se rende a um loop de feedback positivo cada vez mais acelerado. Isso coloca os indivíduos suspeitos sob novas, mais profundas e quantificadas formas de vigilância, mascaradas pela objetividade matemática. Isso leva a um número muito maior de reincidências, e torna a recuperação dos condenados algo quase impossível.

Para a vigilância funcionar éticamente, é preciso que os dados sejam perfeitos, mas eles nunca são. Vivemos em um mundo social confuso e os nossos dados constituem um reflexo confuso disso.

Definitivamente, é salutar usar tecnologias emergentes para melhorar a prestação de serviços, reduzir o crime e focar nos recursos. No entanto, esse poder fantástico precisa ser exercido com limites claros e respeito à cidadania e direitos fundamentais. Vamos ver um longo debate constitucional nos próximos anos.

O Computador Dos Meus Sonhos

O meu computador de sonho é muito simples. Tão simples que talvez seja impossível de possuir em 2021. Eu quero um computador que possa ser completamente autônomo quando eu quero que ele o seja, mas que também possa ser usado para comunicação segura com qualquer pessoa no planeta sem que eu seja observado por terceiros. Eu não quero ser espionado pelas grandes companhias de Internet. Eu não quero que as agências-de-três-letras dos EUA interceptem minhas conversas ou mesmo meus metadados.

Eu quero completa autonomia e privacidade sem ter que recorrer às soluções alternativas (anti-vírus, bloqueador de anúncios, etc, etc) que foram inventadas para “recuperar” um pouco do controle que eu deveria ter tido de maneira natural e assegurada em primeiro lugar. Em outras palavras, quero um computador que eu possua completamente. Eu quero um computador que faça o que eu quero que ele faça, não um que tenha objetivos nefários escondidos em seus circuitos, programados nele na fábrica.

E ainda mais, eu quero ter essas capacidades, independentemente do que legisladores e autoridades façam com a Internet para evitar que eu as tenha. Eu não quero ser dependente dos caprichos de um governo, ou da boa vontade de uma corporação gigante. Talvez eu esteja procurando por algo como o computador CP-300 que eu tinha no início dos anos 80, mas 10.000 vezes mais rápido, com uma solução de privacidade embutida, para que eu tenha total privacidade on-line e a capacidade de executar software moderno sem me preocupar com spyware.

A realidade…

Em lugar de meu computador de sonho, eu tenho um computador que é projetado em grande parte para maximizar os lucros da indústria de computadores. Exceto por um punhado de modelos muito avançados, com preços que a maioria das pessoas não pode comprar, nossos computadores são, cada vez mais, projetados para serem pequenas plataformas de publicidade, bem como veículos para maximizar as receitas de seus verdadeiros proprietários: coletores de dados on-line, anunciantes e empresas de “nuvem”.

Nossos computadores têm inúmeros componentes de hardware e software (backdoors) que são projetados para permitir que governos e corporações nos espionem e nos sigam pela internet. Tudo que podemos fazer é confiar em algoritmos de criptografia que são projetados com falhas sutis que podem levar anos, se não décadas, para vir à luz.

Mesmo os algoritmos de criptografia de código aberto, que alguns reivindicam estar acima de reprovação, são repetidamente denunciados por terem grandes falhas, e mesmo os protocolos de correção para essas falhas têm suas próprias falhas.

Isso tudo muitas vezes parece ser intencional, porque sabemos que os governos não suportam, por um único instante, que qualquer pessoa, em qualquer lugar, possa ouvir, dizer ou ver qualquer coisa que eles mesmos não têm conhecimento. Os governos parecem ficar universalmente aterrorizados com a menor possibilidade de que duas pessoas no mundo possam ter uma conversa privada.

Assim, eles fazem tudo o que podem para assediar as empresas de software e fabricantes de computadores, induzindo-as a criar “portas de fundos” e falhas intencionais que podem ser exploradas para tirar a nossa privacidade e nos impedir de falar livremente. E quando isso não funciona, eles passam leis que visam destruir a liberdade de expressão on-line, enquanto acenam suas bandeiras proclamando a sorte de estarmos vivendo sob seus governos.

Haverá um fim para este estado de coisas? Eu terei um dia o computador dos meus sonhos?