Tag: big brother

Publicado em in privacidade, tecnologia

Tire sua Câmera da Minha Cara

A tecnologia de vigilância biométrica, como o reconhecimento facial, é uma tecnologia que permite que você seja identificado, analisado e rastreado em espaços públicos. Ela se alastra fora de controle.

Imagem: Pexels

O que está acontecendo?

A vigilância biométrica está aumentando assustadoramente. Vemos câmeras de reconhecimento facial em cada vez mais lugares. Pense, por exemplo, no posto de gasolina, no supermercado, nos estádios de futebol. Pense nas casas, nas ruas e nas câmeras voltadas diretamente para o seu rosto enquanto você caminha pela calçada. E então pense no uso de toda essa informação pelos aparelhos de repressão policial local e nacional. É sabido que a polícia aplica o reconhecimento facial a imagens de câmeras comuns, de baixa tecnologia. Mas sabemos também que eles estão fazendo experimentos com aplicações de reconhecimento facial de maior alcance e tecnologia mais especializada.

O reconhecimento facial é muito intrusivo. Mas isso não impede os legisladores, nas cidades e no Congresso, de apresentar cada vez mais projetos para sua implantação. Poucos parlamentares se importam com as garantias constitucionais, e de seus gabinetes saem projetos de lei cada vez mais penetrantes.

Não conheço nenhum vereador ou deputado que defenda a regulamentação da vigilância urbana ou que cobre maior responsabilidade das empresas de tecnologia. Mas conheço muitos que defendem mais e mais vigilância. Então você sabe que algo está realmente errado. Além do reconhecimento facial, também vemos outras maneiras pelas quais nossos corpos são rastreados, analisados ​​e controlados [os passaportes de imunidade são apenas a iteração mais recente desse controle].

Por que estou preocupado?

O espaço público desempenha um papel importante em uma sociedade livre e aberta. É o lugar onde a vida pública e o debate público acontecem e onde exercemos nossos direitos democráticos. É importante que todos se sintam livres nesses espaços. Livres para se reunir, expressar sua opinião e se movimentar. Os custos sociais associados ao uso da vigilância biométrica no espaço público são inaceitáveis.

Devido à aplicação não direcionada de vigilância biométrica, os transeuntes são capturados indiscriminadamente. Isso permite que os indivíduos sejam identificados, analisados, rastreados, traçados e controlados em grande escala. Essa tecnologia cria uma sociedade de desconfiança, de controle e de discriminação na qual você não pode mais participar de forma anônima da vida pública. Isso tem um efeito limitador [“the chilling effect“] sobre o quão livre você se sente para exercer seus direitos.

A biometria significa que as características do seu corpo são reduzidas a unidades mensuráveis. A vigilância biométrica transforma as pessoas em códigos de barras ambulantes que podem ser digitalizados e combinados com os dados já coletados anteriormente sobre elas. É muito importante lembrar que você só tem um rosto, cujas características não pode mudar e que não pode deixar em casa. Depois que um código de barras for vinculado ao seu rosto, você sempre poderá ser rastreado com ele. Uma vez capturado, você perde o controle dos dados e não há como escapar da vigilância.

O sistema de crédito social da China

A vigilância biométrica está tornando realidade o pesadelo burocrático descrito por George Orwell em seu 1984. O estado chinês está estabelecendo um vasto sistema que irá monitorar o comportamento de sua enorme população e classificá-los todos com base em seu “crédito social”. O Sistema de Crédito Social [SCS] na China não é apenas destinado a punir quem critica o governo e o Estado, como é o caso na maioria dos regimes totalitários. O SCS pode acusar até mesmo a menor infração, como fumar em uma zona de não fumantes.

Esse sistema, anunciado pela primeira vez em 2014, visa reforçar a ideia de que “manter a confiança é glorioso e quebrar a confiança é vergonhoso”, de acordo com um documento do governo chinês. O programa já está totalmente operacional em todo o país, mas ainda está em fase de testes. O esquema será obrigatório. No momento, o sistema é fragmentado – alguns são administrados por prefeituras, outros são avaliados por plataformas tecnológicas privadas que armazenam dados pessoais.

Como nas pontuações de milhas ou crédito privado que conhecemos, a pontuação social de uma pessoa pode subir e descer dependendo de seu comportamento. A metodologia exata é um segredo – mas exemplos de infrações incluem dirigir mal, fumar em zonas não fumantes, comprar muitos videogames e postar notícias falsas online. Violar o “código social” pode resultar em proibição de voar ou usar o trem, usar a internet, ter uma escolaridade decente, conseguir um emprego, se hospedar em hotéis e até mesmo de ter um animal de estimação.

A China obviamente está tirando proveito da mentalidade de rebanho, ao rotular os violadores de “maus cidadãos” [observo aqui que mentalidade de rebanho é algo que não falta em nossa sociedade desconfiada da ciência]. Alguém duvida que esses mesmos argumentos poderão ser e serão adotados pelos governos do ocidente, especialmente em uma época de radicalização política e ameaças à ordem publica?

Como toda tecnologia de criação e monitoramento de perfis, a vigilância por câmeras é construída, em sua essência mais íntima, para diferenciar e classificar as pessoas. Isso reforça as desigualdades existentes na sociedade, bem como o desequilíbrio de poder entre governos, empresas de tecnologia e cidadãos.

Acredito que essa tecnologia é uma violação brutal de nossos direitos e liberdades e uma ameaça à nossa sociedade livre e aberta. Com as tecnologias de reconhecimento facial sendo crescentemente aplicadas ao redor, é hora de lutar por nossa liberdade na rua. Os reguladores nacionais parecem não estar suficientemente equipados [ou com vontade] para fazer cumprir a Constituição; para impedir o uso desta tecnologia nefasta.

Claramente, a maioria das pessoas está completamente no escuro sobre esses programas subterrâneos e suas implicações perigosas. Portanto, a missão para aqueles que estão “por dentro” deve ser espalhar a palavra e alertar o maior número possível de pessoas. É preciso também que cada um assuma responsabilidade pessoal pela quantidade de dados que compartilha voluntariamente com sites de mídia social, aplicativos e a Internet em geral. A única defesa contra a erosão total da privacidade – e, portanto, da liberdade – é um público educado que defende seus próprios direitos.

Não há lugar para a tecnologia de vigilância biométrica em uma sociedade livre. É por isso que eu acredito que essas tecnologias deveriam ser efetivamente banidas da vida pública. Como bem disse Winston Churchill, uma sociedade que troca a liberdade por segurança não merece nem liberdade e nem segurança.

Publicado em in Internet, privacidade

Morte à Economia de Vigilância!

Neste exato momento, enquanto você lê este post, algoritmos estão tomando decisões sobre sua vida, com base em seus dados, sem o seu conhecimento e sem o seu consentimento. Algoritmos que muitas vezes não foram testados completamente, muito menos auditados periodicamente. Talvez você seja um dos milhões de negros americanos visados ​​pela Cambridge Analytica na tentativa de impedi-los de votar nas eleições de 2016. Talvez tenham negado a você um empréstimo, um emprego ou um apartamento recentemente.

Imagem: iStock

Se isso aconteceu, é quase certo que seus dados tenham algo a ver com isso. Esses dados pessoais na maioria das vezes são imprecisos, mas você não pode corrigi-los porque não tem acesso a eles. Você pode perder seu emprego devido a um algoritmo com defeito. E como disse o Cardeal Richelieu, “dê-me seis linhas escritas pelo mais honesto dos homens e eu encontarei nelas um motivo para mandá-lo para a forca”.

À medida que as empresas de tecnologia moldam nossas percepções, o preconceito e a discriminação – tão miseravelmente humanos – são incorporados naturalmente a seus produtos e serviços em vários níveis e de várias formas.

A economia de vigilância afronta a igualdade e a justiça. Você e seu vizinho não são mais tratados como cidadãos iguais. Você não tem oportunidades iguais a ele porque é tratado de maneira diferente com base em seus dados. Os anúncios e o conteúdo a que você tem acesso, os preços que paga pelos mesmos serviços e até o tempo que você espera no telefone para falar com o serviço de atendimento ao cliente dependem dos seus dados e de seu “score”.

Somos muito mais competentes para coletar dados pessoais do que para mantê-los seguros. Os dados pessoais são uma ameaça séria e não deveríamos coletá-los se não somos capazes de mantê-los seguros. Usando dados de localização de smartphones adquiridos de um “corretor de dados”, é possível rastrear oficiais militares com acesso a dados sigilosos, advogados poderosos e seus clientes, e até mesmo o presidente de um país (através do telefone de alguém que se considera e é pago para ser um agente do serviço secreto).

Nossa atual economia de dados é baseada na coleta de tantos dados pessoais quanto possível, armazenando-os indefinidamente e vendendo-os a quem pagar mais. Ter tantos dados confidenciais circulando livremente é, no mínimo, imprudente. Ao projetar nossa economia em torno da vigilância, estamos construindo uma perigosa estrutura de controle social, estrutura essa que está em conflito aberto com a liberdade. Na sociedade de vigilância que estamos construindo, não existe nada invisível ao radar. Não deveria ser nossa responsabilidade, como querem as grandes companhias, optar pela não coleta de dados nos navegadores. A não-coleta deveria vir como padrão em todo e qualquer software dedicado à comunicação na Internet.

É hora de acabar com a economia de vigilância. Não permitimos a compra e venda de votos (porque isso prejudica a democracia). Por que então devemos permitir a comercialização de dados pessoais? Não devemos permitir anúncios personalizados. Se os anúncios fossem transparentes sobre o que sabem sobre nós, talvez não fôssemos tão indiferentes ao modo como somos direcionados. As vantagens dos anúncios personalizados para os usuários são mínimas, na melhor das hipóteses, e podem ser alcançadas por meio de publicidade contextualizada. Por exemplo, exibir anúncios de equipamentos esportivos apenas quando o usuário procura equipamentos esportivos.

Precisamos ter certeza de que os algoritmos que afetam nossas vidas são confiáveis. Precisamos saber como os algoritmos estão nos julgando e com base em quais dados. Devemos implementar deveres de depositário fiel de dados: qualquer pessoa que deseje coletar ou gerenciar seus dados pessoais deve se comprometer legalmente a usá-los apenas em seu benefício e nunca contra você. Quem gerencia dados pessoais de terceiros é responsável ​​por eles. Temos que melhorar muito nossos padrões de segurança cibernética, através de lei. E é necessário também excluir periodicamente os dados de que não precisamos mais.

Enquanto a solução definitiva não aparece, escolha produtos compatíveis com a privacidade. Por exemplo, ao invés de usar a pesquisa do Google, use DuckDuckGo; em vez de usar o WhatsApp, use o Telegram; no lugar do Gmail, use ProtonMail. Essas escolhas simples podem ter um impacto muito significativo em nossas vidas. Ao escolher produtos éticos sinalizamos às empresas de Internet que nos preocupamos com a nossa privacidade.

Acabar com a economia de dados pode parecer uma proposta radical. Contudo, é ainda mais extremo ter um modelo de negócios cuja existência depende da violação de nosso direito à privacidade em grande escala.

Na verdade, isso é inaceitável.

cameras
Publicado em in privacidade

Então Você Não Tem Nada a Esconder…

Até mesmo um exibicionista inveterado tem algo a esconder: certas entradas em um diário pessoal, predisposições genéticas, problemas financeiros, crises médicas, vergonhas adolescentes, compulsões anti-sociais, fantasias sexuais, sonhos radicais. Todos nós temos algo que queremos proteger da vista pública. A verdadeira questão é: quem consegue fechar as cortinas? E cada vez mais: como saberemos se elas estão realmente fechadas?

Por que se preocupar com a vigilância do Estado se você não tem nada a esconder? Essa se tornou uma das frases mais ignorantes proferidas em qualquer língua. É uma frase frequentemente expressa com uma voz confiante, cheia de certeza, mas falada por pessoas que, ipso facto, dificilmente estarão preparadas para quando alguém começar a cavar em todos os seus e-mails esquecidos ou nos seus posts mal-considerados nas mídias sociais. O cardeal Richelieu dizia: “Dê-me seis linhas escritas pelo mais honesto dos homens e eu acharei nelas um motivo para enviá-lo para a forca”.

A vigilância tornou-se imbricada na governança, negócios, vida social e até igrejas, mas toda essa tecnologia bem intencionada pode ter consequências inesperadas, que excedem em muito o propósito inicial pretendido. Nas cidades, o poder constituído amplia cada vez mais sua capacidade de vigilância, instalando mais e mais câmeras e radares, sob o aplauso desinformado dos cidadãos.

É tempo de começar um diálogo muito necessário sobre como nos relacionamos emocional e eticamente com a vigilância, e o que isso significa para nossa segurança e nosso modo de vida.

Alguém para cuidar de mim?

Imagine um “estado de visibilidade permanente” em que todas as suas ações podem ser registradas, e em que a cada click (ou tap, ou swipe) sua navegação deixe uma pegada digital na Internet, tornando-a completamente exposta e previsível. Este é o estado da tecnologia hoje.

Frantz Fanon, um filósofo e escritor, descreveu a resposta emocional e física ao monitoramento constante como: “tensões nervosas, insônia, fadiga, acidentes, cabeça ‘aérea’ e menos controle sobre os reflexos.”

Quando pensamos em vigilância, muitas vezes imaginamos algo como o romance “1984”, ou então as artes de uma agência governamental sombria – algo saído de um romance de Tom Clancy. Mas, de fato, a vigilância pode ser bem mais prosaica, e sentida em um nível muito real e íntimo.

Por exemplo, a mera observação da vida social revela as maneiras pelas quais uma pessoa pode monitorar um cônjuge ou parceiro, verificar suas contas de telefone, rastrear seus movimentos diários, com quem ele fala ao telefone ou no Whatsapp. Isso pode não ser o trabalho de um hacker ou de uma patrulha do governo, mas isso é, no entanto, um tipo (crescente) de vigilância. Agora imagine o que um hacker, ou qualquer adversário mal-intencionado pode fazer.

A preocupação é que os chamados “nativos digitais” se acomodem a esse estado de coisas em que a privacidade é crescentemente enfraquecida, a) porque isso proporciona coisas aparentemente mais fáceis, ágeis e convenientes, e b) porque somos induzidos a fazê-lo por corporações que manipulam nossa vontade através da enormidade de dados coletados sobre nós (Google, Facebook). Tudo o que recebemos em troca é um joguinho, uma conta de email, ou um aplicativo gratuito em uma rede social.

Policiamento via ‘Big Data’

A adoção de grandes volumes de análise de dados amplifica e transforma as práticas de vigilância policial.

O que é realmente importante é que não se trata apenas de uma única nova e transformadora tecnologia de vigilância. A ameaça é o poder do uso combinado de várias tecnologias diferentes em conjunto, o que confere às autoridades um nível de ascendência sobre a vida particular dos indivíduos que em um passado recente só seria possível no âmbito de uma autorização judicial.

Os Grandes Dados suplementam os relatórios policiais rotineiros, com avaliações de risco criminal baseadas em algoritmo. Por exemplo, em algumas jurisdições de países avançados, o risco criminal de um indivíduo é medido usando-se uma escala de pontos baseada no histórico criminal violento, prisões, liberdades condicionais concedidas ou episódios de interceptação para checagem policial. Pessoas com valores altos nessa escala são mais propensas a serem paradas pela polícia, adicionando ainda outro ponto ao seu registro, formando assim um círculo vicioso. Na China, essa escala (score social) é a base da vida social, do transporte urbano à permissão para se ter conta em banco, ou de se obter crédito. No ocidente, as seguradoras já baseiam seus prêmios na análise dos movimentos físicos dos portadores de celular (de carro ou a pé), facilitada pelos acelerômetros e outros sensores que equipam esses nossos computadores de bolso.

Quando se começa a codificar as práticas policiais como dados criminais objetivos, a sociedade se rende a um loop de feedback positivo cada vez mais acelerado. Isso coloca os indivíduos suspeitos sob novas, mais profundas e quantificadas formas de vigilância, mascaradas pela objetividade matemática. Isso leva a um número muito maior de reincidências, e torna a recuperação dos condenados algo quase impossível.

Para a vigilância funcionar éticamente, é preciso que os dados sejam perfeitos, mas eles nunca são. Vivemos em um mundo social confuso e os nossos dados constituem um reflexo confuso disso.

Definitivamente, é salutar usar tecnologias emergentes para melhorar a prestação de serviços, reduzir o crime e focar nos recursos. No entanto, esse poder fantástico precisa ser exercido com limites claros e respeito à cidadania e direitos fundamentais. Vamos ver um longo debate constitucional nos próximos anos.