Segurança: Uma Linha Fina Entre a Vida e o Caos

Um episódio da história da aeronáutica – e da guerra – ilustra de uma maneira muito gráfica a curtíssima distância entre o yin e o yang.

Boeng B-17 – Imagem: Wikimedia Commons

Na Segunda Guerra Mundial, o Boeing B-17 Flying Fortress foi o bombardeiro padrão dos EUA. Como seria de esperar, muitos deles foram perdidos durante o combate, mas muitos também foram perdidos depois de completada a missão, ao pousar de volta à base. Culpa dos pilotos, clamavam uns. Culpa da formação, clamavam outros. Culpa da manutenção, diziam outros mais. Até a qualidade das pistas recebeu seu quinhão de culpa. Mas nenhuma hipótese era suportada por qualquer tipo de evidência.

Depois da guerra, finalmente tiveram tempo de fazer uma nova investigação para tentar entender o que realmente tinha acontecido.

A linha fina

Imagine que você esteve a participar de um bombardeio estressante por doze horas. Você está cansado. Está escuro. Está chovendo e você está na aproximação final da sua base. Você estende a mão para acionar o interruptor que engata o trem de pouso e, de repente, com uma guinada brusca, sua aeronave estola e bate no chão, matando todos a bordo. Esta imagem do painel de instrumentos do cockpit do B-17 mostra o que o piloto estaria vendo nesse momento:

Painel de instrumentos do B-17

Não há quantidade de treinamento no mundo que possa compensar essa falha de design. Não há nada para impedir que o erro mais banal se transforme em uma catástrofe. O interruptor ‘pouso tranquilo’ (opera o trem de pouso) e o interruptor ‘morte horrível’ (opera os flaps) são muito próximos um do outro, e idênticos.

“Culpar os usuários por não serem capazes de operar com segurança um projeto terrivelmente mal desenhado.” Já ouvimos isso antes.

Essa investigação levou a algo chamado “codificação de forma” que persiste até hoje como uma linguagem de design. A maioria das aeronaves modernas acionam o trem de pouso através de uma alavanca com um pequeno ressalto em forma de roda na extremidade; quando você toca na alavanca, você sabe o que está segurando. O controle dos flaps é hoje um grande tarugo quadrado e – adivinhe – eles não estão próximos um do outro. O mundo aeronáutico aprende com seus erros.

Alavancas para trem de pouso e flaps, depois de revisadas.

Aplicar o exemplo na cultura digital

Na segurança cibernética, criamos soluções sofisticadas para problemas incrivelmente difíceis, gerenciamos riscos capazes de dar nó no estômago de um camelo e levamos os computadores a fazer coisas que ninguém pensava ser possível (ou mesmo desejável). Mas também continuamos a fazer exigências ridículas aos usuários: faça isso, não faça aquilo, não clique em links, repeite a política de senhas…

Fornecemos aos usuários alavancas mal projetadas. Esperamos que implementações de tecnologia arbitrariamente complexas sejam perfeitas e livres de vulnerabilidades a longo prazo. Ao mesmo assumimos uma postura crítica quando o software que recebemos sem custo da comunidade open-source falha ao sofrer um ataque organizado por um estado-nação como a Rússia.

Aqui há uma dissonância cognitiva interessante, mas não encontrei uma maneira de identificar quais são nossas falsas expectativas tecnológicas; quando estamos a exigir da tecnologia coisas idiotas. O mais próximo que eu chego disso é tentar determinar onde está o ônus da segurança e se é razoável pedir à parte interessada que o assuma.

É razoável pedir a uma empresa de dez pessoas que se defenda dos russos?

Não.

É razoável pedir a uma empresa de infraestrutura crítica que não conecte seus sistemas sensíveis à Internet com a senha ‘Senh@01-08-2002‘?

Com mil demồnios, claro que é!

É preciso trazer para a o design de UI (interfaces gráficas), uma área particularmente sensível ás questões de segurança, conceitos equivalentes à citada codificação de forma – como a usada nas outras engenharias – no desenvolvimento de sistemas digitais seguros. O caminho crítico para tornar a segurança cibernética escalável a longo prazo é colocar as várias responsabilidades de segurança nos lugares certos e incentivar adequadamente as pessoas que precisam gerenciar essas responsabilidades. Às vezes, a pessoa óbvia para gerenciar o ônus da segurança não será a pessoa ideal para o cargo. É preciso então mudar as coisas para que elas sejam melhor dimensionadas e se adaptem ao ambiente.

Sendo uma atividade humana, o campo da segurança cibernética também sofre muito com o pensamento de manada, apego ao passado e argumentos de autoridade. Então, deixo aqui uma ideia – ou apelo. A comunidade de segurança cibernética deve:

  • conversar com pessoas não-técnicas e realmente ouvi-las
  • construir coisas que funcionem para a maioria das pessoas, na maioria das vezes
  • se colocar no lugar dos usuários
  • perguntar se realmente estamos sendo sensatos em nossas expectativas quanto ao comportamento do usuário

Ainda não chegamos a isso.

COP27: 3 coisas que um cientista do clima quer que os líderes mundiais saibam

Por Andrew KingThe Conversation

Icebergs no oceano próximo a um vale. A elevação do nível do mar devido ao derretimento da calota de gelo da Groenlândia é agora considerada inevitável. Foto AP/Mstyslav Chernov, Arquivo

Líderes mundiais e especialistas em clima estão se reunindo para conversas cruciais sobre mudanças climáticas patrocinadas pelas Nações Unidas no Egito. Conhecida como COP27, a conferência vai ter como objetivo colocar a Terra no caminho para alcançar emissões líquidas zero e manter o aquecimento global bem abaixo de 2℃ neste século.

O mundo precisa se descarbonizar rapidamente para evitar os efeitos mais danosos das mudanças climáticas. Os líderes mundiais sabem disso. Mas esse conhecimento tem que se transformar urgentemente em compromissos e planos concretos.

Se a humanidade continuar em seu caminho atual, deixaremos um mundo mais quente e mortal para as crianças de hoje e todas as gerações futuras.

A Terra precisa desesperadamente da COP27 para ter sucesso. Sou cientista do clima e acredito que os líderes mundiais deveriam ter três coisas em mente antes da conferência.

1. Nosso planeta está inegavelmente em crise

Até agora, a Terra aqueceu pouco mais de 1℃ em relação aos níveis pré-industriais, o que significa que já danificamos o sistema climático. Nossas emissões de gases de efeito estufa já fizeram com que o nível do mar subisse, o gelo do mar encolhesse e o oceano se tornasse mais ácido.

Eventos extremos nos últimos anos – particularmente ondas de calor – têm as impressões digitais das mudanças climáticas em todos eles. O calor recorde no oeste da América do Norte em 2021 viu grandes incêndios florestais e sobrecarga da infraestrutura. E no início deste ano, as temperaturas no Reino Unido atingiram 40℃ mortais pela primeira vez no registro histórico.

O oceano também sofreu uma sucessão de ondas de calor marinhas que branquearam os recifes de coral e reduziram a diversidade de espécies que eles hospedam. As ondas de calor vão piorar enquanto continuarmos a aquecer o planeta.

Assustadoramente, corremos o risco de levar o clima a um novo e perigoso regime, trazendo consequências ainda piores. Pesquisas publicadas em setembro reportam que estamos à beira de passar por cinco grandes “pontos de inflexão” climáticos, como o colapso da camada de gelo da Groenlândia. Passar por esses pontos irá travar o planeta em ciclos contínuos de danos ao clima, mesmo que todas as emissões de gases de efeito estufa cessem.

A saúde humana também está em jogo. Pesquisas realizadas no mês passado revelaram que a crise climática está prejudicando a saúde pública por meio, por exemplo, da maior disseminação de doenças infecciosas, poluição do ar e escassez de alimentos.

Entre suas descobertas preocupantes, as mortes relacionadas ao calor em bebês com menos de um ano e adultos com mais de 65 anos aumentaram 68% em 2017-2021, em comparação com 2000-2004.

As gerações futuras não podem se dar ao luxo de hesitar em ações para reduzir as emissões.

2. A redução das emissões está muito lenta

Alguns países, particularmente na Europa, estão conseguindo reduzir as emissões de gases de efeito estufa por meio da transição para energia renovável.

Mas globalmente isso não está acontecendo rápido o suficiente. Um relatório da ONU esta semana descobriu que mesmo se as nações cumprirem suas metas de ação climática para 2030, a Terra ainda continuará a aquecer cerca de 2,5 ℃ neste século – superando a meta do Acordo de Paris de manter o aquecimento global bem abaixo de 2 ℃.

Esse aquecimento seria desastroso, especialmente nas partes mais pobres do mundo que pouco contribuíram para as emissões globais.

Por décadas, o mundo tem falado em reduzir as emissões de dióxido de carbono. Mas as emissões globais anuais aumentaram mais de 50% durante minha vida, e desde a primeira COP em 1992. A ONU adverte que ainda não há “caminho confiável” para limitar o aquecimento a 1,5 ℃.

Até chegarmos perto de emissões líquidas zero, a quantidade de CO₂ em nossa atmosfera vai aumentar e o planeta ficará mais quente. No ritmo atual, estamos aquecendo o planeta em cerca de 0,2 ℃ a cada década.

As emissões globais de dióxido de carbono permanecem próximas de recordes e quase quadruplicaram desde 1960. Global Carbon Project

3. O imobilismo precisa acabar

Com tantos desafios que o mundo enfrenta, incluindo a invasão russa da Ucrânia e a crise do custo de vida, pode ser tentador ver as mudanças climáticas como um problema que pode esperar. Esta seria uma ideia terrível.

A mudança climática só vai piorar. Cada ano de atraso torna muito mais difícil impedir que as projeções climáticas mais perigosas se tornem realidade.

Somente esforços conjuntos de todas as nações evitarão a destruição de nossos ecossistemas mais sensíveis, como os recifes de coral. Devemos fazer tudo o que pudermos para impedir isso, abandonando os combustíveis fósseis. Qualquer novo desenvolvimento de combustível fóssil vai apenas piorar o problema e custará muito mais à humanidade e ao meio ambiente no futuro.

E, no entanto, a Agência Internacional de Energia projetou na semana passada que a receita líquida dos produtores de petróleo e gás dobrará em 2022 “para US$ 4 trilhões sem precedentes”, um ganho inesperado de US$ 2 trilhões.

Não podemos, como disse a ativista climática Greta Thunberg, apenas ter mais “blá, blá, blá” dos líderes mundiais na COP27 – precisamos de ações concretas para reduzir as emissões de gases de efeito estufa.

E agora?

A COP27 precisa levar a uma rápida transição para longe dos combustíveis fósseis, incluindo banir novos desenvolvimentos na área de combustíveis fósseis, e mais apoio aos países que lidam com os maiores impactos das mudanças climáticas. Temos que estar em um caminho confiável para alcançar emissões líquidas globais zero nas próximas poucas décadas.

A falta de progresso nas negociações climáticas globais anteriores significa que não estou otimista que a COP27 alcançará o que é necessário. Mas espero que os líderes mundiais provem que estou errado e não decepcionem suas nações.


*VL: Nossa modestíssima contribuição para o exito dessa importante iniciativa. Texto reproduzido sob licença Creative Commons CC BY-SA

Stable Diffusion: Variações Sobre um Leão

Uma postagem visual para suavizar o mais vital de todos os fins de semana da história brasileira. Minha exploração da arte digital baseada em Difusão Latente continua.

Meu pequeno logotipo é uma linda obra de arte, que chegou às minhas mãos na adolescência e que tenho até hoje. É uma charge de jornal – estrangeiro – do início do século 19, cujo o autor eu ainda não identifiquei, mas sigo procurando.

A arte, sobre a qual ainda falarei mais, mostra um leão exibindo seu perfil direito, em atitude heráldica “couchant”, habilidosamente inscrito no contorno da América do Sul. Um autêntico achado geométrico. É uma imagem evocativa de um Brasil grande e forte, estendendo seu olhar sobre o Atlântico sul.

É uma imagem que resume as aspirações da nação quando eu era jovem. É também uma imagem austera, que se pretende heráldica ao invés de fruto de design; vai contra o pós modernismo vigente, mas aqui no blog essa é exatamente a ideia.

Este blog existe por causa desta imagem; foi olhando para ela em pensamento profundo que me inspirei. “A voz do leão”, para tentar falar de tecnologia e ciência para a lusofonia, com um ‘modicum’ de profundidade – sem dar muita bola para o estilo superficial preferido nas redes sociais — como as pessoas fazem nos centros avançados do mundo. O Brasil é o Leão.

Eu quis fazer variações para poder usar a imagem em outros contextos que exijam um ‘look’ mais contemporâneo — com resultados medianamente animadores. Lancei mão da Stable Diffusion e, abusando da engenharia de prompt, passei algumas horas agradáveis tentando fazer arte. Aproveitei para usar o gadget ‘galeria de slides’ do WordPress pela primeira vez.


Não sei se verei esse Brasil grande, que faz tecnologia, que lança foguetes e satélites e junta à elite material do mundo. Se depender da classe política que aí está eu duvido muito que cheguemos lá. Foi sob a batuta do Ministro da Tecnologia, um aviador e astronauta formado por um instituto de tecnologia, que eu testemunhei o maior [talvez o único] desmonte deliberado de políticas tecnológicas do estado brasileiro em toda história [a começar do programa espacial, que se encontra desativado desde 2003].

Que o Brasil possa se reencontrar a partir das eleições de amanhã. Boa sorte a todos.

Stable Confusion: Algo Sobre o Photoshop

Quando você cria algo no Photoshop é provável que você nunca tenha pensado muito sobre a origem das cores digitais que você usa. Igualmente, talvez você nunca tenha se perguntado se alguém pode “possuir” uma determinada cor.

pantone
Imagem: Pexels.com

Mas muitos usuários logo vão começar a dar atenção a essas coisas, pois suas coleções de arquivos PSD está prestes a ficar cheias de tons de cinza esquisitos, devido a mudanças de licenciamento entre a Adobe e a Pantone.

A partir de agora, aplicativos populares da Adobe, como Photoshop, Illustrator e InDesign, não vão mais suportar gratuitamente as cores da Pantone, e aqueles usuários que precisam que essas cores apareçam em seus arquivos já salvos precisarão pagar por uma licença separada. Bem vindo ao mundo do software proprietário.

A remoção das cores da Pantone do software da Adobe deveria ter acontecido em 31 de março deste ano, mas essa data chegou, passou e nada aconteceu. A data foi mudada para 16 de agosto, e depois 31 de agosto. No entanto, apenas agora as pessoas estão percebendo os efeitos da decisão, relatando problemas com criações que usam as cores exatas da Pantone. A solução oferecidoa é um plug-in da Adobe para “minimizar a interrupção do fluxo de trabalho e fornecer as bibliotecas atualizadas aos usuários da Adobe Creative Cloud”. O que, é claro, custa US$ 15 por mês. É como a Netflix, só que para colorir!

No entanto, a Pantone ainda afirma – em seu FAQ desatualizado – que “Esta atualização terá um impacto mínimo no fluxo de trabalho do designer. Arquivos e documentos da Creative Cloud contendo referências de cores Pantone manterão as identidades e informações de cores”. Muitos usuários relatam que seu Photoshop agora informa: “Este arquivo tem cores Pantone que foram removidas e substituídas por preto devido a alterações no licenciamento da Pantone com a Adobe”. Outros relataram que o problema não está sendo resolvido mesmo anexando uma licença Pantone no Photoshop.”

Uma dica sugerida pela Print Week é fazer backup de suas bibliotecas Pantone e reimportá-las quando o software Adobe atualizar para removê-las. “Há uma boa chance de que isso funcione, já que as cores do Pantone são armazenadas como arquivos .ACB, assim como todas as cores do Photoshop.”

“Ou, sabe como é, você pode simplesmente copiar os valores de metadados do intervalo Pantone.”

O Fantasma na Máquina Inteligente

O mundo moderno usa o termo “robô” para se referir a dispositivos eletromecânicos que executam trabalhos anteriormente realizados por humanos; a origem do termo é a palavra checa robotnik.

Imagem: Pexels

Segundo o site etymonline.com robotnik significa, “pessoa mecânica”; também “pessoa cujo trabalho ou atividades são inteiramente mecânicos”, da tradução inglesa da peça “R.U.R.” de 1920 (“Robôs Universais da Rossum”) de Karel Capek (1890-1938); “trabalhador forçado”, de robota “trabalho forçado, serviço obrigatório, labuta”.

Há um certo consenso acadêmico de que a abolição do trabalho servil foi o que deu início à mecanização; que o principal efeito da emancipação do campesinato foi possibilitar a industrialização da lavoura: “Os grandes latifúndios, livres do servo ineficiente, poderiam ser conduzidos de forma mais econômica. Os arados a vapor da Hungria, uma característica marcante do final do século XIX na Europa continental, foram o resultado da emancipação camponesa”[0].

E essas inovações eram todas subprodutos do mesmo frenesi de criatividade. Em 1745 de Vaucanson inventou, entre outras coisas, o primeiro tear automatizado: um desenvolvimento que mais tarde desempenharia um papel crucial na mecanização das formas de trabalho que antes eram exclusivas de humanos.

Trabalho, trabalho e trabalho

E o que deveria nos preocupar é menos se as máquinas se tornarão sencientes, mas quais serão os efeitos de uma mecanização cada vez maior sobre os humanos.

Marx [é impossível falar de trabalho sem citar Marx, sorry] observa em O Capital (1867) que “A história não revela nenhuma tragédia mais horrível do que a extinção gradual dos tecelões artesanais ingleses”. No mesmo espírito, para termos um vislumbre do que os avanços na robótica humanoide prometem para nossas vidas, considere “Quinn“.

Quinn é um conceito [ainda primitivo] de um robô de atendimento ao cliente: em vez de pagar salários a vários humanos, um hoteleiro, por exemplo, pode instalar um Quinn nos balcões de toda sua cadeia, supervisionado por apenas um par de operadores remotos, capazes de intervir se uma consulta se tornar muito complexa para a máquina.

Mais abaixo na escala, as onipresentes máquinas de self-checkout são efetivamente dispositivos como o Quinn, só que mais insuspeitos, que transferem o fardo de fazer sentido para o cliente e a solução dos problemas operacionais para uma equipe de supervisores. E esse deslocamento da habilidade e da inteligência humana, por sua vez, reorganiza o trabalho humano para atender as prioridades da máquina.

Marx [sorry, again] descreveu a maneira como as linhas de montagem das fábricas obrigavam os trabalhadores humanos a adaptar seus movimentos, velocidade de trabalho e comportamento às demandas da máquina, em vez de empregar as ferramentas de trabalho de acordo com um padrão de movimento humano. O mesmo vale para todas as ondas de automação subsequentes, incluindo a atual.

O Turco Mecânico

Em 1770, a Imperatriz Habsburgo Maria Teresa e sua corte ficaram maravilhados com um verdadeiro prodígio da engenharia moderna: uma máquina humanoide capaz de derrotar um oponente humano no xadrez.

O dispositivo consistia em uma figura em tamanho natural, vestida no estilo “oriental” e sentada em frente a um tabuleiro de xadrez. Quando derrotou vários adversários na corte, foi uma sensação: amplamente conhecido como o “Turco Mecânico”, percorreu a França, a Grã-Bretanha e os Estados Unidos, durante os quais disputou muitos jogos, inclusive contra Napoleão e Benjamin Franklin.

O Turco Mecânico – Imagem: Domínio Público

O único problema: o Turco Mecânico era falso. Embora a complexidade da farsa fosse em si um feito de engenharia notável, a inteligência do jogo de xadrez era fornecida por um humano habilmente escondido dentro da “máquina”.

No século 21, o Turco Mecânico dá nome a uma plataforma online [“Mechanical Turk” ] cujo produto é tornar o trabalho repetitivo e monótono de rotulação de dados no treinamento de sistemas inteligentes acessível para qualquer pequeno negócio, através da terceirização da atividade para trabalhadores remotos, que recebem tão pouco quanto US$ 0,97 por hora. Cortesia da Amazon.

Encontramos muitos desses “fantasmas humanos na Máquina Inteligente”: por exemplo, os trabalhadores de atendimento da Amazon, ‘otimizados’ pela vigilância algorítmica até o ponto de ruptura (e fazendo xixi em garrafas, como se tornou notório); ou os moderadores de conteúdo das redes sociais, se virando na gig-economy e lutando com o trauma provocado pelas coisas horríveis com as quais eles lidam em seu trabalho.

E existem até mesmo humanos, escondidos na IA tão desconfortavelmente quanto o operador oculto do Turco Mecânico, cujo papel é compensar o deficit na “inteligência” muda das máquinas. Veja, por exemplo, as pessoas contratadas para se passar por chatbots em empresas que querem parecer ultrassofisticadas.

Quero falar com um humano

A convergência entre humano e máquina, por sua vez, torna a humanidade real um luxo. Assim como a tecelagem mecânica tornou os tecidos baratos, os tecidos feitos à mão agora são extremamente caros – assim como qualquer coisa criada à mão com habilidade artesanal genuína. Da mesma forma, como o setor de hospitalidade se automatizou e despersonalizou durante a epidemia da Covid, as viagens “sem contato” tornaram o contato humano um extra premium – porque o que as pessoas realmente querem é conversar com um humano. Um canal da indústria hoteleira descreve a assistência humana hoje como um diferencial, “a marca registrada de uma viagem de luxo”.

Portanto, não importa se existem autômatos capazes de reproduzir fielmente o aspecto humano. Os que são lançados na economia de escala não se preocupam em buscar a verossimilhança, e são estes os que estão a transformar mais radicalmente nossas vidas.

Enquanto nos maravilhamos (ou estremecemos) com os simulacros quase perfeitos que chegam quase a convencer [ver uncanny valley] e toleramos entorpecidos os que não convencem, cada avanço na robótica reordena outra onda de trabalho humano às prioridades da máquina. E cada vez que o fazem, outra faceta do calor humano, inteligência e habilidade torna-se um extra premium, para os poucos sortudos.

Penso, logo existo

E o que deveria nos preocupar é menos se as máquinas se tornarão sencientes, mas quais serão os efeitos de uma mecanização cada vez maior sobre os humanos.

O avô do argumento de que a senciência humana é gerada a partir de processos fundamentalmente diferentes dos algorítmicos, ou mesmo de qualquer física atualmente compreendida, é nosso mais eminente matemático/físico e vencedor do Prêmio Nobel, Sir Roger Penrose. Noto aqui que os contra-argumentos penrosianos exigem um mergulho nos teoremas da incompletude de Gödel e na natureza do Problema da Parada na computação.

E nesta área não há lugar melhor para se pesquisar do que nos livros sedutoramente bem escritos de Roger Penrose, ‘The Emperor’s New Mind’ e ‘Shadows of the Mind’. Em resumo, Penrose implica uma distinção entre consciência e inteligência. Ele afirma que a consciência não é algoritmicamente explicável — embora ele não se refira propriamente à ‘inteligência’ neste contexto.

Pessoalmente falando, pensei por décadas que a senciência humana sempre seria inatingível pela inteligência de máquina gerada por algoritmos, mas não tenho mais certezas a esse respeito. Não acho que tenhamos uma maneira real de distinguir entre a inteligência humana e a inteligência da máquina e, por extensão, não temos como afirmar que a inteligência da máquina não exibirá algumas características da senciência. .

Chomsky argumentou que os humanos nascem com um senso inerente às estruturas da linguagem. E se isso for verdade, que implicações isso tem para a capacidade das máquinas de replicar habilidades linguísticas? E como os humanos diferem das máquinas nesse aspecto? O maior problema que temos é aquele com o qual Wittgenstein também lutou – o uso e as limitações da linguagem. Como saberemos se estamos todos discutindo o mesmo assunto?


[0] – The Habsburg Monarchy 1809–1918 – AJP Taylor