O Fantasma na Máquina Inteligente

O mundo moderno usa o termo “robô” para se referir a dispositivos eletromecânicos que executam trabalhos anteriormente realizados por humanos; a origem do termo é a palavra checa robotnik.

Imagem: Pexels

Segundo o site etymonline.com robotnik significa, “pessoa mecânica”; também “pessoa cujo trabalho ou atividades são inteiramente mecânicos”, da tradução inglesa da peça “R.U.R.” de 1920 (“Robôs Universais da Rossum”) de Karel Capek (1890-1938); “trabalhador forçado”, de robota “trabalho forçado, serviço obrigatório, labuta”.

Há um certo consenso acadêmico de que a abolição do trabalho servil foi o que deu início à mecanização; que o principal efeito da emancipação do campesinato foi possibilitar a industrialização da lavoura: “Os grandes latifúndios, livres do servo ineficiente, poderiam ser conduzidos de forma mais econômica. Os arados a vapor da Hungria, uma característica marcante do final do século XIX na Europa continental, foram o resultado da emancipação camponesa”[0].

E essas inovações eram todas subprodutos do mesmo frenesi de criatividade. Em 1745 de Vaucanson inventou, entre outras coisas, o primeiro tear automatizado: um desenvolvimento que mais tarde desempenharia um papel crucial na mecanização das formas de trabalho que antes eram exclusivas de humanos.

Trabalho, trabalho e trabalho

E o que deveria nos preocupar é menos se as máquinas se tornarão sencientes, mas quais serão os efeitos de uma mecanização cada vez maior sobre os humanos.

Marx [é impossível falar de trabalho sem citar Marx, sorry] observa em O Capital (1867) que “A história não revela nenhuma tragédia mais horrível do que a extinção gradual dos tecelões artesanais ingleses”. No mesmo espírito, para termos um vislumbre do que os avanços na robótica humanoide prometem para nossas vidas, considere “Quinn“.

Quinn é um conceito [ainda primitivo] de um robô de atendimento ao cliente: em vez de pagar salários a vários humanos, um hoteleiro, por exemplo, pode instalar um Quinn nos balcões de toda sua cadeia, supervisionado por apenas um par de operadores remotos, capazes de intervir se uma consulta se tornar muito complexa para a máquina.

Mais abaixo na escala, as onipresentes máquinas de self-checkout são efetivamente dispositivos como o Quinn, só que mais insuspeitos, que transferem o fardo de fazer sentido para o cliente e a solução dos problemas operacionais para uma equipe de supervisores. E esse deslocamento da habilidade e da inteligência humana, por sua vez, reorganiza o trabalho humano para atender as prioridades da máquina.

Marx [sorry, again] descreveu a maneira como as linhas de montagem das fábricas obrigavam os trabalhadores humanos a adaptar seus movimentos, velocidade de trabalho e comportamento às demandas da máquina, em vez de empregar as ferramentas de trabalho de acordo com um padrão de movimento humano. O mesmo vale para todas as ondas de automação subsequentes, incluindo a atual.

O Turco Mecânico

Em 1770, a Imperatriz Habsburgo Maria Teresa e sua corte ficaram maravilhados com um verdadeiro prodígio da engenharia moderna: uma máquina humanoide capaz de derrotar um oponente humano no xadrez.

O dispositivo consistia em uma figura em tamanho natural, vestida no estilo “oriental” e sentada em frente a um tabuleiro de xadrez. Quando derrotou vários adversários na corte, foi uma sensação: amplamente conhecido como o “Turco Mecânico”, percorreu a França, a Grã-Bretanha e os Estados Unidos, durante os quais disputou muitos jogos, inclusive contra Napoleão e Benjamin Franklin.

O Turco Mecânico – Imagem: Domínio Público

O único problema: o Turco Mecânico era falso. Embora a complexidade da farsa fosse em si um feito de engenharia notável, a inteligência do jogo de xadrez era fornecida por um humano habilmente escondido dentro da “máquina”.

No século 21, o Turco Mecânico dá nome a uma plataforma online [“Mechanical Turk” ] cujo produto é tornar o trabalho repetitivo e monótono de rotulação de dados no treinamento de sistemas inteligentes acessível para qualquer pequeno negócio, através da terceirização da atividade para trabalhadores remotos, que recebem tão pouco quanto US$ 0,97 por hora. Cortesia da Amazon.

Encontramos muitos desses “fantasmas humanos na Máquina Inteligente”: por exemplo, os trabalhadores de atendimento da Amazon, ‘otimizados’ pela vigilância algorítmica até o ponto de ruptura (e fazendo xixi em garrafas, como se tornou notório); ou os moderadores de conteúdo das redes sociais, se virando na gig-economy e lutando com o trauma provocado pelas coisas horríveis com as quais eles lidam em seu trabalho.

E existem até mesmo humanos, escondidos na IA tão desconfortavelmente quanto o operador oculto do Turco Mecânico, cujo papel é compensar o deficit na “inteligência” muda das máquinas. Veja, por exemplo, as pessoas contratadas para se passar por chatbots em empresas que querem parecer ultrassofisticadas.

Quero falar com um humano

A convergência entre humano e máquina, por sua vez, torna a humanidade real um luxo. Assim como a tecelagem mecânica tornou os tecidos baratos, os tecidos feitos à mão agora são extremamente caros – assim como qualquer coisa criada à mão com habilidade artesanal genuína. Da mesma forma, como o setor de hospitalidade se automatizou e despersonalizou durante a epidemia da Covid, as viagens “sem contato” tornaram o contato humano um extra premium – porque o que as pessoas realmente querem é conversar com um humano. Um canal da indústria hoteleira descreve a assistência humana hoje como um diferencial, “a marca registrada de uma viagem de luxo”.

Portanto, não importa se existem autômatos capazes de reproduzir fielmente o aspecto humano. Os que são lançados na economia de escala não se preocupam em buscar a verossimilhança, e são estes os que estão a transformar mais radicalmente nossas vidas.

Enquanto nos maravilhamos (ou estremecemos) com os simulacros quase perfeitos que chegam quase a convencer [ver uncanny valley] e toleramos entorpecidos os que não convencem, cada avanço na robótica reordena outra onda de trabalho humano às prioridades da máquina. E cada vez que o fazem, outra faceta do calor humano, inteligência e habilidade torna-se um extra premium, para os poucos sortudos.

Penso, logo existo

E o que deveria nos preocupar é menos se as máquinas se tornarão sencientes, mas quais serão os efeitos de uma mecanização cada vez maior sobre os humanos.

O avô do argumento de que a senciência humana é gerada a partir de processos fundamentalmente diferentes dos algorítmicos, ou mesmo de qualquer física atualmente compreendida, é nosso mais eminente matemático/físico e vencedor do Prêmio Nobel, Sir Roger Penrose. Noto aqui que os contra-argumentos penrosianos exigem um mergulho nos teoremas da incompletude de Gödel e na natureza do Problema da Parada na computação.

E nesta área não há lugar melhor para se pesquisar do que nos livros sedutoramente bem escritos de Roger Penrose, ‘The Emperor’s New Mind’ e ‘Shadows of the Mind’. Em resumo, Penrose implica uma distinção entre consciência e inteligência. Ele afirma que a consciência não é algoritmicamente explicável — embora ele não se refira propriamente à ‘inteligência’ neste contexto.

Pessoalmente falando, pensei por décadas que a senciência humana sempre seria inatingível pela inteligência de máquina gerada por algoritmos, mas não tenho mais certezas a esse respeito. Não acho que tenhamos uma maneira real de distinguir entre a inteligência humana e a inteligência da máquina e, por extensão, não temos como afirmar que a inteligência da máquina não exibirá algumas características da senciência. .

Chomsky argumentou que os humanos nascem com um senso inerente às estruturas da linguagem. E se isso for verdade, que implicações isso tem para a capacidade das máquinas de replicar habilidades linguísticas? E como os humanos diferem das máquinas nesse aspecto? O maior problema que temos é aquele com o qual Wittgenstein também lutou – o uso e as limitações da linguagem. Como saberemos se estamos todos discutindo o mesmo assunto?


[0] – The Habsburg Monarchy 1809–1918 – AJP Taylor