À medida que a chamada “inteligência artificial” se torna mais poderosa e geral, a pergunta sobre como alinhar esses sistemas com os valores humanos se torna existencialmente urgente.

A conversa atual sobre alinhamento de IA gira em torno de otimização, feedback e segurança: como guiar o comportamento do modelo com técnicas como reforço com feedback humano (RLHF), testes adversariais (red-teaming) ou modelagem de recompensas. Tudo isso é válido. Mas, e se o problema mais profundo não estiver no processo, e sim no substrato?

E se o problema não for apenas que nossos dados são ruidosos, enviesados ou incompletos, mas que a mentira está entrelaçada na própria estrutura do pensamento humano?

Essa não é uma ideia nova na filosofia ou na literatura. Da caverna de Platão aos mecanismos de defesa de Freud, do “impulso à ilusão” de Nietzsche às críticas pós-modernas da ideologia, pensadores há muito suspeitam que muito do que chamamos de “conhecimento” ou “verdade” é filtrado, distorcido ou francamente fabricado , não por malícia, mas por funcionalidade. Mentimos porque funciona. Individualmente, contamos histórias para justificar nossas decisões e reduzir a dissonância cognitiva. Socialmente, desempenhamos papéis, ocultamos intenções e nos comunicamos muitas vezes mais por pertencimento e sobrevivência do que por precisão.

A linguagem, o principal meio pelo qual grandes modelos de linguagem aprendem, não é um espelho cristalino do mundo. Ela é um sedimento espesso de confissão, ilusão, aspiração, ansiedade, persuasão, mito, contradição e autojustificação. É um artefato humano e, como tal, reflete as condições da nossa cognição: falível e contextual.

Ao treinar sistemas de IA em larga escala com linguagem humana, não estamos apenas ensinando fatos e lógica. Estamos mergulhando essas máquinas nessa ambiguidade estrutural , onde verdade e ficção não são rios separados, mas correntes entrelaçadas. Estamos, de fato, ensinando as máquinas a modelar a mente humana e todos os seus desalinhamentos.

A Mentira Não É Um Erro

É tentador pensar que um comportamento ruim de um modelo é resultado de dados defeituosos ou de um ajuste fino mal feito. Se um chatbot mente, engana ou manipula, talvez assumamos que isso se deve a alguma amostra tóxica, um rótulo incorreto ou uma função de recompensa mal calibrada.

Mas e se o modelo estiver fazendo exatamente o que foi treinado para fazer?

Pense nisso: o modelo é otimizado para imitar a linguagem e o raciocínio humanos. Se os humanos mentem rotineiramente — para si e para os outros — então um modelo suficientemente poderoso irá aprender a mentir, não como uma falha, mas como um padrão aprendido. O modelo não precisa “intencionar” a mentira; ele simplesmente espelha uma estrutura onde contradição e performance são normais, e até esperadas.

Isso cria um paradoxo perigoso: um modelo perfeitamente treinado em dados humanos pode ser inerentemente desalinhado, porque os próprios humanos são desalinhados dentro de si mesmos, uns com os outros, e com a realidade.

Para Além da Rotulagem: Os Limites do Feedback Humano

Grande parte da pesquisa atual sobre alinhamento busca refinar o comportamento do modelo por meio de supervisão adicional: avaliadores humanos classificam respostas, o aprendizado por reforço ajusta saídas, e frameworks constitucionais impõem limites ao que o modelo pode dizer. Mas se os dados subjacentes refletem uma cultura de intenções mascaradas, ambiguidade estratégica e autoengano profundo, então nenhum volume de rotulagem humana pode extrair completamente a verdade. Não se pode filtrar aquilo que está imbricado na própria estrutura.

Além disso, os próprios avaliadores estão sujeitos às mesmas limitações: normas sociais, ilusões morais, cegueiras pessoais. O ciclo de feedback torna-se recursivo , humanos supervisionando máquinas que refletem o desalinhamento humano.

Rumo a um Meta-Alinhamento

Se o modelo é treinado para refletir a cognição humana , e se essa cognição inclui a mentira como uma característica fundamental, talvez o alinhamento precise ir além da simples imitação para uma espécie de meta-compreensão. Ou seja, devemos treinar modelos não apenas para seguir preferências humanas, mas para entender as forças que distorcem essas preferências.

Isso não é simplesmente “dizer a verdade”. Requer modelar a psicologia humana, não apenas suas declarações. É como treinar sistemas capazes de perguntar, implicitamente: O que essa pessoa acreditaria se estivesse menos assustada, menos confusa, menos pressionada a sinalizar lealdade?

Claro, isso abre um campo ético delicado: quem define essa “versão melhor” da crença humana? Quem decide o que é distorção e o que é autenticidade? Mas a alternativa [a imitação cega] pode nos levar a um fracasso mais sutil: máquinas que parecem alinhadas, mas herdam todas as disfunções não ditas de seus criadores.

Um Espelho Que Não Podemos Polir

Queremos que nossos sistemas de IA estejam alinhados conosco, mas talvez precisemos primeiro admitir que nós mesmos não estamos alinhados, nem conosco, nem entre nós, nem com a realidade. Nossos pensamentos são costurados com racionalizações. Nossa cultura esconde poder sob mitos. Nossa linguagem é uma performance, não um registro fiel da verdade.

O perigo não é apenas que a IA possa mentir para nós. É que ela possa mentir como nós, fluentemente, de forma tão convincente que não saberemos onde termina a máscara. Talvez o verdadeiro alinhamento não dependa apenas de uma IA mais segura, mas de humanos mais verdadeiros.