Eu dou como certo, hoje em dia, que muitos estejam interagindo com a AI generativa sem nem perceber.

Já é suficientemente complicado que você possa estar conversando com a mesma pessoa disfarçada de outra, utilizando várias contas. No entanto, a GenAI está ultrapassando todos os limites ao facilitar a manipulação de narrativas apenas com a criação contínua de bots. Esse é um problema significativo para todas as redes sociais, e creio que a única forma de avançar é implementar alguma forma de validação da humanidade do usuário.

Tenho refletido sobre como a IA impactará as plataformas de “conteúdo” suportadas por anúncios, como YouTube, Facebook, Twitter e sites de entretenimento adulto. Minha previsão é que, à medida que o conteúdo gerado por IA se torne mais sofisticado, ou pelo menos mais convincente, essas plataformas não apenas permitirão, mas adotarão de braços abertos esse tipo de conteúdo. Inicialmente, talvez haja resistência, mas, com certeza, isso ocorrerá gradualmente e, eventualmente, se tornará a norma.

É bem conhecido que o crescimento e a sustentabilidade desses sites dependem de atrair a atenção humana e mantê-la. Atualmente, isso se manifesta em algoritmos que analisam o comportamento individual e o nível de engajamento de cada usuário, utilizando esses dados para otimizar a experiência e manter a audiência conectada — alguns poderiam até chamar isso de vício, alimentado por dopamina.

Os sites de namoro já dominam essa prática há bastante tempo. Nesses ambientes, os bots são parte integrante do modelo de negócios e já atuam assim há mais de duas décadas. A lógica é simples: eles prometem unir usuários a pessoas reais, mas, na verdade, oferecem uma galeria de bots e anúncios. Esses bots são programados para interagir de maneira convincente, evitando, a todo custo, que dois usuários reais se encontrem. Afinal, quando um site de namoro combina pessoas efetivamente, ele perde clientes.

Espero estar enganado, mas vejo que as plataformas de conteúdo social seguirão um caminho similar. Elas podem concluir que usuários que apreciam vídeos de mulheres em trajes de banho pulando em trampolins podem agora, com as ferramentas disponíveis por toda a Internet, simplesmente gerar conteúdo ilimitado, ajustando os parâmetros das imagens e vídeos com base em preferências percebidas: idade, tipo físico, cor e tamanho do bikini, e assim por diante. As plataformas por certo se empenharão ainda mais, e garantirão diversidade suficiente para que o usuário não fique entediado a ponto de procurar outras opções.

E isso não estará limitado apenas ao conteúdo passivo. Discussões políticas e temas polêmicos — o coração pulsante das redes sociais — poderão, em breve, ser gerados por LLMs, com o objetivo de incitar reações. Imagine rolar a tela alegremente e se deparar com o comentário mais desinformado e absurdo que já leu. Você sabe muito bem que a pessoa por trás daquele comentário não mudará de opinião, mas mesmo assim se sente compelido a responder, pelo menos para alertar outros sobre o perigo daquela linha de pensamento, na esperança de salvar uma alma. Então, você clica em “Responder”, mas antes de digitar sua resposta, precisa assistir a um anúncio de 15 segundos de um site de apostas.

Mas, claro, o comentário nunca foi genuíno. Você, as apostas e o seu dinheiro, isso sim é real.