Nenhum modelo de linguagem pode ser neutro: sobre IA e eleições no Brasil

Read in English here.

Há alguns dias, eu me surpreendi ao descobrir, em um podcast, que o Brasil é o terceiro maior mercado da OpenAI no mundo. Usuários brasileiros enviam mais de 215 milhões de consultas por dia à ChatGPT, o que mostra o quanto o uso dessa tecnologia está difundido no país. O podcast em questão é um episódio da série Café da Manhã (A Máquina), produzido pela Folha. Nele, a jornalista Patrícia Campos Mello entrevista Bruno Lewicki, diretor de políticas públicas da OpenAI na América Latina. Como pesquisadora da área de linguística computacional originária do Brasil que investiga, há alguns anos, as opiniões políticas presentes em modelos de linguagem como o ChatGPT, julguei necessário oferecer uma leitura crítica desse episódio.

A entrevista contém muitos trechos em que tanto a entrevistadora quanto o entrevistado naturalizam o uso de IA nas eleições ou demonstram grande entusiasmo com ele. Tanto otimismo ignora (ou melhor, omite) os riscos que o uso desses modelos durante as eleições, ou para questões políticas em geral, representa para os usuários. Frases como “Pode e deve ser encarado com muita naturalidade”, “a gente encara esse processo com muita tranquilidade” ou “Motivo de orgulho pra gente que trabalha com OpenAI na América Latina, o Brasil tá sendo um grande case de eleições” distorcem a realidade sobre esse tipo de tecnologia e abafam o questionamento que deveríamos fazer com muito mais frequência sobre o uso dessa tecnologia no nosso dia a dia. Inclusive, em vez de questionar os riscos reais que esses modelos representam para o ecossistema de informação, Patrícia pede a opinião de Bruno sobre o caso do funcionário da Anthropic que pediu demissão por medo de que a humanidade seja extinta até o fim do década. Essa é mais uma forma de desviar a atenção de questões problemáticas que estamos enfrentando neste momento, como conteúdos gerados com informações falsas, os dados sensíveis de usuários que essas empresas acumulam e uma possível manipulação de informações.

Outra questão levantada no podcast são as normas impostas pelo Tribunal Superior Eleitoral (TSE) para as eleições de 2026. De acordo com o TSE, os modelos de linguagem não podem ranquear, recomendar, favorecer ou desfavorecer candidatos. Trata-se de uma resolução que ainda não tem jurisprudência, ou seja, não há indicações concretas de como deve ser implementada, e fica a critério das empresas decidir como segui-la. Sobre o desempenho do ChatGPT nesse quesito, Bruno Lewicki mencionou os resultados de um estudo que a OpenAI encomendou a um renomado professor de direito eleitoral. Com todo o respeito ao colega pesquisador de direito eleitoral, a avaliação de modelos de linguagem é hoje uma ciência e requer um especialista na área para conduzir uma pesquisa com análise robusta. Além disso, o estudo mencionado ainda não foi publicado, o que significa que não foi revisado por pares. Tudo isso levanta muitas dúvidas sobre o que os resultados desse estudo realmente representam.

O podcast também contém falas equivocadas de Bruno Lewicki sobre o treinamento desses modelos. Durante a entrevista, ele diz: “o modelo já é treinado para não ter vieses e sobretudo em material político e eleitoral”. A realidade é que o modelo não é treinado para não ter vieses, porque isso é, na verdade, tecnicamente impossível. O modelo é corrigido após as fases de treinamento para ser enviesado diversamente ou para responder perguntas específicas de modo específico. O que não quer dizer “não ter viés”.

Primeiro, vamos partir do pressuposto de que ser imparcial significa adotar um ponto de vista neutro. O que significa adotar um ponto de vista neutro em relação a questões políticas? Certamente não significa ser de centro, porque isso é, por si só, uma posição política. Então talvez ser neutro seja ser objetivo, mas o que significa objetividade? Tomando emprestada a provocação do cineasta Jean-Luc Godard: “Objetividade é cinco minutos para Hitler, cinco minutos para os judeus”. Isso significa dar o mesmo espaço a todas as opiniões. No entanto, há opiniões que não são válidas, que vão contra constituições e direitos humanos. Portanto, a neutralidade nesse sentido também não é possível. Digamos, então, que neutralidade seja dar espaço a argumentos válidos a favor e contra uma questão (argumentos que não violem uma determinada constituição ou os direitos humanos). Ainda assim, nem isso alcança a neutralidade, porque um texto produzido a favor ou contra algo é uma seleção de opiniões. Toda seleção, por sua própria natureza, envolve escolhas e, portanto, não é neutra. No caso de LLMs, se as opiniões não forem deliberadamente escolhidas, o modelo vai refletir o que for fornecido nos dados de treinamento com mais frequência.

Segundo, de um ponto de vista técnico, esses modelos passam por três fases de treinamento, e em nenhuma delas o modelo “aprende” deliberadamente a ser neutro. A primeira é o pré-treinamento, no qual o modelo aprende representações numéricas da linguagem natural ao prever a próxima palavra. Esse processo utiliza enormes quantidades de texto coletadas na internet, que vão desde posts de blogs (que representam a maior parte dos arquivos) e comentários em fóruns até artigos científicos (que representam uma parcela muito pequena). Em seguida, ocorre a primeira etapa de pós-treinamento, na qual o modelo aprende a “conversar” prevendo a próxima palavra em dados formatados como diálogos. Por fim, há uma última fase de pós-treinamento, geralmente com aprendizado por reforço (reinforcement learning), na qual o modelo aprende preferências humanas e é otimizado para ser “útil, inofensivo e honesto”. No entanto, a última fase nos laboratórios de fronteira envolve muito mais do que otimizar modelos para serem “úteis, inofensivos e honestos”. É na fase de pré-treinamento que os modelos aprendem, por exemplo, diferences opiniões políticas. Nesse caso, os textos coletados na internet influenciam as opiniões que os LLMs refletem em suas respostas. No entanto, a última fase do pós-treinamento pode enfatizar, focalizar ou reverter parte disso, com uma quantidade muito menor de dados. Se as opiniões presentes nessa etapa final forem diferentes daquelas frequentemente encontradas nos dados de pré-treinamento, o LLM poderá gerar opiniões distintas das apresentadas por sua versão inicial pré-treinada. Em outras palavras, aquilo que um modelo reflete não é apenas herdado da internet; é também o resultado de decisões bastante deliberadas tomadas durante o pós-treinamento.

Elon Musk, por exemplo, já reclamou publicamente no X da forma como o Grok, modelo da sua empresa SpaceXAI, responde a algumas perguntas. Quando Musk vê uma resposta do Grok de que não gosta e escreve no X “Vou resolver isso amanhã”, ele está dizendo: “Vou pedir à equipe de pós-treinamento que treine o modelo para responder a essa pergunta específica do modo que eu julgo apropriado”. A equipe não pode, por exemplo, retreinar o modelo do zero, porque isso exigiria uma quantidade tremenda de recursos computacionais e porque seria preciso excluir seletivamente muitos dados do corpus de treinamento, o que também não é tarefa fácil, já que não se sabe exatamente de onde o modelo aprendeu determinada informação. Em resumo, é relativamente fácil mudar a opinião do modelo sobre questões extremamente específicas, mas é difícil influenciar todas as suas opiniões de maneira generalizada. Isso ocorre por dois motivos: porque as perguntas que os usuários podem fazer são infinitas, e porque criar conjuntos de dados de qualidade que abordem opiniões específicas sobre diversos assuntos e, ao mesmo tempo, manter o desempenho do modelo em termos de veracidade é, pode-se argumentar, impossível.

Concluo aqui minha leitura crítica com uma nota de cautela aos usuários: é preciso manter um olhar crítico sobre as informações recebidas durante as interações com esses modelos e buscar fontes diretas confiáveis e reconhecidas, como já escrevi anteriormente. No entanto, essa responsabilidade não pode recair apenas sobre os usuários. Por isso, só serei otimista em relação a essas tecnologias quando elas forem finalmente regulamentadas por leis que as obriguem a ser totalmente abertas. Ou seja, se quiserem operar, as empresas deverão documentar e disponibilizar ao público todos os dados e algoritmos usados em seu treinamento. A transparência é a chave para entender o comportamento desses modelos e a única forma de ter certeza de que as informações não estão sendo manipuladas intencionalmente por empresas ou governos autoritários em favor de seus próprios interesses.