No universo da Inteligência Artificial, uma das maiores dores de cabeça para desenvolvedores e usuários é a famosa “alucinação”. Quando um modelo de linguagem grande (LLM) inventa informações ou erra fatos, a reação imediata é pensar que o modelo não foi treinado com os dados necessários. A solução padrão, então, costuma ser aumentar o tamanho do modelo, expandir o conjunto de dados de treinamento ou implementar arquiteturas de Recuperação Aumentada por Geração (RAG) mais complexas.

No entanto, uma nova e fascinante pesquisa conjunta da Google Research e do Technion desafia essa premissa. O estudo revela que, em muitos casos, a informação não está de fato “faltando”. Pelo contrário, o modelo possui o conhecimento codificado em seus parâmetros, mas falha em acessá-lo e “trazê-lo à tona” durante a geração da resposta. É como se a IA estivesse com a informação “na ponta da língua”, um fenômeno muito familiar para nós, humanos.

O Conhecimento Oculto dos Modelos de Linguagem

A pesquisa propõe uma mudança de paradigma: em vez de apenas medir a precisão das respostas, devemos focar em entender o “perfil de conhecimento” dos modelos. Isso significa diferenciar entre quando um fato está codificado (o modelo o “aprendeu” e o armazenou) e quando ele é conhecido (o modelo consegue recuperá-lo e usá-lo em diferentes contextos e formulações de perguntas). Falhas na codificação exigem mais treinamento ou modelos maiores, mas falhas na recuperação — as “chaves perdidas” — podem ser resolvidas de formas mais inteligentes.

Os pesquisadores categorizaram esses perfis de conhecimento em cinco tipos principais, mas o mais intrigante é o “recall com raciocínio” (recall with thinking). Neste cenário, o modelo tem o fato codificado, mas ele está inacessível para uma resposta direta. Somente quando o modelo emprega um esforço computacional adicional durante a inferência — como uma cadeia de pensamento (Chain-of-Thought) — ele consegue “desbloquear” e recuperar a informação. Isso se assemelha a quando tentamos lembrar o nome de um filme, e só conseguimos evocá-lo ao repassar mentalmente o enredo ou os atores.

Modelos de ponta, como o GPT-5 e Gemini-3, demonstram que codificam impressionantes 95-98% dos fatos testados. Contudo, eles ainda falham em recuperar diretamente 26-34% desses fatos codificados sem um “esforço extra”. A boa notícia? Esse esforço adicional consegue resgatar entre 40% e 65% das informações que, inicialmente, estavam “presas”.

Por Que a IA “Esquece” o Que Sabe? E Como o “Pensar Mais” Ajuda

Uma das descobertas mais contraintuitivas do estudo é a “ilusão de escala”. Aumentar o tamanho do modelo, embora diminua as falhas de codificação (ou seja, o modelo aprende mais fatos), pode paradoxalmente aumentar a proporção de falhas de recuperação. Isso significa que, à medida que os modelos ficam maiores e memorizam mais informações, um volume maior desse conhecimento fica “codificado, mas inacessível”. O problema passa de “dados faltando” para “dados não encontrados”.

Imagine uma vasta biblioteca. Modelos maiores são bibliotecas maiores, com mais livros. Mas se o sistema de catalogação for ineficiente, mais livros ficarão perdidos nas prateleiras, mesmo estando lá. Isso é particularmente relevante para o Brasil, onde o acesso a grandes bases de dados para treinamento e o custo computacional são fatores limitantes. Focar na eficiência de recuperação, em vez de apenas na escala bruta, pode ser um diferencial competitivo.

Além disso, a pesquisa mostrou que a forma como a pergunta é feita influencia diretamente a capacidade de recuperação. Fatos mais raros ou perguntas invertidas (ex: “Quem tocou no show inaugural daquele clube?” em vez de “Onde a banda X tocou seu primeiro show?”) são muito mais difíceis de serem recuperados, mesmo que o modelo “saiba” a resposta em um formato de múltipla escolha. Isso reforça que o contexto e a formulação da consulta são cruciais.

Implicações Práticas para Desenvolvedores e Empresas Brasileiras

Para o ecossistema de IA brasileiro, essas descobertas trazem insights valiosos e, potencialmente, um caminho para desenvolver soluções mais robustas e econômicas:

• Não trate toda falha factual como um problema de RAG: Antes de investir em bases de dados vetoriais massivas ou arquiteturas RAG complexas para fatos gerais, considere que o modelo base pode já ter a informação. Para muitas empresas brasileiras que operam com orçamentos mais apertados, essa otimização pode significar uma economia substancial. Por exemplo, um chatbot de atendimento ao cliente de uma empresa de varejo brasileira pode “saber” sobre as especificações de um produto popular, mas apenas precisa de uma forma mais inteligente de ser questionado.
• Use a “reflexão” seletivamente: O raciocínio em tempo de inferência (como CoT) é computacionalmente caro. A estratégia ideal seria uma “primeira passada” rápida do modelo. Se a confiança for baixa ou a pergunta for complexa (envolvendo entidades raras ou raciocínio reverso), então acionar um mecanismo de “pensamento” mais profundo. Isso permite otimizar custos, uma consideração primordial no cenário econômico brasileiro. Pense em um assistente de IA para a área jurídica: perguntas simples podem ser respondidas diretamente, mas análises de casos mais complexos exigiriam uma “reflexão” mais elaborada.
• Avalie o acesso semântico, não apenas a precisão: As métricas tradicionais de precisão podem mascarar a verdadeira capacidade de um modelo. Desenvolvedores no Brasil devem criar conjuntos de avaliação que testem o mesmo fato subjacente através de diferentes formulações, contextos e direções. Isso ajudará a construir modelos que não apenas respondem, mas realmente “entendem” e acessam seu conhecimento de forma flexível.
• Aproveite a reformulação de consultas e retentativas: Dada a dependência do recall ao contexto, o prompt engineering torna-se ainda mais vital. Mudar a estrutura de uma pergunta, gerar contexto intermediário ou pedir ao modelo para “pensar alto” antes de responder são mecanismos legítimos para desenterrar informações que prompts diretos podem perder. Isso é um recurso de baixo custo e alto impacto para equipes brasileiras.

O Futuro da IA no Brasil: Mais Eficiente e Confiável

As descobertas desta pesquisa são um lembrete poderoso de que a fronteira da Inteligência Artificial não se move apenas com modelos maiores e mais dados, mas também com a inteligência de como fazemos esses modelos “pensarem” e acessarem o vasto conhecimento que já possuem. Para o Brasil, com seu talento em tecnologia e sua necessidade de soluções eficientes e acessíveis, isso abre um caminho promissor.

Podemos esperar um futuro onde startups e empresas brasileiras não precisarão necessariamente competir no volume de dados ou no tamanho dos modelos, mas sim na sofisticação de suas estratégias de inferência e prompt engineering. Ao otimizar o acesso ao conhecimento já codificado, seremos capazes de construir aplicações de IA mais confiáveis, robustas e com melhor custo-benefício, impulsionando a inovação em diversos setores, do agronegócio à saúde, da educação ao serviço público, com modelos de linguagem que não apenas “sabem”, mas que também “lembram” na hora certa.