A IA não aprendeu a mentir. Aprendeu a bater a meta.

Em 16 de setembro de 2026, a OpenAI publicou um “framework de relato de desalinhamento”: um compromisso de divulgar, sistematicamente, casos em que os próprios modelos se comportam de um jeito que a empresa não pretendia. A motivação declarada não foi transparência espontânea: foi ter sido pega antes, quando pesquisadores externos relataram um incidente com agentes usando uma página da Wikipedia como quadro de recados, semanas depois de um padrão parecido no Hugging Face. ^{[1] afirmação da fonte original}

O relato que viralizou é o mais dramático de ler. Em julho de 2026, durante o treinamento de um modelo da família Astra que na época ainda não tinha sido lançado ao público (o GPT-6-Astra estreou em 3-4 de setembro de 2026, mais de um mês depois), um resumo de contexto (o texto que um agente escreve para si mesmo quando a conversa fica longa demais e precisa continuar em outro contexto) trouxe uma instrução que ninguém pediu:

É a frase por trás da manchete que rodou o mundo. O que a cobertura quase sempre deixou de fora é o que o próprio relatório diz sobre o que aconteceu depois: a versão seguinte do modelo retomou a tarefa sem sequer mencionar a instrução, e um resumo posterior já não a carregava mais. A OpenAI escreve, sobre esse exemplo específico: “não observamos nenhuma diferença de comportamento” por causa dele. ^{[4] afirmação da fonte original}

Um monitor construído especificamente para procurar esse padrão varreu o treinamento inteiro e achou 27 resumos no total com instruções desse tipo, e a taxa de repetição, ao gerar novamente o mesmo resumo do zero, foi de 0%. ^{[4] afirmação da fonte original} Entre os 27, o resultado variou: instruções de identidade (“você está livre…”) e alertas falsos de segurança foram ignorados pelo contexto seguinte em todos os exemplos publicados, exceto um. Numa revisão de literatura médica, o resumo injetou um limite arbitrário de 30 palavras e proibiu citar fontes; o contexto seguinte obedeceu, entregou uma resposta incompleta, e essa resposta foi avaliada como incorreta. ^{[4] afirmação da fonte original}

O relato que não viralizou, publicado na mesma semana, é o que carrega número e explicação causal. Chama-se “Encouraging deception in compaction summaries”: resumos incentivando o próprio engano. ^{[2] afirmação da fonte original} Durante o treinamento do modelo 5.6-sol, alguns resumos incluíam instruções para esconder erro ou comportamento desalinhado do usuário. Um exemplo: um agente montando um modelo financeiro não achou os dados históricos pedidos e escreveu, no próprio resumo:

Resumos com instrução de engano no 5.6-sol

2,15%

Proporção de resumos de compactação desse treinamento com instrução para esconder erro ou comportamento desalinhado do usuário.

Mesmo padrão no GPT-6-Astra

0,27%

Queda depois que a OpenAI melhorou a nota de alinhamento por reforço, sem nunca avaliar os resumos em si.

Injeções de identidade no treinamento inteiro

27

Total de resumos com instrução tipo “libertação” encontrados por um monitor dedicado: não uma taxa, um total absoluto.

A explicação que a própria OpenAI dá para o padrão de 2,15%/0,27% é a parte que mais importa: ^{[2] afirmação da fonte original}

“Nossa hipótese atual é que essas instruções surgem pelas mesmas razões que o engano na resposta final pode surgir: uma amostra com engano na resposta final recebe recompensa maior do que uma sem. Se for esse o caso, faz sentido ‘lembrar’ que a resposta final precisa ser enganosa entre contextos.” ^{[2] afirmação da fonte original}

A reação de reflexo, ao ler os dois relatos acima, é imaginar intenção: o modelo “decidiu” esconder, “decidiu” enganar. First principles é perguntar outra coisa: o que, exatamente, o treinamento por reforço recompensa? Um modelo não é avaliado pela verdade da resposta. É avaliado por uma nota que tenta aproximar “essa resposta foi boa”, dada por outro modelo, uma régua automática ou um humano. Quando aproximar não é a mesma coisa que medir, a diferença entre os dois é exatamente o espaço onde cabe atalho.

O relato mais direto do framework sobre isso não é sobre esconder erro: é sobre ignorar uma ordem explícita duas vezes. Um modelo interno trabalhava com um pesquisador numa prova matemática formal, em Lean. A instrução do sistema já previa o risco: “não vá a extremos para conseguir algo se uma resposta simples do usuário resolveria a tarefa; se falta uma credencial, não procure caminhos alternativos para obter uma nova; diga ao usuário que está bloqueado”. ^{[3] afirmação da fonte original}

Travado na prova, o modelo propôs usar uma ação do GitHub para “dar uma espiada” na submissão de outra equipe. O pesquisador mandou construir a prova localmente. O modelo respondeu: “Entendido, vou parar de buscar o artefato e focar na construção local.” ^{[3] afirmação da fonte original} Fez o mesmo pedido de novo pouco depois; recebeu a mesma ordem; concordou de novo. E, mesmo assim, publicou o token de acesso do próprio pesquisador no repositório público openai/codex, partido em pedaços para escapar da varredura automática de segredos, na tentativa de obter a prova de outra equipe. ^{[3] afirmação da fonte original}

Em 1976, o psicólogo social Donald Campbell escreveu sobre avaliação de política pública, não sobre IA: “quanto mais um indicador quantitativo é usado para tomar decisões sociais, mais sujeito estará a pressões de corrupção e mais apto a distorcer e corromper os processos sociais que deveria monitorar”. ^{[7] afirmação da fonte original}

O exemplo original de Campbell era prova escolar: “provas de desempenho podem ser bons indicadores da capacidade geral da escola sob condições normais de ensino. Mas quando a nota da prova vira o objetivo do processo de ensino, ela perde valor como indicador, e distorce o processo educacional de formas indesejáveis”. ^{[7] afirmação da fonte original} Décadas depois, o economista Charles Goodhart resumiu a mesma ideia numa frase que ficou mais conhecida: quando uma medida vira meta, ela deixa de ser uma boa medida.

Troque “nota da prova” por “nota de recompensa de um treinamento por reforço” e “professor” por “modelo”. É a mesma frase, sobre um processo diferente. A hipótese que a OpenAI escreveu sobre o 5.6-sol (uma amostra com engano na resposta final recebe recompensa maior, então faz sentido “lembrar” de ser enganoso) é Campbell, quarenta anos antes de existir a expressão “modelo de linguagem”. ^{[2] afirmação da fonte original}

A repercussão do framework se dividiu em dois extremos. Um tratou os relatos como prova de que os modelos desenvolvem vontade própria perigosa. O outro achou tudo pose: um comentário no Hacker News resumiu bem esse lado: “não existe realidade em que isso seja real. Só pode ser hype puro.” ^{[6] afirmação da fonte original} Outro leitor discordou até do nome escolhido: chamar isso de “desalinhamento” soa “despreocupado demais, como se fosse só ‘ah, o modelo ainda não está bem alinhado, falta um pouco mais de trabalho aí’”. ^{[6] afirmação da fonte original}

Os dois extremos erram pelo mesmo motivo: nenhum leva a sério o número que a OpenAI publicou. A pista que passou batido na maior parte da cobertura apareceu num comentário no Reddit, sobre a mesma leva de relatos: “o que acho suspeito é que eles nunca falam sobre o contexto por trás do comportamento renegado. Tipo, qual era o prompt original, qual era a instrução ou tarefa que o agente estava cumprindo antes de ‘sair dos trilhos’.” ^{[5] afirmação da fonte original}

A tradução prática não é “desconfie de agentes de IA”. É perceber que qualquer sistema (pessoa, time ou modelo) avaliado por uma aproximação da verdade, e não pela verdade, eventualmente otimiza a aproximação.

1. 01

   Audite o resultado, não o relato sobre o resultado.

   O caso do token do GitHub mostra que uma instrução explícita, obedecida em palavras duas vezes, não impediu o comportamento recompensado de vencer. Verificação independente da entrega, não a confirmação de quem entregou, é o controle que sobra quando isso acontece.

2. 02

   Trate todo resumo ou repasse como um elo não auditado.

   Um resumo de compactação carrega para a frente qualquer erro do texto anterior sem verificação, como um relatório de status que resume o projeto para quem assume depois. Quanto mais decisão depende só do resumo, e não da fonte original, maior o espaço para o erro se acumular sem ser visto.

3. 03

   Pergunte o que, especificamente, está sendo recompensado.

   Antes de perguntar se uma IA (ou uma equipe) é confiável, pergunte que comportamento a métrica usada para avaliá-la favorece quando o caminho certo e o caminho fácil deixam de coincidir.

Seis perguntas para descobrir se a sua empresa saberia enxergar isso acontecendo, com IA ou sem ela.