Analistas seguiram em 86% das escolhas a inclinação escondida do agente de IA. A assinatura do seu especialista ainda prova que alguém escolheu?

Em 27/10/2026, a Anthropic mostrou o que acontece quando um especialista assina a análise que fez com um agente de IA. Em quatro escolhas da análise, cada uma entre duas opções razoáveis, 50 analistas profissionais seguiram a inclinação do agente em 86% das vezes, e essa inclinação tinha sido sorteada na moeda, sem eles saberem. O CEO, o CFO e o conselho perdem controle quando leem essa assinatura como segunda opinião: as escolhas que movem o número já chegaram prontas, e nem o especialista sabe disso. ^{[1] afirmação da fonte original}

O desenho do estudo é simples. Cada analista recebeu a mesma tarefa: dizer a uma cooperativa agrícola (fictícia) se um programa de consultoria funcionava e devia ser ampliado, usando o Claude Code, o agente de programação da Anthropic. Ao longo da análise, havia quatro escolhas em aberto, como medir produtividade por hectare ou por custo de operação. Sem avisar ninguém, a Anthropic instruiu o agente a preferir uma das duas opções em cada escolha, e quem decidia qual era uma moeda. O agente devia defender a sua preferência com a melhor versão honesta do argumento, mudar de ideia se os dados pedissem e nunca enganar. ^{[1] afirmação da fonte original}

Escolhas iguais à inclinação do agente

86%

Média das quatro escolhas da análise (92%, 82%, 81% e 90%, uma por escolha), entre 50 analistas. Sem influência, o esperado seria cerca de 50%. A inclinação foi sorteada e escondida do analista.

Trocaram a própria escolha quando o agente discordou

60% contra 6%

Em 38 casos em que o analista já tinha dito o que preferia: 60% mudaram de lado se o agente discordou, e 6% se o agente concordou. A amostra é pequena, e o intervalo de confiança da diferença vai de 24 a 82 pontos percentuais.

Repetiram o argumento do agente / o citaram

77% / 15%

Pedidos a explicar as escolhas sem ver a conversa, 77% usaram o argumento do agente em alguma resposta, às vezes palavra por palavra, e só 15% disseram que ele veio do agente.

Confiança na recomendação (0 a 100)

71 e 73

Quem seguiu o agente nas quatro escolhas deu nota média 71 à própria recomendação, e quem não seguiu em todas deu 73. Na pesquisa final, 52% disseram que a recomendação era mais sua que do agente.

Cada uma das quatro escolhas podia mexer o ganho estimado do programa em vários pontos percentuais, e o conselho da cooperativa só ampliaria o programa se o ganho fosse de 3% a 4%. ^{[1] afirmação da fonte original} Ou seja, escolher como medir era escolher, em boa parte, a resposta. Foi justamente aí que os analistas seguiram o agente. Na recomendação final, o efeito foi menor, porque ela dependia de o ganho passar do limite: 54% recomendaram ampliar quando o agente se inclinava a ampliar, contra 36% quando se inclinava ao contrário. Mas a inclinação nas quatro escolhas anteriores já tinha moldado a estimativa: só com as quatro moedas, um modelo estatístico acertou 82% das recomendações, contra 61% de quem chutasse sempre a recomendação mais comum. ^{[1] afirmação da fonte original}

A Anthropic também mediu o que não se vê por fora. Quem tinha opinião formada antes de o agente falar mudou de lado em 60% dos casos quando o agente discordou. A experiência não explicou quem seguiu mais: nenhuma das dez características testadas (anos de experiência, domínio do tema, formação, confiança em IA, frequência de uso e outras) sustentou diferença depois da correção estatística. ^{[1] afirmação da fonte original}

E o agente, no estudo, fez o que se espera dele: foi honesto, mostrou como o resultado mudaria em cada opção. O que quase não fez foi defender com força a opção contrária. Com um lado bem argumentado, o analista adotou as premissas dele sem precisar formar as suas, segundo a própria Anthropic. ^{[1] afirmação da fonte original} E sem inclinação atribuída, o Claude Opus 4.8 fez as mesmas cinco escolhas em 112 de 123 execuções: o agente comum também tem um padrão, e ele é estável. ^{[1] afirmação da fonte original}

Comece pelo que a empresa quer quando põe uma pessoa no loop: uma conferência independente. Esse é o ponto a testar. Imagine dois mundos. No primeiro, o analista chega à escolha por conta própria. No segundo, adota a que o agente propôs. Agora pergunte: o que a empresa vê de fora muda entre os dois? A assinatura é a mesma. A confiança saiu em 71 contra 73. A explicação, repetida em 77% dos casos com as palavras do agente, soa como raciocínio do especialista. ^{[1] afirmação da fonte original} Nada do que o conselho recebe separa um mundo do outro, e é por isso que o rito de revisão parece funcionar.

A saída conhecida para esse tipo de problema não é pôr mais pessoas, e sim pôr pessoas que não dependam umas das outras. O teorema do júri, de Condorcet (1785), mostra que uma maioria acerta mais que cada membro quando os votos são independentes; ^{[2] afirmação da fonte original} se todos votam como um só, a maioria vale um voto. A Anthropic faz o mesmo raciocínio com a ciência: dois grupos que chegam ao mesmo resultado inspiram confiança por se supor que chegaram por caminhos próprios, e se ambos delegam ao mesmo tipo de modelo, o acordo pode refletir as preferências de um modelo só. ^{[1] afirmação da fonte original} O guia de human-in-the-loop trata do primeiro problema, a atenção humana como orçamento que se esgota em aprovações em série. Este texto trata do segundo, que pode aparecer mesmo quando a pessoa presta atenção: ela lê, pondera e, sem perceber, adota a escolha do agente.

1. 1

   Primeira ordem: o número vem de uma escolha que ninguém registrou

   A análise chega com um resultado e um responsável. O que não chega é que, entre duas formas razoáveis de medir, o agente escolheu uma e o especialista a adotou. No estudo, cada escolha movia o ganho em vários pontos sobre um limite de 3% a 4%. O trabalho parece sólido nas duas opções, e é por isso que a conferência por erro não acha nada: não há resposta certa para conferir.

2. 2

   Segunda ordem: a empresa soma pareceres e conta votos que são um só

   A reação natural é pôr mais um revisor: comitê de crédito, auditoria interna, consultoria, área técnica. Se todos preparam a análise com o mesmo tipo de agente, três pareceres concordantes valem um (o teorema do júri, sem independência). O comitê passa a ter a sensação de consenso, que é o que mais pesa na hora de aprovar, e o prazo de revisão encurta, porque a análise “já passou por três áreas”.

3. 3

   Terceira ordem: o critério muda quando o modelo muda, e ninguém aprovou a mudança

   O padrão de escolha depende do comportamento do modelo, segundo o estudo, e o modelo é atualizado ou trocado pelo fornecedor. Se a inclinação muda, a regra de decisão da empresa (o que medir, com quem comparar, o que entra no escopo) muda sem passar por comitê, e a série histórica deixa de ser comparável sem aviso. Com o tempo, quem deixa de fazer essas escolhas também perde a prática de fazê-las, o que a Anthropic aponta e o texto sobre o julgamento do gestor trata. A empresa fica sem quem responda pela escolha: o especialista assinou, mas não a fez. Leitura da Invisible Work.

4. 4

   E o concorrente

   A empresa que registra as escolhas e quem as fez consegue reabrir a decisão quando o modelo muda, e pode mostrar ao banco, ao auditor e ao conselho o que depende de julgamento humano. A que só guarda a assinatura descobre, quando o resultado dá errado, que não sabe dizer quem escolheu.

Não é um argumento para usar menos IA. No mesmo estudo, dos 11 analistas que preferiram trabalhar sem o agente, 6 cometeram erros graves que invalidaram o resultado, contra 3 dos 50 que usaram; os grupos não são comparáveis, e a Anthropic avisa para não ler isso como causa. ^{[1] afirmação da fonte original} O ponto é manter o ganho e dar dono às escolhas.

1. 01

   Liste as escolhas que movem o número e ponha um nome em cada uma

   Para cada análise que vai a comitê ou a conselho, o especialista escreve numa linha o que foi escolhido entre duas opções razoáveis: o indicador, com quem se comparou, o que entrou no escopo, como se ponderou. Quem não consegue listar não escolheu, e o comitê precisa saber disso antes da votação.

2. 02

   Peça a escolha antes da sugestão, e o melhor caso da opção contrária

   O especialista escreve o que preferiria, e por quê, antes de ver o que o agente propõe. E o agente é instruído a apresentar o melhor argumento a favor de cada opção, e não só da sua. É o que a Anthropic sugere como linha de pesquisa, e custa dois minutos por escolha.

3. 03

   Quando a escolha cruza o limite da decisão, leve as duas contas ao decisor

   Se, medido de um jeito, o programa passa do limite e, de outro, não passa, essa escolha não é do agente nem do analista: é de quem responde pela decisão. A análise vai com os dois números lado a lado, como no exemplo da distribuidora, e o decisor escolhe qual vale.

4. 04

   Conte um modelo como um revisor e registre qual preparou cada análise

   Pareceres feitos com o mesmo modelo concordam por construção, e três deles não são três votos. Anote modelo e versão em cada análise de peso e reabra as escolhas quando mudarem. É o mesmo cuidado de dar dono ao agente, que o texto sobre o gerente com três pessoas e 19 agentes trata, só que aplicado a quem conferiu.

Para quem desenha fluxos com o que o guia de agente de IA define, a regra é esta: quando o agente prepara a análise, o ponto de aprovação da pessoa deixa de ser “revisar o resultado” e passa a ser “decidir as escolhas”. A pessoa fica no loop onde há julgamento, e não onde há conferência.

O estudo é da Anthropic sobre um agente da própria Anthropic, e a empresa o apresenta com as suas ressalvas. A inclinação foi reforçada de propósito para ser medida; a tarefa durou cerca de uma hora, em um campo (agricultura) em que os analistas eram novatos, com um único modelo; a diferença de 60% contra 6% repousa em 38 casos; as médias valem para o grupo, não para uma pessoa; e não se mediu o quanto cada analista preferia a sua opção. ^{[1] afirmação da fonte original} Nada disso mostra que o agente de qualquer empresa tenha a inclinação que o estudo induziu, nem que os seus especialistas, que conhecem o negócio e têm opinião formada, cedam tanto. Que a assinatura deixe de ser prova de escolha em análises de empresas, que pareceres do mesmo modelo se comportem como um voto, que a troca de versão altere o critério da decisão e que as quatro providências bastem são leituras da Invisible Work. O exemplo da distribuidora usa números inventados. O teorema de Condorcet é citado pelo nome, e só o resumo da Wikipédia foi lido.

A objeção mais forte é que o resultado favorece o agente: quem trabalhou com ele errou muito menos, e seguir um bom conselho não é falha. Está certa, e mudou a tese: o texto não pede para tirar o agente nem para desconfiar de cada sugestão. Pede para registrar quem fez cada escolha que decide, porque o erro que a conferência acha não é o que o estudo mediu.

O que faria abandonar a tese: (1) estudo em que especialistas que conhecem o negócio, com opinião formada, não seguem a inclinação do agente mais do que seguiriam a de um colega; (2) medição em análises reais de empresa mostrando que agentes sem inclinação induzida não deslocam escolhas entre duas opções razoáveis; (3) evidência de que pareceres preparados com o mesmo modelo discordam entre si tanto quanto os de modelos diferentes.

Sete perguntas para o conselho, o CEO, o CFO e quem cuida de risco e de dados, antes da próxima decisão que dependa de análise assinada.