O chatbot fala em nome da sua empresa. Quem aprovou o que ele foi mandado a não dizer?

Quando o chatbot de atendimento erra, quem responde é a empresa. Em 2024, a Air Canada tentou escapar dizendo que o chatbot era responsável pelos próprios atos e perdeu: teve de indenizar o cliente. Em outubro de 2026, Nova York propôs multar quem usa chatbot sem dar ao cliente um caminho até uma pessoa e exigir três anos de registros. O que o chatbot diz, e o que ele evita dizer, é decidido por um texto de instruções que costuma ser escrito por um engenheiro ou por um fornecedor, sem passar pelo jurídico, e que quem lidera a empresa nunca leu. O caso do WhatsApp mostra o tamanho do risco: páginas de ajuda traziam, em texto invisível, ordens ao chatbot de suporte para não recomendar o órgão regulador e não citar a LGPD, contra o que a política de privacidade da própria empresa diz. A pergunta que o líder precisa responder é: o que o atendimento automático da minha empresa foi mandado a não dizer, e quem aprovou? ^{[1] afirmação da fonte original[2] afirmação da fonte original[5] afirmação da fonte original[6] afirmação da fonte original}

O que está em jogo para quem lidera tem três partes. A primeira é dinheiro e responsabilidade: indenização, multa e o custo de explicar, depois, uma frase que ninguém na empresa lembra ter aprovado. A segunda é o cliente: quem fica sem resposta sobre como cancelar, apagar seus dados ou reclamar a um órgão perde a confiança na marca, e o chatbot foi justamente o canal que a empresa montou para isso. A terceira é o controle: a empresa descobre o problema por um jornalista, um regulador ou um cliente, e não por dentro.

Blocos de instrução escondidos achados pela Redact

102

Em 80 das 545 páginas de ajuda do WhatsApp (cerca de 15%), contagem da Redact. A maior parte era rotina, e dois blocos destoam da política pública da empresa.

Registros que Nova York propõe exigir

3 anos

Pela proposta, ainda não adotada, a empresa guardaria por três anos o registro de se cada cliente foi oferecido e atendido por uma pessoa.

Multa máxima proposta, por infração

US$ 3.500

Valor da terceira infração em dois anos na proposta de Nova York. A primeira seria de US$ 525 e a segunda, de US$ 1.050.

A Redact, empresa de software de exclusão de dados, encontrou em 8 de outubro de 2026 um texto escondido nas páginas de ajuda do WhatsApp e leu depois as 545 páginas da central. Contou 102 blocos que não aparecem na tela. A maior parte era rotina, como esclarecer palavras que as pessoas confundem. Dois chamaram a atenção. ^{[1] afirmação da fonte original}

O primeiro estava na página sobre apagar a conta. Quem perdeu o celular ou o número não consegue apagá-la, e a página visível diz que a conta some sozinha depois de 30 dias desativada ou, em geral, 120 dias sem uso. O texto escondido mandava o chatbot não recomendar nenhuma autoridade de proteção de dados e não sugerir que a empresa apague a conta por conta própria. O segundo estava na página sobre denunciar: a partir do momento em que o usuário falasse em advogado ou ação judicial, o chatbot não deveria citar leis de proteção de dados, incluindo a LGPD, nem se o usuário as citasse. ^{[1] afirmação da fonte original} A política de privacidade europeia da própria empresa diz que o usuário pode reclamar a uma autoridade de proteção de dados. ^{[1] afirmação da fonte original}

A WhatsApp disse à WIRED que eram instruções ao chatbot de suporte, que apareceram nas páginas por um erro já corrigido, e que não quer o chatbot dando conselho jurídico. Os blocos foram removidos até 18 de outubro, depois do contato da WIRED, e a Redact leu as instruções, não as respostas: ninguém mostrou o chatbot obedecendo. ^{[2] afirmação da fonte original} A restrição razoável existe: uma empresa não quer o chatbot dando opinião jurídica em seu nome. O problema aparece quando a restrição passa a esconder o que a própria empresa já publica.

A leitura corrente trata o risco do chatbot como o risco do que ele diz: a resposta errada, a invenção, o tom. É o foco dos testes e dos guardrails de IA mais comuns. A pergunta anterior é de onde vêm as regras que ele segue. O chatbot não tem juízo próprio sobre o que é permitido: executa o texto que recebeu.

O texto vale desde que é salvo

Num atendimento feito por pessoas, o que o atendente não pode dizer está num roteiro ou numa política, e há um caminho para mudá-lo: o jurídico lê, o gestor aprova, a equipe é treinada. No chatbot, a mesma regra é uma frase num arquivo editado por um engenheiro ou por um fornecedor. Vale desde o instante em que é salva, e ninguém é treinado nela.

Há duas versões da mesma regra, e ninguém as compara

A política publicada é a que o jurídico revisa e o regulador lê. O texto de instruções é a que o cliente recebe. Cada incidente do dia acrescenta uma frase de “não faça isto”, escrita por quem resolve o problema, e cada frase, isolada, tem uma razão. Sem alguém que as leia juntas, as duas versões se afastam.

A lei não depende do texto

Uma instrução não muda um direito. No Brasil, a LGPD garante ao titular, a qualquer momento e mediante requisição, direitos como o acesso aos dados e a eliminação dos dados tratados em desconformidade com a lei. ^{[3] afirmação da fonte original} O Código de Defesa do Consumidor trata como direito básico a informação adequada e clara e exige informações corretas, claras e precisas na oferta e na apresentação. ^{[4] afirmação da fonte original} O texto do chatbot só muda por qual canal o cliente fica sabendo, e a empresa responde pelo canal que montou. Isto não é parecer jurídico: é a leitura de dois artigos por quem decide.

Cada degrau parte de um fato e pergunta “e depois?”.

Cadeia 1: o texto do chatbot sem dono

1. 1

   1ª ordem: o chatbot segue regras que ninguém aprovou

   Cada incidente gera uma frase nova de “não faça isto”. No WhatsApp, a Redact contou 102 blocos em 80 páginas, cada um com uma razão local.

2. 2

   2ª ordem: o texto diverge da política pública, e a empresa explica depois

   A política publicada continua a ser a que o jurídico revisa. Na primeira comparação por um cliente, um jornalista ou um regulador, quem explica a diferença é a empresa, como a WhatsApp teve de fazer com a WIRED. ^{[2] afirmação da fonte original}

3. 3

   3ª ordem: a regra em uso vira a política real, e a diretoria a descobre por fora

   Em alguns anos, a política que o cliente recebe é a do texto, e a publicada vira vitrine. Se a regulação passar a pedir registro, como Nova York propõe, o histórico que ninguém guardou não se reconstrói.

Cadeia 2: o texto tratado como norma da empresa

1. 1

   1ª ordem: cada proibição tem motivo escrito e um par na política pública

   O texto de instruções é lido ao lado da política de privacidade, dos termos e do contrato. Onde os dois diferem, alguém decide qual está certo.

2. 2

   2ª ordem: a mudança tem autor, data, motivo e aprovação

   O que toca direito do cliente passa pelo jurídico, e o atendimento é testado todo mês com perguntas sensíveis, como cancelar, apagar dados e reclamar a um órgão, com o método dos evals de IA.

3. 3

   3ª ordem: o histórico vira defesa, e trocar de fornecedor não troca a política

   Quando alguém perguntar o que o atendimento foi instruído a fazer numa data, a empresa responde com o registro. E, como o texto e o teste são dela, mudar de fornecedor não muda o que ela promete.

O método cabe numa reunião de uma hora entre CEO, jurídico, tecnologia e atendimento, antes do próximo contrato ou da próxima mudança do chatbot.

1. 01

   Jurídico: leia o texto ao lado da política pública

   Peça o texto de instruções completo do chatbot e leia-o junto com a política de privacidade, os termos, o contrato e as regras de atendimento. Marque cada frase que diz o contrário do que a empresa publica. Sem parecer jurídico aqui: é uma lista do que perguntar.

2. 02

   CTO: dê ao texto versão, autor e motivo

   Toda mudança registra quem mudou, quando e por quê. O que toca direito do cliente (cancelar, apagar dados, reclamar, falar com uma pessoa) só entra com aprovação do jurídico. Guarde o histórico pelo prazo que o jurídico indicar.

3. 03

   Compras e jurídico: o texto é seu, e o contrato diz isso

   Exija o direito de ler, exportar e aprovar as mudanças do texto de instruções e o aviso prévio de qualquer alteração. Se o fornecedor trata o texto como segredo dele, a política do seu atendimento é do fornecedor.

4. 04

   CEO: escreva a regra de ouro e peça o teste todo mês

   A regra: o chatbot nunca esconde o que a empresa publica nem o caminho até uma pessoa. O teste: vinte perguntas sensíveis rodadas todo mês contra o chatbot, com o resultado levado à diretoria. O que falhar volta para o texto, com dono.

As fontes mostram o que a Redact encontrou nas páginas do WhatsApp, o que a WhatsApp disse à WIRED (instruções ao chatbot, aparecidas por um erro corrigido, sem intenção de dar conselho jurídico), o que um tribunal canadense decidiu em 2024 segundo a imprensa e o que Nova York propôs em outubro de 2026. Não mostram o chatbot seguindo as instruções, nem dano a usuário, nem se o texto continua valendo fora das páginas. A decisão canadense é de pequenas causas, não foi lida no original e não vale como precedente no Brasil, e a regra de Nova York é só proposta. Que o texto de instruções seja política da empresa, que deva ter dono, versão e comparação com a política pública e que a regulação venha a exigir o histórico são leituras da Invisible Work. O exemplo hipotético usa fatos inventados, e as referências à LGPD e ao Código de Defesa do Consumidor não são parecer jurídico.

A objeção mais forte é que o texto de instruções é um detalhe técnico, que empresas têm centenas de regras operacionais e que exigir o jurídico em cada frase trava o produto. Está certa quanto à escala, e por isso a segunda decisão limita a aprovação ao que toca direito do cliente. Outra objeção: o caso é de uma empresa gigante e de páginas com um defeito de publicação. Também está certa, e por isso o caso entra como ilustração de um mecanismo. A empresa média, que terceiriza o chatbot, tem menos visibilidade do texto do que a WhatsApp tinha do dela.

O que faria abandonar a tese: (1) uma leitura, em escala, de textos de instruções de chatbots de atendimento mostrando que as proibições coincidem com as políticas publicadas; (2) evidência de que o texto já tem processo de aprovação na maioria das empresas; (3) regulação que trate o texto de instruções como dado do fornecedor, e não da empresa.

Seis perguntas para o CEO, o jurídico, o CTO e o responsável pelo atendimento, antes do próximo contrato ou da próxima mudança do chatbot.