Você pode delegar a primeira versão. Não pode delegar a responsabilidade pelo que assina, protocola, publica ou transforma em decisão.

TL;DR

Uma inteligência artificial pode pesquisar, resumir, comparar, redigir e acelerar boa parte do trabalho. Isso não transforma fluência em verdade nem transfere para a máquina a responsabilidade de quem usa o resultado. Casos reais no Judiciário e na imprensa mostram uma cadeia parecida: a IA gera, alguém confere apenas a aparência, outra pessoa assina e a instituição publica. Revisar não é dar uma lida antes de enviar. É verificar premissas, fontes, números, limites e consequências. Autoria não termina quando a máquina escreve a primeira versão; é justamente ali que começa a obrigação de decidir o que merece sobreviver.

“Escreveu, não leu, o pau comeu.”

Minha geração escutou essa frase antes de existir texto gerado por inteligência artificial. Ela servia para prova, contrato, bilhete, formulário e qualquer outra situação em que a caneta andasse mais rápido do que a atenção.

Com IA, a frase não ficou ultrapassada.

Ganhou infraestrutura.

Hoje a primeira versão pode chegar em segundos, com título, subtítulo, tabela, referência, tom profissional e uma conclusão tão segura que quase pede para ser assinada. O texto não parece um rascunho. Parece uma decisão já tomada.

É aí que mora o risco.

O problema não é a máquina escrever. O problema é alguém confundir uma resposta bem escrita com um trabalho concluído.

A lembrança imprecisa já continha a tese

Este texto começou com uma lembrança incompleta.

Eu recordava um caso em que “um advogado, ou talvez um promotor” havia usado IA numa minuta apoiada em uma premissa inexistente ou juridicamente impossível. Os detalhes estavam misturados.

Seria fácil preencher as lacunas com a versão mais conveniente e seguir escrevendo. Também seria uma demonstração involuntária do problema que eu queria denunciar.

Fomos conferir.

O episódio brasileiro que melhor corresponde à lembrança da minuta envolveu o Tribunal Regional Federal da 1ª Região. Em 2023, uma decisão judicial assinada continha precedentes que não existiam. A Corregedoria registrou que uma ferramenta de IA generativa havia sido usada como assistente na elaboração da minuta e produziu referências falsas.

O ponto mais importante da circular não é o nome da ferramenta. É a responsabilidade: supervisão e conferência continuam sendo dever de quem responde pelo ato judicial.

O relatório do Conselho Nacional de Justiça sobre IA generativa no Judiciário usa o episódio para discutir um risco chamado viés de automação: nossa tendência de confiar demais numa saída produzida por um sistema, principalmente quando ela chega organizada, rápida e com aparência de precisão.

A fonte sustenta a existência do incidente e o risco de confiança excessiva. Ela não prova que toda decisão apoiada por IA será errada, nem que o magistrado pessoalmente escreveu o comando que gerou as referências.

Essa distinção importa. Responsabilidade não exige inventar uma versão mais escandalosa do caso.

O advogado que revisou a gramática e não conferiu o Direito

O caso mais conhecido aconteceu nos Estados Unidos.

Em Mata v. Avianca, um advogado usou o ChatGPT para pesquisar decisões que sustentariam uma manifestação. A ferramenta forneceu processos inexistentes, citações falsas e trechos atribuídos a tribunais que nunca os escreveram. Outro advogado assinou e protocolou o documento.

Segundo a ordem judicial de sanções de 22 de junho de 2023, houve revisão de forma, estilo e gramática. Não houve conferência das autoridades jurídicas citadas. Mesmo depois de a outra parte e o tribunal questionarem a existência dos casos, a correção não veio com a rapidez e a transparência necessárias.

Os advogados e o escritório receberam uma multa conjunta de US$ 5 mil e tiveram de avisar o cliente e os juízes falsamente apresentados como autores das decisões inventadas.

O próprio tribunal fez uma distinção que costuma desaparecer nas manchetes: usar IA como auxílio não é, por si só, inadequado. A sanção não nasceu do simples fato de um advogado ter conversado com o ChatGPT. Nasceu da falta de verificação, da insistência depois dos alertas e de declarações enganosas ao tribunal.

Também não é correto dizer que a ação principal foi perdida “por causa da IA”. A discussão principal teve outro desfecho jurídico. O que o caso demonstra é mais específico e mais útil: revisar a aparência de um texto não equivale a revisar sua substância.

Dez livros que não existiam atravessaram uma cadeia inteira

O Direito torna o risco dramático porque alguém assina e protocola. Na publicação editorial, a cadeia pode ser mais longa — e justamente por isso parecer responsabilidade de ninguém.

Em maio de 2025, um suplemento distribuído com o Chicago Sun-Times recomendou quinze livros para o verão. Dez não existiam. Alguns títulos foram atribuídos a autores reais, o que tornava a lista ainda mais convincente.

O material havia sido produzido por um freelancer com ajuda de IA, contratado por uma distribuidora externa. O conteúdo passou pela distribuidora, chegou à área de circulação do jornal e foi publicado sob uma marca em que os leitores confiavam.

No pedido público de desculpas da direção do Chicago Public Media, a organização explicou a cadeia de falhas, retirou o suplemento digital, encerrou aquele tipo de conteúdo licenciado e criou revisão obrigatória por uma equipe de padrões.

É importante não distorcer o caso: a lista não foi produzida nem aprovada pela redação do jornal. O erro foi o jornal publicar conteúdo licenciado sem a revisão que sua própria marca exigia.

Uma pessoa não conferiu. Outras camadas confiaram que alguém já deveria ter conferido. No fim, a instituição publicou.

Esse é o tipo de automação mais perigoso: não aquela que elimina todas as pessoas, mas aquela que deixa várias pessoas no fluxo e convence cada uma de que a responsabilidade deve estar em outro lugar.

A IA não inventou a falta de revisão

Antes de modelos generativos, empresas já publicavam planilhas erradas, contratos com cláusulas copiadas do cliente anterior, campanhas com preços incompatíveis e sistemas que automatizavam uma regra que ninguém lembrava por que existia.

IA não criou a pressa, a preguiça, a confiança cega nem a vontade de terminar logo.

Ela acelerou tudo isso.

É a mesma Ferrari em alta velocidade: potência não escolhe direção. Se o volante aponta para uma parede, chegar mais rápido não é produtividade.

Também não faz sentido responder com pânico moral. Proibir a IA de redigir a primeira versão não cria rigor. Uma pessoa pode escrever sozinha um texto falso, juridicamente frágil ou intelectualmente desonesto. E uma IA bem inserida num processo pode fazer exatamente o contrário: procurar inconsistências, comparar versões, cobrar fontes e impedir que uma afirmação siga adiante sem evidência.

A diferença está no sistema de trabalho.

Autoria não é contar quem apertou cada tecla

Existe um preconceito compreensível contra livros e textos escritos com IA. A crítica acerta quando denuncia conteúdo genérico publicado em escala sem leitura, critério ou responsabilidade.

Ela erra quando reduz autoria ao movimento físico de digitar todas as palavras.

Eu posso usar IA para organizar uma ideia que nasceu de uma experiência minha, pesquisar fontes, confrontar minha lembrança, encontrar uma contradição, testar uma estrutura, revisar links e preparar traduções. Nada disso me autoriza a publicar sem ler. Pelo contrário: quanto mais capacidade eu delego, mais preciso deixar explícito o que continua sob minha decisão.

Autoria, para mim, passa por pelo menos quatro responsabilidades:

1. Direção: qual pergunta vale fazer e qual tese eu realmente sustento?
2. Seleção: o que entra, o que sai e o que ainda não tem evidência suficiente?
3. Verificação: fontes, premissas, números, nomes, datas e relações causais sobrevivem à conferência?
4. Consequência: estou disposto a responder pelo que este texto pode provocar no mundo real?

A IA pode ajudar em todas as quatro. Não pode assumir nenhuma delas em meu lugar.

Ler não basta quando a frase falsa parece perfeita

“É só revisar” também pode virar conselho vazio.

Uma pessoa pode ler cada linha de um documento e ainda assim deixar passar um processo inexistente, uma regra desatualizada ou um número calculado sobre a base errada. Se o texto parece plausível e confirma o que ela esperava encontrar, a leitura corre o risco de virar cerimônia.

Eu separo revisão em camadas porque cada uma responde a uma pergunta diferente.

1. Revisão autoral

Isto diz o que eu penso ou apenas soa como algo que eu diria?

Um texto pode imitar meu ritmo, meu vocabulário e até meu sarcasmo sem representar minha posição. Falar a minha língua não é ter a minha direção.

2. Revisão factual

As afirmações importantes apontam para fontes que existem e sustentam exatamente o que foi dito?

Não basta perguntar à mesma IA se a referência que ela forneceu é verdadeira. Em Mata v. Avianca, o próprio ChatGPT reafirmou que os casos falsos existiam. Verificação precisa sair do circuito que produziu a afirmação e voltar à fonte primária.

3. Revisão operacional

Se este texto acionar uma ação, o processo pode falhar com segurança?

Uma mensagem errada pode ser corrigida. Uma cobrança indevida, uma demissão, uma decisão jurídica ou uma mudança de infraestrutura podem exigir aprovação, simulação, backup, limite e reversão antes de executar.

4. Revisão adversarial

O que alguém competente, desconfiado e afetado por esta decisão questionaria?

Essa é uma das funções mais valiosas de um agente bem orientado: não me entregar a resposta que mais me agrada, mas procurar onde minha pergunta já veio torta.

Um contrato de revisão melhor do que “dá uma olhada”

Se a revisão depende apenas de alguém lembrar de conferir tudo, ela já começou frágil.

Eu prefiro transformar expectativa em contrato escrito. Para uma entrega importante, o sistema precisa saber:

• quais afirmações exigem fonte primária;
• quais números devem ser recalculados por outro caminho;
• quais decisões exigem aprovação humana;
• quais dúvidas impedem a execução;
• quais mudanças precisam de backup e plano de reversão;
• quais testes comprovam que o resultado faz o que promete;
• quem assume a decisão final.

É parte do que construo no meu harness pessoal: contexto, memória, ferramentas e agentes ajudam a executar, mas também existem para criar atrito onde o erro ficaria caro.

Sim, criar atrito.

Nem toda fricção é desperdício. O botão de confirmar uma transferência, a revisão de um contrato, o teste antes do deploy e a exigência de uma segunda fonte tornam o processo um pouco mais lento porque o custo de estar errado é maior do que o custo de esperar.

O bom sistema não elimina todos os passos. Elimina os passos inúteis e protege os indispensáveis.

Meu checklist antes de assinar, publicar ou executar

Não existe checklist universal. Existe um conjunto mínimo de perguntas que impede o entusiasmo de se fantasiar de conclusão:

1. Qual é a afirmação ou decisão central? Se eu não consigo apontá-la, também não consigo revisá-la.
2. De onde veio cada premissa importante? Memória, banco interno, documentação, lei, pesquisa ou palpite não têm o mesmo peso.
3. A fonte existe e diz isso? Nome parecido, resumo de buscador e outra resposta de IA não substituem o documento.
4. O que pode ter mudado? Preço, versão, lei, cargo, política e disponibilidade envelhecem.
5. O número fecha por outro caminho? Recalcular é diferente de pedir à mesma ferramenta para repetir a conta.
6. Quem discorda e por quê? Uma revisão útil procura o melhor argumento contrário, não um espantalho conveniente.
7. Qual é o dano de um erro? Quanto maior o impacto, mais forte precisa ser a evidência e mais explícita a aprovação.
8. Existe retorno? Backup, simulação, versão anterior e limite de execução transformam confiança em governança.
9. Eu assumiria publicamente esta decisão? Se a resposta for “foi a IA”, então a decisão ainda não está pronta.

Isso vale para um post, um livro, uma proposta, uma projeção, uma automação, uma análise financeira e uma decisão operacional.

O rigor muda conforme o risco. A responsabilidade não.

A melhor automação não retira você do resultado

Eu invisto tempo para que meus agentes façam mais do que gerar texto. Eles pesquisam, registram evidência, separam hipótese de fato, procuram pontos cegos, executam validações e param quando falta uma decisão que só eu posso tomar.

O objetivo não é manter uma pessoa conferindo manualmente cada vírgula produzida por uma máquina. É desenhar um sistema em que a profundidade da revisão acompanhe o risco — e em que nenhuma saída importante chegue ao mundo apenas porque parecia pronta.

Na i-9.ai, esse é um princípio de entrega: automatizar execução sem automatizar irresponsabilidade. Se você gostou desse jeito de pensar e quer aplicá-lo na sua operação, entre em contato. A conversa começa pelos gargalos, pelas decisões e pelo que precisa continuar sob controle humano.

Porque a IA pode ajudar a escrever, pesquisar, comparar e revisar.

Mas ela não assina por você.

E o velho aviso continua atual:

Escreveu, não leu, o pau comeu. Com IA, ele só chega mais rápido.

Para se aprofundar

• Revisão sistemática sobre viés de automação: quando uma recomendação automatizada recebe confiança excessiva, mesmo diante de sinais de erro.
• Jurisprudência: conjunto de decisões e entendimentos judiciais usado como referência na interpretação do Direito.
• Alucinação em inteligência artificial: nome usado para respostas plausíveis que incluem informações falsas ou sem sustentação.

Referências e limites de uso

• Circular COGER 33/2023 — TRF1: confirma o uso de IA generativa na preparação de uma minuta com precedentes inexistentes e reforça supervisão e responsabilidade do magistrado. Não demonstra quem digitou o comando nem que toda a decisão foi produzida por IA.
• Relatório “O uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro” — CNJ: sustenta a discussão sobre viés de automação, referências falsas e o incidente no TRF1. A própria pesquisa declara limites para generalizar seus resultados a todo o Judiciário.
• Mata v. Avianca, Opinion and Order on Sanctions — U.S. District Court, 22 de junho de 2023: documenta as citações fabricadas, a falta de verificação, a conduta posterior e as sanções. Não sustenta uma proibição geral de IA na advocacia.
• “Lessons and an apology from the Sun-Times CEO” — Chicago Public Media, 29 de maio de 2025: descreve a origem terceirizada do suplemento, a lista de livros inexistentes e as mudanças de processo adotadas. É um relato institucional da própria organização, não uma auditoria independente.

Leia também

• Escrever com IA não me tornou menos autor
• A melhor resposta não é a que mais me agrada
• O ChatGPT já sabe muito sobre você