Mentor dos Nerds Home Meu harness aprende, mas não ganha licença para reescrever o passado
Post

Artigo Inteligência Artificial

Meu harness aprende, mas não ganha licença para reescrever o passado

Um sinal atravessa nós luminosos, passa por um ponto de confirmação e se torna um rastro de versões ramificado
Um sinal atravessa nós luminosos, passa por um ponto de confirmação e se torna um rastro de versões ramificado

Eu quero que meu harness — o sistema de contexto, contratos, memória, ferramentas, validações e limites ao redor do modelo, o componente que transforma entradas em saídas — aprenda.

Quero que ele perceba quando uma orientação aparece de novo, quando uma lacuna volta a custar tempo, quando um contrato já não explica o que está acontecendo e quando uma decisão registrada não está mais chegando a quem precisa dela.

Só não quero que ele confunda isso com autorização para alterar a história enquanto ninguém está olhando.

Porque aprendizagem contínua sem origem, sem confirmação e sem rastro é o telefone sem fio ganhando acesso de escrita — permissão para alterar arquivos ou dados armazenados.

Uma frase começa como observação. Outro agente — sistema que escolhe etapas e usa ferramentas dentro de limites definidos — a resume. Um terceiro reaproveita o resumo. De repente, algo que talvez fosse uma impressão de uma tarde está governando uma regra, uma resposta, um fluxo ou uma prioridade. Não porque alguém decidiu. Porque ninguém parou para perguntar.

TL;DR

Meu harness pode detectar repetições, lacunas e contradições. Mas um sinal não vira memória vigente, e memória não vira regra, por conta própria. O fluxo que procuro construir é: observação → hipótese registrada → consumidores afetados — arquivos, regras e outros artefatos que dependem daquela conclusão — → proposta de mudança → confirmação ou negação do autor → atualização rastreável → validação e possibilidade de rollback — desfazer uma alteração e recuperar um estado anterior se ela der errado. Skills — procedimentos reutilizáveis com entradas, limites e verificações —, wiki — conhecimento trabalhado, conectado e revisável —, memória, contratos e Git — sistema de controle de versões que registra e compara mudanças — podem evoluir juntos sem o sistema reescrever o passado em silêncio. Aprender, aqui, não é ganhar autonomia sem limite. É ficar melhor em me mostrar o que merece uma decisão.

O telefone sem fio não fica melhor porque ganhou armazenamento

O telefone sem fio é engraçado porque a frase chega no final tão deformada que ninguém sabe mais onde a transformação começou.

Em uma operação com inteligência artificial (IA), ele pode ser menos engraçado. A frase deformada pode aparecer com tom técnico, links, uma lista de verificação e a segurança de quem acabou de descobrir uma verdade antiga.

O perigo não está em resumir. Resumos permitem continuar uma conversa, trocar de agente e não reabrir cada arquivo do projeto toda vez. O perigo é perder a etiqueta daquilo que foi resumido.

Foi justamente o que discuti quando a IA esqueceu o que eu já tinha decidido. Contexto compactado pode ser útil. Ainda assim, ele não decide qual orientação continua valendo.

Aprendizagem contínua acrescenta outra camada ao problema: o sistema passa a procurar padrões naquilo que aconteceu. Se ele não sabe diferenciar observação de decisão, acaba tratando repetição como autorização.

E repetição é uma evidência fraca para muita coisa.

Uma preferência pode ter sido circunstancial. Uma exceção pode ter virado exemplo. Uma frase dita para testar um cenário pode ter sido salva como regra. Um comportamento do agente pode estar se repetindo justamente porque um contrato antigo o induz a repetir.

O sistema não precisa esquecer esses sinais. Precisa saber que ainda são sinais.

Cinco coisas que parecem iguais até dar problema

Eu separo pelo menos cinco objetos. A diferença parece burocrática até o dia em que uma correção precisa alcançar tudo o que foi afetado.

ObjetoO que éO que não pode fazer sozinho
MemóriaContinuidade útil sobre o que ocorreu e onde o trabalho parouDefinir uma regra vigente
FatoAlgo confirmado por fonte, teste ou declaração do responsávelExplicar mais do que sua evidência permite
HipóteseUma leitura plausível que ainda precisa de vereditoGanhar status de verdade por repetição
DecisãoDireção adotada por quem responde pelas consequênciasVirar uma lei eterna sem revisão
Regra vigenteInstrução atual, aplicável a um contexto e uma fonte canônicaEsconder origem, escopo, exceções ou data de revisão

Essa é uma versão mais operacional do que já escrevi em Hipótese não vira fato só porque a IA repetiu. Aquele texto trata da promoção indevida de uma hipótese. Aqui a pergunta é outra: como o sistema pode aprender com o que observa sem fazer essa promoção escondida?

Uma memória pode dizer que uma conversa terminou com uma dúvida recorrente. Ótimo: isso é pista para investigação.

Ela não pode concluir, sozinha, que a dúvida virou política.

Aprender é propor uma mudança bem delimitada

Quando o harness percebe uma repetição ou uma lacuna, eu não quero que ele saia alterando o que encontrou. Quero que ele produza uma proposta revisável.

O ciclo mínimo é este:

  1. Sinal observado. Uma decisão foi repetida, um agente precisou perguntar a mesma coisa, uma validação falhou ou uma lacuna reapareceu.
  2. Hipótese registrada. O sistema declara o que imagina estar acontecendo, mostra origem, evidência a favor, evidência contrária e confiança proporcional.
  3. Consumidores mapeados. Ele identifica quais skills, páginas da wiki, memórias, contratos, fluxos ou agentes podem ser afetados.
  4. Proposta. Em vez de editar tudo, sugere a menor mudança capaz de reduzir a repetição ou a ambiguidade.
  5. Confirmação ou negação. Eu aceito, corrijo, limito o escopo ou rejeito a hipótese.
  6. Atualização rastreável. A mudança entra no dono certo, com vínculo à decisão e aos consumidores revisados.
  7. Validação e rollback. O sistema verifica se a regra funcionou e mantém um caminho claro para desfazer a alteração se a realidade responder diferente.

O ponto importante é o quarto.

Não é “o harness aprendeu e se atualizou”. É “o harness encontrou algo que pode justificar uma atualização e preparou a revisão”. Parece menos mágico porque é menos mágico. Também é muito mais confiável.

A hipótese precisa sobreviver à confirmação — inclusive quando perde

Uma hipótese negada não deveria evaporar como se nunca tivesse existido.

Ela precisa guardar, no mínimo, de onde veio, o que sugeria, quem poderia ser afetado e por que foi recusada. Não para vencer a discussão no futuro. Para impedir que outro agente redescubra a mesma coisa, com menos contexto, e apresente de novo como novidade.

É aqui que a wiki ajuda. Não como memória infinita, mas como lugar para conhecimento trabalhado: hipóteses, decisões, sínteses e relações entre elas.

No meu caso, a wiki não substitui o contrato que governa um arquivo ou um fluxo. Ela preserva o caminho que explica por que esse contrato existe, quais alternativas foram descartadas e em que circunstância ele deve ser revisto.

Também não substitui a memória. Memória é continuidade de trabalho. Wiki é conhecimento que merece ser encontrado e reavaliado. Misturar as duas é uma boa maneira de criar uma gaveta enorme onde nada é descartado e nada tem precedência.

Cada peça aprende de um jeito — e com um limite

Uma skill é um procedimento reutilizável. Ela pode aprender que uma etapa sempre exige a mesma verificação e propor que essa verificação vire parte do fluxo.

Um contrato, como AGENTS.md, pode aprender que agentes estão se perdendo em uma área do projeto e passar a apontar melhor a fonte de verdade. Mas ele precisa continuar sendo uma porta de entrada legível, não uma lixeira de cada detalhe que já aconteceu.

A memória pode aprender que um assunto está recorrente e sugerir onde procurar a decisão atual. Não deveria transportar para outra tarefa um dado sensível, uma hipótese expirada ou uma preferência que pertence a um contexto específico.

A wiki pode conectar hipótese, evidência, decisão e consumidores. Não deveria virar um tribunal automático que impede uma mudança legítima só porque existe uma página antiga dizendo o contrário.

E o Git pode mostrar o que mudou, comparar versões e recuperar um estado anterior. Ele não prova que a versão nova é verdadeira. O histórico de versões é rastro; a validação continua precisando de fonte, teste e responsável.

Essa separação é o que impede uma arquitetura de aprendizagem de virar um oráculo burocrático. Cada camada faz algo útil. Nenhuma recebe poderes que não tem.

Um prompt pequeno para começar sem construir uma catedral

Não precisa copiar meu sistema inteiro para experimentar esse princípio. Aliás, não deveria: contexto, risco e privacidade não são copiáveis como um tema de editor de texto.

Este prompt — instruções dadas a um sistema de IA para orientar uma tarefa — é um começo deliberadamente pequeno para um agente que trabalha com arquivos. Ele usa Markdown para manter as anotações legíveis e Git para registrar versões:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
Ajude-me a criar aprendizagem governada para este projeto, usando Markdown e Git.

Quando identificar repetição, lacuna, contradição ou uma decisão que não chega a
quem precisa dela, não altere regras, memória, wiki, prompts ou automações por
conta própria.

Em vez disso:
1. registre o sinal e sua origem;
2. formule uma hipótese, com evidência a favor, contra e limites;
3. liste os consumidores possivelmente afetados;
4. proponha a menor mudança reversível;
5. peça minha confirmação, correção ou negação antes de alterar fontes vigentes;
6. depois da decisão, atualize apenas os arquivos autorizados, com links para a
   hipótese e a decisão;
7. execute validações proporcionais e diga como desfazer a mudança.

Separe sempre memória, fato confirmado, hipótese, decisão e regra vigente.
Não guarde segredos, dados pessoais ou conversas sem finalidade clara.
Antes de editar, mostre o plano e o que ficará fora do escopo.

Esse texto não cria governança por si só. Ele oferece uma primeira fresta: o agente deixa de tratar aprendizagem como permissão implícita de escrita.

Depois, o sistema amadurece conforme aparecem consumidores reais, conflitos reais e custos reais de esquecer.

O que vale automatizar — e o que continua humano

Eu quero automatizar a detecção de repetição, a busca por consumidores afetados, o levantamento de contradições, a preparação de diffs — comparações entre versões que mostram exatamente o que muda — e as validações que conseguem ser executadas.

Quero que o sistema seja insistente em dizer: “isso parece uma decisão sem fonte”, “essa hipótese já foi negada”, “este contrato contradiz outro” ou “você está prestes a espalhar uma mudança para quatro lugares”.

Não quero automatizar a promoção silenciosa de uma hipótese sobre o meu trabalho, minha escrita ou uma operação de cliente.

Isso se conecta ao que fiz ao pedir que o ChatGPT provasse o que achava saber sobre mim. O modelo pode ajudar a encontrar padrões e preparar perguntas melhores. O veredito ainda precisa voltar para quem conhece as consequências e responde por elas.

Na i-9.ai, esse cuidado importa porque uma operação assistida por IA não deveria repetir erros com velocidade maior apenas porque ganhou memória e automação. Ela precisa aprender o bastante para reduzir redescoberta, sem perder a capacidade de explicar o que mudou, por quê e como voltar atrás.

Um harness que aprende bem não é o que muda mais arquivos sozinho.

É o que melhora a qualidade da próxima decisão sem apagar a responsabilidade pela anterior.

Continue lendo

Para se aprofundar

  • Controle de versão com Git: como registrar mudanças, compará-las e recuperar estados anteriores.
  • Markdown: a linguagem de marcação leve usada para manter documentos legíveis sem ferramenta proprietária.
  • Proveniência no W3C PROV: uma introdução ao registro da origem e das transformações de informação.

Referências e limites de uso

  • Pro Git sustenta apenas a explicação de que o controle de versão registra mudanças, compara estados e permite recuperação. Não confirma que uma regra é correta, não substitui backup — cópia de segurança feita para permitir recuperação — e não elimina a necessidade de revisão humana.
  • W3C PROV sustenta o uso geral de proveniência como rastro de entidades, atividades e responsáveis. O fluxo de hipótese, consumidores, confirmação e rollback é uma síntese autoral de engenharia, não uma implementação completa desse padrão.

A imagem de capa é uma ilustração editorial sintética, sem texto e independente de idioma, sobre um sinal que deixa de se deformar quando encontra confirmação e histórico de versões.

Esta postagem está licenciada sob CC BY 4.0 pelo autor.

Conversa aberta

Continue a conversa

Discordou, encontrou uma lacuna ou tem uma experiência que amplia o assunto? Comente usando sua conta do GitHub. Não publique dados pessoais, credenciais ou informações sensíveis.