Puedes delegar el primer borrador. No puedes delegar la responsabilidad por lo que firmas, presentas, publicas o conviertes en una decisión.
TL;DR
Una inteligencia artificial puede investigar, resumir, comparar, redactar y acelerar buena parte del trabajo. Eso no convierte la fluidez en verdad ni transfiere a la máquina la responsabilidad de quien utiliza el resultado. Casos reales en la Justicia y en la prensa muestran una cadena parecida: la IA genera, alguien comprueba solo la apariencia, otra persona firma y la institución publica. Revisar no es echarle un vistazo antes de enviar. Es verificar premisas, fuentes, cifras, límites y consecuencias. La autoría no termina cuando la máquina escribe el primer borrador; es justo ahí donde comienza la obligación de decidir qué merece sobrevivir.
“Escribiste, no leíste y te metiste en un lío.”
Mi generación escuchó esa advertencia antes de que existiera el texto generado por inteligencia artificial. Servía para exámenes, contratos, notas, formularios y cualquier otra situación en la que el bolígrafo avanzara más rápido que la atención.
Con la IA, la advertencia no quedó obsoleta.
Ganó infraestructura.
Hoy, un primer borrador puede llegar en segundos, con título, subtítulo, tabla, referencia, tono profesional y una conclusión tan segura que casi pide una firma. El texto no parece un borrador. Parece una decisión ya tomada.
Ahí es donde vive el riesgo.
El problema no es que la máquina escriba. El problema es que alguien confunda una respuesta bien escrita con un trabajo terminado.
El recuerdo impreciso ya contenía la tesis
Este texto comenzó con un recuerdo incompleto.
Recordaba un caso en el que “un abogado, o quizá un fiscal” había utilizado IA en un borrador basado en una premisa inexistente o jurídicamente imposible. Los detalles se me habían mezclado.
Habría sido fácil llenar los huecos con la versión más conveniente y seguir escribiendo. También habría sido una demostración involuntaria del mismo problema que quería denunciar.
Fuimos a comprobarlo.
El episodio brasileño que mejor corresponde al recuerdo del borrador involucró al Tribunal Regional Federal de la 1.ª Región. En 2023, una decisión judicial firmada contenía precedentes que no existían. La Corregiduría registró que se había utilizado una herramienta de IA generativa como asistente para preparar el borrador y que esta produjo referencias falsas.
Lo más importante de la circular no es el nombre de la herramienta. Es la responsabilidad: la supervisión y la comprobación siguen siendo deber de quien responde por el acto judicial.
El informe del Consejo Nacional de Justicia de Brasil sobre IA generativa en el Poder Judicial utiliza el episodio para discutir un riesgo llamado sesgo de automatización: nuestra tendencia a confiar demasiado en el resultado de un sistema, sobre todo cuando llega organizado, rápido y con apariencia de precisión.
La fuente sustenta la existencia del incidente y el riesgo de una confianza excesiva. No demuestra que toda decisión apoyada por IA vaya a ser incorrecta, ni que el magistrado escribiera personalmente el prompt que generó las referencias.
Esa distinción importa. La responsabilidad no exige inventar una versión más escandalosa del caso.
El abogado que revisó la gramática, pero no comprobó el Derecho
El caso más conocido ocurrió en Estados Unidos.
En Mata v. Avianca, un abogado utilizó ChatGPT para investigar decisiones que respaldaran un escrito judicial. La herramienta proporcionó procesos inexistentes, citas falsas y pasajes atribuidos a tribunales que nunca los habían escrito. Otro abogado firmó y presentó el documento.
Según la resolución judicial de sanciones del 22 de junio de 2023, hubo una revisión de forma, estilo y gramática. No se comprobaron las autoridades jurídicas citadas. Incluso después de que la otra parte y el tribunal cuestionaran la existencia de los casos, la corrección no llegó con la rapidez y la transparencia necesarias.
Los abogados y el bufete recibieron una multa conjunta de 5.000 dólares estadounidenses y tuvieron que avisar al cliente y a los jueces presentados falsamente como autores de las decisiones inventadas.
El propio tribunal hizo una distinción que suele desaparecer en los titulares: utilizar IA como apoyo no es, por sí mismo, inadecuado. La sanción no nació del simple hecho de que un abogado hubiera conversado con ChatGPT. Nació de la falta de verificación, de la insistencia después de las alertas y de declaraciones engañosas ante el tribunal.
Tampoco es correcto decir que la causa principal se perdió “por culpa de la IA”. El litigio principal tuvo otro desenlace jurídico. Lo que el caso demuestra es más específico y más útil: revisar la apariencia de un texto no equivale a revisar su contenido.
Diez libros que no existían atravesaron una cadena entera
El Derecho vuelve dramático el riesgo porque alguien firma y presenta el documento. En la publicación editorial, la cadena puede ser más larga y, precisamente por eso, parecer responsabilidad de nadie.
En mayo de 2025, un suplemento distribuido con el Chicago Sun-Times recomendó quince libros para el verano. Diez no existían. Algunos títulos fueron atribuidos a autores reales, lo que hacía que la lista resultara aún más convincente.
El material había sido producido con ayuda de IA por un profesional independiente contratado por una distribuidora externa. El contenido pasó por la distribuidora, llegó al área de circulación del periódico y se publicó bajo una marca en la que los lectores confiaban.
En la disculpa pública de la dirección de Chicago Public Media, la organización explicó la cadena de fallos, retiró el suplemento digital, puso fin a ese tipo de contenido licenciado y estableció una revisión obligatoria por parte de un equipo de estándares.
Es importante no distorsionar el caso: la lista no fue producida ni aprobada por la redacción del periódico. El error fue que el periódico publicara contenido licenciado sin la revisión que exigía su propia marca.
Una persona no comprobó. Otras capas confiaron en que alguien ya habría comprobado. Al final, la institución publicó.
Ese es el tipo de automatización más peligroso: no el que elimina a todas las personas, sino el que deja a varias dentro del flujo y convence a cada una de que la responsabilidad debe estar en otro lugar.
La IA no inventó la falta de revisión
Antes de los modelos generativos, las empresas ya publicaban hojas de cálculo incorrectas, contratos con cláusulas copiadas del cliente anterior, campañas con precios incompatibles y sistemas que automatizaban una regla cuyo motivo nadie recordaba.
La IA no creó la prisa, la pereza, la confianza ciega ni las ganas de terminar de una vez.
Lo aceleró todo.
Es el mismo Ferrari a toda velocidad: la potencia no elige la dirección. Si el volante apunta hacia una pared, llegar más rápido no es productividad.
Tampoco tiene sentido responder con pánico moral. Prohibir que la IA redacte el primer borrador no crea rigor. Una persona puede escribir por sí sola un texto falso, jurídicamente frágil o intelectualmente deshonesto. Y una IA bien integrada en un proceso puede hacer exactamente lo contrario: buscar inconsistencias, comparar versiones, exigir fuentes e impedir que una afirmación avance sin evidencias.
La diferencia está en el sistema de trabajo.
La autoría no consiste en contar quién pulsó cada tecla
Existe un prejuicio comprensible contra los libros y textos escritos con IA. La crítica acierta cuando denuncia contenido genérico publicado a gran escala sin lectura, criterio ni responsabilidad.
Se equivoca cuando reduce la autoría al movimiento físico de teclear todas las palabras.
Puedo utilizar IA para organizar una idea nacida de una experiencia mía, investigar fuentes, confrontar mi recuerdo, encontrar una contradicción, probar una estructura, revisar enlaces y preparar traducciones. Nada de eso me autoriza a publicar sin leer. Al contrario: cuanta más capacidad delego, más necesito dejar explícito lo que sigue bajo mi decisión.
Para mí, la autoría pasa por al menos cuatro responsabilidades:
- Dirección: ¿qué pregunta vale la pena hacer y qué tesis sostengo de verdad?
- Selección: ¿qué entra, qué sale y qué aún no tiene evidencias suficientes?
- Verificación: ¿las fuentes, premisas, cifras, nombres, fechas y relaciones causales sobreviven a la comprobación?
- Consecuencia: ¿estoy dispuesto a responder por lo que este texto puede provocar en el mundo real?
La IA puede ayudar en las cuatro. No puede asumir ninguna en mi lugar.
Leer no basta cuando la frase falsa parece perfecta
“Solo hay que revisarlo” también puede convertirse en un consejo vacío.
Una persona puede leer cada línea de un documento y aun así dejar pasar un proceso inexistente, una regla desactualizada o una cifra calculada a partir de la base equivocada. Si el texto parece plausible y confirma lo que esperaba encontrar, la lectura corre el riesgo de convertirse en una ceremonia.
Separo la revisión en capas porque cada una responde a una pregunta distinta.
1. Revisión autoral
¿Esto dice lo que pienso o solo suena como algo que yo diría?
Un texto puede imitar mi ritmo, mi vocabulario e incluso mi sarcasmo sin representar mi posición. Hablar mi idioma no es tener mi dirección.
2. Revisión factual
¿Las afirmaciones importantes apuntan a fuentes que existen y respaldan exactamente lo que se dijo?
No basta con preguntarle a la misma IA si la referencia que proporcionó es real. En Mata v. Avianca, el propio ChatGPT reafirmó que los casos falsos existían. La verificación debe salir del circuito que produjo la afirmación y volver a la fuente primaria.
3. Revisión operativa
Si este texto activa una acción, ¿puede el proceso fallar de forma segura?
Un mensaje incorrecto se puede corregir. Un cobro indebido, un despido, una decisión jurídica o un cambio de infraestructura pueden exigir aprobación, simulación, respaldo, límites y reversión antes de ejecutarse.
4. Revisión adversarial
¿Qué cuestionaría alguien competente, desconfiado y afectado por esta decisión?
Esa es una de las funciones más valiosas de un agente bien orientado: no darme la respuesta que más me agrada, sino buscar dónde mi pregunta ya venía torcida.
Un contrato de revisión mejor que “échale un vistazo”
Si la revisión depende solo de que alguien recuerde comprobarlo todo, ya ha comenzado de forma frágil.
Prefiero convertir la expectativa en un contrato escrito. Para una entrega importante, el sistema necesita saber:
- qué afirmaciones exigen una fuente primaria;
- qué cifras deben recalcularse por otra vía;
- qué decisiones exigen aprobación humana;
- qué dudas impiden la ejecución;
- qué cambios necesitan respaldo y un plan de reversión;
- qué pruebas demuestran que el resultado hace lo que promete;
- quién asume la decisión final.
Es parte de lo que construyo en mi harness personal: el contexto, la memoria, las herramientas y los agentes ayudan a ejecutar, pero también existen para crear fricción allí donde un error saldría caro.
Sí, crear fricción.
No toda fricción es desperdicio. El botón para confirmar una transferencia, la revisión de un contrato, la prueba antes de un despliegue y la exigencia de una segunda fuente vuelven el proceso un poco más lento porque el coste de equivocarse es mayor que el coste de esperar.
Un buen sistema no elimina todos los pasos. Elimina los inútiles y protege los indispensables.
Mi lista de comprobación antes de firmar, publicar o ejecutar
No existe una lista universal. Existe un conjunto mínimo de preguntas que impide que el entusiasmo se disfrace de conclusión:
- ¿Cuál es la afirmación o decisión central? Si no puedo señalarla, tampoco puedo revisarla.
- ¿De dónde vino cada premisa importante? La memoria, una base de datos interna, la documentación, la ley, una investigación y una suposición no tienen el mismo peso.
- ¿La fuente existe y dice eso? Un nombre parecido, un resumen del buscador y otra respuesta de IA no sustituyen al documento.
- ¿Qué puede haber cambiado? Los precios, las versiones, las leyes, los cargos, las políticas y la disponibilidad envejecen.
- ¿La cifra cuadra por otra vía? Recalcular es distinto de pedirle a la misma herramienta que repita la cuenta.
- ¿Quién discrepa y por qué? Una revisión útil busca el mejor argumento contrario, no un hombre de paja conveniente.
- ¿Qué daño puede causar un error? Cuanto mayor sea el impacto, más sólida debe ser la evidencia y más explícita la aprobación.
- ¿Hay vuelta atrás? Un respaldo, una simulación, una versión anterior y un límite de ejecución convierten la confianza en gobernanza.
- ¿Asumiría públicamente esta decisión? Si la respuesta es “fue la IA”, entonces la decisión aún no está lista.
Esto vale para un post, un libro, una propuesta, una proyección, una automatización, un análisis financiero y una decisión operativa.
El rigor cambia según el riesgo. La responsabilidad no.
La mejor automatización no te aparta del resultado
Invierto tiempo para que mis agentes hagan algo más que generar texto. Investigan, registran evidencias, separan las hipótesis de los hechos, buscan puntos ciegos, ejecutan validaciones y se detienen cuando falta una decisión que solo yo puedo tomar.
El objetivo no es mantener a una persona comprobando manualmente cada coma producida por una máquina. Es diseñar un sistema en el que la profundidad de la revisión acompañe al riesgo y en el que ningún resultado importante llegue al mundo solo porque parecía listo.
En i-9.ai, este es un principio de entrega: automatizar la ejecución sin automatizar la irresponsabilidad. Si te gustó esta forma de pensar y quieres aplicarla en tu operación, ponte en contacto. La conversación comienza por los cuellos de botella, las decisiones y lo que debe seguir bajo control humano.
Porque la IA puede ayudar a escribir, investigar, comparar y revisar.
Pero no firma por ti.
Y la vieja advertencia sigue vigente:
Escribiste, no leíste y te metiste en un lío. Con IA, el lío solo llega más rápido.
Para profundizar
- Revisión sistemática sobre el sesgo de automatización: examina cómo las recomendaciones automatizadas pueden recibir una confianza excesiva, incluso ante señales de error.
- Jurisprudencia: conjunto de decisiones y entendimientos judiciales utilizado como referencia para interpretar el Derecho.
- Alucinación en inteligencia artificial: nombre utilizado para respuestas plausibles que incluyen información falsa o sin fundamento.
Referencias y límites de uso
- Circular COGER 33/2023 — TRF1: confirma el uso de IA generativa al preparar un borrador con precedentes inexistentes y refuerza el deber de supervisión y la responsabilidad del magistrado. No demuestra quién escribió el prompt ni que toda la decisión fuera producida por IA.
- Informe “El uso de la Inteligencia Artificial Generativa en el Poder Judicial Brasileño” — CNJ: sustenta la discusión sobre el sesgo de automatización, las referencias falsas y el incidente del TRF1. El propio estudio declara límites para generalizar sus resultados a todo el Poder Judicial.
- Mata v. Avianca, Opinion and Order on Sanctions — U.S. District Court, 22 de junio de 2023: documenta las citas inventadas, la falta de verificación, la conducta posterior y las sanciones. No sustenta una prohibición general de la IA en la abogacía.
- “Lessons and an apology from the Sun-Times CEO” — Chicago Public Media, 29 de mayo de 2025: describe el origen tercerizado del suplemento, la lista de libros inexistentes y los cambios de proceso adoptados. Es un relato institucional de la propia organización, no una auditoría independiente.
Conversación abierta
Continúa la conversación
¿No estás de acuerdo, encontraste una laguna o tienes una experiencia que amplía el tema? Comenta con tu cuenta de GitHub. No publiques datos personales, credenciales ni información sensible.