Quizás la mayor limitación de la inteligencia artificial en tu empresa todavía no esté en el modelo. Puede estar en la imagen que construiste de lo que es.
TL;DR
Mucha gente conoció la IA a través de una ventana de conversación y concluyó que sirve para responder preguntas, escribir correos y producir textos con una voz algo genérica. Eso ya puede ser útil cuando hay contexto y método. Pero la interfaz de chatbot es solo una puerta. Un sistema de IA también puede interpretar documentos, comparar datos, validar entregas, localizar fallos, coordinar herramientas, preparar decisiones y ejecutar acciones delimitadas. En algunos casos puede tomar una decisión operativa de bajo impacto dentro de reglas estrictas, con evidencia, límites, abstención, registro y posibilidad de reversión. El salto no consiste en dar libertad irrestricta a la máquina. Consiste en transformar criterios humanos en una arquitectura verificable.
Cuando alguien me dice que la inteligencia artificial sirve para escribir un correo más rápido, no estoy en desacuerdo.
Sirve.
Cuando dice que puede resumir una reunión, armar una presentación o responder una duda, también tiene razón.
El problema es creer que la tecnología termina ahí.
Es como mirar una computadora y concluir que es una máquina de escribir con enchufe. Técnicamente también hace eso. Solo que no es una descripción muy útil de lo que hay sobre la mesa.
La mayoría de las personas conoció la IA por una caja de texto.
Escribes de un lado. Recibes una respuesta del otro.
Después de algunas respuestas genéricas, referencias inventadas o frases con perfume de LinkedIn corporativo, se forma una convicción: “esto es interesante, pero no es confiable”; “va a sonar demasiado a IA”; “si la uso, perderé autoridad”; “sirve para jugar, no para operar una empresa”.
Parte de ese miedo es saludable.
El error es confundir falta de control con un límite inevitable de la tecnología.
El chatbot es una interfaz, no la definición
Un chatbot es una interfaz de conversación. Recibe mensajes y devuelve respuestas.
Detrás de esa interfaz puede existir solo un modelo de lenguaje respondiendo al texto actual. También puede haber memoria, documentos, herramientas, reglas, permisos, validadores y otros sistemas capaces de consultar o alterar el mundo fuera de la conversación.
La pantalla puede ser prácticamente igual.
La arquitectura no lo es.
En el primer caso haces una pregunta y recibes una respuesta.
En el segundo puedes decir “prepara este artículo” e iniciar una operación que lee contratos editoriales, investiga fuentes, verifica referencias, crea archivos, genera una imagen, produce versiones en tres idiomas, valida el sitio y se detiene antes de publicar porque esa decisión sigue siendo mía.
El chat es el picaporte.
No es la casa.
Incluso el uso solo por chat puede ser mucho mejor
Antes de distribuir agentes por toda la empresa, conviene reconocer que una buena conversación ya resuelve problemas reales.
Una interfaz de chat puede ayudar a:
- transformar una explicación desordenada en preguntas que revelan el requisito;
- comparar dos propuestas y mostrar criterios distintos sin fingir que eligió el objetivo por ti;
- resumir un conjunto de documentos con enlaces a su origen;
- preparar una reunión anticipando objeciones e información ausente;
- reescribir un texto según una voz y un público definidos;
- probar la claridad de una decisión pidiendo al sistema que busque premisas débiles;
- convertir una idea en checklist —una lista de verificación—, plan o especificación verificable;
- explicar un término técnico al nivel de quien realmente usará la información.
Nada de esto exige que la IA haga clic en algo.
Exige que la conversación tenga contexto, criterios y un contrato mejor que “ayúdame con esto”.
Un uso limitado no es necesariamente un mal uso.
Lo malo es no saber que fue una elección.
“Va a sonar demasiado a IA” es una alerta de proceso
El texto genérico no es una firma inevitable de la herramienta.
Suele ser el resultado previsible de una instrucción genérica, poco contexto, ninguna referencia de voz y falta de revisión.
Si pido “haz una publicación profesional sobre innovación”, no debería sorprenderme al recibir una colección educada de lugares comunes. El modelo no conoce la percepción que me incomodó, la experiencia que sostiene mi lectura, la broma que yo haría, la afirmación que me negaría a publicar ni el tipo de fuente que considero suficiente.
Esas cosas tienen que entrar en el sistema.
Por eso transformé mi forma de trabajar en un harness: un conjunto de contexto, memoria, procedimientos, herramientas y validaciones alrededor del modelo. El objetivo no es hacer que la IA “suene como yo” por medio de un truco. Es impedir que complete lagunas importantes con la respuesta estadísticamente cómoda.
Mi autoridad no aumenta porque haya escrito cada carácter manualmente.
Tampoco aumenta porque la respuesta haya llegado bien formateada.
Depende de que pueda sostener la tesis, mostrar el origen de los hechos, declarar los límites y responder por las decisiones que tomé.
El error no se resuelve prohibiendo la herramienta
Los modelos de lenguaje producen salidas probabilísticas: ante entradas parecidas pueden formular respuestas diferentes y equivocarse con una confianza verbal bastante incómoda.
Eso es motivo para la gobernanza.
No es motivo para fingir que los procesos humanos ya estaban libres de errores.
Una persona puede olvidar una regla, copiar el número equivocado, dejar de revisar un documento o decidir bajo presión. La IA puede introducir otros errores: inventar una fuente, interpretar mal una excepción, usar contexto desactualizado o elegir una herramienta inadecuada.
El diseño responsable no pregunta solamente “¿humano o IA?”.
Pregunta:
- ¿Qué tipo de error puede ocurrir en cada etapa?
- ¿Cómo será detectado?
- ¿Qué verificación puede hacerse mediante una regla fija?
- ¿Qué parte exige interpretación?
- ¿Cuándo debe el sistema abstenerse de responder?
- ¿Quién recibe la excepción?
- ¿Cómo puede interrumpirse o revertirse la acción?
El miedo al error es un pésimo arquitecto cuando produce parálisis.
Es un excelente requisito cuando produce controles.
De la conversación a la operación: seis papeles distintos
Llamar “IA” a todo esconde decisiones importantes. Prefiero separar los papeles que el sistema puede ejercer.
En el móvil, desliza la tabla hacia los lados para comparar uso y control.
| Papel | Ejemplo de uso | Control necesario |
|---|---|---|
| Interfaz de reflexión | Organizar una idea, formular preguntas, comparar alternativas o preparar una conversación | Contexto claro, fuentes cuando haya hechos y la decisión preservada con la persona |
| Lectura y estructuración | Clasificar solicitudes, extraer campos de facturas, resumir historiales o normalizar documentos | Acceso limitado, procedencia del dato, muestreo de calidad y ruta para excepciones |
| Validación y garantía de calidad | Comparar una entrega con requisitos, localizar enlaces rotos, señalar campos ausentes o revisar consistencia | Criterios explícitos, validaciones determinísticas cuando sea posible y prohibición de aprobar el propio trabajo sin contrapeso |
| Agente ejecutor | Consultar sistemas, reunir evidencias, crear artefactos, abrir tareas y usar herramientas para cumplir un objetivo | Permisos mínimos, registro de acciones, límites de costo y puntos de aprobación humana |
| Apoyo a la decisión | Construir escenarios, mostrar premisas, organizar riesgo y revelar información ausente | Evidencia rastreable, incertidumbre declarada y un humano responsable del objetivo y la consecuencia |
| Decisión operativa delimitada | Encaminar una solicitud, bloquear un elemento fuera de política o autorizar una reposición pequeña dentro de límites aprobados | Política estricta, bajo impacto, reversibilidad, umbral de confianza, abstención, auditoría, monitoreo y escalamiento |
Estos papeles pueden aparecer juntos.
Una atención puede empezar en el chat, consultar el pedido, resumir el historial, validar la política, proponer tres opciones y ejecutar solo la que está dentro de la autoridad concedida. Si la situación supera el límite, el sistema no improvisa poder.
Se detiene.
La garantía de calidad también es trabajo para la IA, pero no solo para ella
Uno de los usos más interesantes no es producir el contenido principal.
Es intentar demostrar que la entrega está equivocada.
Un agente puede comparar una propuesta con los requisitos y señalar elementos ausentes. Puede buscar una afirmación sin fuente. Puede revisar si un contrato usa el mismo concepto de maneras incompatibles. Puede leer un conjunto de solicitudes y encontrar un patrón que nadie había agregado.
Al mismo tiempo, reglas determinísticas —código que produce el mismo resultado para la misma condición— pueden verificar aquello que no necesita interpretación: campo obligatorio, formato de fecha, enlace interno, valor máximo, firma esperada, prueba aprobada.
No necesitamos elegir entre IA y software convencional.
Un sistema confiable combina cada uno donde funciona mejor.
La IA interpreta lenguaje y contexto.
La automatización fija protege invariantes: condiciones que deben permanecer verdaderas durante todo el proceso.
El humano define lo que importa y asume lo que no puede delegarse.
Un agente no es un chatbot con autoestima
Un agente de IA es un sistema en el que el modelo puede elegir los siguientes pasos y usar herramientas dentro de un objetivo delimitado.
Puede observar el resultado de una acción, ajustar el plan y continuar hasta terminar, encontrar un bloqueo o necesitar una decisión humana. Esa capacidad aumenta la utilidad y el riesgo al mismo tiempo.
Anthropic distingue workflows de agentes: en un workflow, el código predefine el camino; en un agente, el modelo dirige dinámicamente parte del proceso y del uso de herramientas. Es la taxonomía de una empresa a partir de su propia práctica, no una definición universal. El principio útil es empezar por la solución más simple y añadir autonomía solo cuando mejore un resultado medible.
En 2026, la empresa también publicó sus principios para agentes confiables, defendiendo control humano, transparencia, seguridad y privacidad. La fuente describe el diseño de los productos y la posición de la propia Anthropic. No demuestra que cualquier agente del mercado cumpla esos principios.
Dar herramientas a un modelo sin restringir permisos no crea un empleado digital.
Crea una superficie de error con acceso a sistemas.
“IA decisora” necesita una frase más larga
No me gusta demasiado la expresión “la IA decidió” cuando ahí termina la explicación.
Prefiero decir:
El sistema ejecutó una decisión operativa específica dentro de una política aprobada, usando estas evidencias, bajo estos límites y con esta ruta de excepción.
Es una frase menos vendible.
También es una arquitectura mucho más honesta.
La decisión automatizada no debería significar autoridad genérica. Significa transformar una política en condiciones verificables:
- qué entrada es válida;
- qué fuente puede usarse;
- qué resultado está autorizado;
- qué límite de valor o impacto se aplica;
- qué nivel de confianza se necesita;
- en qué situación se abstiene el sistema;
- quién recibe la excepción;
- qué queda registrado;
- cómo deshacer el resultado.
Encaminar una solicitud a la fila correcta puede caber en este diseño. Autorizar una reposición pequeña dentro del presupuesto y de proveedores aprobados también.
Contratar a alguien, negar crédito, definir un tratamiento médico o asumir un riesgo jurídico relevante exigen análisis, derechos y responsabilidades que no desaparecen porque un modelo haya producido una puntuación.
Cuanto mayor sea el impacto, menos aceptable es esconder la decisión detrás de la palabra “inteligencia”.
La gobernanza amplía lo que puede hacerse
A veces la gobernanza se trata como el departamento encargado de decir “no” después de que alguien tuvo una idea.
Yo la veo de otra manera.
Cuando sabemos qué datos pueden usarse, qué herramienta puede actuar, qué evidencia debe existir, dónde la aprobación es obligatoria y cómo falla el sistema de manera segura, podemos permitir más ejecución sin depender de confianza ciega.
El AI Risk Management Framework del NIST organiza la gestión de riesgos en cuatro funciones: gobernar, mapear, medir y gestionar. Es un marco voluntario y amplio, actualmente en proceso de revisión; no certifica una implementación ni ofrece una lista de verificación universal. Sostiene una idea importante: el riesgo debe acompañar todo el ciclo de vida del sistema.
La gobernanza no es lo opuesto a la capacidad.
Es lo que transforma capacidad bruta en autoridad delimitada.
La imaginación abre la puerta. La arquitectura decide si debemos entrar
También existe el error contrario: descubrir que la IA puede hacer más que conversar y concluir que debe hacerlo todo.
No debe.
Muchas tareas siguen necesitando una integración simple, una regla determinística, un formulario mejor o la eliminación de una etapa inútil. En “Tu empresa no necesita descubrir dónde poner IA”, mostré cómo partir del cuello de botella para elegir la menor intervención suficiente.
El punto aquí es anterior.
Si tu imagen de la IA termina en el chatbot, quizás ni siquiera puedas formular las opciones que merecen ser evaluadas. Si tu imagen empieza con una inteligencia autónoma que resolverá toda la empresa, tampoco podrás hacerlo.
Una visión es demasiado pequeña.
La otra es demasiado grande para seguir siendo responsable.
Un ejercicio para mirar la operación de otra manera
Elige un trabajo recurrente de tu empresa y no preguntes todavía “¿cómo ponemos IA?”.
Pregunta:
- ¿Qué información entra y de dónde viene?
- ¿Qué necesita comprender alguien antes de actuar?
- ¿Qué parte sigue una regla fija?
- ¿Qué parte depende de lenguaje, contexto o excepción?
- ¿Qué error se repite?
- ¿Qué evidencia mostraría que la entrega es correcta?
- ¿El sistema podría limitarse a preparar el trabajo?
- ¿Podría validarlo de forma independiente?
- ¿Podría ejecutar una acción reversible?
- ¿Existe una decisión de bajo impacto que encaje en una política estricta?
- ¿Cuándo debe detenerse y llamar a una persona?
- ¿Quién sigue siendo responsable del resultado?
Tal vez la respuesta sea un chatbot mejor.
Tal vez sea una automatización, un validador, un agente, un sistema de apoyo a la decisión o una combinación de los cinco.
Lo que no debería ser es una compra de tecnología buscando un problema que justifique la factura.
Este es el tipo de traducción que entrego
En i-9.ai, mi trabajo no empieza ofreciendo un chatbot a cada sector.
Empieza por entender cómo funciona la operación, dónde se pierde el contexto, qué criterios ya existen, qué decisiones se repiten y cuál es la arquitectura más pequeña capaz de mejorar el resultado con control.
A veces la respuesta es software convencional. A veces es automatización. A veces es una interfaz de conversación. A veces es un conjunto de agentes, memoria, herramientas y validaciones. Con frecuencia es una combinación.
Si reconociste un proceso que podría comprenderse, validarse o ejecutarse mejor, ponte en contacto. La conversación no necesita empezar por la herramienta.
Puede empezar por el trabajo que hoy depende de demasiado esfuerzo, improvisación o confianza.
El límite que vale la pena preservar
No tengo miedo de que una respuesta “suene a IA”.
Tengo miedo de que suene segura sin tener evidencia, criterio o responsable.
Tampoco creo que la autoridad venga de hacerlo todo manualmente. La autoridad viene de saber explicar por qué se hizo algo, con qué información, bajo qué límites y cómo se corregirá si está equivocado.
La IA puede ser una conversación.
Puede ser una herramienta.
Puede ser una capa de interpretación, un validador, un ejecutor o una parte limitada de una decisión.
Lo que no puede ser es la excusa para que nadie responda por el sistema.
Si tu imaginación supera la ventana del chatbot y tu gobernanza acompaña ese movimiento, la conversación cambia.
La pregunta deja de ser “¿qué puede hacer la IA?”.
Pasa a ser:
¿Qué capacidad vale la pena construir aquí y qué control debe nacer junto con ella?
Sigue leyendo
- Tu empresa no necesita descubrir dónde poner IA: cómo partir del cuello de botella y elegir entre proceso, automatización, asistencia, agente y decisión gobernada.
- La IA no es una sola cosa: modelo, agente, automatización y harness: un mapa de las capas ocultas por la palabra “IA”.
- La mejor respuesta no es la que más me agrada: por qué contexto, fuentes, desacuerdo y validación importan más que una respuesta agradable.
Para profundizar
- Chatbot: contexto enciclopédico sobre interfaces de conversación.
- Automatización: panorama de sistemas que ejecutan procesos con distintos grados de intervención humana.
- Garantía de calidad: introducción a las prácticas utilizadas para prevenir y detectar problemas de calidad.
- Observabilidad: capacidad de comprender el estado interno de un sistema mediante evidencias como logs, métricas y trazas.
- Principio de mínimo privilegio: regla de seguridad según la cual cada persona o sistema recibe solo los accesos necesarios para cumplir su función.
Referencias y límites de uso
- NIST, “Artificial Intelligence Risk Management Framework 1.0” (2023): organiza las actividades de riesgo en gobernar, mapear, medir y gestionar. Es amplio y voluntario y no certifica ninguna arquitectura descrita en este artículo.
- NIST, “AI RMF Playbook”: ofrece acciones sugeridas para hacer operativo el marco. El propio NIST informa que el material evoluciona y que sus sugerencias no constituyen una lista de verificación universal.
- Anthropic, “Building Effective Agents” (2024): presenta la distinción de la empresa entre workflows predefinidos y agentes que dirigen herramientas dinámicamente. Es una referencia de ingeniería de Anthropic, no una taxonomía obligatoria.
- Anthropic, “Trustworthy Agents in Practice” (2026): describe principios y decisiones de producto para control humano, transparencia, seguridad y privacidad. No evalúa todos los agentes ni garantiza que una implementación externa sea confiable.
Los ejemplos son hipótesis de arquitectura destinadas a explicar grados de capacidad y control. No sustituyen análisis técnico, jurídico, laboral, financiero, médico o de seguridad en el contexto real.
La imagen de portada es una ilustración editorial sintética creada para mostrar el paso de la conversación a un sistema operativo gobernado.
Conversación abierta
Continúa la conversación
¿No estás de acuerdo, encontraste una laguna o tienes una experiencia que amplía el tema? Comenta con tu cuenta de GitHub. No publiques datos personales, credenciales ni información sensible.