Los datos no sacan al ser humano de una decisión. Hacen más difícil fingir que una preferencia, un miedo o una apuesta era un hecho desde el principio.

TL;DR

Quiero usar IA y datos para reducir el espacio ocupado por el impulso, la memoria selectiva y la opinión más ruidosa de la sala. Es útil. Pero los datos no eligen objetivo, valor, riesgo aceptable ni consecuencia humana. Las métricas, muestras y modelos cargan decisiones tomadas antes de que aparezca el gráfico. Una decisión orientada por datos no es una decisión sin seres humanos ni emociones: es una decisión en la que evidencia, hipótesis, preferencia y responsabilidad quedan separadas, documentadas y verificables. Los agentes pueden buscar evidencia contraria, comparar escenarios y exponer incertidumbre. Eso no los convierte en árbitros morales.

Hay una frase que parece adulta en cualquier sala de reuniones:

«Decidamos solo con base en los datos.»

Entiendo la intención. La mayoría de las veces coincido con la incomodidad que intenta resolver.

Demasiadas decisiones nacen de memoria conveniente, urgencia teatral, jerarquía, vanidad o de la persona que logra sonar segura durante quince minutos sin presentar evidencia. Los datos organizados pueden enfriar la cabeza, recuperar contexto, probar proyecciones y mostrar que la historia cómoda tenía un agujero del tamaño del presupuesto.

El problema es el «solo».

Los datos no deciden. Reducen el espacio para mentirte a ti mismo.

Un gráfico no elige lo que importa

Imagina una empresa que decide dónde reducir costes. El panel muestra que la atención al cliente es cara. Parece objetivo: corta allí.

Pero antes de convertirse en decisión, alguien ya eligió qué entra como coste, qué período cuenta, cómo se mide la calidad, qué pérdida futura de ingresos aparece, qué riesgo reputacional es aceptable y qué promesa al cliente puede romperse. El gráfico no eligió nada de eso. Hizo visible una forma concreta de mirar el problema.

Eso no vuelve inútil al número. Vuelve honesta a la conversación.

Una métrica puede decir que bajó el tiempo medio de respuesta. No dice por sí sola si el cliente resolvió el problema, si los casos difíciles fueron enviados a otra fila o si el equipo empezó a cerrar conversaciones antes para proteger el indicador. Un modelo puede estimar una mayor probabilidad de retraso. No decide si la consecuencia debe ser un aviso, una revisión humana, un cambio de proceso o una sanción automática.

Los objetivos, límites y consecuencias siguen siendo decisiones humanas.

El National Institute of Standards and Technology (NIST) publicó el AI Risk Management Framework: una guía voluntaria para organizar cómo una empresa identifica, mide, supervisa y reduce riesgos de sistemas de IA. No resuelve esto por decreto. Es amplio y no certifica una arquitectura. Sí refuerza la disciplina adecuada: alcance, beneficios esperados, costes, tolerancia al riesgo y supervisión humana deben definirse y documentarse durante el ciclo de vida.

Los datos también tienen decisiones detrás

Existe una fantasía cómoda: que los datos llegan crudos, neutrales y listos para salvar la reunión de sus humanos imperfectos.

No llegan así.

Alguien decide qué registrar. Alguien deja de registrar otra cosa. Alguien define una categoría, elimina duplicados, elige una ventana de tiempo, trata valores ausentes y decide que ciertos campos representan «calidad», «riesgo» u «operación saludable». Un modelo, cuando existe, aprende y calcula encima de esas elecciones.

No es una acusación moral contra hojas de cálculo ni estadística. Es la descripción del trabajo.

El artículo Datasheets for Datasets propone documentar la motivación, composición, proceso de recopilación y usos recomendados de un conjunto de datos. La idea no es transformar cada tabla en burocracia. Es impedir que quien la recibe trate una colección de decisiones y limitaciones como un hecho natural.

La IA puede apretar el tornillo correcto. No debe quedarse con las llaves de la empresa.

Aquí está la parte prometedora.

Un buen agente puede hacer en minutos una parte del trabajo que suele morir entre la reunión y la decisión: reunir documentos dispersos, comparar versiones, encontrar números que contradicen la tesis inicial, exponer premisas ocultas, simular escenarios y listar lo que todavía no sabemos.

Puede preguntar:

• ¿Qué fuente sostiene este número?
• ¿Qué dato contrario quedó fuera del análisis?
• ¿La proyección cambia si la tasa de conversión —la proporción de personas que completa la acción esperada— cae dos puntos porcentuales?
• ¿Medimos una causa, un síntoma o solo lo fácil de medir?
• ¿Qué hipótesis se convirtió en «hecho» porque apareció en tres informes?

Eso es mucho mejor que usar IA para redactar un párrafo elegante que confirma una decisión ya tomada.

Es la misma exigencia que describí en La mejor respuesta no es la que más me agrada: no quiero un sistema que esté de acuerdo conmigo con buena gramática. Quiero uno que resista la pregunta «¿cómo lo sabes?».

Un agente puede organizar alternativas, mostrar el coste de cada una, descubrir que la base está incompleta y registrar que una proyección depende de una premisa frágil. No debería decidir por sí solo qué daño es aceptable para una persona, equipo o cliente. No es una falta de procesamiento. Es responsabilidad.

Cuatro capas que cambian la conversación

Capa	Pregunta que obliga a hacer	Ejemplo
Evidencia	¿Qué se observó y de dónde salió?	«El tiempo mediano de respuesta subió 18% en el período X, según la fuente Y.»
Hipótesis	¿Qué explicación es plausible pero todavía debe probarse?	«El aumento puede estar ligado al cambio de fila.»
Preferencia	¿Qué queremos priorizar?	«Preferimos preservar calidad, aun con mayor coste.»
Decisión y responsabilidad	¿Quién elige, acepta el riesgo y responde por la consecuencia?	«La dirección aprueba un piloto limitado, con revisión en 30 días.»

Cuando esas capas se convierten en una sola frase —«los datos muestran que debemos recortar atención al cliente»— una decisión ya entró disfrazada de descubrimiento.

Separarlas devuelve el desacuerdo al lugar correcto. Puedes concordar con la evidencia y rechazar su interpretación. Puedes aceptar una hipótesis y rechazar la decisión. Puedes preferir otro valor, siempre que asumas el coste en vez de llamar a tu preferencia inevitabilidad técnica.

Esa es la disciplina detrás de Una hipótesis no se vuelve hecho porque la IA la repitió. Repetir una inferencia en tres paneles no la convierte en descubrimiento. Solo hace que el problema esté mejor diseñado.

Menos emoción no significa menos humano

Defiendo usar datos para reducir decisiones capturadas por el impulso, sobre todo cuando hay dinero, plazo, presión política o necesidad de defender una elección antigua.

Pero «quitar la emoción» es una mala fórmula si significa fingir que emociones, vínculos y valores no existen.

En una decisión personal, el miedo puede señalar un riesgo real o una protección que ya no sirve. El deseo puede mostrar prioridad. La incomodidad puede revelar una conversación necesaria. En una empresa, la preocupación de un equipo puede exponer una excepción que el panel no ve. Nada de eso se convierte en prueba por sí solo. Tampoco es ruido que un algoritmo tenga derecho a barrer fuera del problema.

El trabajo maduro es identificar cuándo una emoción se vende como evidencia y cuándo una evidencia se usa para esconder una elección de valor.

Un ejemplo empresarial sin truco de escenario

Piensa en una operación que quiere usar IA para priorizar solicitudes de soporte.

Los datos pueden mostrar volumen, tiempo de espera, producto afectado, historial del cliente, reincidencia e impacto estimado. Un agente puede agrupar patrones, señalar contradicciones y preparar escenarios de capacidad para el equipo.

Pero alguien todavía debe decidir si un cliente grande siempre pasa primero, si un caso de seguridad se escala independientemente de los ingresos, cómo se protegen los datos personales, cuándo una recomendación debe detenerse para revisión humana y cómo un cliente puede impugnar un error.

Si nadie responde por esas elecciones, «el sistema lo priorizó» se vuelve una frase muy conveniente. También es una forma costosa de tercerizar responsabilidad a una arquitectura que nunca pidió el cargo.

Un agente como adversario útil

Si construyo un sistema para apoyarme, quiero que tenga permiso para contradecirme dentro de límites claros.

No mediante moralismo automático. Tampoco mediante una falsa neutralidad que enumera cinco lados y la llama profundidad.

Quiero contradicción útil:

1. registrar la pregunta y la decisión que pretende apoyar;
2. separar fuente observada, transformación e hipótesis producida;
3. buscar evidencia que debilite la tesis inicial;
4. comparar escenarios con premisas explícitas;
5. declarar qué no pudo medirse ni verificarse;
6. devolver una recomendación con riesgo, alternativas y siguiente paso;
7. exigir a la persona responsable cuando la elección implica valor, derechos, impacto material o una consecuencia difícil de revertir.

Esto no convierte a la IA en oráculo. La convierte en una parte verificable de una conversación que antes ocurría entera dentro de la cabeza de alguien, o peor, en una presentación con transiciones bonitas.

En i-9.ai, por eso una conversación útil empieza por el cuello de botella, los datos disponibles, las excepciones y quién responde por el resultado, como explico en Tu empresa no necesita descubrir dónde poner IA. La herramienta viene después. La responsabilidad, antes.

Los datos no son una absolución

Al final, quizá la pregunta más útil no sea «¿qué mandan hacer los datos?».

Es esta:

¿Qué es evidencia aquí, qué es hipótesis, qué es preferencia y quién está dispuesto a responder por la elección?

Cuando esas respuestas aparecen, la decisión sigue siendo humana. Solo se vuelve menos cómodo mentirte a ti mismo.

Referencias y límites de uso

• NIST AI Risk Management Framework 1.0: respalda definir alcance, riesgo, coste, tolerancia y supervisión durante el ciclo de vida; es voluntario, no una certificación ni sustituto del juicio contextual.
• Datasheets for Datasets: respalda documentar origen, composición, recopilación y uso de los datos; documentar no elimina sesgos ni decide qué valores importan.
• Model Cards for Model Reporting: respalda declarar usos, evaluaciones y límites de modelos; la transparencia no garantiza desempeño ni una decisión correcta.
• Does Automation Bias Decision-Making?: respalda la lente de la autoridad indebida concedida a ayudas automatizadas; el experimento no estudió modelos de lenguaje actuales y no debe trasladarse automáticamente a ellos.

Estas fuentes no prueban que toda decisión orientada por datos será mejor, que un agente sea neutral ni que la responsabilidad humana pueda automatizarse. Esa conclusión es mi síntesis de arquitectura y gobernanza.