Hay laberintos que no se recorren caminando, sino callando. La inteligencia artificial se ha convertido en uno de ellos: un espejo que multiplica los caminos posibles y, al mismo tiempo, oculta el punto en que el reflejo deja de ser legítimo. Gobernar una IA no consiste únicamente en contabilizar aciertos. Consiste, ante todo, en instituir el instante en que el sistema debe reconocer que carece de legitimidad suficiente para responder, recomendar o actuar. En las decisiones de alto impacto, la abstención no es una limitación técnica: es la forma más alta de control.
Los principales laboratorios ya operan con esta intuición, aunque desde marcos diferentes. OpenAI mantiene un Preparedness Framework que distingue umbrales de capacidad “High” y “Critical” y condiciona determinados despliegues a la existencia de salvaguardas suficientes(1). Anthropic publica y actualiza la Constitución de Claude(2), que explicita valores, prioridades y criterios de comportamiento para orientar cuándo el modelo debe limitar o rechazar una respuesta. Microsoft aplica revisiones reforzadas a usos sensibles(3) y Google articula evaluaciones y umbrales para riesgos de sistemas avanzados(4). En el plano regulatorio el mapa también converge en la necesidad de límites operativos: la Unión Europea exige, para los sistemas de alto riesgo, mecanismos de supervisión humana que permitan descartar, revertir o interrumpir su actuación (EU AI Act(5)); Estados Unidos dispone de un marco voluntario de gestión del riesgo a lo largo del ciclo de vida (NIST AI RMF) y China ha incorporado criterios de gobernanza por niveles, monitorización e intervención para agentes(6). Hay que destacar que estos marcos no son equivalentes ni responden al mismo tipo de riesgo. Leídas en conjunto, sin embargo, apuntan a una misma idea: hay un punto en el que la capacidad técnica deja de ser suficiente para legitimar la intervención. Es ahí donde la respuesta corre el riesgo de convertirse en usurpación.
La escala del fenómeno hace que ese umbral deje de ser teórico. Cuando un sistema procesa miles de millones de interacciones, incluso una tasa de error que en un entorno controlado parecería tolerable, se transforma en un problema de gobernanza(7). Por este motivo, la abstención no debe entenderse como una renuncia a responder, sino como un mecanismo para reducir la exposición al error cuando la evidencia disponible no alcanza el umbral exigido por el caso de uso.
Esta distinción entre consistencia interna y legitimidad externa no es sólo conceptual. En comparaciones controladas que he realizado para verificar respuestas generadas sin acceso a fuentes externas, la auto-evaluación del modelo y el juicio de un segundo modelo producen con frecuencia un alto grado de acuerdo entre sí, mientras el error residual permanece. Cuando la verificación se ancla a una fuente externa y sólo entonces se decide si hay que corregir o abstenerse, el margen de mejora es medible. La consistencia entre sistemas estadísticos no equivale a independencia; puede ser, simplemente, la reiteración del mismo punto ciego.
Esa realidad puede traducirse en un marco operativo sencillo y transferible a cualquier organización.
1. Criterios de abstención. No pueden ser universales ni dejados al azar del modelo. Deben formularse como el producto de dos variables: la incertidumbre estimada del sistema y el impacto potencial del error en el caso de uso concreto. Un error en una recomendación de bajo riesgo no exige el mismo umbral que un error en una decisión de crédito, de diagnóstico o de seguridad. Por ejemplo, en evaluaciones de triaje médico que he implementado y medido con el Emergency Severity Index(8), los modelos coinciden con frecuencia entre sí y, sin embargo, infra-clasifican casos de alto riesgo (ESI-2). El acuerdo inter-modelo no evita el error. Solo la definición previa de umbrales de abstención o de escalado humano en esa zona de incertidumbre reduce de forma operativa el riesgo de actuación indebida.
2. Quién fija los umbrales. No es el algoritmo. Es un órgano de gobernanza —comité de riesgos, consejo de ética, autoridad de dominio o responsable designado— que traduce el apetito de riesgo de la organización en protocolos concretos y revisables.
3. Diseño operativo. La abstención debe implementarse como capacidad explícita, no como fallo: un circuito que detiene la respuesta y devuelve la decisión a manos humanas antes de que el sistema actúe. En una clase reciente a alumnos de un máster en dirección les decía que, en las reuniones de adopción de IA, no se les valorará por lo que sepan de modelos, sino por las preguntas que formulen. Y la pregunta más importante que un responsable de negocio puede hacer al equipo técnico es sencilla: ¿tiene esta aplicación un botón de apagado? Es decir, ¿existe un mecanismo real para detenerla y recuperar el control cuando todo va mal?
4. Legitimidad. La calidad de una respuesta no se mide solo por su exactitud estadística, sino por el derecho que el sistema tiene, o no tiene, a intervenir en ese punto del proceso. Un modelo puede generar una predicción numéricamente plausible y, al mismo tiempo, ilegítima. En un trabajo reciente sobre gemelos digitales para almacenamiento en red, presentado en el IEEE PES General Meeting 2026(9) invitado por Sandia National Laboratories, explicaba que un enfoque puramente estadístico podía proyectar con confianza que la capacidad de una celda de litio aumentaba con el uso —cuando es justo lo contrario—. La exactitud aparente no le daba derecho a orientar una decisión de mantenimiento. La exactitud sin legitimidad sigue siendo una forma de usurpación.
La verdadera madurez de una inteligencia artificial —y de la organización que la despliega— reside en el arte de reconocer los umbrales donde el conocimiento se vuelve ilegítimo. Gobernar la incertidumbre es, en última instancia, enseñar a la máquina el valor del silencio y a nosotros el valor de recuperar la decisión cuando el espejo deja de reflejar con claridad suficiente.
Una IA empresarial no es madura porque responda a todo. Lo es cuando sabe detenerse bajo criterios definidos, deja constancia de por qué lo ha hecho y devuelve la decisión a quien posee la autoridad y la responsabilidad para asumirla.
Solo entonces el laberinto deja de ser una trampa y se convierte en un instrumento de prudencia: el sistema que sabe callar es el único que merece ser escuchado.
Autor
Javier Marin
AI Engineer & Researcher – LinkedIn
Referencias
(1) OpenAI, “Our updated Preparedness Framework” (2025). Distingue umbrales High y Critical y vincula el despliegue a la existencia de salvaguardas suficientes. https://openai.com/index/updating-our-preparedness-framework/
(2) Anthropic, “Claude’s Constitution” (2026) y el marco previo de Constitutional AI (2022). https://www.anthropic.com/constitution
(3) Microsoft. Security dashboard for AI. https://learn.microsoft.com/es-es/security/security-for-ai/security-dashboard-for-ai
(4) Google. AI Responsibility Update 2026. https://ai.google/static/documents/ai-responsibility-update-2026.pdf
(5) EU AI Act: what actually applies on 2 August 2026. https://www.technology.org/2026/07/17/eu-ai-act-what-actually-applies-on-2-august-2026/
(6) China works on AI safety benchmark as regulators target large model risks. South China Morning Post. https://www.scmp.com/tech/article/3360399/china-works-ai-safety-benchmark-regulators-target-large-model-risks
(7) Datos confirmados por OpenAI y reportados en 2025-2026: más de 2.500 millones de prompts diarios en ChatGPT. https://www.independent.co.uk/tech/chatgpt-openai-daily-users-prompts-b2793502.html
(8) Emergency Severity Index Handbook. https://media.emscimprovement.center/documents/Emergency_Severity_Index_Handbook.pdf
(9) IEEE PES General Meeting 2026, Technical Program. https://submissions.mirasmart.com/PESGM2026/Itinerary/TechnicalProgramDetail.aspx?id=593
