Obediencia tecnológica en salud: cuando el "OK" de la pantalla reemplaza al criterio clínico

Automation bias, seguridad del paciente y el nuevo error invisible

En hospitales modernos, el error ya no siempre ocurre por falta de tecnología. A veces ocurre por lo contrario: porque la tecnología está ahí, funciona "casi" siempre, y esa regularidad nos enseña una lección peligrosa: obedecer.

A ese fenómeno se le llama obediencia tecnológica, o en la literatura: automation bias. Es la tendencia humana a confiar de más en lo que sugiere una herramienta automatizada, incluso cuando hay señales clínicas de que algo no cierra.

Y lo más inquietante: no es un fallo de "personas distraídas". Es un sesgo cognitivo predecible, que aumenta cuando el sistema está bajo estrés.

Qué es la obediencia tecnológica (sin humo)

El automation bias es la tendencia a favorecer decisiones generadas por sistemas automatizados (CDSS, alertas de prescripción, scores de riesgo, IA en imagen, etc.) y a reducir el chequeo crítico. Se manifiesta de dos formas clínicas muy concretas:

1. Error de comisión: El sistema sugiere algo incorrecto y el profesional lo sigue (porque "está en la pantalla").
2. Error de omisión: El sistema no alerta o no detecta un problema, y el profesional asume que "si no avisó, está bien".

"El sesgo de automatización ocurre cuando los usuarios utilizan la automatización como un sustituto heurístico de la búsqueda vigilante de información y el procesamiento cognitivo."

— Parasuraman & Manzey (2010), On the Etiology and Outcomes of Errors in Human–Automation Interaction.

Por qué se vuelve más fuerte "bajo estrés"

Bajo presión asistencial, el cerebro hace lo que siempre hace para sobrevivir: ahorra energía. Cuando hay fatiga, multitarea y urgencia, una recomendación automática se vuelve un atajo tentador.

El problema es que en salud, ese ahorro cognitivo puede convertirse en daño. La literatura sobre CDSS y automatización en clínica viene señalando este riesgo hace años, y hoy se vuelve más relevante con IA "asistiva" cada vez más integrada.

"Bajo condiciones de alta carga de trabajo, los individuos son más propensos a aceptar las sugerencias de un sistema automatizado sin verificar la información subyacente, lo que lleva a una 'complacencia' inducida por el sistema."

— Cummings (2004), Automation Bias in Intelligent Decision Support Systems.

Dónde aparece en la práctica (y por qué no lo vemos)

1. Prescripción electrónica + alertas (CDSS)

Los sistemas de soporte a la decisión clínica pueden mejorar la performance global, pero también introducen errores nuevos: el profesional aprende a confiar en el filtro… hasta que el filtro falla.

2. BCMA (Código de barras en administración de medicación)

Si está mal integrado, genera "workarounds" (atajos). La obediencia tecnológica acá tiene dos caras:

• "Escaneó OK" → Entonces no miro la ampolla ni al paciente.
• "No escanea" → Entonces lo fuerzo / lo puenteo porque "el sistema es lento".

3. IA asistiva (La nueva frontera del sesgo)

Una editorial potente en JAMA advierte que el riesgo no es solo el error del modelo: es que el clínico confíe en él cuando no corresponde.

"Incluso cuando los algoritmos de IA son precisos, pueden inducir a errores si los clínicos no mantienen un escepticismo saludable. La confianza excesiva en la salida de la IA puede erosionar la competencia clínica a largo plazo."

— JAMA Editorial (2023), AI and the Future of Clinical Decision Making.

El mecanismo profundo: cuando la interfaz se vuelve "juez"

En teoría, la tecnología es asistencia. En la práctica, muchas veces se vuelve un árbitro invisible:

• Si el sistema permite dispensar, el humano asume legitimidad.
• Si el sistema muestra un número con dos decimales, el humano lo siente como certeza.

Esto es una transferencia silenciosa de autoridad desde el juicio clínico hacia la interfaz.

Cómo se reduce el riesgo (medidas concretas)

La solución no es "confiar menos en la tecnología", sino diseñar sistemas que no te entrenen para obedecer.

• Medida 1: Diseño que obligue a verificar. En e-prescribing, la verificación activa de alertas es clave. No basta con educar; se debe rediseñar el flujo para que el "OK" no sea automático.
• Medida 2: Jerarquía real de alertas. Si todo interrumpe, nada importa. La fatiga por alertas es un defecto de producto, no un fallo humano.
• Medida 3: Auditoría continua + calibración local. ¿Funciona el algoritmo con nuestros pacientes hoy?
• Medida 4: Entrenamiento en factores humanos. Enseñar a detectar el momento de duda y saber cuándo escalar el disenso frente a la máquina.

Cierre editorial

La medicina no necesita más pantallas que "tengan razón". Necesita sistemas que, incluso cuando aciertan, no anulen la responsabilidad humana.

Automation bias no es el futuro. Es el presente. Y en un hospital bajo estrés, la obediencia tecnológica es una forma elegante de llamar a lo mismo de siempre: hacer algo sin pensar porque el circuito lo permitió.

La interfaz puede ser brillante. Pero el límite ético sigue siendo humano.