La Supervisión y Control Humano significa que las decisiones consecuentes tomadas o asistidas por IA permanecen sujetas a un humano con autoridad real: la capacidad de entender qué hace el sistema, intervenir, anular o revertir su salida, y detenerlo por completo. Es la salvaguarda que mantiene a la IA como una herramienta que la gente dirige en vez de una autoridad que la gente obedece. A medida que la IA entra en contratación, préstamos, salud, moderación e incontables decisiones de producto cotidianas, la pregunta ya no es si la IA participa, sino si una persona todavía puede decir que no de forma significativa.
El error es suponer que poner a un humano "en el bucle" es suficiente. No lo es. El problema decisivo es el sesgo de automatización: la gente tiende a favorecer una recomendación confiada de la máquina sobre su propio juicio, incluso cuando está equivocada, y bajo presión de tiempo cede aún más. Un humano colocado junto a un sistema de IA pero al que se le da una decisión prerellenada, sin autoridad real y sin tiempo, se vuelve un sello de oficio, la ilusión de supervisión sin la sustancia. La presencia no es control. El informe State of AI Design 2026 captura la versión cultural de esto: es "fácil quedar encantado con una salida decente y pasar por alto los fallos", por lo que el 80 por ciento de los diseñadores aún insiste en ser dueño del juicio de calidad.
Así que la supervisión tiene que diseñarse, no suponerse. Da al supervisor autoridad genuina para anular y detener, la información para juzgar (razones, confianza, lo incierto), y un flujo que invite al escrutinio en vez de uno de aceptación de un clic. Y reconoce que esto ahora es ley: el Artículo 22 del GDPR otorga un derecho a la intervención humana sobre las decisiones únicamente automatizadas, y el Artículo 14 de la Ley de IA de la UE exige supervisión humana efectiva de los sistemas de alto riesgo.
El principio: mantén las decisiones consecuentes de IA bajo control humano significativo. El supervisor debe poder entender, intervenir, anular y detener, con la autoridad y la información para hacerlo, diseñado contra el sesgo de automatización.