Glosario Requisitos del alto riesgo
Supervisión humana
human oversight
El diseño y las herramientas que permiten a personas físicas vigilar el funcionamiento de un sistema de alto riesgo mientras se usa, entender sus capacidades y sus límites, interpretar correctamente sus resultados, decidir no usarlo y detenerlo o revertir su salida.
EU AI Act Art. 14
El artículo nombra expresamente el sesgo de automatización, la tendencia a confiar por defecto en lo que sale de una máquina, y obliga a diseñar contra él.
Es el requisito que más depende de la formación y de la autoridad real de quien supervisa, y por eso es el que peor se sostiene con un procedimiento escrito y nada más.
Dónde lo uso
Términos relacionados