¿Por qué suele fallar la etapa de revisión humana?
Un paso de revisión humana suele fallar porque la persona solo ve el veredicto de la IA, tiene demasiados elementos que revisar y nunca recibe indicaciones sobre qué debe comprobar, por lo que aprobar se convierte en la opción más rápida. Esto se conoce como aprobación automática y da una apariencia de supervisión sin que haya una supervisión real.
Imagine una distribuidora mayorista ficticia con 25 personas, Oakbridge Supplies. Una herramienta de IA compara las facturas de proveedores con las órdenes de compra y marca cada una como 'coincide' o 'no coincide'. La auxiliar de finanzas, Priya, autoriza el pago de las que coinciden. Un jueves, su cola de trabajo indica: '212 facturas, 205 coinciden, 7 no coinciden'. Cada línea muestra el proveedor, el importe y una marca verde de verificación. El mes pasado se pagó una factura de un proveedor por 400 unidades cuando solo se habían entregado 40, porque la herramienta encontró una coincidencia en el número de pedido y Priya aprobó la marca de verificación.
¿En qué puntos del proceso debe intervenir una persona?
Debe intervenir una persona siempre que un resultado de la IA afecte al dinero, al acceso de alguien a algo, a un compromiso con un cliente o a una consecuencia jurídica o de seguridad, y antes de que ese cambio sea difícil de revertir. Los resultados rutinarios y reversibles pueden revisarse mediante muestreo.
El artículo del EU AI Act sobre supervisión humana de sistemas de alto riesgo expresa la misma idea en lenguaje normativo: las personas que supervisan un sistema deben comprender sus límites, ser conscientes del sesgo de automatización y poder ignorar, revertir o detener sus resultados. Aunque la ley no le sea aplicable, estos son buenos objetivos de diseño.
¿Qué formas hay de organizar la revisión humana dentro del proceso?
Hay cuatro formas habituales de organizar la revisión, y la adecuada depende del coste de un error y de cuántos elementos haya.
Aprobar antes de actuar
Una persona aprueba cada resultado antes de que se ejecute cualquier acción. Utilice este método para tareas de alto costo y poco volumen, como pagos que superan un umbral o reembolsos a clientes.
Revisión de excepciones
La IA resuelve los casos claros y deriva los dudosos o inusuales a una persona. Solo funciona si se prueban las reglas de derivación y se siguen revisando algunos casos «claros».
Auditoría por muestreo
Los resultados se envían y una persona revisa después una muestra aleatoria. Úselo para trabajos de gran volumen que permitan revertir las acciones, como los resúmenes internos.
Primero, de forma independiente
La persona se forma su propio criterio antes de ver la sugerencia de la IA. Es más lento, pero evita que la respuesta de la IA condicione decisiones importantes.
¿Cómo se comparan un diseño de revisión deficiente y uno mejorado?
Diseño deficiente: todas las facturas llegan a Priya con una marca verde o roja. Aprueba 205 marcas de verificación en 20 minutos. Nada le indica por qué se asignó cada marca y nada comprueba si sigue prestando atención.
Diseño mejorado: las facturas por debajo de un importe establecido cuyo número de pedido, cantidad y precio unitario coincidan con la nota de entrega se pagan automáticamente, y Priya revisa diez al azar cada semana. Todo lo que supere el umbral, cualquier proveedor nuevo y cualquier diferencia de cantidad se le remite con los tres campos uno al lado del otro y el motivo de la IA en una línea, por ejemplo, 'cantidad en la factura 400, entregada 40'. Una vez al mes, el responsable de finanzas incluye discretamente dos errores conocidos entre los casos pendientes para confirmar que se detectan. Priya también registra cada vez que corrige una decisión de la IA. Una caída repentina a cero correcciones se considera una advertencia, no un éxito.
¿Cómo se comprueba que una revisión es real y no una mera aprobación automática?
Compruebe que la revisión sea real midiéndola: el tiempo dedicado a cada elemento, la frecuencia con la que los revisores corrigen las decisiones de la IA y si detectan los errores introducidos como prueba. Un revisor que nunca discrepa de la herramienta está revisando resultados muy buenos o no está revisando nada, y necesita pruebas para saber cuál de las dos cosas ocurre.
Muestre pruebas, no solo conclusiones
Coloque los campos de origen junto a la respuesta de la IA para facilitar la comprobación.
Limite la cola
Si una persona no puede revisar adecuadamente el volumen de trabajo, cambie el diseño en lugar de pedirle que se esfuerce más.
Otorgar autoridad
Quienes revisan deben poder rechazar o pausar sin necesidad de pedir permiso.
Pruebe el ciclo
Incluya errores conocidos de vez en cuando y registre si se detectan.
¿Cuáles son los errores habituales en la supervisión humana de la IA?
El error más común es añadir un revisor a un proceso sin cambiar nada más y luego tratar su aprobación como prueba de que el resultado era correcto. Otros: pedir a una sola persona que apruebe cientos de elementos al día, ocultar las pruebas detrás de clics adicionales, revisar después de que ya se haya ejecutado una acción irreversible y celebrar que disminuya la tasa de correcciones humanas sin preguntar por qué. El sesgo de automatización también afecta a las personas cuidadosas, por eso el diseño importa más que las buenas intenciones.
¿Dónde encaja la intervención humana en el catálogo de Tosheo.ai?
La intervención humana en el proceso se encuentra en la categoría de IA responsable y políticas, dentro del curso de alfabetización en IA, después de la ética de la IA y los controles de IA responsable. Se retoma en las lecciones sobre IA con agentes y automatización, donde las herramientas actúan en lugar de sugerir. La tarea práctica le pide que rediseñe una etapa de revisión de su propio trabajo, y los comentarios basados en la guía de evaluación comprueban que el punto de revisión, las pruebas y la autoridad estén claros.