Humano en el circuito (human in the loop)
El humano en el circuito (human in the loop) es una forma de diseñar sistemas de IA para que una persona revise, corrija o apruebe el resultado antes de que derive en una decisión o acción que afecte a alguien.
Definición
Humano en el circuito significa que las personas siguen formando parte del proceso en lugar de dejarlo por completo en manos de la máquina. La IA puede recoger información, proponer una puntuación o redactar un texto, pero una persona examina el resultado, puede modificarlo y es quien lo valida. Hay ideas cercanas, como humano «sobre el circuito», en que una persona supervisa y puede intervenir, o humano al mando.
Para que funcione, el paso humano tiene que ser real: la persona dispone del tiempo y la información para entender el resultado, de autoridad para discrepar y de un registro de lo que decidió. Un indicador sencillo es la tasa de modificaciones: si los revisores nunca cambian nada, la revisión puede haberse convertido en un mero trámite. Formar a los revisores sobre cómo puede equivocarse la IA también ayuda.
Importa sobre todo cuando una decisión afecta al empleo, los estudios, la salud o el dinero de una persona. La supervisión humana limita el daño de los errores y los sesgos, mantiene la responsabilidad en personas identificables y es una expectativa de muchas normativas sobre IA. En Passisto, la IA mantiene la conversación y redacta el informe, y las personas lo revisan y deciden.
Puntos clave
- Una persona revisa y valida el resultado de la IA antes de que afecte a alguien.
- La IA informa; el humano decide y sigue siendo responsable.
- La supervisión debe ser real: tiempo, información, autoridad para modificar y registro de la decisión.
- Una tasa de modificaciones casi nula puede indicar que la revisión es solo formal.
- Reduce el impacto de errores y sesgos y responde a expectativas normativas.
Ejemplo
Una reclutadora recibe un informe de cada uno de los 80 candidatos tras su entrevista de voz dirigida por la IA. Lee los resúmenes, escucha fragmentos de los casos dudosos y decide quién avanza. Anota sus motivos en el expediente y dos candidatos con menor puntuación de la IA son invitados a una segunda entrevista.
Preguntas frecuentes
¿Tener a un humano en el circuito ralentiza el proceso?
La IA se encarga de lo que más tiempo lleva, recoger y resumir, y las personas solo revisan el resultado. Bien diseñado, es más rápido que hacerlo todo a mano y más seguro que automatizar la decisión.
¿Basta con que una persona pulse «aprobar»?
No. La persona necesita la información, el tiempo y la libertad real de discrepar. Si no, el paso humano no aporta ninguna protección.
¿La supervisión humana es obligatoria por ley?
Para ciertos usos de alto riesgo de la IA, las normas europeas la esperan. Qué normas se aplican a tu caso depende de tu país y de tu uso, así que consúltalo con un asesor jurídico.
Términos relacionados
Conversaciones con IA, decisiones humanas
Passisto mantiene conversaciones de voz estructuradas con candidatos, empleados, clientes y estudiantes, y las convierte en informes accionables.