Human in the loop
Human in the loop è un modo di progettare i sistemi di IA in cui una persona rivede, corregge o approva il risultato prima che porti a una decisione o a un'azione che riguarda qualcuno.
Definizione
Human in the loop significa che le persone restano parte del processo invece di lasciarlo interamente alla macchina. L'IA può raccogliere informazioni, proporre un punteggio o scrivere una bozza, ma una persona esamina il risultato, può modificarlo ed è lei a convalidarlo. Esistono idee affini, come human on the loop, in cui una persona supervisiona e può intervenire, e human in command.
Perché funzioni, il passaggio umano deve essere reale: la persona ha il tempo e le informazioni per capire il risultato, l'autorità per dissentire e una traccia di ciò che ha deciso. Un indicatore semplice è la quota di modifiche: se chi rivede non cambia mai nulla, la revisione può essersi ridotta a una formalità. Anche formare chi rivede su come l'IA può sbagliare aiuta.
Conta soprattutto quando una decisione incide su lavoro, studi, salute o denaro di una persona. La supervisione umana limita i danni di errori e pregiudizi, mantiene la responsabilità in capo a persone identificabili ed è attesa da molte normative sull'IA. In Passisto l'IA conduce la conversazione e scrive il report, e le persone lo rivedono e decidono.
Punti chiave
- Una persona rivede e convalida il risultato dell'IA prima che incida su qualcuno.
- L'IA informa; l'essere umano decide e resta responsabile.
- La supervisione deve essere reale: tempo, informazioni, autorità di modificare e traccia della decisione.
- Una quota di modifiche vicina allo zero può indicare una revisione solo formale.
- Riduce l'impatto di errori e pregiudizi e risponde ad aspettative normative.
Esempio
Una recruiter riceve un report per ciascuno degli 80 candidati dopo il colloquio vocale condotto dall'IA. Legge i riassunti, ascolta estratti per i casi dubbi e decide chi prosegue. Annota le motivazioni nella scheda e due candidati con punteggio più basso dall'IA vengono invitati a un secondo colloquio.
Domande frequenti
Human in the loop rallenta il processo?
L'IA si occupa delle parti che richiedono più tempo, raccogliere e riassumere, e le persone rivedono solo il risultato. Ben progettato, è più veloce del lavoro tutto manuale e più sicuro di una decisione automatizzata.
Basta che una persona clicchi su «approva»?
No. La persona ha bisogno delle informazioni, del tempo e di una reale libertà di dissentire. Altrimenti il passaggio umano non offre alcuna tutela.
La supervisione umana è obbligatoria per legge?
Per alcuni usi ad alto rischio dell'IA le norme europee la prevedono. Quali regole valgano nel tuo caso dipende dal tuo paese e dall'uso, quindi verificalo con un consulente legale.
Termini correlati
Conversazioni IA, decisioni umane
Passisto conduce conversazioni vocali strutturate con candidati, collaboratori, clienti e studenti, e le trasforma in report su cui agire.