IA spiegabile (explainable AI)
L'IA spiegabile indica i metodi e le scelte di progettazione che permettono di capire perché un sistema di IA ha prodotto un certo risultato, così da poterlo verificare, mettere in discussione e fidarsene in modo appropriato.
Definizione
L'IA spiegabile, a volte abbreviata in XAI, mira a rendere comprensibile il risultato di un'IA. In un modello semplice, come una griglia di punteggio, la spiegazione è la griglia stessa. Nei modelli complessi, come le reti neurali, si usano tecniche aggiuntive che mostrano quali dati hanno pesato di più su un risultato, oppure il sistema è progettato per fornire le proprie ragioni insieme alla risposta.
Una buona spiegazione si giudica in base a chi la legge: deve essere comprensibile per la persona che deve agire, fedele a come il risultato è stato realmente prodotto e abbastanza specifica da poter essere verificata. Nella selezione o nella valutazione può significare mostrare quali risposte e quali criteri hanno portato a un punteggio, con l'estratto della conversazione a supporto, così che chi rivede possa essere d'accordo o meno.
Senza spiegazioni, le persone si fidano ciecamente dell'IA oppure la rifiutano in blocco. Le spiegazioni sostengono la supervisione umana, aiutano a individuare i pregiudizi e permettono di rispondere a candidati o dipendenti che chiedono come si è arrivati a una decisione. Un'insidia comune è la spiegazione verosimile scritta a posteriori che non riflette come il sistema ha davvero funzionato: chiedi ai fornitori come vengono prodotte le loro spiegazioni.
Punti chiave
- Aiuta a capire perché un'IA ha prodotto un risultato.
- Un punteggio semplice basato su criteri è più facile da spiegare di un modello opaco.
- Una spiegazione utile collega il risultato a elementi specifici che una persona può verificare.
- Sostiene la supervisione umana, l'individuazione dei pregiudizi e la trasparenza verso le persone interessate.
- Diffida delle spiegazioni verosimili che non riflettono come è stato ottenuto il risultato.
Esempio
Un responsabile delle assunzioni vede che un candidato ha ottenuto 2 su 5 nel criterio «orientamento al cliente». Il report mostra il criterio, le due risposte considerate e l'estratto in cui il candidato descrive un reclamo rimasto irrisolto. Il responsabile ascolta l'estratto e conclude che il punteggio è corretto per questo ruolo.
Domande frequenti
L'IA spiegabile è la stessa cosa dell'IA trasparente?
Sono collegate. La trasparenza riguarda l'apertura su come un sistema è costruito e usato, la spiegabilità riguarda la comprensione di un risultato specifico.
Tutti i sistemi di IA sono spiegabili?
Non allo stesso modo. Alcuni approcci sono facili da spiegare, altri richiedono tecniche aggiuntive che danno solo una visione parziale.
Perché la spiegabilità conta nella selezione del personale?
Perché le decisioni riguardano persone, che possono chiedere come sono state prese. Inoltre chi rivede ha bisogno di vedere le ragioni di un punteggio prima di fidarsene.
Termini correlati
Conversazioni IA, decisioni umane
Passisto conduce conversazioni vocali strutturate con candidati, collaboratori, clienti e studenti, e le trasforma in report su cui agire.