IA explicable
L'IA explicable désigne les méthodes et choix de conception qui permettent de comprendre pourquoi un système d'IA a produit un résultat donné, afin de pouvoir le vérifier, le questionner et lui accorder une confiance adaptée.
Définition
L'IA explicable, parfois abrégée XAI, vise à rendre un résultat d'IA compréhensible. Pour un modèle simple, comme une grille de notation, l'explication est la grille elle-même. Pour des modèles complexes, comme les réseaux de neurones, des techniques supplémentaires montrent quelles données ont le plus pesé sur un résultat, ou le système est conçu pour donner ses raisons avec sa réponse.
On juge une bonne explication selon son lecteur : elle doit être compréhensible par la personne qui doit agir, fidèle à la façon dont le résultat a réellement été produit, et assez précise pour être vérifiée. En recrutement ou en évaluation, cela peut consister à montrer quelles réponses et quels critères ont conduit à une note, avec l'extrait de la conversation à l'appui, pour que le relecteur puisse approuver ou contester.
Sans explications, on fait confiance aveuglément à l'IA ou on la rejette en bloc. Les explications soutiennent le contrôle humain, aident à détecter les biais et permettent de répondre aux candidats ou salariés qui demandent comment une décision a été prise. Un piège courant est l'explication plausible écrite après coup, qui ne reflète pas le fonctionnement réel : demandez aux fournisseurs comment leurs explications sont produites.
Points clés
- Elle aide à comprendre pourquoi une IA a produit un résultat.
- Une notation simple par critères est plus facile à expliquer qu'un modèle opaque.
- Une explication utile relie un résultat à des éléments précis qu'une personne peut vérifier.
- Elle soutient le contrôle humain, la détection des biais et la transparence envers les personnes concernées.
- Méfiez-vous des explications plausibles qui ne reflètent pas la façon dont le résultat a été produit.
Exemple
Un manager voit qu'un candidat a obtenu 2 sur 5 au critère « orientation client ». Le rapport présente le critère, les deux réponses prises en compte et l'extrait où le candidat décrit une réclamation restée sans solution. Le manager écoute l'extrait et juge la note justifiée pour ce poste.
Questions fréquentes
L'IA explicable est-elle la même chose que l'IA transparente ?
Elles sont liées. La transparence concerne l'ouverture sur la façon dont un système est construit et utilisé, tandis que l'explicabilité concerne la compréhension d'un résultat particulier.
Tous les systèmes d'IA sont-ils explicables ?
Pas de la même façon. Certaines approches s'expliquent facilement, d'autres nécessitent des techniques supplémentaires qui n'offrent qu'un éclairage partiel.
Pourquoi l'explicabilité compte-t-elle en recrutement ?
Parce que les décisions touchent des personnes, qui peuvent demander comment elles ont été prises. Les relecteurs doivent aussi voir les raisons d'une note avant de s'y fier.
Termes associés
Conversations IA, décisions humaines
Passisto mène des conversations vocales structurées avec candidats, collaborateurs, clients et étudiants, et les transforme en rapports exploitables.