Biais de l'IA
Le biais de l'IA est une erreur systématique d'un système d'intelligence artificielle qui produit des résultats favorisant ou défavorisant injustement certaines personnes ou certains groupes, souvent à cause des données apprises ou de sa conception.
Définition
Le biais de l'IA apparaît lorsqu'un système donne de façon constante des résultats différents à des personnes de groupes différents pour des raisons étrangères à la tâche. Il peut venir de données d'entraînement qui reflètent des inégalités passées, de données qui sous-représentent certains groupes, de la façon dont le problème est posé ou des critères retenus pour mesurer la réussite. Un système entraîné sur d'anciennes décisions de recrutement peut apprendre à reproduire d'anciennes préférences.
On recherche les biais par des tests : comparer les résultats entre groupes, examiner les critères les plus pesants, vérifier le comportement de l'outil selon les accents, les âges, les genres et les parcours, et surveiller après le lancement. Pour les réduire : des critères clairs liés au poste, retirer les informations sans rapport avec la tâche, améliorer les données et faire relire les résultats par des personnes. Aucun test ne prouve que le biais est totalement absent.
Le biais compte parce que l'IA peut appliquer le même schéma injuste à grande échelle tout en paraissant objective. En recrutement, en formation ou en relation client, elle peut écarter des personnes sans que personne ne le remarque. Un usage responsable consiste à demander aux fournisseurs comment ils testent les biais, à utiliser des critères structurés et à garder une relecture humaine des décisions qui touchent des personnes.
Points clés
- C'est une injustice systématique dans les résultats d'un système d'IA.
- Les sources comprennent les données d'entraînement, la conception du système et la définition de la réussite.
- On le détecte en testant les résultats selon les groupes et en surveillant dans la durée.
- Des critères structurés liés au poste et une relecture humaine réduisent le risque.
- L'IA peut sembler objective tout en reproduisant des schémas injustes : demandez aux fournisseurs comment ils testent.
Exemple
Une entreprise examine un outil de transcription vocale utilisé en entretien et constate qu'il fait plus d'erreurs avec de forts accents régionaux. Elle ajoute une vérification de l'audio d'origine pour toute réponse signalée comme peu claire et demande au fournisseur ses résultats d'évaluation selon les accents.
Questions fréquentes
Une IA peut-elle être totalement exempte de biais ?
Aucun système ne peut garantir l'absence de biais. L'objectif est de tester, réduire et surveiller les biais, et de permettre aux personnes de contester les résultats.
Le biais humain est-il meilleur ou pire que celui de l'IA ?
Les deux existent. L'IA peut appliquer un schéma de façon constante et à grande échelle, ce qui est un risque, mais un système constant peut aussi être testé et corrigé plus facilement que de nombreux jugements individuels.
Que demander à un fournisseur d'IA sur les biais ?
Demandez comment il évalue les résultats selon les groupes et les langues, quelles données il utilise, comment il surveille après le lancement et comment une personne peut relire et modifier les résultats.
Termes associés
Conversations IA, décisions humaines
Passisto mène des conversations vocales structurées avec candidats, collaborateurs, clients et étudiants, et les transforme en rapports exploitables.