Bien que l’IA soit devenue omniprésente, elle est aussi devenue incroyablement complexe. En fait, elle est devenue trop complexe pour que les humains — y compris les data scientists et les ingénieurs — puissent comprendre les calculs qu’elle génère. En outre, des préoccupations éthiques ont été soulevées, notamment au sujet du biais inhérent aux modèles d’apprentissage qui sous-tendent l’IA. L’IA explicable (XAI) contribue à résoudre ces deux problèmes.
Qu’est-ce que l’XAI ?
L’IA explicable est un ensemble d’outils et de frameworks qui aident les humains à comprendre, interpréter et évaluer les résultats générés par les modèles d’apprentissage automatique. L’XAI est une extension d’IA formant une méta-couche qui décrit le modèle d’IA lui-même, notamment ses biais potentiels.
Comment fonctionne l’XAI
L’XAI décompose les différentes caractéristiques et leur contribution afin de montrer précisément ce qui influe sur les prévisions du modèle.
Des outils comme AI Explainability 360 d’IBM, Fiddler Explainable AI et Vertex AI de Google fournissent des informations détaillées, sous le capot, sur les métriques d’évaluation des modèles et la contribution des caractéristiques. Ces informations permettent de mieux comprendre dans quelle mesure chaque caractéristique d’entrée influe sur les prédictions du modèle.
L’XAI fonctionne de manière similaire aux notes scolaires. Les résultats des tests qui comptent pour 25 % de la note auront une incidence bien plus importante sur la note finale que les notes de participation, qui ne représentent que 5 % de la note totale.
Pourquoi l’XAI est importante pour votre entreprise
Lorsque les utilisateurs comprennent comment certaines prédictions sont établies, ils peuvent prendre les mesures correctives nécessaires avant le déploiement du modèle à grande échelle. C’est essentiel lorsqu’il est question de biais et d’éthique de l’IA, car les entreprises peuvent identifier et éliminer les discriminations potentielles à l’encontre de certains groupes et catégories démographiques.
L’XAI améliore les performances globales de l’IA, rend la prise de décision plus transparente et garantit la conformité réglementaire.
Performances optimales de l’IA
L’XAI permet de mieux comprendre le comportement d’un modèle, afin que les développeurs puissent avoir la certitude que le système fonctionne correctement. La connaissance de la logique qui sous-tend les algorithmes d’IA permet aux développeurs de repérer et de corriger plus facilement les bogues et les biais, afin d’améliorer les performances du modèle et d’obtenir des informations plus précises.
Prise de décision
L’XAI décrit la précision, l’équité et la transparence du modèle dont les résultats orientent à leur tour la prise de décision dans votre entreprise. Ainsi, grâce à l’IA explicable, une entreprise peut avoir la certitude de prendre des décisions fondées sur des informations fiables.
Conformité
Le bon fonctionnement des algorithmes peut être nécessaire pour respecter les normes réglementaires, selon le secteur d’activité. Les articles 13 et 22 du Règlement général sur la protection des données (RGPD) de l’UE, par exemple, stipulent que les personnes doivent pouvoir obtenir des explications pertinentes sur les décisions automatisées qui les concernent. Si une décision est contestée, l’XAI fournit la documentation relative aux données ayant conduit à la décision initiale.
À lire aussi : Comment créer des processus robustes de mise en conformité au RGPD pour les entreprises américaines
L’XAI pour une IA plus équitable dans différents secteurs
L’XAI dans les ressources humaines
L’application de l’XAI au système de suivi des candidatures de votre entreprise peut permettre d’identifier des schémas potentiellement discriminatoires avant qu’une grande partie des candidats qualifiés ne soient injustement écartés.
L’XAI dans le secteur bancaire
Les banques peuvent utiliser l’IA explicable pour déterminer si des schémas discriminatoires sont à l’œuvre dans les modèles d’IA qui approuvent les demandes de cartes de crédit, les augmentations de plafond et autres opérations. Apple a appris cette leçon à ses dépens lorsque son modèle d’apprentissage automatique destiné à approuver ou refuser les augmentations de plafond de crédit aurait pratiqué une discrimination fondée sur le sexe.
L’XAI dans l’éducation
L’IA est devenue un élément majeur de la surveillance des examens, en contrôlant les habitudes de frappe, les mouvements oculaires et d’autres comportements des utilisateurs. Ce faisant, l’IA perpétue toutefois ce que l’on appelle le « validisme numérique », c’est-à-dire le fait de nier que les humains utilisent et appréhendent différemment la technologie, en fonction de ce que leur corps peut ou ne peut pas faire. Le système de surveillance des examens dopé à l’IA signale les utilisateurs ayant des capacités différentes et/ou des problèmes de santé qui affectent les activités surveillées.
En outre, la technologie d’IA n’a pas réussi à détecter les teints de peau plus foncés dans sa technologie de reconnaissance faciale, ce qui a conduit certains étudiants à être signalés ou à échouer à leurs examens en ligne.
L’XAI dans les forces de l’ordre
Comme les technologies de reconnaissance faciale fondées sur l’IA ne parviennent pas à identifier correctement les personnes de couleur, leur utilisation dans les forces de l’ordre a des conséquences dévastatrices, car des personnes sont faussement soupçonnées d’avoir commis des crimes.
Les exemples de biais validistes et raciaux dans l’IA utilisée à des fins éducatives et policières soulignent la nécessité de disposer de données d’entrée et d’apprentissage diversifiées lors du développement des modèles d’apprentissage, ainsi que d’une IA explicable qui rende ces modèles plus transparents.
L’XAI dans le domaine militaire
L’US Air Force utilise des drones équipés de la technologie de reconnaissance d’images 3D fondée sur l’XAI de Z Advanced Computing afin de garantir la traçabilité des décès causés par ces drones.
Les défis de l’XAI
Absence de normes communes
Pour déterminer l’explicabilité des algorithmes d’IA, la communauté des développeurs a besoin d’un cadre commun définissant ce que signifie l’explicabilité, ainsi que d’un ensemble de métriques permettant de déterminer ce qui constitue une bonne explication.
Des explications accessibles
Les explications algorithmiques doivent être accessibles non seulement aux experts, mais aussi aux publics non techniques.
Effet inverse
L’IA explicable sert d’antidote aux algorithmes complexes de l’IA et à ses biais en fournissant une méta-couche d’explication permettant l’interprétation humaine. Cependant, les explications fournies par l’XAI au sujet des algorithmes ouvrent la voie à des « attaques adversariales » ou à des manipulations humaines visant à obtenir des résultats souhaitables qui influencent la prise de décision.
Performances insuffisantes
Rendre les modèles plus compréhensibles peut finalement sacrifier les performances du système, ce qui entraîne des résultats inexacts sur lesquels sont fondées les décisions.
Vie privée
Les recherches soulignent la nécessité d’étudier davantage la relation entre la fusion des données (la combinaison de plusieurs sources de données), la confidentialité des données et l’XAI. À ce jour, on ne sait pas clairement dans quelle mesure l’explicabilité compromet la confidentialité des données.
L’avenir de l’XAI
L’éthique continuera d’occuper une place importante dans les discussions sur l’utilisation de l’IA. À mesure que l’IA devient trop complexe pour le cerveau humain, rendant ses biais potentiels encore plus difficiles à déceler, l’IA explicable constitue un pas dans la bonne direction et ouvre la voie à une utilisation plus responsable de l’IA.
Attendez-vous à voir les entreprises améliorer leurs modèles et les gouvernements instaurer davantage de réglementations, notamment concernant les technologies de reconnaissance faciale, afin de suivre le rythme de l’innovation et de l’adoption rapides de l’IA. L’IA explicable deviendra de plus en plus nécessaire au développement et à l’application éthiques de l’IA par les entreprises.