Pôle : Les recherches locales sur l’IA
Jade Garcia Bourrée
Jade Garcia Bourrée
Jade Garcia Bourrée a mené sa thèse au sein de l’équipe de recherche WIDE ’Inria. Intitulée « Faire confiance mais vérifier : audits de systèmes d’intelligence artificielle pilotés par des robots », elle s’intéresse aux moyens de détecter, vérifier et limiter les biais algorithmiques afin d’encadrer les dérives de l’IA.
Les algorithmes ne sont pas neutres : ils reproduisent souvent les biais présents dans les données et les choix de leurs concepteurs. En 2010, le modèle d’IA de police prédictive PredPol, utilisé à Chicago pour anticiper la criminalité, a ainsi été accusé de renforcer des biais raciaux en ciblant surtout des quartiers défavorisés. De même, certains algorithmes de recrutement ont favorisé les hommes en reproduisant des stéréotypes de genre issus de données historiques.
Face à ces risques, des cadres juridiques émergent en Europe et à l’international pour responsabiliser les systèmes automatisés. Toutefois, la réglementation ne suffit pas à elle seule.
L’audit algorithmique apparaît comme un levier essentiel. Il consiste à tester un algorithme à l’aide de profils fictifs et à analyser les décisions produites, sans accéder à son fonctionnement interne : une approche dite « en boîte noire », comparable à l’évaluation d’un plat sans connaître sa recette.
Malgré des contraintes techniques (nombre limité de requêtes, difficulté d’interprétation des discriminations et de leurs causes) l’audit algorithmique reste un outil clé pour vérifier la conformité aux lois et favoriser un usage plus juste et équitable de l’intelligence artificielle.