L’IA et la société
L’intelligence artificielle ne se limite pas à une innovation technique : elle transforme en profondeur nos sociétés. En influençant les décisions, les libertés et les équilibres sociaux, elle soulève des questions majeures. Biais, éthique, surveillance ou impact environnemental : ce pôle invite à comprendre ces enjeux et à interroger la place que nous souhaitons lui accorder.
Biais et discriminations
Biais et discriminations
L’intelligence artificielle est structurellement biaisée car elle est entraînée sur des données qui reflètent les stéréotypes et inégalités humaines. Lorsque ces données sont insuffisamment diversifiées, les algorithmes produisent des résultats orientés, renforçant les discriminations envers les femmes, les personnes racisées et plus largement, les groupes minoritaires.
Cette situation est aggravée par la faible diversité dans la conception même des modèles d’IA : selon un rapport de 2019 de l’UNESCO, 85 % des applications d’IA sont développées par des hommes, ce qui influence les choix techniques et les données utilisées.
Dans la santé, le manque de données de femmes ou de personnes non blanches conduit à des diagnostics moins fiables. La reconnaissance faciale montre également des écarts de performance importants en fonction de la personne ciblée.
Au milieu des années 2010, alors que l’identification des hommes à la peau claire atteignait 99 % de précision, celle des femmes à la peau foncée chutait à 35 %. L'IA ne les “voyait” tout simplement pas correctement, faute d'avoir appris assez d'images les représentant.
Pour rendre l’IA plus fiable, équitable et performante, il est indispensable de diversifier à la fois les données d’entraînement et les profils impliqués dans la conception des modèles.
Certains modèles d’IA générative subissent un biais intentionnel lors de la phase d’alignement, visant à rendre les réponses des modèles d’IA plus utiles et sûres. Un exemple notable est Grok, le chatbot de X (ex-Twitter), qui a été réaligné après son lancement initial pour mieux correspondre aux opinions du PDG de la plateforme.