AI Fairness : Définition et Exemples

L'AI Fairness, ou équité de l'intelligence artificielle, est un domaine de recherche et de pratique qui s'attache à identifier, mesurer et corriger les biais présents dans les systèmes d'IA. Ces biais peuvent survenir à chaque étape du cycle de vie d'un modèle : dans les données d'entraînement, dans la conception de l'algorithme, ou dans la manière dont les résultats sont interprétés et déployés. L'objectif est de s'assurer qu'aucun groupe défini par des caractéristiques sensibles (genre, origine ethnique, âge, handicap, etc.) ne soit systématiquement désavantagé.

Le concept d'AI Fairness repose sur plusieurs définitions mathématiques de l'équité, qui peuvent parfois entrer en contradiction. Par exemple, la parité démographique exige que les taux de décision positive soient identiques entre les groupes, tandis que l'égalité des chances se concentre sur l'égalité des taux de vrais positifs. Le choix de la métrique d'équité appropriée dépend du contexte d'application et des valeurs que l'on souhaite prioriser.

En pratique, l'AI Fairness implique des audits réguliers des modèles, l'utilisation de jeux de données représentatifs et diversifiés, ainsi que la mise en place de techniques de débiaisage avant, pendant ou après l'entraînement. Des frameworks comme Fairlearn, AI Fairness 360 d'IBM ou What-If Tool de Google permettent aux développeurs d'évaluer et d'améliorer l'équité de leurs systèmes.

L'enjeu est devenu central avec la généralisation des modèles de langage (LLM) utilisés dans le prompt engineering. Les réponses générées par ces modèles peuvent refléter et amplifier des stéréotypes présents dans leurs données d'entraînement. La formulation des prompts joue alors un rôle crucial : un prompt bien conçu peut atténuer les biais, tandis qu'un prompt mal formulé peut les exacerber.