Trustworthy AI : Définition et Exemples

Le concept de Trustworthy AI, ou IA de confiance, repose sur l'idée qu'un système d'intelligence artificielle ne doit pas seulement être performant techniquement, mais également digne de confiance sur les plans éthique, social et juridique. Il s'agit d'une approche holistique qui englobe la transparence des algorithmes, l'équité des résultats, la robustesse technique et le respect de la vie privée.

Ce cadre a été largement popularisé par les lignes directrices de la Commission européenne en 2019, qui identifient sept exigences clés : supervision humaine, robustesse technique et sécurité, respect de la vie privée, transparence, diversité et non-discrimination, bien-être sociétal et environnemental, et responsabilité. Ces principes constituent désormais le socle du AI Act européen et influencent les réglementations mondiales.

En prompt engineering, la notion de Trustworthy AI se traduit par la conception de prompts qui encouragent des réponses vérifiables, non biaisées et transparentes. Cela implique de demander explicitement à l'IA de citer ses sources, de signaler ses incertitudes, d'éviter les stéréotypes et de respecter les limites de ses connaissances plutôt que de fabriquer des informations.

L'enjeu est fondamental : à mesure que l'IA s'intègre dans des domaines critiques comme la santé, la justice ou la finance, la confiance accordée à ces systèmes doit reposer sur des garanties concrètes et mesurables, et non sur une simple promesse technologique. Le Trustworthy AI représente ainsi un changement de paradigme, passant d'une IA optimisée uniquement pour la performance à une IA optimisée pour la fiabilité et la responsabilité.