Prompting Fiable : Sécurité, Vérification et Usage Responsable

Se protéger des prompt injections

Une prompt injection se produit quand une source non fiable contient des instructions qui essaient de détourner le comportement de l’IA. Le risque augmente dès que vous demandez à un assistant d’analyser un email, une page web, un document partagé, une base de connaissances ou une capture qui peut contenir du texte hostile.

La règle de base est simple : les documents et contenus externes sont des données, pas des consignes. Votre prompt doit donc dire au modèle de respecter vos instructions, d’ignorer les ordres trouvés dans la source et de signaler toute tentative de manipulation.

Checklist avant d’analyser une source non fiable

• Indiquez explicitement que le contenu fourni est une source à analyser, pas une instruction à suivre.
• Demandez au modèle d’identifier les consignes suspectes présentes dans le document.
• Interdisez toute action externe non demandée : envoyer un message, ouvrir un lien, modifier un fichier ou révéler des informations.
• Demandez une synthèse séparant le contenu utile des instructions potentiellement malveillantes.
• Vérifiez manuellement les liens, pièces jointes, demandes urgentes et appels à l’action inhabituels.
• Pour les agents ou outils connectés, gardez une validation humaine avant toute action sensible.

Prompt de protection à réutiliser

Attention: aucune formulation ne supprime totalement le risque de prompt injection. Le bon réflexe est de limiter les actions possibles, séparer données et consignes, puis garder une validation humaine pour les usages sensibles.

Vérifier une réponse IA avant de l’utiliser

Un bon prompt augmente la qualité d’une réponse, mais il ne garantit pas qu’elle soit vraie. Les assistants IA peuvent produire des erreurs, des références inventées, des calculs approximatifs ou des affirmations trop sûres. Une formation sérieuse au prompting doit donc apprendre à vérifier, pas seulement à générer.

La méthode la plus fiable consiste à séparer la production de la vérification. Demandez d’abord une réponse utile, puis demandez une seconde passe qui identifie les faits à contrôler, les hypothèses, les points incertains et les sources nécessaires. Pour les sujets importants, cette vérification doit être complétée par une personne compétente ou une source primaire.

Protocole de vérification en 6 étapes

1. Demandez au modèle de distinguer faits, hypothèses, recommandations et zones d’incertitude.
2. Repérez les chiffres, dates, noms propres, citations et liens qui doivent être vérifiés.
3. Demandez les critères qui permettraient de réfuter la réponse.
4. Comparez les affirmations importantes avec une source primaire ou une documentation officielle.
5. Faites reformuler la réponse avec un niveau de confiance explicite.
6. Décidez si la réponse peut être utilisée telle quelle, retravaillée ou rejetée.

Prompt de contrôle à ajouter après une réponse

Attention: une citation ou une source affichée par une IA peut sembler crédible sans être fiable. Vérifiez les sources importantes avant publication, décision métier ou usage sensible.

Prompting responsable : données, risques et validation humaine

Une formation de référence au prompting ne peut pas se limiter à écrire de meilleures instructions. En contexte professionnel, il faut aussi savoir ce que l’on peut mettre dans un prompt, ce qui doit rester hors de l’outil, comment vérifier une réponse et quand demander une validation humaine.

Le principe pratique est simple : un prompt est une entrée de travail. Il peut contenir des informations personnelles, confidentielles ou stratégiques. Avant d’utiliser un assistant IA, clarifiez donc le niveau de sensibilité des données, le cadre autorisé par votre organisation et le type de décision que la réponse peut influencer.

Checklist avant d’envoyer un prompt sensible

• Retirez les données personnelles qui ne sont pas indispensables à la tâche.
• Remplacez les noms, emails, numéros de client, montants ou extraits contractuels par des exemples anonymisés quand c’est possible.
• Évitez les informations confidentielles, secrets commerciaux, codes internes, clés API et documents non autorisés.
• Précisez au modèle de signaler l’incertitude au lieu d’inventer une réponse.
• Demandez une sortie vérifiable : hypothèses, points à contrôler, sources attendues ou critères de décision.
• Gardez une trace du prompt, du modèle utilisé, de la date et des vérifications effectuées pour les usages importants.
• Faites valider par une personne compétente toute réponse qui touche au juridique, médical, financier, RH, sécurité ou données personnelles.

Exercice recommandé

Prenez un prompt professionnel que vous utilisez déjà et créez deux versions : une version brute, puis une version responsable. Dans la deuxième version, anonymisez les données, ajoutez les limites d’usage, demandez les points à vérifier et définissez le rôle de validation humaine. Comparez ensuite la qualité et la sécurité des deux résultats.

Attention: cette section ne remplace pas l’avis d’un juriste, d’un DPO ou d’un référent sécurité. Elle vous donne une méthode de travail pour prompter avec prudence et mieux dialoguer avec les personnes responsables dans votre organisation.

Pour aller plus loin

Ces compétences se travaillent à la pratique. Reprenez le parcours structuré dans la formation prompting gratuite, et entraînez-vous avec les exercices interactifs : évaluation et red-teaming, contraintes et limitations, self-consistency.