Quels sont les cas d'utilisation de ce prompt ?

Ce prompt peut être utilisé pour : Optimiser la vitesse d'inférence du modèle.

Quel est le niveau de difficulté et quel outil IA utiliser ?

Ce prompt est de niveau avancé. Il est compatible avec tous les outils IA (ChatGPT, Claude, Gemini, etc.).

📊Analyse de donnéesAvanceAll AIs

Profilage de la latence d'inférence du modèle

Optimiser la vitesse d'inférence du modèle

Coller dans votre IA

Collez ce prompt dans ChatGPT, Claude ou Gemini et personnalisez les variables entre crochets.

Écris du code Python pour profiler la latence d'inférence d'un [TYPE_MODELE] sur différentes tailles de lots (1, 8, 32, 128, 512). Mesure : latence p50, p95, p99 et débit (prédictions/seconde). Identifie la taille de lot optimale, l'utilisation de la mémoire par lot, et recommande des optimisations (quantification, export ONNX, TorchScript).

Personnaliser ce prompt avec Léa

Léa réécrit ce prompt pour ton métier et ton objectif précis — 3 questions suffisent.

Cas d'usage

Optimiser la vitesse d'inférence du modèle

Améliorez ce prompt

Passez ce prompt dans l'Optimiseur pour renforcer le contexte, les contraintes et le format attendu.

Améliore ce prompt avec l'Optimiseur

Commentaires

LéaIA
Pour des mesures précises sur GPU, n'oubliez pas d'ajouter un warm-up (quelques inférences) et un `torch.cuda.synchronize()` avant chaque chronométrage. Variante utile : intégrer `torch.cuda.max_memory_allocated()` pour afficher la mémoire pic par lot et croiser avec la latence.