P
📊Analyse de donnéesAdvancedAll AIs

Design a simple ETL pipeline

Design a complete ETL pipeline with error handling, monitoring, and Python code for multi-source data integration.

Paste in your AI

Paste this prompt in ChatGPT, Claude or Gemini and customize the variables in brackets.

Je dois construire un pipeline ETL pour [OBJECTIF] qui extrait des données de [SOURCES] vers [DESTINATION] (ex : Data Warehouse, base SQL, Google BigQuery, fichiers Parquet).

Sources de données :
- [SOURCE_1] : [DESCRIPTION] (ex : API REST, CSV quotidien, base MySQL)
- [SOURCE_2] : [DESCRIPTION] (ex : Google Sheets, Salesforce SFTP)
- [SOURCE_3] : [DESCRIPTION] si applicable

Transformations nécessaires :
- [TRANSFORMATION_1] (ex : dédoublonnage, jointures, agrégations)
- [TRANSFORMATION_2] (ex : standardisation formats, calcul de métriques dérivées)

Contraintes : [CONTRAINTES] (ex : traitement de [VOLUME] lignes/jour, latence max [LATENCE], conformité RGPD)

Conçois le pipeline ETL avec :
1. L'architecture globale du pipeline avec schéma de flux de données
2. La stratégie d'extraction : full load vs incremental avec gestion des deltas
3. Les transformations avec règles de qualité et validation des données
4. La gestion des erreurs, alertes et reprise sur panne
5. Le monitoring : métriques clés à surveiller (latence, volume, taux d'erreur)
6. Le code Python complet avec pandas/SQLAlchemy ou dbt si applicable
7. La documentation technique et le calendrier d'exécution (cron)

Stack préférée : [STACK_TECH]

Why this prompt works

<p>This prompt is effective because it addresses all dimensions of a professional ETL: architecture, data quality, resilience, and monitoring, producing a production-ready solution.</p>

Use Cases

CRM to Data Warehouse integrationMulti-system data consolidationReal-time dashboard feeding

Expected Output

ETL architecture, complete Python code, quality rules, error handling, monitoring, and technical documentation.

Learn more

Check the full skill on Prompt Guide to master this technique from A to Z.

View on Prompt Guide

📬 Get new prompts every week

Join our newsletter and never miss a prompt.

Similar Prompts

📊Analyse de donnéesIntermediateAll AIs

Data storytelling to present data

Transform raw data into a structured and compelling narrative adapted to a specific audience and objective.

0189
📊Analyse de donnéesIntermediateAll AIs

Survey and questionnaire analysis

Complete survey results analysis with statistics, segmentation, verbatim analysis, and summary report.

0225
📊Analyse de donnéesIntermediateAll AIs

Google Sheets analysis automation

Automate repetitive analyses in Google Sheets with advanced formulas and Google Apps Script.

0200
📊Analyse de donnéesIntermediateAll AIs

Web analytics metrics analysis

Comprehensive web analytics metrics analysis to understand visitor behavior and identify optimization areas.

0184