data engineering

ETL et intégration de données moderne

Construisez une intégration de données rejouable, de l’extraction à la supervision. Le cas pratique aborde contrats, transformations, rejets, changements d’historique et reprise après incident.

3 jours · 21 hIntermédiaireHybride

Pour qui ?

Data engineers, BI developers, développeurs back-end, responsables d’intégration.

Prérequis

Avoir des notions de SQL et de manipulation de données.

Des compétences à mettre en pratique

Objectifs pédagogiques

  • Comprendre les modèles ETL et ELT
  • Sécuriser les flux d’intégration et le suivi des erreurs
  • Concevoir un pipeline réutilisable et maintenable

Votre progression, jour après jour

Programme détaillé

6 séquences · 21 heures indicatives · ateliers et évaluation

Télécharger le programme (PDF)

Le cas fil rouge

Créer un flux d'intégration entre fichiers, API et base de reporting en maîtrisant rejets, doublons et reprise après incident.

Préparer votre formation et découvrir la méthode

Préparer la formation

SQL et manipulation de données ; sources locales simulées, scripts ou outil ETL choisi pour l'atelier.

Apports illustrés, exercices progressifs, ateliers sur un cas fil rouge et retour argumenté sur les productions. Les ateliers et l'évaluation font partie des heures indiquées.

Jour 01Concevoir le flux d'intégration7 h · 2 séquences avec mise en pratique

Séquence 1 · 3 h 30

Concevoir le flux d'intégration

  • Comparer ETL et ELT selon volumes et plateforme cible.
  • Décrire sources, fréquence et règles de transformation.
  • Définir contrat de schéma et contrôle de complétude.
  • Définir sources, grain, fréquence, contrat de schéma et objectifs de reprise.
Notions et méthodes en détail
  • Définir source, cible, grain, clés et fréquence de chaque flux.
  • Comparer ETL et ELT selon outils, volumes et responsabilité des transformations.
  • Écrire contrat de schéma et règles de qualité avant l’implémentation.

Atelier prévuDessiner un flux de commandes provenant d'un CSV et d'une API, avec tables de staging et de destination.

Livrable attenduArchitecture d’intégration et contrats de données.

Vérification en atelierLe flux décrit le sens et la règle de transformation de chaque champ critique.

Pour aller plus loin

Comparer ETL et ELT selon volume, sensibilité et capacité de la plateforme.

Séquence 2 · 3 h 30

Extraire sans perdre d'information

  • Gérer encodages, types et pagination d'API.
  • Choisir extraction complète ou incrémentale.
  • Journaliser fichier, date, lot et nombre d'enregistrements.
  • Gérer extraction complète ou incrémentale, pagination, curseurs et modifications tardives.
Notions et méthodes en détail
  • Choisir extraction complète ou incrémentale selon capacités de la source.
  • Gérer pagination, watermark et données tardives.
  • Conserver un état de reprise qui n’avance qu’après succès du traitement.

Atelier prévuImporter un fichier mal encodé et une API paginée simulée, puis prouver que tous les enregistrements ont été examinés.

Livrable attenduConnecteur et stratégie de reprise.

Vérification en atelierUne interruption puis reprise ne perd aucune ligne du périmètre attendu.

Pour aller plus loin

Reprendre une extraction interrompue sans perdre ni dupliquer des enregistrements.

Jour 02Transformer et traiter les rejets7 h · 2 séquences avec mise en pratique

Séquence 3 · 3 h 30

Transformer et traiter les rejets

  • Normaliser formats, unités et codes de référence.
  • Appliquer règles métier avec motifs de rejet.
  • Conserver provenance et données utiles à la correction.
  • Normaliser types, clés et formats ; distinguer rejet bloquant et anomalie tolérée.
Notions et méthodes en détail
  • Normaliser types, dates et référentiels avec règles explicites.
  • Isoler ligne rejetée, motif et origine sans bloquer arbitrairement tout le lot.
  • Comparer volumes et totaux entre entrée, acceptés et rejets.

Atelier prévuConstruire une zone de rejets et corriger un lot sans perdre la correspondance avec les lignes sources.

Livrable attenduChaîne de transformation et registre des rejets.

Vérification en atelierLe bilan explique toutes les lignes reçues et leur destination.

Pour aller plus loin

Conserver les données rejetées avec motif et possibilité de retraitement.

Séquence 4 · 3 h 30

Charger et gérer les changements

  • Choisir insertion, mise à jour ou historisation.
  • Définir clés et règles de déduplication.
  • Rendre le chargement idempotent et transactionnel selon le besoin.
  • Choisir append, upsert, historisation et traitement des suppressions avec idempotence.
Notions et méthodes en détail
  • Distinguer insertion, mise à jour et suppression logique selon le contrat.
  • Définir clés d’idempotence et traitement d’un lot répété.
  • Gérer historique et dates d’effet sans écraser une information encore nécessaire.

Atelier prévuRejouer un même lot puis un lot corrigé et vérifier que les données cibles restent cohérentes.

Livrable attenduChargement idempotent et tests de réconciliation.

Vérification en atelierLe rechargement d’un même lot ne produit pas de doublon ni de nouvel historique artificiel.

Pour aller plus loin

Rejouer un lot déjà chargé et vérifier l’absence de doublons.

Jour 03Orchestrer et superviser7 h · 2 séquences avec mise en pratique

Séquence 5 · 3 h 30

Orchestrer et superviser

  • Définir dépendances, reprise et notifications d'erreur.
  • Mesurer fraîcheur, volumes, délais et taux de rejet.
  • Protéger secrets et droits des comptes techniques.
  • Définir dépendances, retries bornés, alertes, fraîcheur et supervision des volumes.
Notions et méthodes en détail
  • Organiser dépendances, retries, timeout et limites de concurrence.
  • Suivre fraîcheur, durée et volume avec alertes orientées usage.
  • Tester indisponibilité source et erreur cible avec reprise documentée.

Atelier prévuInterrompre le flux après extraction, reprendre au bon point et vérifier les totaux de contrôle.

Livrable attenduOrchestration et tableau de qualité opérationnelle.

Vérification en atelierL’alerte distingue cause technique et effet sur les données attendues.

Pour aller plus loin

Diagnostiquer un flux techniquement réussi mais métier incomplet.

Séquence 6 · 3 h 30

Documenter et livrer l'intégration

  • Décrire mapping source-cible et règles de gestion.
  • Préparer données de recette et scénarios d'incident.
  • Formaliser procédure d'exploitation et responsabilités.
  • Documenter lineage, règles, paramètres, responsabilités et procédures de changement.
Notions et méthodes en détail
  • Rédiger mapping, dictionnaire, règles de rejet et procédure de reprise.
  • Préparer recette avec doublon, retard, changement de schéma et volume inhabituel.
  • Versionner configuration et règles de transformation.

Atelier prévuLivrer le pipeline avec mapping, tests de reprise, rapport de rapprochement et guide d'exploitation.

Livrable attenduDossier d’exploitation et recette de transfert.

Vérification en atelierLa livraison comprend une preuve de rapprochement et une procédure de relecture des rejets.

Pour aller plus loin

Faire reprendre le traitement par un autre intervenant à partir du dossier livré.

Mettre vos acquis à l’épreuve

Évaluation finale prévue

Mise en situation individuelle et restitution commentée, incluses dans la dernière séquence. Durée indicative : 60 minutes.

Critères de réussite
  • Le rejeu n'ajoute pas de doublons.
  • Chaque rejet conserve un motif et une origine.
  • Les totaux source-cible sont rapprochés et les écarts expliqués.

Adaptation et validation pédagogique. Version enrichie proposée, à valider par le formateur. Répartition pédagogique proposée sur une base de 7 heures par jour, pauses exclues. À ajuster avec le formateur au positionnement initial. Les approfondissements « Pour aller plus loin » sont sélectionnés par le formateur selon le positionnement et le temps disponible ; ils ne constituent pas des heures supplémentaires garanties.

Les ateliers décrivent les travaux prévus. Leurs fichiers, corrigés et évaluations en ligne sont à préparer, sauf ressources explicitement disponibles dans le module pilote.

Références pour approfondir

Documentation des organismes et éditeurs. La progression et les ateliers sont une rédaction originale pour Beyond Expertise.

Pour obtenir plus de détails ou le programme détaillé, contactez le centre Beyond Expertise.

Contacter le centre

Accès, accompagnement et reconnaissance

Le centre doit confirmer les prérequis, le programme final, les dates, les horaires et le tarif avant inscription. Le délai d’accès dépend des disponibilités et du besoin. L’ouverture d’une session et la disponibilité d’un cours e-learning sont confirmées avant inscription.

Les ateliers, méthodes et évaluations du programme sont proposés pour validation pédagogique. Les supports effectivement disponibles sont indiqués dans la section « Contenu e-learning ».

Le parcours ne délivre pas de diplôme ni de certification professionnelle. Aucune éligibilité CPF ou prise en charge n’est garantie. Toute préparation à un examen externe devra faire l’objet d’informations et d’habilitations vérifiées.

Contenu e-learning

Cours e-learning à préparer

Les objectifs et prérequis sont disponibles. Les leçons, supports et évaluations de ce parcours ne sont pas encore intégrés dans cet espace. Le programme détaillé ci-dessus décrit les apprentissages et les ateliers prévus.

Origine des informations et statut du programme

Durée, niveau, modalités, objectifs et tarif relevés sur le site officiel le 11 septembre 2026. Le déroulé détaillé a été enrichi par Beyond Expertise. Validation pédagogique du formateur à réaliser avant animation.

Consulter la fiche du site officiel