DTNUM 92 - Data engineer d'un projet ministériel sensible H/F (SIC)

Le Data Engineer conçoit, industrialise et maintient les pipelines de données pour garantir la disponibilité, la qualité et la sécurité des données au service des équipes métiers et Data Science. Le Data Engineer sera en charge de développer les pipelines avec l’outil OTDH au profit des communautés, de maitriser l’outil OTDH et de faire des propositions d’améliorations, il pourra devenir product owner du produit pipeline.

Missions principales

• Collecte et acheminement des données: Recueillir les besoins métiers, développer des solutions de collecte via API, gérer le stockage des données (Hadoop, Data Lake) et automatiser les traitements batch ou streaming.
• Industrialisation et mise à disposition: Nettoyer et transformer les données, gérer les bases de données, assurer la conformité RGPD et mettre en place les marquants de gestion du besoin d’en connaître (modèle ABAC) .
• Supervision et maintenance: Surveiller les pipelines, gérer les incidents, planifier la capacité et assurer la continuité de service.
• Gouvernance et sécurité: Appliquer les politiques d’accès (RBAC/ABAC) , documenter les flux, gérer les logs et le lineage des données.
• Acculturation et support: Former les équipes aux bonnes pratiques, aux conventions de nommage et aux patterns d’ingestion.
• Recetter les versions du produit livrées par l’éditeur. Construire les tests de non régression, de montée en charge automatisés.
• Challenger l’éditeur sur son produit.
• Participer et animer les communautés avec les clients du projet pour co-developper des pipelines.
• Intégrer des composants externes.
• Projeter les données sur la ou les ontologies.

Conditions particulières d\'exercice

Poste soumis à une habilitation de sécurité pour la protection du secret de la défense nationaleTélétravail possibleDurée attendue sur le poste: 3 ans

Profil recherché

Compétences techniques

• Langages et outils: Python, SQL, Scala, JavaScript, Spark, Databricks, Hadoop, Kafka, Flink, ou autre.
• Orchestration et CI/CD: Airflow, Azure Data Factory, Fabric pipelines, GitHub Actions, Azure DevOps, Terraform/Bicep.
• Stockage et modélisation: Delta, Parquet, Lakehouse, Data Warehouse, tests unitaires et d’intégration, data contracts.
• Optimisation et monitoring: Performance, coûts (FinOps) , dashboards de suivi, KPIs (latence, taux de succès, MTTR/MTBF) , data-framework.app.

Compétences comportementales

• Curiosité et veille technologique pour suivre l’évolution rapide des outils et méthodes
• Capacité à collaborer avec les équipes projet et clients en transversal.
• Rigueur, autonomie et sens de l’organisation pour gérer des pipelines complexes et sécurisés

Présentation de Direction de la Transformation Numérique

Direction de la transformation numérique