Data Engineer GCP

Dans le cadre du développement et de l’industrialisation des plateformes de données, le Data Engineer intervient sur la conception, le développement et l’exploitation de chaînes de traitement de données dans un environnement Cloud GCP.

Ses principales missions sont les suivantes :

Collecte et traitement des données

• Récupérer et intégrer des données provenant de différentes sources externes.

• Exploiter les capacités d’un Datalake pour le stockage et le traitement des données.

• Mettre en œuvre des traitements permettant de produire automatiquement des agrégats journaliers, hebdomadaires et mensuels.

• Concevoir et maintenir les chaînes :

  • d’ingestion des données ;

  • de validation et de contrôle de la qualité des données ;

  • de croisement et d’enrichissement des données ;

  • de déversement des données enrichies dans le Datalake.

Développement et industrialisation

• Développer les solutions dans le respect des règles et principes d’architecture définis.

• Concevoir et documenter les user stories en collaboration avec le Product Owner et les chefs de projet.

• Développer les scripts nécessaires au déploiement des solutions.

• Participer à la mise en œuvre et à l’amélioration de la chaîne de Continuous Delivery.

• Automatiser les tests fonctionnels afin de garantir la qualité et la fiabilité des traitements.

• Assurer la maintenance corrective et évolutive des développements.

Support et amélioration continue

• Analyser et prioriser les corrections d’anomalies.

• Assurer le suivi des incidents liés aux traitements de données.

• Accompagner et assister les équipes d’exploitation.

• Contribuer à l'amélioration continue des processus, outils et pratiques de développement.

• Assurer une veille sur les évolutions technologiques liées aux environnements et frameworks utilisés.

• Formation supérieure en informatique, ingénierie des données ou domaine équivalent.

• Expérience significative en tant que Data Engineer, idéalement dans un environnement Cloud.

• Solide capacité à travailler en équipe dans un contexte Agile, notamment en mode Scrum ou Kanban.

• Bonnes qualités relationnelles et excellente capacité de communication.

• Capacité à échanger avec différents interlocuteurs et à entrer dans le détail des problématiques techniques.

• Curiosité technique et intérêt pour les évolutions des technologies et des architectures Data.

Compétences techniques

Cloud & Infrastructure

• GCP : indispensable.

• GKE.

• Stockage : HDFS, GCS.

Data Engineering

• Maîtrise de l’écosystème Apache Spark.

• Maîtrise de Kafka.

• Bonne maîtrise de Scala.

• Orchestration et planification : Airflow / Cloud Composer.

Data Warehouse & bases de données

• SQL.

• BigQuery.

• Bigtable.

DevOps & CI/CD

• Git.

• Ansible.

• Docker.

• Terraform.

• Jenkins et/ou Cloud Build.

Méthodologies

• Pratique des méthodologies Scrum et/ou Kanban.

• Maîtrise des pratiques de développement collaboratif et de gestion de versions avec Git.