Data Engineer Big Data - Freelance

Contexte

Dans le cadre de la maintenance et du passage à l'échelle de différents outils de datavisualisation et d'analytics, la mission vise à assurer la robustesse des chaînes de traitement de données, l'optimisation des performances et l'intégration de nouveaux cas d'usage analytiques.

• Bonne compréhension des architectures Data modernes (Data Lake, Data Mesh, Event-Driven Architecture).
• Maîtrise des principes de conception et d'industrialisation des flux de données batch et temps réel.
• Connaissance des architectures événementielles et des mécanismes de publication/consommation d'événements (topics, messaging, streaming).
• Expérience des environnements Cloud AWS et des bonnes pratiques d'exploitation associées.
• Compréhension des enjeux de gouvernance, de qualité et de traçabilité des données.
• Capacité à concevoir des solutions robustes, résilientes et évolutives répondant aux besoins métiers.

Missions

• Assurer le maintien en conditions opérationnelles de l'infrastructure Data sur AWS et des produits existants.
• Concevoir et déployer des topics événementiels permettant la diffusion et la consommation de données en temps réel.
• Renforcer la robustesse, la scalabilité et l'interopérabilité des plateformes de données afin de répondre aux nouveaux besoins métiers et analytiques.

Compétences demandées

• Python (Pandas, PySpark) : confirmé
• Spark (PySpark/Spark SQL) : confirmé
• Kafka (producteur/consommateur, topics, partitions) : confirmé
• Connaissance des architectures événementielles et des mécanismes de publication/consommation d'événements (topics, messaging, streaming) : confirmé

1. Bonne compréhension des architectures Data modernes (Data Lake, Data Mesh, Event-Driven Architecture)
2. Maîtrise des principes de conception et d'industrialisation des flux de données batch et temps réel
3. Connaissance des architectures événementielles et des mécanismes de publication/consommation d'événements (topics, messaging, streaming)
4. Expérience des environnements Cloud AWS et des bonnes pratiques d'exploitation associées
5. Compréhension des enjeux de gouvernance, qualité et traçabilité des données
6. Capacité à concevoir des solutions robustes, résilientes et évolutives répondant aux besoins métiers
7. Compétences obligatoires en Spark (PySpark/Spark SQL) et optimisation des jobs
8. Compétences obligatoires en Kafka (producteur/consommateur, topics, partitions)
9. Compétences obligatoires en Python (Pandas, PySpark) et SQL
10. Compétences souhaitées en Hadoop, Kafka Connect, Scala (option)
11. Compétences en Cloud (AWS/GCP/Azure) avec des connaissances souhaitées en Terraform, Cloud Storage (S3, GCS)
12. Compétences en monitoring avec Datadog (métriques custom, API), Prometheus, Grafana
13. Connaissance des outils Data comme Airflow, Dataiku (intégration, recettes)
14. Compétences DevOps souhaitées en Kubernetes, Helm, Docker, CI/CD (GitLab CI, Jenkins)