Data Engineer

Buscamos un Data Engineer con experiencia en ecosistemas Big Data para participar en un proyecto internacional enfocado en la migración de infraestructura Hadoop hacia entornos cloud basados en Kubernetes.

Formarás parte de un equipo de ingeniería de datos responsable del diseño, desarrollo y automatización de pipelines de datos, trabajando con tecnologías como Spark, Scala, Airflow y herramientas CI/CD dentro de un entorno ágil.

Funciones

Migración de infraestructura Hadoop a cloud utilizando Kubernetes Engine, COS, Spark as a Service y Airflow as a Service. Desarrollo de procesos de transformación y calidad de datos para garantizar consistencia y precisión. Implementación de pipelines de datos utilizando Scala, SQL y Apache Spark. Automatización de procesos mediante Airflow y herramientas de orquestación. Creación y mantenimiento de pipelines CI/CD para despliegues y testing automatizado. Desarrollo de tests unitarios y validación de procesos de datos. Elaboración de documentación técnica y operativa. Colaboración con equipos de negocio y tecnología para diseñar soluciones de datos escalables.

Requisitos técnicos

Experiencia con Apache Spark y Scala Experiencia en Hadoop ecosystem Conocimientos de SQL y bases de datos NoSQL Experiencia con Apache Airflow Experiencia con HDFS Experiencia con CI/CD (GitLab, Jenkins o similares) Conocimiento de S3 / COS Storage Experiencia trabajando con Parquet y ORC Conocimientos adicionales valorables Kubernetes / containerización Oozie Shell scripting Dremio

Elasticsearch / Kibana Kafka o procesamiento streaming

Ofrecemos

Proyecto internacional en entorno Big Data Modelo de trabajo híbrido en Madrid (1 día presencial) Participación en proyectos de modernización de plataformas de datos Entorno tecnológico moderno