Thomas Autret

Senior Data Engineer | Apache Iceberg

Salaire / Taux journalier

Nantes, France

Freelance

Peut venir sur site

Expertises

KafkaApache SparkApache AirflowData EngineeringData AnalysisBig DataJavaMongoDBScalaPythonCassandraGoogle BigQueryCopilotTech LeadGoogle Cloud PlatformGitIngénieur DataIoTBitbucketDockerELK StackGitHubGitLabJenkinsArchitecte SolutionsArchitecte CloudMicrosoft TeamsAnsibleIngénieur logicielMavenElasticsearchRequêtes SQLRedisETLAWS

Langues

Français (Maternelle)

À propos

Introduction

Senior Data Engineer avec +10 ans d'expertise en architectures data temps-réel et batch sur environnements cloud (GCP, AWS, Cloudera). Spécialisé en Spark/Scala, Kafka et technologies modernes (Apache Iceberg, BigQuery), avec expérience confirmée en milieu bancaire (Crédit Agricole, Natixis, SG). J'apporte mentorat technique, optimisation des performances et mise en œuvre de pipelines data robustes pour traiter vos volumes massifs avec excellence.

Liens

Expérience de travail

Senior Data Engineer

Crédit Agricole Technologies et ServicesFreelance

juin 2024 - Présent

2 ans 5 mois

Nantes, France

🚀 Modernisation du SI Crédit & Valorisation Extra-financière (DPE) Dans le cadre de cette mission pour le groupe Crédit Agricole, j'ai conçu et déployé des architectures data temps-réel et batch pour traiter des volumes massifs de données bancaires. Mon rôle a couvert l'ensemble du cycle de vie de la donnée, de l'ingestion CDC à l'analyse décisionnelle. 🏗️ Réalisations clés Streaming & Ingestion Temps-Réel (CDC) : Mise en place d'une architecture de capture de données de changement (CDC) depuis des bases DB2 vers Kafka. Techniques : Optimisation des flux via des stratégies de Watermarking pour garantir la cohérence des jointures de données en temps réel. Qualité de Données & Géocodage : Développement d’une application de géocodage haute performance distribuée, traitant les adresses des 39 Caisses Régionales. Pipeline DPE & Valorisation Énergétique : Création d'un moteur d'ingestion mensuel traitant l'intégralité du portefeuille crédits. Impact : Croisement des données bancaires avec les DPE (Open Data ADEME & GED interne) via Spark pour enrichir le patrimoine de données avec des indicateurs de performance énergétique. Observabilité & Monitoring : Déploiement de dashboards de supervision via la Stack ELK pour assurer la haute disponibilité de la plateforme et le suivi des jobs critiques. 💡 Expertise & Innovation : Apache Iceberg J'ai été force de proposition pour l'implémentation d'Apache Iceberg, apportant des gains majeurs sur : Historisation (Time Travel) : Capacité à interroger les états passés des données pour l'audit et le reporting réglementaire. Évolutivité du schéma : Gestion fluide des modifications de structure sans interruption des pipelines. Performance : Optimisation des requêtes grâce au partitionnement intelligent et à la réduction du scan de fichiers. 🛠️ Environnement Technique Data : Spark (Streaming/Batch), Apache Kafka, Apache Iceberg. Cloud & Infra : Cloudera, AWS S3, Stack ELK. Méthodologie : Agile, CI/CD, Data Quality.

Senior Data Engineer

NatixisFreelance

juin 2021 - mai 2024

3 ans

À distance

🚀 Senior Data Engineer | Lead Technique - Migration Cloud & Flux Financiers (GCP) En tant que Senior Data Engineer au sein de la DataFactory de Natixis (Squad Flux), j'ai piloté la migration stratégique des flux de transactions financières (virements, monétique, chèques) vers Google Cloud Platform. Mon rôle a combiné leadership technique au sein d'une équipe internationale (14 personnes) et ingénierie de données complexe. 🛠️ Leadership & Qualité Mentorat : Accompagnement de profils experts métier (Oracle) vers l'écosystème Spark/Scala. Standards de place : Garant des bonnes pratiques de développement, des revues de code et de la stratégie de tests unitaires. Collaboration : Coordination technique entre les équipes métiers, DataViz et développeurs (Paris/Porto). 🏗️ Ingénierie de Données & Architecture "Low Code" Expertise sur le framework Starlake pour une gestion de l'ingestion basée sur la configuration (YAML) : Flux XML Critiques : Conception de pipelines d'ingestion complexes utilisant les XSD pour le typage dynamique. Sécurité (HSM) : Implémentation du chiffrement au niveau de la balise XML via des UDF Spark et parcours récursifs de schémas. Parsing avancé : Découpage et ventilation de fichiers financiers avec normalisation et gestion de la conformité. ⚡ Optimisation des Performances & Cloud Hybridation Spark/BigQuery : Migration stratégique des traitements lourds de Spark vers BigQuery pour exploiter la puissance native de GCP, divisant radicalement les temps de traitement sur les phases d'agrégation. Tuning Spark : Optimisation fine (gestion du cache, conversion RDD/DataFrame, optimisation des jointures). Orchestration : Pilotage des workflows via Airflow sur clusters éphémères Dataproc. 🛠️ Environnement Technique GCP : BigQuery, Dataproc, Cloud Composer (Airflow), GCS. Data : Spark (Scala), SQL, Starlake (Framework Low Code), XSD/XML.

Tech lead Big Data

Société Générale

avr. 2019 - juin 2021

2 ans 3 mois

Francfort-sur-le-Main, Allemagne

– Refonte de calculs de métriques financières (risque de taux) développées sous Informatica/Oracle Exadata vers une plateforme Big Data. – Encadrement de développeurs Big Data. – Participation hebdomadaire au comité des tech leads. – Environnement technique : Scala, Hortonworks Data Platform, Spark, Hive, Oozie, Zeppelin

Co-fondateur

Talenders

janv. 2015 - sept. 2019

4 ans 9 mois

– Nous sommes le spécialiste de la veille dans les technologies IT. – Nous avons conçu et développé Talenders, plate-forme web fruit d'un savoir-faire acquis au cours de trois années de R&D. – Nous permettons aux professionnels IT d'accéder à des informations très ciblées, avec une rapidité de traitement en quasi-temps réel, à travers une interface user-friendly et simple d'utilisation. – #TalendersIsHere – https://www.talenders.com

Data engineer

STET

mars 2016 - mars 2019

3 ans 1 mois

La Défense, FR

– Projet de refonte de l'application principale de compensation bancaire. – J'ai participé à la mise en place de l'infrastructure logicielle sur la plate-forme Cloud AWS. – Je participe au développement des fonctionnalités métier de la nouvelle application. – Les technologies se concentrent sur des valeurs sûres du Big Data comme Spark, Spark Streaming, Kafka et Cassandra. La majorité des développements est en Scala et un peu en Java. – Outils utilisés: Git, Maven, Jenkins, JIRA.

Ingénieur Etude et Développement Java/JEE

OUI.sncf

oct. 2014 - févr. 2016

1 an 5 mois

La Défense, FR

– Nouveau projet de descente internationale pour le marché UK. – Ma mission consiste à: – développer un projet BDD (Behavior Driven Development) qui permet aux équipes de - développement et fonctionnelle de travailler ensemble sur les tests – remonter les itinéraires et tarifs sur la partie devis de l'application – gérer un panier persistant – développer des tests unitaires – Développement: Java 8, rxJava, Spring, Vert.x – Architecture: Domain Driven Design (DDD) – Tests: Behavior Driven Development (BDD), CucumberJVM – Base de données : MongoDB, Elasticsearch – Méthodologie : Scrum – Outils: IntelliJ 14, Git, Jira

Ingénieur Etude et Développement Java/JEE

Coface

mai 2013 - sept. 2014

1 an 5 mois

92270 Bois-Colombes, France

– Projet Cofanet Policy Master pour le compte de la Coface. – Ce projet, démarré en Mai 2013, est la refonte d'une application codée en PHP. – L'application permet à un abonné Coface de gérer son contrat d'assurance-crédit (portefeuille clients) ainsi que son financement. – Les principales fonctionnalités proposées par Cofanet Policy Master sont : – Gestion du suivi des factures et règlements grâce à l'import de factures – Déclaration du chiffre d'affaires s'appuyant sur l'import de factures – Prévenir d'éventuels risques en comparant les encours aux limites de garanties – Proposer une liste des factures à financer qui pourraient être adressées aux banques – Gérer les impayés et les demandes de sinistre – Proposer une vision courtier sur ces informations – Technologies: Java 6, Spring Core, Spring MVC 3.2.x, JUnit, Mockito, AssertJ, JQuery, CSS3, SQL, Oracle – Outils: Eclipse, SQL Developer, Maven 3, Dimensions, Caliber RM, Serveur d'applications Oracle Weblogic 10.3.6

Ingénieur Etude et Développement Java/JEE

STET

juin 2011 - avr. 2013

1 an 11 mois

La Défense, FR

– Projet STET-CORE (Systèmes Technologiques d'Echange et de Traitement) – STET est un opérateur de services interbancaires, leader sur son marché en Europe. – STET a développé le système CORE qui fournit des services de traitement, compensation et règlement en temps réel des moyens de paiement de détail (virements, prélèvements, retraits, chèques, cartes,...) à une communauté de plus de 400 établissements financiers en France. – En 2009, le système CORE a traité 13 milliards de transactions pour une valeur de 5,000 milliards d'euros ce qui représente 44% du volume total de l'ensemble des paiements compensés en Europe. – La technologie et le savoir-faire unique de STET lui permettent aussi de gérer les transactions financières d'autres communautés bancaires européennes dans le cadre du projet de marché unique des paiements SEPA (Single European Payment Area). – Technologies: Java, Scala, Struts, Spring, API WMQ et JMS – Outils: Eclipse, JUnit, Maven 2, Mantis, Jenkins, RabbitSVN

Ingénieur Etude et Développement Java/JEE

Assistance publique- hôpitaux de paris

sept. 2010 - mai 2011

9 mois

92150 Suresnes, France

– Projet AP-HP (Assistance Publique - Hôpitaux de Paris) Annuaire Accessibilité. – Partie batchs : – Corrections d'anomalies et évolution sur les batchs de provisionning en amont et en aval de l'annuaire LDAP. – Rédaction de spécifications fonctionnelles et techniques. – Réalisation d'une étude d'impact de l'évolution sur le provisionning amont. – Partie Intranet: corrections d'anomalies. – Transfert de connaissances : – Formation théorique => présentation des différents sous-projets (provisionnings, Intranet), déploiement, installation, code source. – Mises en situation => identification et résolution d'anomalies en coopération avec le repreneur du projet. – Technologies: Java, Ant, JEE, Shell, CSS, annuaire LDAP (Novell)

Ingénieur Etudes et Développement

CNIEG

nov. 2009 - août 2010

10 mois

Paris, France


Formation

Université Pierre et Marie Curie (Paris VI)

Master SAR, Informatique option Systèmes et Applications Répartis

2007 - 2009

2 ans 1 mois

Université Pierre et Marie Curie

Licence, Informatique

2004 - 2007

3 ans 1 mois


Licences et certifications

Apache Kafka

Délivré le : août 2025

Certifié par Confluent

Apache Spark

Délivré le : août 2024

Certifié par Databricks

Associate Cloud Engineer

Délivré le : janv. 2024

Certifié par Kryterion

Functional Program Design in Scala

Délivré le : mars 2019

Certifié par Coursera

Big Data Analysis with Scala and Spark

Délivré le : mars 2019

Certifié par Coursera

Functional Programming Principles in Scala

Délivré le : juil. 2017

Certifié par Coursera

MongoDB for Java Developers

Délivré le : févr. 2015

Certifié par MongoDB

Le meilleur endroit pour trouver votre prochaine opportunité

© 2026. Tous droits réservés.