
Thomas Autret
Senior Data Engineer | Apache Iceberg
Salaire / Taux journalier
Nantes, France
Freelance
Peut venir sur site
Expertises
Langues
À propos
Introduction
Senior Data Engineer avec +10 ans d'expertise en architectures data temps-réel et batch sur environnements cloud (GCP, AWS, Cloudera). Spécialisé en Spark/Scala, Kafka et technologies modernes (Apache Iceberg, BigQuery), avec expérience confirmée en milieu bancaire (Crédit Agricole, Natixis, SG). J'apporte mentorat technique, optimisation des performances et mise en œuvre de pipelines data robustes pour traiter vos volumes massifs avec excellence.
Expérience de travail
Senior Data Engineer
Crédit Agricole Technologies et ServicesFreelance
juin 2024 - Présent
2 ans 5 mois
Nantes, France
🚀 Modernisation du SI Crédit & Valorisation Extra-financière (DPE) Dans le cadre de cette mission pour le groupe Crédit Agricole, j'ai conçu et déployé des architectures data temps-réel et batch pour traiter des volumes massifs de données bancaires. Mon rôle a couvert l'ensemble du cycle de vie de la donnée, de l'ingestion CDC à l'analyse décisionnelle. 🏗️ Réalisations clés Streaming & Ingestion Temps-Réel (CDC) : Mise en place d'une architecture de capture de données de changement (CDC) depuis des bases DB2 vers Kafka. Techniques : Optimisation des flux via des stratégies de Watermarking pour garantir la cohérence des jointures de données en temps réel. Qualité de Données & Géocodage : Développement d’une application de géocodage haute performance distribuée, traitant les adresses des 39 Caisses Régionales. Pipeline DPE & Valorisation Énergétique : Création d'un moteur d'ingestion mensuel traitant l'intégralité du portefeuille crédits. Impact : Croisement des données bancaires avec les DPE (Open Data ADEME & GED interne) via Spark pour enrichir le patrimoine de données avec des indicateurs de performance énergétique. Observabilité & Monitoring : Déploiement de dashboards de supervision via la Stack ELK pour assurer la haute disponibilité de la plateforme et le suivi des jobs critiques. 💡 Expertise & Innovation : Apache Iceberg J'ai été force de proposition pour l'implémentation d'Apache Iceberg, apportant des gains majeurs sur : Historisation (Time Travel) : Capacité à interroger les états passés des données pour l'audit et le reporting réglementaire. Évolutivité du schéma : Gestion fluide des modifications de structure sans interruption des pipelines. Performance : Optimisation des requêtes grâce au partitionnement intelligent et à la réduction du scan de fichiers. 🛠️ Environnement Technique Data : Spark (Streaming/Batch), Apache Kafka, Apache Iceberg. Cloud & Infra : Cloudera, AWS S3, Stack ELK. Méthodologie : Agile, CI/CD, Data Quality.
Senior Data Engineer
NatixisFreelance
juin 2021 - mai 2024
3 ans
À distance
🚀 Senior Data Engineer | Lead Technique - Migration Cloud & Flux Financiers (GCP) En tant que Senior Data Engineer au sein de la DataFactory de Natixis (Squad Flux), j'ai piloté la migration stratégique des flux de transactions financières (virements, monétique, chèques) vers Google Cloud Platform. Mon rôle a combiné leadership technique au sein d'une équipe internationale (14 personnes) et ingénierie de données complexe. 🛠️ Leadership & Qualité Mentorat : Accompagnement de profils experts métier (Oracle) vers l'écosystème Spark/Scala. Standards de place : Garant des bonnes pratiques de développement, des revues de code et de la stratégie de tests unitaires. Collaboration : Coordination technique entre les équipes métiers, DataViz et développeurs (Paris/Porto). 🏗️ Ingénierie de Données & Architecture "Low Code" Expertise sur le framework Starlake pour une gestion de l'ingestion basée sur la configuration (YAML) : Flux XML Critiques : Conception de pipelines d'ingestion complexes utilisant les XSD pour le typage dynamique. Sécurité (HSM) : Implémentation du chiffrement au niveau de la balise XML via des UDF Spark et parcours récursifs de schémas. Parsing avancé : Découpage et ventilation de fichiers financiers avec normalisation et gestion de la conformité. ⚡ Optimisation des Performances & Cloud Hybridation Spark/BigQuery : Migration stratégique des traitements lourds de Spark vers BigQuery pour exploiter la puissance native de GCP, divisant radicalement les temps de traitement sur les phases d'agrégation. Tuning Spark : Optimisation fine (gestion du cache, conversion RDD/DataFrame, optimisation des jointures). Orchestration : Pilotage des workflows via Airflow sur clusters éphémères Dataproc. 🛠️ Environnement Technique GCP : BigQuery, Dataproc, Cloud Composer (Airflow), GCS. Data : Spark (Scala), SQL, Starlake (Framework Low Code), XSD/XML.
Tech lead Big Data
Société Générale
avr. 2019 - juin 2021
2 ans 3 mois
Francfort-sur-le-Main, Allemagne
– Refonte de calculs de métriques financières (risque de taux) développées sous Informatica/Oracle Exadata vers une plateforme Big Data. – Encadrement de développeurs Big Data. – Participation hebdomadaire au comité des tech leads. – Environnement technique : Scala, Hortonworks Data Platform, Spark, Hive, Oozie, Zeppelin
Co-fondateur
Talenders
janv. 2015 - sept. 2019
4 ans 9 mois
– Nous sommes le spécialiste de la veille dans les technologies IT. – Nous avons conçu et développé Talenders, plate-forme web fruit d'un savoir-faire acquis au cours de trois années de R&D. – Nous permettons aux professionnels IT d'accéder à des informations très ciblées, avec une rapidité de traitement en quasi-temps réel, à travers une interface user-friendly et simple d'utilisation. – #TalendersIsHere – https://www.talenders.com
Data engineer
STET
mars 2016 - mars 2019
3 ans 1 mois
La Défense, FR
– Projet de refonte de l'application principale de compensation bancaire. – J'ai participé à la mise en place de l'infrastructure logicielle sur la plate-forme Cloud AWS. – Je participe au développement des fonctionnalités métier de la nouvelle application. – Les technologies se concentrent sur des valeurs sûres du Big Data comme Spark, Spark Streaming, Kafka et Cassandra. La majorité des développements est en Scala et un peu en Java. – Outils utilisés: Git, Maven, Jenkins, JIRA.
Ingénieur Etude et Développement Java/JEE
OUI.sncf
oct. 2014 - févr. 2016
1 an 5 mois
La Défense, FR
– Nouveau projet de descente internationale pour le marché UK. – Ma mission consiste à: – développer un projet BDD (Behavior Driven Development) qui permet aux équipes de - développement et fonctionnelle de travailler ensemble sur les tests – remonter les itinéraires et tarifs sur la partie devis de l'application – gérer un panier persistant – développer des tests unitaires – Développement: Java 8, rxJava, Spring, Vert.x – Architecture: Domain Driven Design (DDD) – Tests: Behavior Driven Development (BDD), CucumberJVM – Base de données : MongoDB, Elasticsearch – Méthodologie : Scrum – Outils: IntelliJ 14, Git, Jira
Ingénieur Etude et Développement Java/JEE
Coface
mai 2013 - sept. 2014
1 an 5 mois
92270 Bois-Colombes, France
– Projet Cofanet Policy Master pour le compte de la Coface. – Ce projet, démarré en Mai 2013, est la refonte d'une application codée en PHP. – L'application permet à un abonné Coface de gérer son contrat d'assurance-crédit (portefeuille clients) ainsi que son financement. – Les principales fonctionnalités proposées par Cofanet Policy Master sont : – Gestion du suivi des factures et règlements grâce à l'import de factures – Déclaration du chiffre d'affaires s'appuyant sur l'import de factures – Prévenir d'éventuels risques en comparant les encours aux limites de garanties – Proposer une liste des factures à financer qui pourraient être adressées aux banques – Gérer les impayés et les demandes de sinistre – Proposer une vision courtier sur ces informations – Technologies: Java 6, Spring Core, Spring MVC 3.2.x, JUnit, Mockito, AssertJ, JQuery, CSS3, SQL, Oracle – Outils: Eclipse, SQL Developer, Maven 3, Dimensions, Caliber RM, Serveur d'applications Oracle Weblogic 10.3.6
Ingénieur Etude et Développement Java/JEE
STET
juin 2011 - avr. 2013
1 an 11 mois
La Défense, FR
– Projet STET-CORE (Systèmes Technologiques d'Echange et de Traitement) – STET est un opérateur de services interbancaires, leader sur son marché en Europe. – STET a développé le système CORE qui fournit des services de traitement, compensation et règlement en temps réel des moyens de paiement de détail (virements, prélèvements, retraits, chèques, cartes,...) à une communauté de plus de 400 établissements financiers en France. – En 2009, le système CORE a traité 13 milliards de transactions pour une valeur de 5,000 milliards d'euros ce qui représente 44% du volume total de l'ensemble des paiements compensés en Europe. – La technologie et le savoir-faire unique de STET lui permettent aussi de gérer les transactions financières d'autres communautés bancaires européennes dans le cadre du projet de marché unique des paiements SEPA (Single European Payment Area). – Technologies: Java, Scala, Struts, Spring, API WMQ et JMS – Outils: Eclipse, JUnit, Maven 2, Mantis, Jenkins, RabbitSVN
Ingénieur Etude et Développement Java/JEE
Assistance publique- hôpitaux de paris
sept. 2010 - mai 2011
9 mois
92150 Suresnes, France
– Projet AP-HP (Assistance Publique - Hôpitaux de Paris) Annuaire Accessibilité. – Partie batchs : – Corrections d'anomalies et évolution sur les batchs de provisionning en amont et en aval de l'annuaire LDAP. – Rédaction de spécifications fonctionnelles et techniques. – Réalisation d'une étude d'impact de l'évolution sur le provisionning amont. – Partie Intranet: corrections d'anomalies. – Transfert de connaissances : – Formation théorique => présentation des différents sous-projets (provisionnings, Intranet), déploiement, installation, code source. – Mises en situation => identification et résolution d'anomalies en coopération avec le repreneur du projet. – Technologies: Java, Ant, JEE, Shell, CSS, annuaire LDAP (Novell)
Ingénieur Etudes et Développement
CNIEG
nov. 2009 - août 2010
10 mois
Paris, France
Formation
Université Pierre et Marie Curie (Paris VI)
Master SAR, Informatique option Systèmes et Applications Répartis
2007 - 2009
2 ans 1 mois
Université Pierre et Marie Curie
Licence, Informatique
2004 - 2007
3 ans 1 mois
Licences et certifications
Apache Kafka
Délivré le : août 2025
Apache Spark
Délivré le : août 2024
Associate Cloud Engineer
Délivré le : janv. 2024
Functional Program Design in Scala
Délivré le : mars 2019
Big Data Analysis with Scala and Spark
Délivré le : mars 2019
Functional Programming Principles in Scala
Délivré le : juil. 2017
MongoDB for Java Developers
Délivré le : févr. 2015