AI Engineer Senior – Generative AI

Localisation : Paris
Télétravail : Hybride – 3 jours sur site / 2 jours en remote
Démarrage : Dès que possible
Durée : Mission initiale jusqu’à fin décembre, renouvelable
Langue : Français courant, anglais technique

Contexte de la mission

Dans le cadre de l’accélération de sa roadmap IA, notre client souhaite renforcer son équipe Engineering avec un AI Engineer Senior spécialisé en IA générative.

L’objectif est de rejoindre une équipe déjà constituée afin de concevoir, industrialiser et mettre en production de nouvelles fonctionnalités reposant sur des LLM.

Nous recherchons avant tout un profil builder, disposant d’une véritable expérience de systèmes GenAI en production et capable d’intervenir sur l’ensemble de la chaîne, de la conception à l’évaluation et à l’observabilité.

Vos missions

Vous interviendrez notamment sur les sujets suivants :

• Concevoir et développer des fonctionnalités applicatives reposant sur des LLM.

• Construire des pipelines LLM et RAG.

• Travailler sur la gestion du contexte, le chunking, le prompting et le chaînage d’appels.

• Intégrer différents modèles et API.

• Industrialiser des fonctionnalités GenAI pour leur passage en production.

• Concevoir des architectures robustes et capables de fonctionner à l’échelle.

• Mettre en place des garde-fous autour des modèles.

• Travailler sur les problématiques de performance, latence, coût et qualité.

• Participer aux choix d’architecture et être force de proposition auprès de l’équipe.

Évaluation et observabilité des LLM

Il s’agit d’un élément central de la mission.

Vous devrez notamment être capable de :

• construire une pipeline d’évaluation autour des LLM ;

• constituer des jeux d’évaluation et benchmarks reproductibles ;

• définir des métriques pertinentes ;

• mesurer et comparer la qualité de différentes configurations ;

• identifier les régressions et dérives ;

• mettre en place l’observabilité des systèmes GenAI ;

• suivre la qualité des fonctionnalités dans le temps.

Une expérience concrète sur ces problématiques est fortement attendue.

Environnement technique

L’environnement comprend notamment :

Python, Java, Spring Boot, API LLM, Kubernetes, PostgreSQL, Kafka, RabbitMQ, Redis, GitLab, Jenkins, Linux.

La maîtrise de l’ensemble de la stack n’est pas indispensable.

Les profils principalement Python sont tout à fait envisageables. L’expérience de construction de systèmes GenAI en production sera davantage valorisée que la maîtrise d’un langage particulier.

Profil recherché

Nous recherchons un profil Senior AI Engineer / Generative AI Engineer disposant d’une solide culture Software Engineering.

Vous avez déjà personnellement participé à la construction et à la mise en production d’un produit ou d’une fonctionnalité reposant sur des LLM, avec de vrais utilisateurs et des problématiques concrètes de production.

Une expérience uniquement basée sur des POC, des projets personnels ou de l’expérimentation LLM ne sera pas suffisante.

Vous êtes capable de prendre du recul sur l’architecture d’un système et d’expliquer les choix et compromis réalisés.

Compétences recherchées

Indispensables :

• Expérience significative avec les LLM.

• Mise en production de fonctionnalités GenAI.

• Pipelines LLM / RAG.

• Évaluation des LLM.

• Benchmarks et métriques de qualité.

• Observabilité des systèmes IA.

• Solide culture Software Engineering.

• Architecture / System Design.

• Python et/ou Java.

• Capacité à raisonner sur le passage à l’échelle.

Appréciées :

• Agents et workflows LLM.

• Prompt engineering avancé.

• Gestion du contexte long.

• Modèles open source / self-hosted.

• Kubernetes.

• Java / Spring Boot.

• Environnements présentant de fortes contraintes de sécurité ou de confidentialité.

Savoir-être

Nous recherchons un profil avec un véritable esprit builder :

• autonome ;

• force de proposition ;

• pragmatique ;

• orienté delivery ;

• capable de challenger des choix techniques ;

• à l’aise dans une équipe produit/engineering ;

• capable d’avancer sur des problématiques complexes avec relativement peu de cadrage.

Processus d’entretien

Le processus prévoit notamment un System Design Interview d’environ 1h15 autour d’une problématique d’AI Engineering.

Le candidat devra proposer une architecture et expliquer son raisonnement, ses choix techniques et les différents compromis envisagés.

L’exercice permettra notamment d’évaluer sa capacité à raisonner sur :

• l’architecture d’un système GenAI ;

• l’intégration des LLM ;

• l’évaluation et l’observabilité ;

• le passage à l’échelle ;

• la sécurité ;

• les arbitrages entre qualité, latence et coût.

Le niveau attendu est Senior : nous recherchons quelqu’un capable d’expliquer non seulement ce qu’il a construit, mais surtout pourquoi il l’a construit ainsi et comment il en garantit la qualité en production.