🔍 Tech Lead LLM Web – Services IA & APIs à grande échelle

Je cherche un Tech Lead Python backend avec une vraie expertise LLM, pour concevoir les services IA d’un groupe leader de l’édition.

📍 Localisation : 92 Ile de France
⏳ Mission : longue durée - démarrage ASAP
💰 TJM : selon profil

🎯 Vos missions :

- Concevoir les APIs et workers qui orchestrent appels LLM, pipelines RAG et traitements massifs, au service de plusieurs équipes en Europe

- Définir la stratégie de cache et les mécanismes de résilience (retries, circuit breakers, fallback de modèles)

- Concevoir les chaînes d’inférence (prompting, function calling, RAG, embeddings, agents) et arbitrer via POCs et benchmarks

- Concilier débit, latence et coût, en synchrone comme en asynchrone

Implémenter le streaming des réponses LLM, avec gestion fine des timeouts, du backpressure et de l’annulation

- Intégrer nativement la télémétrie (logs, métriques, traces) et les guardrails de sécurité (secrets, Zero Trust)

- Mettre en place une solution multi-tenant (plusieurs pays), proposable en mode souverain

🛠️ Stack technique :

- Python 3.11+, Go, Java / Spring Boot

- FastAPI, Starlette, Pydantic, Uvicorn, asyncio, httpx

- OpenAI / Azure OpenAI, LangChain, Mistral, Bedrock

- AWS, Azure

- OpenSearch, Weaviate, PostgreSQL, Redis, Celery, Kafka

- Docker, CI/CD, Pytest, pytest-asyncio

📩 Intéressé(e) ? Envoyez-moi votre CV en message privé ou contactez-moi directement pour en savoir plus : [email protected]

#GenAI #LLM #Python #FastAPI #RAG #TechLead #LegalTech #Backend #Freelance #Hiring

🤖 Profil recherché :

- Expérience avérée en développement Python backend sur des services en production à grande échelle

- LLM intégrés en production (prompting, function calling, RAG), avec une bonne compréhension des contraintes de latence, de coût et de fiabilité

- Maîtrise des contrats d’API, du versioning et du cycle de vie des tokens d’authentification

- Capacité à arbitrer entre synchrone et asynchrone sous fortes contraintes de performance

- Culture craftsmanship : Clean Code, SOLID, tests automatisés