Ingénieur IA / Expert Infrastructure & Architecture IA Générative (H/F)

Contexte de la mission

Au sein d'une Direction des Infrastructures et des Opérations, vous aurez en charge l'intégration et le déploiement de nouvelles fonctionnalités sur une plateforme groupe, ainsi que la mise en place des composants d'infrastructure nécessaires aux usages d'IA générative (LLM, assistants, agents).

Nous recherchons un prestataire expert disposant de compétences avérées en infrastructure, Kubernetes et architectures IA (AI Gateway, gestion des LLM, observabilité IA, sécurité) pour accompagner cette mission.

Activités

• Architecture & design IA

  • Concevoir l'architecture d'infrastructure pour les usages IA (LLM, RAG, agents) en s'appuyant sur les standards du marché.

  • Définir les patterns d'intégration de l'IA dans le SI (APIs, applications internes, outils collaboratifs) et les bonnes pratiques d'usage.

• Mise en place de l'infra IA

  • Concevoir les composants d'infrastructure IA : routage multi-fournisseurs, policies, quotas, logging, contrôle des coûts.

  • Intégrer des services IA cloud (ex. AWS Agentcore / frameworks d'agents, Bedrock ou équivalents, OpenAI / Azure OpenAI…) et exposer des endpoints métiers robustes.

  • Mettre en place l'orchestration d'agents IA (outils, contextes, sécurité, monitoring).

• Kubernetes & industrialisation IA

  • Concevoir et configurer les configurations Kubernetes pour les workloads IA (services d'orchestration, gateways, APIs).

  • Structurer les pipelines CI/CD IA (tests, déploiement, configuration, feature flags, gestion des versions de modèles et de prompts).

• Observabilité, sécurité & gouvernance IA

  • Mettre en place l'observabilité IA : suivi de la qualité de service (latence, erreurs), consommation (tokens, coûts), usage par application/métier.

  • Travailler avec les équipes Sécurité / Legal pour intégrer les exigences de gouvernance IA (données sensibles, journaux, rétention, conformité).

  • Formaliser les standards d'architecture, de sécurité et d'usage de l'IA, et accompagner les équipes dans leur adoption.

Environnement technique

Kubernetes, AWS, LLM

Compétences requises (obligatoires)

• Expérience significative sur des plateformes IA en production (LLM, RAG, agents) à l'échelle entreprise.

• Maîtrise des patterns d'architecture pour l'IA générative : AI Gateway, orchestration d'agents, intégration multi-fournisseurs, gouvernance des modèles.

• Très bonne connaissance de Kubernetes et des architectures cloud natives pour héberger les briques IA.

• Pratique confirmée des services IA des hyperscalers (OpenAI / Azure OpenAI / AWS Bedrock ou équivalents) et de leur intégration dans un SI.

Profil recherché

Expérience professionnelle

• 8 à 12 ans d'expérience minimum en infrastructure / cloud, dont une expérience significative (2 ans+) sur des projets IA générative en production à l'échelle entreprise.

• Expérience confirmée en tant qu'architecte infrastructure, DevOps/MLOps senior, ou architecte cloud, idéalement avec une spécialisation récente sur les plateformes IA (LLM/GenAI).

• Références concrètes sur la mise en place d'un AI Gateway, d'une plateforme d'orchestration d'agents, ou d'une infrastructure LLM en production (pas uniquement en POC).

Compétences techniques clés

• Kubernetes : conception, configuration et exploitation avancées (Helm, opérateurs, autoscaling, networking, RBAC) sur des workloads critiques.

• Cloud AWS : maîtrise des services cœur (EKS, IAM, VPC, networking) et des services IA (Bedrock, Agentcore ou équivalents).

• Architectures IA générative :

  • Patterns AI Gateway (routage multi-fournisseurs, quotas, policies, contrôle des coûts).

  • Orchestration d'agents (frameworks type LangChain, LlamaIndex, AutoGen, ou solutions propriétaires des hyperscalers).

  • Intégration de LLM (OpenAI, Azure OpenAI, AWS Bedrock ou équivalents) via API dans un SI existant.

  • Notions solides de RAG (retrieval augmented generation) et de gestion des embeddings/vector stores.

• CI/CD & industrialisation : pipelines pour workloads IA (gestion de versions de modèles/prompts, feature flags, tests automatisés).

• Observabilité : mise en place de monitoring spécifique IA (latence, taux d'erreur, consommation de tokens, coûts) avec des outils type Prometheus/Grafana, Datadog, ou solutions dédiées à l'observabilité LLM (LangSmith, Langfuse, etc.).

• Sécurité & gouvernance IA : sensibilité aux enjeux de sécurité des données, conformité, gestion des logs et rétention, notions de gouvernance des modèles.