Architecte IA Sécurité LLM et Architectures Agentiques

Contexte

Dans le cadre du développement et de l’industrialisation de solutions d’intelligence artificielle générative, un client recherche un Architecte IA spécialisé en sécurité des LLM et des architectures agentiques.

L’intervenant sera chargé de concevoir et de sécuriser les architectures d’IA générative, incluant les modèles de langage (LLM), les systèmes RAG (Retrieval-Augmented Generation), les agents autonomes et les intégrations avec les systèmes d’information de l’entreprise.

Il interviendra sur l’ensemble du cycle de vie des solutions d’IA, de la conception à la mise en production, afin de garantir leur robustesse, leur maîtrise des risques et leur conformité aux exigences de sécurité du groupe.

Missions

1. Architecture des systèmes d’IA générative et agentique

• Concevoir les architectures techniques des solutions d’IA générative et des systèmes multi-agents.
• Définir les architectures intégrant des LLM, des pipelines RAG, des bases vectorielles et des outils externes.
• Concevoir les mécanismes d’orchestration des agents, de gestion des tâches, de mémoire et d’utilisation des outils.
• Définir les patterns d’intégration des modèles d’IA avec les applications et les systèmes d’information.
• Évaluer les modèles, frameworks et infrastructures adaptés aux besoins métier et aux contraintes de sécurité.
• Garantir la scalabilité, la résilience, la traçabilité et la maintenabilité des architectures proposées.

2. Sécurité des LLM et des applications d’IA

• Identifier les menaces spécifiques aux LLM et aux applications d’IA générative.
• Définir les stratégies de protection contre les attaques par prompt injection et indirect prompt injection.
• Sécuriser les mécanismes de RAG contre l’empoisonnement des données, les fuites d’informations et les accès non autorisés.
• Concevoir les mécanismes de protection contre l’exfiltration de données, la divulgation d’informations sensibles et les hallucinations à risque.
• Définir les dispositifs de filtrage des entrées et sorties des modèles, de validation des réponses et de contrôle des contenus.
• Mettre en place des mécanismes de protection contre les abus, les détournements d’usage et les attaques adversariales.
• Intégrer les principes de sécurité dès la conception (Security by Design) dans l’ensemble des composants IA.

3. Sécurisation des architectures agentiques et des outils

• Concevoir des architectures agentiques intégrant des mécanismes de contrôle, de supervision et de limitation des actions autonomes.
• Sécuriser l’utilisation des outils par les agents : API, bases de données, applications métiers et services externes.
• Définir les mécanismes d’authentification, d’autorisation et de gestion des permissions des agents.
• Mettre en œuvre le principe du moindre privilège et l’isolation des contextes d’exécution.
• Sécuriser les échanges entre agents et outils, notamment dans les architectures utilisant le Model Context Protocol (MCP).
• Définir les garde-fous nécessaires pour les actions sensibles : validation humaine, approbation avant exécution et contrôle des transactions.
• Prévenir les boucles d’exécution incontrôlées, les escalades de privilèges et les détournements de workflow.
• Assurer la traçabilité des décisions, des appels d’outils et des actions réalisées par les agents.

4. Gouvernance, conformité et gestion des risques IA

• Définir les standards d’architecture et les politiques de sécurité applicables aux systèmes d’IA.
• Réaliser les analyses de risques et les revues de sécurité des solutions IA.
• Intégrer les exigences de conformité applicables, notamment le RGPD et l’AI Act européen.
• Contribuer à l’application des référentiels et bonnes pratiques de sécurité de l’IA, notamment OWASP Top 10 for LLM Applications et les recommandations du NIST AI Risk Management Framework.
• Définir les exigences de protection des données, de confidentialité, de traçabilité et de contrôle des accès.
• Formaliser les modèles de menace, les exigences de sécurité et les plans de remédiation.
• Accompagner les équipes dans la mise en place d’une gouvernance des modèles, des jeux de données et des agents.

5. Industrialisation, LLMOps et supervision

• Définir les architectures d’industrialisation des solutions IA et les processus de déploiement sécurisé.
• Intégrer les contrôles de sécurité dans les pipelines CI/CD et les chaînes LLMOps.
• Mettre en place des dispositifs de journalisation, de monitoring et de détection des comportements anormaux.
• Définir des stratégies de tests de sécurité des LLM : red teaming, tests adversariaux et évaluations de robustesse.
• Concevoir des mécanismes de suivi des performances, de la qualité des réponses et des risques liés aux modèles.
• Définir les stratégies de gestion des secrets, des clés API, des versions de modèles et des dépendances.
• Participer à l’amélioration continue de la sécurité et de la fiabilité des systèmes d’IA en production.

Environnement technique

• IA générative et architectures agentiques
• LLM, modèles open source et modèles propriétaires
• Architectures RAG, bases vectorielles et recherche sémantique
• Frameworks d’orchestration d’agents : LangGraph, LangChain, Semantic Kernel ou équivalents
• Architectures multi-agents, tool calling et gestion des workflows
• Protocoles d’intégration et d’interopérabilité, notamment MCP

Sécurité de l’IA

• OWASP Top 10 for LLM Applications
• Prompt injection, data poisoning, model abuse et exfiltration de données
• Guardrails, validation des entrées et sorties, filtrage et contrôle des accès
• AI red teaming, tests adversariaux et modélisation des menaces
• Sécurité des API, IAM, gestion des secrets et isolation des environnements

Infrastructure et industrialisation

• Python, API REST et architectures distribuées
• Docker, Kubernetes et environnements Cloud
• CI/CD, Infrastructure as Code et pratiques DevSecOps
• LLMOps, observabilité et monitoring des systèmes IA
• Plateformes Cloud et services IA managés selon l’environnement client

Livrables attendus

• Dossiers d’architecture technique et de sécurité des solutions IA
• Modèles de menace et analyses de risques spécifiques aux LLM et aux agents
• Standards et patterns de sécurité pour les architectures RAG et agentiques
• Référentiels de sécurité et exigences techniques applicables aux projets IA
• Stratégies de tests, de red teaming et de validation des garde-fous
• Plans de remédiation et recommandations d’architecture
• Documentation des mécanismes de gouvernance, de supervision et de traçabilité

Résultats attendus

• Sécurisation des architectures d’IA générative et des systèmes agentiques
• Réduction des risques de fuite de données, de détournement des agents et d’accès non autorisés
• Mise en place de standards de sécurité réutilisables sur les projets IA
• Maîtrise des interactions entre les LLM, les agents, les outils et le système d’information
• Industrialisation de solutions IA robustes, supervisées et conformes aux exigences de sécurité du groupe

1. Formation supérieure en informatique, intelligence artificielle, cybersécurité ou architecture des systèmes
2. Expérience confirmée en conception d’architectures IA, en sécurité applicative ou en cybersécurité des systèmes d’IA
3. Bonne compréhension du fonctionnement des LLM, des architectures RAG et des systèmes agentiques
4. Maîtrise des risques de sécurité propres aux applications d’IA générative et des mécanismes permettant de les réduire
5. Expérience dans la définition de stratégies de sécurisation des API, des identités, des données et des outils utilisés par les agents
6. Capacité à formaliser des architectures cibles, des modèles de menace et des exigences de sécurité
7. Capacité à travailler avec des équipes Data, IA, Cloud, Cybersécurité et Architecture d’entreprise
8. Autonomie, esprit de synthèse, rigueur et aptitude à vulgariser des sujets techniques complexes