Expert IA - Fine-tuning Modèles Cybersécurité

Contexte

Au sein de notre SOC, nous intégrons des technologies d'Intelligence Artificielle Générative pour automatiser l'analyse de menaces, contextualiser les alertes de sécurité et assister nos analystes. Nous recherchons un(e) Expert(e) en IA spécialisé(e) dans l'entraînement, l'alignement et l'évaluation de Modèles de Langage (LLM/SLM) afin de concevoir des modèles souverains, ultra-spécialisés en cybersécurité.

En collaboration directe avec l'équipe R&D Cyber et l'équipe SOC, le/la consultant(e) aura pour missions de :

Missions

• Fine-tuning de modèles : Adapter et spécialiser des LLM open-source (Llama, Mistral, Qwen...) sur des données de cybersécurité (logs, rapports CTI, playbooks).
• Alignement et limitation des hallucinations : Mettre en œuvre des techniques d'apprentissage par renforcement pour s'assurer que les modèles génèrent des réponses précises, sécurisées et sans biais/hallucinations (crucial pour le SOC).
• Formatage et structuration des données : Définir et appliquer les meilleurs formats de prompt et de conversation pour l'entraînement.
• Évaluation et Benchmarking : Mettre en place des pipelines d'évaluation rigoureux pour mesurer la performance des modèles spécialisés "Cyber" par rapport aux standards du marché.

Outils & Environnement

• Fine-tuning de modèles (PEFT) : Maîtrise avancée des techniques d'adaptation à faible rang : LoRA et QLoRA.
• Frameworks de fine-tuning rapide : Unsloth, Axolotl, ou TRL (Transformer Reinforcement Learning d'Hugging Face).
• Formats de templates de discussion : ChatML et Alpaca pour structurer les datasets d'entraînement textuels.
• Méthodes d'alignement et contrôle des hallucinations : DPO (Direct Preference Optimization), GRPO (Group Relative Policy Optimization), PPO (Proximal Policy Optimization).
• Frameworks d'alignement : TRL, verl ou OpenRLHF.
• Protocoles d'évaluation rigoureux et benchmarks standards : MMLU, GSM8K, Evaluation Arena / LMSYS, LLM-as-a-judge.
• Stack MLOps : Plateformes comme Hugging Face Hub, vLLM, Ollama ou Triton pour le déploiement et l'inférence optimisée.
• Développement : Python et PyTorch.

Langues

• Anglais professionnel (impératif)
• Français courant (impératif)

1. Maîtrise avancée des techniques de fine-tuning à faible rang : LoRA et QLoRA
2. Pratique courante d'au moins un framework de fine-tuning rapide : Unsloth, Axolotl, ou TRL (Transformer Reinforcement Learning d'Hugging Face)
3. Expertise dans l'utilisation des formats de templates de discussion, notamment ChatML et Alpaca, pour structurer les datasets d'entraînement textuels
4. Solide expérience dans l'optimisation des réponses via les méthodes : DPO (Direct Preference Optimization), GRPO (Group Relative Policy Optimization) et PPO (Proximal Policy Optimization)
5. Maîtrise des frameworks d'alignement : TRL, verl ou OpenRLHF
6. Capacité à concevoir des protocoles d'évaluation rigoureux
7. Utilisation de benchmarks standards (ex: MMLU, GSM8K) et mise en place de frameworks d'évaluation comparatifs internes (méthodologies de type Evaluation Arena / LMSYS, LLM-as-a-judge)
8. Anglais professionnel et français courant
9. Sensibilité cybersécurité : expérience préalable ou fort intérêt pour les problématiques SOC (MITRE ATT&CK, analyse de logs, détection d'intrusions)
10. Connaissance de plateformes MLOps comme Hugging Face Hub, vLLM, Ollama ou Triton pour le déploiement et l'inférence optimisée
11. Excellente maîtrise de Python et de PyTorch
12. Rigueur scientifique sur la qualité des données et la reproductibilité des benchmarks
13. Capacité à vulgariser les concepts IA complexes auprès de profils purement cybersécurité (Analystes SOC, RSSI)
14. Autonomie et capacité à délivrer dans un environnement R&D agile