Corporatings

<h3>Architecture et Stack Technologique</h3>Technologies:<ul><li>Python 3.12</li><li>FastAPI pour le développement d’API REST avec réponses en streaming</li><li>vLLM et SGLang pour l’inférence des LLM</li><li>Modèles Qwen2.5/Qwen3 (variantes 7B/14B) avec des prompts spécialisés pour la finance</li><li>PostgreSQL pour la gestion des états de conversation et la persistance des données de conversation.</li><li>OpenSearch pour la recherche sémantique dans les documents.</li><li>AWS S3 pour le stockage de fichiers et les données de scoring des modèles</li></ul>Infrastructure et Déploiement<ul><li>Conteneurisation Docker</li><li>Gestion des environnements via fichiers .env et configuration structurée</li></ul><h3>Fonctionnalités et Composants Clés</h3>1. Moteur d’IA Conversationnelle<ul><li>Architecture ReAct avec prompts financiers</li><li>Recherche sémantique, requêtes SQL et l’extraction de données financières</li><li>Données combinant bases de données financières structurées et recherche dans des documents non structurés</li><li>Réponses en streaming pour une interaction en temps réel</li></ul>2. Intégration des Données Financières<ul><li>Recherche sémantique dans les rapports financiers via OpenSearch</li><li>Requêtes structurées sur les bases de données financières avec PostgreSQL</li><li>Capacités d’analyse multi-entreprises pour des insights comparatifs</li><li>Citation des sources avec références au format JSON vers les documents originaux</li></ul>3. Ingénierie Avancée des Prompts<ul><li>Prompts financiers spécialisés optimisés pour les modèles Qwen3</li><li>Formatage structuré des réponses avec citations JSON obligatoires (structured outputs)</li><li>Chaînes de raisonnement multi-étapes pour les requêtes financières complexes</li><li>Réponses contextuelles avec gestion des données temporelles</li><li>Identification et standardisation automatiques des noms d’entreprises</li></ul>4. Gestion et Stockage des Données<ul><li>Persistance des conversations dans PostgreSQL</li><li>Historique des messages</li><li>Métadonnées des conversations (titres, dates de création, utilisateurs)</li></ul>5. Optimisation des Performances<ul><li>Élagage des conversations basé sur les tokens pour optimiser la longueur du contexte</li><li>Planification en arrière-plan avec tâches cron pour le rafraîchissement des index et des données</li><li>API : Traitement asynchrone </li></ul><h3>Points Forts de l’Implémentation Technique</h3>Intégration des LLM<ul><li>Intégration du serveur vLLM</li><li>Prompting pour l’expertise financière</li><li>Prise en charge de la quantification (AWQ)</li></ul>Pipeline de Données<ul><li>Gestion des index basée sur S3 pour les mises à jour dynamiques des scores</li><li>Rafraîchissement automatique de la listes de source de données.</li><li>Recherche sémantique multi-index : Fonction de choix automatiques des index les plus pertinents avec une mise a jour automatisée pour la prise en compte des nouveaux index. </li><li>Analyse des rapports financiers avec extraction d’éléments structurés</li></ul>Conception de l’API<ul><li>Basée sur FastAPI</li><li>Streaming</li><li>Gestion du cycle de vie des conversations (création, suppression, liste, reprise)</li><li>Isolation des conversations par utilisateur avec routage basé sur les identifiants</li></ul>Sécurité et Scalabilité<ul><li>Authentification par clé API pour accès serveur vLLM</li><li>Configuration basée sur l’environnement avec gestion des secrets</li><li>Déploiement conteneurisé</li><li>Connexions à la base de données sécurisée</li></ul><h3></h3>Cas d’usage principaux :<ul><li>Questions : compliance, comptabilité financière, analyse financière, ...</li><li>Analyse comparative d’entreprises</li><li>Reporting ESG et durabilité</li><li>Analyse et extraction de données des rapports annuels</li><li>Identification des tendances financières sur plusieurs années</li></ul>

Ce projet est un outil d’analyse financière reliant les questions utilisateur à des jeux de données financiers extraits de rapports annuels. Elle permet aux analystes financiers, investisseurs et auditeurs d’extraire des insights à partir de documents financiers via une interface conversationnelle, en fournissant les liens vers les sources. Tout est fait pour que les données sorties soient fiables, et vérifiées.

LLMs / Large language models

Data Science

Machine Learning

To whom it may concern,
I am the former employer of Slimane Makhlouf. I hired Slimane as a Data Scientist and we started working together on
January 1st 2023, and have been working together since in the company I co-founded. Slimane has been an excellent hire,
and I highly recommend him to whomever would be looking to hire a highly capable, adaptable, and autonomous Data
Scientist.
Slimane joined right after his PhD graduation, as the company’s first data scientist. The company is a data provider,
specialized in corporate financial data. The company was at a stage where the company’s development and data
engineering teams had accumulated a large set of annual financial reports and was looking to use data science to extract
knowledge from it.
Annual financial reports are large (often 400+ pages), weakly-standardized documents in terms of contents and
presentation. The first task assigned to Slimane was to build a supervised learning process to identify specific information in
these reports from a collection of labelled data. As Slimane was our first data scientist, the task included a large amount of
data exploration, cleaning and feature discovery that Slimane performed with ease. This was soon continued with the
implementation of an unsupervised learning process to classify large chunks of data within the documents that were
unlabelled. In both cases, Slimane was able to easily pick the most appropriate models to serve as a basis, both in terms of
being state-of-the-art, but also within the boundaries of what our infrastructure was able to handle at the time.
Besides designing and training these models, Slimane also was able to autonomously deploy them as services within our
infrastructure (behind APIs). Our infrastructure included some local servers for development, for which Slimane was able to
handle the hardware; as well as a cloud infrastructure for production and scaling, which posed no problem either.
In the same fashion, Slimane also deployed a fine-tuned embedding service and later a full RAG process for our documents,
and integrated them into a fully locally customised agent that fetched its data either from the RAG or from other APIs the
company developed.
Generally speaking, Slimane stands out from others in several ways besides his excellent data science skills. He is
particularly passionate about data science, and always aware of the state of the art; he integrates very well into any team,
whether it be other Data Scientists, Data Engineers or application developers.
I count myself lucky to have had Slimane work for our company. I strongly recommend Slimane to any employer who
would seek to hire a proficient and adaptable Data Scientist with a wide range of practical skills.
Sincerely,
Marc Houllier
Chief Technology Officer, Corporatings

Slimane Makhlouf

Data Scientist

À propos

Expérience de travail

Data scientist

Velvet Consulting

Étudiant doctorant

Développeur Big Data

Étudiant

Développeur Big Data

Formation

Technische Universität Wien

Université Jean Monnet Saint-Etienne

Université Jean Monnet Saint-Etienne

Portfolio

Création d'un agent conversationnel avec données fiables

Corporatings

Talents

Recruteurs

À propos