CS26 - Stage - BAC+5 - Fine-tuning de modèles LLM pour vocabulaire industriel spécifique et déploiement sur Google Cloud Platform
Description Du Sujet
Renault Group explore l'IA générative pour des cas d'usage industriels (ingénierie, qualité, maintenance). Les LLM généralistes ne sont pas optimisés pour le vocabulaire technique propre à l'automobile et à la production. L'objectif est de réaliser un fine-tuning de modèles open & closed source (ex. Gemini, chatGPT, Gemma, LLaMA, Qwen) sur des corpus internes afin d'améliorer la compréhension et la génération de texte spécialisé. Le stage inclura la définition des métriques, la mise en place d'un benchmark, et le déploiement des modèles sur GCP pour une utilisation pérenne.
Le stage se déroulera au sein du Centre d'Excellence IA de Renault Digital, en interaction avec une équipe d'une quinzaine de data scientists. Vous aurez accès aux équipes métiers travaillant sur les différents sujets afin de pouvoir comprendre le cadrage, développement et déploiement d'un sujet IA de bout en bout chez Renault Group.
Objectifs
- Identifier les modèles LLM adaptés au fine-tuning industriel
- Préparer et nettoyer un corpus interne (documents techniques, verbatims)
- Définir les métriques de performance (BLEU, ROUGE, perplexité, etc.)
- Réaliser le fine-tuning et évaluer les modèles sur des cas d'usage réels
- Déployer les modèles sur GCP (endpoints, containers) et tester la scalabilité
- Rédiger des guidelines pour le déploiement et la maintenance
Tâches principales
- Étude bibliographique et benchmark des LLM open source
- Préparation des données et mise en place du pipeline de fine-tuning
- Définition des métriques et réalisation des tests comparatifs
- Déploiement sur GCP et validation des performances
- Rédaction d'un guide de bonnes pratiques pour l'intégration en production
Apports pour l'étudiant
- Expertise sur le fine-tuning de LLM pour vocabulaire spécialisé
- Expérience pratique sur des problématiques industrielles réelles
- Contribution à la stratégie IA générative du groupe Renault
- Connaissance des best practices MLOps pour le déploiement des projets IA chez
Renault Group