Ingénieur MLOps F/H
PARIS, 75
il y a 7 heures
- Dimensionner et déployer le cluster GPU sur OVHcloud : choix des instances et des cartes, arbitrages coût / mémoire / débit, réseau et stockage adaptés aux poids de modèles, le tout décrit en Terraform comme le reste de notre infrastructure.
- Industrialiser la couche GPU : drivers et pilotes CUDA, runtime conteneur GPU, opérateur GPU sur Kubernetes, partage et ordonnancement des cartes entre charges de travail, mise à l'échelle et extinction des ressources inutilisées.
- Opérer les serveurs d'inférence : déploiement et réglage de moteurs type v
- Exposer une passerelle LLM interne : API compatible avec les clients standards, authentification, quotas et suivi de consommation, journalisation - pour les applications comme pour les outils de l'équipe.
- Construire les briques applicatives d'appui : embeddings et recherche vectorielle, chaînes de RAG sur nos référentiels et notre documentation, évaluation de la qualité des réponses.
- Garantir le cadre données de santé : isolation stricte des environnements, aucune donnée sortante, traçabilité des accès et des inférences, en lien avec la sécurité et la conformité.
- Observer et maîtriser les coûts : métriques GPU, saturation, taux d'occupation, coût par requête et par usage - la sobriété fait partie du travail.
- Contribuer au socle commun : l'infrastructure GPU n'est pas une île, vous participez aussi à l'Ia
C, à la CI et au run de l'équipe.
Plateforme de publication
Offres pouvant vous intéresser
ÎLE- E FRANCE, FRANCE
il y a 25 jours
LEVALLOIS-PERRET, 92
il y a 27 jours
PARIS, 75
il y a 27 jours
PARIS, 75
il y a 2 jours