Ingénieur MLOps LLMOps

À propos de la mission.

• Travailler en tant qu'ingénieur MLOps / LLMOps pour une organisation gouvernementale.
• La mission comprend la conception, la construction et la maintenance de systèmes ML de qualité production avec un fort accent sur les grands modèles linguistiques (LLM) dans une infrastructure hybride sécurisée sur site / cloud.

Ce que vous faites

• Concevoir, construire et maintenir des systèmes ML de qualité production avec un fort accent sur les grands modèles linguistiques (LLM) dans une infrastructure hybride sécurisée sur site / cloud.
• Déployer, tester, gérer et surveiller les modèles ML dans différents environnements conteneurisés.
• Travailler en étroite collaboration avec les scientifiques des données et les développeurs back-end pour construire, tester, intégrer et déployer des modèles ML.
• Faire évoluer le cycle de vie LLMOps: préparation des données, réglage fin, évaluation, déploiement, surveillance et itération.
• Développer des cadres d'évaluation pour la qualité, la robustesse et le suivi de régression des LLM.
• Analyser les métriques de performance et résoudre les problèmes pour assurer une haute disponibilité et fiabilité.
• Concevoir des pipelines CI/CD, utiliser des solutions d'orchestration et des outils de versioning des données.
• Créer des systèmes automatisés de détection d'anomalies et suivre constamment leurs performances et optimiser les pipelines ML pour l'évolutivité, l'efficacité et la rentabilité.
• Fournir des études de sécurité, des évaluations de sécurité ou d'autres questions de sécurité associées aux projets de systèmes d'information.
• Fournir un soutien et des conseils aux autres membres de l'équipe sur les pratiques LLMOps/MLOps.

Ce qu'ils demandent. Ce qui est demandé

• Excellente connaissance de la gestion d'une infrastructure LLM / MLOps sur site et/ou cloud.
• Excellente connaissance des plateformes de conteneurisation et d'orchestration (par exemple, Kubernetes, Docker, Podman, EKS, PKS).
• Bonne connaissance de MLflow, TensorFlow (TFX) ou équivalents.
• Bonne connaissance d'Airflow.
• Bonne connaissance d'AWS ou des fournisseurs de cloud de l'UE.
• Bonne connaissance de Python.
• Bonne connaissance d'Unix et Bash.
• Bonne connaissance des méthodologies de développement logiciel agile.
• Bonne connaissance de l'infrastructure en tant que code (Terraform, CloudFormation).
• Bonne connaissance des services et plateformes de messagerie (par exemple, Kafka, Redis, RabbitMQ).
• Connaissance des mesures de sécurité des données (la connaissance des mécanismes de chiffrement et de la sécurité ML est un atout).
• Connaissance des bases de données NoSQL, telles qu'OpenSearch, MongoDB, etc.
• Connaissance des langages de requête, tels que SQL, Hive, Pig, etc. et de l'extraction d'informations.
• Expérience de l'analyse de données sur de grands ensembles de données, des bases de données non structurées ainsi que des lacs de données.
• Expérience des outils de surveillance et de journalisation (par exemple, pile ELK, Prometheus, Grafana, OpenTelemetry, Cloudwatch).
• Expérience des tests de modèles et de la validation de modèles dans des environnements de production.
• Capacité à rédiger une documentation technique claire et structurée.

Souhaits.

• Une bonne connaissance de l'écosystème de gestion des subventions d'une organisation européenne (eGrants) serait un atout.