Apertus Engineer: Deployment

Nous recherchons un ingénieur qualifié pour prendre en charge le chemin de publication technique des modèles Apertus. Le candidat idéal intégrera Apertus dans l'écosystème d'inférence open-source, produira des variantes quantifiées et s'assurera que chaque version est prête à l'emploi pour la communauté. Ce rôle nécessite de solides compétences en Python et en génie logiciel, une expérience des piles d'inférence LLM et une expérience avérée de contributions open-source. Nous entraînons des modèles de fondation ouverts avec des centaines de milliards de paramètres sur des milliers de GPU sur l'un des plus grands superordinateurs prêts pour l'IA en Europe. L'équipe compte plus d'une douzaine d'ingénieurs à plein temps travaillant aux côtés de chercheurs de premier plan de l'EPFL et de l'ETH Zürich, a publié les modèles Apertus 1 et Apertus 1.5, et travaille avec plus de trente collaborateurs académiques pour fournir des modèles d'IA entièrement ouverts (open source), entraînés de manière responsable, multilingues et multimodaux pour la recherche et l'industrie. Apertus est entraîné et développé sur Alps, l'infrastructure de calcul intensif du Swiss National Supercomputing Centre (CSCS). Ce rôle se situe à l'interface entre l'équipe d'entraînement et la communauté open-source : le côté social de l'engagement communautaire est géré par notre community manager, tandis que ce rôle gère le chemin de publication technique. L'ingénieur rendra les versions d'Apertus prêtes à l'emploi à travers l'écosystème LLM open-source, de l'inférence de classe serveur au déploiement personnel. Intégration en amont et ingénierie de version Gérer le chemin de publication technique des modèles Apertus entraînés : conversion de checkpoints et préparation des artefacts de publication (poids, configurations, tokeniseurs, model cards) avec l'équipe d'entraînement Implémenter et assurer le support en amont pour les architectures de modèles Apertus dans les bibliothèques communautaires telles que Hugging Face Transformers, vLLM, SGLang et llama.cpp, et accompagner ces contributions à travers la revue afin que le support communautaire soit acquis Vérifier la compatibilité day-0 des nouvelles versions avec les principaux moteurs d'inférence et formats de modèles Coordonner le calendrier de publication et les documents techniques avec le community manager Quantification Produire des variantes quantifiées des modèles publiés (ex. FP8, INT4/AWQ/GPTQ, GGUF) adaptées au déploiement serveur et personnel Valider les variantes quantifiées par rapport aux benchmarks d'évaluation pour garantir la préservation de la qualité Documentation et exemples Fournir des scripts d'exemple et des configurations de référence montrant comment servir et utiliser les modèles Apertus avec vLLM, SGLang et Transformers Prendre en charge les écosystèmes de déploiement personnels et locaux tels que LM Studio, Ollama et llama.cpp Maintenir la documentation de déploiement et les guides de dépannage pour la communauté Essentiel MSc ou PhD en informatique, science des données, intelligence artificielle, machine learning ou un domaine connexe Les candidats exceptionnels de niveau BSc avec une solide expérience en ingénierie seront également considérés Solides compétences en Python et en génie logiciel, y compris l'expérience des flux de travail de contribution open-source (pull requests, code review, CI) Expérience avec les piles d'inférence LLM telles que Hugging Face Transformers, vLLM ou SGLang Fortes compétences en collaboration et en communication et capacité à travailler entre les équipes de recherche, d'ingénierie et les équipes orientées communauté Une expérience pratique préalable dans les domaines clés de ce rôle est requise Ceci peut être une expérience basée sur des projets ou des études ; une expérience professionnelle formelle est préférée Un haut degré de flexibilité : les priorités, les outils et les tâches quotidiennes évoluent avec les programmes d'entraînement, les publications et un domaine en évolution rapide Un historique de contributions fusionnées dans des bibliothèques de ML ou d'inférence (ex. Transformers, vLLM, SGLang, llama.cpp) Fortement préféré Expérience de conversion de modèles entre formats et frameworks (ex. checkpoints Megatron-LM, safetensors, GGUF) Familiarité avec les outils de déploiement personnels et locaux tels que LM Studio, Ollama ou llama.cpp Expérience dans la rédaction de documentation destinée aux développeurs et de code d'exemple Souhaitable Recherche publiée dans les domaines pertinents pour ce rôle, ou familiarité avec la recherche récemment publiée sur ces sujets Expérience de la quantification de modèles sans dégradation des performances (FP8, INT4, AWQ, GPTQ) et de l'évaluation de modèles quantifiés Expérience avec les harnais d'évaluation LLM et les pipelines de benchmark Familiarité avec l'optimisation des performances d'inférence GPU et le service à grande échelle Expérience avec Apple Silicon / MLX ou d'autres cibles d'inférence sur matériel grand public Un environnement académique stimulant dans l'une des plus grandes universités techniques au monde Accès à Alps, l'un des plus grands superordinateurs prêts pour l'IA en Europe L'opportunité de travailler aux côtés et d'interagir avec des chercheurs de premier plan dans le domaine Collaboration avec des chercheurs et ingénieurs de haut niveau de l'EPFL, de l'ETH Zürich, du CSCS et d'autres institutions suisses Conditions d'emploi attractives et avantages complets, y compris les plans de prévoyance de l'ETH Zürich/EPFL Modalités de travail flexibles, y compris des options de télétravail Opportunités de développement professionnel, y compris la participation à des conférences et des formations spécialisées La chance de contribuer à des projets open-source avec un impact mondial Faire partie du développement de l'IA souveraine de la Suisse, en travaillant sur une technologie d'importance nationale Le rôle peut être basé soit à Lausanne à l'EP