Apertus Engineer: Post-training

Apertus Engineer: Post-training # 100%, Zurich, befristet #### print Drucken  Wir suchen einen versierten Engineer, um das Apertus Post-training Projekt zu unterstützen. Der ideale Kandidat wird die SFT- und Reinforcement-Learning-Pipelines entwickeln, ausführen und evaluieren, die eingesetzt werden, um Apertus Basismodelle in fähige Assistenten zu verwandeln. Diese Rolle erfordert fundierte Kenntnisse im LLM Post-training, solide Software-Engineering-Fähigkeiten und die Fähigkeit, kollaborativ in einem forschungsorientierten HPC-Umfeld zu arbeiten. Projektgrundlagen ## Wir trainieren offene Foundation Models mit Hunderten von Milliarden Parametern auf Tausenden von GPUs auf einem der grössten KI-bereiten Supercomputer in Europa. Das Team besteht aus mehr als einem Dutzend Vollzeit-Engineers, die neben führenden Forschenden der EPFL und ETH Zürich arbeiten, hat die Modelle Apertus 1 und Apertus 1.5 veröffentlicht und arbeitet mit über dreissig akademischen Partnern zusammen, um vollständig offene (Open Source), verantwortungsbewusst trainierte, multilinguale, multimodale KI-Modelle für Forschung und Industrie bereitzustellen. Apertus wird auf Alps trainiert und entwickelt, der Supercomputing-Infrastruktur des Swiss National Supercomputing Centre. Die Rolle erfordert jemanden, der im Umgang mit einer HPC-Umgebung sowie der Zusammenarbeit mit Forschenden und Infrastruktur-Engineers versiert ist. Jobbeschreibung ## Der Engineer wird zur Entwicklung, Ausführung und Evaluierung skalierbarer Post-training-Workflows für Apertus beitragen. Infrastruktur- und System-Engineering • Aufbau und Wartung von containerisierten Umgebungen für LLM Post-training und RL-Workloads • Anpassung von Containern und Abhängigkeiten für die Ausführung auf der Alps / CSCS Infrastruktur • Ausführung und Überwachung von Slurm-basierten Trainings- und Evaluierungs-Jobs • Debugging von Fehlern im Zusammenhang mit verteilter Ausführung, Checkpointing, Filesystem-Performance, Networking und GPU-Auslastung • Unterstützung bei der Wartung reproduzierbarer Trainingsrezepte, Konfigurationsdateien, Launch-Skripten und Dokumentationen • Zusammenarbeit mit Forschenden und CSCS-Engineers zur Verbesserung der Zuverlässigkeit und Performance von gross angelegten Experimenten LLM Post-training und Reinforcement Learning • Unterstützung von SFT-, Preference Optimisation- und Reinforcement Learning-Workflows • Aufbau und Ausführung von RL-Umgebungen für Aufgaben mit verifizierbaren Ergebnissen, wie Mathematik, Code, Tool-Use und Reasoning • Implementierung und Ausführung von Reward Modelling, Reward Calibration und Verifier-based Training • Generierung und Validierung von synthetischen oder Gym-Trainingsaufgaben • Durchführung von Ablationsstudien zum Vergleich von Algorithmen, Reward-Funktionen, Datenmischungen, Hyperparametern und Infrastruktur-Einstellungen • Evaluierung des Modellverhaltens über Reasoning-, Coding-, Mathematik-, Instruction-Following-, multilinguale, Tool-Use- und Safety-Benchmarks • Debugging gängiger Post-training-Probleme, einschliesslich Optimierungsinstabilität, Reward Hacking, Regressionen und Evaluierungsfehlern Profil ## Essentiell • MSc oder PhD in Informatik, Data Science, Künstlicher Intelligenz, Machine Learning oder einem verwandten Bereich  • Herausragende BSc-Kandidaten mit starker Engineering-Erfahrung werden ebenfalls berücksichtigt • Erfahrung in KI und neuronalen Netzarchitekturen • Starke Kollaborations- und Kommunikationsfähigkeiten sowie die Fähigkeit, über Forschungs- und Engineering-Teams hinweg zu arbeiten • Vorherige praktische Erfahrung in den Kernbereichen dieser Rolle ist erforderlich  • Dies kann projekt- oder studienbasierte Erfahrung sein; formale Berufserfahrung wird bevorzugt • Ein hohes Mass an Flexibilität: Prioritäten, Tools und tägliche Aufgaben verschieben sich mit Trainingsplänen, Releases und einem sich schnell entwickelnden Feld • Praktische Erfahrung mit LLM Post-training, sei es Alignment (SFT, Preference Optimisation) oder Reinforcement Learning • Dies bedeutet Erfahrung mit Frameworks wie veRL, slime, Megatron-LM, DeepSpeed, TRL, vLLM, SGLang oder ähnlichen Tools Stark bevorzugt • Vertrautheit mit verteilten Trainingskonzepten wie Data Parallelism, Tensor Parallelism, Pipeline Parallelism, Checkpointing und GPU-Kommunikation • Erfahrung mit Slurm oder einem anderen HPC-Workload-Manager • Erfahrung im Aufbau oder in der Anpassung von Containern für HPC- oder GPU-Cluster Von Vorteil • Veröffentlichte Forschung in den für diese Rolle relevanten Bereichen oder Vertrautheit mit kürzlich veröffentlichter Forschung zu diesen Themen • Erfahrung in der Erstellung verifizierbarer Aufgaben für Mathematik, Code, Reasoning oder Tool-Use • Vertrautheit mit Low-Level GPU/Distributed-Libraries wie NCCL, Transformer Engine, FlashAttention oder Kommunikations-Backends • Erfahrung mit gross angelegten Evaluierungs-Pipelines Arbeitsplatz ## Arbeitsplatz ## Wir bieten ## • Ein anregendes akademisches Umfeld an einer der weltweit führenden technischen Universitäten • Die Möglichkeit, mit modernster Supercomputing-Infrastruktur und wegweisender KI-Forschung zu arbeiten • Zusammenarbeit mit führenden Forschenden und Engineers von der EPFL, ETH Zürich, CSCS und anderen Schweizer Institutionen • Flexible Arbeitsmodelle, einschliesslich Optionen für Remote Work • Möglichkeiten zur beruflichen Weiterentwicklung, einschliesslich Konferenzteilnahmen und spezialisierter Schulungen • Die Chance, zu Open-Source-Projekten mit globaler Wirkung beizutragen • Zugang zum breiteren Schweizer akademischen Ökosystem und zu Industriepartnerschaften • Teil der souveränen Schweizer KI-Entwicklung zu sein und an Technologie mit nationaler Bedeutung zu arbeiten • Die Rolle kann entweder in Lausanne an der EPFL oder in Zürich an der ETH Zürich ansässig sein chevron\_right Arbeiten, Lehren und Forschen an der ETH Zürich Wir schätzen Diversität und Nachhaltigkeit ## Im Einklang mit