Senior Security Engineer, Agentic Red Team, DeepMind - Google Careers

*info\_outline* X Note : En postulant à ce poste, vous aurez l'opportunité de communiquer votre lieu de travail préféré parmi les suivants : Mountain View, CA, USA ; New York, NY, USA ; Zürich, Switzerland. Qualifications minimales : ### • Bachelor's degree en informatique, en sécurité de l'information ou expérience pratique équivalente. • 5 ans d'expérience en Red Teaming, Offensive Security ou Adversarial Machine Learning. • Expérience avec les architectures de Large Language Model (LLM), les agentic workflows (par exemple, le chain-of-thought reasoning) et les classes de vulnérabilités de l'IA. • Expérience dans le développement d'exploits pour les modèles GenAI (par exemple, prompt injection, adversarial examples, training data extraction). Qualifications préférentielles : ### • Expérience de travail en tant que consultant avec des équipes produits ou dans un environnement "type startup" à rythme soutenu. • Familiarité avec les benchmarks de sécurité de l'IA, les frameworks d'évaluation et les techniques de fuzzing. • Capacité à traduire des risques probabilistes complexes en correctifs d'ingénierie exploitables pour les développeurs. • Excellentes compétences en codage en Python, Go ou C++ avec expérience dans la construction d'outils de sécurité ou d'automatisation. A propos du poste ### Chez Google DeepMind, notre mission est de construire le premier agent d'apprentissage à usage général au monde. Au cœur de cette mission se trouve la tâche complexe de mesurer l'intelligence de nos prototypes. En tant que Software Engineer, vous travaillerez avec les agents d'IA à la pointe de la technologie développés par notre équipe exceptionnelle de chercheurs en Machine Learning et en Neuroscience. Vos responsabilités incluront tout, de la création de systèmes pour le test d'agents utilisant des jeux en 2D et 3D au développement de problèmes de test au sein de simulateurs physiques. Vous créerez des visualisations graphiques des résultats, construirez des classements d'agents compétitifs et testerez de nouveaux algorithmes sur des robots. Pour réussir dans ce rôle, vous devrez avoir des bases solides en ingénierie logicielle et aimer travailler sur un large éventail de problèmes stimulants au sein d'une équipe axée sur une mission. En tant que membre de l'Agentic Red Team, vous serez une unité spécialisée à haute vélocité au sein de DeepMind Security. Votre mission est de combler l'Agentic Launch Gap — la fenêtre critique où les nouvelles capacités de l'IA dépassent les revues de sécurité traditionnelles. En tant que Senior Security Engineer au sein de l'Agentic Red Team, vous serez le principal exécutant technique des engagements adverses. Vous travaillerez avec les concepteurs de produits, en identifiant les failles architecturales lors de la phase de conception, bien avant le début des revues formelles. Votre objectif principal sera d'effectuer des attaques multi-tours sur des modèles d'IA de niveau production, en ciblant spécifiquement les comportements agentiques tels que l'utilisation d'outils et les chaînes de raisonnement. Vous ne vous contenterez pas de trouver des vulnérabilités, mais vous aiderez également à boucler la boucle en contribuant aux frameworks d'Auto Red teaming et aux stratégies défensives, garantissant que vos découvertes soient codifiées en garde-fous réutilisables pour tous les développeurs d'agents Google. L'intelligence artificielle sera l'une des inventions les plus transformatrices de l'humanité. Chez Google DeepMind, nous sommes un laboratoire d'IA pionnier doté d'équipes interdisciplinaires exceptionnelles axées sur l'avancement du développement de l'IA pour résoudre des défis mondiaux complexes et accélérer l'innovation de produits de haute qualité pour des milliards d'utilisateurs. Nous utilisons nos technologies pour le bénéfice public généralisé et la découverte scientifique, en veillant à ce que la sécurité et l'éthique soient toujours notre priorité absolue. Nous repoussons les limites dans de multiples domaines. Nos équipes mondiales offrent diverses opportunités d'apprentissage et des parcours de carrière variés pour ceux qui sont déterminés à obtenir des résultats exceptionnels par l'effort collectif. La rémunération individuelle est déterminée par des facteurs incluant les compétences liées au poste, l'expérience et l'éducation ou la formation pertinente. US: $174000 - $253000 (USD) + 15% bonus target + equity + benefits En savoir plus sur les avantages chez Google. Responsabilités ### • Mener des évaluations de sécurité rapides et à fort impact sur les services agentiques, en se concentrant sur les vulnérabilités uniques à l'IA générative telles que le prompt injection, l'escalade d'utilisation d'outils et le mouvement latéral autonome. • Concevoir et exécuter des séquences d'attaque qui exploitent les comportements non déterministes des modèles, les erreurs de logique agentique et les vecteurs de data poisoning. • Écrire du code pour transformer les découvertes manuelles de vulnérabilités en frameworks de tests de régression automatisés ("Auto Red Teaming") qui empêchent la régression dans les futures versions des modèles. • Collaborer directement avec les développeurs pendant les phases de conception et de construction pour fournir un feedback immédiat, raccourcissant efficacement la boucle de rétroaction entre les découvertes offensives et l'ingénierie défensive. • Maintenir et étendre une bibliothèque de modèles d'attaque spécifiques aux agents et de primitives d'exploitation pour établir des critères de déploiement pour les nouveaux modèles.