Senior Security Engineer, Agentic Red Team, DeepMind - Google Careers

*info\_outline* X Hinweis: Mit der Bewerbung auf diese Position haben Sie die Möglichkeit, Ihren bevorzugten Arbeitsort aus den folgenden zu wählen: Mountain View, CA, USA; New York, NY, USA; Zürich, Switzerland. Mindestanforderungen: ### • Bachelor-Abschluss in Informatik, Informationssicherheit oder gleichwertige praktische Erfahrung. • 5 Jahre Erfahrung in Red Teaming, Offensive Security oder Adversarial Machine Learning. • Erfahrung mit Large Language Model (LLM) Architekturen, agentischen Workflows (z. B. Chain-of-Thought Reasoning) und KI-Schwachstellenklassen. • Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z. B. Prompt Injection, Adversarial Examples, Training Data Extraction). Bevorzugte Qualifikationen: ### • Erfahrung in beratender Tätigkeit mit Produktteams oder in einem schnelllebigen „Startup-ähnlichen“ Umfeld. • Vertrautheit mit KI-Sicherheits-Benchmarks, Evaluierungs-Frameworks und Fuzzing-Techniken. • Fähigkeit, komplexe probabilistische Risiken in umsetzbare technische Korrekturen für Entwickler zu übersetzen. • Exzellente Programmierkenntnisse in Python, Go oder C++ mit Erfahrung in der Entwicklung von Sicherheitstools oder Automatisierungen. Über den Job ### Bei Google DeepMind ist es unsere Mission, den weltweit ersten universell einsetzbaren Lernagenten zu entwickeln. Zentral für diese Mission ist die komplexe Aufgabe, die Intelligenz unserer Prototypen zu messen. Als Software Engineer werden Sie mit den modernsten KI-Agenten arbeiten, die von unserem außergewöhnlichen Team aus Machine Learning- und Neurowissenschaft-Forscher entwickelt wurden. Zu Ihren Aufgaben wird alles gehören, von der Erstellung von Systemen für das Testen von Agenten mittels 2D- und 3D-Spielen bis hin zur Entwicklung von Testproblemen in Physik-Simulatoren. Sie werden grafische Visualisierungen von Ergebnissen erstellen, kompetitive Agent-Leaderboards aufbauen und neue Algorithmen an Robotern testen. Um in dieser Rolle erfolgreich zu sein, benötigen Sie eine starke Grundlage im Software Engineering und Freude daran, an einer Vielzahl anspruchsvoller Probleme innerhalb eines missionsgetriebenen Teams zu arbeiten. Als Teil des Agentic Red Team werden Sie eine spezialisierte, hochdynamische Einheit innerhalb von DeepMind Security sein. Ihre Mission ist es, die „Agentic Launch Gap“ zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten herkömmliche Sicherheitsüberprüfungen überholen. Als Senior Security Engineer im Agentic Red Team werden Sie der primäre technische Ausführer von Adversarial Engagements sein. Sie werden mit Produktentwicklern zusammenarbeiten und Architekturfehler bereits während der Designphase identifizieren, lange bevor formale Überprüfungen beginnen. Ihr Kernfokus wird darauf liegen, Multi-Turn-Angriffe auf KI-Modelle auf Produktionsebene durchzuführen, wobei Sie speziell auf agentische Verhaltensweisen wie die Nutzung von Tools und Reasoning Chains abzielen. Sie werden nicht nur Schwachstellen finden, sondern auch dazu beitragen, den Kreislauf zu schließen, indem Sie zu Auto Red Teaming Frameworks und Verteidigungsstrategien beitragen, um sicherzustellen, dass Ihre Erkenntnisse in wiederverwendbare Guardrails für alle Google-Agenten-Entwickler kodifiziert werden. Künstliche Intelligenz wird eine der transformativsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein wegweisendes KI-Labor mit außergewöhnlichen interdisziplinären Teams, die sich darauf konzentrieren, die KI-Entwicklung voranzutreiben, um komplexe globale Herausforderungen zu lösen und die Innovation hochwertiger Produkte für Milliarden von Nutzern zu beschleunigen. Wir nutzen unsere Technologien für den breiten öffentlichen Nutzen und wissenschaftliche Entdeckungen und stellen sicher, dass Sicherheit und Ethik stets unsere höchste Priorität haben. Wir verschieben die Grenzen in mehreren Bereichen. Unsere globalen Teams bieten vielfältige Lernmöglichkeiten und unterschiedliche Karrierewege für diejenigen, die bestrebt sind, durch kollektive Anstrengung außergewöhnliche Ergebnisse zu erzielen. Die individuelle Vergütung wird durch Faktoren wie berufsspezifische Fähigkeiten, Erfahrung und relevante Ausbildung oder Trainings bestimmt. US: $174000 - $253000 (USD) + 15% bonus target + equity + benefits Erfahren Sie mehr über die Leistungen bei Google. Verantwortlichkeiten ### • Durchführung schneller, wirkungsvoller Sicherheitsbewertungen von agentischen Diensten mit Fokus auf Schwachstellen, die spezifisch für Generative AI sind, wie Prompt Injection, Tool-Use Escalation und autonome laterale Bewegung. • Entwicklung und Ausführung von Angriffsequenzen, die nicht-deterministische Modellverhaltensweisen, agentische Logikfehler und Data-Poisoning-Vektoren ausnutzen. • Schreiben von Code, um manuelle Entdeckungen von Schwachstellen in automatisierte Regressionstest-Frameworks („Auto Red Teaming“) zu transformieren, die Regressionen in zukünftigen Modellversionen verhindern. • Direkte Zusammenarbeit mit Entwicklern während der Design- und Build-Phasen, um sofortiges Feedback zu geben und so die Feedbackschleife zwischen offensiven Erkenntnissen und defensiver Entwicklung effektiv zu verkürzen. • Pflege und Erweiterung einer Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitives, um Freigabekriterien für neue Modelle zu etablieren.