Senior Security Engineer, Agentic Red Team, DeepMind - Google Careers

info_outline

N Note: Candidando la vostra candidatura per questa posizione, avrete l'opportunità di indicare la vostra sede di lavoro preferita tra le seguenti: Mountain View, CA, USA; New York, NY, USA; Zürich, Switzerland.

Requisiti minimi: ###

• Laurea triennale in Computer Science, Information Security o esperienza pratica equivalente.
• 5 anni di esperienza in Red Teaming, Offensive Security o Adversarial Machine Learning.
• Esperienza con architetture Large Language Model (LLM), workflow agentici (ad es. chain-of-thought reasoning) e classi di vulnerabilità AI.
• Esperienza nello sviluppo di exploit per modelli GenAI (ad es. prompt injection, adversarial examples, training data extraction).

Requisiti preferenziali: ###

• Esperienza di lavoro in ambito di consulenza con team di prodotto o in un ambiente "tipo startup".
• Familiarità con benchmark di sicurezza AI, framework di valutazione e tecniche di fuzzing.
• Capacità di tradurre rischi probabilistici complessi in correzioni ingegneristiche azionabili per gli sviluppatori.
• Eccellenti capacità di coding in Python, Go o C++ con esperienza nella creazione di strumenti di sicurezza o automazione.

Informazioni sul lavoro ###

Presso Google DeepMind la nostra missione è costruire il primo agente di apprendimento general-purpose al mondo. Al centro di questa missione c'è il complesso compito di misurare l'intelligenza dei nostri prototipi. In qualità di Software Engineer, lavorerai con gli agenti AI all'avanguardia sviluppati dal nostro eccezionale team di ricercatori in Machine Learning e Neuroscience. Le tue responsabilità includeranno tutto, dalla creazione di sistemi per il testing degli agenti utilizzando giochi 2D e 3D allo sviluppo di problemi di test all'interno di simulatori fisici. Creerai visualizzazioni grafiche dei risultati, costruirai classifiche competitive per gli agenti e testerai nuovi algoritmi sui robot. Per avere successo in questo ruolo, dovrai avere una solida base in ingegneria del software e apprezzare il lavoro su una vasta gamma di problemi stimolanti all'interno di un team guidato da una missione.

Come parte dell'Agentic Red Team, sarai un'unità specializzata ad alta velocità all'interno di DeepMind Security. La tua missione è colmare l'Agentic Launch Gap: la finestra critica in cui le nuove capacità dell'AI superano le revisioni di sicurezza tradizionali.

In qualità di Senior Security Engineer nell'Agentic Red Team, sarai il principale esecutore tecnico di engagement avversariali. Lavorerai con i costruttori di prodotti, identificando falle architettoniche durante la fase di progettazione molto prima dell'inizio delle revisioni formali.

Il tuo focus principale sarà quello di eseguire attacchi multi-turn su modelli AI di livello di produzione, mirando specificamente a comportamenti agentici come l'uso di strumenti e le catene di ragionamento. Non solo troverai vulnerabilità, ma aiuterai anche a chiudere il cerchio contribuendo a framework di Auto Red teaming e strategie difensive, assicurando che le tue scoperte siano codificate in guardrail riutilizzabili per tutti gli sviluppatori di agenti Google.

L'intelligenza artificiale sarà una delle invenzioni più trasformative dell'umanità. Presso Google DeepMind, siamo un laboratorio AI pionieristico con team interdisciplinari eccezionali focalizzati sull'avanzamento dello sviluppo dell'AI per risolvere complesse sfide globali e accelerare l'innovazione di prodotti di alta qualità per miliardi di utenti. Utilizziamo le nostre tecnologie per il beneficio pubblico diffuso e la scoperta scientifica, garantendo che la sicurezza e l'etica siano sempre la nostra massima priorità.

Stiamo spingendo i confini in molteplici domini. I nostri team globali offrono diverse opportunità di apprendimento e vari percorsi di carriera per coloro che sono motivati a raggiungere risultati eccezionali attraverso lo sforzo collettivo.

La retribuzione individuale è determinata da fattori tra cui competenze correlate al lavoro, esperienza e istruzione o formazione pertinente.

US: $174000 - $252000 (USD) + 15% bonus target + equity + benefits

Scopri di più sui benefit in Google.

Responsabilità ###

• Condurre valutazioni di sicurezza rapide sui servizi agentici, concentrandosi su vulnerabilità uniche della Generative AI come prompt injection, tool-use escalation e movimento laterale autonomo.
• Progettare ed eseguire sequenze di attacco che sfruttano comportamenti non deterministici dei modelli, errori di logica agentica e vettori di data poisoning.
• Scrivere codice per trasformare le scoperte manuali di vulnerabilità in framework di test di regressione automatizzati ("Auto Red Teaming") che prevengano la regressione nelle future versioni dei modelli.
• Collaborare direttamente con gli sviluppatori durante le fasi di progettazione e costruzione per fornire feedback immediati, accorciando efficacemente il ciclo di feedback tra scoperte offensive e ingegneria difensiva.
• Mantenere ed espandere una libreria di pattern di attacco specifici per gli agenti e primitive di exploit per stabilire i criteri di rilascio per i nuovi modelli.