Senior Security Engineer, Agentic Red Team, DeepMind - Google Careers

*info\_outline* Nota: Candidandosi per questa posizione, avrai l'opportunità di indicare la tua sede di lavoro preferita tra le seguenti: Mountain View, CA, USA; New York, NY, USA; Zürich, Switzerland. Requisiti minimi: ### • Laurea in Informatica, Sicurezza delle Informazioni o esperienza pratica equivalente. • 5 anni di esperienza in Red Teaming, Offensive Security o Adversarial Machine Learning. • Esperienza con architetture Large Language Model (LLM), flussi di lavoro agentici (ad es. ragionamento chain-of-thought) e classi di vulnerabilità AI. • Esperienza nello sviluppo di exploit per modelli GenAI (ad es. prompt injection, adversarial examples, training data extraction). Requisiti preferenziali: ### • Esperienza di lavoro in ambito di consulenza con team di prodotto o in un ambiente dinamico "simile a una startup". • Familiarità con benchmark di sicurezza AI, framework di valutazione e tecniche di fuzzing. • Capacità di tradurre rischi probabilistici complessi in correzioni ingegneristiche azionabili per gli sviluppatori. • Eccellenti capacità di programmazione in Python, Go o C++ con esperienza nella creazione di strumenti di sicurezza o automazione. Informazioni sul lavoro ### Presso Google DeepMind, la nostra missione è costruire il primo agente di apprendimento general-purpose al mondo. Centrale in questa missione è il compito complesso di misurare l'intelligenza dei nostri prototipi. In qualità di Software Engineer, lavorerai con gli agenti AI all'avanguardia sviluppati dal nostro eccezionale team di ricercatori in Machine Learning e Neuroscience. Le tue responsabilità includeranno tutto, dalla creazione di sistemi per il testing degli agenti utilizzando giochi 2D e 3D allo sviluppo di problemi di test all'interno di simulatori fisici. Creerai visualizzazioni grafiche dei risultati, costruirai classifiche competitive per gli agenti e testerai nuovi algoritmi sui robot. Per avere successo in questo ruolo, dovrai avere una solida base di ingegneria del software e godere del lavoro su una vasta gamma di problemi stimolanti all'interno di un team guidato da una missione. Come parte dell'Agentic Red Team, sarai un'unità specializzata ad alta velocità all'interno di DeepMind Security. La tua missione è colmare l'Agentic Launch Gap: la finestra critica in cui le nuove capacità dell'AI superano le revisioni di sicurezza tradizionali. In qualità di Senior Security Engineer nell'Agentic Red Team, sarai il principale esecutore tecnico degli ingaggi avversariali. Lavorerai con i costruttori di prodotti, identificando difetti architettonici durante la fase di progettazione molto prima che inizino le revisioni formali. Il tuo focus principale sarà eseguire attacchi multi-turn su modelli AI a livello di produzione, mirando specificamente ai comportamenti agentici come l'uso di strumenti e le catene di ragionamento. Non solo troverai vulnerabilità, ma aiuterai anche a chiudere il cerchio contribuendo ai framework di Auto Red teaming e alle strategie difensive, assicurando che i tuoi risultati siano codificati in guardrail riutilizzabili per tutti gli sviluppatori di agenti Google. L'intelligenza artificiale sarà una delle invenzioni più trasformative dell'umanità. Presso Google DeepMind, siamo un laboratorio AI pionieristico con team interdisciplinari eccezionali focalizzati sull'avanzamento dello sviluppo dell'AI per risolvere sfide globali complesse e accelerare l'innovazione di prodotti di alta qualità per miliardi di utenti. Utilizziamo le nostre tecnologie per il beneficio pubblico diffuso e la scoperta scientifica, garantendo che la sicurezza e l'etica siano sempre la nostra massima priorità. Stiamo spingendo i confini in molteplici domini. I nostri team globali offrono diverse opportunità di apprendimento e vari percorsi di carriera per coloro che sono motivati a ottenere risultati eccezionali attraverso lo sforzo collettivo. La retribuzione individuale è determinata da fattori tra cui le competenze relative al lavoro, l'esperienza e l'istruzione o la formazione pertinente. US: $174000 - $253000 (USD) + 15% bonus target + equity + benefits Scopri di più sui benefit in Google. Responsabilità ### • Condurre valutazioni di sicurezza rapide e ad alto impatto sui servizi agentici, concentrandosi sulle vulnerabilità uniche dell'IA Generativa come il prompt injection, l'escalation dell'uso degli strumenti e il movimento laterale autonomo. • Progettare ed eseguire sequenze di attacco che sfruttano comportamenti non deterministici dei modelli, errori di logica agentica e vettori di data poisoning. • Scrivere codice per trasformare le scoperte manuali di vulnerabilità in framework di test di regressione automatizzati ("Auto Red Teaming") che prevengano la regressione nelle future versioni dei modelli. • Collaborare direttamente con gli sviluppatori durante le fasi di progettazione e costruzione per fornire feedback immediati, accorciando efficacemente il ciclo di feedback tra scoperte offensive e ingegneria difensiva. • Mantenere ed espandere una libreria di pattern di attacco specifici per gli agenti e primitive di exploit per stabilire i criteri di rilascio per i nuovi modelli.