PhD Position on Adversarial Robustness in Multi-Modal Foundation Models

PhD Position on Adversarial Robustness in Multi-Modal Foundation Models

Tirocinio 22500 € / anno In sede
A

In sintesi

  • Mansioni: Studia la robustezza avversariale nei modelli AI multi-modali e sviluppa nuove tecniche di attacco.
  • Azienda: Istituto Italiano di Intelligenza Artificiale, in collaborazione con il Politecnico di Torino.
  • Benefit: Stipendio competitivo, accesso a risorse di calcolo avanzate e opportunità di crescita professionale.
  • Altre informazioni: Ambiente internazionale dinamico con opportunità di pubblicazione e collaborazione industriale.
  • Perché questo lavoro: Contribuisci a ricerche innovative che influenzano la sicurezza dell'AI nel mondo reale.
  • Qualifiche: Forte background in ML e AI, preferibilmente con esperienza in architetture di deep learning.

Scadenza: 16 novembre 2026 (14:00 – ora CET)

Titolo della ricerca: Robustezza agli attacchi in modelli fondazionali multi-modali

Argomenti: Cybersecurity, Data science, Visione computerizzata e AI

Finanziato da: L'Istituto Italiano di Intelligenza Artificiale (AI4I), in collaborazione con il Politecnico di Torino.

L'Istituto Italiano di Intelligenza Artificiale per l'Industria (AI4I) invita a presentare candidature per una posizione di dottorato focalizzata sulla robustezza agli attacchi in modelli fondazionali multi-modali. I modelli AI multi-modali che elaborano contenuti visivi, linguistici e audio stanno diventando sempre più prevalenti in diverse applicazioni. Tuttavia, questi sistemi introducono nuove superfici di attacco derivanti dalle interazioni cross-modali, dove input avversari in una modalità possono sfruttare incoerenze semantiche o vulnerabilità quando elaborati congiuntamente ad altre modalità. Questa ricerca mira a indagare queste vulnerabilità e sviluppare nuovi attacchi che espongono le debolezze nel processamento cross-modale.

Obiettivi e Metodi di Ricerca

I modelli AI multi-modali su larga scala consentono una comprensione e generazione più ricca di contenuti attraverso diverse modalità. Tuttavia, le implicazioni di sicurezza delle interazioni cross-modali rimangono poco comprese. Evidenze recenti suggeriscono che gli avversari possono creare input dove, ad esempio, contenuti visivi benigni abbinati a audio o testo manipolati con attenzione possono causare misclassificazione del modello o output non sicuri. A differenza degli attacchi avversari a singola modalità, gli attacchi multi-modali sfruttano i complessi meccanismi di fusione che integrano informazioni attraverso le modalità, creando vettori di attacco difficili da rilevare e difendere utilizzando tecniche esistenti. L'obiettivo principale della ricerca proposta è avanzare la comprensione delle vulnerabilità avversarie nei sistemi AI multi-modali stabilendo fondamenta teoriche per le superfici di attacco e sviluppando meccanismi di difesa pratici che possano essere implementati in applicazioni reali.

Le attività di ricerca saranno organizzate in tre fasi:

  • Fase 1 (1° anno): Il candidato condurrà uno studio completo della superficie di attacco dei modelli AI multi-modali, concentrandosi su architetture che combinano modalità visive, linguistiche e audio. Questa fase prevede l'analisi dei meccanismi di fusione multi-modale all'avanguardia per identificare potenziali punti di vulnerabilità dove le interazioni cross-modali possono essere sfruttate. Il candidato svilupperà una tassonomia dei vettori di attacco specifici per i sistemi multi-modali, categorizzandoli in base alle interazioni delle modalità sfruttate, agli obiettivi degli attacchi e alle capacità richieste agli avversari. Il candidato inizierà a sviluppare nuovi metodi di attacco che sfruttano incoerenze semantiche tra le modalità.
  • Fase 2 (2° anno): Nella seconda fase, il candidato costruirà un dataset di attacchi avversari sintetici. Il dataset coprirà diverse tecniche di attacco, inclusa la perturbazione cross-modale, lo sfruttamento di incoerenze semantiche e backdoor specifiche per modalità. Questo dataset servirà come benchmark per valutare i meccanismi di difesa e sarà reso pubblicamente disponibile per supportare la comunità di ricerca.
  • Fase 3 (3° anno): Basandosi sui risultati precedenti, il candidato svilupperà nuove tecniche di attacco capaci di sintetizzare automaticamente campioni di attacco. Queste tecniche saranno implementate come un framework di template di attacco parametrizzati per generare esempi avversari diversificati attraverso diverse architetture multi-modali.

Il lavoro può essere condotto in collaborazione con partner industriali che implementano sistemi AI multi-modali o iniziative di ricerca pertinenti focalizzate sulla sicurezza e protezione dell'AI. I contributi prodotti dalla ricerca proposta possono essere pubblicati in conferenze e riviste appartenenti ai settori dell'apprendimento automatico e dell'AI, cybersecurity e sicurezza dell'AI.

Competenze Richieste

Il candidato dovrebbe avere una solida formazione in ML e AI, con particolare enfasi sulle architetture di deep learning. Familiarità con modelli AI multi-modali, visione computerizzata, NLP o elaborazione audio è auspicabile. Forti competenze di programmazione e esperienza con framework di deep learning sono essenziali.

Data di inizio: 1 marzo 2027

L'Istituto Italiano per l'Intelligenza Artificiale (AI4I) è stato fondato come istituto di ricerca per svolgere ricerche trasformative e orientate all'applicazione nell'intelligenza artificiale, guidando innovazione e progresso industriale. L'Istituto è progettato per coinvolgere e responsabilizzare ricercatori talentuosi, imprenditoriali e ambiziosi che sono impegnati a generare un impatto reale all'incrocio tra scienza, tecnologia e trasformazione industriale. AI4I è un datore di lavoro che offre pari opportunità e accoglie candidature da tutti i candidati qualificati, indipendentemente da genere, nazionalità, etnia, religione, disabilità, età o orientamento sessuale.

PhD Position on Adversarial Robustness in Multi-Modal Foundation Models datore di lavoro: AI4I Opens Two International

AI4I, l'Istituto Italiano di Intelligenza Artificiale per l'Industria, è un datore di lavoro eccezionale che offre un ambiente stimolante e innovativo a Torino, nel cuore di un ecosistema scientifico e industriale all'avanguardia. Con opportunità di crescita professionale attraverso la collaborazione con centri di ricerca e aziende leader, AI4I promuove una cultura del lavoro inclusiva e orientata ai risultati, supportata da un pacchetto retributivo competitivo e incentivi basati sulle performance. Lavorare qui significa contribuire attivamente allo sviluppo e all'adozione di soluzioni AI che hanno un impatto reale sull'industria, in un contesto che valorizza il talento e la creatività.

A

Dettagli di contatto:

Team di recruiting di AI4I Opens Two International

Consigli degli esperti StudySmarter🤫

Ecco come pensiamo che potresti ottenere PhD Position on Adversarial Robustness in Multi-Modal Foundation Models

✨Partecipa a hackathon e competizioni di data science

Questi eventi sono fantastici per mostrare le tue abilità pratiche e creare connessioni nel settore. Inoltre, possono darti visibilità e permetterti di lavorare su progetti reali che puoi includere nel tuo portfolio.

✨Esplora le università e gli eventi di networking

Spesso ci sono fiere del lavoro e eventi di networking organizzati nelle università. Controlla il calendario della tua università e partecipa a questi eventi: potresti incontrare recruiter di AI4I Opens Two International o di altre aziende interessate a tirocinanti come te!

✨Crea un progetto di data science da presentare

Lavora su un progetto personale, magari analizzando un dataset interessante e creando visualizzazioni coinvolgenti. Questo non solo ti aiuterà a praticare le tue competenze, ma sarà anche un eccellente argomento di discussione durante i colloqui.

✨Non dimenticare le piattaforme online e le community

Unisciti a gruppi di data science su LinkedIn o piattaforme come GitHub. Condividi le tue esperienze, chiedi feedback e cerca opportunità di tirocinio. La comunità è spesso molto disponibile a dare una mano!

Pensiamo che ti servano queste competenze per eccellere come PhD Position on Adversarial Robustness in Multi-Modal Foundation Models

Machine Learning
Deep Learning
Multi-Modal AI Models
Computer Vision
Natural Language Processing (NLP)
Audio Processing
Adversarial Machine Learning

Alcuni consigli per la tua candidatura 🫡

Sottolinea le tue competenze tecniche!:Quando prepariamo il tuo CV per un tirocinio in Data Science, non dimenticare di evidenziare le tue competenze in programmazione (Python, R) e la tua esperienza con strumenti di analisi dati come Pandas o NumPy. Assicurati di citare anche eventuali progetti pratici o corsi online che hai completato.

Mostra la tua curiosità!:Nel tuo cover letter, parlaci della tua passione per i dati e del perché vuoi intraprendere un tirocinio in Data Science con AI4I Opens Two International. Sottolinea la tua voglia di imparare e come pensi di contribuire al loro team.

Aggiungi un progetto nel tuo portfolio!:Se hai lavorato su progetti interessanti, come l'analisi di dataset reali o la creazione di modelli predittivi, non dimenticare di includerli nel tuo portfolio. Un legame con progetti pratici può far brillare la tua applicazione rispetto ad altri candidati.

Affronta il tuo CV con strategia!:Fai attenzione alla formattazione del tuo CV: mantienilo chiaro e conciso. Utilizza bullet points per le esperienze, mettendo in evidenza i risultati concreti che hai ottenuto con i tuoi progetti e come puoi applicare questi successi in AI4I Opens Two International.

Come prepararti a un colloquio di lavoro presso AI4I Opens Two International

✨Metti in mostra le tue capacità analitiche

Preparati a presentare alcuni progetti di data science che hai realizzato durante gli studi o in progetti personali. Potresti dover discutere le tecniche di analisi dei dati che hai utilizzato, come regression analysis o clustering, e i risultati che hai ottenuto. Questo mostrerà al tuo intervistatore che sai applicare la teorìa alla pratica!

✨Padroneggia i linguaggi di programmazione

Assicurati di avere una buona padronanza di Python o R, poiché potrebbero chiederti di scrivere codice durante l’intervista. Fai pratica con funzionalità comuni, come librerie di manipolazione dei dati (pandas o dplyr) o tecniche di machine learning (scikit-learn). Non dimenticare di spiegare il tuo ragionamento mentre codifichi!

✨Sii curioso e dimostra voglia di imparare

Essere in tirocinio significa apprendere e crescere! Mostra al tuo potenziale datore di lavoro, AI4I Opens Two International, che sei aperto a nuove esperienze e sfide. Fai domande sulle tecnologie e sugli strumenti in uso, questo dimostrerà che sei motivato e desideroso di svilupparti nel ruolo di data scientist.

✨Analizza i dati per trovare trend

Potresti essere guidato attraverso un caso pratico dove ti verrà chiesto di analizzare un dataset. Pratica l’abilità di estrarre insight significativi dai dati. Dimostra come puoi identificare tendenze e proporre strategie basate sui dati stessi; questo è ciò che fa un vero data scientist!