Giorgio Giacinto (Università di Cagliari) Fabio Cocurullo (Loanardo) AI & Cybersecurity Giorgio Giacinto (Università di Cagliari) Fabio Cocurullo (Loanardo)

I progetti in AI for Cybersecurity Identificazione tramite biometrie Analisi reti sociali e Informatica Forense Analisi di Malware e Rilevazione Intrusioni Adversarial Machine Learning Applicazioni per Sistemi Critici - Resilienza

Tecniche di IA Modelli avanzati di caratteristiche biometriche Tecniche di rappresentazione dei dati specializzate sul dominio Tecniche di classificazione e clustering standard e Deep Learning Adversarial Learning

Risultati ed impatto Numerose applicazioni per identificazione personale tramite biometriche statiche e comportamentali Organizzazione di competizioni internazionali Sviluppo di strumenti di analisi e rilevazione attacchi in sistemi critici nazionali Partecipazione a progetti internazionali finanziati dalla EU Costituzione di aziende spin-off e startup

Criticità per il settore Acquisizione grandi quantità di dati in applicazioni di interesse nazionale Meccanismi di conservazione sicura (riservatezza, integrità, disponibilità, cancellazione) delle tracce biometriche Verifica integrità e autenticità dati usati per addestramento dei modelli

Vista Industriale Limiti delle attività di ricerca Analisi dati – intelligence su fonti open source (prevalentemente social, dove le normative legali rendono sempre piu’ complessa la conduzione di attività) Analisi di artefatti (analisi malware, riconoscimento attacchi) Contributi limitati o mancanti su aree rilevanti Automated attack / defence dove l’artificial intelligence potrebbe alterare significativamente il bilancio di forza tra attacco e difesa (ad es: Artificial Intelligence and the Attack/Defense Balance, Bruce Schneier, IEEE Security & Privacy March/April 2018) Sicurezza intrinseca dell’AI - Elemento chiave per evitare un nuovo “AI winter” (ad es., “Artificial Intelligence, Winter is Coming”, Zia Chishti , Financial Times, 17 October, 2018) Analisi e gestione sistemi per la massimizzazione della resilienza CINI potrebbe fornire linee guida su aree di interesse nazionale es: analisi dispositivi e codici binari

Visione per il futuro Interazione uomo – IA in fase di progettazione del sistema e in condizioni operative Vulnerabilità IA e Interpretabilità IA IA contro IA: attacchi progettati con tecniche di IA rilevati da algoritmi di difesa progettati con tecniche di IA