La presentazione è in caricamento. Aspetta per favore

La presentazione è in caricamento. Aspetta per favore

Corso di Progettazione dei Sistemi di Controllo Prof. Luca Schenato Prof. Gianluigi Pillonetto Gottardo Giuseppe, matr. 621855 Lanzini Andrea, matr. 621860.

Presentazioni simili


Presentazione sul tema: "Corso di Progettazione dei Sistemi di Controllo Prof. Luca Schenato Prof. Gianluigi Pillonetto Gottardo Giuseppe, matr. 621855 Lanzini Andrea, matr. 621860."— Transcript della presentazione:

1 Corso di Progettazione dei Sistemi di Controllo Prof. Luca Schenato Prof. Gianluigi Pillonetto Gottardo Giuseppe, matr Lanzini Andrea, matr Zanin Claudia, matr Anno Accademico 2010 – 2011

2 Introduzione (1/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo2 Scopo del progetto Applicazione delle tecniche di Machine Learning ad un problema di visual-tracking Sviluppo di un algoritmo in real-time con SVM Riduzione dellonere computazionale

3 Introduzione (2/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo3 Problematiche Onere computazionale Metodi di selezione di features e patterns Adattabilità del classificatore

4 Introduzione (3/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo4 Stato dellarte 2 fasi: Fase iniziale Training Fasi successive Test (classificazione) Filtro di Kalman per tracking del soggetto in esame

5 Introduzione (4/4) Contributo apportato dal progetto Creazione delliperpiano ottimo mediante approssimazione quadratica di una funzione di costo 03/03/2011Corso di Progettazione dei Sistemi di Controllo5

6 Concetti di base (1/6) Machine Learning 03/03/2011Corso di Progettazione dei Sistemi di Controllo6 Unsupervised Learning Supervised Learning ClusteringClassificazione Binaria Multi-classe Support Vector Machine (SVM)

7 Supervised Learning Apprendimento basato su Training Set 03/03/2011Corso di Progettazione dei Sistemi di Controllo7 Insieme di coppie (examples) IstanzaLabel fissate a priori Features Costruzione classificatore Test su nuove istanze

8 Concetti di base (2/6) Support Vector Machine 03/03/2011Corso di Progettazione dei Sistemi di Controllo8 Caso linearmente separabile Caso NON linearmente separabile Minimizza il rischio strutturale e non quello empirico Riassume linformazione del Training Set nei SVs Minore onere computazionale

9 SVM – caso linearmente separabile Training set T linearmente separabile Iperpiano di separazione Distanza dei punti dalliperpiano Obiettivo: individuare lOSH lineare Massimizzazione margine Ricerca Support Vectors (SVs) Concetti di base (3/6) 03/03/2011Corso di Progettazione dei Sistemi di Controllo9

10 Caso dati linearmente separabili 03/03/2011Corso di Progettazione dei Sistemi di Controllo10

11 SVM – caso non linearmente separabile Training set T non linearmente separabile Iperpiano di separazione Introduzione variabili di slack ξ per le miss-classifications Obiettivo: individuare lOSH lineare Massimizzazione margine Ricerca Support Vectors (SVs) Concetti di base (4/6) 03/03/2011Corso di Progettazione dei Sistemi di Controllo11

12 Caso dati non linearmente separabili 03/03/2011Corso di Progettazione dei Sistemi di Controllo12

13 Concetti di base (5/6) Contributo apportato dal progetto Riformulazione del problema tramite minimizzazione di Hinge Loss Function + termine di regolarizzazione: Approssimazione differenziabile della funzione di costo: 03/03/2011Corso di Progettazione dei Sistemi di Controllo13

14 Concetti di base (6/6) Contributo apportato dal progetto Inserimento dinamica iperpiano modello random-walk 03/03/2011Corso di Progettazione dei Sistemi di Controllo14 Algoritmo Sequential Quadratic Programming (SQP) dinamico Approssimazione quadratica della funzione di costo Ricerca minimo ad ogni istante di tempo (linearizzazioni)

15 Implementazione (1/2) Generazione del modello dinamico Realizzazione in 2 features: x, y Iperpiano: retta Moto uniforme Velocità random 03/03/2011Corso di Progettazione dei Sistemi di Controllo15

16 Implementazione (2/2) Algoritmo SQP dinamico Training iniziale con libSVMiperpiano iniziale Impostazioni iniziali (Q, N_lin) Classificazione sul frame successivo Ricerca nuovo iperpiano ottimo Linearizzazioni iterate della funzione di costo Ricerca del minimo 03/03/2011Corso di Progettazione dei Sistemi di Controllo16 Nuovo frame

17 Simulazione SQP dinamico (1/3) 03/03/2011Corso di Progettazione dei Sistemi di Controllo17 Impostazione parametri Scelta della dinamica dei punti (fissa) Varianza Q del rumore di modello Numero di linearizzazioni

18 Simulazione SQP dinamico (2/3) 03/03/2011Corso di Progettazione dei Sistemi di Controllo18 30 frames 5, 10, 20 linearizzazioni Q

19 Simulazione SQP dinamico (3/3) 03/03/2011Corso di Progettazione dei Sistemi di Controllo19 Studio prestazioni Confronto distanze punto-rettadistanze punto-retta caso ideale/caso reale (errore assoluto) 5 linearizzazioni 10 linearizzazioni 20 linearizzazioni

20 Distanza punto-retta 03/03/2011Corso di Progettazione dei Sistemi di Controllo20

21 5 linearizzazioni 03/03/2011Corso di Progettazione dei Sistemi di Controllo21

22 10 linearizzazioni 03/03/2011Corso di Progettazione dei Sistemi di Controllo22

23 20 linearizzazioni 03/03/2011Corso di Progettazione dei Sistemi di Controllo23

24 Filmati simulazioni SQP dinamico 03/03/2011Corso di Progettazione dei Sistemi di Controllo24 Caso ideale 5 lin., Q 1000, lin., Q 0.01, lin., Q 0.01,1000

25 Implementazione (1/2) Generazione del modello statico Realizzazione in Dataset di 1000 punti 2 casi: Dati linearmente separabili Dati non linearmente separabili 03/03/2011Corso di Progettazione dei Sistemi di Controllo25

26 Implementazione (2/2) Algoritmo SQP statico Dataset pre-creato Impostazioni iniziali (β_iniz, N_lin) Training iniziale con algoritmo SQP (Q = 0) eseguito su un gruppo di punti a sceltaprimo iperpiano Analisi nuovo sottogruppo del dataset Ricerca nuovo iperpiano ottimo 03/03/2011Corso di Progettazione dei Sistemi di Controllo26 Nuovo sottogruppo

27 Simulazione SQP statico (1/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo27 Studio di 3 differenti casi: Training totale con svmtrain Training totale con SQP Training iniziale + successivi parziali con SQP Impostazione parametri (nel 3° caso) Varianza Q = 0 del rumore di modello 100 punti per il Training iniziale numero variabile di punti per i sottogruppi successivi al primo 20 linearizzazioni

28 Simulazione SQP statico (2/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo28 Caso dati linearmente separabili (20 linearizzazioni) svmtrain SQP totale – 20 lin. SQP parziale – 20 lin., punti

29 Simulazione SQP statico (3/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo29 Prestazioni - caso dati linearmente separabili

30 Simulazione SQP statico (4/4) 03/03/2011Corso di Progettazione dei Sistemi di Controllo30 Caso dati linearmente non separabili (20 linearizzazioni) svmtrain SQP totale – 20 lin. SQP parziale – 20 lin., punti

31 Simulazione 2 SQP dinamico 03/03/2011Corso di Progettazione dei Sistemi di Controllo31 Applicazione algoritmo SQP su video 3 features R, G, B Foreground pallina bianca con variazioni esposizione Background ambiente molto scuro

32 Conclusioni 03/03/2011Corso di Progettazione dei Sistemi di Controllo32 Caso SQP dinamico Capacità di adattamento alla variazione di features Generalità del modello utilizzato Assenza di controllo Caso SQP statico Algoritmo distribuitominore onere computazionale Efficienza buona rispetto allo stato dellarte

33 Possibili sviluppi futuri 03/03/2011Corso di Progettazione dei Sistemi di Controllo33 Controllo adeguato correzione dinamica iperpiano Miglioramento sensibilità della funzione di costo Implementazione algoritmo con filtro di Kalman iterato Utilizzo nellalgoritmo SQP dinamico del Training creato con SQP statico


Scaricare ppt "Corso di Progettazione dei Sistemi di Controllo Prof. Luca Schenato Prof. Gianluigi Pillonetto Gottardo Giuseppe, matr. 621855 Lanzini Andrea, matr. 621860."

Presentazioni simili


Annunci Google