Algoritmi di classificazione e reti neurali Seminario su clustering dei dati – Parte I Università di RomaLa Sapienza Dipartimento di Informatica e Sistemistica.

Presentazione sul tema: "Algoritmi di classificazione e reti neurali Seminario su clustering dei dati – Parte I Università di RomaLa Sapienza Dipartimento di Informatica e Sistemistica."— Transcript della presentazione:

1 Algoritmi di classificazione e reti neurali Seminario su clustering dei dati – Parte I Università di RomaLa Sapienza Dipartimento di Informatica e Sistemistica Corso di Laurea in Ingegneria Gestionale a cura di Silvia Canale contatto e-mail: canale@dis.uniroma1.it

2 2 Definizione del problema di clustering di dati Apprendimento automatico e data mining Schema generale di una procedura di clustering Applicazioni del clustering di dati Definizioni preliminari e rappresentazione dei dati Misure di similarità e di dissimilarità – distanze Problema della partizione in clique definizione e formulazione algoritmo dei piani di taglio ARGOMENTI DEL SEMINARIO

3 3 DEFINIZIONE DEL PROBLEMA CLUSTERING: classificazione di oggetti sulla base delle similarità percepite Gli oggetti sono descritti: - dagli attributi che lo definiscono (misure oggettive o soggettive) - dalle relazioni con gli altri oggetti Lo scopo è quello di determinare unorganizzazione degli oggetti che sia: - valida - facile da determinare Un cluster è un gruppo di oggetti simili (criterio di omogeneità). Oggetti che appartengono a cluster diversi non sono simili (criterio di separazione).

4 4 DEFINIZIONE DEL PROBLEMA Un cluster è un gruppo di oggetti simili. Sepuntispazio di distanza allora Se gli oggetti sono punti in uno spazio di distanza allora possiamo dare la seguente definizione: Un cluster è un sottoinsieme di punti tali che la distanza tra due punti qualsiasi del cluster è minore della distanza tra un qualsiasi punto del cluster ed un punto esterno al cluster. Sia X uno spazio di oggetti e d una distanza definita su X. Indicheremo con (X,d) lo spazio di distanza definito da d su X. Un sottoinsieme V X è un cluster se e solo se d(i,j) d(k,l)per ogni i,j,k V, l V 1 1 1 4 4 5

5 5 APPRENDIMENTO AUTOMATICO ragionamento induttivo Apprendimento: Processo di ragionamento induttivo che permette di passare dalle osservazioni alle regole generali (tipico delluomo che impara dallesperienza) Automatico: Definizione automatica, distinta da quella naturale, delle regole generali a partire dalle osservazioni (dati sperimentali) Scopo: Estrazione di informazione interessante dai dati nuova (non è qualcosa di già noto, analisi esplorativa) oppure attesa (ipotesi a priori da convalidare, analisi confermativa) implicita: presente nei dati analizzati ma non immediatamente accessibile potenzialmente utile: può essere utilizzata per prendere delle decisioni REGOLE OSSERVAZIONI Processo deduttivo Processo induttivo INFORMAZIONE

6 6 APPRENDIMENTO AUTOMATICO Processo automatico di estrazione di informazioni su un sistema fisico S incognito partendo da un insieme finito di m osservazioni. Linsieme { v 1, v 2, …, v n } prende il nome di training set. non supervisionato Apprendimento non supervisionato (clustering): Il sistema S non ha ingressi e lo scopo è determinare una regola che metta in relazione le osservazioni del training set sulla base di una misura di similarità definita. supervisionato Apprendimento supervisionato (analisi discriminante): Il sistema S riceve gli ingressi { c 1, c 2, …, c n } e lo scopo è determinare una regola che metta in relazione le osservazioni del training set con gli ingressi. S v1v1 v2v2 v3v3 vnvn c1c1 c2c2 c3c3 cncn

7 7 ESTRAZIONE DELLA CONOSCENZA Pulizia ed integrazione dei dati Data Mining Valutazione regole Database Selezione e trasformazione dei dati Informazione Datawarehouse Regole APPRENDIMENTO AUTOMATICO

8 8 APPLICAZIONI Segmentazione di immagini – partizione di unimmagine in regioni che siano omogenee rispetto ad una proprietà di interesse (es. intensità, colore, struttura, …) Riconoscimento di oggetti e caratteri – Analisi di immagini allo scopo di riconoscere particolari strutture Information retrieval – Processo di raccolta e recupero automatico di informazioni (es. libri e riviste di una biblioteca) Segmentazione di grandi database in gruppi omogenei di dati Classificazioni di documenti web Analisi predittiva in Customer Relationship Management - Customer profiling - Customer retention - Market segmentation - … ….E MOLTE ALTRE

9 9 CLUSTERING – SCHEMA GENERALE 1.Rappresentazione dei dati Definizione del numero, del tipo e della scala delle caratteristiche (o attributi) Definizione del numero di cluster (o classi) Selezione delle caratteristiche (opzionale) Estrazione delle caratteristiche (opzionale) 2.Definizione di una misura di similarità sullinsieme dei dati 3.Applicazione di un algoritmo di clustering 4.Astrazione sui dati 5.Valutazione dei risultati studio dellandamento dei cluster analisi della validità dei cluster confronto esterno confronto interno controllo relativo DESCRIZIONE COMPATTA E SINTETICA DEI CLUSTER

10 10 DEFINIZIONI PRELIMINARI Un algoritmo di clustering partizionale raggruppa le osservazioni del training set in cluster sulla base di una misura di similarità definita sullinsieme delle coppie di osservazioni. Due tipi di algoritmi di clustering partizionale: - clustering di tipo hard: unosservazione è assegnata ad un solo cluster; - clustering di tipo fuzzy: unosservazione ha un grado di appartenenza per ciascuno dei cluster individuati. Le osservazioni possono essere rappresentate in due formati standard: matrice delle istanze di dato matrice delle similarità

11 11 MATRICE DELLE ISTANZE Unosservazione (o istanza) v è rappresentata da un vettore di m caratteristiche (o attributi). v 1 v 2 v = … … v m Linsieme X = { v 1, v 2, …, v n } delle osservazioni viene rappresentato come una matrice n x m detta matrice delle istanze. X =

12 12 TIPI DI DATO Unistanza può rappresentare un oggetto fisico oppure un concetto astratto. Un attributo può essere di diversi tipi: quantitativo continuo (es. peso, larghezza, temperatura) discreto (es. età di un individuo) intervallo (es. durata di un evento) qualitativo nominale (es. colori) ordinato (es. intensità di un suono, valutazione di una sensazione) Sono inoltre possibili altre rappresentazioni delle istanze.

13 13 MATRICE DELLE RELAZIONI Sia X = { v 1, v 2, …, v n } un insieme di n istanze. Indichiamo con V = { 1, 2, …, n } linsieme degli indici da 1 a n. Una relazione r definita sullo spazio X x X delle coppie di istanze può essere rappresentata come una matrice n x n detta matrice delle relazioni. R = Consideriamo relazioni simmetriche ( per ogni i, j V ) e in particolare: relazioni di similarità (più v i e v j sono simili, più è grande) relazioni di dissimilarità (più v i e v j sono simili, più è basso)

14 14 DISTANZE distanza Una distanza d definita sullinsieme X è una relazione che gode delle seguenti proprietà: a) d è simmetrica per ogni coppia (i,j) in V. b) d assume valore nullo per ogni coppia (i,i) in V. Indicheremo con (X,d) lo spazio di distanza definito da d su X. Se inoltre d soddista la proprietà: c) d soddisfa la diseguaglianza triangolare per ogni terna (i,j,k) in V semimetrica allora d è una semimetrica sullinsieme X. metrica Si definisce metrica una semimetrica d che soddisfa lulteriore proprietà: v1v1 1 3 4 v2v2 v3v3 v1v1 1 2 4 v2v2 v3v3

15 15 NORME Se X è uno spazio vettoriale definito sul campo dei reali, una funzione || || : X + si definisce norma se: i. || v || = 0 v = 0 per ogni v in X. ii. || v || = | | || v || per ogni in, v in X. iii. || v i + v j || || v i || + || v j || per ogni v i,v j in X. Si definisce spazio normato la coppia (X, || || ). Ad uno spazio normato (X, || || ) può essere associata la topologia metrica indotta dalla norma || || tramite lidentità: Consideriamo lo spazio normato ( m, || || p ) dove || || p è la norma l p METRICA NORMA

16 16 UNA METRICA NORMA È UNA METRICA Dim. Sia || || : X + una norma definita su X. La funzione a) è simmetrica b)d assume valore nullo per ogni coppia (i,i) in V. c) d soddisfa la diseguaglianza triangolare per ogni terna (i,j,k) in V || v || = | | || v || || v || = 0 v = 0 || v i + v j || || v i || + || v j ||

17 17 METRICHE NORME Una classe molto importante di metriche è quella delle metriche d l p indotte dalle diverse norme l p : p = 1 – distanza di Manhattan o metrica city-block p = 2 – distanza Euclidea p = – distanza di Lagrange p = 0 – distanza di Hamming

18 18 PROBLEMA DI PARTIZIONE Un algoritmo di clustering partizionale di tipo hard determina una partizione delle osservazioni del training set sulla base di una misura di similarità definita sullinsieme delle coppie di osservazioni. Si definisce partizione P di un insieme X = { v 1, v 2, …, v n } è una famiglia finita di k insiemi V 1, V 2, …, V k P = { V 1, V 2, …, V k } tali che ogni insieme V j in P è un sottoinsieme non vuoto di X: V j X

19 19 RAPPRESENTAZIONE DEI DATI Dato un insieme di osservazioni X = { v 1, v 2, …, v n } e la matrice delle similarità relative allinsieme X, si definisce grafo associato a X il grafo G(N,A) tale che: N rappresenta linsieme dei nodi { 1, 2, …, n } tale che ciascun nodo i N sia associato ad unosservazione v i X A sia linsieme degli archi che connettono ogni coppia non ordinata (v i, v j ) di osservazioni in X con v i v j. Larco in A che connette due nodi i e j viene indicato con (i,j) o con ij. Siano n e m il numero di nodi e di archi, rispettivamente, in N e A. Il grafo associato a X è completo!

20 20 INSIEME DELLE SOLUZIONI – DEFINIZIONI Si definisce clustering del grafo G(N,A) una partizione P(G) = { V 1, V 2, …, V k } dei nodi del grafo G(N,A). clique Gli elementi V i P(G) vengono definiti componenti o clique del clustering P(G). clique Dato un grafo G(N,A) si definisce clique un sottoinsieme V N dei nodi tali che per ogni coppia di nodi i e j larco ij appartiene ad A. clique Se il grafo G(N,A) è completo, ogni sottoinsieme V N è una clique. NON è una clique: 25 A

21 21 INSIEME DELLE SOLUZIONI – DEFINIZIONI Si definisce clustering del grafo G(N,A) una partizione P(G) = { V 1, V 2, …, V k } dei nodi del grafo G(N,A). Come sono fatte le soluzioni di un problema di clustering? Sia V h N. Indichiamo con (V h ) linsieme degli archi che connettono nodi in V h e nodi fuori da V h Se |V h | = 1, (V h ) è la stella del nodo in V h.

22 22 INSIEME DELLE SOLUZIONI – DEFINIZIONI Siano V i, V j N. Indichiamo con (V i,V j ) linsieme degli archi che connettono nodi in V i e nodi in V j In generale, dati k sottoinsiemi V 1,…, V k N, linsieme degli archi con estremi in due sottoinsiemi diversi viene indicato con

23 23 INSIEME DELLE SOLUZIONI – DEFINIZIONI multi-cut Ad ogni clustering P(G)= { V 1, V 2, …, V k } del grafo G(N,A) è possibile associare un insieme multi-cut (P(G)) (P(G)) = ( V 1, V 2, …, V k ) Definiamo il vettore di incidenza y P multi-cut di un insieme multi-cut (P(G))

24 24 INSIEME DELLE SOLUZIONI – DEFINIZIONI Sia V i N. Indichiamo con E(V i ) linsieme degli archi che connettono nodi in V i. Se |V i | = 1, E(V i ) è vuoto. In generale, dati k sottoinsiemi V 1,…, V k N, linsieme degli archi con estremi nello stesso sottoinsieme viene indicato con

25 25 INSIEME DELLE SOLUZIONI – DEFINIZIONI partizione Ad ogni clustering P(G)= { V 1, V 2, …, V k } del grafo G(N,A) è possibile associare un insieme partizione E(P(G)) E(P(G)) = E ( V 1, V 2, …, V k ) Definiamo il vettore di incidenza x P partizione E(P(G)) di un insieme partizione E(P(G)) multi-cut partizione Gli insiemi multi-cut e partizione definiscono una partizione di A

26 26 VETTORE DI INCIDENZA DI UNA PARTIZIONE – Esempio – Sia X = { v 1, v 2, v 3, v 4, v 5, v 6, v 7, v 8 }. Definiamo il grafo G(N,A) associato allinsieme X, dove N = { 1, 2, 3, 4, 5, 6, 7, 8 } e A = { ij | 1 i j 8 }. Consideriamo il clustering P(G)= { V 1, V 2, V 3 }

27 27 INSIEME DELLE SOLUZIONI Supponiamo di voler determinare una partizione in k cluster. numero uguale Sia s =. Se vogliamo che i cluster contengano un numero uguale di osservazioni, il problema è equivalente al problema di determinare una partizione in cluster che abbiano ciascuno un numero di osservazioni non inferiori a s. Linsieme S delle soluzioni del problema di clustering di X è linsieme dei vettori di incidenza di tutte le possibili insiemi partizione E(P(G)) del grafo G(N,A) associato a X. Vincolo di dimensione s =3

28 28 PROBLEMA DI PARTIZIONE IN CLIQUE In base al valore di s possiamo avere diversi problemi: partizione in clique se s 1, S è linsieme delle soluzioni del problema di partizione in clique (CPP) dei nodi di un grafo Consideriamo linsieme delle soluzioni partizione in clique con vincolo di dimensione se s 1, S è linsieme delle soluzioni del problema di partizione in clique con vincolo di dimensione (CPPMIN) equipartizione se k = 2, S è linsieme delle soluzioni del problema di equipartizione equipartizione in k sottoinsiemi se n è multiplo di s, S è linsieme delle soluzioni del problema di equipartizione in k sottoinsiemi

29 29 CRITERIO DI OTTIMALITÀ – Esempio – Sia X = { v 1, v 2, v 3, v 4, v 5, v 6, v 7, v 8 } e s = 2 Definiamo il grafo G(N,A) associato allinsieme X, dove N = { 1, 2, 3, 4, 5, 6, 7, 8 } con n = 8, e A = { ij | 1 i j 8 }. Consideriamo i due clustering P 1 (G)= { V 1, V 2, V 3 } e P 2 (G)= { V 4, V 5, V 6 } Come valutare le soluzioni in S? Qual è la migliore soluzione? In P 1 (G) i punti appartenenti allo stesso cluster sono più vicini…

30 30 CRITERIO DI OTTIMALITÀ In P 1 (G) i punti appartenenti allo stesso cluster sono più vicini… La matrice delle relazioni contiene le informazioni relative alla similarità o alla dissimilarità tra i punti Sia D la matrice n x n delle relazioni di dissimilarità (più i e j sono simili, più è basso) Assegniamo ad ogni arco ij di A il peso

31 31 CRITERIO DI OTTIMALITÀ Assegniamo ad ogni cluster V N la somma dei pesi degli archi in E(V) Assegniamo ad ogni arco ij di A il peso Assegniamo ad ogni partizione P(G)= { V 1, V 2, …, V k } del grafo G(N,A) la somma dei costi degli elementi della partizione c(P 1 (G)) = 1.5 + 3 + 3 = 7.5 c(P 2 (G)) = 15 < P 1 (G) è migliore di P 2 (G)

32 32 CRITERIO DI OTTIMALITÀ Ad ogni partizione P(G)= { V 1, V 2, …, V k } del grafo G(N,A) associamo il costo vettore di incidenza partizione E(P(G)) Ad ogni P(G)= { V 1, V 2, …, V k } è associato il vettore di incidenza x P di un insieme partizione E(P(G))

33 33 CRITERIO DI OTTIMALITÀ Ad ogni partizione P(G)= { V 1, V 2, …, V k } del grafo G(N,A) associamo il costo – Esempio – Sia X = { v 1, v 2, v 3, v 4, v 5, v 6, v 7, v 8 } e s = 2 Consideriamo la soluzione x P associata al clustering P(G)= { V 1, V 2, V 3 }

34 34 FORMULAZIONE MATEMATICA DEL CPP partizione in clique Risolvere il problema di partizione in clique dei nodi di un grafo significa determinare la soluzione del seguente problema dove linsieme delle soluzioni è

35 35 FORMULAZIONE DI UN PROBLEMA DI PL01 Sia S linsieme delle soluzioni di un problema di Programmazione Lineare 0–1 Esempio CPP – Dato un grafo G(N,A) S è linsieme di tutte le possibili partizioni in clique di G(V,A)

36 36 FORMULAZIONE DI UN PROBLEMA DI PL01 Indichiamo con x* la soluzione ottima del problema di PL01 In un problema di PL01 S è un insieme finito La soluzione ottima x* esiste sempre e può essere individuato con una enumerazione completa di S Lenumerazione completa di tutte le soluzioni in S molto richiede tempi molto lunghi PROCEDURA DI ENUMERAZIONE COMPLETA (ESEMPIO CPP) 1.Genera tutte le partizioni in clique del grafo G(N,A) 2.Per ogni partizione in clique calcola il costo 3.Scegli la partizione in clique che produce la soluzione di costo minimo

37 37 SOLUZIONE DI UN PROBLEMA DI PL01 sofisticatiefficienti In generale, la soluzione di un problema di PL01 richiede algoritmi sofisticati e molto efficienti. buona Quanto è buona la soluzione ammissibile trovata? Gli algoritmi di soluzione si basano generalmente su: certificati di qualità della soluzione metodologie generali di soluzione, sia di tipo esatto che di tipo euristico Gli algoritmi di soluzione possono essere: di tipo esatto: determinano sempre la soluzione ottima approssimati: determinano sempre una soluzione ammissibile non implica Formulare non implica risolvere un problema di PL0.

38 38 SEMISPAZI E POLIEDRI P P = { x R m : Ax b } Siano A R p x m una matrice reale di p righe e m colonne b R p un vettore reale di p componenti Linsieme dei vettori x R m che soddisfano le p disequazioni x b q del sistema POLIEDROP è definito POLIEDRO e viene indicato con la lettera P Ax b P per q = 1, …, p x P x b q per q = 1, …, p

39 39 SEMISPAZI E FORMULAZIONI P P = { x R 2 : } Geometricamente, ogni disequazione del sistema Ax b individua un semispazio Esempio – m = 2 Consideriamo la retta P Quindi un poliedro P è intersezione di un numero finito q di semispazi.P P P = { x R p : Ax b } x1x1 x2x2

40 40 FORMULAZIONE DI UN PROBLEMA DI PL01 Sia S linsieme delle soluzioni di un problema di Programmazione Lineare 0–1. P {0,1} m = S formulazione Il poliedro P è una formulazione del problema di Programmazione Lineare 0–1 se e solo se contiene tutti i vettori di S : S P non contiene alcun vettore di S ={ 0,1} m \ S : P S = infinite Ci sono infinite formulazioni dello stesso problema di PL01. Per ognuna vale lovvia proprietà: min { c T x: x S } = min { c T x: x P {0,1} m } = c T x* x1x1 x2x2P

41 41 FORMULAZIONI E LOWER BOUND Per ogni formulazione P vale inoltre la disuguaglianza Il valore LB(P) = min { c T x: x P } viene definito lower bound del problema di PL01. min { c T x: x P {0,1} m } min { c T x: x P } Per ogni formulazione di un problema di PL01 con insieme delle soluzioni vale la proprietà LB(P) c T x* Il lower bound è il valore ottimo della soluzione di un problema di PL che viene definito rilassamento lineare min { c T x: x P }

42 42 FORMULAZIONE OTTIMA Esiste una formulazione P* migliore di tutte le altre? P* = conv ( S ) Per il problema della partizione in clique dei nodi di un grafo, non conosciamo tutte le disequazioni che definiscono il poliedro P* Argomento trattato nel corso di Ottimizzazione Combinatoria (III anno) x1x1 x2x2P* conosciamo alcune famiglie di disequazioni che definiscono P* SI Inoltre…. valida Una disequazione a T x b si definisce valida per un poliedro P se e solo se è soddisfatta da tutti i punti in P conosciamo famiglie di disequazioni valide per P* P P { x R p : a T x b }

43 43 DISEQUAZIONI TRIANGOLO Consideriamo tre nodi i, j, k N di G(N,A) disequazione triangolo Si definisce disequazione triangolo relativa ai nodi i, j, k Una disequazione triangolo rappresenta il vincolo logico:

44 44 (a) NO (b) (c)(e)(d)(f)(h)(g)

45 45 FORMULAZIONE DEL PROBLEMA CPP Consideriamo il poliedro definito dalle disequazioni triangolo relative a tutte le terne di nodi G(N,A) È facile verificare che P è una formulazione del problema CPP P {0,1} m = S

46 46 (a) (b) (c)(e)(d)(f)(h)(g) NO

47 47 FORMULAZIONE DEL PROBLEMA CPP Le disequazioni triangolo sono tante. 3 disequazioni per ogni terna ordinata di nodi Consideriamo il rilassamento lineare del problema x {0,1} m non intere Ora sono ammissibili soluzioni non intere S P ?

48 48 DISEQUAZIONI A 2 PARTIZIONI Possiamo trovare disequazioni migliori delle disequazioni triangolo? Siano S,T N due sottoinsiemi disgiunti e non vuoti di N. 2 partizioni La disequazione a 2 partizioni (S,T) associata ai sottoinsiemi S e T è S T 2 3 1 4 2 partizioni valida Una disequazione a 2 partizioni (S,T) associata ai sottoinsiemi S e T definisce è valida per il poliedro P*. Definisce una faccia di P* se e solo se

49 49 DISEQUAZIONI A 2 PARTIZIONI tutte2 partizioni Sia P il poliedro costituito da tutte le disequazioni a 2 partizioni (S,T) con |S| |T| S T 2 3 1 4 Osservazione2 partizioni Osservazione Le disequazioni triangolo sono disequazione a 2 partizioni (S,T) con |S|= 1 e |T| = 2 P Esempio Esempio Consideriamo il grafo G(N,A ) e la soluzione soddisfa tutte le 12 disequazioni triangolo non soddisfa la disequazione a 2 part. S = { 1 } e T = { 2, 3, 4 } P

50 50 DISEQUAZIONI A 2 PARTIZIONI Quindi… 2 partizioni Data una soluzione x appartenente a P è possibile determinare S e T tali che la disequazione a 2 partizioni (S,T) sia violata da x ? P* P P P* P P PROBLEMA DI SEPARAZIONE delle disequazioni a 2 partizioni (S,T) x S T 2 3 1 4 come individuare S e T tale che

51 51 EURISTICA DI SEPARAZIONE Sia x una soluzione appartenente a P. Vogliamo determinare, se esiste, una disequazione a 2 partizioni (S,T) con |S|=1 Per ogni i N poni S = { i } e determina linsieme W = { j N \{i} : 0 < x ij < 1 } scegli un ordinamento nellinsieme W: W = { j 1, …, j l } poni T = { j 1 } per ogni k = 2, …, l poni T = T { j k } se x j k j k = 0 per ogni j k T se |T|>1 e x(S,T)>1, la disequazione a 2 partizioni (S,T) è violata ALGORITMO EURISTICO complessità O(n 3 ) La soluzione dipende dallordinamento!

52 52 EURISTICA DI SEPARAZIONE ESEMPIO Consideriamo la soluzione x in figura e applichiamo lalgoritmo euristico di separazione S T 2 3 1 4 Sia i = 1 e poniamo S = { 1 } Definiamo W = { 2, 3, 4 } e scegliamo come ordinamento dato dalla permutazione naturale Poniamo T = { 2 } e verifichiamo: T = T { 3 } se x 32 = 0 Iterazione 1 T = { 2, 3 } T = T { 4 } se x 43 = 0 e x 42 = 0 T = { 2, 3, 4 } x(S,T)= 3 / 2 >1

53 53 EURISTICA DI SEPARAZIONE S T 2 3 1 4 Sia i = 2 e poniamo S = { 2 } Definiamo W = { 1 } Poniamo T = { 1 } Iterazione 2 |T| = 1 non è possibile determinare una disequazione violata Per simmetria, è facile verificare che le iterazione 3 e 4 danno lo stesso risultato delliterazione 2. Lunica disequazione violata da x trovata dallalgoritmo è

54 54 FORMULAZIONE OTTIMA Per il problema della partizione in clique dei nodi di un grafo, non conosciamo tutte le disequazioni che definiscono il poliedro P* conosciamo alcune famiglie di disequazioni che definiscono P* conosciamo famiglie di disequazioni valide per P* In particolare, disequazioni triangolo le disequazioni triangolo relative ai nodi i, j, k 2 partizioni le disequazioni a 2 partizioni (S,T) associate ai sottoinsiemi S e T P P

55 55 ALGORITMO DEI PIANI DI TAGLIO Definisci il poliedro P 0 P definito da un sottoinsieme di disequazioni triangolo Poni h = 0 risolvi il problema di PL sia x h la soluzione ottima del problema di PL esiste una disequazione triangolo violata da x h ? P* P ALGORITMO DI SOLUZIONE P x0x0 P0P0 P0P0 P1P1 SI x h P : aggiungi la disequazione a P h e definisci il nuovo poliedro P h+1 P*

56 56 esiste una disequazione triangolo violata da x h ? ALGORITMO DI SOLUZIONE NO x h P ALGORITMO DEI PIANI DI TAGLIO x h {0,1} m ? P P P* P P0P0 x0x0 2 partizioni NO x h S : esistono due insiemi S e T tali che la disequazione a 2 partizioni (S,T) sia violata da x h ? STOP SI x h P : aggiungi la disequazione a P h e definisci il nuovo poliedro P h+1 SI x h S : x h è la soluzione ottima x0x0 P0P0

57 57 2 partizioni esistono due insiemi S e T tali che la disequazione a 2 partizioni (S,T) sia violata da x h ? ALGORITMO DI SOLUZIONE NO x h P ALGORITMO DEI PIANI DI TAGLIO x h {0,1} m ? P P0P0 P* P P0P0 x0x0 NO x h S : applica il metodo del branch and bound per risolvere il problema di PL01 P x0x0 STOP SI x h S : x h è la soluzione ottima P STOP

58 58 MATERIALE DEL SEMINARIO Le slide di questo seminario sono reperibili nella pagina del corso di Ottimizzazione Combinatoria http://www.dis.uniroma1.it/~or/gestionale/OC/ nella sezione clustering dei dati (prime 4 lezioni)