Scaricare la presentazione
La presentazione è in caricamento. Aspetta per favore
PubblicatoMacario Vitale Modificato 10 anni fa
1
Data Mining Giorgio Pedrazzi CINECA Torino, 20 febbraio 2003
2
Che cos’è il Data Mining
Processo di estrazione di conoscenza da banche dati di grandi dimensioni tramite l’applicazione di algoritmi che individuano le associazioni “nascoste” tra le informazioni e le rendono visibili. It’s a process of .... by KNOWLEDGE we mean meaningful information directly exploitable for decision making purposes
3
Perché sono necessari strumenti di Data Mining
volume valore Quantità di dati Natura dei dati Rapida evoluzione del mercato Inadeguatezza degli strumenti tradizionali dati informazione conoscenza decisione
4
? ? Informazioni Problemi: STRUMENTI STATISTICI DATA RETRIEVAL
Dati analisi descrittive analisi esplorative Problemi: quantità di dati (records, variabili) tipo di dati (qualitativi, testi) missing interpretazione risultati ? STRUMENTI STATISTICI DATA RETRIEVAL DATA MINING query Problemi: tempi di risposta inadeguatezza nell’individuare associazioni conoscenza
5
Statistica tradizionale
descrittiva Statistica inferenziale Inferenze e previsioni Descrizione dei dati Sono i due campioni identicamente distribuiti ?
6
Il processo di estrazione di conoscenza (KDD)
Database / Data Warehouse Target data Selection / Sampling Transformed data Transformation and reduction Cleaned data Preprocessing and cleaning Patterns / models Data Mining Knowledge Visualization / Evaluation
7
Tecniche e tradizionali ambiti applicativi del Data Mining
clienti Segmentazione della clientela Tecniche e tradizionali ambiti applicativi del Data Mining vendite Analisi delle associazioni DATA MINING Clustering Reti neurali Alberi di decisione Associazioni Segmentazione Classificaz./ Previsione agenzie stampa Analisi testuale TEXT MINING brevetti Technology Watch Torneremo in dettaglio sulle tecniche
8
Perché il Data mining in biologia
Esplosione della informazione biologica in forme diverse The Human Genome Project: più di 22.1 miliardi di basi; parecchie decine di migliaia di geni sono stati identificati a partire dalla sequenza genomica. L’analisi delle sequenze mostrano 38,000 geni confermati dall’evidenza sperimentale. Swiss Prot Database: più di 10,000 proteine Pubmed: più di 12,000,000 abstracts biologici , ed il loro numero sta ancora aumentando! ………
9
Perché il Data mining in biologia
Relazioni complesse tra i dati biologici
10
Perché il Data mining in biologia
L’industria biofarmaceutica genera più dati chimici e biologici di quanti ne riesca a trattare. Come risultato di tutto ciò la creazione di nuovi composti farmaceutici è spesso un lungo ed arduo lavoro.
11
Perché il Data mining in biologia
La biologia rappresenta un campo di applicazione interessante per il Data Mining con un notevole disponibilità di dati e di problemi complessi. I metodi tradizionali, a volte, non sono sufficienti per analizzare una simile quantità di dati. Le due discipline si possono avvantaggiare l’un l’altra nella collaborazione.
12
KDD per la Bioinformatica
Normalization Curation Validation … Sampling Expressed Genes Homologs … Clustering SVMs ILP Classification … Evaluation Visualization Genomic Integrated Data Repository Literature Prepared data Patterns Experimental Spesso non esplicitamente implementata Conoscenza Expert Knowledge Dati
13
Selezione dei dati Interrogazione dei databases pubblici (Bioperl).
Genbank. Stanford microarray database. SWISS-Prot. …. Dati raccolti in esperimenti Integrazione delle diverse fonti di dati
14
Preparazione dei dati (data cleansing)
Rimozione dei dati non validi, ridondanti o privi di utilità. Trattamento dei dati mancanti. Selezione delle variabili Trasformazione dei dati. Dicotomizzazione, normalizzazione, riproporzionamento, etc.
15
Alcune tecniche di Data Mining
Clustering (classificazione non supervisionata) Text Mining (Medmole) Regole di associazione Classificazione (Alberi di decisione) Visualizzazione dei risultati Altre tecniche: analisi delle serie temporali, analisi delle sequenze
16
Clustering Il punto di partenza di tutti gli algoritmi di clustering è un modello che prescinde completamente alla natura dei dati impiegati e dalle specifiche problematiche disciplinari. Si fa riferimento in generale ad una matrice dei dati contenente informazioni su N oggetti (casi o osservazioni; righe della matrice) specificate dai valori assegnati a V variabili (colonne della matrice)
17
Clustering Scelta delle variabili Indice di somiglianza
Metodo di formazione dei gruppi Determinazione dei criteri di valutazione
18
Rappresentazione formale del dato in forma matriciale
Clustering Rappresentazione formale del dato in forma matriciale variabile osservazione
19
Clustering Dalla matrice dei dati originaria (di dimensione NxV) si passa ad una matrice di distanze o di similarità fra casi (di dimensione NxN) Distanze dall’oggetto j Distanze dall’oggetto i
20
Clustering Una volta stabiliti i criteri per la misura del grado di similarità/diversità, è possibile sviluppare molteplici algoritmi per la classificazione dei casi. Per variabili di tipo quantitativo si calcolano misure di distanza. Per variabili di tipo qualitativo si calcolano misure di similarità.
21
Clustering Misure di distanza Distanza euclidea (di norma 2)
Distanza di Manhattan (o a blocchi) Alcuni esempi di misure di distanza
22
Esempi di misura di distanza
Clustering Esempi di misura di distanza Distanza euclidea: d(x,y) = sqrt(42+32) = 5 y = (9,8) 5 3 Distanza di Manhattan: d(x,y) = 4+3 = 7 4 x = (5,5)
23
Clustering Misure di similarità xk: 0 1 1 0 1 xj: 1 1 0 1 1 a11 a10
Numero di 1 corrispondenti xk: xj: a11 a10 a01 a00 1 0 1 2 2 Jaccard: d(i,k)= (a11) / (a11 + a10 + a01 ) Condorcet: d(i,k)= a11 / [a11+0.5(a10 + a01)] Dice bis: d(i,k)= a11 / [a (a10 + a01)]
24
Tecniche di Clustering
gerarchico Clustering partitivo K-medie, Som, … Analisi relazionale …………..
25
Tecniche di Clustering
Clustering partitivo Clustering gerarchico E E1 E2 E7 E8 E E7 E3 E8 E2 E4 E1
26
Gene Expression clustering
Per gene (rat spinal cord development, yeast cell cycle): Wen et al., 1998; Tavazoie et al., 1999; Eisen et al., 1998; Tamayo et al., 1999. Per condizione o tipo di cella Golub, et al. 1999; Alon, et al. 1999; Perou, et al. 1999; Weinstein, et al Cheng, ISMB 2000.
27
Text Mining (Medmole) Le tecniche di clustering sono utilizzate anche nelle applicazione di Text Mining. Medmole è un’applicazione di Text Mining sugli abstract di Medline
28
Results example: RET <OR> BRCA1
29
Results example: RET <OR> BRCA1
Cluster Results example: RET <OR> BRCA1
30
Results example: RET <OR> BRCA1
Cluster Keywords Results example: RET <OR> BRCA1
31
Results example: RET <OR> BRCA1
32
Regole di associazione
Dati del problema: I insieme di items Prodotti venduti da un supermercato Transazione T: insieme di items t.C. T i Oggetti acquistati nella stessa transazione di cassa al supermercato Base di dati D: insieme di transazioni
33
Regole di associazione
Regola di associazione X Y X,Y I Supporto S: #trans. contenenti XY #trans. in D rilevanza statistica Confidenza C: #trans. contenenti XY #trans. contenenti X significatività dell’implicazione
34
Regole di associazione tra Sequenze proteiche, Struttura e Funzione
PROSITE Sequence Motif Database SWISS-PROT Protein Sequence Database PDB Protein 3D Structure Database
35
Classificazione Quale classe? Modello di classificazione Nuovi dati
36
Classificazione Dati del problema: Problema: insieme di classi
insieme di oggetti etichettati con il nome della classe di appartenenza (training set) Problema: trovare il profilo descrittivo per ogni classe, utilizzando le features dei dati contenuti nel training set, che permetta di assegnare altri oggetti, contenuti in un certo test set, alla classe appropriata
37
Costruzione del modello
Metodo di classificazione Training Data Modello IF Color = ‘Yellow’ OR Shape = ‘Conical’ or … THEN Class = ‘good’
38
Valutazione del modello
Testing Data Modello di classificazione Quanto è accurato il modello ? IF Color = ‘Yellow’ OR Shape = ‘Conical’ or … THEN Class = ‘good’
39
Applicazioni Classificazione tendenze di mercato
identificazione automatica di immagini identificazione del rischio in mutui/assicurazioni efficiacia trattamenti medici
40
Alberi di decisione Veloci rispetto agli altri metodi
Facili da interpretare tramite regole di classificazione Possono essere convertiti in interrogazioni SQL per interrogare la base di dati
41
Esempio ETA` 40 65 20 25 50 TIPO AUTO familiare sportiva utilitaria
CLASSE RISCHIO basso alto Eta` < 26 si no Alto Tipo auto utilitaria sportiva familiare Alto Basso Alto
42
Costruzione albero Due fasi:
fase di build: si costruisce l’albero iniziale, partizionando ripetutamente il training set sul valore di un attributo, fino a quando tutti gli esempi in ogni partizione appartengono ad una sola classe fase di pruning: si pota l’albero, eliminando rami dovuti a rumore o fluttuazioni statistiche
43
Esempio di albero di decisione creato per la classificazione di tessuti in cancerosi o non cancerosi utilizzando come variabili l’espressione genica dei geni rilevanti nel B-cell Lymphoma
44
Altri metodi di classificazione
Reti neurali Support Vector Machine Naive Bayes ……
45
Visualizzazione Coordinate parallele Visualizzazione dei cluster
Evoluzione Temporale Purpose of visualization gain insight into an information space by mapping data onto graphical primitives provide qualitative overview of large data sets search for patterns, trends, structure, irregularities, relationships among data help find interesting regions and suitable parameters for further quantitative analysis provide a visual proof of computer representations derived
46
Alcuni libri introduttivi
1. Bioinformatics – the machine learning approach by P. Baldi & S. Brunak, 2nd edition, the MIT press, 2001 2. Data mining – concepts and techniques by J. Han & M. Kamber, Morgan Kaufmann publishers, 2001 3. Pattern classification by R. Duda, P. Hart and D. Stork, 2nd edition, john Wiley & sons, 2001
Presentazioni simili
© 2024 SlidePlayer.it Inc.
All rights reserved.