Calcolo delle Probabilita’ e Statistica Metodi Statistici per l’Ingegneria A.A. 2013-14 Recapiti del Tel 0532.

Presentazione sul tema: "Calcolo delle Probabilita’ e Statistica Metodi Statistici per l’Ingegneria A.A. 2013-14 Recapiti del Tel 0532."— Transcript della presentazione:

1 Calcolo delle Probabilita’ e Statistica Metodi Statistici per l’Ingegneria A.A. 2013-14 Recapiti del docente: @ nntmdl@unife.it nntmdl@unife.it Tel 0532 – 97 4994 Mailing List: scrivetemi per essere inclusi nella mailing list del corso, in modo da ricevere informazioni e aggiornamenti su eventuali cambi di orario, etc. Orario di ricevimento Martedi’ 17:00-18:00 e su prenotazione alle 18:50 c/o Dipartimento di Ingegneria (Blocco A) piano 3 stanza 313 durante il periodo didattico. Si prega cmq di prenotarsi per mail almeno il giorno prima. Ricevimento su appuntamento nel resto dell’anno. Libro di testo Sheldon Ross, Probabilita’ e Statistica per Ingegneria e le Scienze, 2 ed., Apogeo Esame Scritto Orale (nella stessa sessione) –opzionale per chi ha superato lo scritto con almeno 18, –obbligatorio per chi ha tra 15 e 17. Oscillazione di voto [-3, +3] Obbligo di iscrizione almeno 3gg prima sul web Testi dei compiti e TRACCE di soluzione sul minisito Programma del corso Sul minisito dell’insegnamento Orario di lezione http://servizi.unife.it/orariolezioni/ martedi’ 14:15-16:30, venerdi’ 16:30-18:45 No lezione venerdi’ 18 OttobreNo lezione venerdi’ 18 Ottobre, recupero in data da definire

2 Programma del corso (cap 1-8) Statistica descrittiva, Rappresentazione dei dati di un campione, media mediana, moda, e varianza campionaria; percentili; boxplot. disuguaglianza di Chebyshev su insiemi finiti; campioni normali; insiemi bivariati; coefficiente di correlazione campionaria. Introduzione alla probabilità: diagrammi di Venn e algebra degli eventi. Richiami di calcolo combinatorio. Assiomi della probabilità. Probabilità condizionale, formula di Bayes, eventi indipendenti. Variabili Aleatorie. –Variabili discrete: Bernoulli e Binomiale, Poissoniana, Ipergeometrica. –Variabili continue: Uniforme, Normale, Esponenziale, Gamma. –Variabili aleatorie inferenziali: Chi quadro, t(di student), F. Valore atteso, def. e proprietà nel caso discreto e nel caso continuo. Valore atteso di somme di variabili aleatorie, valore atteso di funzioni di variabile aleatorie. Distribuzioni congiunte, marginali e condizionali. Variabili indipendenti. Varianza e covarianza di somme di variabili aleatorie. Funzione generatrice dei momenti. Disuguaglianza di Chebyshev per variabili aleatorie. Statistica inferenziale popolazioni e campioni. Stimatori campionari, distribuzioni campionarie, media campionaria, varianza campionaria. Teoria della Stima. Stime puntuali e per intervalli.

3 Statistica Descrittiva vs Inferenziale Descrittiva: Descrive in modo compatto l’insieme dei dati raccolti, attraverso l’utilizzo di indicatori sintetici. Inferenziale: A partire dall’analisi delle caratteristiche di un campione, cerca di inferire le caratteristiche della popolazione a cui il campione appartiene Per condurre correttamente l’analisi, occorre fare delle ipotesi sul modello probabilistico dei dati a cui e’ soggetto il nostro campione sperimentale. Per questo occorre avere le basi della teoria del calcolo delle probabilita’

4 La statistica Descrittiva raccoglie dati, li sintetizza li interpreta Step 1: organizzare la raccolta dei dati Step Fondamentale: la scelta del campione casualmentePer essere rappresentativo, il campione deve essere scelto casualmente tra tutti i sottoinsiemi possibili di tale cardinalita’.

5 Statistica Descrittiva: rappresentazione dei dati Quando i dati assumono pochi valori diversi (gli stessi valori sono ripetuti piu’ volte nel campione), la rappresentazione piu’ semplice e’ la tabella delle frequenze Valore del dato Numero di volte (frequenza) 274 281 293 305 318 3210 345 362 373 401 Esempio: Dati salariali. Il campione descrive il reddito annuale iniziale, in migliaia di $, di 42 ingegneri.

6 Def Frequenza Relativa Si dice frequenza relativa di un valore i il rapporto tra la sua frequenza, f i cioe’ il numero di volte che tale valore compare nel campione, e la cardinalita’ n del campione stesso. Esempio sul campione di 42 elementi 2744/42=0.095 (9.5%) 2811/42=0.024 (2.38%) 2933/42=0.071 (7.14%) 3055/42=0.119 (11.9%) 3188/42=0.190 (19.05%) 321010/42=0.238 (23.81%) 3455/42=0.119 (11.9%) 3622/42=0.047 (4.76%) 3733/42=0.071 (7.14%) 4011/42=0.024 (2.38%) Valore Frequenza Freq. relativa (%) La somma delle frequenze relative e’ a somma 1

7 Rappresentazioni grafiche del campione sull’asse x delle ascisse sono rappresentati i diversi valori che possono assumere i dati, e in ordinata y le frequenze. Si danno diverse rappresentazioni Line graph (grafico a bastoncini). Grafico a barre Grafico a linee (spezzata)

8 Grafico a torta per i valori non numerici del dato Es. Orientamento politico, il partito votato non e’ un dato numerico Tipi di tumore (l’organo affetto) Sport principale praticato dai bambini di una scuola L’angolo giro di 360° e’ suddiviso in settori, uno per ogni valore, di ampiezza proporzionale alla frequenza relativa Organo affetto Frequenza (su 200) Polmoni42 Seno50 Colon32 Prostata55 Melanoma cutaneo9 Vescica12

9 Quando i valori assunti dai dati numerici sono molto numerosi (1) si aggregano per intervalli si aggregano per intervalli del tipo (a i,b i ] di ampiezza costante ISTOGRAMMA. In tal caso il grafico a barre prende il nome di ISTOGRAMMA. E’ molto utile in quanto visivamente rappresenta anche l’ampiezza scelta degli intervalli. I dati sull’asse delle x rappresentano i valori estremi degli intervalli e sono posti al confine tra una barra e la successiva, mentre nel grafico a barre vi e’ un valore (centrale) per ogni barra.

10 Quando i valori assunti dai dati numerici sono molto numerosi (2) In alternativa si utilizza la curva delle FREQUENZE CUMULATIVE (ogiva) OGIVA: il numero dei dati y v che hanno valore uguale o minore a x v. grafico di una funzione non decrescente sul piano cartesiano che, ad ogni valore x v appartenente all’intervallo dei valori assunti dai dati del campione, fa corrispondere il numero dei dati y v che hanno valore uguale o minore a x v. ( ) (anticipa il concetto di distribuzione / ripartizionedi variabili aleatorie) NB in caso di valori discreti dei dati si tratta di una spezzata

11 Quando i valori assunti dai dati numerici sono molto numerosi (3) Si utilizzano i diagrammi stem and leaf Occorre identificare una gerarchia nel dato numerico, dividendo il valore in una parte significativa e una meno. Pensate per esempio al consumo in m 3 rilevato dai contatori del gas: si tratta di un numero a piu’ cifre, composto da una parte rossa (piu’ significativa, con le cifre a sx del punto decimale) e una parte nera (< 1 m 3 ). In tabella si riporta, per ogni valore significativo, l’insieme dei valori meno significativi associati nei dati del campione. Es. L’insieme dei dati rilevati in un condominio di 11 unita’ abitative {1.56, 3.4, 3.78, 2.3, 9.14, 5.2, 3.87, 6.9, 2.84, 3.1, 5.54} si rappresenta come in figura: rossonero 156, 230, 84 340, 78, 87, 10 520, 54 690 914

12 Statistiche di sintesi dei dati numerici dei campioni Media campionaria Mediana campionaria Moda campionaria

13 Media campionaria Si definisce media campionaria di un campione di n dati numerici S(X)={x 1,..,x n } il valore x average = 1/n Σ i=1..n x i Come cambia la media per trasformazioni lineari del dato Sia y i = ax i + b, allora vale y average = a x average + b Come si utilizza questa proprieta’? Semplificando i calcoli, shiftando i valori di S sottraendo a ciascuno il valore x min, svolgendo il calcolo della media sul campione S(Y)={y i =x i -x min } e poi sommando alla media x min. Quindi x average = y average + x min Utilita’: ridurre l’incidenza degli errori di cancellazione nelle operazioni Date le frequenze f i dei valori, e le frequenze relative (occorrenza / cardinalita’ del campione)  i = f i /n si osserva che la media campionaria e’ la somma pesata dei valori per le frequenze relative Siano {v 1,..,v k } i k valori distinti assunti dai dati del campione, sia  i la frequenza relativa del valore v i. x average =  i=1..k v i  i Allora, x average =  i=1..k v i  i

14 Mediana campionaria centroLa mediana descrive il centro di un insieme di dati. Si definisce la mediana campionaria di un campione di dati numerici S={x 1,..,x n } ORDINATO IN ORDINE CRESCENTE il valore posizionato in posizione intermedia: n/2 per n dispari, la media tra i valori in posizione n/2 e (1 + n/2) per n pari Sia la media che la mediana descrivono I valori “centrali” del campione. Inoltre la media e’ molto sensibile ai valori estremi, sia particolarmente alti ☺ che bassi ☹ (pensate alla media dei vostri esami), ma non danno indicazioni sulle frequenze dei valori nel campione. Quante volte viene assunto dai dati questo specifico valore? MODA Quale e’ il valore + frequente? A quest’ultima domanda risponde la MODA

15 Moda campionaria Si definisce la moda campionaria di un campione di dati numerici S={x 1,..,x n } il valore con frequenza massima se unico. Altrimenti, tutti i valori con frequenza pari alla frequenza massima si dicono Valori Modali La moda descrive il centro della DISTRIBUZIONE dei dati ……………………………………………. Ex: calcolo di media mediana e moda di un campione 40 lanci di un dado a 6 facce, questi i risultati Valore 123456 Frequenza985567 Media campionaria: (9 + 2·8 + 3·5 + 4·5 + 5·6 + 6·7) / 40 = 3.05 Mediana campionaria: avendo 40 lanci si prende la media di valori 20 esimo e 21 esimo, cioe’ (3+3)/2=3 Moda campionaria: il valore con massima frequenza e’ 1, che compare nel campione per 9 volte

16 Media mediana e moda sono informazioni complementari, nel senso che la loro conoscenza congiunta permette una lettura piu’ approfondita del campione. I topi di laboratorio Un gruppo di topi di 35gg e’ sottoposto a radiazioni e poi diviso in due sottogruppi S 1 di 29 elementi e S 2 di 19, tenuti in ambiente serile / normale. Questi i giorni di vita nei due gruppi (stem and leaf) 158,92,93,94,95159,89,91,98 202,12,15,29,30,37,40,44,47,59235,45,50,56,61,65,66,80 301,01,21,37343,56,83 415,34,44,85,96403,14,28,32 529,37 624 707 800 media S 1 =344.07, media S 2 =292.32, ma mediana S 1 =259 (quindicesimo valore), e mediana S 2 =265 (decimo valore) Infatti la media di S 1 risente molto dei valori alti, 624 707 e 800, ma la mediana non ne viene influenzata purche’ siano > a 259. Quindi l’ambiente sterile ha allungato la vita dei topi + longevi ma non si possono trarre conclusioni sugli altri Esempio 2.3.4

17 Media mediana e moda descrivono i valori “centrali” del campione, MA non colgono il grado di dispersione / concentrazione dei dati attorno a tali valori. Esempio Siano dati i due insiemi S a ={3,4,6,7,10} e S b ={-20,5,15,24} Calcoliamone le medie: x a =(3+4+6+7+10)/5 = 6, x b =(-20+5+15+24)/4 = 6, Si evince che confrontare le medie di due campioni non fornisce indicazioni sufficienti per dedurne delle conseguenze Occorrono altri indicatori, Varianza e Deviazione Standard Esempio 2.3.6

18 Varianza campionaria La varianza s 2 di un campione S={x 1,..,x n } descrive lo scarto quadratico medio dalla media campionaria Def. Se calcoliamo la varianza dei due campioni S 1 eS 2, notiamo come la loro varianza differisca notevolmente s 2 a = ( (3-6 )2 + (4-6) 2 + (6-6) 2 + (7-6) 2 + (10-6) 2 ) / 4 = 7.5 s 2 b = ( (-20-6) 2 + (5-6) 2 + (15-6) 2 + (24-6) 2 ) / 3 = ~ 360

19 Proprieta’ della varianza Trasformazioni lineari dei dati del campione La varianza e’ invariante rispetto alla somma di costanti e varia con il quadrato del coefficiente moltiplicativo Sia s x 2 la varianza di un campione S x e si operi la trasformazione y i =x i +b. Allora s x 2 e’ anche la varianza del campione S y ={y i =x i +b} Si operi la trasformazione z i =ax i, allora la varianza del campione S z ={z i =ax i } e’ s z 2 = a 2 s x 2 Th Dim.

20 Deviazione Standard Campionaria Si definisce la deviazione standard campionaria come la radice quadrata della Varianza Campionaria. Si osservi che s ha la stessa unita’ di misura dei dati del campione. Vedremo che proprio per questo e’ utile nello stimare il numero di dati del campione che sono presenti in un certo intervallo di valori centrato nella media campionaria.

21 Percentile, quartile, box plot Percentile k esimo Def. dato k intero ∊(0,100), si definisce come Percentile k esimo il valore  al k% dei dati del campione e contemporaneamente ≤ al (100-k)% dei dati, se unico, altrimenti la media dei 2. Si tratta del valore in posizione  nk/100  avendo i dati del campione ordinati in ordine (non de)crescente. primo quartileIl 25 esimo percentile si dice primo quartile, mediana secondo quartileil 50 esimo corrisponde alla mediana campionaria, o secondo quartile terzo quartileil 75 esimo si dice terzo quartile

22 Esempio: data set di 36 rilevazioni di rumore Diagramma stem and leaf dei valori 6 0,5,5,8,9 7 2,4,4,5,7,8 8 2,3,3,5,7,8,9 9 0,0,1,4,4,5,7 10 0,2,7,8 11 0,2,4,5 12 2,4,5 Calcoliamo il 1 quartile (25 precentile) Il campione e’ di 36 dati, cerco (almeno) un dato che sia >= dei primi 9 dati ( 9 = ceiling(36 * 25/100) ) <= dei maggiori 27 ( 27 = ceiling(36 * (1 - 25/100)) ) Il nono dato, 75 e’ >= dei primi 9, e <= dei maggiori 28 Anche il decimo dato, 77, soddisfa alle condizioni: 77 e’ >= dei primi 10 ed e’ <= dei maggiori 27 Quindi il primo quartile (25 esimo percentile) e’ (75+77)/2 = 76. NB il k^ percentile puo’ non essere un dato del campione!!

23 Box Plots Si dice blox plot la rappresentazione sul segmento associato all’ intervallo compreso tra il valore minimo e quello massimo nel campione, due rettangoli di due rettangoli adiacenti aventi come lato la parte tra il primo e il secondo quartile, e tra il secondo e il terzo. 2740 3031.534 60 125 Questo e’ il box plot deli dati di tabella 2.6 Ora facciamo quello dei dati della rumorosita’ 7689.5104.5 La mediana e’ la media tra 89 e 90, il terzo percentile la media tra 102 e 107

24 Box plot dei risultati prodotti da 14 algoritmi diversi su 100 istanze. Che tipo di valutazioni vi consente di fare questa rappresentazione?

25 Disuguaglianza di Chebyshev Stabilisce per difetto il numero di dati del campione che si trovano entro una certa distanza dalla media campionaria. Tale distanza e’ espressa in termini di multipli della deviazione standard campionaria s. Def. dato un campione S={x 1,..,x n } di media campionaria x avg e deviazione standard campionaria s, sia S k l’insieme degli indici dei dati con valore nell’intervallo [x avg - ks, x avg + ks]. Allora per ogni k  1 vale che |S k | /n  1 – (n-1)/(nk 2 ) > 1 – 1/k 2. gli elementi fuori da S k sono non piu’ di 1/k 2 volte quelli di S. Quindi gli elementi fuori da S k sono non piu’ di 1/k 2 volte quelli di S.

26 Th: |S k | /n  1 – (n-1)/(nk 2 ) > 1 – 1/k 2 Dim. Quindi Divido entrambi i membri per nk 2 s 2 Maggioro (n-1) con n e semplifico Riordino i termini mettendo in evidenza |S k |/n Per def di varianza campionaria Scompongo la sommatoria tra i termini in S k e quelli fuori da S k In base alla definizione di S k Porto fuori dalla sommatoria k 2 s 2

27 Campioni Normali Molto spesso gli istogrammi dei dati relativi a delle misurazioni sperimentali in contesti anche molto dissimili, hanno una forma caratteristica I campioni normali sono contraddistinti dalla forma a campana degli istogrammi dei dati Presentano un unico massimo in corrispondenza della mediana Media = mediana = moda La curva della campana e’ simmetrica rispetto alla media Esempi: altezza dei bambini di una certa scuola, misurata al k esimo giorno di eta’, ore spese davanti alla tv in un giorno, valore dell’emoglobina negli individui sani di sesso maschile in una certa fascia di eta’,… campioniNORMALI I campioni con queste caratteristiche si dicono campioni NORMALI

28 Esempio di istogramma di un campione perfettamente normale

29 Esempio di istogramma di un campione approssimativamente normale

30 Esempio di istogramma di un campione skewed a sinistra Asimmetria rispetto alla mediana, coda + lunga a sinistra

31 Esempio di istogramma di un campione skewed a destra Asimmetria rispetto alla mediana, coda + lunga a destra

32 Nei campioni approssimativamente normali vale la seguente regola empirica che rinforza la disuguaglianza di Chebyshev fornendo percentuali maggiori dei dati che si trovano a distanza s, 2s e 3s dalla media Regola empirica: In un campione approx normale sia x av la media e s la deviazione standard campionaria, allora 68%Il 68% dei dati sta nell’intervallo [x av - s, x av +s] 95%Il 95% dei dati sta nell’intervallo [x av -2s, x av +2s] 98%Il 98% dei dati sta nell’intervallo [x av -3s, x av +3s] x av

33 Campioni Bivariati coppie di valoriQuando i dati relativi a una singola osservazione nel campione sono coppie di valori, es temperatura e umidita’, grado di istruzione e stipendio medio, si parla di campioni BIVARIATI diagramma di dispersioneI dati vengono rappresentati come punti sul diagramma di dispersione, un piano cartesiano con i valori in ordinata e in ascissa riferiti alle due classi di valori dei dati. Soggetto1 2 3 4 5 6 7 8 9 10 Anni scuola12 16 13 18 19 12 18 19 12 14 Frequenza Card73 67 74 63 73 84 60 62 76 71

34 Correlazione tra valori delle coppie (x,y) Indichiamo ogni dato i esimo con la coppia dei valori associati (x i,y i ) Ci si domanda se esiste corrispodenza tra I valori di x e y, in particolare –se a valori alti di x corrispondono generalmente valori alti di y e a valori bassi di x corrispondono generalmente a valori bassi di y si parla di correlazione positiva MENTRE –Se a valori alti di x corrispondono generalmente valori bassi di y e a valori bassi di x corrispondono generalmente valori alti di y si parla di correlazione negativa tra x e y. Nel primo caso il diagrama di dispersione evidenzia una curva crescente, nel secondo una curva decrescente

35 Introduciamo una misura di questa relazione Siano x avg e y avg le medie dei valori dei dati relativi al primo e al secondo valore dei dati. prodotto delle differenze dalle medie, Per ogni dato i esimo consideriamo il prodotto delle differenze dalle medie, (x avg -x i )(y avg -y i ) Se (x avg -x i )(y avg -y i )>0 allora sia il primo che il secondo valore del dato sono sopra la rispettiva media, oppure entrambi inferiori ad essa. E’ cio’ che accadrebbe in caso di correlazione POSITIVA Se (x avg -x i )(y avg -y i )<0 allora o il primo valore del dato iesimo x i e’ inferiore alla sua media x avg mentre il secondo valore y i e’ superiore alla propria media y avg, o viceversa. E’ cio’ che accadrebbe in caso di correlazione NEGATIVA. Sommiamo questo valore per tutti i dati del campione e normalizziamo dividendo per ((n-1) s y s x ) dove n e’ la cardinalita’ del campione, e s x s y sono le deviazioni standard campionarie del primo e del secondo valore dei dati del campione.

36 Coefficiente di Correlazione Campionaria Def: coefficiente di CORRELAZIONE CAMPIONARIA r la quantita’ si definisce coefficiente di CORRELAZIONE CAMPIONARIA r la quantita’ Espandiamo la formula della Deviazione standard campionaria

37 Proprieta’ del Coefficiente di Correlazione Campionaria 1) Il valore del coefficiente di correlazione campionaria e’ compreso tra -1 e 1 2) Se i valori del secondo elemento della coppia di ciascun dato sono legati al primo da una relazione lineare, i.e., y i = ax i +b  i=1..n, con a>0  allora |r| = 1 Se invece la relazione vale per a<0  allora |r| = -1 3) Sia r e’ il coefficiente di correlazione campionaria del campione C 1 ={(x i,y i )} e sia C 2 ={(w i,z i )} con w i = ax i +b e z i = cy i +d  i=1..n, dove i coefficienti a e c hanno lo stesso segno, allora il campione C 2 ha lo stesso coefficiente di correlazione campionario r del campione C 1. il coefficiente di correlazione tra i due valori {x i } e {y i } NON dipende dall’unita’ di misura utilizzata per misurarli. Una rilevante conseguenza della proprieta’ 3 e’ che il coefficiente di correlazione tra i due valori {x i } e {y i } NON dipende dall’unita’ di misura utilizzata per misurarli.

38 Grado di correlazione tra dati Il valore assoluto di r e’una misura del grado di correlazione esistente tra i due valori del singolo dato in un campione. se |r|=1 la correlazione e’ massima e i punti associati ai singoli dati sul diagramma di dispersione si dispongono lungo una retta, di coefficiente angolare pari al segno di r (crescente per r>0, correlazione positiva, decrescente per r<0, correlazione negativa). Spesso r~1- , con  dell’ordine di qualche decimo. Se r~0.8 la correlazione e’ intensa, mentre per r~0.4 e’ scarsa, e si dice molto debole per 0.3. retta interpolante Tipicamente i sw commerciali hanno una funzione che ricerca la retta interpolante, come la retta che minimizza la somma dello scarto quadratico della distanza di ciascun punto dalla retta stessa. NB Correlazione  Rapporto causa-effetto

39 Un album di figurine ha 60 figurine diverse, vendute in pacchetti da 10: se i pacchetti vengono confezionati in modo assolutamente casuale e ogni figurina ha la stesse probabilita’ di venire inserita in una bustina, quale e’ la probabilita’ di non avere doppioni in una singola bustina? Si vuole calcolare la probabilità come numero di casi favorevoli / numero casi possibili. Il numero dei casi possibili è dato da 60 10. Esso infatti è il numero di modi di scegliere 10 figurine su 60 tenendo conto dell’ordine e con ripetizione. Il numero dei casi favorevoli equivale al numero di modi di scegliere 10 figurine su 60 senza ripetizione perché si richiede che siano tutte diverse, cioe’ 60! / 50! = (60·59·…51) Quindi la probabilità cercata è 60!/(50!·60 10 )