Correlazione e regressione Correlazione Come posso determinare il legame tra due o più variabili? COEFFICIENTE DI CORRELAZIONE (r di Pearson) massimo.

Presentazione sul tema: "Correlazione e regressione Correlazione Come posso determinare il legame tra due o più variabili? COEFFICIENTE DI CORRELAZIONE (r di Pearson) massimo."— Transcript della presentazione:

1

2 Correlazione e regressione

3 Correlazione

4 Come posso determinare il legame tra due o più variabili? COEFFICIENTE DI CORRELAZIONE (r di Pearson) massimo consumo di ossigeno e prestazione nelle gare di resistenza indice di forza relativa e capacità di salto Correlazione

5 COEFFICIENTE DI CORRELAZIONE –1< r < +1 r=0 indica assenza di correlazione se r >0 le due variabili covariano se r <0 le due variabili controvariano r=1 o r=-1 esiste una relazione matematica tra le due variabili Correlazione

6 Calcolo di r Misura la forza della associazione tra due variabili Correlazione

7 t (ore) VO 2 (ml/kg min) 2.278 2.378.5 2.576 2.875.8 2.960.1 3.059.2 3.159.0 3.159.2 3.358.7 3.458.0 ESEMPIO: velocità di corsa e consumo di ossigeno Correlazione

8 t (t-t) VO 2 (VO 2 -VO 2 )(t-t) (VO 2 -VO 2 ) 2.2 -0.66 78 11.75-7.755 2.3 -0.56 78.5 12.25-6.86 2.5 -0.36 76 9.75-3.51 2.8 -0.06 75.8 9.55-0.573 2.9 0.04 60.1 -6.15-0.246 3.0 0.14 59.2 -7.05-0.987 3.1 0.24 59.0 -7.25-1.74 3.1 0.24 59.2 -7.05-1.692 3.3 0.44 58.7 -7.55-3.322 3.4 0.54 58.0 -8.25-4.45 -31.14 NUMERATORE Correlazione

9 t (t-t)(t-t) 2 VO 2 (VO 2 -VO 2 )(VO 2 -VO 2 ) 2 2.2 -0.660.4356 78 11.75138.06 2.3 -0.560.3136 78.5 12.25150.06 2.5 -0.360.1296 76 9.7595.06 2.8 -0.060.0036 75.8 9.5591.20 2.9 0.040.0016 60.1 -6.1537.82 3.0 0.140.0196 59.2 -7.0549.70 3.1 0.240.0576 59.0 -7.2552.56 3.1 0.240.0576 59.2 -7.0549.70 3.3 0.440.1936 58.7 -7.5557.00 3.4 0.540.2916 58.0 -8.2568.06 1.504789.25 DENOMINATORE Correlazione

10 Sostituisco i valori le due variabili sono inversamente correlate (all’aumentare del tempo corrisponde una diminuzione del consumo di ossigeno) Correlazione

11

12

13 La regressione lineare semplice

14 REGRESSIONE Esempio: relazione tra FEV 1 (Volume espiratorio forzato) e altezza altezza (cm) FEV 1 (litri) altezza (cm) FEV 1 (litri) altezza (cm) FEV 1 (litri) 164.03.54172.03.78178.02.98 167.03.54174.04.32180.74.80 170.43.19176.03.75181.03.96 171.22.85177.03.09183.14.78 171.23.42177.04.05183.64.56 171.33.20177.05.43183.74.68 172.03.60177.43.60 Regressione

15 La retta è la migliore rappresentazione della relazione tra le due variabili Regressione

16 In questo esempio, vogliamo sapere quale è la media (valore atteso) del FEV 1 per gli studenti di una certa altezza e quale è l’incremento del FEV 1 all’aumento unitario dell’altezza FEV 1 è la variabile di risposta o dipendente altezza è la variabile esplicativa o indipendente FEV 1 = a + b x altezza REGRESSIONE LINEARE SEMPLICE Regressione

17 Il modello di regressione lineare semplice - 1 y =  0 +  x +  Una retta nel piano

18 y =  0 +  x +  Variabile di risposta (dipendente, response variable) Termine di errore Parte sistematica del modello intercetta parametri ignoti del modello, stimati sulla base dei dati disponibili Variabile esplicativa (predittiva, indipendente, explanatory) coefficiente di regressione lineare { Il modello di regressione lineare semplice - 2

19 y =  0 +  x +  Variabile di risposta (dipendente) Termine di errore, parte probabilistica Predittore lineare, parte deterministica del modello, senza variabilità casuale L’errore, e quindi la variabile di risposta, si distribuisce NORMALMENTE Il modello di regressione lineare semplice - 3

20 Il FEV 1 (Y) dipende dalla statura (X 1 ) E(y) =  0 +  1 x 1 y =  0 +  1 x 1 +  E(y) = valore atteso (media) del FEV1 degli individui che hanno quella determinata statura y = FEV 1 di un determinato individuo, che dipende dalla statura, (parte sistematica del modello), ma anche da altre caratteristiche individuali (ε, parte probabilistica) Il modello di regressione lineare semplice - 4

21 Modello teorico (ignoto) y =  0 +  1 x +  Regressione Lineare stimata y = b 0 + b 1 x Il modello di regressione lineare semplice - 5

22 Come costruire la retta? Metodo dei MINIMI QUADRATI FEV 1 (litri) = -9.19 + 0.0744 x altezza (cm) Se uno studente è alto 170 cm, il suo FEV 1 è 3.458 litri Regressione

23 FEV 1 (litri) = -9.19 + 0.0744 x altezza (cm) coefficiente di regressione intercetta Regressione

24 SCOMPOSIZIONE DELLA DEVIANZA nella Regressione lineare semplice - 1 y =  0 +  x +  ŷ -  y { } y- ŷ (y-  y) = (ŷ -  y) + (y- ŷ )

25 SCOMPOSIZIONE DELLA DEVIANZA nella Regressione lineare semplice - 2 (y-  y) = (ŷ -  y) + (y- ŷ ) Variabilità totale Variabilità spiegata dalla regressione Variabilità residua Σ(y-  y) 2 = Σ (ŷ -  y) 2 + Σ(y- ŷ) 2 Devianza totale, SST Devianza spiegata dalla regressione, SSR Devianza residua, SSE Si può dimostrare che:

26 METODO DEI MINIMI QUADRATI Si sceglie la retta che riduce al minimo la devianza residua, SSE, Σ(y- ŷ) 2 Si cerca di trovare la retta che meglio interpola, che meglio si adatta alla nuvola di punti. Regressione lineare semplice

27 La retta di regressione approssima bene i dati. La retta di regressione approssima male i dati. devianza spiegata >dev.residuadevianza spiegata <dev.residua b prossimo a zero b elevato

28 COEFFICIENTE DI DETERMINAZIONE r 2 = 1-SSE/SST=SSR/SST r 2 = Σ (ŷ -  y) 2 / Σ(y-  y) 2 SST = Devianza (o Somma dei quadrati) totale SSR = Devianza (o Somma dei quadrati) spiegata dalla Regressione Proporzione di variazione totale della variabile dipendente Y che è spiegata dalla variabile indipendente X

29 Correlazione = relazione di tipo simmetrico: le due variabili sono sullo stesso piano Regressione = relazione di tipo asimmetrico: una variabile casuale (Y) dipende da una variabile fissa (X)

30 Regressione lineare semplice y =  0 +  x +  ASSUNZIONI 1) Il valore atteso degli errori E(ε) deve essere pari a ZERO 2) OMOSCEDASTICITA’ (La varianza degli errori rimane costante) 3) INDIPENDENZA degli errori se le provette tra un esame e l’altro non vengono lavate adeguatamente, una determinazione risente della determinazione precedente 4) Distribuzione NORMALE degli errori

31 variabile Y variabile X 1  

32 Inferenza sui parametri: i dati “supportano” il modello proposto? Il valore stimato mediante la retta di regressione si avvicina molto all’osservazione reale. Raccogliendo altri punti campionari, la retta calcolata resterebbe probabilmente immutata. La retta di regressione esprime la relazione reale che esiste tra X ed Y. I punti hanno distanze dalla retta di regressione che sono sensibilmente minori di quelle dalla media.

33 Inferenza sui parametri: i dati “supportano” il modello proposto? La retta calcolata non è rappresentativa di una relazione reale tra X ed Y. La retta calcolata non rappresenta un miglioramento effettivo della distribuzione dei punti, rispetto alla loro media.

34 Inferenza sui parametri: i dati “supportano” il modello proposto? Test t di Student, basato su b 1 (stima di  1 ) H 0 :  1 = 0 H 1 :  1  0 { b 1 ~ N (  1, σ 2  ) Σ(x-  x) 2 Non conosco la quantità σ 2 , ne ottengo una stima: t = ─── = ──────── = ─────── ~ t n-2 g.d.l. b 1 -0 b 1 b 1 ES b σ 2  = Σ(y- ŷ) 2 n-2 ^ σ2σ2 Σ(x-  x) 2 ^ Σ(y- ŷ) 2 ( n-2) Σ(x-  x) 2

35 ESEMPIO: Esiste una relazione tra altezza dei padri e altezza dei figli maschi? (A padri più bassi corrispondono figli più bassi? A padri più alti corrispondono figli più alti?)

36 I passo: rappresentazione grafica mediante diagramma di dispersione (scatterplot)

37 II passo: si ipotizza un modello statistico, che possa essere utile ad interpretare i dati Ipotizziamo un modello lineare del tipo: y =  0 +  x +  (altezza figli) =  0 +  (altezza padri) +  (i figli di uno stesso padre hanno statura abbastanza simile, ma non necessariamente uguale, anche se  ό , cioè figli della stessa madre)

38 b 1 = —————— = 150,5 / 216 = 0,697 cm/cm devianza x codevianza xy b 0 =  y - b 1  x= 176,875 – 0,697 *175,5 = 54,59 cm Retta di regressione: altezza figlio (cm)= 54,6 cm + 0,697 cm/cm *altezza padre (cm) IV passo: Stima dei parametri del modello con il metodo dei minimi quadrati Quando la statura del padre cresce di 1 cm, la statura del figlio cresce in media di 7 mm.

39 VI passo: Inferenza sui parametri: i dati “supportano” il modello proposto? Test t di Student, basato su b 1 (stima di  1 ) H 0 :  1 = 0 H 1 :  1  0 test a due code Livello di significatività = 5% Gradi di libertà = n - 2 = 8 - 2 = 6 Soglia critica = t 6, 0,025 = 2,447 { t = ─── = ──────── = ───────── = 2,588 b-0 b 0,697 ES b  var res /dev x  15,67 / 216 dev res = dev y - codev xy 2 /dev x =198,9 - 150,5 2 / 216 = 94,01 var res = dev res / (n-2) = 94,01 / 6 = 15,67

40 VII passo: Previsione sui valori della variabile Y Per x = 185 cm, qual è il valore atteso di Y? Retta di regressione: ŷ = 54,6 cm + 0,697cm/cm *185 cm = 183,49 cm ES ŷ =  var res [1/n + (x-x) 2 / dev x ] = =  15,67 [1/8 + (185-175,5) 2 / 216 ] = 2,916 IC 95% = ŷ ± t,  /2 * ES ŷ = 183,49 ± 2,447 * 2,916 = 190,63 176,36 [

41 40 Tabella per l’ANALISI della REGRESSIONE Fonte di variabilita' Spiegata Residua Totale 1 N-2 N-1 Devianza Varianza Test-F (errore) DEV / 1 spieg DEV /(N-2) resid VAR spieg resid 1 Σ (ŷ -  y) 2 Σ(y- ŷ) 2 Σ(y-  y) 2