L’analisi della varianza

Presentazione sul tema: "L’analisi della varianza"— Transcript della presentazione:

1 L’analisi della varianza
Introduzione e concetti generali Giovanni Battista Flebus AA

2 L’analisi della varianza (ANOVA, ANalysi Of VAriance) è una tecnica statistica che permette di valutare se le medie di due o più gruppi sono uguali fra loro. La variabile Dipendente è misurata su una scala a intervalli e ha una distribuzione normale La variabile indipendente (classificazione in più gruppi) è una misurazione a livello di scala nominale La classificazione è fatta in modo indipendente

3 L’analisi della varianza
Si basa su due principi: (1) si può stimare la varianza della popolazione in due modi diversi, che tengano conto della suddivisione in gruppi (2) Si possono confrontare due varianze e verificare se sono estratte dalla stessa popolazione

4 Le ipotesi di ricerca Le due ipotesi di ricerca sono le seguenti
H0 : le medie dei k gruppi sono uguali H1 : almeno una delle medie dei k gruppi è diversa dalle altre

5 Ulteriori esplorazioni
Se il test statistico permette di concludere che c’è almeno un gruppo diverso dagli altri, si possono applicare altre tecniche per individuare i gruppi diversi

6 Esempio preliminare In un campione di studenti, si rileva il senso di benessere (un test, scala a intervalli) per vedere se le bocciature a scuola hanno influenza su tale tratto. Il benessere si rileva con un test (BeSco, Test di Benessere Scolastico) Le bocciature a scuola (nessuna, una o due), anche se sono una scala a rapporti, sono considerate qui come una classificazione e quindi come scala nominale. La frequenza dei tre gruppi è la seguente

7 Ecco i dati del campione

8 Il punteggio di benessere nei tre gruppi pare diverso
Il punteggio di benessere nei tre gruppi pare diverso. Ma le differenze sono attribuibili alla variabilità stocastica o sono veramente consistenti?

9 Ma queste differenze sono reali o non sono piuttosto dovuti a fluttuazioni casuali?
Ricorriamo al grafico con basette

10 Esaminiano il grafico a basette
Ci sono sovrapposizioni di intervalli di fiducia per le medie. Nemmeno il grafico a basette ci permette di trarre una conclusione sicura

11 Esaminiamo i risultati dell’ANOVA
Questa tabella è prodotta dall’applicazione dell’ANOVA ai dati, che ci permette di passare alla conclusione… La significatività ci dice che le tre medie non possono essere considerate uguali

12 Principio dell’ANOVA Si può stimare la varianza della popolazione in due modi diversi e confrontare le due stime Primo metodo: calcolare la varianza delle k medie come se fossero k osservazioni Secondo metodo: calcolare la varianza media, usando tutte le osservazioni, eliminando però da ciascuna osservazione l’influenza del proprio gruppo.

13 g2 g1 g3 Media dei singoli gruppi Media totale
Singole osservazioni, in ciascun gruppo

14 Distanza del punto dalla media del gruppo
Punto zero per gruppo 2 (Media del gruppo ) Media del gruppo 2 g3 g2 Media totale g1 Media del gruppo 2

15 Piccolo esempio numerico
Un ricercatore pensa che il tempo passato a muoversi in città sia di detrimento per il rendimento accademico degli studenti universitari. Ha osservato il numero di esami di 12 studenti, suddivisi in tre gruppi secondo l’uso di trasporto per andare in facoltà: A) prendono i mezzi B) Hanno un loro mezzo (moto – auto) C) vivono in zona e quindi vanno a piedi

16

17 Le medie e varianze dei tre gruppi

18 Consideriamo gli elementi utili
1 Le medie dei gruppi 3 La media totale 2 Le varianze dei gruppi

19 Calcoliamo la varianza fra i gruppi
1 Le medie dei gruppi 2 La numerosità dei gruppi è 3 3 La media totale

20 Varianza fra i gruppi = [(4-5,67)2+(6-5,67)2+(7-5,67)2 ] / 2 =
Calcoliamo la varianza delle medie dei gruppi (varianza fra i k gruppi (Xi-M)2/(n-1) Varianza fra i gruppi = [(4-5,67)2+(6-5,67)2+(7-5,67)2 ] / 2 = (2,7889+0,1089+1,7689)/2= 2,3335

21 Varianza della popolazione o varianza della distribuzione campionaria delle medie?
La varianza delle k medie (s2) è però la varianza della distribuzione campionaria delle medie: s2 /n A noi serve la varianza della popolazione: s2 Perciò dobbiamo moltiplicare il valore per n (numerosità nei gruppi):

22 Calcoliamo la varianza della popolazione con la stima della varianza fra i gruppi
(2,7889+0,1089+1,7689)/2= 2,3335 =Varianza delle distribuzione campionaria delle medie (s2/n) Varianza della popolazione = n S2 2,3335 x 4 = 9,3334

23 Calcoliamo la varianza della popolazione con la stima della varianza dentro i gruppi
Calcoliamo la media delle varianze nei gruppi: 2,667+3,333+2,000=8,00 Media della varianza nei gruppi 8,00/3= 2,667

24 I gradi di libertà I gradi di libertà sono dati da
(1) Numero di gruppi -1 per la varianza fra i gruppi (2) Numero di osservazioni meno i gruppi, per la varianza nei gruppi. Nel nostro caso, 3-1= 2 gl per la varianza fra i gruppi 12-3 = 9 gl per la varianza nei gruppi

25 Otteniamo il valore di F
Il rapporto fra le due stime della varianza della popolazione (una nei gruppi e l’altra fra i gruppi) ha una distribuzione descritta dalla variabile casuale F di Fisher Snedecor con gl1 e gl2 gradi di libertà.

26 Nel nostro caso otteniamo
F= 9,334/ 2,666 = 3,500 con 2 e 9 gradi di libertà.

27 Grafico di F con 2 e 9 g.l. Questo grafico è disponibile grazie al computer, nel passato si usavano le tavole per valori singoli di n1 e n2 e per valori selezionati di p (0,10; 0,05; 0,01 ecc.)

28 Le tavole di F ci dicono che il valore 3,500 ricade al di sotto della zona critica e perciò accettiamo l’ipotesi nulla di uguaglianza delle medie dei tre gruppi

29 Grafico di F con 2 e 9 g.l. F=3,50 F=4,256
Area di rifiuto di H0= 0,0,5, maggiore di 0,075 Valore teorico che separa le aree fra 0,95 e 0,05 F=4,256 Area di accettazione di H0= 0,925, F=3,50

30 Per il calcolo con spss Le due varianze sono però calcolate in modo diverso da quello che è stato presentato: si parte dalla somma dei quadrati (distanza dell’osservazione dalla media) (devianza in italiano, Sum of squares in inglese) dentro e fra i gruppi, divisi per i rispettivi gradi di libertà. Il rapporto F è sempre stampato usando la devianza nei e fra i gruppi. La loro somma è uguale alla devianza totale

31 Passiamo a SPSS Selezioniamo il menu Analizza->Confronta Medie-> ANOVA univariata. Compare questo finestra. Inseriamo la variabile Gruppo come fattore, e il numero di esami come variabile dipendente

32 Output di SPSS per l’ANOVA
Significatività di F Guardiamo solo una parte della tabella Valore F calcolato Gradi di liberta FRA e DENTRO i gruppi, quelli totali Le due varianze calcolate nei due modi diversi

33 Il metodo di calcolo seguito è diverso
Le due varianze appena confrontate sono di solito concepite come un rapporto di scarti quadrati, divisi per i rispettivi gradi di libertà, per produrre delle stime delle varianze Per rendere questo metodo di calcolo utilizzabile con gruppi di diversa numerosità, si procede ricordando il concetto di devianza totale, suddivisa in devianza fra i gruppi e devianza nei gruppi

34 La variabilità totale è descritta da SQT, ovvero Devianza totale:
Scomposizione della variabilità totale La variabilità totale è descritta da SQT, ovvero Devianza totale:

35 Scomposizione della variabilità totale
La variabilità fra i gruppi è descritta con la formula seguente Devianza fra i gruppi:

36 Scomposizione della variabilità totale
La variabilità nei (o dentro i) gruppi è descritta dalla SSE detta anche variabilità dell’errore: Devianza dentro i gruppi:

37 Rappresentazione grafica della devianza

38 Dalle devianze alle due varianze
Le due varianze (dentro e fra i gruppi) sono quindi calcolate come rapporti fra due somme di quadrati, divise dai rispettivi gradi di libertà.

39 Test F per ANOVA I risultati del test F per la ANOVA sono generalmente presentati in una tabella come questa:

40 Output di SPSS per l’ANOVA
Significatività di F Guardiamo solo una parte della tabella Valore F calcolato Gradi di liberta FRA e DENTRO i gruppi, quelli totali Le due varianze calcolate nei due modi diversi

41 Output di SPSS per l’ANOVA
Significatività di F Guardiamo solo una parte della tabella Valore F calcolato Gradi di liberta FRA e DENTRO i gruppi, quelli totali Le due varianze calcolate nei due modi diversi

42 Nel grafico seguente, per ogni n osservazione, sono riportati solo gli scarti dalle medie: dalla media generale, dalla media del gruppo e scarto del gruppo dalla media generale.

43 Rappresentazione grafice di punteggi, scarti dalla media e devianza

44

45 Rappresentazione degli scarti dalle medie

46 Grafico degli scarti da tre medie

47 Grafico degli scarti da tre medie
Ingrandiamo il grafico

48

49 Per ogni osservazione, lo scarto dalla media totale è uguale alla somma degli altri due
- 3,67 = (- 2) + (-1,67)

50 La devianza la somma dei quadrati delle distanze dalla media.
Si usa il termine devianza per indicare la somma dei quadrati delle distanze dalla media. In inglese Sum of Squares La varianza stimata della popolazione si ottiene dividendo la devianza per il numero dei gradi di libertà Si usano i termini inglesi within (W) per indicare la devianza nei gruppi e between (B) per indicare la devianza fra i gruppi

51 Esaminiamo il primo studente, che ha un
Numero di esami pari a 2 La media del suo gruppo è 4 La media dell’intero campione è pari a 5,67

52 Per l’osservazione 1, la distanza del primo soggetto dalla media totale è pari a -3,67, il suo quadrato contribuisce alla devianza totale

53 La prima osservazione è pari a 2, dista 2 dalla media del suo gruppo; il quadrato della distanza contribuisce al calcolo della devianza nei gruppi

54 Per la medesima osservazione 1, la distanza della media del gruppo dalla media globale è 1,67; il suo quadrato contribuisce alla devianza fra i gruppi

55 Usando gli scarti dalla media, rappresentiamo i due quadrati per il primo caso (osservazione) che ha un punteggio di 2. La media del suo gruppo è 4 e quella del campione intero è pari a 5,67

56

57 All’interno di ciascun gruppo, i quadrati ocra sono tutti uguali (devianza fra i gruppi). Perché?

58 Devianza totale. Serve per i controlli
Dati sul foglio excel Devianza totale. Serve per i controlli

59 Devianza fra i gruppi Devianza nei gruppi

60 I gradi di libertà Ad ognuna delle devianze sono associati i gradi di libertà: • la devianza totale ha n − 1 gradi di libertà • la devianza tra gruppi ha k − 1 gradi di libertà • la devianza entro i gruppi ha n - p gradi di libertà Dividendo ciascuna devianza per i rispettivi gradi di libertà si ottengono le media dei quadrati, cioè le VARIANZE: Varianza tra i gruppi Varianza entro i gruppi

61 Il rapporto F La statistica F è quindi un rapporto fra due varianze, calcolate dividendo la devianza fra i gruppi per la devianza nei gruppi, ognuno divisa per i rispettivi gradi di libertà

62 Output completo di SPSS

63

64 Output completo di SPSS

65

66 Concludendo… Se le k medie sono simili, la variabilità fra i k gruppi è bassa, la varianza della popolazione è stimata in modo corretto, (tenuto conto della variabilità stocastica), il rapporto F è vicino all’unità e si conclude con l’accettazione di H0. Se c’è molta variabilità fra i k gruppi, la variabilità fra i gruppi è elevata, la varianza della popolazione è sovrastimata, il rapporto F è molto più grande dell’unità, il test statistico di F dà valori di probabilità molto bassi Se la probabilità di ottenere il valore F calcolato è molto bassa, si conclude con il rifiuto dell’ipotesi di nullità di differenze, per accettare l’ipotesi alternativa: almeno un gruppo proviene da una popolazione diversa, ossia con medie diverse

67 ANOVA per due gruppi? Il test dell’ANOVA dà gli stessi risultati della t di Student: infatti il rapporto F è il quadrato della t.

68 Confronti post-hoc Sono confronti che si fanno a posteriori, se l’Anova è significativa e se ci sono più di 2 gruppi in una variabile indipendente La logica è quella di tenere sotto controllo i problemi di significatività legati ai confronti multipli. Vi sono diverse procedure di confronti alcuni presumono che le varianze siano uguali: LSD (Least Significant Difference), Bonferroni,Sidak, Scheffé, SNK (Student-Neumann-Kouls), Tukey HSD (Honestly Significant Difference), Duncan, Hochberg, Gabriel, Waller-Duncan, Dunnett altre no: Tamhane, Dunnett, Games-Howell, C di Dunnett In Spss, premete il bottone Post Hoc... e selezionate tutti i test che volete gli output sono di due tipi: confronti multipli completi oppure gruppi omogenei

69 Esempio con dati reali Differenze di vocabolario nei quattro gruppi di studenti di terza media

70 Il test F è significativo

71 Si conclude che… Almeno un gruppo ha la media diversa dagli altri.
In altre parole, il gruppo con la media più alta è statistica mente diverso dal gruppo con la media più bassa.

72 Un grafico è sempre utile…

73 E degli altri gruppi, che si può dire?
Come si differenziano fra di loro? Esiste un solo gruppo diverso dagli altri? Esistono più gruppi diversi dagli altri? Si possono individuare i gruppi simili e quelli diversi?

74 Differenze a priori e a posteriori
Si può dare risposta a questi interrogativi con i post hoc (termine latino per indicare che si cercano differenze fra i gruppi a posteriori, ossia dopo che si è stabilità la differenza statistica fra i gruppi. I confronti pianificati invece si cercano a priori, perché la teoria prevede già una differenza nei gruppi

75 Test post hoc (LSD)

76 Test dei sottoinsieme omogenei (SNK)

77 Dati sul test di vocabolario, per scuole

78 Le differenze di vocabolario in studenti che andranno in scuole diverse non ci sorprende

79 Il test post hoc sui gruppo omogenei dà risultati molto ben interpretabili

80 Le differenze di vocabolario in studenti che andranno in scuole diverse non ci sorprende

81 Confronti a priori Oltre ai post hoc si possono effettuare dei confronti a priori ovvero decisi prima ancora di effettuare l’anova, sulla base di una teoria Questi confronti si chiamano anche contrasti perché contrastano la media di uno o più gruppi con quella di altri Anche in questo caso ci sono due possibilità: contrasti predefiniti: lineare, quadratico, Helmert...contrasti decisi da noi In Spss, premete il bottone Contrasti... se selezionare Polinomiale, poi potete scegliere fra Lineare, Quadratico, Cubico... (ipotizzo che le medie aumentano o diminuiscono nella varie categorie in modo lineare, quadratico...) altrimenti dovrete inserire dei coefficienti (uno alla volta e poi premere Aggiungi). dopo aver inserito un contrasto è possibile inserirne un secondo tramite il pulsante Successivo