Unità 6 Test parametrici e non parametrici Test per la verifica della normalità Funzione di ripartizione

TEST PARAMETRICI E NON PARAMETRICI L’applicazione di un dato test a una serie di dati dipende dal tipo di distribuzione della variabile casuale che stiamo studiando. Agli effetti pratici possiamo suddividere i test in due categorie: test parametrici, test non parametrici. Nella statistica parametrica si fanno uso di modelli matematici che necessitano di ipotesi a priori sulle caratteristiche della popolazione o comunque di ipotesi più restrittive di quelle della statistica non parametrica.

Nell’analisi di dati biomedici ci possiamo trovare di fronte a: A. dati proventi da distribuzioni gaussiane (o molto simili ad esse); B. dati provenienti da distribuzioni diverse dalla curva di Gauss. Nel caso A (rispettando determinate ipotesi) si utilizzano preferibilmente test parametrici, mentre nel caso B è in generale obbligatorio applicare test non parametrici. Si noti che, mentre nel caso B è in generale errato applicare test parametrici, nel caso A si possono applicare test parametrici o non parametrici. Tuttavia nel caso A è preferibile impiegare test parametrici, poiché, a parità di numerosità del campione, questi sono molto più potenti dei corrispondenti test non parametrici, permettendo così di evidenziare differenze significative con campioni meno numerosi rispetto ai corrispondenti test non parametrici.

OSSERVAZIONE SUI TEST PARAMETRICI Ogni test statistico parametrico impone talune condizioni sulla distribuzione dei parametri della popolazione dalla quale è stato estratto il campione usato nella ricerca. Molte volte (sbagliando) si suppone che queste condizioni siano valide senza effettuare nessuna verifica. La validità dei risultati ottenuti applicando un test parametrico, dipende dalla validità dei presupposti. Un test statistico non parametrico è invece basato su un modello che specifica solo condizioni molto generiche e non richiede condizioni relative alla forma specifica della distribuzione della popolazione da cui è stato estratto il campione.

Esempio Il test t di Student per il confronto di due campioni indipendenti è un classico esempio di test parametrico che descriveremo in seguito. Esso richiede i seguenti presupposti: i dati seguono in modo accettabile una distribuzione normale; i dati sono indipendenti; le deviazioni standard per le due popolazioni sono uguali (in generale diciamo che il rapporto fra la deviazione standard maggiore e quella minore non è maggiore di 2).

TEST PER LA VERIFICA DELLE NORMALITÀ I test parametrici (come il test t di Student) partono dall’ipotesi che le osservazioni seguano una distribuzione gaussiana. In questo caso tutta l’informazione è contenuta nella media  e nella deviazione standard  della popolazione in esame. Tuttavia, quando si considerano dati reali, è raro che tale ipotesi sia completamente verificata: i dati possono essere essenzialmente gaussiani ma presentare occasionali outliers, oppure possono non essere affatto gaussiani. È quindi necessario avere a disposizione procedimenti per verificare, per un dato set di osservazioni, la ragionevolezza dell’assunzione di normalità.

Un modo grossolano per valutare qualitativamente forti scostamenti dalla normalità è quello di analizzare visivamente l’istogramma di frequenza dei dati raccolti. È chiaro che un istogramma in cui si evidenziano chiaramente più mode oppure fortemente asimmetrico a destra o a sinistra suggerisce che i dati che si vogliono analizzare non seguono una distribuzione gaussiana. Un tale approccio non porta però a nessuna informazione quantitativa precisa ed è da considerarsi mediocre. Il modo più classico per valutare la normalità di osservazioni univariate è tramite l’analisi dei coefficienti di asimmetria e di curtosi i cui valori critici al 5% e all’1% sono riportati nei manuali di statistica.

Anche il test del χ2 (che descriveremo in seguito) può essere impiegato per valutare se una distribuzione di frequenze è da considerarsi ragionevolmente di tipo gaussiano oppure no. Con questo test è possibile confrontare le frequenze osservate nel campione in esame con quelle attese nell’ipotesi di distribuzione gaussiana. Shapiro e Wilks hanno proposto un differente test globale che ha buone proprietà di potenza, essendo sensibile ad un’ampia varietà di alternative alla normale. Nel lavoro originale essi hanno riportato i valori critici della loro statistica per una numerosità del campione n50.

Per n>50 D’Agostino ha proposto un test alternativo, dando anche una tavola dei valori critici del suo test per dimensioni campionarie fino a 1000. Un test largamente impiegato, che descriveremo più in dettaglio, è il test di Kolmogorov-Smirnov. Per comprendere il funzionamento del test di Kolmogorov-Smirnov è necessario definire prima il concetto di funzione di ripartizione.

F(x) = P(X≤x) con –∞<x<∞ FUNZIONE DI RIPARTIZIONE In precedenza abbiamo visto che la distribuzione di probabilità di una variabile aleatoria continua X può essere rappresentata con il grafico della densità di probabilità f(x) in funzione di x, come in figura. La funzione di ripartizione (detta anche funzione di distribuzione cumulativa o brevemente funzione di distribuzione) di una variabile casuale X è definita come F(x) = P(X≤x) con –∞<x<∞ Essa esprime perciò la probabilità che la variabile aleatoria assuma valori uguali o inferiori a x. x Funzione di densità di probabilità f(x) Funzione di ripartizione F(x) 1

Essa è quindi una funzione monotona non decrescente che va da 0 a 1. x Funzione di densità di probabilità f(x) Funzione di ripartizione F(x) 1 F(x) rappresenta l’area sottostante alla curva densità di probabilità f(x), dall’estremo sinistro della curva (che può essere a –∞) fino al valore x. Essa è quindi una funzione monotona non decrescente che va da 0 a 1. La funzione di ripartizione che corrisponde alla densità di probabilità in figura in alto a destra è, ad esempio, quella riportata in figura in basso a destra. N.B. La funzione di ripartizione può essere definita, in modo del tutto analogo a quanto fatto sopra, anche per una variabile aleatoria discreta.

Test di Kolmogorov-Smirnov Molti test utilizzati in statistica sono test parametrici. Questi test sono basati su assunzioni importanti, quali un’adeguata dimensione campionaria e la distribuzione normale della variabile di interesse. Il test di Kolmogorov-Smirnov è un test non parametrico che verifica la forma delle distribuzioni campionarie. È applicabile a dati per lo meno ordinali perché richiede la costruzione di una funzione di ripartizione. Questo test è comunemente usato per confrontare dati sperimentali con distribuzioni attese ed in particolare per testare se la distribuzione in studio differisce da una distribuzione teorica, per esempio, normale.

H1: F(x) ≠ F0 (x), per qualche x. Sia X una variabile casuale continua con funzione di ripartizione F(x). Il test di Kolmogorov-Smirnov su un unico campione è un test per la bontà dell’adattamento. Esso verifica cioè che la variabile casuale X abbia funzione di ripartizione uguale ad una data funzione di ripartizione F0(x), ossia: H0: F(x) = F0(x), per ogni x contro H1: F(x) ≠ F0 (x), per qualche x. Sia x = (x1, . . . xN) un campione casuale di ampiezza N tratto dalla variabile casuale X. Poiché il problema riguarda la funzione di ripartizione della variabile casuale X, è intuitivo basare la statistica test sulla funzione di ripartizione empirica.

Dette quindi x(1), . . . . x(N) le N osservazioni ordinate, la funzione di ripartizione empirica sarà definita come La è uno stimatore non distorto di F(x).

La statistica test di Kolmogorov-Smirnov è data da È cioè definita come la massima differenza (in valore assoluto) tra la funzione di ripartizione empirica e la funzione di ripartizione teorica . L’idea del test di Kolmogorov-Smirnov è piuttosto semplice e intuitiva. Poiché stima la vera funzione di ripartizione F(x), è logico basarsi su una qualche distanza tra e . Se e sono vicine, si accetta l’ipotesi nulla, mentre la si rifiuta se e sono lontane.

Il valore di DN così calcolato è confrontato con i valori critici riportati nella corrispondente tabella, che dipendono dal livello di significatività scelto e dalla numerosità dei campioni considerati. In altre parole l’ipotesi nulla viene rifiutata ad un livello di significatività α quando il valore calcolato di DN supera il corrispondente valore riportato nella tabella dei quantili. Nella sua forma originale il test di Kolmogorov-Smirnov si applica quando è completamente determinata indipendentemente dai dati che stiamo studiando. In questo caso i valori critici di DN sono quelli riportati nella successiva Tabella 1. Di solito, però, non è questa la situazione.

Testando se una serie di osservazioni si adatta ad una distribuzione gaussiana, la particolare distribuzione è quella avente media e deviazione standard stimate dai dati. In questo caso si usa una versione modificata del test di Kolmogorov-Smirnov, dovuta a H.W. Lilliefors. Il test statistico, ovvero il valore di DN, è calcolato esattamente come prima, ma i valori critici sono diversi. La tabella da usare è la Tabella 2, che fornisce i valori critici per N fino a 30. (Se, per N<30, il valore critico corrispondente ad un particolare N non è presente in tabella, si può usare un’interpolazione lineare per ricavarlo). In generale, quando N>30 i valori critici per il test di Kolmogorov-Smirnov- Lilliefors bilaterale per α = 0,10; 0,05 e 0,01 sono rispettivamente ; e .

Esempio di calcolo di una funzione di ripartizione empirica Si supponga di avere un campione di 20 individui sui quali è stata acquisita la variabile aleatoria X e che i valori misurati siano quelli di seguito riportati 1,55;  0,08;  0,70;  6,98;  0,42;  3,20;  0,95;  0,17;  1,37;  50,57;  0,24;  0,34;  0,50;  0,94;1,26;  0,38;  0,10;  1,75;  0,15;  0,49 Per calcolare la funzione di ripartizione empirica si ordinano le osservazioni in ordine crescente. Ricordando che la numerosità del campione (N) è pari a 20 e che quindi per , la funzione di ripartizione empirica sarà calcolata come nella seguente tabella. Il suo grafico sarà pertanto quello in figura sotto. Funzione di ripartizione empirica

Esempio di applicazione del test di Kolmogorov-Smirnov-Lilliefors Si supponga che la funzione di ripartizione empirica calcolata (utilizzando la procedura vista precedentemente) su un campione con numerosità N pari a 53 osservazioni sia la linea a gradini mostrata in figura sotto. Sulla base del valore medio e della deviazione standard delle osservazioni campionarie si supponga di avere ottenuto la funzione di ripartizione teorica F0(x) corrispondente alla distribuzione gaussiana (linea continua in figura). Il valore della statistica del test è la massima differenza verticale tra le due funzioni di ripartizione ed è uguale a 0,13. Esso supera il valore critico del test al livello del 5% ( ). Si può quindi rigettare l’ipotesi nulla con p < 0,05. In altre parole vi è evidenza (p < 0,05) che i valori non siano distribuiti in modo gaussiano. Osservazione: si noti che anche il grafico rivelava un’asimmetria positiva.