La presentazione è in caricamento. Aspetta per favore

La presentazione è in caricamento. Aspetta per favore

Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università

Presentazioni simili


Presentazione sul tema: "Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università"— Transcript della presentazione:

1 Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università di Pisa

2 2 Definizione di processo aleatorio esperimento casuale processo aleatorio Dato un esperimento casuale di modello di probabilità assegnato, ad ogni suo risultato i, si associ una funzione reale x(t, ) della variabile t; risulta così definito un insieme di funzioni X(t, ), detto processo aleatorio (o casuale o stocastico), che verrà indicato in breve con X(t), omettendo così la dipendenza da

3 3 Esempi di elettrocardiogramma in pazienti affetti da aritmia Rappresentazione grafica della definizione di p.a. Segnali che portano informazione sono per sua natura aleatori !

4 4 Nella maggior parte delle applicazioni t rappresenta il tempo Le funzioni x(t, ) sono funzioni deterministiche, la casualità risiede solo nella presentazione di un particolare risultato dellesperimento Fissato il valore di X(t, ) è una funzione deterministica detta funzione campione del processo La particolare x(t, ) che si osserva in una data prova dellesperimento aleatorio prende il nome di realizzazione del processo Definizione di processo aleatorio

5 5 Variabile aleatoria estratta da un p.a. Qualora si fissi un determinato istante di tempo t 1, ad ogni risultato dellesperimento viene associato il valore numerico x(t 1, ) della corrispondente realizzazione in quellistante Si ottiene così una quantità dipendente da cioè una v.a. indicata con X(t 1 ) … in altre parole, fissato il valore t, il processo casuale X(t) è una v.a. che indicheremo, per semplicità con X(t)

6 6 t2 t2 Se si fissano due istanti distinti t 1 e t 2 si ottengono due distinte v.a. X(t 1 ) e X(t 2 ), che costituiscono un sistema di due variabili aleatorie, ovvero il vettore aleatorio X = [ X(t 1 ) X(t 2 ) ] T Analogamente, fissati N istanti t 1, t 2, …, t N, il processo genera un vettore di N variabili aleatorie X = [ X(t 1 ) X(t 2 ) … X(t N ) ] T La descrizione statistica del processo implica perciò la conoscenza della legge di distribuzione di tutti i possibili sistemi così formati N v.a. estratte da un processo aleatorio

7 7 Riassumendo X(t, ), semplificato in X(t), può rappresentare: un insieme di funzioni delle variabili t ed (processo aleatorio) una funzione deterministica della variabile t detta funzione campione del processo ( fissato, t variabile) una variabile casuale indicata con X(t) (t fissato, variabile un numero reale (t e fissati In molte applicazioni i risultati dellesperimento sono già delle forme donda; in tal caso non vi è più distinzione tra risultato e funzione campione assegnatagli Esempi: misura della tensione di rumore, segnale musicale/video trasmesso, segnale dati alluscita di un PC Siano X(t) ed Y(t) due p.a., essi sono uguali [ e scriveremo X(t) = Y(t) ] se e solo se in corrispondenza degli stessi risultati dello stesso esperimento vengono associate identiche funzioni del tempo Definizione di processo aleatorio

8 8 Un processo X(t) si dice statisticamente determinato se sono note le sue funzioni di distribuzione (Cumulative Distribution Function, CDF): per ogni N e per ogni N-upla di istanti t 1, t 2, …, t N Nota la CDF di ordine N è possibile ricavare tutte le CDF di ordine inferiore mediante le regole marginali (non vale il viceversa) Nota: la funzione di distribuzione di ordine N del processo è ovviamente la funzione di distribuzione del vettore di v.a. X = [ X(t 1 ) X(t 2 ) … X(t N ) ] T ottenuto fissando N istanti t 1, t 2, …, t N Nota: anche se il comportamento statistico di un processo stocastico è completamente determinato quando sono note le distribuzioni di tutti i possibili ordini, in alcune applicazioni è sufficiente conoscere alcune statistiche dei primi due ordini (descrizione in potenza del processo) Descrizione statistica di un processo aleatorio A. Specificazione diretta

9 9 Descrizione statistica di un processo aleatorio B. Specificazione in forma parametrica Un processo X(t) si dice parametrico quando può essere specificato attraverso la forma delle sue funzioni campione, che dipende parametricamente da un certo numero di variabili aleatorie: La caratterizzazione statistica completa del processo richiede la ddp congiunta dei parametri aleatori

10 10 Esempi di p.a. parametrici Oscillazione cosinusoidale con fase iniziale incognita Tensione costante di valore aleatorio

11 11 Funzione campione del processo segnale dati binario Esempi di p.a. parametrici v.a. binarie {-1,+1} segnale deterministico Modello più realistico:

12 12 Descrizione statistica di un processo aleatorio C. Specificazione mediante altri processi e loro trasformazioni Classificazione di un processo aleatorio Il processo Y(t) viene caratterizzato attraverso la descrizione statistica completa di X(t) e della trasformazione T[.] ampiezze continue/discrete variabile indipendente continua/discreta Si hanno quindi 4 classi: processi a valori continui e tempo- continuo, processi valori continui e tempo-discreto, ecc.

13 13 Descrizione statistica del primo ordine Fissato un istante t, X(t) rappresenta una variabile aleatoria (v.a.). La sua funzione di distribuzione, che dipende in generale da t, è detta funzione di distribuzione del primo ordine del processo X(t): Analogamente, si definisce la funzione densità di probabilità del primo ordine del processo X(t): Per processi discreti X(t) è una v.a. discreta, si può usare la massa di probabilità: … ed in maniera ovvia si definisce la funzione caratteristica del primo ordine di X(t):

14 14 Indici statistici del primo ordine Funzione valor medio del processo X(t): Funzione potenza media statistica (istantanea): Si definiscono le seguenti statistiche del primo ordine: Funzione varianza del processo X(t): In generale sono funzioni del tempo t Nota: non necessariamente X (t) deve coincidere con una della funzioni campione del processo X(t)

15 15 Interpretazione di F X (x;t) in termini di frequenza relativa Ripetiamo N volte un dato esperimento. In ciascuna prova osserviamo una funzione del tempo x(t) (una realizzazione). Otteniamo così N realizzazioni del processo Dati due numeri x e t, indichiamo con n t (x) il numero di realizzazioni per cui si verifica che, allistante t, il valore della funzione è non superiore a x. Allora si ha:

16 16 Interpretazione di f X (x;t) in termini di frequenza relativa Analogamente, dati due numeri x e t, se indichiamo con n t (x) il numero di realizzazioni per cui si verifica che al tempo t, il valore della funzione x(t) è compreso tra x ed x+ x, con x opportunamente piccolo, si ha:

17 17 Dati due istanti t 1 e t 2, consideriamo le v.a. X(t 1 ) e X(t 2 ); la loro funzione di distribuzione congiunta, che dipende in generale da t 1 e t 2, è detta funzione di distribuzione del secondo ordine del processo X(t): Analogamente, si definisce la funzione densità di probabilità del secondo ordine del processo X(t): Nota: Se il processo è discreto (nelle ampiezze) si può usare la massa di probabilità congiunta Descrizione statistica del secondo ordine … ed in maniera ovvia si definisce la funzione caratteristica del secondo ordine di X(t):

18 18 Interpretazione di f X (x 1,x 2 ;t 1,t 2 ) in termini di frequenza relativa Indicando con n t 1 t 2 (x 1,x 2 ) il numero di realizzazioni la cui ampiezza è compresa tra x 1 e x 1 + x 1 allistante t 1 e tra x 2 e x 2 + x 2 allistante t 2, si ha:

19 19 Analisi in potenza In molti casi, ci si accontenta di studiare il processo analizzando solamente le funzioni valore medio e di autocorrelazione (ACF) La funzione di autocorrelazione di un processo è la correlazione (momento congiunto ordinario) delle v.a. X(t 1 ) e X(t 2 ); essa è funzione di t 1 e t 2 : È un indice statistico di ordine 1 … ordine 2 La funzione valore medio di un processo X(t) è il valore aspettato della v.a. X(t); esso è in generale una funzione del tempo:

20 20 Funzione di Autocovarianza Al posto della funzione di autocorrelazione possiamo considerare la funzione di autocovarianza La funzione di autocovarianza di un processo è la covarianza (momento congiunto centrale) delle v.a. X(t 1 ) e X(t 2 ); in generale è funzione di t 1 e t 2 : Tra autocorrelazione ed autocovarianza esiste la relazione: Nota: ponendo t 1 = t 2 = t, lautocorrelazione e lautocovarianza si identificano rispettivamente con il valore quadratico medio (potenza media statistica istantanea) e la varianza della v.a. X(t):

21 21 Siano dati due processi stocastici X(t) ed Y(t), si definiscono le seguenti funzioni: Tra le funzioni di correlazione mutua e covarianza mutua esiste la relazione: Funzione di correlazione mutua Funzione di covarianza mutua Correlazione mutua ed autocovarianza mutua

22 22 Due processi stocastici X(t) ed Y(t), si dicono incorrelati se: Se si dicono ortogonali Infine, X(t) ed Y(t) si dicono indipendenti se sono indipendenti i due vettori aleatori X = [ X(t 1 ) X(t 2 ) … X(t N ) ] T ed Y = [ Y(t N+1 ) Y(t N+2 ) … Y(t 2N ) ] T per ogni t 1, t 2, …, t N, t N+1, t N+2, …, t 2N Questo implica che la densità di probabilità congiunta dei due vettori è il prodotto delle densità di probabilità di ciascuno dei due Se i processi sono indipendenti sono anche incorrelati, mentre non è necessariamente vero il contrario Processi incorrelati, ortogonali, indipendenti

23 23 Stazionarietà in senso stretto Processi stazionari Un processo aleatorio si dice stazionario in senso stretto se il suo comportamento statistico è invariante rispetto ad una traslazione dellorigine dei tempi Questo significa che i due processi X(t) e X(t+ ) hanno le stesse statistiche per ogni valore di e per ogni ordine, ovvero la ddp congiunta soddisfa la seguente relazione: I processi X(t+ ) ed X(t) si dicono statisticamente equivalenti, nel senso che non sono distinguibili tramite la misurazione delle loro statistiche; ovviamente questo non vuol dire che le loro realizzazioni siano uguali

24 24 Stazionarietà del primo ordine Un processo aleatorio si dice stazionario di ordine 1 se la ddp del primo ordine soddisfa la seguente relazione: Questo implica che f X (x;t) sia indipendente da t: Il valore medio, la potenza media e la varianza di un processo stazionario (almeno) di ordine 1 sono perciò costanti (non vale il viceversa). Ad esempio:

25 25 Stazionarietà del secondo ordine Un processo aleatorio si dice stazionario di ordine 2 se la ddp del secondo ordine soddisfa la seguente relazione: Questo implica che f X (x 1, x 2 ; t 1, t 2 ) dipenda solo da = t 2 - t 1 : La funzione di autocorrelazione di un processo stazionario (almeno) di ordine 2 è una funzione di = t 2 - t 1 :

26 26 Stazionarietà di ordine N Un processo stazionario di ordine N lo è anche di ogni ordine minore di N ; infatti ciascuna ddp di ordine K

27 27 Un processo X(t) si dice stazionario in senso lato o debolmente stazionario se il suo valore medio è costante e la sua funzione di autocorrelazione dipende soltanto da = t 2 - t 1 : La stazionarietà in senso lato riguarda soltanto due particolari statistiche del primo e del secondo ordine (quelle coinvolte nellanalisi in potenza) La stazionarietà in senso lato è una condizione più debole della stazionarietà di ordine 2 Se il processo è stazionario di ordine 2 (o maggiore di 2) lo è anche in senso lato, non vale in generale il viceversa Stazionarietà in senso lato

28 28 Processi congiuntamente stazionari Due processi X(t) ed Y(t) sono congiuntamente stazionari in senso stretto se sono entrambi stazionari in senso stretto ed inoltre tutte le loro statistiche congiunte, di qualunque ordine N, coincidono con le equivalenti statistiche di X(t+ ) ed Y(t + ) Due processi X(t) ed Y(t) si dicono congiuntamente stazionari in senso lato se ciascuno dei due soddisfa le condizioni di stazionarietà in senso lato ed inoltre la correlazione mutua dipende solo da = t 2 - t 1 :

29 29 Proprietà della funzione di autocorrelazione R X (0) viene detta potenza media statistica (istantanea) del processo X(t): se consideriamo il processo X(t) come linsieme delle funzioni campione che rappresentano la tensione applicata ai capi di una resistenza unitaria, x 2 (t, ) è la potenza istantanea dissipata dalla realizzazione associata al risultato dellesperimento casuale. Perciò il valore quadratico medio R X (t,t)=E{X 2 (t)} fornisce il valore medio (statistico) della potenza dissipata sulla resistenza unitaria allistante t Se il processo è stazionario almeno in s.l. R X (t,t) = R X (0)=costante è la potenza media dissipata in qualunque istante Proprietà 1. LACF di un processo reale, stazionario almeno in senso lato, è una funzione reale e pari:

30 30 Proprietà della funzione di autocorrelazione Proprietà 2. LACF di un processo stazionario (almeno) in senso lato (s.s.l.) assume il valore max nellorigine: Da cui si ricavac.v.d. Proprietà 3. Se un processo casuale Z(t) contiene una componente periodica X(t)= X(t+T 0 ), anche lACF contiene una componente periodica dello stesso periodo T 0

31 31 Proprietà 4. Se lACF di di un processo s.s.l. non contiene componenti periodiche, vale: Esempio 1 di processo la cui ACF contiene componenti periodiche: Esempio 2 di processo la cui ACF contiene componenti periodiche: Proprietà della funzione di autocorrelazione

32 32 Proprietà della correlazione mutua Proprietà della correlazione mutua di due processi congiuntamente stazionari almeno in senso lato: Se Y(t) ed X(t) sono due processi congiuntamente stazionari lautocorrelazione del processo Z(t)=X(t)+Y(t) è data dalla relazione:

33 33 Processo aleatorio: Z(t)=X(t)+Y(t), somma di un processo X(t) s.s.l. con valor medio nullo ed ACF esponenziale bilatera e di un processo Y(t) cosinusoidale con ampiezza e fasi aleatorie; inoltre X(t) ed Y(t) sono incorrelati Esempio Nota bene: non possiamo ottenere il valor medio di Z(t) (in valore assoluto) facendo il limite per che tende ad infinito della ACF di Z(t), a causa della presenza della componente periodica dovuta a Y(t)

34 34 Significato della ACF

35 35 Densità Spettrale di Potenza Dato un processo aleatorio X(t), stazionario almeno in senso lato, si definisce densità spettrale di potenza (Power Spectral Density, PSD) la seguente grandezza: Ovviamente dalla PSD si può ricavare lACF mediante la trasformata inversa di Fourier: La PSD si può ottenere anche come la trasformata di Fourier (FT) della funzione di autocorrelazione (Teorema di Wiener-Khintchine): dove :

36 36 Proprietà della PSD Proprietà 1. Poiché lautocorrelazione è una funzione reale e pari, anche la PSD è reale e pari: Tale relazione giustifica il nome di densità spettrale di potenza dato a S X (f) Proprietà 2. Il valore quadratico medio (o potenza media statistica) di un processo è legato alla PSD dalla relazione : Proprietà 3. S X (f) è sempre positiva o nulla (Teo. di Bochner):

37 37 Proprietà 4. La presenza di componenti periodiche della ACF da luogo a righe (delta di Dirac) nella PSD In generale, la PSD è formata da una parte continua + una parte discreta, ovvero a righe, la posizione delle righe è legata alle periodicità presenti nelle realizzazioni del processo Proprietà della PSD Esempio. Processo parametrico: X(t)=p(t-T), essendo T una v.a. uniformemente distribuita in [0,T 0 ) e p(t) un segnale deterministico a potenza media finita, periodico di periodo T 0 N.B. Ogni realizzazione di X(t) è periodica di periodo T 0

38 38 ACF e PSD del processo parametrico X(t)=p(t-T)

39 39 Processo aleatorio: Z(t)=X(t)+Y(t), somma di un processo X(t) s.s.l. con valor medio nullo ed ACF esponenziale bilatera e di un processo Y(t) cosinusoidale con ampiezza e fasi aleatorie; inoltre X(t) ed Y(t) sono incorrelati Esempio: ACF e PSD parte continua parte discreta

40 40 Significato della PSD

41 41 Alcuni confronti … Proprietà: le realizzazioni di un processo stazionario almeno in senso lato non possono avere durata finita e non possono avere energia finita, devono essere segnali a potenza media finita Confronto tra alcune definizioni per segnali aleatori e deterministici

42 42 Domanda: Come si misurano funzione valor medio e funzione di auto- correlazione avendo a disposizione N realizzazioni {x i (t)} del processo? Misura delle statistiche per lanalisi in potenza … e per quanto riguarda la densità spettrale di potenza, se il processo è almeno s.s.l. …..

43 43 Ergodici Risposta: La risposta è Si per la classe dei processi Ergodici Processi ergodici in generale Domanda: è possibile misurare certe statistiche, definite come medie dinsieme, mediante le corrispondenti medie temporali calcolate su una sola (qualsiasi) realizzazione?

44 44 Elaborazione di segnali aleatori Il problema è: caratterizzare il processo di uscita Y(t), in maniera completa o parziale, nota che sia la descrizione statistica (completa o parziale) di X(t) e nota che sia la trasformazione T[.] operata dal sistema Nel caso di sistemi lineari è possibile ottenere la funzione valor medio e la funzione di autocorrelazione del processo di uscita in funzione delle rispettive statistiche del processo di ingresso (ovviamente saranno anche funzioni della risposta impulsiva del sistema)

45 45 Filtraggio lineare di segnali aleatori Calcolo della funzione valor medio Se il processo è stazionario in valor medio …. …. anche luscita lo è …

46 46 Filtraggio lineare di segnali aleatori Calcolo della funzione di autocorrelazione

47 47 Filtraggio lineare di segnali aleatori Calcolo della ACF - Processi stazionari almeno in senso lato Dove si è definito:

48 48 Filtraggio lineare di segnali aleatori Calcolo della Densità Spettrale di Potenza:

49 49 Processo bianco tempo-continuo Il significato di processo bianco può compreso pensandolo come il limite di un processo bianco in banda, per B che tende allinfinito: ovvero è costante per tutte le f, giustificando lappellativo bianco La potenza media statistica è infinita: Il valor medio è nullo: Un processo tempo-continuo X(t) si definisce bianco quando la sua ACF e la sua PSD hanno la seguente forma:

50 50 Processo bianco in banda B

51 51 Processo bianco in banda B

52 52 Processo bianco in banda B

53 53 Esempio: Integratore a finestra mobile X(t) è un processo bianco (detto anche delta-correlato): Si ricava che ACF e PSD delluscita Y(t) sono:

54 54 Funzione di autocorrelazione e densità spettrale di potenza di Y(t) Esempio: Integratore a finestra mobile


Scaricare ppt "Processi Aleatori : Introduzione – Parte I Fulvio GINI Dipartimento di Ingegneria dellInformazione: Elettronica, Informatica, Telecomunicazioni Università"

Presentazioni simili


Annunci Google