INFORMATICA MATTEO CRISTANI. INDICE CICLO DELLE LEZIONI LEZ. 1 INTRODUZIONE AL CORSO LEZ. 2 I CALCOLATORI ELETTRONICI LEZ. 3 ELEMENTI DI TEORIA DELL INFORMAZIONE.

Presentazione sul tema: "INFORMATICA MATTEO CRISTANI. INDICE CICLO DELLE LEZIONI LEZ. 1 INTRODUZIONE AL CORSO LEZ. 2 I CALCOLATORI ELETTRONICI LEZ. 3 ELEMENTI DI TEORIA DELL INFORMAZIONE."— Transcript della presentazione:

1 INFORMATICA MATTEO CRISTANI

2 INDICE CICLO DELLE LEZIONI LEZ. 1 INTRODUZIONE AL CORSO LEZ. 2 I CALCOLATORI ELETTRONICI LEZ. 3 ELEMENTI DI TEORIA DELL INFORMAZIONE LEZ. 4 MISURE DELLA INFORMAZIONE LEZ. 5 CALCOLO BINARIO: CONVERSIONI DI BASE LEZ. 6 CALCOLO BINARIO: OPERAZIONI IN BASE 2 LEZ. 7 ESERCITAZIONE DI CALCOLO BINARIO LEZ. 8 ESERCITAZIONE DI CALCOLO BINARIO LEZ. 9 PORTE LOGICHE LEZ. 10 PROGETTO DI CIRCUITI DIGITALI LEZ. 11 INTRODUZIONE AGLI ALGORITMI LEZ. 12 PRODUTTIVITA INDIVIDUALE LEZ. 13 IL WEB LEZ. 14 RICERCA DI DOCUMENTI LEZ. 15 USO DEI MOTORI DI RICERCA LEZ. 16 SICUREZZA INFORMATICA LEZ. 17 ELEMENTI DI CRITTOGRAFIA LEZ. 18 ESERCITAZIONE DI CRITTOGRAFIA LEZ. 19 ESERCITAZIONE GENERALE LEZ. 20 SOMMARIO DEL CORSO

3 AGENDA ESERCIZI BASE SULLE MISURE DELLA INFORMAZIONE ESERCIZI SUI CODICI ESERCIZI AVANZATI SULLE MISURE DELLA INFORMAZIONE

4 ESERCIZI BASE DI TEORIA DELLINFORMAZIONE 1. Dato un sistema di Shannon con un alfabeto di canale di 23 simboli equiprobabili, calcolare la quantità di informazione portata da tre messaggi. 2. Dato un sistema di Shannon con un alfabeto di canale con 16 simboli calcolare la ridondanza di una codifica ternaria. 3. Dato un sistema di Shannon in cui la quantità di informazione portata da due messaggi è pari a circa 7 bit, sapendo che la distribuzione di probabilità dei messaggi è uniforme trovare lampiezza dellalfabeto di canale.

5 SOLUZIONE ESERCIZIO 1 Linformazione portata da un singolo simbolo è Linformazione portata da tre messaggi è quindi

6 SOLUZIONE ESERCIZIO 2 Le codifiche ternarie portano i simboli dellalfabeto su blocchi di simboli 0, 1, 2. Con tre simboli, il numero minimo di codici necessari per 16 elementi dellalfabeto di canale è 2, perché

7 SOLUZIONE ESERCIZIO 2 Quindi, ad esempio, supponendo che i glifi dei sedici elementi dellalfabeto di canale siano le prime sedici lettere dellalfabeto latino esteso, si avrebbe la codifica della tabella del prossimo lucido

8 SOLUZIONE ESERCIZIO 2 A000I022 B001J100 C002K101 D010L102 E011M110 F012N111 G020O112 H021P120

9 Naturalmente sono invalide le seguenti codifiche -121-211 -122-212 -200-220 -201-221 -202-222 -210-------------------------------

10 SOLUZIONE ESERCIZIO 3 Se due messaggi portano circa sette bit, nellipotesi di codici semplici (un simbolo, un messaggio), allora un messaggio porta circa 3,5 bit. Quindi, Da cui le due ipotesi possibili, ovvero che il codice sia di 11 simboli oppure che sia di 12 simboli.

11 SOLUZIONE ESERCIZIO 3 Con 11 simboli avremmo Se scegliessimo una codifica a blocchi servirebbero 4 simboli binari. Con 12 simboli avremmo Se scegliessimo una codifica a blocchi servirebbero sempre 4 simboli binari.

12 ESERCIZI BASE DI TEORIA DELLINFORMAZIONE 4. Dato un canale con alfabeto di 21 simboli a codifica semplice, che invia 5 segnali al secondo, misurare la velocità di trasmissione. 5. Se un canale ha velocità di trasmissione pari a 23 Kbps e lalfabeto di canale è formato da 4 simboli, e la codifica è semplice, quanti segnali invia la sorgente sul canale ogni secondo?

13 SOLUZIONE ESERCIZIO 4 Su un canale a codifica semplice di 21 simboli dalfabeto, un messaggio porta Quindi, cinque segnali portano circa La velocità di trasmissione è di circa 22 bps

14 SOLUZIONE ESERCIZIO 5 Se un canale trasmette 4 simboli a codifica semplice un messaggio porta due bit. Poiché la velocità di trasmissione è di 23 Kbps, passeranno

15 ESERCIZI SUI CODICI 6. Una codifica diretta a blocchi di tredici simboli binari è utilizzata per mappare un alfabeto di canale di 104 simboli. Calcolare la ridondanza del codice. 7. Si vuole costruire un codice a codifica derrore basato sul metodo dellalternanza di simboli validi ed invalidi. Se lalfabeto di canale è costituito da 77 simboli, e la codifica scelta è a blocchi di 7 simboli binari, quanti bit servono per garantire la costruzione corretta del codice?

16 SOLUZIONE ESERCIZIO 6 Un codice a blocchi di tredici simboli binari codifica 2 13 =8192 simboli. Il codice è quindi sovrabbondante. Se il codice fosse abbondante occorrerebbero sette simboli binari, perché 2 7 =128. Il codice scelto avrebbe ridondanza Per il codice abbondande a sette bit

17 SOLUZIONE ESERCIZIO 7 Con sette simboli binari la codifica ha una ridondanza pari a Per un codice con alternanza occorre che la ridondanza della codifica sia almeno del cinquanta per cento, cosa che si ottiene aggiungendo un singolo bit al codice.

18 ESERCIZI SULLERRORE 8. Un canale ha un tasso derrore di 1/1024. Si misuri laffidabilità, sapendo che trasmette a 22 Kbps. 9. Un canale ha un tasso derrore di 1/2048 e trasmette a 12 Kbps. Se si osservano i messaggi giunti alla destinazione, che cosa si può dire di una sequenza di sei messaggi? 10. Quanti messaggi errati ci sono in una sequenza di venti su un canale a tasso derrore 1/16?

19 SOLUZIONE ESERCIZIO 8 Laffidabilità di canale si ottiene riducendo alla percentuale di messaggi corretti determinata dal tasso derrore la velocità del canale

20 PROPOSTE SOLUZIONE ESERCIZIO 9 a) Almeno uno dei messaggi è errato b) Nessuno dei messaggi è errato c) Tutti i messaggi sono errati d) Se il primo messaggio è errato allora anche gli altri lo sono e) Se il primo messaggio è errato allora gli altri non lo sono f) Non possono esserci più di due messaggi errati

21 SOLUZIONE ESERCIZIO 10 Non esiste una soluzione corretta, perché il tasso derrore misura la probabilità che un messaggio sia corretto, non prevede il numero di messaggi errati in una sequenza.

22 ESERCIZI AVANZATI DI TEORIA DELLINFORMAZIONE 11. Si determini un codice lineare con un bit di controllo di parità per correggere errori su un canale con alfabeto di 26 simboli codificato in base 2. 12. Si determini la velocità effettiva di canale quando un alfabeto di 100 simboli codificati in base due viene esteso con due bit di controllo di parità, in presenza di un tasso derrore di 1/2048 bit su un canale a 215 Kbps.

23 SOLUZIONE ESERCIZIO 11 Un alfabeto di 26 simboli richiede 5 bit per la codifica binaria. Questa codifica ha ridondanza inferiore al 50%, in particolare la ridondanza risultante è Occorre quindi codificare a sei bit.

24 SOLUZIONE ESERCIZIO 11: CODICI VALIDI GLIFOB1B2B3B4B5C.P.GLIFOB1B2B3B4B5C.P. A000000N011011 B000011O011101 C000101P011110 D000110Q100001 E001001R100010 F001010S100100 G001100T100111 H001111U101000 I010001V101011 J010010W101101 K010100X101110 L010111Y110000 M011000Z110011

25 SOLUZIONE ESERCIZIO 11: CODICI INVALIDI GLIFOB1B2B3B4B5C.P.GLIFOB1B2B3B4B5C.P. -000001-011010 -000010-011100 -000100-011111 -000111-100000 -001000-100011 -001011-100101 -001101-100110 -001110-101001 -010000-101010 -010011-101100 -010101-101111 -010110-110001 -011001-110010

26 SOLUZIONE ESERCIZIO 11: NON CODICI VALIDIINVALIDI GLIFOB1B2B3B4B5C.P.GLIFOB1B2B3B4B5C.P. -110101-110100 -110110-110111 -111001-111000 -111010-111011 -111100-111101 -111111-111110

27 ESEMPI DI TRASMISSIONE CASO 1:SPEDIAMO UN GLIFO E NE GIUNGE UN ALTRO CASO 2:SPEDIAMO UN GLIFO E GIUNGE UN NON CODICE VALIDO CASO 3:SPEDIAMO UN GLIFO E GIUNGE UN CODICE INVALIDO CASO 4:SPEDIAMO UN GLIFO E GIUNGE UN NON CODICE INVALIDO

28 CASO I Se, ad esempio, parte il glifo X e giunge il glifo H allora lo schema di trasmissione è. Come si vede il numero di errori commessi è 2. Lerrore non viene corretto. In generale, se il codice a correzione derrore è lineare il numero di errori commessi se parte un glifo e ne giunge un altro è pari. X 101110 H001111 -++++-

29 CASO 2 Se parte il glifo X e giunge un non codice, allora si potrebbe avere, ad esempio Il numero di errori è 2. Lerrore viene riconosciuto perché i non codici non sono ammissibili In generale, se il codice a correzione derrore è lineare il numero di errori commessi se parte un glifo e giunge un non codice valido è pari. X 101110 -111111 +-+++-

30 CASO 3 Se parte il glifo X e giunge un codice invalido, allora si potrebbe avere, ad esempio Il numero di errori è 1. Lerrore viene riconosciuto. In generale, se il codice a correzione derrore è lineare il numero di errori commessi se parte un glifo e giunge un codice invalido è dispari. X 101110 -101111 +++++-

31 CASO 4 Se parte il glifo X e giunge un non codice invalido, allora si potrebbe avere, ad esempio Il numero di errori è 3. Lerrore viene riconosciuto. In generale, se il codice a correzione derrore è lineare il numero di errori commessi se parte un glifo e giunge un non codice invalido è dispari. X 101110 -111011 +-+-+-

32 SOLUZIONE ESERCIZIO 12 Per codificare 100 simboli occorrono 7 bit. Se si aggiungono 2 bit di controllo di parità il codice risulta di 9 bit. La ridondanza è quindi La velocità di trasmissione viene ridotta quindi in misura pari ai bit effettivamente trasmessi mediante il processo di correzione del codice lineare. Adotteremo il metodo dello stream standard.

33 METODO DELLO STREAM STANDARD Lo stream standard è uno stream di bit lungo n, tale per cui il tasso derrore risulti di 1/n. Se il tasso derrore è espresso in frazione egizia 1/n, ovviamente n è la lunghezza dello stream standard. Se il tasso derrore è espresso in percentuale equivalente alla frazione p/q, allora per calcolare n, lunghezza dello stream standard, dove [x] è il più piccolo intero più grande di x. Se un codice è a blocchi, ovviamente, il numero n è approssimato.

34 ESEMPIO Supponiamo che un codice a blocchi di 12 bit sia utilizzato su un canale a tasso derrore 1/1024. Lo stream standard è costituito da un numero di blocchi che formi uno stream il più corto possibile rispetto a 1024 bit. Il numero minimo di blocchi è 86, e la lunghezza corrispondente è 1032 bit.

35 PROCESSO DI CORREZIONE 1. Trasmissione di uno stream standard di bit; 2. Ripetizione dei blocchi riconosciuti errati; [SI CONSIDERA UNA SOLA RIPETIZIONE] Lo stream così ottenuto viene posto al denominatore di una frazione al cui numeratore si mette il numero di blocchi effettivamente inviati. Si moltiplica poi la frazione così ottenuta per la velocità di canale.

36 CALCOLO Poiché il tasso derrore è 1/2048 lo stream standard è 2048 bit. Poiché la codifica base è a sette bit lo stream trasferisce 293 blocchi base. Lestensione a nove bit comporta che per inviare 293 blocchi base occorre inviare 293 blocchi a nove bit, che portano lo stream standard a 2637 bit. Il tasso derrore di 1/2048 comporta che lerrore commesso sullo stream standard possa portare alla ripetizione di un blocco di nove bit per correggere il primo errore sui 2048 bit dello stream base. Come approssimazione per eccesso si stima la ripetizione ulteriore di un ulteriore blocco.

37 LUNGHEZZA EFFETTIVA DELLO STREAM Lo stream effettivo è quindi 2637+18=2655. Poiché uno stream di 2655 bit porta 293 blocchi, ognuno dei quali esprime, in effetti, linformazione pari a log 2 (100). Quindi la velocità effettiva di canale è