INFORMAZIONE LEZIONE 2
Sono informato.. Quando suona il campanello di casa 2 volte/giorno ? 5 volte/giorno?. 100 volte/giorno? suona Non suona Per la maggior parte del tempo
Elementi che intervengono Se suona :maggiore informazione Se non suona: informazione minore ( ma maggiore tranquillità) Possiamo dire che ciascun messaggio porta con sé uninformazione inversamente proporzionale alla probabilità del messaggio. Più alta la probabilità di inviare/ricevere messaggi, minore sarà linformazione.
Il campanello Quanto vale linformazione associata? Non suona 9/10 suona 1/10 10 osservazioni 99/100 1/ osservazioni P1=0,9P2=0,1per la legge dei grandi numeri….. Si assumono come probabilità dei messaggi
Misura dellinformazione detta ENTROPIA Sorgente dei messaggi S1 M1 m2 Probabilità 0,9 0,1 H=Σ i p i log 2 1/p i 1 n H= 0,9 log 2 1/0,9+0,1 log 2 1/0,1 bit Bit/messaggio
Esercizi: 1.ricalcolate linformazione associata ai giorni della settimana 2.ai mesi dellanno 3.allaltezza del mio compagno 4.al peso del mio compagno 5.alla tastiera di un pianoforte 6.allalfabeto inglese