La presentazione è in caricamento. Aspetta per favore

La presentazione è in caricamento. Aspetta per favore

Didattica dei Fondamenti dellInformatica 2 Prima giornata: spunti di teoria della calcolabilità e principali classi di complessità computazionale dei problemi.

Presentazioni simili


Presentazione sul tema: "Didattica dei Fondamenti dellInformatica 2 Prima giornata: spunti di teoria della calcolabilità e principali classi di complessità computazionale dei problemi."— Transcript della presentazione:

1 Didattica dei Fondamenti dellInformatica 2 Prima giornata: spunti di teoria della calcolabilità e principali classi di complessità computazionale dei problemi Guido Proietti URL: 1

2 Mille dubbi… Uhmmm…devo inventarmi un corso che sia utile e che parli di come parlare dei fondamenti dellinformatica Avverto subito che il problema è difficile da risolvere: contiene nella sua definizione una ricorsione! …e poi, devo parlare dei fondamenti dellinformatica, ma che cosè veramente linformatica, e dove risiede la sua anima? 2

3 La dicotomia tra informatique e computer science Nellaccezione comune, linformatica viene associata allutilizzo dei calcolatori automatici (computer, in senso lato) Non è un caso: informatica deriva infatti dal francese informatique, contrazione di information automatique Si noti invece che nella lingua inglese informatica si traduce con il termine computer science, o più precisamente computing science, rendendo esplicito il presupposto dell'esistenza della figura di uno scienziato (con tutto il conseguente carico epistemologico) interessato allo studio dei processi computazionali (si noti, non necessariamente automatici!) Definizione da Wikipedia: scienza che ha per oggetto lo studio dei fondamenti teorici dell'informazione, della sua computazione a livello logico e delle tecniche pratiche per la loro implementazione e applicazione in sistemi elettronici automatizzati detti quindi sistemi informatici. Estremizzando: Computer Science is no more about computers than astronomy is about telescopes. (Edsger W. Dijkstra) 3

4 Domanda aperta Linformatica è quindi un ramo della matematica, una disciplina ingegneristica o una scienza della natura? 4

5 Le tre anime dellinformatica (C. Mirolo) Allinterno della disciplina convivono tre concezioni principali: Anima matematica (paradigma razionalista), tipica dellinformatica teorica (gli anglofoni direbbero della computer science) Anima ingegneristica (paradigma tecnologico), tipica dellambito dellingegneria del software (gli anglofoni direbbero della information and communication technology, o ICT) Anima scientifica (paradigma scientifico), tipica dellambito dellintelligenza artificiale 5

6 Lanima matematica Rimanda al razionalismo in filosofia La ragione pura (conoscenza a priori) è più affidabile dellesperienza sensoriale (conoscenza a posteriori) Programmare è assimilabile a unattività matematica Esempi: teoria della calcolabilità, complessità computazionale, verifica formale della correttezza dei programmi, semantica dei linguaggi di programmazione, etc. 6

7 Lanima ingegneristica Rimanda allempirismo in filosofia Lesperienza è alla radice di ogni conoscenza Da un punto di vista ingegneristico linformatica mira a produrre sistemi affidabili e i metodi dellinformatica teorica sono considerati speculativi È impraticabile, se non impossibile, acquisire (dedurre) conoscenza a priori sui programmi reali Esempi: ingegneria del software (requisiti, progetto, design patterns, architettura, manutenzione ed evoluzione, testing, etc.) 7

8 Lanima scientifica La conoscenza a priori (deduttiva) deve essere corroborata/refutata da evidenza empirica (sperimentale) Linformatica è una disciplina scientifica e le proprietà dei suoi modelli e risultati sono oggetto di indagine scientifica Esempi: debugging, intelligenza artificiale, reti neurali artificiali, modelli e simulazione, programmazione evolutiva 8

9 Il punto di vista del legislatore: linformatica nella scuola del riordino DM 22/08/2007 n. 139: Asse scientifico- tecnologico Competenze di base a conclusione dellobbligo di istruzione: Osservare, descrivere ed analizzare fenomeni appartenenti alla realtà naturale e artificiale e riconoscere i concetti di sistema e di complessità Essere consapevole delle potenzialità e dei limiti delle tecnologie nel contesto culturale e sociale in cui vengono applicate 9

10 Il punto di vista del legislatore: linformatica nella scuola del riordino (2) DM 7/10/2010 n. 211: Liceo Scientifico – Opzione delle scienze applicate Competenze di base a conclusione dellobbligo di istruzione: Il collegamento con le discipline scientifiche, ma anche con la filosofia e litaliano, deve permettere di riflettere sui fondamenti teorici dellinformatica e delle sue connessioni con la logica, sul modo in cui linformatica influisce sui metodi delle scienze e delle tecnologie, e su come permette la nascita di nuove scienze. Nelle declaratorie, prevalgono lanima matematica e quella scientifica, in questordine. Questo non vuol dire che lanima ingegneristica sia meno importante, ma solo che le altre due anime le sono propedeutiche! 10

11 Nanos gigantum humeris insidentes Per costruire un sillabo coerente con le premesse, proviamo a salire come nani sulle spalle dei giganti! 11

12 Sviluppare il ragionamento matematico Il ragionamento matematico può essere considerato piuttosto schematicamente come l'esercizio di una combinazione di due capacità, che possiamo chiamare intuizione e ingegnosità. Alan M. Turing ( ) 12

13 Sviluppare il ragionamento algoritmico Se è vero che un problema non si capisce a fondo finché non lo si deve insegnare a qualcuno altro, a maggior ragione nulla deve essere compreso in modo più approfondito di ciò che si deve insegnare ad una macchina, ovvero di ciò che va espresso tramite un algoritmo." Donald Knuth, nume tutelare degli algoritmisti, autore di The Art of Computer Programming 13

14 Problemi ed algoritmi Per risolvere un problema (matematico), i giganti ci suggeriscono di coltivare e sviluppare lintuito e lingegno dellindividuo - qualità invero piuttosto innate - attraverso il duro lavoro della comprensione iniziale della intrinseca difficoltà del problema stesso (ovvero del suo nucleo matematico), seguita poi dallo sviluppo di una appropriata procedura di risoluzione algoritmica (se possibile!) 14

15 Gli obiettivi di questo corso Tutto ciò premesso, ci concentreremo sullanima matematica dellinformatica, ovvero la teoria della computazione, che a sua volta può essere suddivisa in due grandi filoni: La teoria della calcolabilità, ovvero lo studio della (ir)risolubilità dei problemi computazionali mediante un procedimento di calcolo (algoritmo) La teoria degli algoritmi e della complessità computazionale, ovvero lo studio delle risorse di calcolo (principalmente tempo di esecuzione e spazio di memoria utilizzato) necessarie e sufficienti ad un algoritmo (esatto, approssimato, randomizzato) per risolvere un problema computazionale Il tutto verrà illustrato cercando di utilizzare un linguaggio rigoroso ma senza eccedere nel formalismo, con lobiettivo quindi di fornire delle idee e del materiale da riutilizzare in classe (opportunamente adattato alle esigenze di ciascuno, ovviamente!) 15

16 Le tre giornate Oggi – Facile, difficile, impossibile: spunti di teoria della calcolabilità e principali classi di complessità computazionale dei problemi Venerdì 19/4 – Essere algoritmista: progettare un algoritmo corretto, efficiente, e possibilmente ottimo Venerdì 26/4 – Quando il problema è troppo arduo e tutto il resto fallisce: algoritmi di approssimazione e il potere della randomizzazione 16

17 Complessità computazionale (dei problemi) Che cosè un algoritmo? Posso sempre risolvere (algoritmicamente) un dato problema? Quanto velocemente? Caratterizzazioni dei problemi in funzione della loro difficoltà computazionale: le classi di complessità Il problema da 1 Milione di Dollari : P versus NP 17

18 Procedimento effettivo che consente di risolvere un problema (ovvero di ottenere una risposta ad un determinato quesito) eseguendo, in un determinato ordine, un insieme finito di passi semplici (azioni), scelti tra un insieme (solitamente) finito di possibili azioni. Definizione (necessariamente informale) di algoritmo 18 Algoritmo Programma : un algoritmo è lessenza computazionale di un programma, ovvero della sua codifica in un certo linguaggio di programmazione, in quanto fornisce una procedura risolutiva depurata da dettagli riguardanti il linguaggio di programmazione stesso, lambiente di sviluppo, il sistema operativo

19 Etimologia della parola algoritmo Il termine Algoritmo deriva da Algorismus, traslitterazione latina del nome di un matematico persiano del IX secolo, Muhammad al-Khwarizmi, che ne descrisse il concetto applicato alle procedure per eseguire alcuni calcoli matematici 19

20 Problemi computazionali Un problema computazionale è una relazione tra un insieme di istanze (input) e un insieme di soluzioni (output). Una soluzione algoritmica ad un problema computazionale consiste in un algoritmo che calcola per ogni istanza del problema almeno una soluzione, o che rilascia un certificato di non esistenza di una soluzione. Ad esempio, il problema della fattorizzazione: Dato un intero positivo n, scomporlo in fattori primi ammette una soluzione algoritmica: basta guardare ad uno ad uno tutti i valori minori di n, e per ciascuno di essi, verificare se è primo (scomponendolo a sua volta in fattori primi), e se sì, verificare se divide n. 20

21 Tipologie di problemi computazionali Problemi di decisione – Richiedono una risposta binaria ad una domanda. Ad esempio, il numero 29 è primo? Problemi di ricerca – Richiedono di restituire una soluzione del problema. Ad esempio, trovare la media aritmetica di un insieme di numeri Problemi di ottimizzazione – Richiedono di restituire la soluzione migliore (rispetto ad un prefissato criterio) tra tutte quelle possibili. Ad esempio trovare il cammino di lunghezza minima fra due nodi di un grafo 21

22 Una domanda apparentemente strana Possono esistere problemi non calcolabili, cioè irrisolubili (algoritmicamente)? Si noti che se un tale problema esistesse, allora sarebbe preclusa soltanto (si fa per dire!) la sua risoluzione in un numero finito di passi. Ma il concetto di infinito è troppo elusivo per la nostra mente… La risposta alla domanda è sì, e anzi i problemi non calcolabili "sono molti di più" di quelli calcolabili! I problemi si classificano quindi in: – problemi non calcolabili (problemi che non ammettono una soluzione algoritmica) – problemi calcolabili, a loro volta classificabili in: problemi trattabili (cioè risolvibili in tempi ragionevoli) problemi intrattabili 22

23 Insiemi numerabili Un insieme è numerabile (possiede uninfinità numerabile di elementi) i suoi elementi possono essere messi in corrispondenza biunivoca con i numeri naturali. In altre parole, un insieme numerabile è un insieme i cui elementi possono essere enumerati, ossia descritti da una sequenza del tipo a 1, a 2,..., a n,... 23

24 Insiemi numerabili: esempi Insieme dei numeri naturali N Insieme dei numeri interi Z: n 2 n+ 1 n 0 n 2 |n| n< 0 Enumerazione: 0, -1, 1, -2, 2, -3, 3, -4, 4,... Insieme dei numeri naturali pari: 2n n Enumerazione: 0, 2, 4, 6, 8,... Insieme delle sequenze (stringhe) su un alfabeto finito. 24

25 Enumerazione delle sequenze Si vogliono elencare in un ordine ragionevole le sequenze costruite su un certo alfabeto (finito) Ordine lessicografico: Si ordinano i caratteri dellalfabeto (arbitrariamente); quindi si ordinano le sequenze in ordine di lunghezza crescente, e, a parità di lunghezza, in ordine alfabetico Una sequenza s arbitraria si troverà, tra quelle di |s| caratteri, in posizione alfabetica tra queste. 25

26 Esempio Alfabeto = {a,b,c,..., z} a, b, c,..., z, aa, ab,..., az, ba,..., bz,..., za,..., zz, aaa, aab,...., baa,...., zaa,..., zzz,... 26

27 Enumerazione delle sequenze Ad una sequenza arbitraria corrisponde il numero che ne indica la posizione nellelenco Ad un numero naturale n corrisponde la sequenza in posizione n Corrispondenza biunivoca con N 27

28 Insiemi non numerabili Esempi: insieme dei numeri reali compresi nellintervallo chiuso [0,1] insieme dei numeri reali compresi nellintervallo aperto (0,1) insieme dei numeri reali insieme di tutte le linee nel piano insieme delle funzioni in una o più variabili. 28

29 Quante sono le funzioni da numeri naturali in numeri naturali? Sono enumerabili? NO!!! Come possiamo dimostrare che le funzioni da naturali in naturali non sono enumerabili? Si procede con un argomento proposto dal matematico tedesco Georg Cantor nel 1891: la diagonalizzazione 29

30 Considerazioni preliminari Consideriamo i possibili sottoinsiemi non vuoti dei numeri naturali: {0}, {0,1}, {2,5,7}… Per ogni sottoinsieme S di N possiamo costruire una funzione che associa ad ogni elemento di N il valore 1 se questi appartiene ad S, e 0 altrimenti Le funzioni da N in N sono quindi almeno tante quanti i sottoinsiemi di N Quanti sono i possibili sottoinsiemi di N? 30

31 I sottoinsiemi di N Supponiamo per assurdo che i sottoinsiemi di N siano enumerabili Consideriamo la seguente tabella: 1234…1234… f00110…f00110… f11000…f11000… … f i è la funzione che identifica li-esimo insieme 31

32 Una funzione speciale Costruiamo la seguente funzione: 1234…1234… f x 0 x 1 x 2 x 3 … dove x i è 1 se li-esimo elemento della diagonale è 0, 0 altrimenti. Questa funzione definisce un sottoinsieme di N ma non può apparire nella tabella!!!! Quindi lipotesi che le funzioni che definiscono sottoinsiemi di N siano enumerabili non può essere vera! 32

33 Funzioni non calcolabili Abbiamo dimostrato che un sottoinsieme delle funzioni da N a N non è numerabile Quindi tali funzioni sono più dei numeri naturali 33

34 Dalle funzioni ai problemi Ricordiamo che un problema computazionale è una funzione matematica che associa ad ogni insieme di dati il corrispondente risultato Esistono tanti problemi computazionali quante sono le funzioni le funzioni non sono numerabili i problemi non sono numerabili. 34

35 Algoritmi vs Problemi Daltro canto, un algoritmo è una sequenza finita di caratteri su un alfabeto finito, e abbiamo visto che tali sequenze sono numerabili |{Algoritmi}| < |{Problemi}| Devono esistere problemi per cui non esiste un algoritmo di calcolo, cioè problemi non calcolabili! 35

36 Alla ricerca di un problema non calcolabile Abbiamo dimostrato lesistenza di funzioni/problemi non calcolabili. I problemi che si presentano spontaneamente sono tutti calcolabili. Non è stato facile individuare un problema che non lo fosse. Turing (1930): Problema dellarresto. 36

37 Il problema dellarresto Consiste nel chiedersi se un generico algoritmo A avente come input un insieme di dati D termina in tempo finito la sua esecuzione, oppure va in ciclo, ovvero continua a ripetere la stessa sequenza di istruzioni allinfinito (supponendo di non avere limiti di tempo e memoria). 37

38 Esempio #1: Stabilire se un intero p > 1 è primo. Primo(p) //scritto in C fattore = 2; while (p % fattore != 0) fattore++; return (fattore == p); Termina sicuramente (la guardia del while diventa falsa quando fattore = p). 38

39 Esempio #2 Algoritmo che trova il più piccolo numero intero pari (maggiore di 4) che NON sia la somma di due numeri primi. Lalgoritmo si arresta quando trova n 4 che NON è la somma di due primi. 39

40 Un corrispondente programma Goldbach() //scritto in C n = 2; do { n = n + 2; controesempio = true; for (p = 2; p n - 2; p++) { q = n - p; if (Primo(p) && Primo(q)) controesempio = false; } } while (!controesempio); return n; //n non è la somma di due primi 40

41 Congettura di Goldbach 1792: ogni numero intero pari n 4 è la somma di due numeri primi Congettura falsa Goldbach() si arresta Congettura vera Goldbach() NON si arresta Il programma Goldbach() è funzionalmente utile solo nel caso in cui la congettura sia falsa! Ad oggi la congettura è ancora aperta, ed è nota essere vera fino a numeri dellordine di

42 Osservazione Un algoritmo che risolvesse il problema dellarresto costituirebbe dunque uno strumento estremamente potente: permetterebbe infatti di dimostrare in tempo finito congetture ancora aperte sugli interi (tipo la congettura di Goldbach). 42

43 Teorema Turing ha dimostrato che riuscire a calcolare se un programma arbitrario si arresta e termina la sua esecuzione non è solo unimpresa ardua, ma è addirittura IMPOSSIBILE! TEOREMA Il problema dellarresto non è calcolabile (più precisamente, NON È DECIDIBILE). 43

44 DIMOSTRAZIONE (per assurdo) Se il problema dellarresto fosse decidibile, allora esisterebbe un algoritmo ARRESTO che, presi A e D come generici dati di input, determinerebbe in tempo finito le risposte: ARRESTO(A,D) = 1 se A(D) termina ARRESTO(A,D) = 0 se A(D) non termina 44

45 Osservazioni (1) Lalgoritmo ARRESTO non può consistere in un algoritmo che simuli la computazione A(D): se A non si arresta su D, ARRESTO non sarebbe in grado di rispondere 0 in tempo finito. 45

46 Osservazioni (2) Osserviamo anche che il dato D può legittimamente essere un algoritmo: gli algoritmi sono rappresentabili con sequenze di simboli, che possono essere presi dallo stesso alfabeto usato per codificare i dati di input. Quindi, ha senso considerare lipotesi di dover progettare un algoritmo che indaghi sulle proprietà di altri algoritmi, trattando questi ultimi come dati. 46

47 DIMOSTRAZIONE (1) Un algoritmo per algoritmi è un algoritmo A, comunque formulato, che può operare sulla rappresentazione di un altro algoritmo B, che cioè calcola A(B). In particolare, può avere senso determinare se A(A) termina in tempo finito, cioè ARRESTO(A,A) = 1 A(A) termina 47

48 DIMOSTRAZIONE (2) Se esistesse lalgoritmo ARRESTO, esisterebbe anche il seguente algoritmo: PARADOSSO(A) while ( ARRESTO(A,A) ) { ; } 48

49 DIMOSTRAZIONE (3) Lispezione dellalgoritmo PARADOSSO mostra che: PARADOSSO(A) termina x = ARRESTO(A,A) = 0 A(A) non termina 49

50 DIMOSTRAZIONE (4) Cosa succede calcolando PARADOSSO(PARADOSSO)? PARADOSSO(PARADOSSO) termina x = ARRESTO(PARADOSSO, PARADOSSO) = 0 PARADOSSO(PARADOSSO) non termina contraddizione! 50

51 DIMOSTRAZIONE (5) Lunico modo di risolvere la contraddizione è che lalgoritmo PARADOSSO non possa esistere. Dunque non può esistere nemmeno lalgoritmo ARRESTO. In conclusione, il problema dellarresto è indecidibile! QED 51

52 Osservazione Aver dimostrato che il problema dellarresto è indecidibile implica che non può esistere un algoritmo che decida in tempo finito se un algoritmo arbitrario termina la sua computazione su input arbitrari. Attenzione: ciò non significa che non si possa decidere in tempo finito la terminazione di algoritmi particolari su input particolari (o anche arbitrari)! 52

53 Altri problemi non calcolabili Esistono risultati di non calcolabilità relativi ad altre aree della matematica, tra cui la teoria dei numeri e l'algebra, e per problemi meno esoterici del problema dellarresto Tra questi, occupa un posto di rilievo il ben noto decimo problema di Hilbert. 53

54 Equazioni diofantee Un'equazione diofantea è un'equazione della forma p(x 1,x 2,...,x m ) = 0 dove p è un polinomio a coefficienti interi. 54

55 Il decimo problema di Hilbert (1) Data unarbitraria equazione diofantea, di grado arbitrario e con un numero arbitrario di incognite p(x 1,x 2,...,x m ) = 0 stabilire se p ammette soluzioni intere. 55

56 Il decimo problema di Hilbert (2) La questione circa la calcolabilità di questo problema è rimasta aperta per moltissimi anni, e ha attratto l'attenzione di illustri matematici È stata risolta negativamente nel 1970 da un matematico russo allora poco più che ventenne, Yuri Matiyasevich. 56

57 Problemi risolubili Concentriamoci ora sui problemi risolubili, ovvero quelli per cui esiste un algoritmo risolutivo (che opera in tempo finito). Il nostro obiettivo è ora quello di separare i problemi trattabili da quelli intrattabili, dove intuitivamente trattabile significa che il problema può essere risolto prima che sia diventato inutile averne trovato la soluzione 57

58 Complessità computazionale: alcuni concetti di cui non è sempre facile parlare algoritmo problema istanza modello di calcolo dimensione dellistanza caso peggiore efficienza correttezza 58

59 A cosa vogliamo rispondere? CONTESTO: Abbiamo un problema a cui sono associate diverse (infinite) istanze di diversa dimensione. Vogliamo risolvere (automaticamente) il problema progettando un algoritmo. Lalgoritmo sarà eseguito su un modello di calcolo e deve descrivere in modo non ambiguo (utilizzando appositi costrutti) la sequenza di operazioni sul modello che risolvono una generica istanza. La complessità temporale/spaziale di unesecuzione dellalgoritmo è misurata come numero di operazioni eseguite/memoria utilizzata sul modello e dipende dalla dimensione dellistanza e dallistanza stessa. Invece, la complessità temporale/spaziale di un algoritmo è il suo numero di operazioni eseguite/memoria utilizzata nel caso peggiore, cioè rispetto allistanza più difficile da trattare, normalizzato però ovviamente rispetto alla dimensione dellistanza stessa (perché altrimenti istanze grandi risulterebbero più difficili di istanze piccole solo per via della loro dimensione). DOMANDA: Quanto è difficile il problema, ovvero, qual è la complessità temporale/spaziale del miglior algoritmo risolutivo che posso sperare di progettare? Dora in avanti, ci concentreremo sulla risorsa tempo 59

60 Modelli di calcolo Innanzitutto, per parlare di complessità computazionale, dobbiamo parlare di modello di calcolo 60

61 Un modello storico: la macchina di Turing - troppo di basso livello: somiglia troppo poco ai calcolatori reali su cui girano i programmi - utile per parlare di calcolabilità ma meno utile per parlare di efficienza 61

62 Un modello più realistico Macchina a registri (RAM: random access machine) – un programma finito – un nastro di ingresso e uno di uscita – una memoria strutturata come un array ogni cella può contenere un qualunque valore intero/reale, e quindi ha una dimensione infinita – due registri speciali: PC e ACC La RAM è unastrazione dellarchitettura di von Neumann, ed è Turing-equivalente, cioè si può dimostrare che tutto quello che si può calcolare su una Macchina di Turing si può calcolare anche su una RAM, e viceversa. Questo non è un caso: infatti, la tesi di Church-Turing, universalmente accettata, afferma che tutti i modelli di calcolo ragionevoli sono o equivalenti o meno potenti della Macchina di Turing! 62

63 Macchina a registri RAM: random access machine memoria (come un grosso Array con celle illimitate) programma finito nastro di Input nastro di Output PC ACC CPU PC: program counter prossima istruzione da eseguire ACC: mantiene operandi istruzione corrente 63

64 Il concetto di dimensione dellistanza Formalmente, è il numero di bit strettamente necessari per rappresentare listanza sul nastro di input della RAM. Quindi, ad esempio, se linput è un valore numerico n, allora la dimensione dellistanza sarà pari alla sua codifica binaria (ed è pari quindi ad un numero di bit logaritmico rispetto al valore, cioè log 2 n) Si noti però che se linput è un insieme di dati omogenei di cardinalità n (ad esempio, un insieme di numeri da ordinare), allora si assume, al fine di semplificare lanalisi dellalgoritmo, che la dimensione dellinput è pari ad n 64

65 Modello di calcolo: cosa posso fare Lanalisi della complessità di un algoritmo è basata sul concetto di passo elementare Passi elementari su una RAM – istruzione ingresso/uscita (lettura o stampa) – operazione aritmetico/logica – accesso/modifica del contenuto della memoria 65

66 Sia tempo(I) il numero di passi elementari di un algoritmo sullistanza I. Allora, la complessità computazionale dellalgoritmo è: T(n) = max istanze I di dimensione n {tempo(I)} Intuitivamente, T(n) è il numero di passi elementari dellalgoritmo sulle istanze di ingresso che comportano più lavoro per lalgoritmo stesso Perché è importante? Perché rappresenta una garanzia (cioè una limitazione superiore) sul tempo di esecuzione su ogni possibile istanza di input! Domanda: Analogamente a quanto accade con lo studio delle funzioni in analisi matematica, ha senso caratterizzare T(n) al tendere di n allinfinito, cioè al crescere della dimensione dellinput? Il caso peggiore di un algoritmo 66

67 Una grande idea: la notazione asintotica 67 Idea: descrivere T(n) in modo qualitativo, ovvero perdere un po in precisione (senza perdere lessenziale) e guadagnare in semplicità, al fine di raggruppare gli algoritmi in classi di equivalenza rispetto alla loro complessità computazionale.

68 f(n) = O(g(n)) se due costanti c>0 e n 0 0 tali che 0 f(n) c g(n) per ogni n n 0 Notazione asintotica O 68

69 Esempi: Sia f(n) = 2n 2 + 3n, allora f(n)=O(n 3 ) (c=1, n 0 =3) f(n)=O(n 2 ) (c=3, n 0 =3) f(n) O(n) In generale, un qualsiasi polinomio di grado k appartiene a O(n k ) 69

70 Notazione asintotica O e concetto di limite 70

71 Complessità computazionale (o temporale) di un algoritmo e di un problema Definizione Un algoritmo A ha una complessità computazionale O(f(n)) su istanze di dimensione n se T(n)=O(f(n)) Definizione (upper bound di un problema) Un problema P ha una complessità computazionale o upper bound O(f(n)) se esiste un algoritmo che risolve P la cui complessità computazionale è O(f(n)) 71

72 La classe Time Ora che abbiamo definito i concetti di dimensione dellistanza, modello di calcolo e notazione asintotica O, possiamo introdurre la classe Time: Data unistanza di dimensione n, e data una qualunque funzione f(n), chiamiamo Time(f(n)) linsieme dei problemi che possono essere risolti sulla RAM in tempo O(f(n)). 72

73 Esempi Il problema della ricerca, ovvero di verificare se un certo elemento è presente in un dato insieme di dimensione n, appartiene a Time(n): basta scorrere tutti gli elementi e verificarne la presenza Lo stesso problema, nel caso in cui gli elementi fossero ordinati, si può dimostrare che appartiene a Time(log n) NOTA: Time(1) denota i problemi che possono essere risolti in tempo costante, indipendentemente dalla dimensione dellistanza (sono quindi problemi banali) 73

74 La classe P La classe P è la classe dei problemi decidibili in tempo polinomiale nella dimensione n dellistanza di ingresso: P = U c0 Time(n c ) 74

75 La classe ExpTime La classe ExpTime è la classe dei problemi decidibili in tempo esponenziale nella dimensione n dellistanza di ingresso, ovvero in O(a p(n) ), dove a>1 è una costante e p(n) è un polinomio in n; più formalmente, si può scrivere: ExpTime=U c0 Time ( 2 (n c ) ) Chiaramente, P ExpTime Si può dimostrare che linclusione è propria, cioè esistono problemi in ExpTime che non appartengono a P: uno di questi problemi è quello di verificare se un certo algoritmo si arresta in al più k passi, con k fissato. 75

76 Un altro problema in ExpTime: SAT Data unespressione booleana in forma normale congiuntiva, cioè la congiunzione (operatore logico AND) di un insieme di clausole, in cui ogni clausola è la disgiunzione (operatore logico OR) di un certo insieme di variabili che possono assumere valore TRUE o FALSE, il problema della soddisfacibilità (SAT) richiede di verificare se esiste una assegnazione di valori di verità alle variabili che rende lespressione TRUE. È facile convincersi che SAT appartiene ad ExpTime, in quanto può essere risolto provando le 2 n possibili assegnazioni di verità alle n variabili. Ma la vera domanda è: SAT appartiene a P? Sembra incredibile, ma non siamo in grado di dare una risposta a questa semplice domanda, anche se si congettura che la risposta sia NO. 76

77 Non determinismo Negli algoritmi visti finora ogni passo è determinato univocamente dallo stato della computazione; vengono quindi detti deterministici. Tale ipotesi dipende dal modello di calcolo che abbiamo adottato. Supponiamo ora di avere un modello di calcolo (apparentemente) più potente, ovvero una macchina non deterministica che ci consenta, ad ogni passo dellesecuzione di un algoritmo, di proseguire la computazione lungo un numero finito di esecuzioni multiple. Si noti che stiamo parlando di un modello di calcolo astratto, che non esiste nella realtà! Un algoritmo non deterministico è un algoritmo che ha il potere, ad ogni istante della computazione non deterministica, di indovinare lesecuzione giusta lungo cui proseguire per arrivare alla risoluzione del problema. 77

78 Esempio Come potrebbe funzionare un algoritmo non deterministico per SAT? – Indovina ad ogni passo il valore giusto da assegnare ad una variabile (TRUE o FALSE) – La computazione sarà descritta da un albero binario, dove le ramificazioni corrispondono alle scelte non deterministiche (la computazione deterministica è invece descritta da una catena) – Quindi se la formula è soddisfacibile, esiste almeno un cammino che porta a una foglia con valore TRUE. Si noti che tale cammino è lungo n 78

79 La classe NP Data una qualunque funzione f(n), chiamiamo NTime(f(n)) linsiemi dei problemi che possono essere decisi da un algoritmo non deterministico in tempo O(f(n)) La classe NP è la classe dei problemi decidibili in tempo polinomiale non deterministico nella dimensione n dellistanza di ingresso: NP = U c0 NTime(n c ) SAT appartiene a NTime(n), e quindi SAT appartiene a NP 79

80 Gerarchia delle classi P è incluso in NP oppure no? – Ovviamente sì: un algoritmo deterministico è un caso particolare di un algoritmo non deterministico, in cui però le computazioni non si ramificano – Linclusione è propria? Non si sa, e questo è uno dei 6 problemi matematici aperti la cui risoluzione vi farà vincere 1 Milione di Dollari! (si veda Wikipedia) 80

81 Gerarchia delle classi (2) NP è incluso in ExpTime oppure no? – Ovviamente sì: un algoritmo non deterministico può essere simulato da un algoritmo deterministico che esplora una dopo laltra tutte le computazioni ramificate in tempo esponenziale – Linclusione è propria? Non si sa… 81

82 Gerarchia delle classi (3) Quindi abbiamo P NP ExpTime, con P ExpTime Si congettura che tutte le inclusioni siano proprie In NP cè una classe molto speciale di problemi che sicuramente non apparterrebbero a P se fosse NP P: i problemi NP-completi Si può dimostrare che SAT è NP-completo (più precisamente, è stato il primo problema per cui si è provata la NP-completezza [Stephen Cook, 1971]) 82

83 Gerarchia delle classi 83 Decidibili ExpTime (ARRESTO(k)) P (ricerca) NP NP-completi (SAT)

84 Altri famosi problemi NP-completi Commesso viaggiatore – Dati un grafo completo G con pesi w sugli archi ed un intero k, verificare se esiste un ciclo un G di peso al più k che attraversa ogni vertice una ed una sola volta Colorazione – Dati un grafo G ed un intero k, verificare se è possibile colorare i vertici di G con al più k colori tali che due vertici adiacenti non siano dello stesso colore 84

85 Altri famosi problemi NP-completi (2) Somme di sottoinsiemi – Dati un insieme S di numeri naturali ed un intero t, verificare se esiste un sottoinsieme di S i cui elementi sommano esattamente a t Zaino – Dati un intero k, uno zaino di capacità c, e n oggetti di dimensioni s 1, …., s n cui sono associati profitti p 1, …., p n, bisogna verificare se esiste un sottoinsieme degli oggetti di dimensione c che garantisca profitto k 85


Scaricare ppt "Didattica dei Fondamenti dellInformatica 2 Prima giornata: spunti di teoria della calcolabilità e principali classi di complessità computazionale dei problemi."

Presentazioni simili


Annunci Google