La presentazione è in caricamento. Aspetta per favore

La presentazione è in caricamento. Aspetta per favore

Intelligent Information Retrieval. ..cè ben più delle parole-chiave Chiedo lintervento Della protezione civile.

Presentazioni simili


Presentazione sul tema: "Intelligent Information Retrieval. ..cè ben più delle parole-chiave Chiedo lintervento Della protezione civile."— Transcript della presentazione:

1 Intelligent Information Retrieval

2 ..cè ben più delle parole-chiave Chiedo lintervento Della protezione civile

3 Intelligent Information Retrieval Catturare i contenuti espressi mediante media diversi: –Testi –Speech –Immagini –Audio –Video Problematiche e applicazioni molto più complesse che in un motore di ricerca standard Rappresentazione e recupero dei contenuti spesso basati su metodologie di artificial intelligence

4 Prossime lezioni Trattamento del linguaggio naturale –Opinion Mining –Speech processing –Information Extraction –Question Answering Multimedia IR –Image, Audio, Video retrieval

5 Trattamento del linguaggio naturale (NLP) unintroduzione

6 Perché NLP è utile? Information Extraction Question answering Opinion Mining Conversational agents Summarization Machine translation Intelligent Information Retrieval

7 Applicazioni Queste applicazioni richiedono una grande quantità di conoscenza Vi ricordate HAL in 2001:Odissea nello Spazio? (Kubrik, 68) 2Bd06s&feature=relatedhttp://www.youtube.com/watch?v=npN9l 2Bd06s&feature=related

8 Open the bay pod doors, Hal

9 Cosa serve per interpretare il dialogo? Speech recognition Conoscenza sul significato delle parole Come le parole concorrono a determinare il significato della frase o domanda Risoluzione delle referenze anaforiche (where you get that idea, Hal?)..and much more..

10 Un esempio più realistico What is the Feds current position on interest rates? Cosa o chi è Fed? Cosa significa have a position (in italiano cè la stessa espressione, avere una posizione? In che modo current modifica il senso della domanda?

11 Rappresentazione dei testi in IR classico Romney Battles McCain for Michigan Lead By MICHAEL LUO DETROIT With economic issues at the top of the agenda, the leading Republican presidential candidates set off Monday on a final flurry of campaigning in Michigan ahead of the states primary that could again shake up a remarkably fluid Republican field. Recent polls have indicated the contest is neck-and-neck between former Gov. Mitt Romney of Massachusetts and Senator John McCain of Arizona, with former Gov. Mike Huckabee of Arkansas further back. Mr. Romneys advisers have acknowledged that the states primary is essentially do-or-die for him after successive losses in Iowa and New Hampshire. He has been campaigning heavily throughout the state, emphasizing his childhood in Michigan and delivered a policy speech on Monday focused on aiding the automotive industry. In his speech at the Detroit Economic Club, Mr. Romney took Washington lawmakers to task for being a disinterested in Michigans plight and imposing upon the states automakers a litany of unfunded mandates, including a recent measure signed by President Bush that requires the raising of fuel efficiency standards. He criticized Mr. McCain and Senator Joseph I. Lieberman, independent of Connecticut, for a bill that they have pushed to cap and trade greenhouse gas emissions. Mr. Romney asserted that the bill would cause energy costs to rise and would ultimately be a job killer. Mr. Romney further pledged to bring together in his first 100 days representatives from the automotive industry, unions, Congress and the state of Michigan to come up with a plan to rebuild Americas automotive leadership and to increase to $20 billion, from $4 billion, the federal support for research and development in energy, fuel technology, materials science and automotive technology.

12 17 the 13 and 10 of 10 a 8 to 7 s 6 in 6 Romney 6 Mr 5 that 5 state 5 for 4 industry 4 automotive 4 Michigan 3 on 3 his 3 have 3 are 2 would 2 with 2 up 2 think 2 technology 2 speech 2 primary 2 neck 2 is 2 further 2 fuel 2 from 2 former 2 energy 2 campaigning 2 billion 2 bill 2 at 2 They 2 Senator 2 Republican 2 Monday 2 McCain 2 He 2 Gov 1 wrong 1 who 1 upon 1 unions 1 raising 1 pushed 1 presidential 1 polls 1 policy 1 plight 1 pledged 1 plan 1 people 1 or 1 off 1 measure 1 materials 1 mandates 1 losses 1 litany 1 leading 1 leadership 1 lawmakers 1 killer 1 jobs 1 job 1 its 1 issues 1 indicated 1 independent 1 increase 1 including 1 imposing 1 him 1 heavily 1 has 1 greenhouse 1 gone 1 gas 1 future 1 forever 1 focused 1 flurry 1 fluid 1 first 1 final 1 field 1 federal 1 essentially 1 emphasizing 1 emissions 1 efficiency 1 economic 1 don 1 domestic 1 do 1 disinterested 1 die 1 development 1 delivered 1 days 1 criticized 1 could 1 costs 1 contest 1 come 1 childhood 1 cause 1 cap 1 candidates 1 by 1 bring 1 between 1 being 1 been 1 be 1 back 1 automobile 1 automakers 1 asserted 1 aiding 1 ahead 1 agenda 1 again 1 after 1 advisers 1 acknowledged 1 With 1 Washington 1 There 1 Recent 1 President 1 New 1 Mitt 1 Mike 1 Massachusetts 1 Lieberman 1 Joseph 1 John 1 Iowa 1 In 1 I 1 Huckabee 1 Hampshire 1 Economic 1 Detroit 1 Connecticut 1 Congress 1 Club 1 Bush 1 Arkansas 1 Arizona 1 America Modello vettoriale bag of words

13 Modello bag of words Sapete di cosa si parla Ma non cosa viene detto.. Trattamento del linguaggio naturale: avvicinarsi a HAL! 3 problemi: –Riconoscimento del parlato –Analisi dei testi –Generazione di testi + sintesi vocale

14 Avvicinarsi a Hal (without cheating!!) /eliza.php3 ELIZAhttp://www.manifestation.com/neurotoys /eliza.php3

15 Trattamento del linguaggio naturale Riconoscimento del parlato: convertire il segnale vocale di un parlante in una stringa di termini machine-readable John goes to

16 Trattamento del linguaggio naturale Elaborazione del linguaggio naturale: convertire una stringa di termini machine-readable in una rappresentazione machine-processable che ne evidenzi la struttura (morfologica, sintattica, semantica, pragmatica..)

17 1. Struttura morfologica John goes to Boston by bus Analisi morfologica John/name goes/Verb to/prep Boston/name by/prep bus/noun

18 John goes to Boston by bus Sentence NounPhrase VerbPhrase Verb PrepPhrase Name prep Noun Phrase Name PrepPhrase Prep Noun Analisi sintattica 2.Struttura sintattica

19 Analisi semantica John goes to Boston by bus 3. Struttura semantica

20 Livelli di descrizione: approfondimenti Fonetica (speech) Morfologia Sintassi (sentence) Semantica Pragmatica, logica.. (discourse)

21 Morfologia Input : una sequenza di parole di un vocabolario Output: una sequenza di coppie (lemma,tag morfologica, eventualmente associata a maggiori informazioni, es: flessione, derivazione, composizione, ambiguità) Es: andiamoci andare/verbo ci/pron bellissimo bello/nome_superl hanno mangiato mangiare/verbo piano piano/(nome,avv,agg)

22 Morfologia: metodi Metodi basati sulla conoscenza (es. grammatiche) Metodi di apprendimento automatico (stocastici, algebrici) En-large-ment-s

23 Analisi Sintattica Input: sequenza di coppie (lemma, tag morfologica o POS/part of speech) Output: albero sintattico le cui foglie sono lemmi Es: Giovanni/nome accompagna/verbo Maria/nome con/prep il/art piano/(nome,agg,avv)./punt

24 Sintassi: Metodi Metodi basati sulla conoscenza, es. grammatiche Metodi di apprendimento automatico (stocastici, algebrici)

25 Sintassi: problemi 1.Ambiguità dei POS in input Es: Giovanni/nome accompagna/verbo Maria/nome con/prep il/art piano/(nome,agg,avv)./punt E possibile risolvere lambiguità morfologica usando conoscenza grammaticale, infatti la sequenza art nome punt è consentita, mentre art avv punt o art agg punt no

26 2.Ambiguità sintattica Lambiguità sintattica è data dal fatto che un gruppo preposizionale prep art nome (con il piano) può essere collegato sia al verbo (accompagna) che al nome (Maria) Infatti le sequenze verbo gruppo preposizionale e nome gruppo preposizionale sono entrambe sintatticamente corrette

27 Albero 1 name name PP Giovanni accompagna maria con il piano prep NP art noun S NP VP Verb NP

28 Albero 2 name Giovanni accompagna maria con il piano prep NP art noun S NP VP Verb NP PP

29 Ambiguità sintattica E solo la semantica che ci aiuta ad immaginare che in accompagna Maria col piano il piano fa da accompagnamento, mentre ad esempio in una frase con identica struttura come accompagna Maria con gli occhiali è Maria che porta gli occhiali!!!

30 Analisi Semantica Input: albero sintattico le cui foglie sono lemmi Output: espressione logica o grafo, i cui argomenti o nodi sono concetti, i cui predicati o archi sono relazioni semantiche

31 giovanniaccompagnamaria piano soggogg modif(con) giovanniaccompagnamaria soggogg piano modif(con) Grafi sintattici (ottenuti direttamente dagli alberi) Dallalbero sintattico al grafo semantico

32 giovanniaccompagnamaria soggogg piano modif(con) Grafi concettuali: trasformare parole in concetti non ambigui, le relazioni sintattiche in relazioni concettuali Dallalbero sintattico al grafo semantico Person: Giovanni agent eseguire-acco mpagnamento patient Person: Maria pianoforte instrum

33 Ambiguità: problema pervasivo nel NLP Cosa serve? Conoscenza linguistica in formato computer-processable (eventualmente acquisibile (semi) automaticamente): –Conoscenza dei fonemi –Conoscenza dei prefissi, suffissi, lemmi, desinenze –Conoscenza delle categorie grammaticali –Conoscenza dei significati –…. Algoritmi per il trattamento e lelaborazione della conoscenza

34 Metodi per lelaborazione del LN: approfondimenti Base di conoscenza (lemmi, categorie grammaticali, regole, Significati) Algoritmi di elaborazione del LN Modellare la conoscenza linguistica Definire algoritmi per generare strutture formali e non ambigue da dati non strutturati e ambigui

35 Metodi per lelaborazione del LN: approfondimenti Algoritmi per lelaborazione (morfo/sint/sem) –Metodi basati su conoscenza –Metodi stocastici /statistici –Metodi algebrici Metodi per la modellazione della conoscenza –Apprendimento automatico (a sua volta, basato sul algoritmi probabilistici, knowledge-based, algebrici)

36 Hidden Markov Models Modelli probabilistici per il trattamento del linguaggio naturale

37 Sommario Gli Hidden Markov Models sono un modello probabilistico molto studiato in computer science, specialmente in ambito di telecomunicazioni e ricerca operativa Nel trattamento del linguaggio naturale, vengono utilizzati per: –Speech recognition –Part of Speech tagging –Analisi sintattica

38 Catene di Markov (richiamo) Sia X1,X2..Xn una sequenza di variabili aleatorie che assumono valori in un alfabeto finito Per la formula di Bayes: Le variabili sono dette formare una cartena di Markov se: Il valore della variabile aleatoria al tempo i dipende solo dal valore al tempo precedente

39 Catene di Markov La limitazione di avere un solo elemento di memoria (lo stato precedente) è solo apparente, infatti: Ponendo: La sequenza Z specifica la sequenza X e viceversa La maggiore complessità risulta nella crescita di dimensionalità dellinsieme, dato che ogni valore di corriponde ad una possibile sequenza di k valori di Z Quindi è possibile modellare catene di Markov a memoria 2,3 ecc.

40 Catene di Markov Possiamo modellare i valori delle variabili aleatorie come STATI e etichettare le transizioni fra stati mediante probabilità condizionate: Es: Stato1: pioggia Stato2: nuvole Stato3: sole p(pioggia/nuvole)

41 Catene di Markov nascoste (HMM) Un HMM è una quintupla Dove: S è un insieme di stati, s 0 lo stato iniziale, Y un insieme di simboli di uscita y 1..y n, P è una distribuzione di probabilità delle transizioni s s: p(s|s), Q è una distribuzione di probabilità dei valori di output q(y|s,s) La probabilità di osservare una certa sequenza di simboli è: In un HMM le transizioni fra stati sono nascoste, ciò che è visibile è solo la sequenza dei simboli emessi Si ha inoltre: s s yi

42 Esempio 1 Un eremita si trova in una caverna e non può osservare il cielo. Però nella caverna ci sono delle alghe: il maggiore o minore livello di umidità delle alghe è probabilisticamente collegato allo stato del tempo

43 Un esempio più correlato: parole e part of speech (POS) avvagg art nome verbo Il piano suona forte p(agg/art) Notate che da ogni stato può essere emesso un sottoinsieme dei simboli in Y (es suona non può essere emesso nelle transizioni da art agg: q(suona|art,agg)=0. In altri termini, agg non è un POS di suona) S: le parti del discorso Y: le parole del vocabolario di una lingua Le parole che possono essere emesse nelle transizioni s verbo sono un sottoinsieme di Y

44 Catene di Markov nascoste Data una sequenza di simboli osservata, quale è la sequenza di stati più probabile che possa averla causata? Es: se osservo asciutto-umido-fradicio, questa sequenza può essere causata da molte sequenze di stati, quale è la più probabile? Se osservo il piano suona forte, le sequenze di POS possibili sono (dato il modello di Markov della figura precedente): art agg verbo avv, art avv verbo agg, art nome verbo avv, art nome verbo agg…., quale è la più probabile? Problema: TROVARE

45 Quale è la sequenza di stati più probabile? Quale di queste sequenze di stati può avere generato il piano suona forte? –Art Agg Verb Avv –Art Agg Verb Agg –Art Nome Verb Avv –Art Nome Verb Agg –Art Avv Verb Avv –Art Avv Verb Agg

46 Trellies (tralicci) art agg avv ver nom art agg avv ver nom art agg avv ver nom art agg avv ver nom Il piano suona forte Antonio accellera il cammino art agg avv ver nom art agg avv ver nom art agg avv ver nom art agg avv ver nom Evidenziano levoluzione di un processo che genera una sequenza 6 sequenze 2 sequenze Evoluzione temporale S

47 Esempio 2 Asciutto --umido---fradicio In questo trellis tutte le p(x|x) sono non nulle Per sequenze lunghe k, avrò |S| k possibili percorsi

48 ..Torniamo alla stima della max_prob sequence Poiché si tratta di un processo di Markov, per ogni i: Cioè posso considerare uno stato interno della catena e calcolare la sottosequenza che massimizza la probabilità di raggiungerlo si

49 i (s) i (s i ) è una funzione che determina quale sequenza di i-1 stati ha la massima probabilità di condurre ad uno stato s i al passo i-esimo, condizionata al fatto di partire da uno stato noto s0, e ad aver osservato una certa sottosequenza di simboli y 1..y i

50 Esempio di calcolo della prob. di raggiungere un certo stato art agg avv ver nom art agg avv ver nom art agg avv ver nom art agg avv ver nom Il piano suona forte s0 P(art,agg,ver,il,piano,suona|s0)= P(art,agg,il piano|s0)P(verbo,suona|agg) e iterando: Consideriamo una possibile sequenza di stati per una stringa di simboli: P(art,il|s0)P(agg,piano|art)P(verbo,suona|agg)P(agg,forte|ver) e infine :

51 Max_prob sequence 2)Quindi, trovare la sequenza più probabile che da s del livello i del trellis conduce a sk: 3)Infine, variando s del livello i, trovare la sequenza completa più probabile (la formula (1)) Perciò: 1)Per ogni livello i del trellis,e per ogni stato s del livello i, trovare la sequenza che massimizza la probabilità di arrivare a s :

52 Max_prob sequence Poiché negli HMM ho che: Posso scrivere:

53 Algoritmo di Viterbi 1.Set 2.Applica la formula precedente (2) per calcolare la funzione gamma per per la prima colonna del trellis, cioè: 3.Calcolate la 2 per tutti gli s del secondo livello del trellis ed eliminate le transizioni s s per le quali p(y2,s|s) 1(s)< 2(s) Notate che la 0 è zero per s diverso da s0!! 4. Ripetete lo stesso passo per tutti gli stati della colonna i-esima, fino alla colonna k, e tornando indietro, generate le possibili sequenze a partire dallo stato s che massimizza

54 Esempio La/pron,art vecchia/agg,nome la/pron,art porta/nome,verbo la/pron,art sbarra/nome,verbo a p ag n v s0 la 1(art)=p(la,art|s0) 1(pron)=p(la,pron|s0) 1(s, sart,pron)=0 Come vedremo, il problema è di stimare le p(w k,pos i |pos j ) Supponiamo di avere a disposizione queste stime =0,6 =0,4

55 i=2 a p ag n v s0 la vecchia a p ag n v Poiché max=0,3 vengono cancellati due percorsi (sia allo stato ag che allo stato n si arriva con > probabilità dallo stato a, Quindi si eliminano i percorsi s0-p-ag e s0-p-n) 2(ag)=0,3, 2(n)=0,3

56 i=3 a p ag n v s0 lavecchia a p ag n v a p n v la

57 ..proseguendo a p ag n v s0 lavecchia a p ag n v a p n v la a p ag n v a p n v a p n v porta la sbarra I percorsi possibili sono: 1: art n art n pron ver, e 2: art n pron ver art n. Se 6 (n)> 6 (v), lalgoritmo restituisce solo il percorso 2, altrimenti il percorso 1

58 Lalgoritmo di Viterbi ha moltissime applicazioni l'algoritmo di Viterbi serve per determinare quale sequenza di dati trasmessi sia la più probabile causa del flusso osservabile in uscita. l'algoritmo calcola la probabilità dei diversi flussi in ingresso in modo ricorsivo, eliminando in blocco, ad ogni passo, quelli di probabilità minore. Tale eliminazione permette una cospicua riduzione della complessità delle relative operazioni di calcolo. Applicazioni pressochè in ogni campo dellinformatica: telefonia cellulare, speech recognition, genetica..

59 HMM+Viterbi per riconoscimento del parlato Forme donda (segnale vocale) Vettori delle caratteristiche spettrali Stima dei parametri (fonemi) HMM+Viterbi Sequenza di parole

60 HMM+Viterbi per lanalisi sintattica Albero sintattico (parse tree) Definiamo stringa trasversale un pattern di tags sintattiche che collega un termine alla radice dellalbero, es: I: Pp-NP-S (il primo elemento è il POS) am: vpb-VP-VP-S in: In-PP-VP-S

61 HMM per lanalisi sintattica HMM1: data una stringa di parole, predice la stringa di POS HMM2: predice la sequenza di stringhe trasversali combina le stringhe

62 Il solito problema:data una osservazione, predire la sequenza di stati che la genera T è linsieme delle tag sintattiche, S linsieme delle stringhe trasversali, wi sono le parole osservate

63 Euristica per combinare le stringhe Si combinano nodi con la stessa etichetta

64 Stima dei parametri del modello Lalgoritmo di Viterbi si basa sulla stima delle probabilità p(y k,s|s) dove y k è loutput osservato e s,s sono gli stati del modello (parole, POS, stringhe trasversali..) –I parametri (cioè le p) possono essere stimati su un training set ovvero sequenze annotate da esperti (ad esempio il Wall Steet Journal corpus, per i testi scritti, e vari speech corpora PRONELEX, CMUdict..) –Algoritmo di Baum-Welch per la stima dei parametri

65 Esempio (WSJ) Centinaia di migliaia di frasi annotate con POS e tag sintattiche. E possibile ottenere stime significative di p(w i,POS i |POS i-1 ) E p(POS i,S i |POS i-1,S i-1 )

66 Per approfondimenti Statistical Methods for Speech Recognition Frederick Jelinek MIT press


Scaricare ppt "Intelligent Information Retrieval. ..cè ben più delle parole-chiave Chiedo lintervento Della protezione civile."

Presentazioni simili


Annunci Google