Apprendimento: Regola “Delta”

Presentazione sul tema: "Apprendimento: Regola “Delta”"— Transcript della presentazione:

1 Apprendimento: Regola “Delta”
Presentazione di un insieme di coppie di pattern di input e di output desiderati Attivazione della rete: il vettore di input genera un vettore di output Confronto fra questo vettore ed il vettore di output desiderato I pesi vengono modificati secondo la regola:

2 Funzioni di attivazione
Sia Funzione a soglia Funzione “logistica” (derivabile) (Input netto) Se net > soglia altrimenti 0 < A < 1

3 Esempio n. 1 Discriminazione fra mammiferi e non mammiferi
Tre domande: 1) Vive sulla terraferma? 2) Depone le uova? 3) È carnivoro? Determino gli esempi con le risposte corrette: input output 1 2 3 Cane Mucca Gambero Balena Pappagallo Aquila Orca

4 3 input 1 output NetManager.exe 5 pattern TrsEditor.exe NetTrainer.exe

5 Esempio n. 2 localizzazione di una lettera
Griglia 5x5 25 input 3 output 3 posizioni della T: Output Alto 1 0 0 input medio 0 1 0 basso 0 0 1

6 NetManager.exe TrsEditor.exe NetTrainer.exe 25 input 3 output
6 pattern TrsEditor.exe NetTrainer.exe

7 Generalizzazione: codifica locale e distribuita
1 2 1 Figura con spigoli 2 Figura chiusa

8 Discesa del Gradiente: i minimi locali
Errore Rete neurale a 2 strati: l’errore arriva a 0 e la procedura si ferma Minimo assoluto w2 w1 Errore Rete neurale a 3 Strati: nel minimo locale l’errore non scende più, la procedura si ferma, ma la rete non ha appreso w2 Minimo locale w1 Minimo assoluto

9 Algoritmi Genetici (GA)
Un nuovo metodo di addestramento per reti neurali (ma non solo) Non è necessario conoscere gli output corretti da associare agli input La Vita Artificiale: la selezione naturale simulata nel computer Un esempio: Criptismo Scaricabile sul sito:

10 Simulazioni di vita artificiale
Output motori (Es. muscoli) Rete neurale ambiente Input sensoriali (Es. visione)

11 Il funzionamento dei GA
Gli algoritmi genetici sono fondati sul concetto di RIPRODUZIONE SELETTIVA Ripetute interazione fra l’organismo e l’ambiente Generazione di una popolazione casuale di organismi Misura della competenza degli organismo nel loro ambiente (compito) Selezione dei migliori organismi Meccanismi di riproduzione e mutazione del genotipo

12 Meccanismi di riproduzione
Mutazione Piccola modifica casuale di alcuni pesi sinaptici scelti a caso (riproduzione asessuata) Crossover Scambio di materiale genetico fra i genitori (riproduzione sessuata)

13 Criptismo in dettaglio
Genoma costituito da: Pesi sinaptici Gene che determina il colore I pesi sinaptici sono numeri reali Riproduzione asessuata

14 Considerazioni finali sui GA
Ciò che si ottiene con i GA è una forma di “adattamento” e non di “apprendimento” L’apprendimento è orientato all’acquisizione di qualcosa L’adattamento non ha un obiettivo Gli organismi artificiali non imparano nulla durante la vita