Apprendimento: Regola “Delta” Presentazione di un insieme di coppie di pattern di input e di output desiderati Attivazione della rete: il vettore di input genera un vettore di output Confronto fra questo vettore ed il vettore di output desiderato I pesi vengono modificati secondo la regola:

Funzioni di attivazione Sia Funzione a soglia Funzione “logistica” (derivabile) (Input netto) Se net > soglia altrimenti 0 < A < 1

Esempio n. 1 Discriminazione fra mammiferi e non mammiferi Tre domande: 1) Vive sulla terraferma? 2) Depone le uova? 3) È carnivoro? Determino gli esempi con le risposte corrette: input output 1 2 3 Cane 1 0 1 1 Mucca 1 0 0 1 Gambero 0 1 0 0 Balena 0 0 0 1 Pappagallo 1 1 0 0 Aquila 1 1 1 0 Orca 0 0 1 1

3 input 1 output NetManager.exe 5 pattern TrsEditor.exe NetTrainer.exe

Esempio n. 2 localizzazione di una lettera Griglia 5x5 25 input 3 output 3 posizioni della T: Output Alto 1 0 0 input medio 0 1 0 basso 0 0 1

NetManager.exe TrsEditor.exe NetTrainer.exe 25 input 3 output 6 pattern TrsEditor.exe NetTrainer.exe

Generalizzazione: codifica locale e distribuita 1 2 1 Figura con spigoli 2 Figura chiusa

Discesa del Gradiente: i minimi locali Errore Rete neurale a 2 strati: l’errore arriva a 0 e la procedura si ferma Minimo assoluto w2 w1 Errore Rete neurale a 3 Strati: nel minimo locale l’errore non scende più, la procedura si ferma, ma la rete non ha appreso w2 Minimo locale w1 Minimo assoluto

Algoritmi Genetici (GA) Un nuovo metodo di addestramento per reti neurali (ma non solo) Non è necessario conoscere gli output corretti da associare agli input La Vita Artificiale: la selezione naturale simulata nel computer Un esempio: Criptismo Scaricabile sul sito: http://gral.ip.rm.cnr.it/software

Simulazioni di vita artificiale Output motori (Es. muscoli) Rete neurale ambiente Input sensoriali (Es. visione)

Il funzionamento dei GA Gli algoritmi genetici sono fondati sul concetto di RIPRODUZIONE SELETTIVA Ripetute interazione fra l’organismo e l’ambiente Generazione di una popolazione casuale di organismi Misura della competenza degli organismo nel loro ambiente (compito) Selezione dei migliori organismi Meccanismi di riproduzione e mutazione del genotipo

Meccanismi di riproduzione Mutazione Piccola modifica casuale di alcuni pesi sinaptici scelti a caso (riproduzione asessuata) Crossover Scambio di materiale genetico fra i genitori (riproduzione sessuata)

Criptismo in dettaglio Genoma costituito da: Pesi sinaptici Gene che determina il colore I pesi sinaptici sono numeri reali Riproduzione asessuata

Considerazioni finali sui GA Ciò che si ottiene con i GA è una forma di “adattamento” e non di “apprendimento” L’apprendimento è orientato all’acquisizione di qualcosa L’adattamento non ha un obiettivo Gli organismi artificiali non imparano nulla durante la vita