“Come vede una rete neurale” Titolo della tesi “Come vede una rete neurale”

Scopo della tesi: simulare alcune proprietà del sistema visivo dei mammiferi attraverso l’utilizzo di una rete neurale

Che cosa verrà simulato? NO Immagini in bianco e nero (livelli di luminanza) Composizione spettrale del segnale Complesse dinamiche neurali Simulazione prevalentemente atemporale Feed-back intermodale Interazioni a feed-back con l’ambiente esterno Trasformazioni in 2D Trasformazioni in 3D E molto altro ancora….

Rete di neuroni biologici Rete neurale artificiale Reti neurali Sistemi nervosi artificiali che traggono ispirazione dai modelli biologici Rete di neuroni biologici Rete neurale artificiale

Neurone  input output Neurone biologico Neurone artificiale F(Att.) X1 X2 X3  F(Att.) output

Adattabilità: sono applicabili a più domini Vantaggi delle reti neurali Plausibilità biologica Capacità di apprendere Adattabilità: sono applicabili a più domini (come i sistemi biologici) Veloci: processi in parallelo Rappresentazioni distribuite Robusti: errori e rumore degradano progressivamente la prestazione Possibilità di eseguire manipolazioni Somiglianza fra prestazioni umane e modelli

Il modello Tentativo di conciliare due diverse visioni del rapporto mente-cervello Osservazioni psicologia sperimentale (percezione) Neuroscienze dialogo

Strutture anatomiche simulate Parziale implementazione di Strutture retiniche NGL V1 Aree associative Sistema motivazionale

Caratteristiche funzionali simulate Elaborazione precoce dell’immagine visiva Eliminazione del rumore Estrazione delle variazioni di luminanza Prime fasi di elaborazione corticale (V1) Ricostruzione dell’immagine Livello associativo Rinforzo Attenzione selettiva

Schema generale della rete: Totale di 5.176 neuroni artificiali e 528.439 connessioni Implementazione: Visual Basic

Primo strato: recettori Matrice dei recettori: 20 x 20 400 recettori Livello di attivazione (istantanee del programma)

Processo di smoothing Livellamento del rumore dell’immagine originaria Immagine + rumore Immagine percepita (depurata dal rumore)

Eliminazione del rumore: recettori Prima dell’applicazione del filtro Dopo l’applicazione del filtro

Che cosa accade al segnale?

Estrazione delle variazioni di luminanza Le caratteristiche importanti dell’immagine sono racchiuse nelle variazioni di luminanza (spesso coincidenti con i bordi degli oggetti) Necessità di introdurre un ulteriore strato di unità la cui struttura riassume le funzioni delle cellule bipolari, gangliari e del NGL INTERMEDIE Center-ON Center-OFF

Connessioni recettori  center-ON e center-OFF Struttura del campo recettivo delle center-ON e center-OFF Elaborazione in parallelo

Proprietà funzionali center-ON e center-OFF Risposta di una center-ON in funzione della posizione dello stimolo luminoso

Simulazioni intermedie

Simulazioni intermedie

Prime fasi di elaborazione corticale (V1) Campo recettivo concentrico Campo recettivo più complesso Organizzazione modulare V1

Modello: unità semplici SI ed SII Salto concettuale rispetto alle intermedie Nuova classe di unità con CR allungato: necessità di elaborare proprietà complesse dell’immagine, non solo grandezze puntiformi Semplificazione della circuiteria corticale: solo due classi di unità semplici, SI ed SII Che cosa chiediamo a queste unità? Estrazione di contorni dell’immagine Sensibilità alle frequenze spaziali Sensibilità alla direzione del contrasto

Unità SI 6 classi di unità 2166 unità

Unità SII 8 classi di unità 1800 unità Simulazione della presenza di un set completo di cellule semplici per orientamento e frequenza spaziale

Feed-Back

Competizione locale Meccanismo di controllo della dinamica della rete In una data popolazione di unità con funzioni simili solo l’unità più attiva trasmette il proprio output 20 20 5 10 15 10

Simulazioni SI Intermedie Recettori Campo recettivo Scala attivazione

Simulazioni SII Dopo la competizione locale

Effetto del Feed-Back Prima Dopo

Esempi 1

Esempi 2

Esempi 3

Obiettivi raggiunti Estrazione delle caratteristiche dell’immagine attraverso l’interazione fra più stadi: ciò che viene perso in uno stadio è recuperato dal feed-back di quello successivo Ricostruzione dei valori di luminanza Migliore prestazione per stimoli con alta simmetria e periodicità (similmente al SV umano) Riproduzione di alcuni fenomeni percettivi: bande di Mach, contrasto simultaneo, facilità nell’elabora_ zione di immagini simmetriche e periodiche

Ultimi stadi Vogliamo che la rete reagisca a delle semplici procedure di condizionamento modifichi le proprie prestazioni nel tempo: apprendimento relazione fra ambiente esterno ed interno (necessità dell’organismo) esibisca un processo di attenzione selettiva nei confronti degli stimoli che ha appreso essere più importanti: target e distrattori

Architettura Unità capaci di apprendere Unità associative Unità che codificano per rinforzi - e + Unità rinforzanti Neuroni artificiali che codificano per stati “endogeni” della rete (piacere-dolore)

Convergenza di segnali visivi e motivazionali e capacità di apprendere Unità associative 12 unità Interamente interconnesse + connessioni da tutte SI + feed-back da SI Capaci di apprendimento Implementano una simu_ lazione di corteccia associativa Convergenza di segnali visivi e motivazionali e capacità di apprendere

Unità rinforzanti Interamente connesse con le associative 4 unità divise in due coppie Paia di unità che codificano per polarità opposte dello stimolo (simili a neur. ipotalamo e neur. facilitatori di Aplysya) “Leggono” l’input motivazionale e generano un feed-back verso le associative: se le unità entrano in uno stato di risonanza, allora c’è apprendimento

Apprendimento Indebolimento Rafforzamento A A B B C Sensibilità unità a diversi stimoli Prima dell’apprendimento Dopo l’apprendimento

Simulazione finale: apprendimento ed attenzione selettiva

Conclusioni Viene fornita una spiegazione computazionale del perché A differenza di altri modelli, questa rete integra gli stadi precoci di elaborazione sensoriale con i meccanismi di controllo superiori Viene fornita una spiegazione computazionale del perché sia richiesta l’inibizione come meccanismo di controllo delle dinamiche neurali Una probabile spiegazione della preferenza nella percezione e nelle creazione di stimoli simmetrici e periodici può essere ricercata nella struttura delle SI ed SII L’inibizione dei distrattori non è completa: questi forniscono ancora informazioni contestuali

Più alto è il livello dell’input motivazionale, maggiore è l’inibizione di ciò che circonda i distrattori. Una rete animata da passione?…... Fornisce una metodologia per passare dal livello microscopico della circuiteria neurale a quello macroscopico del comportamento Tutto ciò è stato fatto con neuroni artificiali molto “stupidi”: quanto più semplici le unità, tanto migliore l’architettura a parità di prestazioni

Fine