Giuseppe Andronico CCR-WS10 Santa Tecla, 18 Maggio 2010 Introduzione MPI & GPU

Sommario Introduzione MPI  Calcolo parallelo & MPI  Risorse MPI  MPI & GRID Introduzione GPU  Calcolo con le GPU

Introduzione MPI Message Passing Interface: libreria che implementa un metodo di comunicazione tra processi eseguiti indipendentemente, dove ogni processo è una istanza dello stesso eseguibile Uno dei metodi più diffusi per realizzare applicazioni parallele Supporta diversi metodi di comunicazione tra processi: ► Tramite il bus di sistema ► TCP/IP ► Infiniband, Myrinet,... Prevede comunicazione sincrona e asincrona

Calcolo parallelo & MPI Esempio tipico: Lattice QCD Algoritmo di tipo Montecarlo su un reticolo di punti in 4 dimensioni Il cambiamento nel singolo punto dipende dallo stesso punto e dai prossimi vicini I punti possono essere divisi in due insiemi in modo tale che l'aggiornamento dei punti di un dato insieme non abbia correlazioni ⇒ possono essere trattati in parallelo Il reticolo viene diviso in parti eguali che verranno trattate dai vari processi I vari processi scambiano informazioni necessarie al corretto svolgimento del programma anche diverse volte per ciclo

Calcolo parallelo & MPI Il grande numero di scambio di messaggi rende importante la latenza nell'attivazione di un collegamento più che la larghezza di banda L'esempio mostra un utilizzo tipico: lo stesso codice applicato a diversi insiemi di dati con scambio di informazioni tra le varie parti, tipicamente in modo sincrono In generale MPI supporta applicazioni dove processi diversi eseguono in parallelo del codice, non necessariamente lo stesso, che richiede lo scambio di informazione in modo sincrono o asincrono

Risorse MPI Un qualsiasi cluster può essere usato per programmi MPI, ma per un elevato numero di collegamenti la latenza diventa un fattore importante Sono stati sviluppati cluster che fanno uso di Infiniband per minimizzare questo problema: al momento l'INFN conta alcune risorse di questo tipo su cui riporterà Roberto Alfieri

MPI & GRID La presenza di risorse MPI con Infiniband distribuite rende interessante l'accesso via grid Esperienze in tal senso in EGEE (mpistart), Consorzio COMETA Sono richieste, comunque, delle adeguate politiche di utilizzo Con la fine di EGEE il supporto dovrebbe proseguire in EMI Ulteriori informazioni nel talk di Roberto Alfieri

MPI & GRID Usare MPI con GRID solleva altri aspetti: L'accounting dell'uso delle risorse, che nel caso specifico richiede alcuni accorgimenti particolari, come ci dirà Marco Bencivenni Il monitoraggio delle risorse per verificare il corretto funzionamento e prevenire problemi agli utenti; di questo ci parlerà Paolo Veronesi

Introduzione GPU L'evoluzione delle schede video ha portato i maggiori produttori a sviluppare unita di calcolo dedicate (GPU) estremamente potenti Due produttori (NVIDIA e ATI) hanno sviluppato delle librerie per accedere facilmente a questa risorsa Negli ultimi modelli la potenza di calcolo disponibile e' dell'ordine del TeraFlop in singola precisione Si possono montare più schede in un singolo computer

Calcolo con le GPU Le GPU sono usate come co-processori Va scritto il codice necessario Bisogna gestire gli spostamenti dei dati tra memoria della CPU e memoria della GPU Il metodo di calcolo e' di tipo data-parallel: diversi thread (centinaia o migliaia) che eseguono lo stesso codice su porzioni differenti di dati Si devono usare librerie fornite dal produttore Servono compilatori che supportano le GPU

Calcolo con le GPU Possibili grandi aumenti di prestazioni Richiesta algoritmi e programmazione specifici L'argomento viene presentato da Roberto Ammendola