Progettazione ed implementazione di un sistema di calcolo distribuito ibrido multithread/multiprocesso per HPC: applicazione allimaging medico Presentata.

Slides:



Advertisements
Presentazioni simili
Scheduling (Schedulazione) Susanna Pelagatti – Università di Pisa
Advertisements

EUCIP IT Administrator Modulo 4 - Uso Esperto della Rete Reti informatiche: Introduzione AICA © 2005.
Piano ForTic in Piemonte: Percorso B: di tutor… di più
Classe III A A.s – 2011 Sistemi di Elaborazione e Trasmissione dell’Informazione 4 ore settimanali (2 laboratorio) Docenti Prof. Alberto Ferrari.
ISA Server 2004 Enterprise Edition Preview. ISA Server 2004.
Miglioramento della protezione dei dati mediante SQL Server 2005 Utilizzo della crittografia di SQL Server 2005 per agevolare la protezione dei dati Pubblicato:
Il Consolidamento di Servizi Virtual Server 2005 PierGiorgio Malusardi Evangelist - IT Professional Microsoft.
Referenti: Prof. Anna Antola Ing. Marco Domenico Santambrogio
Politecnico di Milano Sviluppo di una applicazione per DIOPSIS 740: Rotazione e Ridimensionamento di immagini Sviluppo di una applicazione per DIOPSIS.
POLITECNICO DI MILANO Politecnico di Milano A.A. 2005/06 MECCANISMI DI SINCRONIZZAZIONE PER SISTEMI MULTIPROCESSORE BASATI SUL DISPOSITIVO D740 Candidato:
1 Processi e Thread Processi Thread Meccanismi di comunicazione fra processi (IPC) Problemi classici di IPC Scheduling Processi e thread in Unix Processi.
Gestione del processore
1 Processi e Thread Meccanismi di IPC, Inter Process Communication (1)
1 Processi e Thread Meccanismi di IPC (1). 2 Comunicazioni fra processi/thread Processi/thread eseguiti concorrentemente hanno bisogno di interagire per.
Università degli studi di Trieste – Tesi di laurea triennale in Ingegneria elettronica PROTOCOLLO DI COMUNICAZIONE TRA PC E MICROCONTROLLORE PER UN’INTERFACCIA.
Tesi di Laurea Triennale in Ingegneria Elettronica Applicata
Realizzazione di algoritmi video su FPGA
Organizzazione di una rete Windows 2003
Cluster openMosix Linux Day ’04 Caserta Ing. Diego Bovenzi.
Introduzione al calcolo parallelo SISTEMI INFORMATIVI AZIENDALI Pierpaolo Guerra Anno accademico 2009/2010.
MAIS WP5 – Architectures Luca Negri Politecnico di Milano Roma – novembre 05.
DomainDay, Milano 13/11/20031 spam: esiste una soluzione ideale? Gian Carlo Ariosto Amministratore della lista.
Architettura Three Tier
Limpatto economico dei finanziamenti pubblici sui principali settori del sistema toscano delle cooperative: evoluzione e valutazione.
Proposta di integrazione e consolidamento delle risorse presenti nellinfrastruttura Grid dellItalia Meridionale (L. Merola, )
Processi e Thread.
Università di Padova Dipartimento di Ingegneria dellInformazione Analisi della Qualità del Servizio in Reti Radio Ad Hoc Special Interest Group on NEtworking.
Giornata di incontro con i Borsisti GARR, Roma, Andrea Petricca Problematiche di rete nella sperimentazione di file-system distribuiti su WAN.
Ministero Affari EsteriForum PA, maggio Ministero degli Affari Esteri Dal protocollo informatico verso la gestione elettronica dei flussi documentali.
I Thread.
Riunione CRESCO Infrastruttura HPC Cresco Analisi Preliminare.
Sistemi Operativi Distribuiti: indice
Gli sviluppi del dossier virtuale Verso uno strumento di gestione personalizzata del flusso documentale Limplementazione del dossier virtuale Facciamo.
CryptoAnalisisServer(CAS) Reti di Calcolatori LS progetto di Carpenè Michele, Busacca Fulvio Servizio distribuito basato sul calcolo parallelo per operazioni.
Reti di Calcolatori L-S Un Sistema Decentrato di Allocazione del Carico per Applicazioni di Calcolo Distribuito Mauro Bampo.
Architettura e protocolli di distribuzione dello stato in videogiochi Multiplayer distribuiti Michele Pace Esame di Reti di Calcolatori LS Aa
Benvenuti a Un incontro informativo di grande valore ed alto contenuto sulla Virtualizzazione e sistemi ad alta disponibiltà per le PMI.
Università Politecnica delle Marche
Università degli Studi di Bologna Facoltà di Ingegneria Corso di Laurea in Ingegneria Informatica Materia della tesi: Sistemi Distribuiti L-S VIDEOSORVEGLIANZA.
Silberschatz and Galvin Operating System Concepts CAP. 1 - INTRODUZIONE.
U N INFRASTRUTTURA DI SUPPORTO PER SERVIZI DI FILE HOSTING Matteo Corvaro Matricola Corso di Reti di Calcolatori LS – Prof. A. Corradi A.A.
Omar 22/07/2004 Progettazione ed implementazione di un sistema di calcolo distribuito ibrido multithread/multiprocesso.
Calcolatori Elettronici II Lezione n. 17 – Introduzione alle architetture parallele Prof. Gianni Conte Università di Parma CALCOLATORI ELETTRONICI II CALCOLATORI.
Un motion planner per guide multimediali interattive
“ La qualità in diabetologia “
Stima del flusso ottico per il controllo dei movimenti oculari
Reti di calcolatori LS Manni Tiziano  IT e nuovi scenari applicativi …  … portabilità dei dati …  … condivisione dati …  … disponibilità.
Threads.
Installazione di un cluster per HPC con OSCAR e test MPI-openMosix Domenico Diacono Workshop CCR INFN – Paestum – Giugno 2003.
FESR Trinacria Grid Virtual Laboratory ADAT (Archivi Digitali Antico Testo) Salvatore Scifo TRIGRID Second TriGrid Checkpoint Meeting Catania,
Il supercalcolo fai-da-te
Copyright BC Webcams! Tutto quello che avreste voluto sapere e non avete mai osato chiedere! “Telecamera per Web”
10 azioni per lo scheduling su Grid Uno scheduler per Grid deve selezionare le risorse in un ambiente dove non ha il controllo diretto delle risorse locali,
Gestione del processore (Scheduler)
Calcolatori Elettronici Valutazione delle Prestazioni Francesco Lo Presti Rielaborate da Salvatore Tucci.
MCSA Mobile Code System Architecture Infrastruttura a supporto della code mobility Pierfrancesco Felicioni Reti di Calcolatori L.S. 2005/2006.
REALIZZAZIONE DI UNA APPLICAZIONE PER IL
1 Migrazione dei processi: Mosix. 2 Cosa è Mosix/OpenMOSIX ? OpenMOSIX è un è una patch del kernel di Linux che aggiunge funzionalit à avanzate di clustering.
1 Processi e Thread Processi Thread Meccanismi di comunicazione fra processi (IPC) Problemi classici di IPC Scheduling Processi e thread in Unix Processi.
B IBLIO S ERVICE consultazione di articoli online Anna Riccioni Progetto per il corso di Reti di Calcolatori L-S Anno Accademico
SnippetSearch Database di snippet bilanciato e replicato di Gianluigi Salvi Reti di calcolatori LS – Prof. A.Corradi.
Architetture dei sistemi di calcolo, sistemi operativi, reti di calcolatori Dr. Luciano Bononi Facoltà di Scienze, Fisiche Naturali dell’Università di.
OpenMOSIX: High performance Linux farm Rosario Esposito INFN-Napoli.
Software di Packet-Filtering e Port-Filtering su reti TCP/IP Come filtrare il traffico di rete in transito sulle interfacce presenti, frapponendosi tra.
SEMINARI CAMO 2003 LA SIMULAZIONE NUMERICA COMPIE 50 ANNI
Implementazioni di un analizzatore di protocollo Esistono quattro fondamentali tradeoff per la realizzazione di un analizzatore di protocollo:  Analisi.
© 2016 Giorgio Porcu - Aggiornamennto 18/03/2016 I STITUTO T ECNICO SECONDO BIENNIO T ECNOLOGIE E P ROGETTAZIONE Il Sistema Operativo Concorrenza e Grafi.
© 2016 Giorgio Porcu - Aggiornamennto 31/01/2016 I STITUTO T ECNICO SECONDO BIENNIO T ECNOLOGIE E P ROGETTAZIONE Il Sistema Operativo Thread G IORGIO P.
Laurea Magistrale in Informatica Architetture basi di dati A.A Docente: Prof. Carlo Batini Query Optimization nei DDBMS.
Alessandro Tirel - Sezione di Trieste Storage servers & TCP Tuning Proposta di studio delle problematiche connesse alla fornitura di servizi di storage.
Transcript della presentazione:

Progettazione ed implementazione di un sistema di calcolo distribuito ibrido multithread/multiprocesso per HPC: applicazione allimaging medico Presentata da: Omar Schiaratura Relatore: Chiar.mo Prof. Renato Campanini Correlatore: Dott. Matteo Roffilli Omar

Omar OBBIETTIVI Gli obbiettivi del lavoro svolto sono stati: Implementazione HW di un sistema per il calcolo ad alte prestazioni con componentistica comune Implementazione e studio di metodologie per lottimizzazione di programmi Applicazione delle metodologie studiate ad un sistema computerizzato di diagnosi del tumore al seno (CAD)

Omar PROBLEMATICHE Sistemi reali come il CAD a cui sono state applicate le metodologie Studiate presentano caratteristiche quali: - Dimensioni delle immagini da elaborare elevate - Preprocessing dellimmagine computazionalmente oneroso Questo comporta: -Tempo di elaborazione non idoneo allutilizzo tipico dellapplicazione

CLUSTER : Progettazione 1 - HW Il cluster è stato implementato sul seguente HW: - Nodi slave biprocessore - Doppia rete 100 baseTX - Nodo master biprocessore - Nodi slave diskless Fault-tolerance, responsività elevata Comunicazioni veloci tra processori affini Ottimizzazioni SMP del codice Librerie di MP ottimizzate per SMP Diminuzione dei guasti Amministrazione semplificata Minor conflitto di pacchetti Amministrazione separata dai dati in transito Omar

CLUSTER : Progettazione 2 - SW I servizi di rete, tutti configurati sul nodo master comprendono: - TFTP - DHCP - ClusterNFS server Fornisce gli indirizzi IP delle 2 reti E servizio di risoluzione dei nomi Fornisce il kernel per il sistema operativo degli slave Fornisce il FS dei client Il software di sviluppo e per il clustering comprende: - Suite GCC - MPICH - openMosix - Mosixtools Tool di sviluppo e di debugging Schedulazione statica e MP SSI, migrazione dei processi e fault-tolerance Gestione centralizzata e monitoring del cluster Omar

CLUSTER : Progettazione 3 - schema

CaratteristicaBEOWULFOpenMOSIX FS distribuitoNOSI Migrazione processi in esecuzione Solo con software aggiuntivo SI Esecuzione BATCH su più nodi Solo con software aggiuntivo Limitatamente alle risorse di rete Fault tolleranceSolo con software aggiuntivo SI Assegnazione statica delle risorse SI, ogni porzione di programma viene eseguita su un processore diverso NO OverheadNelle trasmissioniTrasmissioni, system-call e migrazione Controllo selettivo dei nodiSIIn parte Beowulf Vs openMosix Omar Cluster MPI (8 CPU) Cluster + openMosix IPC (8 CPU) Speed-upTempo(sec.) Ottimizzazione Architettura

Valutazioni latenza trasmissioni allaumentare dei dati Omar

OTTIMIZZAZIONI Disponendo di un cluster di nodi SMP con processori a tecnologia SSE si hanno a disposizione le seguenti ottimizzazioni: - SWAR - SMP - MP Tipiche dei DSP Utilizzo di istruzioni SSE su processori x86 Processori con memoria condivisa Utilizzo di thread Supportata da tutte le architetture HPC Utilizzo di librerie MPI Omar

OTTIMIZZAZIONI : SSE 1 SRC DST OPCODEDST,SRC Omar

OTTIMIZZAZIONI : Processi Vs Thread clone() THREAD Omar PROCESSITHREAD

Ottimizzazioni : Schema algoritmo Omar THREAD SSE MPI

INPUT OUTPUT CPU2 CPU1 Ottimizzazioni – schema flusso dati Omar nodo3 NODO3

Test e valutazioni finali – applicazione CAD Omar Architettura SSE SMP (Thread) MPI (4+1 nodi) #CPUTempo (sec.) Speed- up Speed- up SSE AMD Athlon AMD Athlon X AMD Athlon X AMD Athlon XX Cluster A X Cluster A X X Cluster B XX Cluster B XXX

CONCLUSIONI E SVILUPPI FUTURI In definitiva è stato realizzato: - Un sistema HW a basso costo (5000,00) - Uno studio sullottimizzazione a più livelli dellarchitettura implementata Omar Le tecnologie studiate durante il lavoro di tesi trovano la loro naturale evoluzione sia HW che SW: - Embedded- DSP - Porting su SSE di tutti i calcoli FP - altre tecnologie SWAR - Porting su SSE2 - Kernel

A multi-level optimization architecture for a fast SVM classifier Omar 12-th Euromicro Conference on Parallel, Distributed and Network based Processing sottomesso a: A Coruña - Spain PDP2004 February, 11-13, 2004 Da questo lavoro di tesi ne è stato tratto il seguente articolo:

Progettazione ed implementazione di un sistema di calcolo distribuito ibrido multithread/multiprocesso per HPC: applicazione allimaging medico Presentata da: Omar Schiaratura Relatore: Chiar.mo Prof. Renato Campanini Correlatore: Dott. Matteo Roffilli Omar