FESR www.trigrid.it Trinacria Grid Virtual Laboratory PROGETTO “MAMMO” Sviluppo e ottimizzazione di algoritmi adattativi, specificatamente di Artificial.

Slides:



Advertisements
Presentazioni simili
VIA GIULIO RATTI, CREMONA – Tel. 0372/27524
Advertisements

Introduzione al prototipo Grid-SCoPE
STATO DEL PROTOTIPO DI SCoPE E DELL’INTEGRAZIONE TRA I 4 PON
INFO Sevizio Centralizzato Informatica e Reti Frascati, Infrastrutture e Servizi per il Calcolo Scientifico 1 Modalità di utilizzo dei server.
Unità D2 Database nel web. Obiettivi Comprendere il concetto di interfaccia utente Comprendere la struttura e i livelli che compongono unapplicazione.
Introduzione allarchitettura dei calcolatori 2/ed Carl Hamacher, Zvonko Vranesic, Safwat Zaky Copyright © 2007 – The McGraw-Hill Companies srl Versione.
Modulo o Form in Html.
Il patrimonio informativo, le condizioni di utilizzo e accesso ai microdati dell’Istat Luisa Franconi Istat - Direzione centrale per lo sviluppo dei sistemi.
L’offerta di microdati da parte dell’Istat
Architettura Three Tier
Interoperabilità tra i PON Giuseppe Andronico (INFN e Consorzio COMETA)
Proposta di integrazione e consolidamento delle risorse presenti nellinfrastruttura Grid dellItalia Meridionale (L. Merola, )
1 REALIZZAZIONE DELLINTEROPERABILITA FRA I PROGETTI DELLAVVISO 1575/2004 Riunione del Comitato Tecnico sullInteroperabilità MUR, 25/10/2007 L. Merola.
Test del Monitoraggio del Tracker usando un Tier2 M.S. Mennea, G. Zito, N. De Filippis Università & INFN di Bari Riunione Consorzio – Torino 18 Novembre.
File System NTFS 5.0 Disco: unità fisica di memorizzazione
WP 14 Grid Applications for Geophysics Istituto Nazionale di Geofisica e Vulcanologia INGV Progetto FIRB Grid.it Documento di rimodulazione.
Workshop CNAF – Bologna 8 Luglio 2011 FARO Accesso Web a risorse e servizi remoti in ambiente Grid/Cloud A. Rocchi, C. Sciò, G. Bracco, S. Migliori, F.
Daniel Stoilov Tesi di Laurea
La macchina di von Neumann
Reti di Calcolatori L-S Un Sistema Decentrato di Allocazione del Carico per Applicazioni di Calcolo Distribuito Mauro Bampo.
Medical Imaging Group Dipartimento di Fisica Università di Bologna Locchio e il cervello …artificiali Nellambito dellIntelligenza Artificiale (AI) è possibile.
Ing. Enrico Lecchini BetaTre S.r.l.
Università degli Studi di Bari Laurea in Chimica Di spense di Informatica - Dott. F. Mavelli Programmare in Matlab Funzioni di Libreria Funzioni definite.
Modulo 1 - Hardware u.d. 3 (syllabus – 1.3.5)
Ordine degli Ingegneri di Bologna, 26 novembre 2010 Ordine degli Ingegneri di Bologna, 26 novembre /22 Gabriele Tonelli consulente CNR IRPI
PERCORSO DI FORMAZIONE UTILIZZO DEL COMPUTER 1° livello
U N INFRASTRUTTURA DI SUPPORTO PER SERVIZI DI FILE HOSTING Matteo Corvaro Matricola Corso di Reti di Calcolatori LS – Prof. A. Corradi A.A.
Progetto RETE SME ALESSANDRO PASSONI
1 w w w. g a t 4. c o m WI GAT WebIngelligence rappresenta una piattaforma funzionale e tecnologica per la creazione e gestione di un datawarehouse che.
Servizi Grid ed agenti mobili : un ambiente di sviluppo e delivering
BIOINFO3 - Lezione 361 RICERCA DI SIMILARITA TRA SEQUENZE Un altro problema comunissimo in bioinformatica è quello della ricerca di similarità tra sequenze.
BIOINFO3 - Lezione 41 ALTRO ESEMPIO ANCORA Progettare il comando di creazione di una tabella di pubblicazioni scientifiche. Come chiave usare un numero.
Sommario: il testbed CMS/LCG0 e la configurazione della farm di Bari sviluppo software/tool di produzione per CMS e GRID. eventi in produzione per il.
Reti di calcolatori LS Manni Tiziano  IT e nuovi scenari applicativi …  … portabilità dei dati …  … condivisione dati …  … disponibilità.
FESR Trinacria Grid Virtual Laboratory ADAT (Archivi Digitali Antico Testo) Salvatore Scifo TRIGRID Second TriGrid Checkpoint Meeting Catania,
CNAF 18/11/2004 Federica Fanzago INFN Padova a/grape... BAT... BATMAN...o? M.Corvo, F.Fanzago, N.Smirnov (INFN Padova) + tutte le persone che fanno i test.
Eprogram informatica V anno. ASP.NET Introduzione ASP.NET (Active Server Page) è il linguaggio che, sfruttando la tecnologia.NET, permette di: -scrivere.
IR&T Engineering srl RenderMED Gianluca Arcidiacono Primo Workshop Trigrid VL Catania – 13 Marzo 2006.
FESR Consorzio COMETA - Progetto PI2S2 CORSIKA Domenico Torresi Consorzio Cometa 1st First International Grid School for Industrial.
Attivita' Grid in BaBar Workshop sulle Problematiche di Calcolo e Reti nell'INFN Maggio 2004.
I primi elaboratori Anni ‘50 Rigidamente sequenziali
Realizzazione di un algoritmo genetico distribuito per l’inversione di modelli di deformazione del suolo (rilevamenti GPS e immagini SAR) di un edificio.
Sviluppo ed implementazione di un software per il car pooling
0 Laboratorio Informatica - SAS – Anno Accademico LIUC Alcune indicazioni Dettaglio lezioni: Prima : Michele Gnecchi – Introduzione a SAS Guide.
Catania, 13 Novembre 2015Workshop Finale del Progetto VESPA1 Virtual Environment for a Superior Neuro-PsichiAtry PO FESR Line Project.
FESR Trinacria Grid Virtual Laboratory Rosanna Catania Rita Ricceri INFN Catania 25 Luglio 2006 Grid Monitoring: GridICE – bacct - lsload.
1 Attività per la formazione Scuole INFN Grid Edizione 2008 Valeria Ardizzone INFN Catania.
Giovanni d’Angelo Università degli studi di Napoli Federico II I Corso di formazione INFN su aspetti pratici dell'integrazione di applicazioni in GRID.
Porting RGCAD - Gianfranco Gargano II Corso di formazione INFN su aspetti pratici dell'integrazione di applicazioni in GRID Porting RGCAD.
Domenico Elia1Riunione PRIN STOA-LHC / Bologna Attività per ALICE: sommario e prospettive Domenico Elia Riunione PRIN STOA-LHC Bologna, 18 Giugno.
Università degli studi di Cagliari Facoltà di Ingegneria Dipartimento di Ingegneria Elettronica Gruppo di Elettromagnetismo Metodo di Progettazione Automatica.
Utilizzo della VO di theophys per il calcolo lattice QCD G. Andronico M. Serra L. Giusti S. Petrarca B. Taglienti.
FESR Trinacria Grid Virtual Laboratory Porous Fluid Dynamics Analyzer Supporter : Salvatore Scifo Affiliation : TRIGRID Second TriGrid Checkpoint.
Overview del middleware gLite Guido Cuscela INFN-Bari II Corso di formazione INFN su aspetti pratici dell'integrazione.
FESR Trinacria Grid Virtual Laboratory La sicurezza dei dati in ambiente Trigrid Giordano Scuderi.
FESR Trinacria Grid Virtual Laboratory Storage Accounting for Grid Environments (SAGE) Fabio Scibilia, Dario Russo & Claudio Cherubino INFN.
IV Corso di formazione INFN per amministratori di siti GRID Tutorial di amministrazione DGAS Giuseppe Patania.
Satelliti e Banche dati Astronomiche Dr. Giuliano Taffoni INAF – IASF Bologna Dr. Giuliano Taffoni – Workshop DUCK 10/11/2010.
Disaster Recovery Resoconto delle attività del Gruppo di Lavoro DR CCR CNAF 5-7/2/2013 S.Zani.
FESR Trinacria Grid Virtual Laboratory Porting su grid di *ROSETTA*, un metodo per la predizione di strutture proteiche Giuseppe La Rocca.
FESR Trinacria Grid Virtual Laboratory La sicurezza dei dati in ambiente Trigrid Giordano Scuderi.
JOB MONITORING Donvito Giacinto INFN-Bari. OUTLINE ● Use-case ● Informazioni utilizzate e metodologie di raccolta per il job monitoring ● Informazioni.
FESR Trinacria Grid Virtual Laboratory Workload Management System (WMS) Muoio Annamaria INFN - Catania Primo Workshop TriGrid VL Catania,
Offline Report Finale Grid! I Corso di formazione INFN su aspetti pratici dell'integrazione di applicazioni in GRID Domenico D’Urso Roberto.
Workshop congiunto CCR & INFN-GRID. Tema: l’efficienza Sede: Hotel Cala di Lepre – Palau Date: maggio Comitato organizzatore: V. Ardizzone, D. Anzellotti,
Esigenze di Rete degli Esperimenti LHC e di Gr1 G. Carlino – INFN Napoli CCR – Roma 8 Settembre 2014.
FESR Catania, Trigrid Open Day, Trinacria Grid Virtual Laboratory PROGETTO “ISOSPIN” Supporters : AnnaMaria Muoio, Marcello IaconoManno.
Job Application Monitoring (JAM)
PROGETTO “COMDO” Supporters : AnnaMaria Muoio, Marcello IaconoManno
PROGETTO “ISOSPIN” Supporters : AnnaMaria Muoio, Marcello IaconoManno
Transcript della presentazione:

FESR Trinacria Grid Virtual Laboratory PROGETTO “MAMMO” Sviluppo e ottimizzazione di algoritmi adattativi, specificatamente di Artificial Intelligence (AI), per l’identificazione di lesioni tumorali in immagini mammografiche; Realizzazione di un database distribuito che possa permettere un ottimale addestramento di sistemi di classificazione.

Location, Meeting, dd.mm.yyyy Supporter e Partner responsabili INFN – sez. CT –AnnaMaria Muoio –Marcello IaconoManno Partner responsabili DIFTER - PA –Manuel Glorioso –Rosario Magro Supporter

Location, Meeting, dd.mm.yyyy La problematica scientifica Indicare la tipologia di applicazione –Trasporto ed esecuzione parallela su GRID di un programma di test per l’analisi di immagini mammografiche (Database Gold Standard) –Realizzazione di una banca dati di immagini mammografiche a livello regionale (SE distribuiti negli ospedali) Scopo dell'applicazione –Velocizzazione dell'esecuzione del programma di analisi –Raccolta di dati medicali ed immagini per il supporto alla diagnosi Aspetti computazionali, risorse necessarie –Capacita' di calcolo: richiesti circa 100 WN –Capacita' di storage: circa 15 GB

Location, Meeting, dd.mm.yyyy Porting dell’applicazione Tipo di interazione con l'utente –Programma di analisi : batch –Banca dati : accesso tramite portale Genius Approfondire tematiche su particolari esigenze di controllo d’accesso –Sicurezza a livello ACL per il singolo utente –Stato dell’arte del progetto  Sono stati realizzati gli script di Sottomissione, Controllo e Recupero dei risultati dell'elaborazione delle immagini  In fase di studio la banca dati –La versione attuale del middle-ware e' adeguata

Location, Meeting, dd.mm.yyyy Stato delle attivita' progetto “Mammo” Stato delle attivita' –Manuel Glorioso, M. IaconoManno, A. Muoio :  completamento jdl e bash scripts (Done)  sottomissione programma di analisi (Done)  pubblicazione Database (Done)  studio struttura metadati (In Progress)  studio eventuali migliorie alla sicurezza (In Progress)

Location, Meeting, dd.mm.yyyy Pubblicazione Pubblicazione dati –Filtraggio del Database Gold Standard per il recupero dei pazienti in cui sono state segnalate lesioni patologiche.  e' stato sviluppato un bash script per il filtraggio locale del database –Copia e Repliche del database filtrato e sua pubblicazione sul File di catalogo (Server LFC)  e' stato sviluppato uno bash script che realizza la copia su uno Storage Element del Database Lesioni, registra i file nel File Catalogue (LFC) e crea le repliche su uno o piu' Storage Element (SE).

Location, Meeting, dd.mm.yyyy Jdl e Scripts Scripts –Script  Python + Bash Script

Location, Meeting, dd.mm.yyyy JDL micro –programma di analisi mammo.sh –recupera sul WN i pazienti da procesasre (mammo-file.dat) ed esecuzione di micro mammo-file.dat –Elenco pazienti da procesasre (diverso per ogni gruppo di pazienti da processare) viene creato localmente a partire da liste locali di pazienti. soglieIN.dat –Righe di parametri passate al programma micro finestre1.dat –Risultato dell'elaborazione sui pazienti

Location, Meeting, dd.mm.yyyy Scripts Script di sottomissione –mammo-start.bat realizza la sottomissione simultanea di m job da n pazienti  Il numero di job dipende dagli entry nel file mammo.dat in cui sono elencati i file da cui leggere per conoscere i pazienti che il job dovra' processare. Scrive i JobID su un file locale (necessari per lo script di controllo) Script di Recupero –mammo-output.bat realizza il recupero dell'output degli m job da n pazienti che sono stati sottomessi ed effettua un append su un unico file di tutti i risultati dell'elaborazione –mammo-auto-output.bat realizza il recupero automatico dell' output degli m job da n pazienti  I Job vengono recuperati a partire dal loro JobID Script di Controllo –mammo-check.bat realizza il controllo dello stato degli m job da n pazienti che sono stati sottomessi  V iene controllato lo stato dei job a partire dal loro JobID

Location, Meeting, dd.mm.yyyy Cosa avviene sulla UI mammo-start.bat mammo.file mammo-file.dat job 1 Grid CE job 2 Grid CE job n Grid CE –Script di Sottomissione mammo-start.bat fa uso di script che ciclicamente realizzano la sottomissione del jdl (sempre uguale), infatti tra un job e l'altro l'unico file che varia e' il mammo-file.dat (gruppo di pazienti da processare) che viene incluso nella input sandbox del Job.

Location, Meeting, dd.mm.yyyy Cosa avviene sul CE –mammo.sh mammo.sh e' il primo script ad eseguirsi sul WN di destinazione del Job. Esso legge riga per riga il contenuto di mammo-file.dat e per ogni riga (paziente) effettua le seguenti operazioni.  Scarica sul WN il file ima.dat (contiene i nomi delle immagini del paziente) dallo SE su cui e' Pubblicato il Database di Immagini utilizzando il LFC e i LFN's).  Avvia il programma “Micro” e processa le singole immagini relative al paziente in corso con l'algoritmo “Micro” utilizzando righe di parametri specificate in soglieIN.dat  Appende il risultato dell'elaborazione delle immagini relative al paziente sul file finestre1.dat

Location, Meeting, dd.mm.yyyy Tempi di Elaborazione Previsioni “Micro” su GOLD STANDARD DB = 264 Pazienti = 15Gb e 200 Righe 5 pazienti circa 2:10 ore Previsione suddivisione job 10 Pazienti a Job circa 4:20 ore Job totali da lanciare job da 10 pazienti ciascuno dei quali impiega 4:20 ore 1 Job da 4 Pazienti impiega circa 1:45 ore Tempo complessivo stimato per l'analisi Db 4:20 se si dispone di 27 cpu libere VS 5-6 giorni su singola cpu