PROGETTO “COMDO” Supporters : AnnaMaria Muoio, Marcello IaconoManno

Slides:



Advertisements
Presentazioni simili
FESR Trinacria Grid Virtual Laboratory ADAT (Archivi Digitali Antico Testo) Salvatore Scifo TRIGRID Second TriGrid Checkpoint Meeting Catania,
Advertisements

CNAF 18/11/2004 Federica Fanzago INFN Padova a/grape... BAT... BATMAN...o? M.Corvo, F.Fanzago, N.Smirnov (INFN Padova) + tutte le persone che fanno i test.
Attivita' Grid in BaBar Workshop sulle Problematiche di Calcolo e Reti nell'INFN Maggio 2004.
Bologna Batch System (BBS). BBS e’ un sistema batch basato su Condor. L’utente sottomette i job da una macchina e il sistema li distribuisce sulle altre.
FESR Trinacria Grid Virtual Laboratory JSDL2JDL Converter Marco Pappalardo Annamaria Muoio TriGrid, Consorzio Cometa, INFN sezione di Catania.
FESR Trinacria Grid Virtual Laboratory Porous Fluid Dynamics Analyzer Supporter : Salvatore Scifo Affiliation : TRIGRID Second TriGrid Checkpoint.
FESR Trinacria Grid Virtual Laboratory PROGETTO “MAMMO” Sviluppo e ottimizzazione di algoritmi adattativi, specificatamente di Artificial.
FESR Trinacria Grid Virtual Laboratory Porting su grid di *ROSETTA*, un metodo per la predizione di strutture proteiche Giuseppe La Rocca.
FESR Trinacria Grid Virtual Laboratory Workload Management System (WMS) Muoio Annamaria INFN - Catania Primo Workshop TriGrid VL Catania,
Virtualizzazione nell’INFN Andrea Chierici 11 Dicembre 2008.
Attività Formazione Valeria Ardizzone (INFN Catania)
Script bash I file di comandi in Linux. BASH  Bourne Again Shell  Modalità interattiva o batch (file di comandi)  Ambiente di programmazione “completo”
Progetto CyberSAR Prof. Giuseppe Mazzarella Cons. COSMOLAB & Univ. Cagliari Catania 13/12/05 Cagliari 20/07/05.
IL blueprint e le esigenze per il progetti internazionali (EMI e EGI- InSPIRE) L. Gaido, INFN Torino Riunione del Comitato di Coordinamento IGI Roma, 12.
FESR Catania, Trigrid Open Day, Trinacria Grid Virtual Laboratory PROGETTO “ISOSPIN” Supporters : AnnaMaria Muoio, Marcello IaconoManno.
EGEE is a project funded by the European Union under contract IST Il Sistema di Supporto nel ROC-IT Riccardo Brunetti INFN-Torino Riunione.
Corso gratuito di Linux. Linux User Group Mantova
17th International Conference on Computing in High Energy and Nuclear Physics March 2009 Prague Esperienza di un portale “application oriented”
FESR Consorzio COMETA - Progetto PI2S2 Utilizzo dell’Infrastruttura Grid per il lancio in remoto di Simulazioni ad Agenti realizzate.
Porting RGCAD - Gianfranco Gargano II Corso di formazione INFN su aspetti pratici dell'integrazione di applicazioni in GRID Porting RGCAD.
Gestione dei Software in GNU/Linux HackLab Catanzaro Installazione software da sorgente 8° Lezione GNU/Linux Base
13 gennaio Sistema di rilevazione delle temperature all’interno di Personal Computer Industriali Dipartimento di Ingegneria Elettronica SISTEMA.
VO-Neural Project e GRID Giovanni d’Angelo Dipartimento di Scienze Fisiche Università degli Studi di Napoli Federico II Martina Franca 12 – 23 Novembre.
Status Report Gruppo Storage CCR CCR 14-15/03/2006.
Summary di (quasi) tutti gli utenti non presentati…
I Circuiti Sequenziali ed i Flip/Flop
OR 7 - STUDIO DI METODOLOGIE E STRUMENTI PER LA TRASFORMAZIONE DEI SERVIZI APPLICATIVI, BASATI SULLE COMPONENTI FORNITE DALLA PAAS Stato avanzamento /
SAL WP11 Bologna – CNAF – 5 Giugno 2015.
Guido Cuscela INFN-Bari
Terza Lezione → Navigare nel file System → parte 2
Cos’è il dossier sanitario elettronico?
Microcontrollori e microprocessori
Applicazioni Bioinformatiche in Ambiente Grid
Halina Bilokon Vitaliano Chiarella Simonetta Gentile
Giuseppe Andronico 1 Marzo 2010 Riunione CCR
GridFlex: gestione di software
Esercizi finali Roberto Barbera Università di Catania e INFN
Metriche SE monitoring G.Donvito G.Cuscela INFN Bari
OR 7 - STUDIO DI METODOLOGIE E STRUMENTI PER LA TRASFORMAZIONE DEI SERVIZI APPLICATIVI, BASATI SULLE COMPONENTI FORNITE DALLA PAAS Stato avanzamento /
Analisi dei dati dell’Esperimento ALICE
Aggiornamento sullo stato del Tier-2 di Catania
Attvità Computing – Inverno 08/09
Workshop TriGrid Catania 13/03/2006
Gruppo WebTools Workshop CCR – 12 Giugno 2008 Dael Maselli – INFN LNF.
COMDO ed ISOSPIN: i progetti di CHIMERA su Grid
Windows Grid User Interface Project
Giordano Scuderi Unico SRL Catania
Giordano Scuderi Unico SRL - Messina,
Job Application Monitoring (JAM)
Grid2Win : La Grid per Microsoft Windows
Interfacce SRM: l'utilizzo di STORM - Overview e prospettive (ALICE)
Calcolo “locale” ATLAS-Mi
Report 15/11/2007 Giovanni d’Angelo
* Il Sistema Operativo GNU/Linux * Sistema Operativo e Applicazioni
Risultati del questionario sui servizi middleware aggiuntivi
PROGRAMMAZIONE BASH – ISTRUZIONE IF
Università degli Studi di Catania
PROGETTO “ISOSPIN” Supporters : AnnaMaria Muoio, Marcello IaconoManno
Operazioni pianificate
AUDITING DEI SISTEMI DI POSTA ELETTRONICA Prima fase: definizione della procedura, politiche di sicurezza Workshop maggio 2009 Ombretta Pinazza,
Anno Accademico 2010 – 2011 Corso di Progettazione dei Sistemi di Controllo Prof. Luca Schenato Prof. Gianluigi Pillonetto Gottardo Giuseppe, matr
Ardis e il sistema qualità
Gruppo WebTools Workshop CCR – 12 Giugno 2008 Dael Maselli – INFN LNF.
Marcello Iacono-Manno Catania, 6 maggio 2010
PROGETTO “HITECH2000” Supporters : Annamaria Muoio
Restauro Digitale Salvatore Scifo TRIGRID
Modifica le impostazioni di base del programma modificando:
SAGE – Un sistema per l’accounting dello storage in gLite
Metacaratteri Il carattere * indica un tipo ed un numero qualsiasi di caratteri Per copiare tutti i file che iniziano per “hemo” nella directory dir %
Trinacria Grid Virtual Laboratory
Transcript della presentazione:

PROGETTO “COMDO” Supporters : AnnaMaria Muoio, Marcello IaconoManno Affiliation : TRIGRID, INFN - CT Meeting : TRIGRID - CHECKPOINT 2 Catania, 30.06.2006

Supporter e Partner responsabili INFN – sez. CT AnnaMaria Muoio (annamaria.muoio@ct.infn.it) Marcello IaconoManno (marcello.iacono@ct.infn.it) Partner responsabili INFN – sez. CT Massimo Papa (massimo.papa@ct.infn.it) Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Generalità sul progetto Applicazione Trasporto ed esecuzione parallela su GRID di un programma di simulazione di eventi nucleari (COMDO). Scopo Velocizzazione nell'esecuzione del programma. Aspetti computazionali, risorse necessarie File eseguibile di grosse dimensioni (>20 MB) Compilazione statica Tempo di trasferimento trascurabile rispetto all’elaborazione File di uscita dell'ordine di 100 MB Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Porting dell’applicazione La versione attuale del middle-ware e' adeguata L'applicazione si può vedere come un'estensione dell'interfaccia per la sottomissione, il controllo dei job ed il recupero dei file di uscita Interazione con l'utente Batch E' richiesto il controllo dell'avanzamento dei job Sono richiesti dei tool per il pre- ed il post-trattamento dei dati Controllo d’accesso Un solo utente Sicurezza a livello ACL per il singolo utente Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Stato attuale del progetto Stato dell’arte Gia' esistente e testato il jdl unico jdl per molti job variano alcuni file di uscita e di ingresso allo studio l’utilizzo dei job parametrici Gia' pronti gli script Python per: pre – trattamento dei dati sottomissione controllo recupero In corso la verifica delle prestazioni Allo studio il post – trattamento dei dati Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Pre – trattamento (file di configurazione) [iacono@genius comdo1.0]$ inputfile comdobcollasy7-1.inp NREP=1 file: comdobcollasy7-1.inp parametro: NREP.....=1 [iacono@genius comdo1.0]$ [iacono@genius comdo1.0]$ multifile comdobcollasy7.inp NREP=1..4 file: comdobcollasy7-2.inp parametro: NREP.....=2 file: comdobcollasy7-3.inp parametro: NREP.....=3 file: comdobcollasy7-4.inp parametro: NREP.....=4 Modifica un parametro in un file di configurazione Crea tanti file di configurazione con diversi valori del parametro specificato Viene anche modificato automaticamente il seed per la generazione dei numeri pseudo – casuali Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Sottomissione dei job Comando di sottomissione unico per tutti i job [iacono@genius comdo1.0]$ comdobcollasy7-start Wed Jun 21 17:09:32 CEST 2006 comdobcollasy7-1.inp input: conf124snisy3st.dat input: conf64nisy3st.dat output: prova1.hbook output: prova1bis.hbook ------------------------------------------------------------- comdobcollasy7-2.inp output: prova2.hbook output: prova2bis.hbook -------------------------------------------------------------- comdobcollasy7-3.inp output: prova3.hbook output: prova3bis.hbook --------------------------------------------------------------- Wed Jun 21 17:10:11 CEST 2006 - https://grid014.ct.infn.it:9000/WKS58GTQFFMeiAl7qRJoPA - https://grid014.ct.infn.it:9000/fFX3eFj37rG9xJWZ_XPc-g - https://grid014.ct.infn.it:9000/mFdkjAg3XWCO1j4K3-iGng [iacono@genius comdo1.0]$ Comando di sottomissione unico per tutti i job Numero di job stabilito in un file di configurazione Un solo file di dati per ogni job sottomesso Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Controllo dei job [iacono@genius comdo1.0]$ ./comdobcollasy7-check.bat Wed Jun 21 18:19:19 CEST 2006 AT : Wed Jun 21 18:19:25 2006 JOB : https://grid014.ct.infn.it:9000/WKS58GTQFFMeiAl7qRJoPA ON : grid012.ct.infn.it:2119/jobmanager-lcglsf-long STATUS: Done (Success) ---------------------------------------------- AT : Wed Jun 21 18:19:32 2006 JOB : https://grid014.ct.infn.it:9000/fFX3eFj37rG9xJWZ_XPc-g AT : Wed Jun 21 18:19:39 2006 JOB : https://grid014.ct.infn.it:9000/mFdkjAg3XWCO1j4K3-iGng Wed Jun 21 18:19:44 CEST 2006 [iacono@genius comdo1.0]$ Il controllo può essere effettuato anche ciclicamente e lanciare automaticamente il recupero dei dati di uscita Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Recupero dati di uscita [iacono@genius comdo1.0]$ comdobcollasy7-output Wed Jun 21 18:48:10 CEST 2006 clearing job: https://grid014.ct.infn.it:9000/WKS58GTQFFMeiAl7qRJoPA output: prova1.hbook output: prova1bis.hbook ----------------------------------------------------------------------------------- clearing job: https://grid014.ct.infn.it:9000/fFX3eFj37rG9xJWZ_XPc-g output: prova2.hbook output: prova2bis.hbook clearing job: https://grid014.ct.infn.it:9000/mFdkjAg3XWCO1j4K3-iGng output: prova3.hbook output: prova3bis.hbook Wed Jun 21 18:48:26 CEST 2006 [iacono@genius comdo1.0]$ File di uscita accumulati in una directory unica e rinominati in base al file di configurazione Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Post – trattamento dei dati di uscita IN CORSO D’OPERA Merging o accodamento dei dati Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006

Programma temporale delle prossime attività Prestazioni capacità computazionale con sistema standalone: 1000 eventi / giorno dato analogo per un singolo job sottomesso aumento linearmente proporzionale al numero di job sovraccarico delle operazioni sequenziali trascurabile Piano di attività Massimo Papa : nuove versioni del programma M. IaconoManno : completamento script post-trattamento A. Muoio : migliorie al jdl (parametrici) Catania, 2nd Trigrid CheckPoint Meeting, 30.06.2006