CRESCO, Workshop GRISU, Catania 13/12/2005 ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT.

Presentazione sul tema: "CRESCO, Workshop GRISU, Catania 13/12/2005 ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT."— Transcript della presentazione:

1 CRESCO, Workshop GRISU, Catania 13/12/2005 ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT

2 CRESCO, Workshop GRISU, Catania 13/12/2005 Workshop per la promozione di collaborazioni tra i Progetti CRESCO, CYBERSAR, PI2S2, e SCOPE (Bando PON n. 1575) Centro computazionale di RicErca sui Sistemi COmplessi CRESCO S. Migliori, A. Quintiliani, V. Rosato, S. Bologna, S. Taglienti ENEA GRID TEAM R. Guadagni, G. Bracco, S. Podda, P. D’Angelo, G. Mencuccini, F. Simoni, A. Perozziello, A. De Gaetano, S. Pecoraro, D. Giammattei, M. De Rosa, M. Caiazzo, A. Palumbo, G. Elmo, S. Pierattini, G. Furini, C. Zini, V. Guastella, M Steffè, R. De Angelis ENEA INFO - Servizio Centralizzato Informatica e Reti, Roma

3 CRESCO, Workshop GRISU, Catania 13/12/2005 Agenda  L’ENEA & GRID –Cenni storici –L’infrastruttura attuale –I progetti Telegrid & Campus  Il progetto CRESCO –Principali Obiettivi –La struttura del progetto & Partner –Le aree applicative  Coordinamento con gli altri progetti

4 CRESCO, Workshop GRISU, Catania 13/12/2005 ENEA Italian Agency for New Tecnologies, Energy and Environment. 12 research centers in Italy A Central Computer and Network Service (INFO) 6 Computer Centres Casaccia, Frascati, Bologna,Trisaia, Portici, Brindisi Multiplatform resources for serial & parallel computation and graphical post-processing. Others computer resources in ENEA: departments & individuals CENTRO DI BRINDISI

5 CRESCO, Workshop GRISU, Catania 13/12/2005 ENEA computational resources are distributed over WAN, connected by GARR, the Italian Academic & Research Network ENEA Network connection ENEA-GARR 9 PoP, 4-32 Mbps Brindisi Bologna Casaccia Frascati Portici Trisaia Palermo Pisa Roma Sede

6 CRESCO, Workshop GRISU, Catania 13/12/2005 ENEA GRID è un sistema integrato capace di rispondere ai seguenti obbiettivi: mettere a disposizione un sistema di produzione capace di offrire i servizi necessari al calcolo scientifico integrare l'insieme di risorse informatiche di ENEA-INFO, distribuite su WAN fornire un ambiente di lavoro unificato e metodi di accesso omogenei per tutti i ricercatori dell'ENEA indipendentemente dalla loro sede di lavoro. mettere a disposizione strumenti capaci di permettere l'integrazione delle risorse informatiche dipartimentali ed individuali e di fornire supporto alle attività sperimentali ENEA GRID

7 CRESCO, Workshop GRISU, Catania 13/12/2005 Citrix Metaframe Citrix Nfuse ICA WEB(ICA) power3.frascati.enea.it (1200 GFLOPS9 boquad.bologna.enea.it (30 Gflops) dafne.casaccia.enea.it (200 GFlops) GEANT Portici Brindisi infocal.trisia.enea.it ( 100 GFlops) hermes.brindisi.enea.it ( 10 GFlops) Kleos.portici.enea.it (50 GFlops)

8 CRESCO, Workshop GRISU, Catania 13/12/2005 Servizi per il calcolo scientifico: Sistemi paralleli/seriali multipiattaforma AIX, Linux (Alpha,x86,x86_64,IA64), IRIX, Mac OS X, Solaris Risorse 3D e il post-processamento grafico SGI + 3D immersivo Risorse Software: Codici commerciali: Fluent, Gambit, Abacus, Catia, Ansys Codici di “ricerca”: mcnp/x, eranos, fluka,.... Ambienti di sviluppo & analisi: IDL, Matlab, Mathematica, SAS Applicazioni Windows I servizi di ENEA GRID

9 CRESCO, Workshop GRISU, Catania 13/12/2005 Risorse di Calcolo in ENEA-GRID Le risorse di Portici, Brindisi & Trisaia sono state incrementate nel quadro del progetto PON TELEGRID Frascati(6), Portici(4),Trisaia(4), Brindisi(4) 5018Windows Frascati(1), Trisaia(13) 10027Mac OS X Trisaia(4), Casaccia(2), Bologna(?) 108Solaris Frascati(8), Casaccia(4), Portici(1),Trisaia(8), Brindisi(1), Bologna(5) 4027IRIX Casaccia 4030Linux Alpha Frascati(28), Casaccia(54), Portici(4),Trisaia(4), Brindisi(4) 20096Linux x86 32/64 Frascati(160),Bologna(8), Portici(18), Brindisi (2) ~1000188AIX Gflops#cpu OS

10 CRESCO, Workshop GRISU, Catania 13/12/2005 L'architettura di ENEA GRID La scelta di componenti maturi come garanzia di affidabilità e semplicità di gestione: File system distribuito: AFS/OpenAFS Gestore delle risorse: LSF Multicluster Interfaccia grafica: Java and Citrix Technologies Sistema di monitoring: Patrol Server di licenze Strumenti per l'integrazione delle risorse dipartimentali ed individuali File sistem distribuito: AFS per software e dati Condivisione del parco licenze

11 CRESCO, Workshop GRISU, Catania 13/12/2005 Architettura di ENEA GRID

12 CRESCO, Workshop GRISU, Catania 13/12/2005 Struttura Software concettuale Load LevelerLSF Graphic User Interface LSF multi-cluster as integrator Telnet User programs & commercial code ICA WEB Cluster 5° ( Portici) & File System Load LevelerLSF Graphic User Interface Telnet ICA WEB Cluster 6° ( Brindisi) AFS Geographical cross platform& File System Load LevelerLSF Graphic User Interface LSF multi-cluster as integrator Telnet User programs & commercial code ICA WEB Cluster 2° (Casaccia) AFS Geographical cross platform& File System Load LevelerLSF Graphic User Interface LSF multi-cluster as integrator Telnet User programs & commercial code ICA WEB Cluster 4° (Trisaia ) AFS Geographical cross platform& File System Load LevelerLSF Graphic User Interface LSF multi-cluster as integrator Telnet User programs & commercial code ICA WEB Cluster 3° (Frascati) AFS Geographical cross platform& File System Load LevelerLSF Graphic User Interface LSF multi-cluster as integrator Telnet User programs & commercial code ICA WEB Cluster 1° ( Bologna)

13 CRESCO, Workshop GRISU, Catania 13/12/2005 Interfaccia utente Accesso utente unificato tramite Citrix Presentation Center [ex Metaframe], java e script di shell: Prestazioni ottimizzate su WAN e metodi di comunicazione sicuri Accesso gestito da 6 server Citrix UNIX [ Bologna, Casaccia, Frascati, Trisaia, Portici, Brindisi] 4 server Citrix Windows forniscono accesso alle applicazioni Windows tramite Web(Frascati, Portici, Trisaia, Brindisi).

14 CRESCO, Workshop GRISU, Catania 13/12/2005 DB_1 CPUS ENEA GRID WEB ICA SSH DNA Sequence system ( ABI Prism 3700) Trisaia DB_3 DB_2 Electron Microscope (Brindisi) 300 KeV (sept. 2004) ENEA GRID and experimental facilities Controlled Nuclear Fusion: FTU Frascati Tokamak Upgrade Video Acquisition

15 CRESCO, Workshop GRISU, Catania 13/12/2005 Schema di integrazione di apparati sperimentali nel GRID ENEA Electronic Microscope (Brindisi) 300 KeV (sept. 2004) Remote Local Operation TEM Room Local Operation Remote Controlled Web-cam Remote User Local Data AFS Data Integration > 4 TByte Mtaframe AFS Special Driver for TEM Local GRID Cluster

16 CRESCO, Workshop GRISU, Catania 13/12/2005 Integrazione con altri progetti di GRID La filosofia di partecipazione dell’ENEA ad altri progetti di GRID è basata sul concetto di interoperabilità. Ogni progetto di GRID è generalmente caratterizzato da una propria architettura/middleware. L’interoperabilità fra questi può essere assicurata attraverso ==> realizzazione di gateway Progetti: ● Datagrid ● FIRB/Grid.it : WP13 Chimica Computazionale ● EGEE ● EGEE II eDEISA ( In corso di approvazione )

17 CRESCO, Workshop GRISU, Catania 13/12/2005 ENEA GRID e il progetto DATAGRID ENEA ha partecipato (unfunded) in DATAGRID (finito 2004) collaborando con ESRIN [ESA] Frascati dove è stato realizzato un gateway DATAGRID ==> ENEA-GRID con funzionalità limitate [sottomissione, pubblicazione dei risultati] Test con l'analisi dei dati satellitari di GOME (livelli di Ozono) [IDL/multicase/multipiattaforma ] ENEA-Geographic SUBMISSION PROCEDURE Input Files LIV1 List of path Input File LIV1 IDL Program “GOME” Output File LIV2 Input File LIV1 List of path Input File LIV1 Case-1 Case_2 Case n WEB User afs/home

18 CRESCO, Workshop GRISU, Catania 13/12/2005 ENEA-GRID e il WP13 GRID.it/Chemgrid Il progetto FIRB GRID.IT nel suo WP13, Chimica Computazionale, comprende un gruppo di ricercatori di ENEA Casaccia. WP13 ha realizzato una piccola GRID sperimentale basata su Globus 3.2 che comprende siti a PG, MI, BO, PD, BA e ENEA Frascati. Il contributo ENEA: un gateway [chemgrid.frascati.enea.it] che permette l'accesso a 16 nodi Linux condivisi con ENEA-GRID. I componenti installati: Server: gatekeeper [compatibile con AFS ed LSF; MPICH-G2] gsiftp [compatibile con AFS] gssklogd [traduce certificato X509 in token kerberos AFS] Client:globus 3.2 installato in AFS ed utilizzabile da ogni server Linux di ENEA-GRID

19 CRESCO, Workshop GRISU, Catania 13/12/2005 EGEE/ENEA Linux Cluster LCG 2.6 Middle-ware has been patched for compatibility with ENEA-GRID architecture, AFS and LSF: Pool account users are pre-defined as standard AFS user of ENEA GRID with AFS homes: e.g. for dteam VO $HOME=/afs/enea.it/grd_egee/user/dteam001... lcmaps has been modified to acquire an AFS token using gssklog. gssklogd daemon has been modified for compatibility with VO security. lsf job manager is used and JobManager.pm and lsf.pm have been modified for compatibility with AFS file system and ENEA LSF configuration. In this approach CE and WN share the same file system via AFS. Jobs can be submitted by edg-job-submit using INFN certification RB and setting explicitly CE: egce.frascati.enea.it. Implementing the gateway: one of the Linux WNs was modified and tested ● 1) /etc/grid-security and /opt/ directories were completely removed. ● 2) a new /opt/globus has been created with 2 subdirectories: bin and etc. ● 3) /opt/globus/etc/globus-user-env.sh is a link to the usual file in an AFS location ● 4) /opt/globus/bin/globus-url-copy & grid-proxy-info are links to wrappers in AFS ●e.g.: globus-url-copy -> wrapper ● wrapper: lsrun -m egce.frascati.enea.it globus-url-copy $*

20 CRESCO, Workshop GRISU, Catania 13/12/2005 where lsrun is the LSF command for immediate execution on a remote host. As a result all data transfer between WN and RB are effectively done by the CE which shares $HOME with WN (AFS). EGEE/ENEA gateway to AIX With the described approach, a similar /opt/globus has been created on IBM SP hosts and the CE egceaix.frascati.enea.it differs from the Linux CE only for the name of the resource where LSF submits are performed. Successful tests have been performed with the same approach also with submissions to SGI/Irix 6.5, to Apple/MacOSX and SGI/Altix IA64 : hosts located at 3 different sites Frascati, Trisaia (Southern Italy), Casaccia Advantage of this approach: easy WN firewall configuration! Limitations: on WN monitoring and accounting middle-ware is not yet available ENEA-INFO site status: site certification in progress Conclusion: successful job submission and result retrieval to AIX, MacOSX,IRIX and Altix IA64 Worker Nodes has been demonstrated using a Linux gateway between EGEE LCG 2.6 and ENEA-GRID.

21 CRESCO, Workshop GRISU, Catania 13/12/2005 ENEA Main activities & for EGEE Main activities & resources for EGEE Integration of EGEE-GRID to ENEA-GRID;Integration of EGEE-GRID to ENEA-GRID; 100 CPUs at 20% of time100 CPUs at 20% of time DataGrid at ESA\ESRIN Globus Based gateway GigaBit-Link EGEE GRID Globus Based gateway ENEA-GRID migliori@enea.it S-PACI GRID

22 CRESCO, Workshop GRISU, Catania 13/12/2005 Gestione & Erogazione della formazione Sincrona, Asincrona e Mista Servizi Base Accesso Scelta Pianificazione Fruizione Corsi on Line Aule Virtuali Corsi Aula Breeze Infrastruttura e-learning ENEA

23 CRESCO, Workshop GRISU, Catania 13/12/2005 Accesso software applicativi e risorse di calcolo Servizi GRID Accesso Scelta Fruizione Software Supercomputing Lavoro Collaborativo Breeze Infrastruttura e-learning ENEA

24 CRESCO, Workshop GRISU, Catania 13/12/2005 Il Progetto CRESCO Centro computazionale di RicErca sui Sistemi COmplessi  Principali Obiettivi Infrastrutturali  Realizzazione di un Polo di calcolo di eccellenza presso il Centro ENEA di Portici  Sviluppo di una nuova classe di funzionalità innovative di GRID Computing Applicativi  Studio di oggetti biologici dal punto di vista “sistemico” e di sistemi naturali secondo il paradigma dei sistemi complessi  Studio di sistemi tecnologici e sociali complessi e delle loro mutue interazioni, realizzazione di strumenti per il modelling, la simulazione e il controllo  Implementazione di soluzioni innovative di GRID computing per le attività di R&S di punta dell’ENEA che richiedano l’utilizzo di risorse computazionali estremamente importanti.

25 CRESCO, Workshop GRISU, Catania 13/12/2005 Il Progetto CRESCO Centro computazionale di RicErca sui Sistemi COmplessi  Potenziamento delle funzioni tradizionali dell’ENEA  la ricerca - Supporto (di tipo sia capacity che capability), attraverso l’utilizzo dell’infrastruttura di calcolo, ad attività di ricerca già in corso di svolgimento nell’Ente nell’ambito delle linee programmatiche esistenti. Tali attività potranno anche avere una focalizzazione di natura industriale  la formazione – Potenziamento delle attività di formazione, in collaborazione con alcune sedi universitarie, al fine di supportare la diffusione delle metodologie sviluppate all’interno del Polo Multidisciplinare negli ambiti tematici oggetto di studio e ricerca. Ricadute anche nella creazione di percorsi formativi adatti al successivo reclutamento di personale  il trasferimento tecnologico – Attivazione di percorsi e strumenti per favorire l’applicazione industriale delle tecnologie sviluppate, anche ricorrendo alla collaborazione di partner idonei (“industrial-exploitation partner”).

26 CRESCO, Workshop GRISU, Catania 13/12/2005 Schema Concettuale NEW ?

27 CRESCO, Workshop GRISU, Catania 13/12/2005 Il Laboratorio Virtuale LiLi ENEA Università ed Enti di ricerca Imprese Schema concettuale dei Laboratori Virtuali di CRESCO inseriti nell’infrastruttura ENEA-GRID

28 CRESCO, Workshop GRISU, Catania 13/12/2005 Macrostruttura del progetto Prof. Jack Dongarra Prof. Umberto Ferrari Prof. Agostino Mathis Prof. Salvatore Tucci Prof. Samuel Varnado ….. TBD

29 CRESCO, Workshop GRISU, Catania 13/12/2005 Le tre linee di attività di CRESCO LA I Realizzazione del Polo di calcolo e sviluppo di nuove funzionalità di GRID Computing LA II Sviluppo di tecnologie e modelli computazionali per la descrizione di sistemi complessi di origine biologica e di materiali innovativi LA III Sviluppo di modelli di simulazione ed analisi delle reti tecnologiche complesse e delle loro interdipendenze

30 CRESCO, Workshop GRISU, Catania 13/12/2005 LA I Realizzazione del Polo di calcolo e sviluppo di nuove funzionalità di GRID Computing Sottoprogetti SP I.1 Realizzazione dell’infrastruttura HPCN SP I.2 Sviluppo ed integrazione dell’architettura GRID e di grafica 3D SP I.3 Sviluppo ed ottimizzazione di codici applicativi in settori di R&S di punta SP I.4 Progettazione e sviluppo di librerie per l’implementazione efficiente e parallela di nuclei computazionali su dispositivi FPGA integrati in un ambiente GRID SP I.5 Web archives

31 CRESCO, Workshop GRISU, Catania 13/12/2005 LA II Sviluppo di tecnologie e modelli computazionali per la descrizione di sistemi complessi di origine biologica e di materiali innovativi Sottoprogetti SP II.1 Simulazioni di reti biochimiche SP II.2 Bioinformatica per la creazione di modelli di reti metaboliche e genetiche SP II.3 Ricerca polimorfismi SP II.4 Sviluppo di modelli numerici per analisi strutturali complesse e processi di sinterizzazione SP II.5 Modelling molecolare

32 CRESCO, Workshop GRISU, Catania 13/12/2005 LA III Sviluppo di modelli di simulazione ed analisi delle Reti Tecnologiche complesse e delle loro interdipendenze Sottoprogetti SP II.1 Fisica delle reti complesse SP II.2 Analisi di vulnerabilità delle reti complesse SP II.3 Modelli e strumenti di supporto alla ottimizzazione e riconfigurazione delle reti SP II.4 Modellistica delle reti complesse viste come aggregati socio-tecnologici SP II.5 Interdipendenza tra reti complesse SP II.6 Sistema informativo per la salvaguardia delle infrastrutture e della popolazione

33 CRESCO, Workshop GRISU, Catania 13/12/2005 Ripartizione delle risorse nelle Linee di Attività Valore complessivo del Progetto: € 9.292.000

34 CRESCO, Workshop GRISU, Catania 13/12/2005 Partner  Partner:  Università di Salerno  Università di Catania  Università di Lecce  Università di Palermo  Università del Sannio  Università del Piemonte Orientale  Università di Roma “Tor Vergata”  Università di Roma “La Sapienza”  Cons. Interuniversitario ECONA  CRIAI – Consorzio Campano di Ricerca per l’Informatica e l’Automazione Industriale  Consorzio BioTekNet - Centro Regionale di Competenza in Biotecnologie Industriali  Parco Scientifico e Tecnologico della Sicilia  Consorzio CETMA  Soc. Ylichron (spin-off ENEA)

35 CRESCO, Workshop GRISU, Catania 13/12/2005 Collaborazioni dichiarate nel progetto  Collaborazioni:  Politecnico di Milano – Dipartimento di Elettrotecnica  United States Department of State, USA  Oak Ridge National Laboratories, USA

36 CRESCO, Workshop GRISU, Catania 13/12/2005 Nuove collaborazioni  CYBERSAR ?  PI2S2 ?  SCOPE ?  SPACI ?  ………………….

37 CRESCO, Workshop GRISU, Catania 13/12/2005 Una proposta di armonizzazione  Reciproca visibilità sull’evoluzione dei progetti  Costituzione di un comitato di raccordo e di confronto su tematiche scientifiche e soluzioni tecnologiche  Adozione di una filosofia di integrazione basata sullo sviluppo e l’implementazione di gateway

38 CRESCO, Workshop GRISU, Catania 13/12/2005 Proposta di un nuovo incontro Invito al prossimo incontro di GRISU a NAPOLI ~ Aprile 2006 (organizzato da CRESCO & SCOPE)

39 CRESCO, Workshop GRISU, Catania 13/12/2005 ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT