La presentazione è in caricamento. Aspetta per favore

La presentazione è in caricamento. Aspetta per favore

1 Stato e prospettive del Data Center SCoPE Stato e prospettive del Data Center SCoPE (L. Merola, 28 luglio 2009) www.scope.unina.it.

Presentazioni simili


Presentazione sul tema: "1 Stato e prospettive del Data Center SCoPE Stato e prospettive del Data Center SCoPE (L. Merola, 28 luglio 2009) www.scope.unina.it."— Transcript della presentazione:

1 1 Stato e prospettive del Data Center SCoPE Stato e prospettive del Data Center SCoPE (L. Merola, 28 luglio 2009)

2 2 Sommario Il Data Center Governance Impianti Sistemi, software e middleware Networking Attività del Gruppo Tecnico Trasversale Attività di formazione I progetti: GRISU; EGEE III; ATLAS; MATISSE; … Prospettive

3 3 SCoPE DataCenter & Tier2 ATLAS 1 MW Cabina elettrica 1 MW

4 4 33 Racks (of which 10 for Tier2 ATLAS) 304 Servers for a total of processors 170 TeraByte storage 3 remote sites: Fac. Medicine: 60 TB storage Dep. Chemistry: 8 server multiCPU (4-proc) Dep. Math.: 16 server multiCPU (2-proc 4-core)

5 5 Governance

6 6 Collaboratori altri Enti (contributors): INFN Napoli: Giuseppe PASSEGGIO (Impianti), Paolo LO RE (Reti), Silvio PARDI (Middleware Grid, Grisù, IGI, EGI), Alessandra DORIA e Gianpaolo CARLINO (riferimenti per VO ATLAS), Paolo MASTROSERIO (riferimento per INFN-GRID). Progetto EGEE: Vania BOCCIA (EGEE, Middleware Grid, Interoperabilità Grisù, IGI, EGI, middleware applicativo, supporto utenti di tipo specialistico) Diego MONORCHIO (EGEE) CNR: Maria GELLI, Luisa CARRACCIUOLO e Maria RISPOLI (Middleware Grid, Interoperabilità Grisù, IGI, EGI, middleware applicativo, supporto utenti di tipo specialistico). Dip. Informatica e Sistemistica: Pasquale DI GENNARO (Middleware di sistema), Antonio ACETO (Networking). Dip. Scienze Fisiche: Giuseppe Longo (VO VOBS), Domenico Ninno, Giovanni Cantele (VO MATISSE). Referenti dei progetti: Leonardo Merola (GRISU), Giuliano Laccetti (EGEE, Matematica), Guido Russo (IGI), Gianpaolo Carlino (ATLAS), Giorgio Ventre (Ingegneria, Imprese), Giuseppe Longo (VOBS), Domenico Ninno (MATISSE), Giorgio Franceschetti (Ingegneria), Giuseppe Marrucci (Ingegneria), Orlando Crescenzi (Chimica), Giovanni Paolella (Medicina).

7 7 Impianti A valle della realizzazione degli impianti tecnologici realizzati presso il Data Center SCoPE e dopo lavvenuta consegna degli impianti della cabina elettrica allufficio tecnico del Polo delle Scienze e delle Tecnologie (29 maggio 2009), si è provveduto ad attivare un processo di controllo e per quanto riguarda l impiantistica: La cabina elettrica Il gruppo elettrogeno I tre gruppi di continuità Limpianto antincendio Limpianto di condizionamento ambientale Limpianto di raffreddamento dei rack Limpianto di videosorveglianza Limpianto di controllo accessi Limpianto di rete nella Control Room Le stazioni di lavoro nella Control Room Le connessioni in fibra ottica Il sistema di monitoraggio

8 8 Manutenzione e monitoraggio del gruppo elettrogeno e degli UPS: - Cabina elettrica: pienamente operativa, nessuna criticità. - Gruppo elettrogeno: problemi nellavvio automatico, dovuti ad un malfunzionamento del piccolo UPS del motorino di avvio, inconveniente risolto temporaneamente con un UPS sostitutivo. -Gruppi di continuità: ok i 2 gruppi da 400 kVA ma va incrementata la durata con altre batterie (circa 50 kE). Alternativamente aggiungere un UPS rotante con massa rotativa sotto vuoto (flying wheel), che darebbe maggiore garanzia sulla continuità di esercizio, ma ad un costo notevole (circa 150 kE). Il gruppo di continuità da 250 kVA ha invece delle batterie che non risultano in ottimo stato.

9 9 Sistemi, software e middleware E in corso una intensa attività per limplementazione di strumenti software per il management ed il monitoraggio dei sistemi e dei servizi. In particolare sono stati attivati: Servizio-Wiki – strumento web dove gli amministratori documentano le procedure di gestione, le soluzioni ai problemi comuni, lo stato di avanzamento dei progetti fino al brain storming su idee e proposte innovative. Gestione-Asset - Database relazionale il cui schema è stato realizzato ad hoc per le esigenze del sistema SCoPE (configurazioni, forniture, ecc.). Portale-SCoPE – E in corso il rinnovo del sito di riferimento di SCoPE con strumenti web avanzati, e nuove facility supporto del Single Sign e interazione con i sistemi di monitoraggio.

10 10 Nuovo Portale in fase di test raggiungibile da:

11 11 Relativamente alla gestione sistemi sono in corso numerose attività di sviluppo e di sperimentazione; in particolare: Studio di Storage e Filesystem Realizzazione di un sistema di monitoraggio delle prestazioni dello storage per raffinare il tuning finale dellarchitettura in modo da sfruttare in pieno le potenzialità dellhardware disponibile (in particolare: sistema in FiberChannel EMC2 ) Nuovo sistema di monitoraggio integrato Il sistema realizzato dai tesisti del Prof. G. Russo con la collaborazione della Divisione Sistemi del CSI

12 12

13 13 Nuovo Sistema di Monitoraggio Integrato Negli ultimi mesi si è lavorato allimplementazione di un sistema di monitoraggio integrato per il DataCenter, oggi a buon punto. Tale sistema consente di monitorare tutti gli aspetti principali del DataCenter: impianti, rete, hardware e servizi.

14 14 A partire dallo stato dei singoli armadi e moduli di raffreddamento è possibile scendere sempre più nel dettaglio dei singoli sistemi

15 15 Il sistema fornisce: Informazioni aggregate sulle risorse Granularità fino al singolo server Single-Sign-On per autenticarsi in un solo punto e navigare nei vari sistemi Gestione di profili utente, con differenti permessi di visione e di intervento.

16 16 Networking Rete Interna: Articolata rete locale (LAN), basata su standard Gigabit Ethernet (1 GbE), 10GbE, ma anche su Infiniband e su Fibre Channel. La rete copre tutte le macchine, che sono collegate in più modi, ma con scarsa espandibilità: laggiunta di altre macchine (server) richiederà laggiunta di nuovi e costosi apparati di rete centrali. Rete di campus: Il DataCenter è ora collegato a regime con link diretti in fibra verso la control room, il centro stella del campus di M.S.Angelo, il Dipartimento di Scienze Fisiche. E stato altresì attivato il collegamento diretto dedicato a 10Gbit/s tra le due parti del Tier2 di ATLAS. Rete geografica: E attiva e in fase di stress-test il link diretto a 1Gbit con il centro CRESCO dellENEA a Portici: è una connessione dedicata, che va meglio gestita ed utilizzata, ai fini della griglia nazionale e soprattutto di quella del Sud (Grisù)

17 17 ELENCO DI TUTTE LE CONNESSIONI DI CAMPUS E GEOGRAFICHE Data Center SCoPE a Monte S. Angelo Area macchine ATLAS nel Data Center SCoPE a Monte S. Angelo Control Room SCoPE a Monte S. Angelo Centro Stella INFN a Monte S. Angelo Sala macchine ATLAS INFN a Monte S. Angelo Centro Stella Campus GRID a Monte S. Angelo CEINGE a Cappella Cangiani Dipartimento di Matematica ed Applicazioni a Monte S. Angelo Dipartimento di Chimica a Monte S. Angelo Centro Stella Centro Servizi Informativi a Monte S. Angelo GigaPOP GARR a Monte S. Angelo

18 18

19 19 Schemi di connessione

20 20 SISTEMA DI MONITORAGGIO DELLA RETE DEL TIER2 DI ATLAS SWITCH DEL DATACENTER

21 21 GARR-G

22 22 Comunicazione, certificazioni, User interface-VO gestione del sito web realizzazione contenuti comunicazionali per lo stesso (statistiche di utilizzo, disponibilità di nuove applicazioni e/o di nuove risorse, convegni, pubblicazioni, etc.), realizzazione e gestione del portale di accesso alle risorse SCoPE (user interface), gestione degli strumenti di comunicazione del gruppo di gestione (mailing list, etc.), realizzazione e gestione di un WIKI dedicato a SCoPE, realizzazione della documentazione utente, gestione della modulistica on line per l'accesso alle risorse, gestione del training agli utenti, realizzazione del sistema di gestione degli adempimenti nei nuovi progetti cui parteciperà la Federico II, gestione dei rapporti non tecnici con altri progetti nazionali, avvio delle procedure per le certificazioni ISO 9001, ITILv3, ISO 27001, creazione/cancellazione degli utenti sulla User Interface

23 23

24 24 Attività del Gruppo Tecnico Trasversale Il gruppo tecnico trasversale è un gruppo di lavoro in cui sono coinvolti i tecnici CSI impiegati nelle attività di setup e gestione del DataCenter, gli esperti e i ricercatori dellAteneo e degli altri Enti (INFN, CNR). Attualmente i punti principali di discussione riguardano le politiche daccesso e di utilizzo della macchina, di cui distinguiamo una parte di sperimentazione e una parte di gestione. Allo stato attuale gli utenti delle varie VO sono organizzati in 3 macrogruppi: utenti di GRISU`: appartenenti alle Virtual Organizzation (VO) cometa, cybersar, cresco e spaci utenti di EGEEIII: appartenenti alle VO alice, cms, lhcb, biomed, libi, pamela, virgo, ops, infngrid, dteam, gilda (situazione attuale in evoluzione) utenza LOCALE: appartenente alle VO unina.it, atlas, matisse Ogni macrogruppo ha a sua disposizione, in una certa percentuale, le risorse; in particolare: GRISU`: 25% delle risorse EGEEIII: 10% delle risorse, da aumentare al 20 % (per IGI/EGI). LOCALE: accesso a tutte le risorse senza limiti

25 25 Sono in corso alcune sperimentazioni per configurare dinamicamente le politiche di accesso ed utilizzo delle risorse relativamente a: Fairshare politica di scheduling che consente di intervenire dinamicamente sulla priorità dei job. Tale sistema si basa su osservazioni effettuate nellarco di finestre temporali in cui si misura leffettivo utilizzo degli utenti e/o dei gruppi. Reservation meccanismo con il quale MAUI (sw a basso livello di gestione code) garantisce la disponibilità di singole risorse o set di risorse in un particolare momento. Backfill permette allo scheduler di ottenere un migliore impiego delle risorse eseguendo i job sottomessi non in ordine di sottomissione ma basato sul tempo di reservation Preemption consente la sospensione di job nel caso di arrivo di altri processi o in coda con maggiore priorità

26 26 Attività di Formazione Il Data Center SCoPE rappresenta altresì un opportunità per la formazione dei giovani, in particolare lo strumento del tirocinio per le lauree triennali, o con la tesi per le vecchie lauree quinquennali o per le magistrali/specialistiche. Lassegnazione di tesi su temi attinenti il Data Center avviene su iniziativa dei docenti coinvolti nel progetto. Dal settembre 2008 ad oggi, sono state assegnate ben 17 tesi/tirocini, di cui 6 concluse con soddisfazione, e le altre in corso; lelenco completo è qui di seguito. 1)BELFIORE GiovanniIntegrazione di un sistema di storage Fibre Channel della EMC 2 nel Data Center SCoPE 2)LIBERTI MarcoIntegrazione di un sistema di storage iSCSI della EqualLogic nel Data Center SCoPE 3)FALCONE GiulianoLe problematiche dello storage in un Data Center: tecnologie a confronto 4)COSIMO ArmandoCreazione di portlet per il monitoraggio degli impianti di un data-center 5)ILARDI LuigiMonitoraggio connessioni in fibra del progetto SCoPE 6)DEL PRETE Domenico Integrazione di servizi file transfer dedicati al GRID Computing su NAS Server del Data Center S.Co.P.E. 7)ROSSI Enrico MariaMonitoraggio delle connessioni di rete delle macchine del DataCenter SCoPE 8)RUSSO AlessandroMonitoraggio delle attrezzature hardware del DataCenter SCoPE 9)CERBO FrancescoConfronto tra DPM, StoRM, LUSTRE 10)GERARDO LucaAutenticazione mediante certificati Robot 11)PETRIZZO GiuseppeSoftware PowerFarm per la gestione degli eventi di power failure 12)TOZZI MauroUn sistema integrato di monitoraggio di un data center in ambito Grid 13)NADDEO SalvatoreUn sistema di monitoraggio per il Tier2 di ATLAS a Napoli 15)ALFANO MarcoAutenticazione mediante certificati X.509 e mediante SSO, per l accesso ai servizi di monitoraggio e di accounting 16)COSTANZO Roberto Monitoraggio delle componenti di servizi del Data Center 17)TORRES DavideInterfaccia utente per accesso ai servizi di Grid computing

27 27 Dottorato/Master Il Data Center si pone come infrastruttura di calcolo avanzato per lo svolgimento di attività di ricerca nellambito dei corsi di dottorato nelle varie discipline. E anche da prendere in considerazione, per il futuro, listituzione di un master universitario in Computational Science che abbia il Data Center SCOPE come infrastruttura portante.

28 28 LATTIVITA GRISÙ In ambito GRISU, la comunità SCOPE è attiva sia come coordinamento delle attività tecniche per il consolidamento ed il management dellinfrastruttura, che per la promozione di sperimentazioni. Relativamente al consolidamento dellinfrastruttura GRISU è opportuno segnalare che le attività vengono svolte in regime di best- effort, a causa della forte riduzione del personale dedicato, soprattutto per la cessazione di molti contratti basati sui precedenti fondi di progetto. Le attività in molte sedi risultano fortemente rallentate.

29 29 Sono stati implementati i servizi per una nuova VO chiamata MATISSE, dedicata alla Scienza e allIngegneria dei materiali. Sono partite le iscrizioni e i primi test di utilizzo da parte degli utenti.

30 30 E stato effettuato con successo il test dei certificati robot sulla VO pilota matisse, per laccesso ai servizi della grid da parte di utenti sprovvisti di certificato. Una user interface speciale consente allutente di sottomettere job non appena effettuato il login, senza dover provvedere al management del certificato

31 31 Altre attività di sperimentazione in ambito GRISU sono: - Studio di una estensione del servizio VOMS per la tracciabilità delleffettivo utilizzatore del certificato robot. - Testing del link diretto da 1Gbit/s tra CRESCO e SCoPE con stress test di occupazione e limitazione della banda.

32 32 LATTIVITA EGEE III A partire dal 4 Maggio 2009 le risorse di UNINA_DATACENTER, destinate ad EGEEIII sono entrate in produzione sotto il nome di UNINA_EGEE (2 contrattisti per 1 anno) Sono state svolte le seguenti attività: 1) Installazione, configurazione e certificazione del sito UNINA_EGEE costituito da: un Computing Element (CE) con 32 Worker Nodes (WN) uno Storage Element (SE) di tipo DPM (disk pool manager) per la gestione dello spazio disco 2) Risoluzione di ticket 3) Supporto utenti di 12 Virtual Organization aggiuntive: atlas, alice, cms, lhcb, biomed, libi, pamela, virgo, ops, infngrid, dteam e gilda. I risultati di disponibilità (tempo vivo) ed affidabilità (percentuale di job conclusi con successo) ottenuti nei primi due mesi, secondo le tabelle EGEE, sono stati molto soddisfacenti:

33 33 LATTIVITA MATISSE Dopo il Grisu Open Day del 3 Aprile 2009 dedicato ai materiali, sono iniziati i lavori per la costituzione della nuova VO MATISSE, di cui lUniversità di Napoli e la collaborazione SCOPE tengono le fila. Durante gli ultimi mesi, oltre allimplementazione della VO e al deployment sulle risorse di SCOPE, sono iniziati dei test in stretta collaborazione tra i ricercatori della VO matisse ed il gruppo tecnico. Matisse rappresenta una importante novità essendo portatrice di una nuova fascia di utenza fino ad ora non utilizzatrice del Grid computing. Lattività di test si è concretizzata nel porting del diffuso software Quantum Expresso (sw parallelo che sfrutta Infiniband) sullinfrastruttura SCoPE. Sono emerse un certo numero di problematiche che sono state affrontate sinergicamente, alcune ancora in corso di definizione su specifici use-case di interesse. La VO matisse ha anche partecipato alla sperimentazione dei certificato robot ed il suo contributo alla crescita del DataCenter risulta di grande importanza.

34 34 LATTIVITA ATLAS Sono proseguiti gli studi su larga scala dellesperimento ATLAS sulle macchine del progetto SCoPE e sono stati istallati e collaudati server e storage del Tier-2 ATLAS presente sia nel centro SCoPE sia presso il Dip. Scienze fisiche e la sezione INFN per un totale di 50 worker nodes (260 core) e 260 TB disk (da confrontare con i 304 WN per un totale di 2432 core e 130 TB di disco del progetto SCoPE). Sono stati lanciati gruppi di 500 jobs da 1 milione di eventi ciascuno di muone singolo con impulso trasverso da 10 a 300 GeV/c con distribuzione angolare uniforme per studi di trigger muonico. I dati in output sono stati scritti, in formato C++/ROOT, nello storage se01.scope.unina.it e nel catalogo LFC /grid/atlas, per successivo utilizzo per ulteriori analisi con applicazioni ATLAS eseguite sui nodi SCoPE. E stato implemento un tool di monitoraggio della rete tra i switch distribuiti (vedi SISTEMA DI MONITORAGGIO DELLA RETE DEL TIER2 DI ATLAS)

35 35 Sono stati portati avanti i seguenti temi, in linea con quanto già fatto nellambito del progetto SCoPE ormai concluso: - Studio, progettazione e implementazione di algoritmi paralleli efficienti in ambienti distribuiti/multicores (quadratura multidimensionale, algebra lineare, analisi immagini, … ) - Studio, progettazione e implementazione di framework (automatici) per l'esecuzione di un insieme di moduli funzionali (pipeline framework) - Studio, progettazione e realizzazione di moduli di librerie matematiche fault tolerant (CG, PETSc, … ). LATTIVITA MATEMATICA/COMPUTER SCIENCE

36 36 LATTIVITA di BIONFORMATICA Sono stati portati avanti i seguenti temi, in linea con quanto già fatto nellambito del progetto SCoPE ormai concluso: - Attivazione di procedure per il calcolo parallelo di parametri predittivi di caratteristiche di sequenze nucleotidiche e proteiche. - Studio, progettazione e implementazione di framework per l'esecuzione contemporanea di moduli di annotazione. - Ricerca di elementi funzionali attraverso la predizione di strutture tridimensionali di RNA. LE ALTRE ATTIVITA SCIENTIFICHE Ingegneria, Chimica, Astrofisica hanno proseguito le proprie ricerche utilizzando le preesistenze e avviato i test di funzionamento sul DataCenter SCoPE.

37 37 PROSPETTIVE Programmazione PON Ricerca e Competitività POTENZIAMENTO DOMANDA/OFFERTA SUL TERRITORIO Reti e network di cooperazione fra Ricerca e Imprese PON/FAS/POR CONTINUITA DELLA PROGRAMMAZIONE Nuova sfida: SUPPORTO ALLA COMPETITIVITA DELLE IMPRESE ATTRAZIONE DEL MONDO PRODUTTIVO A) Potenziamento di reti tra strutture di ricerca e completamento dell e-infrastruttura meridionale B) Servizi di computing basati su Grid C) Applicazioni general purpose, nuovi frameworks applicativi, nuove modalità di accesso a archivi digitali D) Nuovi sistemi di calcolo ad alte prestazioni TEMA n. 1: Reti a larga banda TEMA n. 2: Cloud computing e applicazioni TEMA n. 3: Applicazioni scientifiche e industriali in ambiente di High Performance Computing e Grid Computing. TEMA n. 4: Data Mining TEMA n. 5: Influenza dei multicore sullo sviluppo delle applicazioni scientifiche TEMA n. 6: Tecnologie GRID per le Imprese

38 38 Lassociazione Grisù intende, avvalendosi anche delle opportunità offerte dalla programmazione , realizzare Laboratori virtuali sui seguenti temi: Immagini Mediche Scienza ed Ingegneria dei Materiali Ingegneria e PMI Energia e Clima

39 39 The ultimate Network of GRISÙ

40 40 PORTICI BRINDISILECCE TRISAIA GRISU EGI - European GRID Infrastructure DEISA IGI Italian GRID Infrastructure INFN-GRID ENEA-GRID GRISÙ interoperability and

41 41 PROTOCOLLO DINTESA MIUR-REGIONI su RICERCA, COMPETITIVITÀ E INNOVAZIONE PER LA CRESCITA DELLE REGIONI DELLA CONVERGENZA stipulato a Roma il 25 giugno 2009 Ripartizione delle risorse finanziarie, relative al primo triennio, per obiettivo operativo e azione del PON Ricerca e Competitività e relativa suddivisione per Regione.

42 42 Occorrerà attendere gli specifici Accordi di Programma Quadro con particolare attenzione a quelli negli ambiti innovativi quali l ICT in applicazioni dedicate. E da notare come linvestimento maggiore in Campania sarà sui Distretti tecnologici ed i laboratori pubblico-privati e relative reti, e su interventi di sostegno della ricerca industriale in misura ben maggiore che nelle altre regioni, mentre, purtroppo la regione Campania ha scelto di non avanzare richieste per il potenziamento delle strutture e delle dotazioni scientifiche e tecnologiche su cui invece le altre regioni hanno deciso di riservare un consistente investimento. Dalla distribuzione degli investimenti risulta pertanto evidente una minore attenzione della regione Campania verso il mondo della ricerca accademica rispetto alla ricerca nel mondo industriale, in ogni caso senzaltro minore di altre regioni. Ciò costituirà unindubbia difficoltà per il potenziamento ed il rafforzamento strutturale del DataCenter SCoPE.

43 43 Prospettive NGI/EGI Nel mese di luglio lINFN, come da mandato ricevuto da tutti i membri della JRU IGI, ha formalizzato ladesione alla EGI europea. La costituzione quindi della EGI andrà avanti per realizzare la sede centrale ad Amsterdam, come previsto, e si concretizzerà nel corso del La EGI avrà quindi una propria struttura operativa, con una stima di 50 unità di personale a regime, e sarà finanziata con i contributi dei soci europei, cioè delle varie NGI, tra cui la IGI italiana. La IGI italiana è invece più lontana: si vuole una concreta a formale adesione del Ministero per lUniversità e la Ricerca Scientifica, che deve assumersene la responsabilità, anche ai fini economici, con finanziamenti che non potranno essere solo di investimento, ma anche di spese correnti, in particolare per le esigenze di personale. Al momento il MIUR non è in condizioni di prendere questi passi formali, che comunque dovranno essere presi entro la prima metà del 2010.

44 44 Prospettive di maggior utilizzo del Data Center Ancora pochi, anche se consistenti come richieste di calcolo, sono i gruppi che utilizzano il paradigma del Grid Computing per i loro calcoli scientifici. Maggiori sforzi vanno quindi fatti per il miglioramento della fruibilità del Data Center, sia attraverso portali e interfacce utente più friendly, sia attraverso lautomazione dei meccanismi di migrazione delle applicazioni. Queste azioni richiedono il coinvolgimento diretto dei ricercatori, ai quali va consentita la possibilità di sperimentare, anche deviando rispetto alle regole canoniche del grid computing, ad es. innovando/migliorando il mw gLite. Parimenti, alcuni gruppi hanno attrezzature non-standard rispetto al modello adottato in SCoPE, ma comunque finalizzate agli scopi di una particolare comunità scientifica (ad es. Astrofisici). Va contemplata la messa a disposizione delle infrastrutture del Data Center, anche attraverso servizi di housing di apparati specifici. Il Data Center deve consentire, per una certa quota, anche le prove, le sperimentazioni, le riconfigurazioni da parte dellutente esperto, così come deve dare il supporto a tali attività, se provenienti da utenti non esperti ma che hanno ben chiaro il fine scientifico da raggiungere.


Scaricare ppt "1 Stato e prospettive del Data Center SCoPE Stato e prospettive del Data Center SCoPE (L. Merola, 28 luglio 2009) www.scope.unina.it."

Presentazioni simili


Annunci Google