EMI Fine progetto 30 Aprile 2013 Andamento progetto generale

Slides:



Advertisements
Presentazioni simili
STATO DEL PROTOTIPO DI SCoPE E DELL’INTEGRAZIONE TRA I 4 PON
Advertisements

1 STATO DELLINTEGRAZIONE TRA I 4 PROGETTI AVVISO 1575/2004 ATTIVITA DEL GRUPPO TECNICO OPERATIVO Riunione del Comitato Tecnico sullInteroperabilità MUR,
Interoperabilità tra i PON Giuseppe Andronico (INFN e Consorzio COMETA)
FESR Trinacria Grid Virtual Laboratory ADAT (Archivi Digitali Antico Testo) Salvatore Scifo TRIGRID Second TriGrid Checkpoint Meeting Catania,
Test Storage Resource Manager per SC4 Giacinto Donvito Vincenzo Spinoso.
I testbed ed il loro uso 1 I testbed ed il loro uso L. Gaido, A.Ghiselli CSN1, Perugia novembre 2002.
Storage (ieri, oggi e domani) Luca dell’Agnello INFN-CNAF.
BOLOGNA Prin-STOA Report L. Rinaldi Bari – 12/11/2015.
La Task Force Gestione Operativa (Operations) L. Gaido, INFN Torino.
Overview del middleware gLite Guido Cuscela INFN-Bari II Corso di formazione INFN su aspetti pratici dell'integrazione.
Stato Unità Gestione Operativa Paolo Veronesi. Stato revisione blueprint I task oggetto dell’Unita’ Gestione Operativa Personale afferente all’Unita’
19/4/2013 D. Menasce, M. Serra - Referaggio Progetti INFRA e WLCG 1.
Progetti CCR Referaggio progetti della Commissione Calcolo e RetiReferaggio progetti della Commissione Calcolo e Reti Referees: Tommaso Boccali, Alessandro.
Virtualizzazione nell’INFN Andrea Chierici 11 Dicembre 2008.
L’infrastruttura del progetto ReCaS Paolo Lo Re on behalf of ReCaS collaboration.
IL blueprint e le esigenze per il progetti internazionali (EMI e EGI- InSPIRE) L. Gaido, INFN Torino Riunione del Comitato di Coordinamento IGI Roma, 12.
EGEE is a project funded by the European Union under contract IST L'infrastruttura di produzione attuale A. Cavalli - INFN- CNAF D. Cesini.
EGI-InSPIRE RI EGI-InSPIRE EGI-InSPIRE RI Gruppo CNAF (2010/2011) 7/10/2016 CdC 03/12/
+ Call di Big Data (EINFRA- 1). + La call … + + Cosa abbiamo in mano (come INFN) 1. L’infrastruttura 1 Tier Tier2 O(25000) cores O(20) PB di Disco.
Il dopo EGEE-III. EGI-InSPIRE. Attività, personale e richieste di SA1, JRA1 e Nax. Luciano Gaido, Paolo Veronesi Incontro con i referee di INFNGRID CNAF,
HLRmon per IGI: nuove funzionalità Enrico Fattibene INFN – CNAF
Il Computing di ATLAS III – La Federazione dei Tier-2 La Federazione dei Tier-2 La Federazione dei Tier-2 Analisi nei Tier-2 italiani Analisi nei Tier-2.
GARR WS08 - Milano, 2-4 Aprile Grid Tutorial Parte 3 gLite e la LAN practicals Mario Reale GARR GRID GARR WS08-Milano-2-Aprile-2008.
Alessandro De Salvo Status dei Tier2 di ATLAS Alessandro De Salvo
Torino, Andrea Dainese 1 Andrea Dainese (INFN – LNL) Stato del Tier-2 ALICE a Legnaro.
20-21/03/2006Workshop sullo storage - CNAF Alessandro Brunengo.
SCoPE - Stato dei Lavori
Gestione Farm Tema centrale della sessione: utilizzo del batch- system nelle varie sedi T1 e T2, ma anche altre farm grid e farm di sezione requirements,
Status Report Gruppo Storage CCR CCR 14-15/03/2006.
Integrazione tier3 in Grid Paolo Veronesi, Luciano Gaido
Gruppo Web Tools Dael Maselli (LNF) Commissione Calcolo e Reti
IGI BLUEPRINT LAVORI IN CORSO
IGI: gestione dell’infrastruttura, middleware release e certificazione
Monitoring e loadbalancing dei servizi Grid
Effort EGI (Cloud e dintorni)
Comput-ER l'infrastruttura di calcolo distribuito in Emilia Romagna
l’organizzazione di IGI
Metodologie Quantitative per il Calcolo Scientifico
Attività su middleware Grid e sua evoluzione
Tiziana Ferrari (INFN CNAF), Luciano Gaido (INFN TO)
Risultati ultimi mesi Piano di lavoro prossimi mesi Reclutamento
Problemi aperti Luciano Gaido (INFN - Torino)
Dichiarazione dei servizi di sito nel GOCDB
Stato della Grid di produzione
Alberto Masoni EU-IndiaGrid Project Manager INFN Sezione di Cagliari
Giuseppe Andronico 1 Marzo 2010 Riunione CCR
PRIN Roma1 – status Luciano Barone, Alessandro De Salvo
Servizi per CCRC, INFN Grid release, stato dei servizi centrali e T2
CMS T2: monitoring Cosa c’e’ / cosa vorremmo / cosa manca
Introduzione alla sessione sull’analisi per gli esperimenti LHC
Metriche SE monitoring G.Donvito G.Cuscela INFN Bari
Riunione con i Referee Settembre 2016
Riunione della Commissione Calcolo e Reti – Torino, 3-4 aprile 2017
L’infrastruttura grid italiana nel contesto internazionale
ATLAS-Italia Tier-3 Dario Barberis Università e INFN Genova
Attvità Computing – Inverno 08/09
Valeria Ardizzone INFN Catania Martina Franca (TA),
(Breve) Riassunto del workshop WLCG
Belle II Computing: Accesso alle risorse di storage via http/webdav
OCP: AA nel capitolato.
Drafts H2020.
Agenda CE IGI
Luciano Gaido (INFN - Torino) Workshop CCR/INFNGRID – Palau
Panoramica sul middleware gLite
Unità Formazione e Servizi di Supporto agli Utenti (FUS)
Calcolo “locale” ATLAS-Mi
Risultati del questionario sui servizi middleware aggiuntivi
IGI e l’impatto sui servizi calcolo
STATO DEL PROTOTIPO DI SCoPE E DELL’INTEGRAZIONE TRA I 4 PON
Evolution of Information Modeling and Discovery of Grid Resources
Transcript della presentazione:

EMI Fine progetto 30 Aprile 2013 Andamento progetto generale Molto bene supporto e manutenzione, alcuni obiettivi mancati nella parte di sviluppo Andamento partecipazione INFN Le attività (NA3, SA1) di cui abbiamo responsabilità hanno un buon andamento Le funzioni di cui abbiamo responsabilità (release management, gestione testbed) sono quelle maggiormente apprezzate Nessuno scostamento su supporto e manutenzione, scostamenti fisiologici sullo sviluppo Un obiettivo mancato per CE, SE e WMS Effort Necessari alcuni aggiustamenti per le numerose partenze di questo anno (Gianelle, Sgaravatto, Zappi, Dongiovanni, Manzali, Cresti)

Cosa Le attività connesse al middleware che regge la European Grid Infrastructure (EGI) Supporto Richieste di intervento degli sviluppatori per supporto alla gestione dei problemi degli utenti (utenti finali e amministratori di sito) Manutenzione Correttiva, richieste di bug fix a seguito di problemi degli utenti, e adattativa e perfettiva, cambiamenti di librerie, release dei sistemi operativi, etc. Sviluppo Nuove funzionalità, vedi quanto emerso dai TEG per il contesto WLCG, o i requirements del Technical Coordination Board di EGI Coordinamento Raccolta requirements, pianificazione, tracking, release management, etc

Per chi Per EGI le VO ed i siti WLCG le VO ed i siti INFN tutte le comunità e tutti i siti EGI Le VO WLCG rappresentano il 90% dell’utilizzo dell’infrastruttura Supportare altre VO oltre quelle WLCG non comporterà mai un enorme aumento di lavoro Fa eccezione il middleware che le VO WLCG non usano, come WMS Un 10% di traffico in più comporta più supporto e più manutenzione, ma non in misura tale da far cambiare la stima dell’effort necessario Il supporto a più comunità significa più requirements, ma anche qui non in misura tale da far cambiare significativamente la stima dell’effort necessario

Componenti Circa 60 componenti nella release EMI-2 Ci sono componenti che non saranno mai utilizzati, sotto-componenti spezzettata (VOMS + VOMS-Admin, CREAM LRMS modules, etc), i componenti UNICORE Accounting(APEL), Authz Service (Argus), Information Service (BDII, ARC infosys), Computing Element (CREAM, ARC CE), SE (dCache, DPM, StoRM), File Transfer(FTS), GFAL/lcg_util, Mapping (LCAS/ LCPMAPS/gLexec), File Catalog (LFC), VO Management (VOMS), Workload Management System (WMS), WNoDeS EMI-UI, EMI-WN, gLite CLUSTER, gLite MPI, ARC Clients delegation-java, gLite-gSoap/gss, glite-proxyrenewal, gridsite, LB, trustmanager, yaim

Chi Responsabilità componenti 5 INFN Argus, CREAM, StoRM, VOMS, WMS, WNoDeS 4 CERN BDII, DPM, FTS, GFAL/lcg_util, LFC 1 DESY dCache 1 NIKHEF LCAS/LCMAPS/gLexec 1 SWITCH Argus 1 RAL APEL CESNET, HIP sviluppano componenti Distribuzione dell’effort nelle collaborazioni gLite collaboration CERN 33%, INFN 29%, altri 12 partner tutti con effort sotto il 7% EMI INFN 19%, CERN 12, altri 12 partner tuti con effort sotto il 9%

Cosa facciamo noi VOMS Argus CREAM StoRM WMS WNoDeS DGAS Ulteriore ruolo coordinamento del supporto e manutenzione e della release, e manutenzione del testbed

Necessita e adozione altri componenti WLCG INFN EGI Mantenuto APEL x RAL BDII X (solo parte statica) CERN solo parte statica dCache DESY DPM CERN? FTS CERN GFAL Mapping NIKHEF LFC

VOMS Necessario per le VO WLCG Necessario per le VO INFN Necessario per tutti, 27 NGIs lo ritenevano high priority nel survey di EGI di inizio anno 63 richieste di supporto e 49 Request for Change (RfC, bug fix) nel 2011 Potenziale sviluppo integrazione con infrastrutture di autenticazione federata Effort attuale Per WLCG Per INFN Per tutti 1 1.5

Argus Necessario per le VO WLCG Non indispensabile per le VO INFN deployment raccomandato e monitorato dal GDB WLCG; considerato il metodo raccomandato per l’identity switching nella sottomissione con multi user pilot jobs Non indispensabile per le VO INFN che non usano il meccanismo dei pilot jobs Non indispensabile per tutti 19 richieste di supporto, 33 RfC nel 2011 Non previsto sviluppo Effort attuale Per WLCG Per INFN Per tutti 1 1.5

StoRM Necessario per ATLAS, CMS, ed LHCb tra le VO WLCG Necessario per le VO INFN È usato al Tier-1 Necessario per tutti, 8 NGIs lo ritenevano high priority nel survey di EGI di inizio anno 25 richieste supporto e 127 RfC nel 2011 Sviluppo emerso dai TEG, superamento di SRM, separazione tape/disk, Cloud Storage Effort attuale Per WLCG Per INFN Per tutti 2.5 3

CREAM Necessario per le VO WLCG Necessario per le VO INFN Necessario per tutti, 26 NGIs lo ritenevano high priority nel survey di EGI di inizio anno 74 richieste supporto e 118 RfC nel 2011 Sviluppo emerso dai TEG, supporto agli stream per i pilot jobs e dei job multi-core Effort attuale Per WLCG Per INFN Per tutti 4.5 4

WMS Superfluo per le VO WLCG a breve Necessario per per le VO INFN? Uso residuo più o meno importante, ma attività avviate verso la dismissione Necessario per per le VO INFN? Fino a che non esisterà un alternativa per chi non ha framework propri Necessario per tutti, 25 NGIs lo ritenevano high priority nel survey di EGI di inizio anno 59 richieste di supporto, 89 RfC nel 2011 Nessuno sviluppo per WLCG, supporto ai workflow richiesto da alcune comunità e ricevuto dal TCB EGI Effort attuale Per WLCG Per INFN Per tutti 2.5 2 3

DGAS Necessario per ATLAS, non citato dalle altre VO WLCG allo scorso CDgA Trasparente per le altre VO INFN Trasparente per le altre VO Dibattito sulla sua utilità e diversità da APEL, credo che sia noto a tutti Supporto e bug fixing non tracciato in EMI Sviluppo potenziale per l’accounting dello storage Effort attuale Per WLCG Per INFN Per tutti 1.5 1

WNoDeS Non menzionato dalle VO WLCG allo scorso CDgA Lo usa auger tra le VO INFN Interesse di wenmr ed altre VO come paradigma di computazione alternativo alla sottomissione di job Interessante per i siti, facilita l’amministrazione e permette di razionalizzare le risorse Deploiato solo al Tier-1, ancora non molto traffico di supporto e bug fixing solo effort IGI, aggiungere circa 2FTE INFN Effort attuale Per WLCG Per INFN Per tutti 2

Riepilogo Effort attuale Per WLCG Per INFN Per tutti VOMS 1 1.5 Argus StoRM 2.5 3 CREAM 4.5 4 WMS 2 DGAS WNoDeS 15 11 16

Attività 2013 Dal 1 Maggio 2013 siamo liberi da impegni di progetto Riorganizzare il lifecycle management e sopperire alla mancanza degli strumenti messi a disposizione da EMI Continuos integration, attività già in corso Repositories Proposta di WLCG sul lifecycle management, forse qualcosa da EGI, non dovrebbero esserci iniziative dei partner EMI in questo senso Coordinamento Raccolta requirements e coordinamento dei product team Dovrebbe arrivare una proposta del PO EMI in questo senso

Attività 2013 Consolidamento Concentrare gli sforzi nel ridurre al minimo le risorse necessarie al mantenimento dei componenti attualmente Posticipare qualsiasi sviluppo che non sia assolutamente necessario rispetto al consolidamento (review, testing) Uso di componenti comuni Attività già iniziata ma resa molto difficile dagli impegni di EMI

Necessità Al momento sono impegnate 15 persone Il rapporto IGI aveva collocato all’incirca tra 5 e 10 la necessità per le attività appena descritte