Calcolo LHC e Tier2 Concezio Bozzi, INFN – Ferrara Commissione Scientifica Nazionale II LNL, 22 Novembre 2007
C. Bozzi - Calcolo LHC e Tier2 Sommario Modelli di calcolo esperimenti LHC Strategia complessiva Il ruolo dei Tier I Tier2 in Italia Desiderata Processo di valutazione Stato e utilizzo delle risorse Piani di sviluppo 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Calcolo esperimenti LHC Computing Models Gli esperimenti LHC hanno presentato i computing models a dicembre 2004 Review di LHCC gennaio 2005 Computing TDRs presentati a giugno 2005 Review di LHCC ottobre 2005 Update dei piani di calcolo degli esperimenti novembre 2006 e settembre 2007 per far fronte alla nuova schedula di LHC WLCG (LCG Phase II) Gestisce i servizi di Grid per LHC MoU con le agenzie firmato a fine 2005 Definisce le risorse che ciascuna nazione si impegna a mettere a disposizione 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Strategia generale Event Builder Event Filter ~7.5 MSI2k Tier3 10 GB/sec 320 MB/sec ~125MB/s 1. Gb/s links ~10 ~PB/sec Tier2 ~1.5 MSI2k ~4/Tier1 Tier0 5. MSI2k - 5 PB/y Tier1 >5. MSI2k - 2 PB/y Tier 0 al CERN: Archiviazione dati RAW Primo processamento Per eventi p-p in quasi-real time, dopo calibrazione rapida Per eventi PbPb, la potenza di calcolo per processamento real time è eccessiva: si salva su nastro e si processa a fine run CAF al CERN (CERN Analysis Facility, o Calibration and Alignment Facility) Per analisi rapide Calibrazioni, allineamenti, studi (limitati) sul rivelatore Tier 1s (6 per Alice, CMS, LHCb; 10 per Atlas): Reprocessing; Attività di analisi organizzate centralmente Copia di (parte di) dati RAW; qualche ESD; tutti gli AOD; qualche SIMU Tier 2s (14-30) Analisi degli utenti finali (analisi caotica); Simulazione Qualche AOD secondo necessità Studi sul rivelatore 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Parametri di base Piano 2007 confrontato con Si cominciano ad ottenere misure realistiche collaudando gli esperimenti tramite raggi cosmici… 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Tier2 in Italia Desiderata degli esperimenti LHC in Italia: Settembre 2007 Proposti dagli esperimenti 13 Tier2: Bari ALICE CMS Catania ALICE CNAF LHCb LNF ATLAS LNL ALICE CMS Milano ATLAS Napoli ATLAS Pisa CMS Roma1 ATLAS CMS Torino ALICE 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Linee guida del Tier2 Il Tier2 serve una comunità di riferimento, ma è una risorsa per l’intero esperimento Non è una farm di gruppo I fisici dell’esperimento devono impegnarsi fortemente per la costruzione ed il running del Tier2 (come fanno per l’hardware) Le risorse del Tier2 devono essere condivise: Accessibilità tramite Grid per l’esperimento Sharing con altri esperimenti Devono essere considerate risorse per tutto l’INFN (e non solo...) Sono finanziate dalla CSN corrispondente Il direttore deve impegnarsi a supportare il Tier2: spazi: un Tier2 medio ospiterà a regime circa 120 Box CPU e 40 box disco (600TB) per un totale di 6-8 racks infrastrutture: devono essere già largamente disponibili e supportate dalla struttura (potenza elettrica e di raffreddamento) manpower: un minimo di 2 FTE spalmati su 4 persone deve trattarsi di personale strutturato o strutturabile. 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Situazione Tier2 Solo alcuni Tier2 sono stati approvati sulla base di: Situazione infrastrutturale Attività della comunità di riferimento Manpower disponibile Altri Tier2 sono stati messi SJ ed altri in incubatore Condizioni per la rimozione del SJ: La sede deve risolvere i propri punti di debolezza Ridefinizione della schedule di LHC ed effettiva partenza della macchina Condizioni per l’uscita dell’incubatore: Mantenimento della schedule delle necessità di calcolo dell’esperimento Validazione del modello di calcolo distribuito dell’esperimento 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Tier2 INFN Sedi ALICE Torino e Catania approvati Legnaro e Bari in incubatore ATLAS Roma1 e Napoli approvati Milano SJ, rimosso 09/07 Frascati in incubatore CMS Legnaro e Roma1 approvati Pisa SJ, rimosso 09/07 Bari in incubatore LHCb CNAF Fa parte strutturalmente del TIER1, ma finanziato dalla CSN1. Solo CPU per simulazione Attività intensa in tutte le sedi Anche se con differenze di maturità e chiarezza di intenti Inventiva ed iniziativa per trovare fondi addizionali e/o soluzioni infrastrutturali meno costose Il SJ fa bene ai Tier2 Personale calcolo ed esperimenti fortemente coinvolti Risorse umane e competenze forse più importanti delle risorse finanziarie Controllo delle scelte tecniche da parte della CCR Scelta tra disco NAS (Network Attached Storage) e disco SAN (Storage Area Network) Scelta infrastrutture di rete Impatto su necessità di risorse umane e monetarie 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Utilizzo delle risorse: Atlas disco 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Utilizzo delle risorse: Atlas CPU Napoli Roma1 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Utilizzo delle risorse: Atlas CPU Milano LNF 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Utilizzo delle risorse: CMS CPU LNL Pisa Bari 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Tier2: piano di sviluppo Tensione tra due approcci Lo sviluppo di ciascun Tier2 segue lo sviluppo del calcolo dell’esperimento Lo sviluppo di ciascun Tier2 segue le attività specifiche che i gruppi italiani svolgono in quel Tier2. Ai referee piace il secondo, ma è chiaro che se i due approcci danno risultati molto diversi c’è qualcosa che non funziona Necessità di specificità nelle richieste e nei piani di sviluppo: Voglio x TB perchè sono l’y % del calcolo dell’esp. Voglio x TB perchè mi servono per questi dati, che accederò in questa maniera, e pertanto intendo comprare un oggetto fatto in questo modo. Gli esperimenti stanno recependo il messaggio, ma c’è ancora un po’ di lavoro da fare. Situazione complicata dalle incertezze sulla schedule di LHC Engineering run cancellato, ma run di cosmici previsti per tutti gli esperimenti Calibrazioni, studi di rivelatore importanti e probabilmente sottostimati 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Terabyte e costi Il significato di terabyte si presta ad alcune ambiguità Net o raw: effetto 20-25% a seconda della tecnologia Decimale (1012) o binario (240): effetto 10% Definiamo lo standard Terabyte Netto Decimale: TB-N Estrapolazione dei costi (ovviamente incerta) 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Quando comprare ? Presto ! Individuare i problemi di scalabilità Permettere una crescita graduale dei centri Garantire una capacità sufficiente quando inizia la presa dati (a un certo punto del 2008) Tardi ! La stessa potenza costa molto meno Ridurre le incertezze per lo startup di LHC Ridurre le incertezze sul computing degli esperimenti Schedule di startup di LHC modificata più volte Ogni shift temporale corrisponde ad un risparmio significativo 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Piano dei Tier2 com’era nel 2005 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Piano dei Tier2 a settembre 2007 Tiene conto delle modifiche di schedule di LHC, permette una crescita graduale delle risorse 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Proposte 2008 per Atlas e CMS ≤ 2 rack CPU e ≤ 2 rack disco per Tier1 a fine 2008 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
C. Bozzi - Calcolo LHC e Tier2 Commenti conclusivi La matassa del calcolo LHC è certamente intricata La GRID ha dimostrato che potenzialmente può risolvere il problema Rispetto al passato, maggiore enfasi su affidabilità e continuità del servizio piuttosto che su nuove caratteristiche L’INFN è piazzato centralmente in questa attività e contribuisce moltissimo I Tier2 giocano un ruolo cruciale nel calcolo degli esperimenti Le sezioni rappresentano un serbatoio vitale di idee e persone per far avanzare il programma e devono essere pienamente coinvolte Quanto finora realizzato nei Tier2 per gli esperimenti LHC può essere esteso anche ad altri esperimenti che abbiano Risorse di calcolo “modeste” (1-2 rack) Adeguata copertura finanziaria Personale da coinvolgere nell’avventura Voglia di usare la griglia 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2
Comitato di referaggio Comitato progetti speciali GRID e TIER1, nominato dal Presidente (9/2004 e 5/2007): C. Bozzi (FE) – Chair F.Bossi (LNF) M.Morandin(PD) – Presidente CCR M.Taiuti (GE) – Liaison CSN3, referee Alice D. Martello(LE) – Liaison CSN2 Referee calcolo LHC, nominati dalle CSN1 e CSN3 D. Lucchesi (PD) – Referee CMS R. Carlin (PD) – Referee Atlas R. Ferrari (PV) – Referee LHCb S. Pirrone (CT) – Referee Alice Lavoro sempre collegiale Riunioni di referaggio sul web a agenda.cnaf.infn.it/categoryDisplay.py?categId=6 22 Novembre 2007 C. Bozzi - Calcolo LHC e Tier2