Sommario: il testbed CMS/LCG0 e la configurazione della farm di Bari sviluppo software/tool di produzione per CMS e GRID. eventi in produzione per il.

Slides:



Advertisements
Presentazioni simili
Introduzione al prototipo Grid-SCoPE
Advertisements

ARI sezione di Parma Sito ariparma ARI sezione di Parma.
STATO DEL PROTOTIPO DI SCoPE E DELL’INTEGRAZIONE TRA I 4 PON
1 La farm di ATLAS-Napoli 1 Gb/s 7 nodi con 2 CPU PIII a 1 GH, RAM 512 MB, 2 schede di rete a 100 Mb/s. Server con 2 CPU PIII a 1 GH, RAM 1 GB, 2 schede.
1 REALIZZAZIONE DELLINTEROPERABILITA FRA I PROGETTI DELLAVVISO 1575/2004 Riunione del Comitato Tecnico sullInteroperabilità MUR, 25/10/2007 L. Merola.
Test del Monitoraggio del Tracker usando un Tier2 M.S. Mennea, G. Zito, N. De Filippis Università & INFN di Bari Riunione Consorzio – Torino 18 Novembre.
Workshop CNAF – Bologna 8 Luglio 2011 FARO Accesso Web a risorse e servizi remoti in ambiente Grid/Cloud A. Rocchi, C. Sciò, G. Bracco, S. Migliori, F.
La facility nazionale Egrid: stato dell'arte Egrid-Team Trieste, 9 ottobre 2004.
Cos’è un CMS? Content Management System
SP-Grid - setup Implementazione dei servizi per la produzione al CNAF: –Integrazione tra i tool di produzione standard di BaBar (ProdTools) e gli strumenti.
Microsoft Windows Installazione, gestione ed utilizzo delle risorse Microsoft nella sezione INFN di BOLOGNA.
Linux Riunione Referenti-CCL 2-Luglio Utilizzo di Linux Principale (unica) piattaforma di calcolo per HEP Grid Supportato dalle maggiori industrie.
W( μ n )H( bb) Riccardo Ranieri INFN e Università di Firenze TISB Firenze Gennaio
Gruppo Directory Services Rapporto dell'attivita' svolta - Marzo 2000.
1 Riunione Testbed - 17 gennaio Agenda - stato del testbed di INFN-GRID (L. Gaido) - le risorse del CNAF (A. Italiano) - report sullo stress test.
Il Tutorial INFN-GRID/EDG di Torino Testbed INFN-GRID.
LNL M.Biasotto, Bologna, 13 dicembre Installazione automatica Massimo Biasotto – INFN LNL.
Execution benchmarks Obiettivi Test dettagliati e ben caratterizzati Esecuzione di benchmark standard Test di applicazioni dell'esperimento ALICE 20 Novembre.
Il software delle DT Attività in corso Stato della simulazione e ricostruzione hit in ORCA Calibrazione Validazione con dati di Testbeam Testbeam Ottobre.
Il calcolo distribuito in ATLAS
GridICE attività in corso e sviluppi futuri Gennaro Tortone Bologna, 4 marzo Technical Board INFNGRID
LNL CMS M.Biasotto, Firenze, 22 maggio Hardware e tools di installazione Massimo Biasotto INFN – Lab. Naz. di Legnaro.
1 M. Biasotto – Legnaro, 22 Dicembre 2005 Prototipo Tier 2 di Legnaro-Padova INFN Legnaro.
E. Ferro / CNAF / 14 febbraio /13 GRID.it servizi di infrastruttura Enrico Ferro INFN-LNL.
5 Feb 2002Stefano Belforte – INFN Trieste calcolo per CDF in Italia1 Calcolo per CDF in Italia Prime idee per lanalisi di CDF al CNAF Numeri utili e concetti.
BRIDGE-3K Verso il futuro La migrazione dai sistemi HP3000. Un ponte verso il futuro conservando la cultura e le risorse aziendali. NOVITA 2007.
GIADA O N L I N E.
INTRODUZIONE l sistema operativo è il primo software che lutente utilizza quando accende il computer; 1)Viene caricato nella memoria RAM con loperazione.
Modulo 1 - Hardware u.d. 3 (syllabus – 1.3.5)
Servizi Grid ed agenti mobili : un ambiente di sviluppo e delivering
EGEE is a project funded by the European Union under contract IST Using SRM: DPM and dCache G.Donvito,V.Spinoso INFN Bari
Alessia Tricomi Università & INFN Catania
Stato del computing Andrea Sciabà Riunione del consorzio INFN Firenze, 7 settembre 2001 Farm italiane Produzione Monte Carlo b/ Progetti di GRID.
1 Stato della farm di CMS a Pisa T.I.S.B. Firenze 22/02/02 Simone Gennai.
* * Data Challenge 04 Stato dei centri di produzione in Italia.
C. Aiftimiei 1, S. Andreozzi 2, S. Dal Pra 1, G. Donvito 3, S. Fantinel 4, E. Fattibene 2, G. Cuscela 3, G. P. Maggi 3, G. Misurelli 2, A. Pierro 3 1 INFN-Padova.
INFN-BOLOGNA-T3 L. Rinaldi I siti Tier-3 nel modello di calcolo di Atlas Configurazione del sito INFN-BOLOGNA-T3 Attività di Analisi e Produzione Attività.
CNAF 18/11/2004 Federica Fanzago INFN Padova a/grape... BAT... BATMAN...o? M.Corvo, F.Fanzago, N.Smirnov (INFN Padova) + tutte le persone che fanno i test.
CCR 14-15/03/2006 Status Report Gruppo Storage CCR.
Test Storage Resource Manager per SC4 Giacinto Donvito Vincenzo Spinoso.
16 Maggio CSN1 Computing-Software-Analysis CMS-INFN TEAM Analisi in CMS: stato e prospettive del supporto italiano.
LNL CMS M.Biasotto, Roma, 22 novembre I Tier2 in CMS Italia Massimo Biasotto - LNL.
FESR Trinacria Grid Virtual Laboratory Strumenti di gestione Rosanna Catania Rita Ricceri Gianni Mario Ricciardi INFN Catania Task force.
Calcolo LHC - F. Ferroni, P. Lubrano, M. SozziCSN1 - Catania Calcolo LHC 2003 (F. Ferroni, P. Lubrano, M. Sozzi)
Condor standard. Sistema Batch. Tool di installazione D. Bortolotti,P.Mazzanti,F.Semeria Workshop Calcolo Paestum 9-12 Giugno 2003.
Attivita' Grid in BaBar Workshop sulle Problematiche di Calcolo e Reti nell'INFN Maggio 2004.
Sistemi operativi di rete Ing. A. Stile – Ing. L. Marchesano – 1/18.
Grid nelle sezioni: Milano Luca Vaccarossa INFN – Sezione di Milano Workshop sulle Problematiche di Calcolo e Reti nell'INFN.
Calcolo esperimenti LHC 2004 F. Ferroni, P. Lubrano, A. Martin, M. Morandin, M. Sozzi.
CMS 1 M. Biasotto – Bologna 20/01/2005 Infrastruttura di calcolo per CMS-Italia M.Biasotto – INFN Legnaro e i gestori dei centri CMS Italia.
LNL CMS M.Biasotto, Bologna, 28 maggio Upgrade farm a RH-7.3  Due anni fa la farm era stata installata usando una versione customizzata di ANIS.
ISIA Duca degli Abruzzi a.s. 2010/2011 prof. Antonella Schiavon
I Sistemi Operativi. Che cosa sono? Il sistema operativo è un software di base che fa funzionare il computer. I Sistemi operativi più importanti sono:
Bologna Batch System (BBS). BBS e’ un sistema batch basato su Condor. L’utente sottomette i job da una macchina e il sistema li distribuisce sulle altre.
CNAF 6 Novembre Layout del testbed  wn a OS SL5.0 8 GB RAM kernel xen_3.1.0 SMP  wn a OS SL5.0 8 GB RAM kernel.
FESR Trinacria Grid Virtual Laboratory Rosanna Catania Rita Ricceri INFN Catania 25 Luglio 2006 Grid Monitoring: GridICE – bacct - lsload.
Roberto Covati – Roberto Alfieri INFN di Parma. Incontri di lavoro CCR dicembre Sommario VmWare Server (in produzione dal 2004) VmWare ESX.
Domenico Elia1Riunione PRIN STOA-LHC / Bologna Attività per ALICE: sommario e prospettive Domenico Elia Riunione PRIN STOA-LHC Bologna, 18 Giugno.
FESR Trinacria Grid Virtual Laboratory PROGETTO “MAMMO” Sviluppo e ottimizzazione di algoritmi adattativi, specificatamente di Artificial.
Overview del middleware gLite Guido Cuscela INFN-Bari II Corso di formazione INFN su aspetti pratici dell'integrazione.
IV Corso di formazione INFN per amministratori di siti GRID Tutorial di amministrazione DGAS Giuseppe Patania.
04/06/2016Francesco Serafini INDICO Corso Nazionale Novembre 2007.
1 ALICE I ITER2 DI ALICE IN ITALIA Bologna, 6 marzo 2007 M. Masera
Martedi 8 novembre 2005 Consorzio COMETA “Progetto PI2S2” UNIONE EUROPEA Accesso all’infrastruttura Grid del Consorzio COMETA Grid Open Day alla Facoltà.
20-21/03/2006Workshop sullo storage - CNAF Storage nei Servizi Calcolo delle sezioni INFN Alessandro Brunengo.
JOB MONITORING Donvito Giacinto INFN-Bari. OUTLINE ● Use-case ● Informazioni utilizzate e metodologie di raccolta per il job monitoring ● Informazioni.
EGEE is a project funded by the European Union under contract IST Il pre-production service in EGEE e in INFN-GRID D. Cesini - INFN-CNAF IV.
Offline Report Finale Grid! I Corso di formazione INFN su aspetti pratici dell'integrazione di applicazioni in GRID Domenico D’Urso Roberto.
La gestione della rete e dei server. Lista delle attività  Organizzare la rete  Configurare i servizi di base  Creare gli utenti e i gruppi  Condividere.
Esigenze di Rete degli Esperimenti LHC e di Gr1 G. Carlino – INFN Napoli CCR – Roma 8 Settembre 2014.
Transcript della presentazione:

Sommario: il testbed CMS/LCG0 e la configurazione della farm di Bari sviluppo software/tool di produzione per CMS e GRID. eventi in produzione per il PCP Nicola De Filippis On behalf of: T. Coviello, M. DAmato, G. Donvito, R. Gervasoni, G. Maggi, M. Maggi, L. Silvestris Produzione di pre-challenge per DC04

Il Data Challenge verrà fatto su GRID (con LCG-1) È necessario arrivare a febbraio 2004 con un sistema basato su tools di GRID ragionevolmente testato Una parte della produzione di PCP deve essere fatta su GRID per poter sviluppare e testare in un ambiente in-production i tools indispensabili per il DC04 CMS peserà il numero di eventi prodotti con la complessità del sistema usato per produrli… È necessario però basare la PCP sul sistema più efficiente che è al momento quello delle Produzioni Locali Perchè fare PCP su GRID

CMS/LCG-0 CMS/LCG-0 è un testbed ideato da CMS basato sulla distribuzione LCG-0. È utile prima che sia disponibile LCG-1 per: - esercitarsi nelluso dei tools di GRID prima di LCG-1 - sviluppare tools di analisi e produzione da usare su LCG-1 - test di nuovi tools GRID di potenziale interesse per CMS - soluzione di back-up per i prototipi di GRID su PCP se LCG-1 è in ritardo Può costituire un ambiente comune per le produzioni da usare anche come base per le farm che fanno produzioni locali È possibile far convivere le produzioni su farm locali e su GRID! Si può configurare la farm in modo ibrido… Il testbed CMS/LCG0

Il cluster CMS/LCG0 è composto da: 12 PIII doppio processore a 1/1.2 GHz di cui circa la metà ha 1GB di RAM: 1 User Interface 1 Computer Element 9 Worker Node 1 Storage Element con circa 0.8 TB di disco disponibili. …tutti integrati con i servizi (Resource Broker) del CNAF. 3 UPS per evitare danni da bruschi cali di tensione Il cluster CMS/LCG0 di Bari

Installazione INFN-GRID/LCG0 La procedura di installazione consiste nella: installazione S.O. Red Hat del CERN con LCFGng (Modificando profili esistenti e creandone di nuovi per adattarli alla versione CERN) installazione LCG-0 dei vari elementi GRID con LCFGng e test di funzionalità. Sono stati effettuati test delle applicazioni: di CMS di Chimica Computazionale

Software installato per PCP di CMS: software di CMS (v. 4.0) + CMKIN_1_0_2 installati su tutti i WN PBS server (v ) installato sul CE BOSS/MySql server (v. 3.2) installato sulla UI McRunjob versione fin installato sulla UI (in OCTOPUS ) bbftp tool di trasferimento file SMTP o postfix server La configurazione del cluster è ibrida in quanto esso può essere utilizzato sia come una farm CMS standard sia come un nodo GRID accessibile dallesterno per utenti certificati. Il cluster CMS/LCG0 per il PCP

Per quanto riguarda i tool di produzione abbiamo: installato un RefDB privato (reference database) per sviluppare una interfaccia web per produzioni private un parser per card di PYTHIA testato McRunjob e realizzato un configuratore per PBS realizzato una interfaccia grafica per la creazione e sottomissione dei job di una produzione di CMS (sia su farm locale che su Grid). realizzato una interfaccia grafica per la creazione, sottomissione e recupero dello stato e delloutput dei job su Grid per applicazioni general purpose. sviluppato un tool per lupload di interi alberi di directory con bbftp, in modo programmato e automatico installato BODE (boss database explorer) che è uno strumento utile per navigare nel database BOSS/MySQL per produzioni. Sviluppo software per CMS e GRID

Tool di produzione: RefDB privato Linterfaccia web per fare una richiesta di produzioni private non è separata da quella standard: L AssignmentID è dato automaticamente e tutte le informazioni relative alle produzioni private sono storate nel RefDB, come per le produzioni ufficiali. Problema: Come autenticare un utente per fare una richiesta? Laccesso al RefDB per un qualunque utente di un sito non specificato può essere pericoloso! La richiesta può essere fatta come: un generico PrivateUser (la soluzione migliore per me!) un utente registrato per un PrivateGroup (ma questo può determinare una lista molto lunga!)

Tool di prod.: PYTHIA parser per RefDB Il parser è accessibile dal link Create a Pythia Card File nella CMS Production page. Lutente ha 3 possibilità: 1.Riempire la web form con i valori delle datacard 2. Partire da un file esistente nel RefDB 3. Partire da un file esterno (NEW!)

Tool di prod.: PYTHIA parser per RefDB 1.Il parser salta le linee di commento 2.Salta anche alcune stringhe come:LIST, EOF, ecc.. 3.Le altre linee sono interpretate come Datacards con i loro valori e descrizione. descrizione della Datacard Datacard + valoreKeyword

Tool di produzione: McRunjob McRunjob è un framework che permette di gestire la creazione e la sottomissione dei job: I 3 componenti più importanti sono: –Configurator : è un pacchetto di metadata che può gestire qualunque applicazione –Script Generator : è un tipo di configuratore che implementa anche la creazione di script. –Linker : è un container per configuratori. Esso si occupa la comunicazione tra i configuratori ed il framework di creazione dei job. Per le produzioni CMS: esistono specifici CMS Configurators ( CMKIN, CMSIM, InputPluginRefDB, etc…) lo Script Generator usato è ImpalaLiteScriptGen esistono specifici CMS specific macro scripts: ImpalaOneStep.mcj, IMPLRunJob.mcj Abbiamo realizzato un configuratore per la sottomissione dei job su un PBS scheduler

Tools: GUI per produzioni CMS Input Choice Output Choice Beginner/Advanced User Starts Chain E una interfaccia grafica per la creazione e sottomissione dei job di una produzione di CMS (sia su farm locale che su GRID) Number of Job to be submitted Create and submit jdl script to the Grid or Local Farm

Tools: GUI per creazione di Job su GRID E una interfaccia grafica per la creazione, sottomissione e recupero dello stato e delloutput dei job su Grid (scripts JDL). gridba2.ba.infn.it:2119/jobmanager-pbs-short gridba2.ba.infn.it:2119/jobmanager-pbs-medium gridba2.ba.infn.it:2119/jobmanager-pbs-long gridba2.ba.infn.it:2119/jobmanager-pbs-infinite grid002.na.infn.it:2119/jomanager-pbs-short grid002.na.infn.it:2119/jobmanager-pbs-medium grid002.na.infn.it:2119/jobmanager-pbs-long grid002.na.infn.it:2119/jobmanager-pbs-infinite grid002.ca.infn.it:2119/jobmanager-pbs-workq 6.1

GT_UPLOAD: Tool basato su bbftp utile per trasferire un intero albero di directory, ricorsivamente e periodicamente nel tempo Contiene un registro dei files trasferiti e della data dell'ultima modifica, in modo da trasferire solo quelli modificati. Facile installazione e configurazione; minimo intervento dell'utente. Gira in background come demone. Sarà disponibile al link: Sviluppo software per CMS e GRID

BODE (Boss database explorer) è uno strumento molto utile per navigare nel database Boss/mysql per produzioni MC. linstallazione e stata fatta con il file tar.gz. di Alexei i pochi problemi sono stati notificati ad Alexei e tenuti in conto per la release del 15 di Maggio. Tool di produzione: BODE

Produzione CMKIN per il DC04 Stiamo generando 340k eventi di fondo QCD per il canale ttH con H bb come richiesto dal btau (bt03_qcd170_tth). la selezione prevede la ricostruzione di almeno 3 b-jet con p that > 170 GeV/c per le interazioni dure, Tempo: 43 sec/evento con circa 1 evento selezionato su 500. Le ntuple di 250 eventi occupano circa 15 MB di spazio disco. Continueremo con 180k eventi di MB ma non sono stati ancora richiesti dai PRS Stima totale dei tempi: 15 giorni su 19 CPU che comprende una efficienza del 75 % delle macchine.

TO DO… Implementazione di un parser per card di ORCA/OSCAR Miglioramento dell'interfaccia grafica per i programmi di sottomissione e recupero dell'output dei job su Grid; e implementazioni di nuove e più evolute funzionalità. Miglioramento dell'interfaccia grafica per il programma per la creazione dei job per CMS e interoperabilità con McRunJob (In collaborazione con Greg G.) Idee per un tool grafico di data management su Grid (Scan Book like). To Do list