Testbed release: processo di integrazione e validazione A. Ghiselli, L. Gaido.

Slides:



Advertisements
Presentazioni simili
September 2000 Paolo Capiluppi CMS Computing 2001 Paolo Capiluppi, Bologna.
Advertisements

P.Capiluppi I Workshop CMS Italia del Computing & Software Roma Novembre 2001 Qualche conclusione e pianificazione per il prossimo futuro.
P. Capiluppi Organizzazione del Software & Computing CMS Italia I Workshop CMS Italia del Computing & Software Roma Novembre 2001.
Proposta di integrazione e consolidamento delle risorse presenti nellinfrastruttura Grid dellItalia Meridionale (L. Merola, )
1 STATO DELLINTEGRAZIONE TRA I 4 PROGETTI AVVISO 1575/2004 Riunione del Comitato Tecnico sullInteroperabilità MUR, 20/12/2007 S.Pardi.
Meeting WP 1 (Globus) 11 Gennaio 2001 Massimo Sgaravatto INFN Padova.
WP12 Gruppi impegnati Univ. Padova, A. Apostolico,
Toolkit per la ricerca partner transnazionali Seminario Strumenti per la cooperazione transnazionale nel Fondo Sociale Europeo Roma, 4 dicembre 2008.
La facility nazionale Egrid: stato dell'arte Egrid-Team Trieste, 9 ottobre 2004.
Flavia DonnoCommissione I, Perugia Novembre I progetti di integrazione di GRID EU-US Flavia Donno INFN Sezione di Pisa Riunione Comm. I sul.
Gruppo Directory Services Rapporto dell'attivita' svolta - Marzo 2000.
Alessandro Italiano INFN - CNAF Grid.it 14 Febbraio 2003 Servizi Generali: RB, UI, RC Information System Alessandro Italiano Grid.it 16 febbraio 2003.
1 Riunione Testbed - 17 gennaio Agenda - stato del testbed di INFN-GRID (L. Gaido) - le risorse del CNAF (A. Italiano) - report sullo stress test.
25 ottobre 2002infn1 FIRB-Grid WP3,5 Grid deployment.
Il Tutorial INFN-GRID/EDG di Torino Testbed INFN-GRID.
INFN-GRID WP1 11 gennaio 2001 GridFTP: stato dellarte Luciano Gaido 1 Progetto INFN-GRID GridFTP: stato dellarte Riunione WP1 (GLOBUS) Cnaf, 11 gennaio.
LNL M.Biasotto, Bologna, 13 dicembre Installazione automatica Massimo Biasotto – INFN LNL.
Technical Board 21 novembre 2000 WP5 - Network Luciano Gaido 1 Progetto INFN-GRID WP5 - Network Technical Board Cnaf, 21 novembre 2000.
INFN-GRID WP1 20 novembre 2000 Sperimentazione GridFTP Luciano Gaido 1 Progetto INFN-GRID Sperimentazione GridFTP Riunione WP1 (GLOBUS) Cnaf, 20 novembre.
1 Il testbed di LCG Riunione Testbed – CNAF, 17 gennaio 2003 L. Gaido.
M.Biasotto, Padova, 18 gennaio Sviluppo futuro di LCFG per la Release 2 di Datagrid Massimo Biasotto - LNL.
LNL CMS M.Biasotto, Firenze, 22 maggio Hardware e tools di installazione Massimo Biasotto INFN – Lab. Naz. di Legnaro.
E. Ferro / CNAF / 14 febbraio /13 GRID.it servizi di infrastruttura Enrico Ferro INFN-LNL.
C. Aiftimiei 1, S. Andreozzi 2, S. Dal Pra 1, G. Donvito 3, S. Fantinel 4, E. Fattibene 2, G. Cuscela 3, G. P. Maggi 3, G. Misurelli 2, A. Pierro 3 1 INFN-Padova.
FESR Consorzio COMETA Pier Paolo CORSO Giuseppe CASTGLIA Marco CIPOLLA Industry Day Catania, 30 Giugno 2011 Commercial applications.
OpenProj: una valida alternativa a MS Project
WP4 – Software Infrastructures. How it was Overall goal “The outcome of WP4 is the design, implementation and evaluation of software components that will.
Infrastruttura GRID di produzione e i T2 Cristina Vistoli Cnaf.
16 Maggio CSN1 Computing-Software-Analysis CMS-INFN TEAM Analisi in CMS: stato e prospettive del supporto italiano.
Extreme Cluster Administration Toolkit Alberto Crescente, INFN Sez. Padova.
Sezione di Padova Contributo alla costruzione dei layers 6,7 Possibili task per PADOVA:  precedente proposta: R&D della procedura di assemblaggio degli.
LNL CMS M.Biasotto, Roma, 22 novembre I Tier2 in CMS Italia Massimo Biasotto - LNL.
Taccani1 7.4 Identification ANALISI DEI PERICOLI Hazard Analysis Identificazione Valutazione Misure di Controllo Control Measures Assessment.
Condor standard. Sistema Batch. Tool di installazione D. Bortolotti,P.Mazzanti,F.Semeria Workshop Calcolo Paestum 9-12 Giugno 2003.
8 Maggio 2002Workshop CCR - La Biodola W2K Coordination Group & HEP-NT Report Enrico M.V. Fasanelli Gian Piero Siroli.
Installation and evaluation of the Globus toolkit Massimo Sgaravatto INFN Padova.
Distribuzione controllata del software con Systems Management Server 2003 Fabrizio Grossi.
Draft planning of the report Massimo Sgaravatto INFN Padova.
Flavia DonnoCommissione I, Perugia Novembre I progetti di integrazione di GRID EU-US Flavia Donno INFN Sezione di Pisa Riunione Comm. I sul.
SUMMARY Time domain and frequency domain RIEPILOGO Dominio del tempo e della frequenza RIEPILOGO Dominio del tempo e della frequenza.
Grid nelle sezioni: Milano Luca Vaccarossa INFN – Sezione di Milano Workshop sulle Problematiche di Calcolo e Reti nell'INFN.
1 INFN-GRID a.ghiselli INFN-CNAF Commissione Calcolo 14 Novembre 2000.
1 Calcolo e software G. Bagliesi 23/3/01 Riassunto riunione calcolo Bologna 19/3/01 B/tau : futuri miniworkshop.
Report HEPiX Spring meeting 2002 Workshop sulle problematiche di calcolo e reti nell'INFN 6-9 Maggio 2002 La Biodola - Isola d'Elba Silvia Arezzini.
DIT Department of Information and Communication Technology Information System Ingegneria del Software: un caso di studio.
CMS 1 M. Biasotto – Bologna 20/01/2005 Infrastruttura di calcolo per CMS-Italia M.Biasotto – INFN Legnaro e i gestori dei centri CMS Italia.
I testbed ed il loro uso 1 I testbed ed il loro uso L. Gaido, A.Ghiselli CSN1, Perugia novembre 2002.
LNL CMS M.Biasotto, Bologna, 28 maggio Upgrade farm a RH-7.3  Due anni fa la farm era stata installata usando una versione customizzata di ANIS.
D2b Antonio Lioy Marco Vallini Politecnico di Torino Dip. Automatica e Informatica (Pisa, Giugno 2015)
SUMMARY Different classes and distortions RIEPILOGO Le diverse classi e le distorsioni RIEPILOGO Le diverse classi e le distorsioni.
Alessandra De Cugis Progetto Tempi e Orari del Comune di Milano Time in the cities, a holistic approach for urban time issues, the case of Milan Paper.
INFN-ITSupgrade meeting CERN, 24 Aprile 2013 V. Manzari Agenda:  Stato del progetto con particolare riguardo alle attività di nostra pertinenza  Proposta.
MS - NA62 TDAQ INFN – Settembre 2011 TDAQ in generale Distribuzione clock/trigger: progetto definito, moduli finali in arrivo (?), installazione prevista.
Titolo evento Luogo, data Seminario INSPIRE Bologna, luglio 2012 INSPIRE NETWORK SERVICES obblighi normativi e metodologie per valorizzare il patrimonio.
Storage (ieri, oggi e domani) Luca dell’Agnello INFN-CNAF.
R. Brunetti INFN - Torino. Contenuti Cosa e’ uno CSIRT Gestione della sicurezza in EGI/IGI e IGI-CSIRT Servizi ed attivita’ previste Collaborazione con.
Il Servizio Calcolo e Reti e le attività grid della Sezione INFN di Torino Luciano Gaido.
La Task Force Gestione Operativa (Operations) L. Gaido, INFN Torino.
Overview del middleware gLite Guido Cuscela INFN-Bari II Corso di formazione INFN su aspetti pratici dell'integrazione.
IV Corso di formazione INFN per amministratori di siti GRID Tutorial di amministrazione DGAS Giuseppe Patania.
Call 5: ACTIVE – 3 rd Meeting G. Darbo – INFN / Genova 8 July 2013 o ACTIVE – 3 rd Meeting G. Darbo – INFN / Genova Indico agenda:
Riunione CSN1, Roma, Gennaio 2012F. Bedeschi, INFN-Pisa 1 Riunione CSN1  Comunicazioni  Comunicazioni varie  Riunioni future  Similfellows  Regole.
Riunione WP 1 (Globus) 20 Novembre, 2000 Massimo Sgaravatto INFN Padova.
L.Perini Milano: 10 Gennaio Ex-ATLAS-Grid (Tier2 incluso) l Ruolo dei Tiers in ATLAS e grid l Le persone di Milano e le attività l Le infrastrutture.
Sessione "EGI Production Infrastructure" martedì 14 Settembre ore 14 From EGEE to EGI: status of the EGI infrastructure, results and roadmap: – ROC_CE.
PROGETTO Infra infn-grid Maria Cristina Vistoli INFN – CNAF.
Definizione del piano delle attività di progetto L’esperienza CoBaSys Donata Franzi IMT Alti Studi lucca Università degli Studi di Modena e Reggio Emilia.
Do You Want To Pass Actual Exam in 1 st Attempt?.
Riunione INFN – Bologna, 17 January 2013
Gruppo storage CCR Nuove attivita’ 2007 Alessandro Brunengo CCR - Roma
Transcript della presentazione:

Testbed release: processo di integrazione e validazione A. Ghiselli, L. Gaido

L attivita principale del testbed consiste in: - validazione delle release sw prodotte dai WP di sviluppo - integrazione delle release dei singoli WP per produrre la release generale (Testbed release) - validazione della Testbed release - rilascio ufficiale e distribuzione della release

Affinche questo processo sia possibile altre attivita sono svolte parallelamente. Esse riguardano: - Information Service - autorizzazione e security - produzione dei kit di installazione - monitoring - allocazione risorse per i test - validazione infrastruttura di Testbed - organizzazione del supporto

Validazione sw prodotto dai WP La prima fase di validazione consiste nella verifica che il sw prodotto sia funzionante e rispondente ai requirements. Per fare questo e necessario che: - i WP che hanno prodotto il sw forniscano, insieme ad esso, dei semplici programmi (benchmarks) che siano in grado di testare le caratteristiche specifiche del sw prodotto - persone del WP che ha prodotto il sw partecipino allattivita di test (abbastanza scontato)

Al termine della prima fase di validazione del sw e necessario integrarlo con il software prodotto dagli altri WP. Chi se ne deve occupare? Finora (Testbed0)…. LINFN ha prodotto il kit di installazione del sw di Grid e ne ha fornito supporto anche per DataGrid. Ha mantenuto, inoltre, il contatto con tutti i soggetti coinvolti nella produzione di kit: - WP4 (prototipo basato su LCFG a Bo e Pd) - WP8 (kit installazione sw di esperimento) - WP12 (linee guida, dipendenze,…) - altri WP (gdmp, etc.)

Il release team di INFNGRID sta confezionando un meccanismo per il packaging del software di griglia, in armonia con i requirements dettati dal WP4. A Giugno/Luglio, il WP6 sara in grado di testare questo nuovo meccanismo di distribuzione in ambito del software di installazione del WP4 per le farms. Con i francesi (che hanno la responsabilita del WP6) si sta creando un repository di sorgenti e binari del prodotto a partire dal mese 9 Per quanto riguarda il futuro lINFN ha elaborato una proposta che verra sottoposta al WP6 di DataGrid.

Testbed release The production of a Testbed Release consists of two main phases: - Middleware Integration, producing the first Testbed Release (or Beta Release) - Testbed Release Validation, producing the "Testbed Official release". Each phase has specific objectives and will have a specific team.

Middleware Integration In order to understand the most suitable organization could be useful to analyze the input, the sequence of the operation and the output of the integration process. Input 1. each WP will present its software package with the following information (to be agreed with the WPs): A Software Product Description document References to other WPs' package References to external software (if any) Test suite WP person (1-2) responsible of the package

Input 2. Testbed software repository; where all the WPs' packages will be available for the integration. Each WP package should be conform to well defined guidelines (WP12 Recommendations).

Integration Team setup The WPs managers and the Testbed permanent group on the Input basis, will decide : 1. the composition of the Integration team, taking into account the following components: - WPs package responsible(s) - Testbed software packaging and installation kit responsible (group) - Testbed basic service people (if required) - QA person 2. Team coordinator 3. Testbed resources

Integration Team operations The team will make a plan about: - How to produce the integrated package and the installation kit - The test suite of the integrated package At the end, the team will present the Testbed release 1, included documentation and test suite, that will be the input of the "validation Process'.

Schema nel doc word

Da fare: - costruire il primo release team (per il mese 9)

Come effettuare i test (sulle risorse del testbed) 1) I richiedenti il test (RT) presentano la richiesta al Planning Group contenente: - le finalita e le caratteristiche del test - le risorse necessarie (farm, siti, rete, altro) - i partecipanti al test - indicazione del test manager (riferimento globale per il test) 2) Il Planning Group (PG) si attiva per vedere quali sono le implicazioni delle richieste del test per quanto riguarda i servizi di grid coinvolti, le risorse disponibili, etc. Il Planning Group manda le info necessarie (fra cui le risorse assegnate) per il test al richiedente (RT), al test manager (TM) e allerta i site manager coinvolti.

Come effettuare i test (sulle risorse del testbed) 3) Test manager: - verifica che le risorse assegnate siano disponibili - in collaborazione con il resource database manager alloca le risorse (nel database XML) - in collaborazione con l LDAP manager crea i grid-mapfile - si mette in contatto con i site manager per la definizione degli account e trasmette loro i grid-mapfile necessari per il test - alla fine del test redige un report 4) LDAP manager: - prepara utenti/gruppi nel database - costruisce i grid-mapfile in collaborazione con il Test Manager 5) Site manager: - preparano le farm configurando lambiente richiesto per il test - creano gli account e aggiornano il grid-mapfile - forniscono supporto al test manager ed ai partecipanti al test

Come effettuare i test (sulle risorse del testbed) 6) Utenti: - eseguono il test coordinati dal TM - si rivolgono ai site manager ed alla struttura di supporto in caso di problemi 7) Responsabili WP: - supervisionano tutta lattivita dei test

Come effettuare i test (sulle risorse del testbed) Tools necessari: - form per fare la richiesta di test (con info obbligatorie) - il database delle risorse deve contenere piu informazioni (sw grid installati sulle farm, sw di esperimento, versioni, flag di occupato possibilmente associato ad un periodo temporale, etc. ) - e meccanismo di ricerca rapido delle risorse nel DB (per poter selezionare quelle che hanno certe caratteristiche) - database LDAP con i certificati per la creazione automatica dei grid-mapfile - tool di validazione dellinfrastruttura del Testbed (benchmarks, etc.)

Vedi schema dal file word

Planning Group (mancano i nomi definitivi) Testbed coordinators: Antonia Ghiselli, Luciano Gaido WP requirements: (WP managers?) Applications: -CMS: C. Grandi, G. Bagliesi, Atlas: L. Luminari, B. Osculati, S. Resconi, LHCb: R. Santacesaria, V. Vagnoni, S. Vecchi, Alice: R. Barbera, P. Cerello Virgo: C. Palomba, A. Euleteri, F. Barone, F. Ricci, Release distribution and documentation : F. Donno, A. Sciaba, S. Barale Network coordination : T. Ferrari, L. Gaido Grid basic services coordinators: - Information service : A. Cavalli, L. Fonti, F. Semeria, G. Vitafinzi, A. Bassi - Security service: R. Alfieri, L.DellAgnello, R. Cecchini, A. Gianoli - Monitoring: F. Semeria, R. Barbera

Ulteriore problema e il supporto: E stata elaborata una proposta da sottoporre al WP6 di DataGrid. Due livelli: - central management - local management

Central management and support: Central Admin-group The Admin-Group will act as central management group and has to provide: · Configuration, tuning and overall maintenance of the DATAgrid Testbed software release · Configuration, tuning and overall maintenance of the globus software · Management tools · Activity reports · Resourse statistics (CPU, Network, ) · Guidelines about the testbed and Globus releases that have to be installed · Help desk for users and local administrators · Interface to the Globus support-team and the WPs contacts for software problems handling The required man-power should be 1 person for each organization + dedicated project man-power

Local management and support: Local admin-group Local management has to provide: · release installation in agreement with the central management · implementation of the local usage policies · first level of the user support man-power: 2 people per site (site managers or others) vedi schema nel doc word

Per quanto riguarda i servizi: IS: continuano le attivita di test su MDS2 sviluppo infrastruttura basata su MDS2 per fine giugno attivita svolta in ambito DataGrid Security: partecipazione alle attivita di DataGrid (coordinamento tra CA) INFN e la piu attiva

Autorizzazione: attivita appena iniziata in ambito europeo lINFN si propone di coordinare questo tipo di attivita

Ruolo e partecipazione degli esperimenti persone FTE ALICE ATLAS CMS LHCb VIRGO 3 1 totale

CMS Maggi (BA), Capiluppi (BO), Grandi (BO), Siroli (BO), Renzi (BO), Costa (CT), Gasparini (PD), La Caprara (PD), Ronchese (PD), Sciaba (PI), Valente (Roma1) ALICE Mura (CA), Masoni (CA), Barbera (CT), Sitta (TO), Scomparin (TO) ATLAS Resconi (MI), Vercesi (PV), Marzano (RM1), De Salvo (RM1), Luminari (RM1), Stanescu (RM3) LHCb Vagnoni (BO), Galli (BO), Marconi (BO), Gianoli (FE), Santacesaria (RM1)

VIRGO De Rosa (NA), Eleuteri (NA), Palomba (RM1)