EGEE is a project funded by the European Union under contract IST-2003-508833 Test di performance su dCache G.Donvito,V.Spinoso INFN Bari www.eu-egee.org.

Slides:



Advertisements
Presentazioni simili
Il Consolidamento di Servizi Virtual Server 2005 PierGiorgio Malusardi Evangelist - IT Professional Microsoft.
Advertisements

Corso di Informatica Applicata - by Scardino Giuseppe Il PC MULTIMEDIALE Un PC con laggiunta di qualche optionalUn PC con laggiunta di qualche optional.
CORSO DI AGGIORNAMENTO modulo 1- Computer
File System Cos’è un File System File e Directory
IL NOSTRO LABORATORIO. Di INFORMATICA.. Presentazione: Nel nostro laboratorio abbiamo 24 postazioni con dei computer di tipo Desktop con queste caratteristiche:
IL NOSTRO LABORATORIO Di INFORMATICA. Nel nostro laboratorio abbiamo 24 postazioni con dei computer di tipo Desktop con queste caratteristiche: Sistema.
IL NOSTRO LABORATORIO. Di INFORMATICA..
IL NOSTRO LABORATORIO. Di INFORMATICA.. Presentazione: Nel nostro laboratorio abbiamo 24 postazioni con dei computer di tipo Desktop con queste caratteristiche:
IL NOSTRO LABORATORIO Di INFORMATICA. Presentazione Nel nostro laboratorio abbiamo 24 postazioni con dei computer di tipo Desktop con queste caratteristiche:
IL NOSTRO LABORATORIO Di INFORMATICA. Presentazione Nel nostro laboratorio abbiamo 24 postazioni con dei computer di tipo Desktop con queste caratteristiche:
1 System Call per Comunicazione tra Processi Pipe.
La rete in dettaglio: rete esterna (edge): applicazioni e host
Realizzazione del file system
Operating System Concepts
Esercizi sulle architetture
Memorie.
Glossario. AGP Accelerated Graphics Port: architettura di bus che permette alle schede grafiche laccesso diretto al bus di sitema (fino a 100MHz), invece.
File.
WP 2.4 al Cnaf Cnaf 13/11/00 P.M Hardware: - 12 PC Rack mountable IBM XSeries 330 (1U) 2 processori Pentium III 800 Mhz, FSB 133 Mhz 512 MB Mem Ecc, Controller.
Remote file access sulla grid e metodi di interconnesione di rete M. Donatelli, A.Ghiselli e G.Mirabelli Infn-Grid network 24 maggio 2001.
Struttura dei sistemi operativi (panoramica)
Test del Monitoraggio del Tracker usando un Tier2 M.S. Mennea, G. Zito, N. De Filippis Università & INFN di Bari Riunione Consorzio – Torino 18 Novembre.
Supercalcolo al CILEA: risorse e opportunità CAPI /11/2005 Dr. Claudio Arlandini, PhD HPC System Administrator.
3. Architettura Vengono descritte le principali componenti hardware di un calcolatore.
La facility nazionale Egrid: stato dell'arte Egrid-Team Trieste, 9 ottobre 2004.
Informatica giuridica Hardware e software: glossario Lucio Maggio Anno Accademico 2001/2002.
BUS DI CPU M. Mezzalama - M. Rebaudengo Politecnico di Torino
Architettura di un calcolatore
Informatica per medici
UNIVERSITA’ STUDI DI ROMA “FORO ITALICO”
LNL M.Biasotto, Bologna, 13 dicembre La farm di Legnaro Massimo Biasotto – INFN LNL.
INFN-GRID WP1 11 gennaio 2001 GridFTP: stato dellarte Luciano Gaido 1 Progetto INFN-GRID GridFTP: stato dellarte Riunione WP1 (GLOBUS) Cnaf, 11 gennaio.
INFN-GRID WP1 20 novembre 2000 Sperimentazione GridFTP Luciano Gaido 1 Progetto INFN-GRID Sperimentazione GridFTP Riunione WP1 (GLOBUS) Cnaf, 20 novembre.
Execution benchmarks Obiettivi Test dettagliati e ben caratterizzati Esecuzione di benchmark standard Test di applicazioni dell'esperimento ALICE 20 Novembre.
LNL M.Biasotto, Bologna, 19 marzo La farm CMS di Padova - Legnaro Proposta di acquisto hardware 1° semestre 2001.
LNL CMS M.Biasotto, Firenze, 22 maggio Hardware e tools di installazione Massimo Biasotto INFN – Lab. Naz. di Legnaro.
Case study Maiora srl.
Il compilatore Dev-C++
GIADA O N L I N E.
Il Calcolatore Elettronico
PRESENTAZIONE di RICCARDO
Terminal Services. Sommario Introduzione al Terminal Services Introduzione al Terminal Services Funzioni di un Terminal Server in una rete Windows 2000.
Architettura di storage ad alta affidabilita e bilanciamento di carico per volumi centrali e di esperimento A.Brunengo, M.Corosu INFN Sezione di Genova.
EGEE is a project funded by the European Union under contract IST Using SRM: DPM and dCache G.Donvito,V.Spinoso INFN Bari
Sistemi di Elaborazione dellInformazione Modulo 3 -Protocolli applicativi Unità didattica 4 -Protocolli del Web Ernesto Damiani Lezione 4 – Caching HTTP.
LEZIONE 13 INFORMATICA GENERALE Prof. Luciano Costa
Esercitazioni I/O. Dischi: Esercizio 1 Si consideri un programma che legge blocchi di 2 KB da disco, esegue un’elaborazione su questi, e quindi li riscrive.
CCR 14-15/03/2006 Status Report Gruppo Storage CCR.
Internet e HTML Diffusione di informazioni mediante la rete Internet.
Test Storage Resource Manager per SC4 Giacinto Donvito Vincenzo Spinoso.
Tecnologie dell’Informazione e della Comunicazione
Test per SC4 SRM, servers, clients. SRM e SC4  Su GRID, SRM ha il compito di interfacciare differenti implementazioni di storage managers  Rappresenta.
Clocking Il segnale di Clock definisce quando i segnali possono essere letti e quando possono essere scritti Fronte di discesa (negativo) Falling edge.
Sistemi di elaborazione dell’informazione Modulo 4 -Tecniche di programmazione distribuita Unità didattica 1 -Socket library Ernesto Damiani Lezione 1.
Layered Grid Architecture. Application Fabric “Controlling elements locally”: Access to, & control of, resources Connectivity “Talking to Grid elements”:
Alessandro Tirel - Sezione di Trieste Storage Area Network Riunione gruppo Storage Padova, 5 ottobre 2005.
Hardware Struttura fisica (architettura) del calcolatore formata da parti meccaniche, elettriche, elettroniche.
La Farm di Alice a Torino Workshop sulle problematiche di calcolo e reti Isola d’Elba 6-9 maggio 2002 Mario Sitta (Università del Piemonte Orientale e.
Report R.Gomezel CCR dicembre 2006 Roma.
CNAF 6 Novembre Layout del testbed  wn a OS SL5.0 8 GB RAM kernel xen_3.1.0 SMP  wn a OS SL5.0 8 GB RAM kernel.
HARDWARE (2). MEMORIE Due classi di memoria MEMORIA CENTRALE –media capacità - ottima velocità MEMORIA DI MASSA elevata capacità - bassa velocità.
Hardware Struttura fisica (architettura) del calcolatore formata da parti meccaniche, elettriche, elettroniche.
Test di storage a 10 Gbps proposta. Storage server a 10Gbps Si vuole vedere quali prestazioni si possano ottenere da server connessi a 10 GE –capacita’
CCR - Frascati 29 settembre 2008 Gruppo storage CCR Status Report Alessandro Brunengo.
ALICE Computing Readiness Workshop Tier-2 CNAF Jan 17-18, ALICE Computing Readiness 1) ALICE Italia: Persone & organizzazione 2) Test & commisioning.
CCR - Roma 15 marzo 2007 Gruppo storage CCR Report sulle attivita’ Alessandro Brunengo.
1 Le macchine di questo pool fanno parte di una lan privata (la 125 illustrata a pag.2), di cui t2cmcondor è il gateway. Sono presenti 3 macchine su rete.
Componenti base di un computer Gli elementi fondamentali La Cpu La Ram L’ Hard disk.
FESR Trinacria Grid Virtual Laboratory University of Coimbra Data Management System gLite – LCG Salvatore Scifo INFN Catania Primo Grid.
Metriche SE monitoring G.Donvito G.Cuscela INFN Bari
Transcript della presentazione:

EGEE is a project funded by the European Union under contract IST Test di performance su dCache G.Donvito,V.Spinoso INFN Bari

Storage meeting, 5 ottobre Protocolli dcap dCache Access Protocol, è il protocollo di accesso ai file usato da dCache gsidcap è il protocollo dcap nella versione GSI (Grid Security Infrastructure); GSI, per mezzo dell'uso dei certificati, consente alle sole persone autorizzate l'accesso alle risorse della GRID stessa GridFTP (gsiftp) versione grid del più noto File Transfer Protocol. Consente di muovere datasets di grandi dimensioni tra storage elements all'interno di una grid. rfio remote File I/O, protocollo di accesso usato da CASTOR (CERN Advanced STORage Manager).

Storage meeting, 5 ottobre Librerie libdcap Sono le API fornite da dCache per l'accesso ai file via dcap (dCache Access Protocol); l'accesso avviene per mezzo di chiamate POSIX (open, create, read, write ed lseek), insieme a qualche funzione specifica per settare il livello di debugging, catturare messaggi di errore e collegare la libreria a un'interfaccia di rete. Vedi GFAL Grid File Access Library. Questa libreria nasconde le interazioni esistenti tra i vari servizi di grid, presentando un'interfaccia POSIX per l'I/O. A differenza di libdcap, che è specifica di dCache e fornisce supporto al solo dcap, GFAL supporta accesso locale, dcap (dCache access protocol) ed rfio (protocollo di access per CASTOR), nonché il file transfer con GridFTP (gsiftp). Vedi

Storage meeting, 5 ottobre Librerie Abbiamo costruito un'applicazione modulare personalizzata in linguaggio C (bench), controllabile da riga di comando per mezzo di opportune opzioni Per come è stata scritta bench è facile modificarne il codice perché usi librerie diverse da libdcap e GFAL Come librerie abbiamo inizialmente usato libdcap e GFAL; quindi abbiamo scelto GFAL: GFAL è capace di sfruttare tutti i protocolli grid di accesso a file (compresi quelli forniti da libdcap) GFAL permette di testare un qualunque SE (dCache, DPM, CASTOR); Abbiamo quindi testato un server dCache, usando il protocollo dcap È bene sottolineare che non abbiamo apprezzato differenze di prestazioni (usando lo stesso protocollo) fra le libdcap e le GFAL

Storage meeting, 5 ottobre Bench Bench permette di aprire, leggere, scrivere e chiudere dei file di test in remoto più precisamente, può generare dei file con contenuto testuale random direttamente su un SE (gfal_write), e quindi di leggerli in sequenza o in ordine casuale (gfal_read), e ripetendo tutta l'operazione per un certo numero di volte. Laccesso ai file remoti può essere personalizzato (buffer di trasferimento, buffer read-ahead in lettura, etc). Ogni operazione di apertura, chiusura, lettura e scrittura viene ``cronometrata''; i parametri misurati vengono quindi ``loggati'' in un semplice file di testo semistrutturato. La struttura tabellare dei log permette la post-elaborazione delle misure in termini statistici e le misure di prestazione.

Storage meeting, 5 ottobre Bench (CLI)

Storage meeting, 5 ottobre Hardware del server dCache CPU: 2 Pentium IV Xeon 3GHz RAM: 2GB Swap: 1GB Controller 12 ports PCI-X2SATA-II RAID 6 Controller Name ARC-1130 Main Processor 500MHz IOP331 CPU ICache Size 32KBytes CPU DCache Size 32KBytes / Write Back System Memory 128MB / 333MHz Raid Level Raid 6 Stripe Size 64KBytes Block Size 512Bytes Member Disks 11 (+1 hot spare) Cache Mode Write Back Tagged Queuing Enabled Dischi Hitachi DeskStar 7K400 Model Name HDS724040KLSA80 Disk Capacity 400.1GB Current/Supported SATA Mode SATA150

Storage meeting, 5 ottobre Hardware del generico client Le caratteristiche hardware salienti del generico host utilizzato sono le seguenti: CPU Da Pentium III 1,2 GHz fino a Pentium IV 3 GHz (tutti dual processor) RAM Da 1GB a 2GB Schede di rete 100Mbit

Storage meeting, 5 ottobre Test realizzati Usando bench, abbiamo registrato 10 file di 10GB l'uno su dCache, usando un buffer di trasferimento di 2MB Abbiamo successivamente lanciato un'istanza di bench per nodo (stavolta in lettura), usando rispettivamente 4, 7, 10, 12 nodi in lettura. Ciascun nodo leggeva, in ordine casuale, i 10 file di test su dCache, contemporaneamente alle altre istanze. Il test con 10 nodi è quasi riuscito a saturare la banda sulla scheda di rete del server dCache (1Gb/s=125MB/s); per un numero di nodi in lettura maggiore di 10, l'hardware del server ha cominciato a manifestare i suoi limiti intrinseci.

Storage meeting, 5 ottobre accessi contemporanei pccms17.cmsfarm1.ba.infn.it pccms15.cmsfarm1.ba.infn.it testcms1.ba.infn.it pccms14.cmsfarm1.ba.infn.it INIZIO ore 16:54 Velocita' media per trasferimento di un singolo file: 11,23 MB/s

Storage meeting, 5 ottobre accessi contemporanei pccms17.cmsfarm1.ba.infn.it pccms15.cmsfarm1.ba.infn.it testcms1.ba.infn.it pccms14.cmsfarm1.ba.infn.it pccms23.ba.infn.it pccms12.cmsfarm1.ba.infn.it pccms24.ba.infn.it INIZIO ore 17:12 Velocita' media per trasferimento di un singolo file: 10,43 MB/s

Storage meeting, 5 ottobre accessi contemporanei pccms17.cmsfarm1.ba.infn.it pccms15.cmsfarm1.ba.infn.it testcms1.ba.infn.it pccms14.cmsfarm1.ba.infn.it pccms23.ba.infn.it pccms12.cmsfarm1.ba.infn.it pccms24.ba.infn.it pccms25.ba.infn.it pccms26.ba.infn.it cofin2003.ba.infn.it INIZIO ore 8:37 Velocita' media per trasferimento di un singolo file: 11,04 MB/s

Storage meeting, 5 ottobre accessi contemporanei pccms17.cmsfarm1.ba.infn.it pccms15.cmsfarm1.ba.infn.it testcms1.ba.infn.it pccms14.cmsfarm1.ba.infn.it pccms23.ba.infn.it pccms12.cmsfarm1.ba.infn.it pccms24.ba.infn.it pccms25.ba.infn.it pccms26.ba.infn.it cofin2003.ba.infn.it pccms30.ba.infn.it gridba1.ba.infn.it INIZIO ore 8:58 Velocita' media per trasferimento di un singolo file: 9,07 MB/s

Storage meeting, 5 ottobre Risultato complessivo 11,23 MB/s 10,43 MB/s 11,04 MB/s 9,07 MB/s