Alessandro Brunengo per il gruppo mailing di CCR

Slides:



Advertisements
Presentazioni simili
Gruppo Mailing CCR Settembre. Progetto di lavoro  Studio della centralizzazione del servizio di posta elettronica Situazione attuale Scenari.
Advertisements

Gestione centralizzata caselle PEC per l’INFN Alessandro Brunengo, per il gruppo Mailing.
Gruppo Mailing Report Alessandro Brunengo, per il gruppo Mailing.
Disaster Recovery Resoconto delle attività del Gruppo di Lavoro DR CCR CNAF 5-7/2/2013 S.Zani.
Virtualizzazione nell’INFN Andrea Chierici 11 Dicembre 2008.
Implementazione di TRIP ai LNF Commissione Calcolo e Reti 31 maggio 2007 Massimo Pistoni.
Referaggio delle richieste dei gruppi di lavoro G. Ambrosi, R. Fantechi, M. Gulmini, O. Pinazza Commissione Calcolo e Reti, CNAF, 16 Marzo 2011.
Stato Costruzione/Integrazione P. Migliozzi 7/12/2012.
Dynamic Farm Espansione Dinamica di una Farm Vincenzo Ciaschini CCR 31/3/2015.
PRIN NAPOLI Enzo Capone, Gianpaolo Carlino, Alessandra Doria, Rosario Esposito, Leonardo Merola, Silvio Pardi, Arturo Sanchez Pineda.
INFN-AAI per il Servizio Sistema Informativo Dael Maselli Frascati, 10/07/2012 Riunione plenaria del Servizio Sistema Informativo.
Presentazione web domanda di accreditamento Programmazione
LTSP (Linux Terminal Server Project) GNU/Linux ed Workshop di Enrico Teotti powered with Gentoo Linux Linux Day LUG Mantova.
A dvanced N etwork T echnologies Lab oratory Infrastrutture e Protocolli per Internet Laboratorio 5 Politecnico di Milano Stefano NapoliAlberto Pollastro.
@infn.it per tutti ?
Riunione SICR 12/2/2015. Rete Intervento 6509 – Sostituzione scheda avvenuta con successo – Fase di configurazione nuova scheda – Programmazione spostamento.
AFS NELLA SEZIONE DI PADOVA aree_utenti: attualmente nessuno ha la proria home in AFS e quasi nessuno utilizza l'area utenti di AFS. /usr/local: si preferisce.
Aggiornamenti gruppo WINDOWS CCR Riunione 5-7 ottobre 2010 Gianluca Peco.
20-21/03/2006Workshop sullo storage - CNAF Alessandro Brunengo.
User Group Riccardo Righi Analista Titulus e titulus organi.
Valutazione proposte di corsi di formazione S. Arezzini, L
Piano di Formazione CCR per il 2017
Configurazione Router IR794- IG601
Synapse Gestione e Flussi documentali
Aggiornamento del 29 Settembre 2011
Un Osservatorio per ScuoleMigranti
Riccardo Veraldi - Massimo Donatelli CCR 3-4 Marzo 2008
Vulnerability Assessment
Resoconto delle attività del Gruppo di Lavoro DR
Status Report Gruppo Storage CCR CCR 14-15/03/2006.
DNS Domain Name Server.
Office WPC049 Strumenti di supporto e analisi per Office 365
Summary di (quasi) tutti gli utenti non presentati…
dCache Test effettuati al CNAF
CARATTERISTICHE DI UN DATACENTER
Gruppo Web Tools Dael Maselli (LNF) Commissione Calcolo e Reti
Tesi di Laurea e di Dottorato
Servizio Calcolo Alessandro Brunengo.
Workshop dei Gruppi di lavoro CCR LNF, 12 dicembre 2007
Comput-ER l'infrastruttura di calcolo distribuito in Emilia Romagna
SAL WP11 Bologna – CNAF – 5 Giugno 2015.
Workshop CCR ' Maggio
Applicazione web basata su web service e web socket
Breve report su corso RedHat Enterprise Virtualization (RH318)
Richieste di upgrade dei link di accesso alla rete Geografica
Gruppo WebTools CCR – 14 Marzo 2007 Dael Maselli.
Tutorial INFN-AAI Liv.2 Introduzione al corso
Enrico M. V. Fasanelli CCR settembre 2016
La piattaforma di servizi unificati
PRIN Roma1 – status Luciano Barone, Alessandro De Salvo
INFN-TS INFN - Sezione di Trieste - C. Strizzolo - L. Strizzolo.
Strutture informatiche e servizi nazionali
Configurare e gestire un server di posta
Gruppo WebTools Workshop CCR – 12 Giugno 2008 Dael Maselli – INFN LNF.
TAVOLA ROTONDA introduzione
Stato Mailing INFN
Modulo 3 Costituzione del consorzio dei partner
Interfacce SRM: l'utilizzo di STORM - Overview e prospettive (ALICE)
Workflow creazione account
analizzatore di protocollo
Gruppo WebTools Workshop CCR – 12 Giugno 2008 Dael Maselli – INFN LNF.
Predisposizione e presentazione della domanda di nullaosta

Scambio dati integrazione Specifiche DATEX II
Predisposizione e presentazione della domanda di nullaosta
ATLAS PRIN Roma1 - status Alessandro De Salvo
Università degli studi di Modena e Reggio Emilia
Il protocollo informatico e il Manuale di Gestione
Piano di gestione del rischio informatico: utility di supporto
CLOUD.
Transcript della presentazione:

Alessandro Brunengo per il gruppo mailing di CCR Gruppo Mailing Report Alessandro Brunengo per il gruppo mailing di CCR CCR - Lecce -13 settembre 2016

Mail relay per indirizzi @infn.it CCR - Lecce -13 settembre 2016

Supporto indirizzi @infn.it Flusso entrante verso record MX di infn.it Redistribuzione verso la destinazione finale (sedi) tramite alias Il supporto esiste gia’ # dig @131.154.1.3 infn.it mx ;; ANSWER SECTION: infn.it. 172800 IN MX 50 infngw.infn.it. infn.it. 172800 IN MX 10 server10.infn.it. Usato per pochi alias, gestiti manualmente CCR - Lecce -13 settembre 2016

Soluzione da rivedere La soluzione attuale non e’ nata per offrire un servizio esteso Non scala ad un aumento di traffico Soluzione non resiliente alla perdita di connettivita’ del CNAF Non scala per gestibilita’ configurazione manuale macchine completamente diverse gestione manuale degli alias Il gruppo mailing sta’ studiando una soluzione idonea a supportare l’indirizzamento @infn.it diffuso Studio ancora da completare CCR - Lecce -13 settembre 2016

Requisiti minimi Continuita’ di servizio (HA, ridondanza multisito) Scalabilita’ (anche dinamica) Automazione per installazione e (ri)configurazione Monitoraggio, allarmistica, log, statistiche (analisi dello storico) Impatto minimo sui servizi di delivery locali Supporto filtri antispam/antivirus Eventuale accesso a configurazioni personalizzate o quarantena tramite AAI (requisito da valutare in futuro) Supporto all’utenza per il tracciamento dei messaggi CCR - Lecce -13 settembre 2016

Considerazioni sui requisiti Protocollo SMTP implementa ridondanza e HA a livello applicativo possibile avere piu’ relay su diversi siti e diverse reti IP Il mail relay non necessita di storage condivso Idoneo a girare su VM Idoneo (eventualmente tramite utilizzo di DNS dinamico per la creazione di MX) ad incrementare la capacita’ di inoltro con l’aumento di VM La stessa tecnica (utilizzo di alias) puo’ essere utilizzata per reinstradare indirizzi verso destinazioni diverse dalle attuali La soluzione deve essere idonea a supportare soluzioni di delivery diverse da quella distribuita (anche parziale) CCR - Lecce -13 settembre 2016

Schema proposto Img by: Mirko Corosu CCR - Lecce -13 settembre 2016

I nodi del servizio infnmx*: nodi registrati nei redord MX di infn.it ricevono le mail, operano i filtri antispam/antivirus, inoltrano sulla base degli alias filtro selettivo solo su IP blocking, il resto introduce solo un header log locale (7 giorni) e remoto segnalano il proprio stato allo zabbix server raccolgono la configurazione da puppet e da pmmaster nodi che operano indipendentemente dal resto pmmaster: ospita una installazione completa di Sophos Pure Message distribuisce le configurazioni di Sophos ai relay ospita statistica e quarantena (se usata) CCR - Lecce -13 settembre 2016

I nodi del servizio (cont.) mxlogger: raccoglie i log degli MX (rsyslogd) salvandoli su file separati e su unico file aggregato conservazione dei log a lungo termine esegue software di analisi statistica complessivo del sistema di relay (Sendmail Analyzer) puppet: ospita e distribuisce la configurazione di tutti i componenti ai diversi server esegue la procedura di creazione degli alias da AAI zabbix: server di monitoraggio ed allarmistica controlla lo stato dei server e produce report grafici esegue azioni e segnala allarmi in funzione di eventi CCR - Lecce -13 settembre 2016

Elementi critici e non critici I nodi critici, per cui si deve garantire continuita’ di servizio (nel loro complesso) sono i relay… I nodi infnmx* contengono tutta la configurazione necessaria ad eseguire le funzioni critiche del servizio: ricezione ed inoltro dei messaggi eventuale analisi antispam/antivirus conservazione dei log su disco locale (per un tempo limitato) … ed ovviamente l’allarmistica (Zabbix) Gli altri nodi (configuratori, logger) svolgono funzioni che non richiedono continuita’ di servizio CCR - Lecce -13 settembre 2016

Elementi non specifici del servizio di mail relay Le funzioni svolte dal configuratore (puppet) e dal server di monitoraggio (zabbix) non sono specifici del servizio di mail relay, e potrebbero fare parte della infrastruttura dei SSNN Ci sono requisiti su tali servizi per lo schema proposto: puppet deve eseguire la procedura automatizzata di generazione degli alias la configurazione di zabbix deve supportare allarmistica via SMS e deve avere una configurazione specifica per i server MX CCR - Lecce -13 settembre 2016

Impatto sui servizi di relay locale Inizialmente il sistema non deve introdurre filtri selettivi Il filtro e’ demandato ai relay locali, secondo le policy locali L’analisi del filtro antispam produce un header opportuno Fanno eccezione: IP blocking: eseguito dai relay nfnmx*, con filtro Controllo SPF: eseguito dai relay infnmx*, con generazione di un header opportuno (richiede configurazione locale) L’unico impatto vero e’ sul grey-listing locale, che non ha effetto sulle mail transitate dai relay infnmx* CCR - Lecce -13 settembre 2016

Build automatico dell’alias file: InfnAlias Realizzata una procedura (InfnAlias) di creazione automatica degli alias prendendo le informazioni da AAI e’ fondamentale poter disporre di un db come AAI Qualche problema in corso di soluzione uid temporanei attributi mancanti in alcune entry (mail, ruoli) Alias da creare in base al ruolo su godiva sembra ragionevole creare un alias per tutti gli utenti che hanno una casella di posta INFN (quindi anche ospiti) la limitazione di accesso a servizi licenziati deve essere fatta a livello del servizio e non di esistenza dell’alias Risolto: l’applicativo gestisce entry incomplete Risolto: l’applicativo supporta filtri configurabili su qualsiasi attributo di LDAP CCR - Lecce -13 settembre 2016

Run: output (parziale) Got 22971 entries from AAI Got 0 entries from registered aliases Skipped by no uid: 10150 Skipped by multiple uid: 0 Skipped by default uid: 1876 Skipped by no mail or mailAlternateAddress: 376 Skipped by no mail in infn.it subdomains: 990 Warning: entries without mail attribute: 2 Warning: entries with multiple mail attribute: 0 Warning: entries without schacPersonalUniqueID attribute: 9579 Warning: entries with multiple schacPersonalUniqueID attribute: 0 Got 9579 good entries from AAI Got 5933 filtered entries from AAI Got 5933 aliases in AAI Got 5933 new aliases CCR - Lecce -13 settembre 2016

Indirizzi estetici InfnAlias ricostruisce indirizzi estetici, sulla base delle informazioni trovate su AAI Il problema delle omonimie oggi coinvolge 43 persone (21 collisioni, una tripla) non e’ un problema insostenibile va pero’ deciso un criterio di assegnazione che valga anche per il futuro Una opzione e’ assegnare l’indirizzo estetico solo a chi lo chieda (tramite interfaccia web) Demanda all’utente la scelta in caso di omonimia Scelta da definire: il gruppo non ha una opinione omogenea CCR - Lecce -13 settembre 2016

Dimensionamento Analisi dei numeri basata su estrapolazione dai dati di una singola sede non affidabile, verra’ fatta piu’ accurata mail entranti: 400k/giorno dimensione mail entranti: 20 GB/giorno log entry: 2.5 M/giorno log size: 800 MB/giorno basato su log level default per sendmail CCR - Lecce -13 settembre 2016

Dimensionamento (cont.) Dimensionamento dei relay infnmx* nella ipotesi di 4 relay, di cui 3 sempre operativi (~135k mail/giorno, ~7 GB/giorno) 4 core/16 GB di RAM gestiscono picchi fino a 400 mail/sec (ma con delivery su LAN) 50 GB di spool (ospita le mail per 7 giorni) 2 GB per i log (ospita i log per 7 giorni) rete: non appare essere un problema CCR - Lecce -13 settembre 2016

Dimensionamento (cont.) mxlogger 2.5M log/giorno, 800 MB/giorno sono facilmente gestiti da rsyslogd su una VM con un core e 2 GB di RAM, anche includendo il mail analyzer (fa analisi incrementale sui log) pmmaster Test non significativi eseguiti su VM con 2 core e 4 GB di RAM. Va valutata in condizioni di traffico piu’ intenso (critico l’accesso al db di sophos) si deve valutare, in produzione, l’utilizzo di Sophos appliance CCR - Lecce -13 settembre 2016

Considerazioni sulla scalabilita’ La gestione di un limitato insieme di nodi tramite server centrali di confgurazione e di monitoring non e’ un problema puppet e zabbix gestiscono numeri considerevolmente piu’ grandi Il problema da affrontare e’ l’eventuale crescita (anche episodica) di traffico entrante gestibile tramite aumento di mail relay a parita’ di priorita’ eventualmente a priorita’ maggiore per gestire il transiente queste possono essere istanziate anche dinamicamente, tramite zabbix attive immediatamente se i record MX per i nuovi nodi sono gia’ configurati Da verificare l’impatto sul sistema antispam/antivirus CCR - Lecce -13 settembre 2016

Cosa resta da fare Completare analisi compresa valutazione accurata del dimensionamento del traffico Effettuare test di reazione al carico Coordinarsi con i SSNN valutare la compatibilita’ della configurazione con l’infrastruttura dei SSNN Definire un sistema di supporto per gli utenti il supporto all’inoltro della posta (senza servizio antispam/antivirus) non e’ molto pesante (frazione di fte) ma si devono definire delle persone preposte a controllare ed operare sul sistema che possano intervenire con rapidita’ CCR - Lecce -13 settembre 2016

Tempistica Un mese di lavoro per rifinire la configurazione e testare il sistema ma da trovare in un periodo intenso di impegni Il vero problema e’ definire un SLA e identificare persone che forniscano il supporto problematica non ancora affrontata dal gruppo mailing Ricordiamo che la posta e’ percepita come servizio critico dagli utenti da qui discende la necessita’ di non offrire un servizio a tutta l’uternza INFN senza avere definito un supporto idoneo CCR - Lecce -13 settembre 2016

INFNPEC CCR - Lecce -13 settembre 2016

Numeri Pannello centrale attivo (e gestibile) da febbraio 2016 232 caselle (~ 900 euro/anno), 8 nuove caselle tempo di attivazione medio < 1 gg (dopo fase di assestamento) richieste di supporto: 26 backpec stabile: 165 utilizzi, 1 failure, 2 casi di recupero mail perse 45 GB utilizzati su 5 TB disponibili Il servizio a regime richiede poche risorse CCR - Lecce -13 settembre 2016

Documentazione Prodotta documentazione su Alfresco Configurazione client Configurazione della casella PEC (filtri antispam) Consigli per gestire lo spazio disponibile Una buona documentazione abbatte le richieste di supporto CCR - Lecce -13 settembre 2016

Da fare Definire la procedura per la rimozione delle caselle dei RUP Essenzialmente sapere da Agid (o ANAC) se, e dopo quanto tempo sia possibile rimuovere una casella Va chiarito con AC chi debba informarsi: questione gia’ accennata, ma rimasta appesa. Definire da chi e quando possano essere richieste nuove caselle In particolare per caselle istituzionali (serve registrazione all’IPA per i punti di protocollazione) Abbiamo prodotto un documento sottomesso a Simona Fiori tempo fa, ma senza risposta Questo e’ da fare quanto prima, ora c’e’ confusione tra utenti e amministrazioni CCR - Lecce -13 settembre 2016