Www.fsg-impact.org Boston Geneva San Francisco Seattle Trends in Foundation Evaluation Webinar for Assifero June 16, 2010.

Presentazione sul tema: "Www.fsg-impact.org Boston Geneva San Francisco Seattle Trends in Foundation Evaluation Webinar for Assifero June 16, 2010."— Transcript della presentazione:

1 www.fsg-impact.org Boston Geneva San Francisco Seattle Trends in Foundation Evaluation Webinar for Assifero June 16, 2010

2 www.fsg-impact.org Boston Geneva San Francisco Seattle Trends nella valutazione delle fondazioni Seminario via web in collaborazione con Assifero 16 giugno 2010

3 © FSG Social Impact Advisors 3 Goals for this Webinar Goals Share three new important trends in evaluation by foundations, especially shared measurement Highlight what these trends mean in practice through examples Discuss how Assifero members view and use evaluation at their own foundation

4 © FSG Social Impact Advisors 4 Obiettivi per questo seminario Obiettivi Condividere tre nuove importanti tendenze nella valutazione fatta dalle fondazioni e in particolare lo sviluppo di misure condivise Illuminare cosa ciò significa nella pratica attraverso esempi Porre le basi per una discussione su come utilzzare la valutazione in Italia

5 5 © FSG Social Impact Advisors Since Its Inception in 1999, FSG Has Combined Consulting, Thought Leadership and Advocacy to Facilitate Greater Social Impact Overview of FSG Sample PublicationsOverview Functional Expertise Strategy and Program Development Evaluation Organizational Alignment Strategy Implementation Topical Expertise Global Development Global and US Health Youth & Education Corporate Social Responsibility Environment Community-Based Philanthropy Client Spectrum Corporations: Foundations: Nonprofits: Government:

6 6 © FSG Social Impact Advisors Dalla sua creazione nel 1999, FSG ha combinato lattività di consulenza, leadership e sensibilizzazione per promuovere un maggiore impatto Panoramica su FSG Esempi di PubblicazioniPanoramica Competenze funzionali Sviluppo di strategie e programmi Valutazione Allineamento organizzativo Implementazione strategica Competenze tematiche Sviluppo globale Salute negli USA e nel mondo Giovani ed educazione Responsabilità sociale dimpresa Ambiente Filantropia di comunità Clienti Corporations: Foundations: Nonprofits: Government:

7 7 © FSG Social Impact Advisors Why Evaluation Matters If you look at American foundations as a whole, we gave away something around $40 billion in 2008, which seems like a lot of money in aggregate, but when you compare it to the US government budget and the US GDP, it is really a pittance. If we claim to be a funder whose goal is to produce significant social change, we need to be very strategic. To do that, we need to learn and get better to have more impact. Stephen Heintz, CEO, Rockefeller Brothers Fund

8 8 © FSG Social Impact Advisors Perché la valutazione è importante se si guarda alla fondazioni americane complessivamente, esse hanno erogato circa $40 miliardi nel 2008, il che sembra molto, ma se le compariamo con il budget del governo americano o con il PIL ci rendiamo conto come sia ben poca cosa. Se noi vogliamo essere degli erogatori il cui compito è quelo di produrre cambiamenti sociali significativi, dobbiamo essere molto strategici. Per far ciò dobbiamo imparare e migliorare nel perseguimento dei nostri fini. Stephen Heintz, CEO, Rockefeller Brothers Fund

9 9 © FSG Social Impact Advisors StrategyEvaluation Increased Social Impact FSGs Work Is Based on the Reinforcing Relationship between Strategy and Evaluation with the Goal of Increasing Social Impact When strategy informs what is evaluated, and evaluation guides the development and refinement of strategy, the potential for social impact increases Why Evaluation Matters

10 10 © FSG Social Impact Advisors StrategiaValutazione Aumento impatto sociale Il lavoro di FSG mira a rafforzare la relazione fra la strategia e la valutazione con lobiettivo di aumentare limpatto sociale Quando la strategia stabilisce cosa sia da valutare e la valutazione guida lo sviluppo della strategia, aumentano le possibilità di avere un impatto sociale Perché la valutazione è importante

11 11 © FSG Social Impact Advisors Our Evaluation Work is Underpinned by Three Paradigm Shifts in Evaluation These paradigm shifts are linked and can occur simultaneously ApproachPurposeScope Retrospective Prospective Judge Learn Individual Shared Overview of Evaluation Trends

12 12 © FSG Social Impact Advisors Il nostro lavoro sulla valutazione si fonda su tre cambiamenti nel paradigma della valutazione Questi paradigmi sono legati e possono avvenire simultaneamente ApproccioFineAmbito Retrospettivo Anticipatore Giudicare Imparare Individuale Condiviso Panoramica sulle tendenze della valutazione

13 13 © FSG Social Impact Advisors The Prospective Approach Requires Dynamic, Actionable Evaluation Prospective ApproachRetrospective Approach The retrospective approach is focused on the past The goal is typically to prove precisely what the specific impact of a grant / project was through multi-year, academic studies This process is expensive and cumbersome for both the foundation and the grantee Worse, the results are static, limited, and often come too late to result in any course corrections The prospective approach seeks to use evaluation to enable better planning and implementation Evaluation takes on several forms and is used for: –Planning –Improving Implementation –Tracking Progress Methods include: –Establishing a baseline –Convening grantees –Real-time data gathering –Inclusion of publicly available data and studies Planning Implementation Progress Approach: From Retrospective to Prospective

14 14 © FSG Social Impact Advisors Lapproccio anticipatore implica una valutazione dinamica e operativa Approccio anticipatoreApproccio retrospettivo Lapproccio retrospettivo è focalizzato sul passato Lobiettivo è di norma quello di provare limpatto specifico di unerogazione /progetto attraverso studi accademici pluriennali Il processo è costoso e oneroso per entrambi: fondazione ed ente Infine i risultati sono statici, limitati e spesso arrivano troppo tardi per generare modifiche e correzioni Lapproccio anticipatore cerca di usare la vlatuazione per permettere una pianificazione e unimplementazione migliore La valtuazione può avere diverse forme ed è usata per: –Pianificare –Migliorare limplementazione –Tenere traccia dei progressi I Metodi comprendono: –Definire una linea di partenza –Coinvolgere I beneficiari –Raccogliere i dati in tempo reale –Usare dati e studi già disponibili Planificare Implementare Progressi Approccio: dal retrospettivo allanticipatore

15 15 © FSG Social Impact Advisors Example: Prospective Evaluation 2008201020112012201420132009 Over the next 5 years, Foundation XXX seeks to improve the organizational capacity of out-of-school-time organizations in its city A critical part of their approach is a dynamic evaluation plan, which will follow the initiative step- by-step and thereby inform the initiative partners and other cities Research to select partner organizations, determine performance metrics, and establish baseline data Meetings between Foundation XXX and the evaluator to discuss results Memos on progress, challenges, insights, etc. for all partners in the initiative Presentations on results and insights during meetings of all of Foundation XXXs grantees Publically available reports on the intermediate and final results of the initiative, to allow other cities to emulate it Presentations on insights and results of the initiative during national education conferences In order to deliver on this evaluation plan a broad range of evaluation approaches will be utilized Foundation XXX Approach: From Retrospective to Prospective

16 16 © FSG Social Impact Advisors Esempio: Valutazione antcipatrice 2008201020112012201420132009 Nei prossimi 5 anni la Fondazione XXX vuole migliorare le capacità organizzative degli enti che si occupano del dopo scuola nella propria città Un aspetto critico del loro approccio è un piano di valutazione dinamico, che seguirà liniziativa passo dopo passo e informerà i partner e altre città interessate alle sperimentazione. Ricerca per selezionare organizzazioni partner, determinare gli indicatori di performance e stabilire la base di partenza Incontri fra la fondazione XXX e i valutartori per discutere i risultati Memorie sui progressi, difficoltà, scoperte ecc. Per tutti i partner delliniziativa Presentazioni di risultati e scoperte in riunioni fra la Fondazione XXX e i sui beneficiari Rapporti disponibili al pubblico sui risultati parziali e definitivi delliniziativa per promuovere lemulazione in altri territori Presentazioni delle scoperte e dei risultati delliniziativa durante conferenze nazionali sulleducazione Per realizzare questo piano di valutazione è necessario utilizzare diversi approcci Fondazione XXX Approccio: da retrospettivo ad anticipatore

17 17 © FSG Social Impact Advisors Evaluation for Learning Means that Foundations and Grantees Together Answer Specific Learning Questions Evaluation for LearningEvaluation for Judging The focus of traditional evaluation is often on proving to the foundation that the grant or project was a good investment The grantee would like to position itself for future funding and is therefore keen on being judged as successful by the evaluation However, this way both the foundation and the grantee can miss the opportunity to improve their strategies based on the evaluation results Imagine instead that foundation and grantee together decide that the grant or project serves the purpose of answering specific learning questions Similar to a research experiment, the goal becomes to explore if and how specific approaches or interventions contribute to solving the challenges of that specific program area The purpose of evaluation moves from What exactly did the grant or project result in? to Which practical lessons can we derive from this grant or project? This also makes it easier to understand which data / information should be collected If the grant or project does not work it is not a failure, rather an opportunity for the foundation and the grantee to refine and improve their strategies Purpose: From Judging to Learning

18 18 © FSG Social Impact Advisors Valutare per imparare implica che le fondazioni e I beneficiari rispondano assieme a specifiche domande Valutazione per imparareValutazione per giudicare Il focus della valutazione tradizione è spesso quello di provare alla fondazione che lerogazione o il progetto è stato un buon investimento Il beneficiario vuole garantirsi futuri contributi e quindi vuole essere giudicato positivamente dalla valutazione In questo modo sia la fondazione che il beneficiario perdono lopporunità di migliorare le loro strategie sulla base dei risultati della valutazione Immaginate al contrario che la fondazione e il beneficiario decidano insieme che il contributo o il progetto abbiano come obiettivo quello di rispondere ad alcune domande specifiche Come per un esperimento scientifico, lobiettivo è quello di capire se e come un approccio o un intervento specifico contribuiscano a risolvere i problemi di una specifica area programmatica Il fine della valutazione non è più cosa esattamente ha realizzato il contributo o il progetto, ma Quali lezioni pratiche possiamo apprendere da questa erogazione o progetto Questo rende più facile comprendere quali dati / informazioni devono essere raccolti Se lerogazione o il progetto non ha funzionato non è un fallimento, ma unopporutnità per la fondazione e il beneficiario per migliorare le loro strategie Fine: dal giudizio allapprendimento

19 19 © FSG Social Impact Advisors Example: Evaluation for Learning The Bill & Melinda Gates Foundation applies Learning Agendas to large grants and projects What is a Learning Agenda? When the program areas within the foundation develop five- year strategies, learning agendas are key components The learning agenda captures questions and information gaps that could strengthen the strategy because they prove or disprove hypotheses, or provide new insights and approaches for solving a social problem The point of the learning agenda is to learn something concrete from every grant or project, and thereby continually improve the foundations strategy What does this mean in practice? Every grantee / project partner is allocated specific questions / topics from the learning agenda and is tasked with answering these over the course of the partnership It is not about yes / no or success / failure, but about making sure that through project the foundation improves its knowledge about solutions in that programmatic area Learning Agenda Excerpt: Post-Secondary Education for Social Mobility How can we leverage generation-specific reliance on technology, such as peer-social networks? To what extent will financial instability among our target populations limit the initiatives effectiveness? Will a focus on a single geographic area (a place- based strategy) increase prospects for success? What are the barriers and facilitators for taking a model developed in one place and replicating it in others? Through a learning agenda, every single grant or project can play a critical role in the overall strategy Purpose: From Judging to Learning

20 20 © FSG Social Impact Advisors Esempio: Valutare per imparare La Bill & Melinda Gates Foundation utilizzano le Learning Agendas per le erogazioni più importanti Cosè una Learning Agenda? Quando le aree di programma elaborano le loro strategie quinquennali, le learning agendas sono componenti chiave Le learning agenda colgono domande e limiti informativi che potrebbero rafforzare la strategia perchè provano o falsificano ipotesi, generano nuove scoperte e approcci per risolvere problemi sociali Lobiettivo delle learning agenda è di imparare qualcosa di concreto da ogni erogazione o progetto e così migliorare continuamente la strategia della fondazione Cosa significa in pratica? Ogni partner è chiamato a dare una risposta a specifiche domande / temi durante la partnership Non si tratta di si / no o successo / fallimento, ma piuttosto di assicurarsi che grazie al progetto la fondazione migliora la sua conoscenza relativamente alle possibili soluzioni in una specifica area programmatica Estratto Learning Agenda: Educazione Post- Secondaria per la mobilità sociale Come possiamo sfruttare le tecnologie usate da questa generazione come i social networks? Fino a che punto linstabilità finanziaria fra la popolazione target limita lefficacia delliniziativa? Focalizzarsi in una sola area geografica migliora le nostre possibilità di successo? Quali sono le barriere e gli aiuti per replicare un modello in altre realtà? Attraverso una learning agenda, ogni erogazione o progetto possono svolgere un ruolo critico nello sviluppo della strategia complessiva Obiettivo: dal giudizio allapprendimento

21 21 © FSG Social Impact Advisors Shared Evaluation Is About Coordination and Collaboration Shared EvaluationIndividual Evaluation Foundations use individual indicators and reporting formats Grantees and project partners have to conduct a separate evaluation for every one of their funders Neither foundations nor grantees can compare results or learn from one anothers experiences The activities of both groups are uncoordinated and aimed at different goals Several foundations and grantees agree on shared metrics and evaluation methods in a given thematic program area Often, a joint online platform is used to report on results Such systems have several advantages: –Grantees no longer have to track separate metrics for each funder –Grantees and funders can directly compare results and learn from these –Coordinating metrics leads to coordinating strategies, which means that resources can be more optimally deployed Disparate foundation and grantee activities thereby become a system, which works in harmony in a targeted way to solve social projects Scope: From Individual to Shared

22 22 © FSG Social Impact Advisors La valutazione condivisa implica coordinazione e collaborazione Valutazione condivisaValutazione individuale Le fondazioni usano indicatori e rapporti individuali I beneficiari e i partner di progetto devono condurre una valutazione specifica per ognuno dei loro sostenitori Né le fondazioni, né I beneficiari possono comparare i risultati o imparare dalle esperienze reciproche Le attività di entrambi i gruppi non sono coordinate e hanno diversi obiettivi Diverse fondazioni e beneficiari concordano su misure condivise e metodi valutativi in una specifica area programmatica Spesso, una comune piattaforma online è usata per raccogliere i risultati Questi sistemi hanno diversi vantaggi: –I beneficiari non devono raccogliere dati diversi per ogni donatore –I beneficiari e i donatori posso comparare i risultati e imparare da questi –Le misure coordinate portano al coordinamento delle strategie, questo significa che le risorse possono essere utilizzate in modo migliore Le diverse attività dei donatori e dei beneficiari diventano un sistema, che lavora in armonia ed è finalizzato a risolvere alcuni problemi sociali. Ambito: da individuale a condiviso

23 © FSG Social Impact Advisors 23 Shared Measurement Systems Example – Strive Scope: From Individual to Shared Background Strive is a large-scale partnership initiative in Greater Cincinnati featuring: –An evidence-based organizing framework to address education from cradle through to career –More than 300 participating organizations with aligned goals and strategies –A rich learning environment focused on continuous improvement –Strong infrastructure and functional support Participants in the Strive partnership include: –Hundreds of education-related nonprofits –The three local public school districts and one diocesan district in the region –Eight universities and community colleges –Four key local private and corporate funders

24 © FSG Social Impact Advisors 24 Sistemi di misurazione condivisi Esempio – Strive Ambito: da individuale a condiviso Informazioni di base Strive è una grande iniziativa di partnership nella regione di Cincinnati con le seguenti caratteristiche: –Una struttura organizzata basata sui dati volta ad affrontare leducazione dalla culla sino alla carriera –Partecipano più di 300 organizzazioni con obiettivi e strategie allineati –Un ambiente focalizzato sul miglioramento continuo –Forte inffrastruttura con sostegno funzionale I partecipanti della partnership Strive sono: –Centinaia di nonprofit collegate con leducazione –I tre distretti scolastici pubblici e il distretto diocesano della regione –Otto fra università e college –Quattro fondazioni private e dimpresa

25 © FSG Social Impact Advisors 25 Ambito: da individuale a condiviso Shared Measurement Systems Example – Strive Common Definition of Success / Overarching Vision and Framework 10 Key IndicatorsCommon Report CardPriority Strategies

26 © FSG Social Impact Advisors 26 Scope: From Individual to Shared Sistemi di misurazione condivisi Esempio – Strive Definizione comune di successo / Visione e struttura complessiva 10 indicatori chiave Strumento di rapporto comune Strategie prioritarie

27 27 © FSG Social Impact Advisors FSG Resources on Evaluation http://www.fsg-impact.org/ideas/section/273 Insights from 100 foundations on prospective evaluation Ideas and tools to engage your trustees on the topic of evaluation Trends and case studies on shared measurement and evaluation For follow-up questions, email me anytime at valerie.bockstette@fsg-impact.org Tools & Resources

28 28 © FSG Social Impact Advisors Risorse sulla Valutazione di FSG http://www.fsg-impact.org/ideas/section/273 Scoperte da 100 fondazioni sulla valutazione anticipatrice Idee e strumenti per coinvolgere I vostri consiglieri nella valutazione Tendenze e studi di caso sui sistemi di misurazione condivisi e sulla valutazione Per ulteriori domande, email a valerie.bockstette@fsg-impact.org Strumenti e risorse

29 29 © FSG Social Impact Advisors Discussion Questions Are you using aspects of prospective, learning-focused, shared evalution? What do you see as the advantages of these approaches? What do you see as the challenges? Discussion Questions

30 30 © FSG Social Impact Advisors Domande per la discussione Utilizzate aspetti della valutazione anticipatrice, focalizzata nellapprendimento e condivisa? Quali sono a vostro avviso i benefici di questi approcci? Quali sono i limiti che vi percepite? Domande per la discussione