CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________ Incontro CRUI del 12 aprile 2006, ore 15 Panel 11 Scienze.

Presentazione sul tema: "CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________ Incontro CRUI del 12 aprile 2006, ore 15 Panel 11 Scienze."— Transcript della presentazione:

1 CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________ Incontro CRUI del 12 aprile 2006, ore 15 Panel 11 Scienze storiche, filosofiche, pedagogiche e psicologiche Prof. Evandro Agazzi VTR 2001- 2003

2 Suggerire regole e procedure di riferimento per la valutazione del Sistema Nazionale della Ricerca. Migliorare il collegamento istituzionale tra risultati della valutazione e allocazione delle risorse. Avviare procedure sistematiche di raffronto. Favorire la diffusione dei risultati della ricerca. Assicurare trasparenza al processo. Scopi e specificità del VTR

3 CIVR Strutture di ricerca Panel di Area Governo Strutture di ricerca Comunità scientifica Giudizi Dati & informazioni Relazione NUV/CIV Prodotti Il processo

4 Strutture partecipanti Area 11 Atenei61 Enti pubblici di Ricerca1 Istituzioni private di Ricerca2

5 1. 1. Scienze matematiche e informatiche 2. Scienze fisiche 3. Scienze chimiche 4. Scienze della terra 5. Scienze biologiche 6. Scienze mediche 7. Scienze agrarie e veterinarie 8. Ingegneria civile ed architettura 9. Ingegneria industriale e dellinformazione 10. Scienze dellantichità, filologico-letterarie e storico-artistiche 11. Scienze storiche, filosofiche, psicologiche e pedagogiche 12. Scienze giuridiche 13. Scienze economiche e statistiche 14. Scienze politiche e sociali Aree 15 a Scienze e tecnologie per una società dell'informazione e della comunicazione 15 b Scienze e tecnologie per la qualità e la sicurezza degli alimenti 15 c Scienze e tecnologie dei nano/microsistemi 15 d Scienze e tecnologie aerospaziali 15 e Scienze e tecnologie per lo sviluppo e la governance sostenibili 15 f Scienze e tecnologie per la valutazione e la valorizzazione dei beni culturali

6 Libri Capitoli di libri Articoli su riviste Brevetti e risultati di valorizzazione applicativa Progetti, composizioni, disegni e design Performance, mostre ed esposizioni Manufatti e opere d'arte Prodotti selezionabili

7 Attività puramente editoriali Testi o software di esclusivo interesse didattico Abstract di conferenze Prove e analisi di routine Rapporti tecnici interni Prodotti non selezionabili

8 Selezione dei prodotti (1) Le strutture hanno selezionato in autonomia i prodotti da trasmettere ai Panel. Il numero complessivo di prodotti selezionati è stato fissato nel 50% del numero medio annuo dei ricercatori della Struttura (calcolato sul triennio), espressi in ETP. Non era obbligatorio presentare prodotti in ogni area o settore disciplinare della stessa. Le aree prive di prodotti sono state giudicate inattive. Larea selezionata dipendeva dalla collocazione del prodotto e non da quella degli autori. Per ciascun prodotto è stata trasmessa una scheda illustrativa, con lallegato in pdf della pubblicazione. In assenza di allegato, è stata richiesta alle Strutture copia cartacea.

9 Selezione dei prodotti (2) La singola Struttura poteva presentare ciascun prodotto selezionato in una sola Area; Strutture diverse potevano selezionare prodotti identici e presentarli anche in Aree diverse; ciascun prodotto selezionato, anche se presentato in Aree diverse, è stato sottoposto ad un unico iter valutativo, che ha coinvolto tutti i Panel interessati.

10 Giudizio di merito sui prodotti Ogni prodotto è stato valutato da almeno due esperti esterni, per i seguenti criteri: –qualità –rilevanza –originalità/innovazione –internazionalizzazione –impatto economico-occupazionale, anche potenziale (per i risultati di valorizzazione applicativa) Per ciascun criterio gli esperti hanno formulato un giudizio di merito descrittivo.

11 Qualità: posizionamento del prodotto rispetto alleccellenza scientifica nella scala di valore condivisa dalla comunità scientifica internazionale. Il giudizio di merito è affidato ad esperti esterni indipendenti, che operano nel settore o in settori affini a quello di appartenenza del prodotto (peer review). Rilevanza: valore aggiunto per lavanzamento della conoscenza nel settore e per la scienza in generale, nonché per i benefici sociali derivati, anche in termini di appropriatezza, efficacia, tempestività e durata delle ricadute. Integra il giudizio di qualità. Originalità/innovazione: contributo a nuove acquisizioni o allavanzamento di conoscenze, nel settore di riferimento. Integra il giudizio di qualità. Criteri (1)

12 Internazionalizzazione: posizionamento nello scenario internazionale, in termini di rilevanza, competitività, diffusione editoriale e apprezzamento della comunità scientifica, inclusa la collaborazione esplicita con ricercatori e gruppi di ricerca di altre nazioni. Integra il giudizio di qualità. Impatto: effetti sociali, economici e culturali, diretti e indiretti del prodotto. Criteri (2)

13 Esperti esterni Nel processo di valutazione, i Panel si sono avvalsi di esperti esterni, anche stranieri, scelti collegialmente dai Panel stessi; agli esperti esterni è stato affidato il compito di esprimere giudizi di merito sui prodotti selezionati dalle Strutture; agli esperti è stato garantito lanonimato dei giudizi.

14 Ciascun esperto ha espresso su ogni prodotto un giudizio unico e complessivo, con attribuzione a quattro livelli di merito (in coerenza con il giudizio descrittivo): –eccellente –buono –accettabile –limitato Livelli di merito dei prodotti (1)

15 Eccellente: la qualità del prodotto si colloca nel 20% superiore della scala di valore condivisa dalla comunità scientifica internazionale. Buono: il prodotto si colloca nel segmento 60-80%. Accettabile: il prodotto si colloca nel segmento 40-60%. Limitato: il prodotto si colloca nel 40% inferiore. Livelli di merito dei prodotti (2)

16 Grado di proprietà dei prodotti È espresso dal rapporto tra: N. autori affiliati alla Struttura/N. complessivo autori Sono state considerate anche le affiliazioni multiple. È stato determinato sia sul numero totale dei prodotti presentati dalla Struttura, sia sui soli prodotti giudicati eccellenti.

17 Componenti del Panel 11 AGAZZI EVANDRO (Presidente) BEDESCHI GIUSEPPE BERTI ENRICO BUTERA FABRIZIO CARAMAZZA ALFONSO CARDINI FRANCO CHIOSSO GIORGIO DAZZI NINO KING RUSSELL PARLATO GIUSEPPE SCABINI EUGENIA

18 Sottogruppi del Panel 11 CONSENSUS GROUP N.1: AGAZZI EVANDRO BEDESCHI GIUSEPPE BERTI ENRICO CONSENSUS GROUP N.2: BUTERA FABRIZIO CARAMAZZA ALFONSO DAZZI NINO SCABINI EUGENIA CONSENSUS GROUP N.3: CARDINI FRANCO CHIOSSO GIORGIO KING RUSSELL PARLATO GIUSEPPE

19 Prodotti valutati nellarea Area 11 Prodotti presentati dalle Strutture1.183 di cui: 12presentati da 2 Strutture-6 Prodotti valutati dal Panel1.177

20 Esperti esterni coinvolti Area 11 NazionalitàProvenienzaNum. espertiNum. valutazioni ItalianaAccademica3882.032 ItalianaNon-accademica37163 StranieraMista45161 Totali4702.356

21 Prodotti valutati (1)

22 Distribuzione per tipologia nelle diverse Aree Prodotti valutati (2)

23 Area 11 TipologiaNumero% Articolo su rivista25621.75 Capitolo di libro20517.42 Libro70259.64 Performance, mostra ed esposizione50.42 Progetto, composizione, disegno e design50.42 Risultato di valorizzazione applicativa40.34 Totale1.177100 Tipologia dei prodotti (1)

24 Area 11 Tipologia prodotto numerovalutati eccellente ISI17379 (45.7%) Altri (non-ISI, libri, etc.) 1.004253 (25.2%) Totale1.177332 (28.2%) Tipologia dei prodotti (2)

25 Riviste ricorrenti

26 Tipologia e qualità dei prodotti

27 Tutte le Aree Distribuzione per Lingua

28 Nelle diverse Aree Distribuzione per Lingua

29 15f. Beni Culturali 15e. Sviluppo 15d. Sc Aerospaziali 15c. Nano e Micro Tec 15b. Qualità Alimenti 15a ICT 14. Sc Politiche - Sociali 13. Economia - 12. Sc Giuridiche 11. Sc Stor Filos Psic 10. Sc Filol-Lett Stor-Art 9. Ing Industriale - 8. Ing Civile - Arch 7. Sc Agrarie - 6. Medicina 5. Biologia 4. Geologia 3. Chimica 2. Fisica 1. Matematica Grado medio di Proprietà

30 Grado di proprietà dei prodotti Media ( ) e intervallo di variazione ( )

31 Prodotti presentati da:Una sola strutturaPiù strutture Distribuzione dei giudizi (1) 17.329 prodotti di tutte le Aree

32 Andamento complessivo per area Distribuzione dei giudizi (2)

33 Distribuzione dei giudizi (3)

34 Analisi divergenze giudizi

35 Impact Factor dei prodotti Media ( ) e intervallo di variazione ( )

36 Impact Factor dei prodotti (2)

37 Peso dei giudizi GiudizioSignificatoPeso Eccellente Il prodotto si colloca nel 20% superiore della scala di valore condivisa dalla comunit à scientifica internazionale 1 BuonoIl prodotto si colloca nel segmento 60%-80%0.8 AccettabileIl prodotto si colloca nel segmento 40%-60%0.6 LimitatoIl prodotto si colloca nel 40% inferiore0.2 La Valutazione delle Aree (1)

38 Esprime il giudizio medio sui prodotti presentati da ogni singola Struttura nelle diverse Aree. Si ottiene dividendo la somma dei giudizi pesati attribuiti ai singoli prodotti (prodotti pesati) per il numero totale di prodotti presentati. Il rating La Valutazione delle Aree (2)

39 Sul sito http://vtr2006.cineca.it sono riportati per ogni singola Area:http://vtr2006.cineca.it La Valutazione delle Aree (3)

40 La Valutazione delle Aree (4)

41 La Valutazione delle Aree (5)