CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________ Incontro CRUI del giorno 11 aprile 2006, ore 11.00 Panel 08.

Presentazione sul tema: "CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________ Incontro CRUI del giorno 11 aprile 2006, ore 11.00 Panel 08."— Transcript della presentazione:

1 CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________ Incontro CRUI del giorno 11 aprile 2006, ore 11.00 Panel 08 Ingegneria civile ed architettura Prof. Aurelio Amodeo VTR 2001- 2003

2 Suggerire regole e procedure di riferimento per la valutazione del Sistema Nazionale della Ricerca. Migliorare il collegamento istituzionale tra risultati della valutazione e allocazione delle risorse. Avviare procedure sistematiche di raffronto. Favorire la diffusione dei risultati della ricerca. Assicurare trasparenza al processo. Scopi e specificità del VTR

3 CIVR Strutture di ricerca Panel di Area Governo Strutture di ricerca Comunità scientifica Giudizi Dati & informazioni Relazione NUV/CIV Prodotti Il processo

4 1. 1. Scienze matematiche e informatiche 2. Scienze fisiche 3. Scienze chimiche 4. Scienze della terra 5. Scienze biologiche 6. Scienze mediche 7. Scienze agrarie e veterinarie 8. Ingegneria civile ed architettura 9. Ingegneria industriale e dellinformazione 10. Scienze dellantichità, filologico-letterarie e storico-artistiche 11. Scienze storiche, filosofiche, psicologiche e pedagogiche 12. Scienze giuridiche 13. Scienze economiche e statistiche 14. Scienze politiche e sociali Aree 15 a Scienze e tecnologie per una società dell'informazione e della comunicazione 15 b Scienze e tecnologie per la qualità e la sicurezza degli alimenti 15 c Scienze e tecnologie dei nano/microsistemi 15 d Scienze e tecnologie aerospaziali 15 e Scienze e tecnologie per lo sviluppo e la governance sostenibili 15 f Scienze e tecnologie per la valutazione e la valorizzazione dei beni culturali

5 Strutture partecipanti Area 08 Atenei40 Enti pubblici di Ricerca2 Istituzioni private di Ricerca-

6 Libri Capitoli di libri Articoli su riviste Brevetti e risultati di valorizzazione applicativa Progetti, composizioni, disegni e design Performance, mostre ed esposizioni Manufatti e opere d'arte Prodotti selezionabili

7 Attività puramente editoriali Testi o software di esclusivo interesse didattico Abstract di conferenze Prove e analisi di routine Rapporti tecnici interni Prodotti non selezionabili

8 Selezione dei prodotti (1) Le strutture hanno selezionato in autonomia i prodotti da trasmettere ai Panel. Il numero complessivo di prodotti selezionati è stato fissato nel 50% del numero medio annuo dei ricercatori della Struttura (calcolato sul triennio), espressi in ETP. Non era obbligatorio presentare prodotti in ogni area o settore disciplinare della stessa. Le aree prive di prodotti sono state giudicate inattive. Larea selezionata dipendeva dalla collocazione del prodotto e non da quella degli autori. Per ciascun prodotto è stata trasmessa una scheda illustrativa, con lallegato in pdf della pubblicazione. In assenza di allegato, è stata richiesta alle Strutture copia cartacea.

9 Selezione dei prodotti (2) La singola Struttura poteva presentare ciascun prodotto selezionato in una sola Area; Strutture diverse potevano selezionare prodotti identici e presentarli anche in Aree diverse; Ciascun prodotto selezionato, anche se presentato in Aree diverse, è stato sottoposto ad un unico iter valutativo, che ha coinvolto tutti i Panel interessati.

10 Giudizio di merito sui prodotti Ogni prodotto è stato valutato da almeno due esperti esterni, per i seguenti criteri: –qualità –rilevanza –originalità/innovazione –internazionalizzazione –impatto economico-occupazionale, anche potenziale (per i risultati di valorizzazione applicativa) Per ciascun criterio gli esperti hanno formulato un giudizio di merito descrittivo.

11 Qualità: posizionamento del prodotto rispetto alleccellenza scientifica nella scala di valore condivisa dalla comunità scientifica internazionale. Il giudizio di merito è affidato ad esperti esterni indipendenti, che operano nel settore o in settori affini a quello di appartenenza del prodotto (peer review). Rilevanza: valore aggiunto per lavanzamento della conoscenza nel settore e per la scienza in generale, nonché per i benefici sociali derivati, anche in termini di appropriatezza, efficacia, tempestività e durata delle ricadute. Integra il giudizio di qualità. Originalità/Innovazione: contributo a nuove acquisizioni o allavanzamento di conoscenze, nel settore di riferimento. Integra il giudizio di qualità. Criteri (1)

12 Internazionalizzazione: posizionamento nello scenario internazionale, in termini di rilevanza, competitività, diffusione editoriale e apprezzamento della comunità scientifica, inclusa la collaborazione esplicita con ricercatori e gruppi di ricerca di altre nazioni. Integra il giudizio di qualità. Impatto economico-occupazionale: effetti sociali, economici e culturali, diretti e indiretti del prodotto. Criteri (2)

13 Esperti esterni Nel processo di valutazione, i Panel si sono avvalsi di esperti esterni, anche stranieri, scelti collegialmente dai Panel stessi; agli esperti esterni è stato affidato il compito di esprimere giudizi di merito sui prodotti selezionati dalle Strutture; agli esperti è stato garantito lanonimato dei giudizi.

14 Ciascun esperto ha espresso su ogni prodotto un giudizio unico e complessivo, con attribuzione a quattro livelli di merito (in coerenza con il giudizio descrittivo): –Eccellente –Buono –Accettabile –Limitato Livelli di merito dei prodotti (1)

15 Eccellente: la qualità del prodotto si colloca nel 20% superiore della scala di valore condivisa dalla comunità scientifica internazionale. Buono: il prodotto si colloca nel segmento 60- 80%. Accettabile: il prodotto si colloca nel segmento 40-60%. Limitato: il prodotto si colloca nel 40% inferiore. Livelli di merito dei prodotti (2)

16 Grado di proprietà dei prodotti È espresso dal rapporto tra: N. autori affiliati alla Struttura / N. complessivo autori Sono state considerate anche le affiliazioni multiple. È stato determinato sia sul numero totale dei prodotti presentati dalla Struttura, sia sui soli prodotti giudicati eccellenti.

17 Componenti del Panel 08 AMODEO Aurelio (Presidente) CLEMENTE Paolo DAGAN Gedeon DIERNA Salvatore DIOTALLEVI Pierpaolo GAMBARDELLA Alfonso MANISCALCO Paolino Attilio PORTAS Nuno

18 Sottogruppi del Panel 08 CONSENSUS GROUP N.1: AMODEO Aurelio CLEMENTE Paolo DAGAN Gedeon DIOTALLEVI Pierpaolo MANISCALCO Paolino Attilio CONSENSUS GROUP N.2: DIERNA Salvatore GAMBARDELLA Alfonso PORTAS Nuno Tenendo conto dei giudizi degli esperti, il Panel ha espresso il suo giudizio finale

19 Prodotti valutati nellarea Area 08 Prodotti presentati dalle Strutture769 di cui: 22presentati da 2 Strutture-11 Prodotti valutati dai Panel758 150318 Art & Architecture 310 150704 Civil Engineering 448

20 Esperti esterni coinvolti Area 08 NazionalitàProvenienzaNum. espertiNum. valutazioni ItalianaAccademica269 (77%)1.116 ItalianaNon-accademica24 (7%)97 StranieraMista57 (16%)310 Totali3501.523

21 Prodotti valutati (1)

22 Distribuzione per tipologia nelle diverse Aree Prodotti valutati (2)

23 Area 08 TipologiaNumero% Articolo su rivista40152.90 Brevetto20.26 Capitolo di libro9312.27 Libro20927.57 Manufatto ed opera d'arte101.32 Performance, mostra ed esposizione151.98 Progetto, composizione, disegno e design212.77 Risultato di valorizzazione applicativa70.92 Totale758100 Tipologia dei prodotti (1)

24 Area 08 Tipologia prodotto numerovalutati eccellente ISI34481 (23.5%) Altri (non-ISI, libri, etc.) 41485 (20.5%) Totale758166 (21.9%) Tipologia dei prodotti (2)

25 Riviste ricorrenti

26 Tipologia e qualità dei prodotti

27 Tutte le Aree Distribuzione per Lingua

28 Nelle diverse Aree Distribuzione per Lingua

29 Grado medio di Proprietà 15f. Beni Culturali 15e. Sviluppo 15d. Sc Aerospaziali 15c. Nano e Micro Tec 15b. Qualità Alimenti 15a ICT 14. Sc Politiche - Sociali 13. Economia - 12. Sc Giuridiche 11. Sc Stor Filos Psic 10. Sc Filol-Lett Stor-Art 9. Ing Industriale - 8. Ing Civile - Arch 7. Sc Agrarie - 6. Medicina 5. Biologia 4. Geologia 3. Chimica 2. Fisica 1. Matematica

30 Grado di proprietà dei prodotti Media ( ) e intervallo di variazione ( )

31 Prodotti presentati da:Una sola strutturaPiù strutture Distribuzione dei giudizi (1) 17.329 prodotti di tutte le Aree

32 Andamento complessivo per area Distribuzione dei giudizi (2)

33 Distribuzione dei giudizi (3)

34 Distribuzione dei giudizi (4) Brevetti Area 08 EccellenteBuonoAccettabileLimitatoTotale -11-2

35 Analisi divergenze giudizi

36 Impact Factor dei prodotti (1) Media ( ) e intervallo di variazione ( )

37 Impact Factor dei prodotti (2)

38 Peso dei giudizi GiudizioSignificatoPeso Eccellente Il prodotto si colloca nel 20% superiore della scala di valore condivisa dalla comunit à scientifica internazionale 1 BuonoIl prodotto si colloca nel segmento 60%-80%0.8 AccettabileIl prodotto si colloca nel segmento 40%-60%0.6 LimitatoIl prodotto si colloca nel 40% inferiore0.2 La Valutazione delle Aree (1)

39 La Valutazione delle Aree (2) Esprime il giudizio medio sui prodotti presentati da ogni singola Struttura nelle diverse Aree. Si ottiene dividendo la somma dei giudizi pesati attribuiti ai singoli prodotti (prodotti pesati) per il numero totale di prodotti presentati. RATING

40 Sul sito http://vtr2006.cineca.it sono riportati per ogni singola Area:http://vtr2006.cineca.it La Valutazione delle Aree (3)

41 La Valutazione delle Aree (4)

42 La Valutazione delle Aree (5)

43 Ranking list grandi strutture (25-74 prodotti)

44 La Valutazione delle Aree (5) Ranking list medie strutture (10-24 prodotti)

45 La Valutazione delle Aree (5) Ranking list piccole strutture (1-9 prodotti)

46 La Valutazione delle Aree (5) Rating grandi strutture

47 La Valutazione delle Aree (5) Rating medie strutture

48 La Valutazione delle Aree (5) Rating piccole strutture

49 La Valutazione delle Aree (5) Prodotti % E%E% B%B% A%A% L%L% RatingGrado di proprietà Grandi strutture 58.122.745.726.05.60.760.86 Medie strutture 29.323.640.430.75.30.760.80 Piccole strutture 12.617.538.135.19.30.710.81

50 La Valutazione delle Aree (5) N°ProdottiRating medio Scarto max (+) Scarto max (-) Media degli scarti dalla media Grandi strutture 94460.760.070.090.037 Medie strutture 152250.760.190.110.067 Piccole strutture 18970.710.290.110.075