La valutazione della ricerca scientifica: uno studio empirico nelle Scienze umane Candidato: Stefano Piazza Coordinatore: Prof. Giuliano Pancaldi Relatore:

Slides:



Advertisements
Presentazioni simili
La conoscenza del contesto territoriale
Advertisements

RICERCA - AZIONE Macro-concetto Portatore di
Procedura proposta prodotti per VQR
Progetto CAFFÈ SCIENZA JUNIOR
La costruzione e lo sviluppo delle competenze a scuola Prof. Losito
RiCreARe Validazione sul campo Autori: G.Gagliardo, V.Mercuri, M.Saitta 4°CTP LUIGI DI LIEGRO ROMA INVALSI Roma 12 Febbraio 2013.
SOFIA Facoltà di Ingegneria Università degli Studi di Udine SOFIA.
Valutazione della ricerca nelle recenti proposte CUN Vincenzo Russo Seminario SIDEA – Roma
La nuova newsletter della statistica ufficiale Decima Conferenza nazionale di statistica Roma, 16 dicembre 2010.
Progetto innova-menti in rete Liceo scientifico Marie Curie Meda
La percezione delle proprie competenze e il grado di fiducia nelle proprie capacità sono altresì importanti per spiegare le differenze di prestazione.
LA RICERCA BIBLIOGRAFICA NEL SETTORE BIOMEDICO: è meglio Google o Pubmed? CENTRO DI BIOTECNOLOGIE SETTORE DOCUMENTAZIONE BIOMEDICA A.O.R.N. A.CARDARELLI-
Banche dati : qualche avvertenza La prima ricerca serve per tarare i termini da utilizzare ; spesso ci sono indici o liste dei termini da usare La struttura.
Liceo delle Scienze Umane “Clemente Rebora”
Carla Barbieri Elena Bernardini
La ricerca citazionale in Web of Science e Scopus
La ricerca bibliografica per la tesi - DU TNPE
Non limitarsi a descrivere le risorse disponibili senza descriverne il processo di definizione delle esigenze, di reperimento e di valutazione Non limitarsi.
RIPENSARE LE PUBBLICAZIONI SCIENTIFICHE: MODELLI ECONOMICI, SERVIZI EDITORIALI, GESTIONE DEI DIRITTI Per una gestione equilibrata dei diritti dautore 1.
Scelta dei lavori di ricerca da inviare per la VQR P. Galimberti.
LE INFORMAZIONI SCIENTIFICHE Il flusso delle informazioni scientifiche A cura di Carlo Siino.
Scienze umane e Open Access: l’esperienza di riviste UNIMI
Valutazione della ricerca: le opportunità offerte dallOpen Access Alberto Silvani Torino 18 ottobre 2010 Questo/a opera è pubblicato sotto una Licenza.
Open Knowledge: le potenzialità e i limiti della rete per il sapere Luciano Paccagnella Dipartimento di scienze sociali Università di Torino
Jean Piaget.
Problemi e prospettive in Italia di Anna Maria Tammaro Progetto realizzato dal Gruppo di lavoro Periodici elettronici.
1 Utilizzo degli archivi istituzionali per la valutazione della ricerca esempi e opportunità Maddalena Morando Politecnico di Torino AIB Piemonte Torino,
Fondo di Ateneo per la Ricerca FAR 2010 La Valutazione Tempistica: Dal 1 ottobre 2010 sarà possibile iniziare le operazioni di valutazione Entro il 29.
Le politiche preferenziali dell’Unione Europea: un’analisi degli effetti sui flussi commerciali tramite i modelli gravitazionali Impatto delle politiche.
H-Index: definizione e calcolo Carla Barbieri Elena Bernardini
PROBLEMATICHE OPEN ACCESS POLITECNICO DI BARI Politecnico di Bari DIFFICOLTA PROMOZIONE DELLOPEN ACCESS Rapidità obsolescenza dei risultati scientifici.
MANIFESTO DI SEX GENDER MEDICINE Questo manifesto sispira a una serie di documenti internazionali, li integra con le esperienze italiane ed esplicita le.
APPROPRIATEZZA TERAPEUTICA E ADERENZA ALLA TERAPIA
La ricerca scientifica in Economia Aziendale - Primi risultati del progetto di classificazione delle riviste scientifiche Angelo Riccaboni
Ministero dell’Istruzione, dell’ Università e della Ricerca Ufficio Scolastico Regionale per il Piemonte Direzione Generale 1 ESAMI DI STATO 2014/15: FORMAZIONE.
Fondo di Ateneo per la Ricerca FAR 2014 La Valutazione Tempistica:  L’Ufficio Ricerca Nazionale comunicherà la data di avvio delle operazioni di valutazione.
Master in comunicazione e giornalismo scientifico
Sfide 2004 Buone prassi e trasferibilità nelle politiche di sviluppo del territorio Maurizio Sorcioni Responsabile comunicazione di Italia Lavoro s.p.a.
Progetto innova-menti in rete Liceo scientifico Marie Curie Meda
Prof. Pier Giorgio Ardeni Dr. Andrea Gentili, Dr.ssa Cecilia Tinonin
Piazza Rondanini, Roma Tel Fax Giornata Annuale Erasmus+ Roma 7-8 luglio 2015 Prof.ssa Monica.
La ricerca universitaria al servizio del Paese Pier Ugo Calzolari Convegno “Le università statali nella società della conoscenza” Bologna, 15 marzo 2008.
Il quadro logico Dopo avere reperito tutte le informazioni necessarie per realizzare il progetto procedo alla sua stesura Utilizzo il Quadro Logico che.
INDICATORI SOCIALI E VALUTATIVI
LA VERIFICA DELLA CORRETTA TENUTA DELLA CONTABILITA’
____________________________ Stefano Scarcella Prandstraller Relazioni istituzionali e Gestione della responsabilità sociale d’impresa Il focus group E’
Giornate di informazione sull’offerta di istruzione del II ciclo PROVINCIA DI RAVENNA Ufficio X - Ambito Territoriale di Ravenna Il percorso di istruzione.
Strumenti dell’Open Access Gli archivi aperti disciplinari e istituzionali Camerino 10 Marzo 2005.
Le risorse elettroniche per l’ingegneria Maddalena Morando Biblioteca Centrale di Ingegneria.
Giornate di informazione sull’offerta di istruzione del II ciclo PROVINCIA DI RAVENNA Ufficio X - Ambito Territoriale di Ravenna Il percorso di istruzione.
Giornata della trasparenza UNIVERSITÀ DI MILANO-BICOCCA Giornata della trasparenza - MILANO, 18 DICEMBRE 2015 Ricerca e Internazionalizzazione Il Rettore.
BILANCIO SOCIALE e PATTO per la SICUREZZA e la LEGALITA’ Alimena – 03 aprile 2014 Il Bilancio Sociale: verso la costruzione delle aree di rendicontazione.
MLA, LION, LLBA, PIO Banche dati per la ricerca in ambito linguistico 4 maggio 2015 A cura di Simona Albani e Nadia Cigognini Biblioteca del Polo di Lingue.
Autovalutazione Valutazione e Accreditamento Avvio SUA-RD.
Università degli studi di Trento Sistema Bibliotecario di Ateneo Ebook di UniTrento: indagine 2016 Aprile 2016.
1 Il Processo di Bologna e la progettazione di corsi di studio di qualità Maria Sticchi Damiani 28 maggio t.
Psicometria modulo 1 Scienze tecniche e psicologiche Prof. Carlo Fantoni Dipartimento di Scienze della Vita Università di Trieste Campionamento.
EDITORIA ISFOL Pierangela Ghezzo Gruppo Editoria Servizio per la Comunicazione e la divulgazione scientifica Strumenti e metodi.
Individual teacher incentives and student performance David N. Figlio, Lawrence W. Kenny Department of Economics, University of Florida, United States.
Bruner Psicologo statunitense che si è occupato di problemi educativi dagli anni 50 ad oggi Di indirizzo cognitivista, ha una dotazione culturale molto.
Visibilità della ricerca 2.0 OPAC, OA … e Obi-Wan Kenobi Chiara Carlucci.
DEFINIZIONE. La statistica è la disciplina che si occupa della raccolta di dati quantitativi relativi a diversi fenomeni, della loro elaborazione e del.
Comitato di Indirizzo per la Valutazione della Ricerca Valutazione Triennale della Ricerca VTR Franco Cuccurullo.
LA RICERCA DELLE FONTI Guida alla ricerca bibliografica 31 ottobre 2013.
ROMA 23 GIUGNO 2016 AREA TEMATICA 4. NUOVE FONTI E DOMANDE Big Data e archivi dell’Amministrazione finanziaria: metodologie innovative di analisi e integrazione,
Corso di Perfezionamento in DIFFICOLTÀ E DISTURBI DELL’APPRENDIMENTO Il Polo “M. T. Bozzo” Per informazioni Polo M.T. Bozzo Vico s. Antonio, 5/7 Genova.
ARPI. INTERFACCIA AUTORE E AMMINISTRATORE. IL LAVORO DI VALIDAZIONE Raffaella Sprugnoli Università di Pisa 24 giugno 2016.
ROMA 22 GIUGNO 2016 AREA TEMATICA 3. INNOVAZIONI E SPERIMENTAZIONI Ridisegno delle indagini sociali nell’ottica del censimento permanente INNOVAZIONI E.
LICEO DELLE SCIENZE UMANE Il corso di studi ha preso avvio nell’anno scolastico 2010/2011 ma nel nostro istituto si innesta in una storica sperimentazione.
Transcript della presentazione:

La valutazione della ricerca scientifica: uno studio empirico nelle Scienze umane Candidato: Stefano Piazza Coordinatore: Prof. Giuliano Pancaldi Relatore: Prof.ssa Maria Carla Galavotti Anno 2013 Alma Mater Studiorum- Università di Bologna Dottorato di ricerca in Science, Cognition, Technology (SCT), XXVI ciclo.

La valutazione della ricerca scientifica: il dibattito in corso. Nel corso degli ultimi anni, in Italia, si è assistito ad un ampio dibattito sull’uso della valutazione della ricerca, soprattutto a seguito dell’avvio dei lavori dell’: Agenzia Nazionale di Valutazione del Sistema Universitario e della Ricerca (ANVUR): 1. Programma nazionale di Valutazione della Qualità della Ricerca (VQR 2004/2010). 2. Abilitazione nazionale per i Professori di I e II fascia (ASN).

La valutazione della ricerca scientifica: tipologie Martin e Irvine (1983) individuano tre tipologie di merito scientifico di una pubblicazione: La qualità: intesa come assenza di errori, come originalità del contributo di conoscenza apportato, e come chiarezza delle rappresentazioni matematiche e modellistiche. L’importanza: intesa come l’influenza potenziale che il prodotto scientifico avrebbe nella comunità scientifica se la comunicazione fosse perfetta. L’importanza scientifica si può valutare solo nel lungo periodo, sia per i limiti legati alla difficoltà a comunicare efficacemente la scienza, sia per la difficoltà da parte degli scienziati a riconoscere nel tempo il valore scientifico portato da un autore. L’impatto: ovvero l’influenza realmente esercitata dal prodotto scientifico sulle attività di ricerca nel medesimo settore disciplinare. L’impatto si esplicita principalmente nella forma della citazione (Moed ed al. 1985).

La valutazione della ricerca scientifica: metodi e strumenti Metodi e strumenti bibliometrici: La bibliometria e l’uso delle citazioni. Gli indicatori citazionali: Impact factor, Indice H, altri indici minori. Gli archivi bibliografici e citazionali. La copertura nelle Scienze umane. Metodi e strumenti non bibliometrici: La peer review. Le liste di riviste di qualità Metodi e strumenti esterni alla comunità scientifica: L’impatto socio economico della ricerca nella società: considera i benefici economici, sociali, culturali generati da un’attività di ricerca. La metodologia utilizzata si basa sulla descrizione delle attività di ricerca realizzate e il relativo impatto. Utilizza anche indicatori quantitativi quali ad es. il numero di occupati, il numero di brevetti etc.

La bibliometria: definizione Bibliometria: è una scienza applicata a vari ambiti disciplinari che utilizza tecniche matematiche e statistiche per analizzare i modelli di distribuzione delle pubblicazioni scientifiche, e per verificarne l’impatto all'interno delle comunità scientifiche. Lo strumento cardine della bibliometria è l’analisi citazionale: si tratta dell’esame della frequenza e del modello di citazioni presenti negli articoli e/o testi in generale.

I principali indicatori citazionali e bibliografici L’ Impact factor (o fattore di impatto) è un indice sintetico, elaborato da E. Garfield (1955). Attualmente è di proprietà di Thomson Reuter. L’IF misura il numero medio di citazioni ricevute in un particolare anno da articoli pubblicati in una rivista scientifica nei due anni precedenti, sulle riviste presenti nell’archivio WOS. Indice H di Jorge E. Hirsch, fisico dell’Università della California, che nel 2005 propose un indice per quantificare la prolificità e l'impatto del lavoro degli scienziati, considerando sia sul numero delle pubblicazioni realizzate, sia il numero di citazioni ottenute. Indice H contemporaneo di Sidiropoulos ed altri (2006), attribuisce un peso ad ogni citazione ricevuta dall’articolo a seconda del periodo in cui è stato scritto.

Gli archivi bibliometrici e citazionali WOS (Thomson Reuter): presenta una buona copertura nelle scienze naturali, ma ridotta nelle scienze umane e sociali, e sulle riviste non in lingua inglese. Scopus (Elsevier): Presenta una copertura più ampia (rispetto a WOS) per le scienze sociali e umane e dell’area geografica Europea ed Asiatica. Google scholar: è un motore di ricerca dedicato alle pubblicazioni scientifiche. Le pubblicazioni vengono reperite nel WEB, e sono poi indicizzate. Le scienze umane e sociali sono più rappresentate rispetto a WOS e Scopus. Non si conoscono le fonti utilizzate e neppure i criteri di indicizzazione. Publish or perish: si tratta di un software che ricava i dati direttamente da Google scholar, e che effettua il calcolo di diversi indici. Elabora direttamente l’indice H e altri indici per ciascun autore. Presenta i medesimi punti di forza e limiti di Google scholar.

La copertura degli archivi bibliografici e citazionali Uno studio condotto da Moed nel 2005, sull’archivio bibliografico WOS del 2002, prendendo a riferimento le citazioni presenti negli articoli scientifici, ha messo in evidenza come nei diversi settori scientifici vi siano modalità di citazione e pubblicazione estremamente diverse. Le citazioni relative ad articoli presenti su riviste scientifiche sono: Nelle Scienze biologiche umane, nelle Scienze chimiche e nelle Scienze mediche: oltre il 90%. Nelle Scienze psicologiche: il 75%. Nelle Scienze economiche e ingegneristiche: il 60%. Nelle Scienze sociali (Antropologia, Sociologia, Scienze politiche): il 40%. Nelle Scienze umane: solo il 30%.

. L a valutazione della ricerca nelle Scienze umane Nelle Scienze umane i prodotti della ricerca in molti casi NON sono pubblicati in riviste scientifiche internazionali in lingua inglese e -quando lo sono- spesso non rientrano nei principali archivi bibliografici e citazionali. Per questo motivo NON è possibile valutare i prodotti di tale ambito scientifico attraverso l’esclusivo utilizzo di indicatori bibliometrici (se non in casi isolati: Scienze psicologiche?).

La valutazione con metodi strumenti non bibliometrici La peer review Le liste di riviste

La peer review: definizione ‘Un insieme di pratiche eterogenee e non standardizzate attraverso le quali un gruppo di individui esprime un giudizio sul lavoro scientifico di altri per determinarne la qualità. Gli individui chiamati ad esprimere tale giudizio sono selezionati da un insieme ampio di revisori che sono considerati pari rispetto a colui che ha prodotto il lavoro da giudicare. Di norma l’insieme dei pari è costituito da individui appartenenti a una data comunità disciplinare, che quindi dovrebbero possedere le competenze necessarie per giudicare la qualità del lavoro’ (CFR Baccini, 2010: 52)

La peer review: punti di forza 1. È lo strumento di valutazione della ricerca più diffuso a livello nazionale ed internazionale (es. REF). 2. E’ la metodologia di riferimento utilizzata durante la fase di selezione dei progetti di ricerca per il finanziamento. 3. E’ il principale strumento utilizzato, prima della pubblicazione degli articoli nelle riviste scientifiche (referee). 4. E’ una metodologia molto diffusa di valutazione della qualità delle riviste scientifiche (liste di riviste di qualità).

La peer review: principali critiche Gli scienziati passerebbero più tempo a curare l’edizione dei loro articoli, secondo le linee adottate dai loro revisori, piuttosto che realizzare nuove ricerche scientifiche. Inoltre, il lavoro sarebbe sempre più frammentato al fine di realizzare il maggior numero di articoli scientifici ovvero “affettando il salame”, una simpatica metafora per rappresentare il fenomeno della frammentazione di una ricerca scientifica al fine di produrre più articoli da pubblicare (Jefferson, Shashok e Wager, 2003). Gillies sostiene che la peer review generalmente porta a scartare quei contributi realizzati su argomenti “non convenzionali” che sono definiti da Gillies “pink diamonds” (diamanti rosa), che rappresentano l’eccellenza; mentre sarebbero valutati positivamente i “white diamonds” (diamanti bianchi), che, rimanendo su argomenti noti e tradizionali, non apportano grandi innovazioni a livello scientifico (Gillies, 2008).

Le liste di riviste scientifiche di qualità nelle Scienze umane A causa della scarsa copertura dei prodotti scientifici, delle Scienze Umane, nei principali archivi bibliografici e citazionali internazionali, si è diffusa la creazione di liste di riviste di qualità per individuare criteri di valutazione condivisi nelle comunità scientifiche. Critiche: un gruppo di editori di prestigiose riviste di Storia della Scienza sostiene che il metodo utilizzato per creare le liste (basato su panel ristretti di valutatori e scarsa trasparenza sulle procedure), ne infici fortemente la scientificità. (cfr Royal Society, 2008) criticità proprie del sistema dell’Impact factor: non tutti i papers pubblicati sulla medesima rivista sono equiparabili dal punto di vista della loro qualità e del contributo che apportano alla conoscenza scientifica (Seglen, 1997).

Le liste di riviste scientifiche di qualità nelle Scienze umane: I studio empirico. Le liste analizzate sono state: 1. ERIH INITIAL LISTS: Initial List, discipline History and Philosophy of Science, anno FRANCIA AERES: Listes de Revues SHS (Sciences Humaines et Sociales), Histoire et Philosophie des Sciences, anno AUSTRALIA ERA: Humanities and Creative Arts (HCA), anno JOURNAL CITATION REPORT (JCR): Impact Factor, Isi Thompson, categoria History & Philosophy of Science, Science Edition (SE) e Social Science Edition (SSE), anno UNIVERSITA’ DI BOLOGNA, OSSERVATORIO DELLA RICERCA: A) Riviste con Impact Factor, categoria History & Philosophy of Science: Science Edition (SE), e Social Science Edition (SSE) anno B) Riviste senza Impact Factor, AREA CUN: 11 - SCIENZE STORICHE, FILOSOFICHE, PEDAGOGICHE E PSICOLOGICHE, raggruppamento CUN m-FIL, anno 2009.

Le liste di riviste scientifiche di qualità nelle Scienze umane: I studio empirico. La metodologia. La metodologia utilizzata si è basata sul confronto tra le diverse liste, attraverso la creazione di un data set contenente le principali informazioni sulle riviste. Gli elementi analizzati sono stati i seguenti: 1. La numerosità delle riviste rappresentate in ciascuna lista. 2. La distribuzione dei giudizi riportati dalle riviste in ogni lista. 3. Il confronto tra i giudizi riportati tra le diverse liste di riviste.

Le liste di riviste scientifiche di qualità nelle Scienze umane: I studio empirico. I risultati. Dal confronto fra le liste è emerso: 1. Le liste internazionali, ERIH, ERA, e AERES non presentano dati particolarmente incongruenti tra loro. 2. Le liste di riviste realizzate dall’Osservatorio della Ricerca presentano forti incongruenze tra le liste delle riviste con Impact Factor e quelle senza Impact Factor. I giudizi riportati dalle riviste senza IF sono più alti rispetto alle riviste con IF. Questo è evidente se si confrontano le liste delle riviste realizzate dall’Ateneo di Bologna con quelle realizzate a livello internazionale.

Le liste di riviste scientifiche di qualità nelle Scienze umane: II studio empirico. Le liste analizzate sono state: 1. ERIH REVISED LISTS: discipline History and Philosophy of Science, anno NORVEGIAN LISTS: settore Filosofia e storia delle idee, anno CIRC: Clasificacion Integrada de Rivistas Cientificas: anno JOURNAL CITATION REPORT (JCR): Impact Factor, Isi Thompson, categoria History & Philosophy of Science, Science Edition (SE) e Social Science Edition (SSE), anno ANVUR: A) Concorsi di abilitazione per Professori associati e ordinari. Lista di riviste classe A, Area11, C1 ‐ C2 ‐ C3 ‐ C4 ‐ C5, anno B) VQR 2004/2010, Riviste nazionali di Filosofia e Storia della Scienza, SSD M-Fil/01-08, M- STO/05, anno UNIVERSITA’ DI BOLOGNA, OSSERVATORIO DELLA RICERCA: A) Riviste con Impact Factor, categoria History & Philosophy of Science: Science Edition (SE), e Social Science Edition (SSE), anno B) Riviste senza Impact Factor, AREA CUN: 11 - SCIENZE STORICHE, FILOSOFICHE, PEDAGOGICHE E PSICOLOGICHE, raggruppamento CUN m-FIL, anno 2010.

Le liste di riviste scientifiche di qualità nelle Scienze umane: II studio empirico. La metodologia. La metodologia utilizzata si è basata sul confronto tra le diverse liste attraverso la creazione di un data set contenente le principali informazioni sulle riviste. Gli elementi analizzati sono stati i seguenti: 1. La numerosità delle riviste rappresentate in ciascuna lista. 2. La distribuzione dei giudizi riportati dalle riviste in ogni lista. 3. Il confronto tra i giudizi riportati tra le diverse liste di riviste. 4. La correlazione tra le diverse liste.

Le liste di riviste scientifiche di qualità nelle Scienze umane: II studio empirico. I risultati. 1. Le liste internazionali di valutazione delle riviste, quali l’ERIH, la Norwegian list e la lista CIRC, presentano livelli buoni di correlazione tra loro (r >.50) 2. La lista per la VQR evidenzia un buona correlazione con la lista dell’Osservatorio della ricerca di Bologna senza Impact Factor (r =.46), mentre entrambe sono scarsamente correlate con le riviste internazionali. 3. la lista per la VQR presenta livelli di giudizio molto elevati nella prima fascia: la quota percentuale di riviste in categoria A è pari al 45,6% del totale, rispetto all’ERIH e alla Norwegian list che hanno nella prima classe rispettivamente il 21% e il 16%.

Le liste di riviste scientifiche di qualità nelle Scienze umane: II studio empirico. I risultati. La lista per l’Abilitazione Scientifica Nazionale (ASN) presenta una scarsa presenza delle proprie riviste negli altri repertori internazionali (solo il 32% in ERIH e appena il 25% nella Norwegian). Questo denota il forte carattere nazionale della lista. Inoltre, le riviste risultano mediamente sovrastimate nei giudizi ottenuti, soprattutto se confrontate con le principali liste di riviste prodotte a livello internazionale (solo il 58% delle riviste in classe A dell’ASN è presente nella categoria superiore dell’ERIH e il 57% nella Norwegian).

Conclusioni Quale valutazione è possibile nelle diverse discipline scientifiche? Quali strumenti/metodi sono adeguati per la valutazione della ricerca nelle Scienze umane?

. Conclusioni: la valutazione della ricerca nelle diverse discipline scientifiche Nelle Scienze naturali, con le dovute specificità di ogni singolo settore disciplinare, gli strumenti quantitativi possano rappresentare un supporto per il valutatore; a patto che questi siano predisposti tenendo conto delle caratteristiche di ogni ambito disciplinare e che siano costituiti da un’ampia gamma di indicatori e indici, anche qualitativi (come suggerito nella dichiarazione di San Francisco- Declaration on Research Assessment- DORA).

. Conclusioni: la valutazione della ricerca nelle diverse discipline scientifiche Nelle Scienze umane, anche in questo caso tenendo conto delle specificità di ogni singolo settore disciplinare, la valutazione della ricerca deve necessariamente passare attraverso la Peer review; ma quest’ultima può essere supportata da strumenti quali le liste di riviste internazionali o indicatori citazionali, che possono rappresentare un punto di partenza a supporto del valutatore, fornendo informazioni sul grado di qualità, impatto e riconoscimento della pubblicazione nella comunità scientifica internazionale.

. Conclusioni: le liste di riviste di qualità Le liste non possono essere utilizzate per obiettivi diversi rispetto a quelli predefiniti al momento della loro creazione. Questo perché ciascuna lista nasce per rispondere a scopi ed obiettivi definiti e a volte molto specifici; di conseguenza, il loro utilizzo per la valutazione della ricerca può portare a risultati fuorvianti. Laddove sono state realizzate le prime esperienze internazionali di liste di riviste (Australia e Francia), queste poi sono state progressivamente abbandonate, a causa dell’ampio numero di critiche che sono giunte dalla parte più influente dell’Accademia scientifica locale.

. Conclusioni: le liste di riviste di qualità le liste di riviste internazionali (ERIH, Norwegian list) possono rappresentare, per chi si occupa di valutazione della ricerca, un punto di partenza, a cui devono necessariamente essere affiancati altri strumenti di valutazione (quali ad esempio la peer review, le analisi citazionali, etc); le liste italiane (ANVUR, in primis) rischiano, invece, di essere uno strumento poco utile ed in alcuni casi inadeguato al fine di una corretta valutazione della ricerca, a causa della scarsa internazionalizzazione dei repertori e dei giudizi generalmente troppo elevati attribuiti alle riviste.

Grazie dell’attenzione! Stefano Piazza

L’impatto socio economico della ricerca all’Università di Exeter: un case study. Conclusioni L’esperienza inglese rappresentata dal REF, rappresenta un punto di riferimento a livello internazionale. Il dibattito in corso sugli strumenti che possono essere utilizzati per misurare i benefici nella società, nell’economia e nella cultura, è ancora aperto e gli strumenti devono essere perfezionati e migliorati. Le Scienze umane, non presentano elementi di maggiori difficoltà nella valutazione d’impatto rispetto agli altri settori disciplinari, sia nella descrizione delle attività di ricerca realizzate sia nella presentazione di evidenze a supporto dell’impatto della ricerca.

Le liste di riviste scientifiche di qualità nelle Scienze umane: II studio empirico. La metodologia. L’indice impiegato per il calcolo della correlazione, è l'indice di correlazione R per ranghi di Spearman (tramite il software SPSS). Si tratta di una misura statistica non parametrica della correlazione che misura il grado di relazione tra variabili ordinali.

L’uso delle citazioni nella valutazione della ricerca: punti di forza Teoria normativa delle citazioni: il ricercatore riconosce il proprio credito nei confronti dei colleghi citando i contributi che lo hanno influenzato (Merton, 1988). la citazione rappresenta il riconoscimento dato da uno scienziato al lavoro di altri e, in modo forse indiretto, si tratta di un indicatore dell’influenza e dell’impatto di un ricercatore nella comunità scientifica (Cronin, 1995).

L’uso delle citazioni nella valutazione della ricerca: punti di forza Nelle Scienze psicologiche, Smith e Eysenck (2002) hanno individuato numerosi elementi di similarità tra le analisi citazionali con i giudizi espressi con la peer review nel RAE inglese (indice di correlazione r =.91). Nelle Scienze naturali, la comparazione tra analisi citazionali e giudizi espressi nella peer review nel RAE inglese ha dato luogo a risultati simili alle Scienze psicologiche, con correlazioni prossime a 1 (Harnard, 2007).

L’uso delle citazioni nella valutazione della ricerca: criticità L’accessibilità della pubblicazione: recenti studi, soprattutto nell’ambito delle Scienze fisiche, hanno evidenziato che gli articoli pubblicati in modalità “Open access”, cioè scaricabili gratuitamente dalla rete internet, hanno maggiori possibilità di essere citati grazie alla loro maggiore accessibilità (Harnard, 2007). Teoria delle “sleeping beauties”: un studio condotto da Van Raan nel 2004, ha mostrato che vi sono pubblicazioni scientifiche che rimangono a lungo non citate (l’autore le definisce “le belle addormentate”), per poi “svegliarsi” improvvisamente ed essere citate numerose volte. Secondo Van Raan ciò dipende dal fatto che vi sono teorie scientifiche che richiedono tempi molto lunghi per essere assimilate dalla comunità scientifica. Gli errori nelle citazioni nel testo (Wetterer, 2006).

La copertura degli archivi bibliografici e citazionali I ricercatori tendono a sovra-citare la documentazione scientifica nella propria lingua: americani e inglesi citano propri colleghi nazionali per il 99% dei casi, contro una presenza stimata del 70% della produzione scientifica mondiale, mentre tedeschi e francesi citano pubblicazioni nella loro lingua per il 60%, contro una presenza stimata del 10% (Hicks, 2004).

Gli archivi bibliometrici e citazionali: Web Of Science (WOS) di proprietà di Thomson Reuter, si basa sulle riviste scientifiche che adottano rigorose procedure finalizzate a preservare la qualità del data base: 1) Peer review; 2) Internazionalizzazione del comitato di redazione; 3) regolarità di pubblicazione della rivista. Punti di forza: Copertura delle più importanti riviste internazionali. Rigorosi criteri di selezione delle riviste. Costante aggiornamento dei dati. Punti di debolezza: La consultazione dell’archivio è a pagamento. Limitata presenza delle riviste non in lingua inglese. Le Scienze umane e sociali sono scarsamente rappresentate.

Gli archivi bibliometrici e citazionali: Scopus Creato nel 2004 è di proprietà della casa editrice Elsevier. Si basa sulle riviste scientifiche che adottano rigorose procedure di peer review e pubblicano con cadenza regolare. Per le riviste scritte in lingua non inglese, devono pubblicare il titolo e gli abstract degli articoli in lingua inglese. Punti di forza: Vi è una forte copertura di atti di convegni, articoli in corso di stampa e abstract e citazioni relative. Rispetto a WOS, Scopus ha una maggiore copertura nelle pubblicazioni dell’area geografica Europea ed Asiatica. Rispetto a WOS ha una maggiore copertura delle riviste delle Scienze umane. Punti di debolezza: La copertura delle citazioni avviene a partire dal In generale, in Scopus è rilevata una quantità di errori superiore a WOS. L’accesso all’archivio è a pagamento.

Gli archivi bibliometrici e citazionali: Google scholar Si tratta di motore di ricerca dedicato alle pubblicazioni del mondo accademico e scientifico. Le pubblicazioni scientifiche vengono reperite nel WEB, e sono poi indicizzate utilizzando il famoso algoritmo messo a punto da Google (Page rank). I risultati della ricerca permettono: 1) l’accesso diretto alla pubblicazione scientifica; 2) il conteggio del numero di citazioni; 3) il collegamento diretto agli articoli e libri che l’hanno citata. Punti di forza: Si possono reperire le informazioni disponibili sulla rete Internet gratuitamente e con un’interfaccia molto gradevole. le pubblicazioni scientifiche ricercate non presentano limiti di lingua o nazionalità. Si ha una buona copertura per le Scienze umane e sociali. Punti di debolezza: Non si conoscono le fonti che sono utilizzate per reperire le informazioni sulle pubblicazioni scientifiche, e neppure i criteri di indicizzazione di queste ultime. La qualità delle pubblicazioni scientifiche presenti è inferiore rispetto a WOS e Scopus.

Gli archivi bibliometrici e citazionali: Publish Or Perish (POP) Si tratta di un software sviluppato da Anne-Wil Harzing, dell’Università di Melbourne (Australia), che permette di ottenere, attingendo ai dati presenti in Google Scholar, diversi indici bibliometrici, tra cui l’indice H. Punti di forza: Poiché attinge i dati direttamente da Google Scholar, gli indici bibliometrici che se ne ricavano hanno una copertura maggiore in determinate discipline scientifiche (Scienze umane e sociali) rispetto a Scopus e WOS, ed anche le lingue e le nazionalità sono maggiormente rappresentate. Punti di debolezza: Non si conoscono le fonti di provenienza delle pubblicazioni scientifiche, e neppure i criteri di indicizzazione. La qualità delle pubblicazioni scientifiche presenti in POP può essere inferiore rispetto ai principali archivi bibliografici e citazionali

Gli indicatori citazionali e bibliografici: Impact factor Il fattore di impatto (Impact factor o IF in inglese) è un indice sintetico, elaborato da E. Garfield (1955). Attualmente è di proprietà di Thomson Reuter. L’IF misura il numero medio di citazioni ricevute in un particolare anno da articoli pubblicati in una rivista scientifica nei due anni precedenti, sulle riviste presenti nell’archivio WOS. Punti di forza: L’Impact factor, grazie alla sua ampia diffusione a livello internazionale, rappresenta l’indicatore bibliometrico maggiormente utilizzato per la valutazione della ricerca. Presenta numerosi punti di forza collegati alle caratteristiche dell’archivio bibliografico (WOS), da cui si ricavano i dati per l’elaborazione dell’indice. Punti di debolezza: Ricavando i dati per il calcolo da WOS, presenta una scarsa copertura nelle Scienze umane e sociali e delle riviste non in lingua inglese. L’Impact factor nelle Scienze umane e sociali risulta inadeguato poiché la produzione scientifica avviene principalmente attraverso la pubblicazione di monografie o su riviste scientifiche nazionale.

Gli indicatori citazionali e bibliografici: un esempio pratico per il calcolo dell’Impact factor di una rivista nel 2008 Citazioni nel 2008, di articoli pubblicati su una rivista nel biennio 2006/2007: Articoli del 2007 = 32 citazioni nel 2008 Articoli del 2006 = 43 citazioni nel 2008 Totale citazioni nel 2008 di articoli del biennio 2006/2007=75 Articoli pubblicati su una rivista nel biennio 2006/2007: 2007 = 86 articoli 2006 = 69 articoli Totale articoli del biennio 2006/2007 =155 Calcolo dell'IF 2008 per la rivista: 75/155= Nature, ad esempio, ha un IF di 34,48!!!

Gli indicatori citazionali e bibliografici:Indice H Jorge E. Hirsch un fisico dell’Università della California, nel 2005 propose un indice per quantificare la prolificità e l'impatto del lavoro degli scienziati, considerando sia sul numero delle pubblicazioni realizzate, sia il numero di citazioni ottenute. Punti di forza: È un indice matematico molto semplice. Considera sia il numero di pubblicazioni sia il numero di citazioni. Può essere applicato al singolo studioso, ai gruppi di ricerca, ai dipartimenti, alle università. Punti di debolezza: L’indice H non esclude le citazioni che provengono dallo stesso autore. Il numero di co-autori: non tiene conto del lavoro individuale di ciascun autore, favorendo di fatto le opere che sono state realizzate da più ricercatori. Tende a sfavorire i ricercatori più giovani, o quelli che hanno appena iniziato a svolgere attività di ricerca: l’indice H, è maggiormente efficace in un’ottica di lungo periodo.

Gli indicatori citazionali e bibliografici: un esempio pratico per il calcolo dell’indice H Uno studioso avrà un indice H pari a 5, quando avrà pubblicato 5 papers (articoli pubblicati su riviste scientifiche), citati almeno 5 volte ciascuno (c=p=h). Infatti analizzando la figura 1, il paper con un maggior numero di citazioni è stato citato 12 volte, il secondo 8 volte, il terzo e il quarto 6 volte il quinto 5 volte. I rimanenti papers hanno un numero di citazioni che è inferiore a 5 e non possono essere presi in considerazione. Fig. 1 Distribuzione citazioni per ciascun paper

Gli indicatori citazionali e bibliografici: Indice H contemporaneo L’indice H contemporaneo di Sidiropoulos ed altri (2006), attribuisce un peso ad ogni citazione ricevuta dall’articolo a seconda del periodo in cui è stato scritto. Quindi per gli articoli scritti di recente verrà dato un peso alle citazioni ricevute più alto, mentre per i paper realizzati da molto tempo sarà dato un peso minore alle citazioni. Per i ricercatori che sono entrati recentemente nel mondo accademico, l’indice H contemporaneo tenderà a corrispondere all’indice H, mentre coloro che hanno un’anzianità di servizio piuttosto elevata avranno livelli dell’indice H contemporaneo significativamente più bassi rispetto all’indice H

Critiche al Research Assessment Exercise (RAE) Geuna e Martin in “Research University Evaluation and Funding” del 2003 sostengono che nel lungo periodo i benefit nell’attribuire i finanziamenti sulla base delle performance della ricerca sono minori dei costi. Questo perché i ricercatori tendono a focalizzarsi su temi di ricerca rispondenti alle linee guida del RAE e non sviluppano nuovi temi di ricerca. Inoltre la necessità di pubblicare ad ogni costo, per ottenere i finanziamenti, porta a trascurare le ricerche di lungo corso in favore degli studi che portano nell’immediato ad una pubblicazione. Gli autori sostengono che risulta invece più equilibrato un sistema come quello olandese o scandinavo (anni 90), dove invece la valutazione della ricerca non è direttamente collegata alla concessione di finanziamenti. A partire dagli anni 2000 l’Olanda ha modificato l’approccio avvicinandosi al modello Inglese.