CIVR Comitato di Indirizzo per la Valutazione della Ricerca ________________________________

1. VTR 2001- 2003 CIVRComitato di Indirizzo per la Valutazione della Ricerca________________________________ Incontro CRUI del 30 marzo 2006, ore 11Panel 01 Scienze matematiche e informaticheProf. Alfio Quarteroni

2. Scopie specificità del VTR • Suggerire regole e procedure di riferimento per la valutazione del Sistema Nazionale della Ricerca. • Migliorare il collegamento istituzionale tra risultati della valutazione e allocazione delle risorse. • Avviare procedure sistematiche di raffronto. • Favorire la diffusione dei risultati della ricerca. • Assicurare trasparenza al processo.

3. Il processo Governo Strutture di ricerca Comunità scientifica Giudizi • Dati & informazioni • Relazione NUV/CIV Prodotti Strutture di ricerca

4. Strutturepartecipanti

5. 15 a Scienze e tecnologie per una società dell'informazione e della comunicazione 15 b Scienze e tecnologie per la qualità e la sicurezza degli alimenti 15 c Scienze e tecnologie dei nano/microsistemi 15 d Scienze e tecnologie aerospaziali 15 e Scienze e tecnologie per lo sviluppo e la governance sostenibili 15 f Scienze e tecnologie per la valutazione e la valorizzazione dei beni culturali Aree • Scienze matematiche e informatiche • Scienze fisiche • Scienze chimiche • Scienze della terra • Scienze biologiche • Scienze mediche • Scienze agrarie e veterinarie • Ingegneria civile ed architettura • Ingegneria industriale e dell’informazione • Scienze dell’antichità, filologico-letterarie e storico-artistiche • Scienze storiche, filosofiche, psicologiche e pedagogiche • Scienze giuridiche • Scienze economiche e statistiche • Scienze politiche e sociali

6. Prodotti selezionabili • Libri • Capitoli di libri • Articoli su riviste • Brevetti e risultati di valorizzazione applicativa • Progetti, composizioni, disegni e design • Performance, mostre ed esposizioni • Manufatti e opere d'arte

7. Selezione dei prodotti (1) • Le strutture (Universita’, etc.) hanno selezionato in autonomia i prodotti da trasmettere ai Panel. • Il numero complessivo di prodotti selezionati è stato fissato nel 50% del numero medio annuo dei ricercatori della Struttura (calcolato sul triennio), espressi in ETP. • Non era obbligatorio presentare prodotti in ogni area o settore disciplinare della stessa. • Le aree prive di prodotti sono state giudicate inattive. • L’area selezionata dipendeva dalla collocazione del prodotto e non da quella degli autori. • Per ciascun prodotto è stata trasmessa una scheda illustrativa, con l’allegato in pdf della pubblicazione. (In assenza di allegato, è stata richiesta alle Strutture copia cartacea)

8. Selezione dei prodotti (2) • La singola Struttura poteva presentare ciascun prodotto selezionato in una sola Area; • Strutture diverse potevano selezionare prodotti identici e presentarli anche in Aree diverse; • Ciascun prodotto selezionato, anche se presentato in Aree diverse, è stato sottoposto ad un unico iter valutativo, che ha coinvolto tutti i Panel interessati.

9. Giudizio di merito sui prodotti • Ogni prodotto è stato valutato da almeno due esperti esterni, per i seguenti criteri: • qualità • rilevanza • originalità/innovazione • internazionalizzazione • impatto economico-occupazionale, anche potenziale (per i risultati di valorizzazione applicativa) • Per ciascun criterio gli esperti hanno formulato un giudizio di merito descrittivo.

10. Criteri (1) • Qualità: posizionamento del prodotto rispetto all’eccellenza scientifica nella scala di valore condivisa dalla comunità scientifica internazionale. Il giudizio di merito è affidato ad esperti esterni indipendenti, che operano nel settore o in settori affini a quello di appartenenza del prodotto (peer review). • Rilevanza: valore aggiunto per l’avanzamento della conoscenza nel settore e per la scienza in generale, nonché per i benefici sociali derivati, anche in termini di appropriatezza, efficacia, tempestività e durata delle ricadute. Integra il giudizio di qualità. • Originalità/innovazione: contributo a nuove acquisizioni o all’avanzamento di conoscenze, nel settore di riferimento. Integra il giudizio di qualità.

11. Criteri (2) • Internazionalizzazione: posizionamento nello scenario internazionale, in termini di rilevanza, competitività, diffusione editoriale e apprezzamento della comunità scientifica, inclusa la collaborazione esplicita con ricercatori e gruppi di ricerca di altre nazioni. Integra il giudizio di qualità. • Impatto: effetti sociali, economici e culturali, diretti e indiretti del prodotto.

12. Livelli di merito dei prodotti (1) • Ciascun esperto ha espresso su ogni prodotto un giudizio unico e complessivo, con attribuzione a quattro livelli di merito (in coerenza con il giudizio descrittivo): • eccellente • buono • accettabile • limitato

13. Livelli di merito dei prodotti (2) • Eccellente: la qualità del prodotto si colloca nel 20% superiore della scala di valore condivisa dalla comunità scientifica internazionale. • Buono:il prodotto si colloca nel segmento 60-80%. • Accettabile:il prodotto si colloca nel segmento 40-60%. • Limitato: il prodotto si colloca nel 40% inferiore.

14. Componenti del Panel 01 • ALBEVERIO SERGIO (Bonn) • CANNONE MARCO (CNRS-Paris) • NIVAT MAURICE (Paris) • PICCOLI BENEDETTO (CNR-Roma) • PROCESI CLAUDIO (Roma-La Sapienza) • QUARTERONI ALFIO (Presidente) • (Politecnico di Milano e EPFL, Lausanne) • VANNESCHI MARCO (Pisa)

15. Distribuzione dei prodotti • I prodotti sono stati distribuiti fra i panelist in base alle specifiche competenze: • Panelist Prodotti assegnati • Sergio Albeverio 124 • Marco Cannone 126 • Maurice Nivat 71 • Benedetto Piccoli 147 • Claudio Procesi 139 • Alfio Quarteroni 130 • Marco Vanneschi 50 • Totale 787

16. Sottogruppi del Panel 01 • CONSENSUS GROUP N.1:NIVAT MAURICE PICCOLI BENEDETTO QUARTERONI ALFIO MARIA VANNESCHI MARCO • (Mat. Appl. e Informatica) • CONSENSUS GROUP N.2:ALBEVERIO SERGIO CANNONE MARCO PROCESI CLAUDIO • (Mat.”Pura”)

17. Prodotti valutati nell’area

18. Numero di prodotti presentati Grandi strutture (≥25 prodotti)

19. Numero di prodotti presentati Medie strutture (10-24 prodotti)

20. Numero di prodotti presentati Piccole strutture (≤9 prodotti)

21. Esperti esterni coinvolti

22. Tipologia dei prodotti (1)

23. Tipologia dei prodotti (2)

24. Riviste ricorrenti

25. Tipologia e qualità dei prodotti

26. Distribuzione per Lingua Nelle diverse Aree

27. 1. Matematica 2. Fisica 3. Chimica 4. Geologia 5. Biologia 6. Medicina 7. Sc Agrarie - 8. Ing Civile - Arch 9. Ing Industriale - 10. Sc Filol-Lett Stor-Art 11. Sc Stor Filos Psic 12. Sc Giuridiche 13. Economia - 14. Sc Politiche - Sociali 15a ICT 15b. Qualità Alimenti 15c. Nano e Micro Tec 15d. Sc Aerospaziali 15e. Sviluppo 15f. Beni Culturali Grado medio di Proprietà

28. Distribuzione dei giudizi (2) Andamento complessivo per area

29. Distribuzione dei giudizi (3)

30. Analisi divergenze giudizi

31. Media ( ♦ ) e intervallo di variazione ( ) Impact Factor dei prodotti (1)

32. La Valutazione delle Aree (1)

33. La Valutazione delle Aree (2) Il rating Esprime il giudizio medio sui prodotti presentati da ogni singola Struttura nelle diverse Aree. Si ottiene dividendo la somma dei giudizi pesati attribuiti ai singoli prodotti (prodotti pesati) per il numero totale di prodotti presentati.

34. La Valutazione delle Aree (5)

35. La Valutazione delle Aree (6) Analisi dei dati: Il panel ha classificato i prodotti secondo i seguenti settori scientifico-disciplinari del MIUR, Area 01-Scienze matematiche e informatiche: MAT 01 Logica matematicaMAT 02 AlgebraMAT 03 GeometriaMAT 04 Matematiche complementari MAT 05 Analisi matematicaMAT 06 Probabilità e statistica matematicaMAT 07 Fisica matematicaMAT 08 Analisi numerica MAT 09 Ricerca operativa e in più Informatica teorica Software Algoritmica non numerica

36. La Valutazione delle Aree (7)

37. Suggerimenti (1) Possibilità di un terzo giudizio: per i prodotti che hanno ricevuto giudizi molto discordanti (ad es. E-L), si potrebbe sempre chiedere un terzo giudizio ad un esperto indipendente. Un grado di giudizio in più (o in meno): la distinzione buono/eccellente risulta forse troppo sfumata. Può essere utile sia introdurre una nuova fascia “very good”, sia ridurre i gradi di giudizio a tre. Inoltre si potrebbe indicare una stima di massima del numero di prodotti da ritenere eccellenti, da cui non discostarsi eccessivamente.

38. Suggerimenti (2) Correttivi nel ranking? E' chiaro che per strutture medie/grandi la legge dei grandi numeri gioca a favore del processo di valutazione e produce un risultato ragionevole. Per piccole strutture, invece, accade il contrario, e le fluttuazioni statistiche sono significative. Sembra opportuno mettere un limite inferiore al numero dei prodotti oppure introdurre più criteri per strutture piccole. Correttivi “locali”: si potrebbe considerare la customizzazione per area di alcuni (se non tutti) fra i criteri di valutazione, direttamente da parte del CIVR con la collaborazione del Panel di area.