La Scuola-autori INVALSI: esperienza di confronto e condivisione

1. La Scuola-autori INVALSI: esperienza di confronto e condivisione Ida Spagnuolo – Liceo Scientifico Morgagni - Roma

2. Una domanda Nel maggio 2011 la prova SNV è diventata obbligatoria per il Livello 10 e i miei studenti e anche alcuni colleghi, mi hanno rivolto diverse domande. In particolare mi hanno chiesto • “Chi prepara la prova?”

3. Chi prepara le prove? “Le domande delle prove, i cui contenuti rispettano un preciso quadro di riferimento sia per l’italiano sia per la matematica, sono predisposte da insegnanti dei diversi livelli scolastici opportunamente formati. Queste domande sono prima testate su un campione ristretto di studenti per verificarne l’affidabilità e la validità e, successivamente, solo quelle valide vengono scelte collegialmente da un team di esperti” http://www.invalsi.it/snvpn2013/index.php?action=materialistudenti

4. La Scuola _ autori • La scuola autori dell’INVALSI è costituita da docenti di ogni ordine e grado e nel corso degli anni ha modificato alcune modalità di lavoro al fine di favorire sempre più la condivisione • Il lavoro prevede diverse fasi ed è preceduto da una preparazione specifica individuale (analisi QdR, documenti normativi, Rapporti tecnici, …)

5. I quadri di riferimento – I e II ciclo Sono strumenti che contengono, tra le altre informazioni , le due dimensioni della valutazione: contenuti e processi e sono realizzati - in un’ottica di continuità • per essere utilizzati nella fase preparatoria dei questionari • per supportare gli insegnanti* a interpretare i risultati ottenuti dalle singole classi nelle prove del SNV • per essere usati dai responsabili dei diversi livelli come strumento per interpretare i risultati del sistema nel suo complesso, per poter adottare opportune strategie di intervento o per riflessioni sul curricolo programmato.

6. Documenti normativi per i QdR • le Indicazioni per il curricolo della scuola primaria e secondaria di primo grado(2007) vengono rimodulate e sono contenute in un documento del MIUR , pubblicato nel settembre 2012 e successivamente divenuto oggetto di decreto ministeriale (D.M. 254 del 16/11/2012) • documenti relativi all'Obbligo di istruzione (cfr. legge 26 dicembre 2006, n.296, elevazione dell’obbligo di istruzione a 10 anni; le Raccomandazione del Parlamento Europeo e del Consiglio del 18 dicembre 2006 - competenze chiave di cittadinanza e gli assi culturali) • Indicazioni Nazionali (e OSA) per i licei • Linee guida per l’istruzione tecnica e professionale

7. La prima fase Autore Un esempio: luglio 2013 Ciascun autore porta del materiale predisposto secondo specifiche richieste I docenti partecipanti - in gruppi da tre - lavorano per livelli (o gruppi di livelli) sotto la guida costante di un coordinatore Il numero di gruppi è stato variabile: da 3 (L10) a 11 (L02 + L05)

8. Il “cuore” del lavoro di autore Costruire una prova che fornisca informazioni sugli apprendimenti in matematica degli studenti delle scuole italiane “Question intent” : partiamo da quello che vogliamo sapere, e costruiamo di conseguenza la domanda

9. L’etichettatura Ogni item deve essere etichettato dall’autore L’etichettatura è un aspetto fondamentale perché serve: • agli autori - come primo momento di riflessione • ai revisori – per l’analisi, l’eventuale scelta e modifiche prima e dopo il pretest • a tutti coloro che ne dovranno poi utilizzare i risultati

12. Analisi dell’esperienza A posteriori ecco le domande alle quali ho cercato di dare risposta insieme ai miei “due compagni di cordata” . • Lapartecipazione alla scuola autori: quali aspettative? • La scelta e preparazione del materiale da presentare al gruppo:quale logica? • Aspetti positivi e negativi del lavoro “a tre” • Cosa modificare nell’organizzazione del lavoro?

13. Le aspettative • Crescere dal punto di vista della produzione dei quesiti ma anche, più in generale, dal punto di vista professionale. • Confrontarsi con colleghi con diversi approcci concettuali o applicativi, per poter aggiungere contributo alla visione personale dell’insegnare e imparare la matematica. Le nostre esperienze precedenti sono state di lavoro “solitario” (non per tutti è stato così)

14. La preparazione del materiale • Stimoli dalla quotidianità - lettura di giornali, notizie su internet, esperienze personali… • Stimoli da parte di studenti – domande poste, applicazioni didattiche, … • Scambi d’idee, di opinioni e di materiali con colleghi, non necessariamente di matematica.

15. Il lavoro “a tre” … • lessicale: doveva essere chiaro, possibilmente breve, non ripetitivo, non ambiguo, completo • contestuale: la situazione doveva essere accattivante/stimolante, ma anche plausibile o realistica. • grafico: gli elementi grafici dovevano essere chiari, univoci e di effetto, purtroppo in bianco e nero • concettuale: si doveva chiarire in maniera netta lo scopo, capire tutte le possibili strategie di pensiero e scegliere come sviluppare la situazione in più sottodomande, con singoli sottoscopi univoci • metacognitivo: si doveva riesaminare tutto il lavoro fatto cercando di catalogarlo in base ai processi messi in atto o alle conoscenze specifiche da testare.

16. … e la contaminazione di idee A propone una situazione Bcomincia a fare domande, mettendo in luce anche nuovi aspetti a cui A non aveva pensato e anche C dice le sue impressioni e propone alcune variazioni che poi vengono rimaneggiate e continuamente discusse, con un ritmo incalzante, da tutti i componenti. Il prodotto finale, ormai orfano di padre/madre o meglio avente tre nuovi genitori A-B-C, è molto più valido del prodotto di partenza che comunque era indispensabile per l’innesco del lavoro.

17. Eventuali modifiche Avere qualche informazione in più sul lavoro svolto dai gruppi degli altri livelli (era previsto un confronto quotidiano con i gruppi del medesimo livello) per un confronto trasversale sia in termini di contenuti che di processi. In poche parole: cosa implementare nel corso degli anni?

18. Questionintent Perché è così importante?

19. Perché nell’ottica di una prova che fornisca informazioni sugli apprendimenti sia al sistema che ai docenti che operano nella realtà quotidiana, deve essere chiaramente descritto lo scopo dell’item ma deve risultare altresì evidentemente deducibile – attraverso la risposta attesa e senza ambiguità - il processo da testare

20. Un primo esempio (L10 – 2012/13)

22. Se lo scopo è la determinazione dell’area di una figura piana in posizione non standard, i due processi possibili che portano alla risposta corretta in base • al riconoscimento del parallelogramma e delle relative grandezze caratteristiche (b ed h) Oppure • alla strategia “per sottrazione” a partire dal quadrato e dai due triangoli rettangoli forniscono, in ogni caso, l’acquisizione della competenza richiesta

23. Un altro esempio (L10 – 2010/11)

24. Tralascio, per ovvi motivi, l’item D13_a Appare evidente che lo scopo dell’ item D13_b è costruire un modello : p = 4n-2(25-n) = 6n – 50 e quello dell’item D13_c di utilizzare tale modello per “tradurre” la richiesta nella disequazione 6n – 50 ≥ 60 Per quest’ultimo item tuttavia bastava procedere per tentativi e scoprire così che, per avere la sufficienza, il numero di quesiti esatti deve essere almeno 19 Ma in questo modo la risposta corretta non fornisce certezza sull’acquisizione della competenza richiesta

25. e ancora … (L10 - 2012/13) D24. Al centro della figura c'è un quadrato nero Q. Il quadrato è circondato da una prima cornice bianca formata da 8 quadrati tutti uguali a Q e da una seconda cornice grigia. Immagina che la figura si estenda con successive cornici (terza, quarta, ecc.) sempre formate da quadrati tutti uguali a Q. a. Quanti sono i quadrati della quarta cornice? Risposta: ..................

26.  b. Se si continua a estendere la figura nello stesso modo, è possibile ottenere una cornice formata da 70 quadrati tutti uguali a Q? Scegli una delle due risposte e completa la frase. □ È possibile ottenere una cornice di 70 quadrati perché …………………………….. □ Non è possibile ottenere una cornice di 70 quadrati perché ……………………….

27. Tralascio, per ovvi motivi, l’item 24_a Lo scopo dell’item 24_b è individuare una regolarità nella successione del numero di quadrati E’ vero che continuando il disegno delle cornici e contando direttamente il numero di quadrati si può giungere alla risposta corretta ma tale strategia diventa “impraticabile” in termini di tempo impiegato Ci si attende quindi che chi risponde correttamente all’item b dimostri di possedere competenze nell’osservare e scoprire regolarità.

28. Le fasi successive

29. Autore Revisioni del gruppo di livello Preparazione pretest Somministrazione pretest Analisi prestest Preparazione test TEST

30. II fase Revisioni del gruppo di livello -Preparazione pretest I quesiti formulati dagli autori passano ai “gruppi di livello” che lavorano secondo il seguente protocollo: • inizialmente a distanza, ciascun componente del gruppo di livello esamina alcuni quesiti, inizia a proporne modifiche, evidenzia punti di forza e di debolezza e raccoglie le proprie osservazioni in un file che viene messo a disposizione di tutti i componenti del gruppo su una piattaforma dell’INVALSI, ad accesso riservato • successivamente in una prima riunione (Skype) si condividono perplessità, si avanzano richieste di modifica, di sostituzione e cambiamento dei quesiti.

31. Il coordinatore si occupa di raccogliere tutte le osservazioni e prepara due proposte di fascicoli che vanno a costituire la prima bozza dei due pretest. • Segue quindi una prima riunione in presenza (un giorno e mezzo di lavori del gruppo al completo) in cui si esaminano approfonditamente i due fascicoli proposti dal coordinatore e si perviene a una seconda bozza dei due fascicoli. • Adesso ciascun componente del gruppo ha circa un mese di tempo per riesaminare la seconda bozza dei fascicoli e può inserire sulla piattaforma dell’INVALSI i commenti sulla seconda bozza.

32. Il coordinatore raccoglie i commenti e compone una terza bozza - con griglia di risoluzione - e consegna questo lavoro a un docente esperto esterno che NON ha mai partecipato alle precedenti fasi. • I commenti dell’esperto esterno sono raccolti dal coordinatore e oggetto di ulteriore discussione da parte del gruppo di lavoro. Su questa base viene costruita la quarta bozza del pretest (2 fascicoli) • I due pretest, vengono quindi esaminati e discussi da un altro gruppo di lavoro dell’INVALSI, e apportate eventuali modifiche, soprattutto tese a migliorare il testo (del gruppo fa parte anche una linguista)

33. III fase Somministrazione pretest e analisi pretest I due fascicoli vengono finalmente pretestati. Una ricercatrice, seguita dal coordinatore del gruppo di livello, analizza le risposte degli studenti e evidenzia i quesiti che hanno comportato maggiori problemi nella correzione o risoluzione. La correzione è condivisa dalla ricercatrice e dal coordinatore e solo dopo tale condivisione i risultati vengono analizzati automaticamente per l’elaborazione statistica.

34. IV fase Preparazione test • Nell’anno successivo, verso i primi di ottobre, il gruppo di lavoro dell’INVALSI, con i coordinatori del gruppo di livello, esamina i risultati del pretest e, con le domande che sono risultate migliori dal punto di vista misurativo, tenendo presenti gli equilibri tra i vari processi, gli ambiti di contenuto e le tipologie dei quesiti, definisce il test finale. • Il gruppo di lavoro esamina il test così prodotto; riesegue tutti le domande e controlla la griglia di correzione ed infine un esperto esterno, che non ha partecipato ad alcuna delle fasi precedenti, controlla alla sola ricerca di errori dal punto di vista matematico.

35. La genesi di un item Alcuni esempi

36. Dal Testo dell’autore …

37. Etichettatura del’autore

38. … alla revisione … La discussione porta a modificare: • la grafica • la tipologia: da MC a RG La seconda modifica aggiunge quindi la richiesta di argomentazione e “cambia” in parte lo scopo dell’item

39. … per il pretest

40. I risultati del pretest Alcuni dati del pretest (condotto su 879 studenti): • Risposta errata: 58.25% • Risposta corretta : 8.87 % • Risposta non data : 32,88% La ricercatrice e il gruppo di lavoro decidono di modificare nuovamente l’item tornando alla tipologia MC che, in questo caso, prevede la scelta di un’argomentazione corretta

41. SNV 2012/13 – L10

42. Etichettatura e risultati AMBITO PREVALENTE • Spazio e figure SCOPO DELLA DOMANDA • Riconoscere, tra diverse argomentazioni, quella corretta. RISPOSTA CORRETTA: A PROCESSO PREVALENTE • Utilizzare forme tipiche del ragionamento matematico. Indicazioni Nazionali e Linee Guida • Fondamenti della geometria euclidea del piano. • Conoscere e usare misure di grandezze geometriche: perimetro, area e volume delle principali figure geometriche del piano e dello spazio. RISULTATI DEL CAMPIONE

43. Storia delle cornici quadrate TITOLO dell’autore: Anelli quadrati La figura mostra un quadrato Q, circondato da un primo anello formato da 8 quadrati uguali. Vediamo anche un secondo anello formato da 16 quadrati ed un terzo anello più esterno. Immaginiamo che la figura si estenda con anelli successivi, concentrici, formati da quadrati tutti uguali a Q. Quanti sono i quadrati del 100° anello concentrico?

44. Etichettatura dell’autore

45. La revisione … La discussione porta a suddividere il quesito proposto in due item e a modificare il testo C’è, in parte, un cambio di consegne ma non cambia sostanzialmente lo scopo dell’item (b)

46. … il pretest Al centro della figura c'è un quadrato nero Q circondato da una prima cornice formata da 8 quadrati tutti uguali a Q. Nella figura vediamo anche la seconda cornice evidenziata in grigio. Immaginiamo che la figura si estenda con successive cornici (terza, quarta, ecc.) sempre formate da quadrati tutti uguali a Q. a. Quanti sono i quadrati della quinta cornice? Risposta: .................. b. Quale tra le seguenti formule non fornisce il numero di quadrati dell'ennesima cornice? A □ 2n(n+1)+4 B □ 4(2n+1) – 4 C □ (2n + 1)2 – (2n – 1)2 D □ 8n

47. I risultati del pretest Alcuni dati del pretest (condotto su 879 studenti): Item_a • Risposta errata: 55.06% • Risposta corretta : 30.72 % • Risposta non data : 14.22% Item_b • Risposta corretta : 20.25 % I distrattori non sono “convincenti” e la formalizzazione difficile La ricercatrice e il gruppo di lavoro decidono di modificare nuovamente l’item tornando ad una consegna simile a quella iniziale, ma con argomentazione

48. … il test (SNV - L10 - 2012/13) D24. Al centro della figura c'è un quadrato nero Q. Il quadrato è circondato da una prima cornice bianca formata da 8 quadrati tutti uguali a Q e da una seconda cornice grigia. Immagina che la figura si estenda con successive cornici (terza, quarta, ecc.) sempre formate da quadrati tutti uguali a Q. a. Quanti sono i quadrati della quarta cornice? Risposta: ..................

49.  b. Se si continua a estendere la figura nello stesso modo, è possibile ottenere una cornice formata da 70 quadrati tutti uguali a Q? Scegli una delle due risposte e completa la frase. □ È possibile ottenere una cornice di 70 quadrati perché …………………………….. □ Non è possibile ottenere una cornice di 70 quadrati perché ……………………….

50. Etichettatura … AMBITO PREVALENTE Numeri SCOPO DELLA DOMANDA a. Individuare una strategia di conteggio. b. Individuare una regolarità nella successione del numero di quadrati. PROCESSO PREVALENTE a. Conoscere e utilizzare algoritmi e procedure. b. Utilizzare forme tipiche del pensiero matematico. Indicazioni nazionali e Linee Guida Conoscenza della struttura dei numeri interi. Le operazioni con i numeri interi e le loro proprietà. RISPOSTA CORRETTA: a. 32 b. Non è possibile ottenere una cornice di 70 quadrati, perché 70 non è un multiplo di 8. Accettabili risposte che equivalgano ad affermare che il numero di quadrati è uguale a 8n dove n è il numero d’ordine della cornice. Accettabili anche risposte che facciano uso di formule algebriche equivalenti a 8n. Accettabili anche risposte che calcolino i quadrati della ottava (64) e nona cornice (72) e che quindi concludano che non è possibile.