Bestuursovereenkomsten : contractualisering binnen de sociale zekerheid in België

1. Bestuursovereenkomsten : contractualisering binnen de sociale zekerheid in België Evaluatie van de uitvoering van de bestuursovereenkomst : een voorbeeld van een contractevaluatie Verzelfstandiging en contractmanagement 21 maart 2007 Evaluatie van een bestuursovereenkomst Pagina 1

2. 1. Inleiding Evaluatie van een bestuursovereenkomst Pagina 2

3. De bestuursovereenkomsten • Bestuursoverenekomsten voor 15 openbare instellingen van sociale zekerheid (OISZ) : • Tussen Federale Staat en ieder OISZ • 12.000 werknemers betrokken • Budget 870 miljoenen €/jaar Periode tussen 3 en 5 jaren • Klassieke “performance agreement” • Lange termijn visie • Operationele output • Nieuwe accountability • Beheersautonomie (begroting, HRM, facility) • Specificiteiten •  Two-way agreement •  Geen inmenging centrale departementen Evaluatie van een bestuursovereenkomst Pagina 3

4. Kader voor de evaluatie • Art.8§4 KB 3 april 1997 • Over de eerste bestuursovereenkomst wordt door de Voogdijminister verslag uitgebracht aan de Ministerraad gedurende de zevenentwintigste maand na de inwerkingtreding ervan • Ten gevolge van de bespreking van dat verslag kan de Ministerraad de voogdijminister opdragen om de onderhandelingen van een nieuwe bestuursovereenkomst onmiddellijk aan te vatten Uitvoerder namens de Voogdijminister Evaluatieperiode : februari – juni 2004 / februari-juni 2005 • Doelstellingen •  Voorbereiding onderhandelingen •  Verbetering van het systeem Evaluatie van een bestuursovereenkomst Pagina 4

5. Evaluatie Evaluatie = het boordelen van de voorstelling of waarneming van een bepaald verschijnsel aan de hand van bepaalde criteria Wat zijn de doelstellingen van de evaluatie ? Wat gaat men evalueren ? Welke evaluatieregels gaat men toepassen ? Hoe organiseert men de evaluatie ? Evaluatie van een bestuursovereenkomst Pagina 5

6. 2. Wat zijn de doelstellingen van de evaluatie ? Evaluatie van een bestuursovereenkomst Pagina 6

7. Welke type van evaluatie ? Contractevaluatie Resultaten van het agentschap = doel Beleidsevaluatie Resultaten van het agenschap = middel Input voor contractcyclus • Onderhandeling volgende overeenkomst • Activering sancties Input voor beleid • Beleid van de Voogdijminister • Verzelfstandiging • Contractualisering Evaluatie van een bestuursovereenkomst Pagina 7

8. Soorten evaluaties Contractevaluaties Beleidsevaluaties Prestaties van het agentschap : kwantiteitsnormen Sectoriële performanties en efficïëntie Prestaties van het agentschap : kwaliteitsnormen Contractualiserings- en verzelfstandigingsbeleid Prestaties van het agentschap : verantwoordelijkheid Externe audit Prestaties van het agentschap : efficiëntienormen Effectanalyse Evaluatie van een bestuursovereenkomst Pagina 8

9. 3. Contractevaluatie : wat gaat men evalueren ? Evaluatie van een bestuursovereenkomst Pagina 9

10. Theorie : 3 niveau’s van doelstellingen en van realisatie Behoeften Strategische doelstellingen Operationele doelstellingen Input/middelen Activiteiten Prestaties Effecten Werkingsprincipes Omgevingsfactoren SD : algemene doelstellingen die richting geven aan de activiteiten van een organisatie op middellange tot lange termijn OD : concrete en meetbare resultaten die ter verwezenlijking van de SD moeten worden bereikt op korte termijn Acties : dagelijkse activiteiten die moeten worden gevoerd om de OD-resultaten te bereiken Evaluatie van een bestuursovereenkomst Pagina 10

11. De drie niveau’s in praktijk Beslissing Verzameling info Berekening uitkering Registratie info Orde aan de bank Effectieve betaling Output : % betaling op tijd Registratie klacht Comm goed ontvangst Analyse klacht Behan-deling klacht Comm beslissing Output : % rechtsgezette betalingen Output : % betalingen die tot een gegronde klachten hebben geleid Selectie controle- steekproef Verzameling info Analyse Opmaak rapport Comm resultaten SD : ervoor zorgen dat betalingen tijdig en correct worden gevoerd Output : % gecontroleerde betalingen/jaar Output : # controle-oefening/jaar Evaluatie van een bestuursovereenkomst Pagina 11

12. Onderwerpen voor de contractevaluatie : de output Omgevings-behoeften Politieke wensen Toegewezen opdrachten Opdrachten Strategische doelstellingen Algemene resultaten / outcomes Operationele doelstellingen Output / prestaties Mapping processen Dagelijkse acties Planning Uitvoering Strategische cascade opzoeken Evaluatie-onderwerp 3 evaluaties mogelijk Evaluatie Output-niveau kiezen Evaluatie van een bestuursovereenkomst Pagina 12

13. 3. Contractevaluatie : op basis van welke criteria gaat men evalueren ? Evaluatie van een bestuursovereenkomst Pagina 13

14. Criteria voor de contractevaluatie – stap 1 Stap 1 : Norm(en) per doelstellingen detecteren Oefening • Art.17. Mbt telefonisch ontvangst verbindt de instelling er zich toe vanaf het eerste jaar van de bestuursovereenkomst een methodologie op te stellen om de wachttijd en de tevredenheidsgraad van de klant te meten bij telefonische contacten. Het jaar daarop zal deze methodologie effectief worden ingevoerd. Na een jaar gebruik zal deze methodologie aangepast worden aan de eerste conclusies van een evaluatieverslag • Wat is de norm ? Evaluatie van een bestuursovereenkomst Pagina 14

15. Criteria voor de contractevaluatie – stap 2 Stap 2 : Definieer realisatieregels • Vragen • Stellen wij de realisatie enkel per norm vast ? • Doen wij een gecumuleerde vaststelling voor de doelstellingen met verschillende indicatoren ? • Geven wij een realistatie-uitspraak voor alle betrokken jaren ? • Zijn onze regels niet te streng of zijn die te zwak ? • Hebben wij alle mogelijke resultaten gedekt ? Evaluatie van een bestuursovereenkomst Pagina 15

16. Voorbeeld van realisatieregels : evaluatie FOD Sociale Zekerheid • Regel 1 : ieder jaar, Ieder norm vergelijken met verwachte resultaat • Gerealiseerd vs niet gerealiseerd >>> een realisatiescore •  Regel 2 : Opsomming evaluatiescores • Enkel positieve scores : de doelstelling is gerealiseerd • Meerderheid / helft van positive scores : de doelstelling is voorwaardelijk gerealiseerd • Minder dan de helft van positive scores : de doelstelling is niet gerealiseerd • Afzwakking regels • De doelstelling gerealiseerd maar niet in de voorziene termijn (zelfs met meerdere jaren vertraging) • Weinig positieve scores maar positieve evolutie • = de doelstelling is voorwaardelijk gerealiseerd • Andere mogelijke scores • Doelstelling met scope verder dan evaluatiejaar •  Partiële informatie Evaluatie van een bestuursovereenkomst Pagina 16

17. Oefening : realisatiescores bepalen • De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen en in de volgende maten : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 • Resultaat : 2002 : 35%; 2003 : 69% • Wat is de evaluatiescore in 2002 en in 2003 ? • De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen en in de volgende maten : • Dossiers X1 : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 • Dossiers X2 : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 • Resultaat : • Dossiers X1 : 2002 : 71%; 2003 : 82% • Dossiers X2 : 2002 : 73%; 2003 : 81% • Wat is de evaluatiescore in 2003 ? • De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X en een verslag hieromtrent aan de Voogdijminister voor december 2002 voor te leggen • Resultaat : verslag voorgelegd op 03/04/03 • Wat is de evaluatiescore in 2003 ? Evaluatie van een bestuursovereenkomst Pagina 17

18. Oefening : realisatiescores bepalen • De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X een verslag hieromtrent aan de Voogdijminister voor december 2002 voor te leggen • Resultaat : verslag voorgelegd op 03/04/04 • Wat is de evaluatiescore in 2004 ? • De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X en zijn product Y en twee aparte verslagen hieromtrent aan de Voogdijminister voor december 2002 voor te leggen • Resultaat : • Product X : verslag voorgelegd op 03/04/03 • Product Y : verslag voorgelegd op 03/04/04 • Wat is de evaluatiescore in 2002, in 2003 en in 2004 ? De scores dekken niet alle gevallen ! Evaluatie van een bestuursovereenkomst Pagina 18

19. Oefening : voorbeeld van problematische doelstellingen en informatie • De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen • Resultaat : 2002 : 35%; 2003 : 78% • Wat is de evaluatiescore ? • De instelling verbindt er zich toe de responstijd voor vragen van de burger te beperken tot 3 werkdagen en in de volgende maten : 85% in 2002, 90% in 2003 en 95% in 2004 • Resultaat : 2002-2003 : de instelling heeft zijn workflow grondig geanalyseerd en een nieuwe werkstructuur is vanaf 2003 in werking getreden. De instelling verwacht de responstijd te verminderen vanaf volgend jaar • Wat is de evaluatiescore ? • De instelling verbindt er zich toe de achterstand van 2001 te reduceren voor de dossiers X : 50 % in 2002 & 50% in 2003 • Resultaat : 2500 dossiers van 2001 werden behandeld • Wat is de evaluatiescore ? Evaluatie van een bestuursovereenkomst Pagina 19

20. 4. Contractevaluatie : hoe organiseert men de evaluatie ? Evaluatie van een bestuursovereenkomst Pagina 20

21. Evaluatieproces Voorbereidingsfase Bepaling operationele principes evaluatie Overleg Collège Bepaling evaluatie-methode Presentatie College Aanpassing methode Uitvoeringsfase Fase 1 : herstructurering Fase 2 : invoering resultaten Fase 3 : evaluatiescores Fase 4 : opmerkingen OISZ Fase 5 : verslaggeving Valorisatiefase Voorstel aan Collège Voorstel aan beleidscellen Voorlegging aan Ministeraad Evaluatie van een bestuursovereenkomst Pagina 21

22. Verwachte eindresultaat Kwaliteitscriteria Evaluatieonderwerp Beoordeling Evaluatie van een bestuursovereenkomst Pagina 22

23. Valideringsprocess Wie : inter of extern ? Wat : nauwkeurigheid, geldigheid of betrouwbaarheid ? Wanneer t.o.v. evaluatieproces ? • Validatieronde 2 : • door de OISZ / RC • nauwkeurigheid & geldigheid • Validatieronde 3 : • door een andere evaluator • betrouwbaarheid • Validatieronde 1 : • door de OISZ / RC • nauwkeurigheid & geldigheid Fase 1 : herstructurering Fase 2 : invoering resultaten Fase 3 : evaluatiescores Fase 4 : opmerkingen OISZ Fase 5 : verslaggeving Evaluatie van een bestuursovereenkomst Pagina 23

24. 5. Resultaten van de contractevaluatie Evaluatie van een bestuursovereenkomst Pagina 24

25. Resultaten : evaluatiescores Realisatiescores 1202 operationele doelstellingen vastgesteld 986 in rekening gebracht voor de evaluatie Evaluatie van een bestuursovereenkomst Pagina 25

26. Uitspraak over aanwezigheid van OD Geen uitspraak over « voldoende » aanwezigheid van OD Resultaten : operationaliseringsgraad 120 100 80 60 40 20 0 Opdrachten Strategische doelstellingen 91,01123596 96,89265537 Wel OD 8,988764045 6,214689266 Geen OD Evaluatie van een bestuursovereenkomst Pagina 26

27. Resultaten : technische kwaliteit van de informatie 100% 90% Geen informatieprobleem 80% 70,4% 70% Geen afstemming tussen de norm en de resultaten Operationele 60% 5,3 % doelstellingen met informatieproblemen 50% Percentage betrokken operationele doelstellingen 29,6% 40% Geen resulaatgegevens Onduidelijke normen & 12,2 % 30% geen resultatengegevens 3,3 % 20% Onduidelijke normering 8,7% 10% 0% Technische kwaliteit : 29,5 % problematische doelstellingen Geen evaluatie voor 18 % van de doelstellingen + 11,5 % problematische doelstellingen waarvoor een evaluatie toch mogelijk was Evaluatie van een bestuursovereenkomst Pagina 27

28. Leerproces : omvang en aard Evaluatie van een bestuursovereenkomst Pagina 28

29. Homgeneïteit van het systeem Aantal OD Realisatie Kwaliteit informatie Operationnalisering Evaluatie van een bestuursovereenkomst Pagina 29

30. 6. Conclusies Evaluatie van een bestuursovereenkomst Pagina 30

31. Belangrijke aandachtspunten De methodologie moet worden gestabiliseerd, niet vast bepaald Wees flexiebel en doelgericht Zorg voor acceptatie en informeer de geëvalueerden Let op de kwaliteit Zorg voor valorisatie Evaluatie van een bestuursovereenkomst Pagina 31

32. Voor meer info Amaury Legrain FOD Sociale Zekerheid DG Beleidsondersteuning amaury.legrain@minsoc.fed.be 5E20 Victor Hortaplein 40, bus 201060 Brussel 02/528.63.12 Evaluatie van een bestuursovereenkomst Pagina 32