Evaluatie van een bestuursovereenkomst Pagina Bestuursovereenkomsten : contractualisering binnen de sociale zekerheid in België Evaluatie van de uitvoering van de bestuursovereenkomst : een voorbeeld van een contractevaluatie Verzelfstandiging en contractmanagement 21 maart 2007

Evaluatie van een bestuursovereenkomst Pagina Inleiding

Evaluatie van een bestuursovereenkomst Pagina De bestuursovereenkomsten Bestuursoverenekomsten voor 15 openbare instellingen van sociale zekerheid (OISZ) :  Tussen Federale Staat en ieder OISZ  werknemers betrokken  Budget 870 miljoenen €/jaar  Periode tussen 3 en 5 jaren Bestuursoverenekomsten voor 15 openbare instellingen van sociale zekerheid (OISZ) :  Tussen Federale Staat en ieder OISZ  werknemers betrokken  Budget 870 miljoenen €/jaar  Periode tussen 3 en 5 jaren Klassieke “performance agreement”  Lange termijn visie  Operationele output  Nieuwe accountability  Beheersautonomie (begroting, HRM, facility) Klassieke “performance agreement”  Lange termijn visie  Operationele output  Nieuwe accountability  Beheersautonomie (begroting, HRM, facility) Specificiteiten  Two-way agreement  Geen inmenging centrale departementen Specificiteiten  Two-way agreement  Geen inmenging centrale departementen

Evaluatie van een bestuursovereenkomst Pagina Kader voor de evaluatie Art.8§4 KB 3 april 1997 Over de eerste bestuursovereenkomst wordt door de Voogdijminister verslag uitgebracht aan de Ministerraad gedurende de zevenentwintigste maand na de inwerkingtreding ervan Ten gevolge van de bespreking van dat verslag kan de Ministerraad de voogdijminister opdragen om de onderhandelingen van een nieuwe bestuursovereenkomst onmiddellijk aan te vatten Art.8§4 KB 3 april 1997 Over de eerste bestuursovereenkomst wordt door de Voogdijminister verslag uitgebracht aan de Ministerraad gedurende de zevenentwintigste maand na de inwerkingtreding ervan Ten gevolge van de bespreking van dat verslag kan de Ministerraad de voogdijminister opdragen om de onderhandelingen van een nieuwe bestuursovereenkomst onmiddellijk aan te vatten  Uitvoerder namens de Voogdijminister  Evaluatieperiode : februari – juni 2004 / februari-juni 2005  Uitvoerder namens de Voogdijminister  Evaluatieperiode : februari – juni 2004 / februari-juni 2005 Doelstellingen  Voorbereiding onderhandelingen  Verbetering van het systeem Doelstellingen  Voorbereiding onderhandelingen  Verbetering van het systeem

Evaluatie van een bestuursovereenkomst Pagina Evaluatie Evaluatie = het boordelen van de voorstelling of waarneming van een bepaald verschijnsel aan de hand van bepaalde criteria Wat gaat men evalueren ? Welke evaluatieregels gaat men toepassen ? Hoe organiseert men de evaluatie ? Wat zijn de doelstellingen van de evaluatie ?

Evaluatie van een bestuursovereenkomst Pagina Wat zijn de doelstellingen van de evaluatie ?

Evaluatie van een bestuursovereenkomst Pagina Welke type van evaluatie ? Contractevaluatie Resultaten van het agentschap = doel Beleidsevaluatie Resultaten van het agenschap = middel Input voor contractcyclus  Onderhandeling volgende overeenkomst  Activering sancties Input voor contractcyclus  Onderhandeling volgende overeenkomst  Activering sancties Input voor beleid  Beleid van de Voogdijminister  Verzelfstandiging  Contractualisering Input voor beleid  Beleid van de Voogdijminister  Verzelfstandiging  Contractualisering

Evaluatie van een bestuursovereenkomst Pagina Soorten evaluaties Effectanalyse Contractualiserings- en verzelfstandigingsbeleid Externe audit Sectoriële performanties en efficïëntie Prestaties van het agentschap : efficiëntienormen Prestaties van het agentschap : verantwoordelijkheid Prestaties van het agentschap : kwantiteitsnormen Prestaties van het agentschap : kwaliteitsnormen ContractevaluatiesBeleidsevaluaties

Evaluatie van een bestuursovereenkomst Pagina Contractevaluatie : wat gaat men evalueren ?

Evaluatie van een bestuursovereenkomst Pagina Theorie : 3 niveau’s van doelstellingen en van realisatie Behoeften Strategische doelstellingen Operationele doelstellingen Input/middelen Activiteiten Prestaties Effecten Werkingsprincipes Omgevingsfactoren SD : algemene doelstellingen die richting geven aan de activiteiten van een organisatie op middellange tot lange termijn OD : concrete en meetbare resultaten die ter verwezenlijking van de SD moeten worden bereikt op korte termijn Acties : dagelijkse activiteiten die moeten worden gevoerd om de OD- resultaten te bereiken

Evaluatie van een bestuursovereenkomst Pagina De drie niveau’s in praktijk Beslissing Verzameling info Berekening uitkering Registratie info Orde aan de bank Effectieve betaling Output : % betaling op tijd Registratie klacht Analyse klacht Comm goed ontvangst Behan- deling klacht Comm beslissing Output : % rechtsgezette betalingen Output : % betalingen die tot een gegronde klachten hebben geleid Selectie controle- steekproef Analyse Verzamelin g info Opmaak rapport Comm resultaten Output : % gecontroleerde betalingen/jaar Output : # controle- oefening/jaar SD : ervoor zorgen dat betalingen tijdig en correct worden gevoerd

Evaluatie van een bestuursovereenkomst Pagina Onderwerpen voor de contractevaluatie : de output Strategische doelstellingen Omgevings- behoeften Politieke wensen Operationele doelstellingen Mapping processen Dagelijkse acties Output / prestaties Algemene resultaten / outcomes PlanningUitvoering Toegewezen opdrachten Opdrachten Evaluatie Evaluatie- onderwerp Strategische cascade opzoeken 3 evaluaties mogelijk Output-niveau kiezen

Evaluatie van een bestuursovereenkomst Pagina Contractevaluatie : op basis van welke criteria gaat men evalueren ?

Evaluatie van een bestuursovereenkomst Pagina Criteria voor de contractevaluatie – stap 1 Oefening Art.17. Mbt telefonisch ontvangst verbindt de instelling er zich toe vanaf het eerste jaar van de bestuursovereenkomst een methodologie op te stellen om de wachttijd en de tevredenheidsgraad van de klant te meten bij telefonische contacten. Het jaar daarop zal deze methodologie effectief worden ingevoerd. Na een jaar gebruik zal deze methodologie aangepast worden aan de eerste conclusies van een evaluatieverslag Wat is de norm ? Oefening Art.17. Mbt telefonisch ontvangst verbindt de instelling er zich toe vanaf het eerste jaar van de bestuursovereenkomst een methodologie op te stellen om de wachttijd en de tevredenheidsgraad van de klant te meten bij telefonische contacten. Het jaar daarop zal deze methodologie effectief worden ingevoerd. Na een jaar gebruik zal deze methodologie aangepast worden aan de eerste conclusies van een evaluatieverslag Wat is de norm ?  Stap 1 : Norm(en) per doelstellingen detecteren

Evaluatie van een bestuursovereenkomst Pagina Criteria voor de contractevaluatie – stap 2  Stap 2 : Definieer realisatieregels Vragen  Stellen wij de realisatie enkel per norm vast ?  Doen wij een gecumuleerde vaststelling voor de doelstellingen met verschillende indicatoren ?  Geven wij een realistatie-uitspraak voor alle betrokken jaren ?  Zijn onze regels niet te streng of zijn die te zwak ?  Hebben wij alle mogelijke resultaten gedekt ? Vragen  Stellen wij de realisatie enkel per norm vast ?  Doen wij een gecumuleerde vaststelling voor de doelstellingen met verschillende indicatoren ?  Geven wij een realistatie-uitspraak voor alle betrokken jaren ?  Zijn onze regels niet te streng of zijn die te zwak ?  Hebben wij alle mogelijke resultaten gedekt ?

Evaluatie van een bestuursovereenkomst Pagina Voorbeeld van realisatieregels : evaluatie FOD Sociale Zekerheid  Regel 1 : ieder jaar, Ieder norm vergelijken met verwachte resultaat Gerealiseerd vs niet gerealiseerd >>> een realisatiescore  Regel 2 : Opsomming evaluatiescores Enkel positieve scores : de doelstelling is gerealiseerd Meerderheid / helft van positive scores : de doelstelling is voorwaardelijk gerealiseerd Minder dan de helft van positive scores : de doelstelling is niet gerealiseerd  Regel 1 : ieder jaar, Ieder norm vergelijken met verwachte resultaat Gerealiseerd vs niet gerealiseerd >>> een realisatiescore  Regel 2 : Opsomming evaluatiescores Enkel positieve scores : de doelstelling is gerealiseerd Meerderheid / helft van positive scores : de doelstelling is voorwaardelijk gerealiseerd Minder dan de helft van positive scores : de doelstelling is niet gerealiseerd Afzwakking regels  De doelstelling gerealiseerd maar niet in de voorziene termijn (zelfs met meerdere jaren vertraging)  Weinig positieve scores maar positieve evolutie  = de doelstelling is voorwaardelijk gerealiseerd Afzwakking regels  De doelstelling gerealiseerd maar niet in de voorziene termijn (zelfs met meerdere jaren vertraging)  Weinig positieve scores maar positieve evolutie  = de doelstelling is voorwaardelijk gerealiseerd Andere mogelijke scores  Doelstelling met scope verder dan evaluatiejaar  Partiële informatie Andere mogelijke scores  Doelstelling met scope verder dan evaluatiejaar  Partiële informatie

Evaluatie van een bestuursovereenkomst Pagina Oefening : realisatiescores bepalen De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen en in de volgende maten : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 Resultaat : 2002 : 35%; 2003 : 69% Wat is de evaluatiescore in 2002 en in 2003 ? De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen en in de volgende maten : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 Resultaat : 2002 : 35%; 2003 : 69% Wat is de evaluatiescore in 2002 en in 2003 ? De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen en in de volgende maten : –Dossiers X1 : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 –Dossiers X2 : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 Resultaat : –Dossiers X1 : 2002 : 71%; 2003 : 82% –Dossiers X2 : 2002 : 73%; 2003 : 81% Wat is de evaluatiescore in 2003 ? De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen en in de volgende maten : –Dossiers X1 : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 –Dossiers X2 : 75 % van de dossiers in 2002, 80 % in 2003 en 90 % in 2004 Resultaat : –Dossiers X1 : 2002 : 71%; 2003 : 82% –Dossiers X2 : 2002 : 73%; 2003 : 81% Wat is de evaluatiescore in 2003 ? De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X en een verslag hieromtrent aan de Voogdijminister voor december 2002 voor te leggen Resultaat : verslag voorgelegd op 03/04/03 Wat is de evaluatiescore in 2003 ? De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X en een verslag hieromtrent aan de Voogdijminister voor december 2002 voor te leggen Resultaat : verslag voorgelegd op 03/04/03 Wat is de evaluatiescore in 2003 ?

Evaluatie van een bestuursovereenkomst Pagina Oefening : realisatiescores bepalen De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X een verslag hieromtrent aan de Voogdijminister voor december 2002 voor te leggen Resultaat : verslag voorgelegd op 03/04/04 Wat is de evaluatiescore in 2004 ? De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X een verslag hieromtrent aan de Voogdijminister voor december 2002 voor te leggen Resultaat : verslag voorgelegd op 03/04/04 Wat is de evaluatiescore in 2004 ? De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X en zijn product Y en twee aparte verslagen hieromtrent aan de Voogdijminister voor december 2002 voor te leggen Resultaat : –Product X : verslag voorgelegd op 03/04/03 –Product Y : verslag voorgelegd op 03/04/04 Wat is de evaluatiescore in 2002, in 2003 en in 2004 ? De instelling verbindt er zich toe een evaluatie te voeren van het effectief gebruik van zijn product X en zijn product Y en twee aparte verslagen hieromtrent aan de Voogdijminister voor december 2002 voor te leggen Resultaat : –Product X : verslag voorgelegd op 03/04/03 –Product Y : verslag voorgelegd op 03/04/04 Wat is de evaluatiescore in 2002, in 2003 en in 2004 ? De scores dekken niet alle gevallen !

Evaluatie van een bestuursovereenkomst Pagina Oefening : voorbeeld van problematische doelstellingen en informatie De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen Resultaat : 2002 : 35%; 2003 : 78% Wat is de evaluatiescore ? De instelling verbindt er zich toe een beslissing te nemen voor de dossiers X binnen de 15 dagen Resultaat : 2002 : 35%; 2003 : 78% Wat is de evaluatiescore ? De instelling verbindt er zich toe de responstijd voor vragen van de burger te beperken tot 3 werkdagen en in de volgende maten : 85% in 2002, 90% in 2003 en 95% in 2004 Resultaat : : de instelling heeft zijn workflow grondig geanalyseerd en een nieuwe werkstructuur is vanaf 2003 in werking getreden. De instelling verwacht de responstijd te verminderen vanaf volgend jaar Wat is de evaluatiescore ? De instelling verbindt er zich toe de responstijd voor vragen van de burger te beperken tot 3 werkdagen en in de volgende maten : 85% in 2002, 90% in 2003 en 95% in 2004 Resultaat : : de instelling heeft zijn workflow grondig geanalyseerd en een nieuwe werkstructuur is vanaf 2003 in werking getreden. De instelling verwacht de responstijd te verminderen vanaf volgend jaar Wat is de evaluatiescore ? De instelling verbindt er zich toe de achterstand van 2001 te reduceren voor de dossiers X : 50 % in 2002 & 50% in 2003 Resultaat : 2500 dossiers van 2001 werden behandeld Wat is de evaluatiescore ? De instelling verbindt er zich toe de achterstand van 2001 te reduceren voor de dossiers X : 50 % in 2002 & 50% in 2003 Resultaat : 2500 dossiers van 2001 werden behandeld Wat is de evaluatiescore ?

Evaluatie van een bestuursovereenkomst Pagina Contractevaluatie : hoe organiseert men de evaluatie ?

Evaluatie van een bestuursovereenkomst Pagina Evaluatieproces Fase 1 : herstructurering Fase 2 : invoering resultaten Fase 3 : evaluatiescores Fase 5 : verslaggeving Presentatie College Bepaling operationele principes evaluatie Overleg Collège Bepaling evaluatie- methode Aanpassing methode Voorbereidingsfase Uitvoeringsfase Voorstel aan Collège Voorstel aan beleidscellen Voorlegging aan Ministeraad Valorisatiefase Fase 4 : opmerkingen OISZ

Evaluatie van een bestuursovereenkomst Pagina Kwaliteitscriteria Evaluatieonderwerp Beoordeling Verwachte eindresultaat

Evaluatie van een bestuursovereenkomst Pagina Valideringsprocess Validatieronde 1 : door de OISZ / RC nauwkeurigheid & geldigheid Validatieronde 1 : door de OISZ / RC nauwkeurigheid & geldigheid Validatieronde 2 : door de OISZ / RC nauwkeurigheid & geldigheid Validatieronde 2 : door de OISZ / RC nauwkeurigheid & geldigheid Validatieronde 3 : door een andere evaluator betrouwbaarheid Validatieronde 3 : door een andere evaluator betrouwbaarheid Wie : inter of extern ? Wat : nauwkeurigheid, geldigheid of betrouwbaarheid ? Wanneer t.o.v. evaluatieproces ? Fase 1 : herstructurering Fase 2 : invoering resultaten Fase 3 : evaluatiescores Fase 5 : verslaggeving Fase 4 : opmerkingen OISZ

Evaluatie van een bestuursovereenkomst Pagina Resultaten van de contractevaluatie

Evaluatie van een bestuursovereenkomst Pagina Resultaten : evaluatiescores Realisatiescores 1202 operationele doelstellingen vastgesteld 986 in rekening gebracht voor de evaluatie Realisatiescores 1202 operationele doelstellingen vastgesteld 986 in rekening gebracht voor de evaluatie

Evaluatie van een bestuursovereenkomst Pagina Resultaten : operationaliseringsgraad Uitspraak over aanwezigheid van OD Geen uitspraak over « voldoende » aanwezigheid van OD Uitspraak over aanwezigheid van OD Geen uitspraak over « voldoende » aanwezigheid van OD Wel OD 91, , Geen OD 8, , OpdrachtenStrategische doelstellingen

Evaluatie van een bestuursovereenkomst Pagina Resultaten : technische kwaliteit van de informatie Technische kwaliteit : 29,5 % problematische doelstellingen Geen evaluatie voor 18 % van de doelstellingen + 11,5 % problematische doelstellingen waarvoor een evaluatie toch mogelijk was Technische kwaliteit : 29,5 % problematische doelstellingen Geen evaluatie voor 18 % van de doelstellingen + 11,5 % problematische doelstellingen waarvoor een evaluatie toch mogelijk was 0% 10% 20% 30% 40% 50% 60% 70% 80% 90% 100% Percentage betrokken operationele doelstellingen Onduidelijke normering 8,7% Geen resulaatgegevens 12,2 % Geen informatieprobleem 70,4% Onduidelijke normen & geen resultatengegevens 3,3 % Geen afstemming tussen de norm en de resultaten 5,3 % Operationele doelstellingen met informatieproblemen 29,6%

Evaluatie van een bestuursovereenkomst Pagina Leerproces : omvang en aard

Evaluatie van een bestuursovereenkomst Pagina Homgeneïteit van het systeem Aantal OD Kwaliteit informatie Operationnalisering Realisatie

Evaluatie van een bestuursovereenkomst Pagina Conclusies

Evaluatie van een bestuursovereenkomst Pagina Belangrijke aandachtspunten Wees flexiebel en doelgericht Zorg voor acceptatie en informeer de geëvalueerden Let op de kwaliteit De methodologie moet worden gestabiliseerd, niet vast bepaald Zorg voor valorisatie

Evaluatie van een bestuursovereenkomst Pagina Voor meer info Amaury Legrain FOD Sociale Zekerheid DG Beleidsondersteuning 5E20 Victor Hortaplein 40, bus Brussel 02/