Kwaliteit van meetinstrumenten

Slides:



Advertisements
Verwante presentaties
Deel 1: Waarom meet je? – Doel
Advertisements

Samantha Bouwmeester Testtheorie Responsie College Samantha Bouwmeester.
ROM als interventie Omdat geen cliënt hetzelfde is
College 3 Meten.
Belgian Screening Tools M. Daem
Record Linkage: Simulatie Resultaten Adelaide Ariel Biolink NL 28 maart 2014.
Fasen van onderzoek Onderzoeksplan bureauwerk Dataverzameling
Betrouwbaarheid en validiteit: Alleen een kwestie van goed meten ?
Kwaliteit met beleid Petra Verhagen
Hoofdstuk 2 De fundamenten van individueel gedrag
Hoofdstuk 2 De fundamenten van individueel gedrag
Diagnostisch onderzoek: interpretatie van resultaten
Samantha Bouwmeester Testtheorie College Samantha Bouwmeester.
Betrouwbaarheid en Validiteit
Hoofdstuk 3 – Gegevens verzamelen
Experimenteel en quasi-experimenteel onderzoek
Connector C Certificatie
Studiedag ‘Diversifiëren van evaluatiemethoden’ 5 juni 2008
De ontwikkeling en validering van een cognitieve-vaardighedentest voor volwassen anderstaligen Evelien Buyse, Karine Verschueren en Walter Magez Nederlands.
De Ontwikkeling van de persoonsgerichte ondersteuningsuitkomsten schaal (POS) Elise Bonte 1BaOA1.
Xxxxxxxxxxxxxxx 4/4/2017 Inleiding onderzoeksleer Helleke Hendriks docent werktuigbouwkunde voormalig productonderzoeker bij Consumentenbond xxxxxxxxxxxxx.
Thesisseminarie 4 Resultaten Correlatie en multiple regressie
Meten van onderzoeksvariabelen
Evaluatie Van Interactieve Software Systemen
Evaluatie van Interactieve Software Systemen
Validiteit van EVC-procedures
Motivatie: van begrip naar toepassingen
Hoofdstuk 7 Procesmanagement.
Gedrag in organisaties, 9e editie
Hoofdstuk 7 Anderen motiveren
5 Werving en selectie.
Prestaties beoordelen
Kwaliteit door een zelf regulerend proces, ondersteunend en motiverend
Hoofdstuk 7 Motiveren van medewerkers
Motivatie: van begrip naar toepassingen
Gedrag in organisaties, 10e editie
Onderzoek gefinancierd door de Vlaamse Regering in het kader van het programma ‘Steunpunten voor Beleidsrelevant Onderzoek’
Samantha Bouwmeester Testtheorie College Samantha Bouwmeester.
Vereisten voor een screeningsprogramma
Workshop opvoeding Psychologen CEMA Vlaanderen. Inleiding n Doelstelling: enkele aandachtspunten bij het opvoeden van kinderen met een chronische aandoening.
Afdeling Revalidatiegeneeskunde
Competentiegericht ontwerpen & ontwikkelen
Bayes Voor psychologen. Pierre Simon Laplace Recap Bayes’ Rule.
Variabelen in onderzoek
Varianties bij replicatie (herhaald testen)
Betrouwbaarheid.
Validiteit.
Test- retest methode -- voorbeeld r = 0, Test Hertest r = 0, Test Hertest r = 1,00.
Psychologische Test.
Ouder-betrokkenheid en taal Technisch lezen
Nauwkeurigheid bij Practica
Operationaliseren Definiëren Operationaliseren
Beoordelen van praktijkonderzoek Quinta Kools (q.
Kwantitatieve & kwalitatieve data analyse
Paramaribo, september 2015 Ten behoeve van leerkrachten van de EBGS Mr.dr.E. Marshall & M. Day.
Gerald Riedstra STOEIEN TUSSEN VADER EN KIND Onderzoek naar de psychometrische kwaliteiten van de Nederlandse versie van Rough and Tumble Play-Quality.
Bias in onderwijsevaluaties: Hoe gaan we er mee om? Dr. Benjamin Boerebach Strategie & Informatie, Bestuursstaf,
Methoden & Technieken van Onderzoek
Hogeschool Rotterdam, Opleiding Vastgoed & Makelaardij drs. ing. M.M.A. Scheepers Collegejaar college.
Een test blijft een test………. Positief? Positief!
Q koorts en laboratorium testen Geitenbedrijven worden via de tankmelk getest op Qkoorts Er kan getest worden op antigeen: de Qkoorts bacterie (Coxiella.
Begin- situatie Werk- vormen Leer- processen Leer- middelen Leerstof Evaluatie Leerdoelen.
Criteria voor een goed “onderzoek”
1 Relatie Intelligentie Quotiënt en de Motorische Vaardigheid Marco Borhem Fleur van Dam Sanne Hein Opdrachtgever Docent Begeleider Opdrachtgever Docent.
Heeft deze patiënt meningitis? Dries Verheijen 21 augustus 2012.
(basis)training voor praktijkbegeleiders 13 december 2015 Module rol van de beoordelaar.
Hoofdstuk 2 De fundamenten van individueel gedrag
Validiteit van EVC-procedures
Indoor Comfort Index Validatie van het meetinstrument
DEEL TWEE Beschrijvende schalen
Transcript van de presentatie:

Kwaliteit van meetinstrumenten Waarmee meet je? Kwaliteit van meetinstrumenten

Kwaliteitscriteria Schaaleigenschappen (interne consistentie, factorananalyse en collineariteit) Normgegevens Reproduceerbaarheid / betrouwbaarheid Validiteit Responsiviteit (onderdeel van validiteit) / bodem- en plafondeffecten Feasibility Dit zijn allemaal klinimetrische eigenschappen die zowel bij een bestaand meetinstrument als bij een nieuwe te ontwikkelen meetinstrument bekeken moeten wroden. KNGF-10

Betrouwbaarheid van meetinstrumenten Betrouwbaarheid is een deelaspect van validiteit = is het instrument consistent of herhaalbaar Verschillende testen na elkaar moeten dezelfde resultaten geven Nooit valide als hij niet betrouwbaar is Wel betrouwbaar maar niet valide

X

Oorzaken van meetfouten Subject : motivatie, stemming, vermoeidheid, geheugen, … Testen : heldere instructies, bijkomende richtlijnen, … Scoring : competentie, ervaring, toewijding, … van scorers Instrumentarium : fouten bij het toestel of bij de codering

Methoden om betrouwbaarheid vast te stellen Intrabeoordelaar betrouwbaarheid Interbeoordelaar betrouwbaarheid

Validiteit van instrumenten Validiteit = de mate waarin de test of het instrument meet wat hij bedoelt te meten Belangrijkste criterium = degelijkheid van de test

‘Face’ en ‘content’ validiteit ‘Face’ validiteit Is het aannemelijk dat de items het bedoeld begrip meten? ‘Content’ validiteit Komen alle relevante dimensies aan bod en zijn er geen overbodige items Face validiteit is het aller belangrijkste. Als U denkt ‘waar slaan die vragen op? Dit wil ik helemaal niet weten, dan kunt U de vragenlijst al weg leggen. Als U de vragen bekijkt, bijv. Naar welke activiteiten allemaal wordt gevraagd kunt U kijken of er belangrijke gebieden gemist worden. Stel dat er alleen naar lichte huishoudelijke activiteien of zelfverzorging werd gevraagd en U wil weten of patienten na de operatie ook weer hun werk kunnen uitvoeren, dan moet U kijken of die in de vragenlijst voorkomen, of daar een aparte lijst voor meenemen. Het hoeft natuurlijk niet zo te zijn dat alle aspecten in meetinstrument vertegenwoordigd zijn KNGF-14

Construct validiteit Indien niet observeerbare constructen gemeten worden bv. intelligentie, angst, attitude, creativiteit, … Mate waarin de test dit construct meet door te relateren aan een bepaald gedrag Bv. Test om ‘fair play’ te meten en observeren tijdens wedstrijd

Construct validiteit Geen gouden standaard Vergelijking met andere instrumenten Opstellen van hypothesen overeenkomst met soortgelijke instrumenten (convergent) geen overeenkomst met andersoortige instrumenten (divergent) Verschillen tussen groepen (discriminant) KNGF-16

Criterium validiteit Instrumenten worden gevalideerd ten opzichte van een criterium

Correlatie van het instrument met een criterium op zelfde moment Criterium is dan een reeds gevalideerd, aanvaard instrument OF scores van beoordelaars of prestaties

Generaliseren van validiteit Validiteit is populatie specifiek : hoogste validiteit voor sample waarin het is vastgesteld Andere leeftijd, geslacht, SES ? Verschillende studies nodig die predictor – criterium combineren

Validiteit diagnostische tests Sensitiviteit Specificiteit Predictive value/likelihood ratio etc

Sensitiviteit = A/(A+C)= % terecht ziek verklaard Ziekte aanwezig Ziekte afwezig Test Positief Terecht positief A Fout-positief B A+B Test Negatief Fout-negatief C terecht-negatief D C+D A+C B+D Sensitiviteit = A/(A+C)= % terecht ziek verklaard Specificiteit: D/(B+D) = % terecht niet-ziek verklaard

Sensitiviteit = A/(A+C)=225/250= 90% (terecht ziek) Diabetes aanwezig Diabetes afwezig > 100 mg/ml 225 A B A+B <100 mg/ml 25 C 525 D C+D 250 750 Sensitiviteit = A/(A+C)=225/250= 90% (terecht ziek) Specificiteit= D/(B+D) =525/750= 70% terecht niet-ziek

ROC curve 1.0 0 1.0 sensitiviteit (echt positief) 1-specificiteit 0 1.0 1-specificiteit (fout positief)

Responsiviteit Kan het instrument veranderingen aantonen als die optreden? Laat het instrument géén veranderingen zien bij de mensen die stabiel blijven? Bodem of plafondeffecten? KNGF-21

Feasibility Taal Benodigdheden Randvoorwaarden Tijd handleiding