Predictieve validiteit - fase 4: Validatie van de testprocedure
19 belangrijke vragen over Predictieve validiteit - fase 4: Validatie van de testprocedure
Wat houdt fase 4 (validatie van de testprocedure) in?
Welk nadeel is gebonden aan validatie van een test op basis van direct of makkelijk beschikbare gegevens?
In de praktijk wordt bij het valideren vaak gekozen om criteriumvariabele te kiezen die snel beschikbaar zijn en niet te wachten tot de ultieme criteria variabelen beschikbaar zijn. Dit kan soms jaren duren. Wat zijn de nadelen van valideren met een gelijktijdig criterium (concurrent validity)?
- als pp een test doen in een experimentele setting hebben de onderzochten niet altijd dezelfde motivatie, inzet en spanning als in de situatie van een echte sollicitatie of een echt toelatingsexamen.
- Hogere cijfers + sneller leren
- Niets twee keer studeren
- 100% zeker alles onthouden
Wat is het nadeel van het later verzamelen van criteriumscores bij de opzet van een test voor predictieve validiteit?
- Lange duur onderzoek -> kostbaar
- Afvallen proefpersonen waardoor minder criteriumscores beschikbaar komen en de variatie van de scores wordt beperkt (bijv. de slechte en de beste zijn afgevallen) -> betrouwbaarheid en validiteit worden negatoef beïnvloed.
- Contaminatie van het criterium: De beoordelaar laat zijn oordeel beïnvloeden door kennis over de test . Bijv. oordeel leidinggevende als criteriummaat beinvloed door kennis dat Jantje slechte testscore heeft. De beoordelaar brengt onbewust de criteriumscores i.o.m de voorspellende tesscores => correlatie test- en criteriumscores kunstmatig hoog.
Welk nadeel is er gebonden aan het wachten op de daadwerkelijke criteriumgegevens?
Ook aan het ideale onderzoek waarin kandidaten bij de entree met de te valideren tests worden onderzocht en vervolgens wordt gewacht tot de criteriumgegevens beschikbaar komen, kleven bezwaren. Welke?
- het is de vraag van hoeveel proefpersonen uiteindelijk de criteriumgegevens beschikbaar komen. Degene die dat wel halen verschillen mogelijk van degene die het niet halen, waardoor er selectie optreedt.
- de selectie geeft ook variatiebeperking waardoor de betrouwbaarheid en de validiteit te laag geschat kunnen gaan worden. Er zijn methodes waarmee de validiteit in de oorspronkelijke, niet-geselecteerde onderzoeksgroep kan worden 'teruggeschat' (Roe 1983, Jansen 1984)
- testuitslagen kunnen mogelijk bij een latere beoordelaar bv de leidinggevende van de beoordeelde) bekend raken. Dit kan van invloed zijn op zijn uiteindelijke oordeel.
Wat is het risico bij uitval van proefpersonen tussen het beginonderzoek en beschikbaarheid van criteriumgegevens?
Wat houdt een kromlijnige relatie in tussen testscore X (predictor) en criteriumscore Y ?
- Lage testscore X -> lage criteriumscore Y
- Hogere testscore -> hogere criteiumscore Y
- Zeer hoge testscore -> lagere testscore
- Bijv. verband tussen motivatie (X) en prestatie (Y): afwzigheid motivatie -> slechte prestatie, hoger niveau van motivatie -> betere prestatie, te sterke motivatie -> spanning en negatief effect op prestatie.
Wat houdt een heteroscedastische relatie in tussen testscore X (predictor) en criteriumscore Y?
- Naarmate X toenneemt, neemt de spreiding van Y toe.
- Bij zeer hoge waarden van X zijn bijna alle waarden van Y mogelijk
- Bijv. verband tussen intelligentie en studieprestatie. Een geringe intelligentie -> slechte studieprestaties. Een hogere intelligentie garanderen geen betere prestaties omdat dan zaken als motivatiue, zelfdiscipline en leergierigheid meespelen
Wat is een mogelijke verklaring voor het ontstaan van een kromlijnige relatie tussen de testscore en de criteriumscore? Wat betekent dit voor de meting van validiteit?
In dit geval moet een correlatiemaat worden aangehouden die onafhankelijk is van de vorm van de relatie.
Wat houdt een homoscedatische relatie tussen predictor X en criterium Y in?
- Relaties zijn overal even sterk
- Gegeven X is de spreiding van Y overal gelijk
Wat is een mogelijke verklaring voor het ontstaan van een heteroscedastische relatie tussen testscore en criteriumscore?
Er bestaat een correlatiecoëfficiënt θ die de gemiddelde relatie over de verschillende niveaus weergeeft.
Wat is een suppressor variabele?
- We hebben 2 testscores X1 en X2 en 1 criteriumscore Y.
- X2 is een suppressor omdat hij het niet-relevante deel van X1 bij de voorspelling van Y onderdrukt, m.a.w.
- X2 maakt het mogelijk dat X1 beter functioneert als voorspeller van Y.
- Bijv. Door de scores op de rekentoets (X1) te corrigeren voot taalvaardigheid (X2), die op zich irrelevant is voor de voorspelling van de geschiktheid voor een technische beroep (Y), kan een betere voorspelling worden gegeven.
Wanneer kunnen tests voor voorspelling nuttig zijn als suppressor variabele?
Wat is een testscore die functioneert als een moderatorvariabele?
- Dit is een variabele die zelf niet of nauwelijks hoeft te correleren met een criteriumscore Y, maar die wel de relatie van andere variabelen met Y beinvloedt
- Bijv. sekse een moderator variabele mbt correlatie tussen test X en criterium Y. De correlatie tussen X en Y ligt verschillende per sexe.
- Bijv. motivatie als moderator in de relatie tussen intelligentiescores (X) en schoolprestaties (Y).
- Belangrijk om bij valideringsonderzoek rekening te houden met moderatoren -> sommige tests soms maar in een beperkt aantal deelgroepen uit een populatie bruikbaar om een criterium te vooorspellen.
Wanneer kunnen testscores functioneren als moderator variabelen?
Een voorbeeld kan zijn sekse in een studie waarin een testscore wel correleert bij mannen maar niet bij vrouwen, waardoor de algehele correlatie matig wordt.
Wat is het nadeel van toekomstgerichte validering?
· Het onderzoek is kostbaar en duurt lang.
· Er vallen mensen in de tussentijds uit waardoor er sprake kan zijn van variatiebeperking.
· Er kan sprake zijn van contaminatie van het criterium.
Wat houdt contaminatie van het criterium in?
Als hier sprake van is, valt de correlatie tussen test en criteriumscore kunstmatig hoog uit.
Wat is een validiteits coefficient?
De vragen op deze pagina komen uit de samenvatting van het volgende studiemateriaal:
- Een unieke studie- en oefentool
- Nooit meer iets twee keer studeren
- Haal de cijfers waar je op hoopt
- 100% zeker alles onthouden