Predictieve validiteit - fase 4: Validatie van de testprocedure

19 belangrijke vragen over Predictieve validiteit - fase 4: Validatie van de testprocedure

Wat houdt fase 4 (validatie van de testprocedure) in?

Het vaststellen van de correlatie tussen de testscore en de criteriumscore.

Welk nadeel is gebonden aan validatie van een test op basis van direct of makkelijk beschikbare gegevens?

In een experimentele situatie hebben deelnemers niet altijd dezelfde motivatie als tijdens een echte sollicitatie of examen. Ook kunnen eigenschappen, attitudes en motivatie afwijken. Generaliseren naar de realiteit is in dit geval niet mogelijk.

In de praktijk wordt bij het valideren vaak gekozen om criteriumvariabele te kiezen die snel beschikbaar zijn en niet te wachten tot de ultieme criteria variabelen beschikbaar zijn. Dit kan soms jaren duren. Wat zijn de nadelen van valideren met een gelijktijdig criterium (concurrent validity)?

- De onderzoeker ziet zich gedwongen om het onderzoek uit te voeren op een groep pp waarvan criteriumscores reeds beschikbaar zijn. Dit is een risico met betrekking tot de generalisatie van de gegevens.

- als pp  een test doen in een experimentele setting hebben de onderzochten niet altijd dezelfde motivatie, inzet en spanning als in de situatie van een echte sollicitatie of een echt toelatingsexamen.
  • Hogere cijfers + sneller leren
  • Niets twee keer studeren
  • 100% zeker alles onthouden
Ontdek Study Smart

Wat is het nadeel van het later verzamelen van criteriumscores bij de opzet van een test voor predictieve validiteit?

  1. Lange duur onderzoek -> kostbaar
  2. Afvallen proefpersonen waardoor minder criteriumscores beschikbaar komen en de variatie van de scores wordt beperkt (bijv. de slechte en de beste zijn afgevallen) -> betrouwbaarheid en validiteit worden negatoef beïnvloed.
  3. Contaminatie van het criterium: De beoordelaar laat zijn oordeel beïnvloeden door kennis over de test . Bijv. oordeel leidinggevende als criteriummaat beinvloed door kennis dat Jantje slechte testscore heeft. De beoordelaar brengt onbewust de criteriumscores i.o.m de voorspellende tesscores => correlatie test- en criteriumscores kunstmatig hoog.

Welk nadeel is er gebonden aan het wachten op de daadwerkelijke criteriumgegevens?

De lange duur van het onderzoek maakt het kostbaar en de vraag is van hoeveel van de proefpersonen de criteriumscores ter beschikking komen (ivm afwijzing en uitval ed).

Ook aan het ideale onderzoek waarin kandidaten bij de entree met de te valideren tests worden onderzocht en vervolgens wordt gewacht tot de criteriumgegevens beschikbaar komen, kleven bezwaren. Welke?

- door de lange duur is het onderzoek erg kostbaar
- het is de vraag van hoeveel proefpersonen uiteindelijk de criteriumgegevens beschikbaar komen. Degene die dat wel halen verschillen mogelijk van degene die het niet halen, waardoor er selectie optreedt.
- de selectie geeft ook variatiebeperking waardoor de betrouwbaarheid en de validiteit te laag geschat kunnen gaan worden. Er zijn methodes waarmee de validiteit in de oorspronkelijke, niet-geselecteerde onderzoeksgroep kan worden 'teruggeschat' (Roe 1983, Jansen 1984)
- testuitslagen kunnen mogelijk bij een latere beoordelaar bv de leidinggevende van de beoordeelde) bekend raken. Dit kan van invloed zijn op zijn uiteindelijke oordeel.

Wat is het risico bij uitval van proefpersonen tussen het beginonderzoek en beschikbaarheid van criteriumgegevens?

Het risico is dat zowel de lage scores van diegene die zijn afgewezen en de hoge scores van diegene die bv promotie hebben gemaakt uit het beeld verdwijnen, wat leidt tot variatiebeperking.

Wat houdt een kromlijnige relatie in tussen testscore X  (predictor)  en criteriumscore Y ?

  1. Lage testscore X -> lage criteriumscore Y
  2. Hogere testscore -> hogere criteiumscore Y
  3. Zeer hoge testscore -> lagere testscore
  4. Bijv. verband tussen motivatie (X) en prestatie (Y): afwzigheid motivatie -> slechte prestatie, hoger niveau van motivatie -> betere prestatie, te sterke motivatie -> spanning en negatief effect op prestatie.

Wat houdt een heteroscedastische relatie in tussen testscore X (predictor) en criteriumscore Y?

  1. Naarmate X toenneemt, neemt de spreiding van Y toe.
  2. Bij zeer hoge waarden van X zijn bijna alle waarden van Y mogelijk
  3. Bijv. verband tussen intelligentie en studieprestatie. Een geringe intelligentie -> slechte studieprestaties. Een hogere intelligentie garanderen geen betere prestaties omdat dan zaken als motivatiue, zelfdiscipline en leergierigheid meespelen

Wat is een mogelijke verklaring voor het ontstaan van een kromlijnige relatie tussen de testscore en de criteriumscore? Wat betekent dit voor de meting van validiteit?

Het meten van de relatie tussen motivatie (testscore X) en prestatie (criteriumscore Y), waarbij lage en hoge motivatie overeenkomen met de prestatiewaarden, maar waar te hoge motivatie vanwege spanning weer kan leiden tot lagere scores.

In dit geval moet een correlatiemaat worden aangehouden die onafhankelijk is van de vorm van de relatie.

Wat houdt een homoscedatische relatie tussen predictor X en criterium Y in?

  1. Relaties zijn overal even sterk
  2. Gegeven X is de spreiding van Y overal gelijk

Wat is een mogelijke verklaring voor het ontstaan van een heteroscedastische relatie tussen testscore en criteriumscore?

Het meten van de relatie tussen intelligentie (testscore X) en studieprestatie (criteriumscore Y), waarbij lage intelligentie zal leiden tot lage studieprestaties, maar hoge intelligentie niet perse tot hoge studieprestaties. Hierdoor neemt de spreiding toe, naarmate de testscore toeneemt.

Er bestaat een correlatiecoëfficiënt θ die de gemiddelde relatie over de verschillende niveaus weergeeft.

Wat is een suppressor variabele?

  1. We hebben 2 testscores X1 en X2 en 1 criteriumscore Y.
  2. X2 is een suppressor omdat hij het niet-relevante deel van X1 bij de voorspelling van Y onderdrukt, m.a.w.
  3. X2 maakt het mogelijk dat X1 beter functioneert als voorspeller van Y.
  4. Bijv. Door de scores op de rekentoets (X1) te corrigeren voot taalvaardigheid (X2), die op zich irrelevant is voor de voorspelling van de geschiktheid voor een technische beroep (Y), kan een betere voorspelling worden gegeven.

Wanneer kunnen tests voor voorspelling nuttig zijn als suppressor variabele?

Indien er meerdere testscores (X) zijn waarvan sommige wel correleren met de criteriumscore (Y) en andere niet. In dit geval kan met behulp van een niet-correlerende testscore het niet-correlerende deel uit de correlerende testscore worden gehaald, zodat de correlatie tussen deze score en de criteriumscore toeneemt.

Wat is een testscore die functioneert als een moderatorvariabele?

  1. Dit is een variabele die zelf niet of nauwelijks hoeft te correleren met een criteriumscore Y, maar die wel de relatie van andere variabelen met Y beinvloedt
  2. Bijv. sekse een moderator variabele mbt correlatie tussen test X en criterium Y. De correlatie tussen X en Y ligt verschillende per sexe.
  3. Bijv. motivatie als moderator in de relatie tussen intelligentiescores (X) en schoolprestaties (Y).
  4. Belangrijk om bij valideringsonderzoek rekening te houden met moderatoren -> sommige tests soms maar in een beperkt aantal deelgroepen uit een populatie bruikbaar om een criterium te vooorspellen.

Wanneer kunnen testscores functioneren als moderator variabelen?

Indien de testscore (X) zelf niet correleert met de criteriumscore (Y), maar wel de relatie van andere variabelen met Y beïnvloed.

Een voorbeeld kan zijn sekse in een studie waarin  een testscore wel correleert bij mannen maar niet bij vrouwen, waardoor de algehele correlatie matig wordt.

Wat is het nadeel van toekomstgerichte validering?

· Criterium dat in de toekomst liggen zijn veel moeilijker te valideren. Soms zitten er jaren tussen het testen en het beoordelen van het criteriumgedrag.
· Het onderzoek is kostbaar en duurt lang.
· Er vallen mensen in de tussentijds uit waardoor er sprake kan zijn van variatiebeperking.
· Er kan sprake zijn van contaminatie van het criterium.

Wat houdt contaminatie van het criterium in?

De beoordelaar, wiens oordeel als criteriummaat zal worden gebruikt, kent de testcijfers of -uitslagen. De testscore en criteriumscore zijn dam niet onafhankelijk vastgesteld (bv. leidinggevende die zijn beoordeling laat beïnvloeden door de testscore: ‘zie je wel’).
Als hier sprake van is, valt de correlatie tussen test en criteriumscore kunstmatig hoog uit.

Wat is een validiteits coefficient?

De Correlatie tussen testscore en criteriumscore. (Aanduiding van valisiteit)

De vragen op deze pagina komen uit de samenvatting van het volgende studiemateriaal:

  • Een unieke studie- en oefentool
  • Nooit meer iets twee keer studeren
  • Haal de cijfers waar je op hoopt
  • 100% zeker alles onthouden
Onthoud sneller, leer beter. Wetenschappelijk bewezen.
Trustpilot-logo