Moderators: dirkwb, Xilvo
-
- Berichten: 281
Beste forumleden.
Ik heb een vraagje ivm multiple regression analysis (sorry ik zal een deeltje in het engels moeten posten, aangezien mijn cursus in het engels wordt gegeven).
In mijn cursus staat, over het gevolg van multi-collineariteit:
In a pure statistical sense multicollinearity does not bias the results.
However, in the event of multicollinearity one should not interpret the partial regression coefficients (try to explain the dependent variable in function of the explanatory variables), but the model is still valid for prediction purposes.
Ik snap deze alinea niet helemaal.. zeker de eerste zin niet: wat wordt bedoelt met die zin?
De rest begrijp ik wel ongeveer.
Kan iemand me een beetje uitleg geven?
Alvast bedankt!
Mvg
Liekeu
-
- Berichten: 10.179
Heb je moeite met de vertaling of de interpretatie van de zin?
Begrijp je wat multi-colineariteit is?
-
- Berichten: 281
Ik begrijp wat multi-collineariteit is. Ik begrijp het engels.
Ik begrijp echter de betekenis van de zin niet, ik kan me niet voorstellen wat ze bedoelen met '..does not bias the results..'. De interpretatie dus.
-
- Berichten: 10.179
Ik zal de vraag omkeren: Waarom denk je dat het je resultaten wél beïnvloedt?
-
- Berichten: 281
Maar met resultaten.. bedoelen ze daarmee de schattingen van de partiële regressiecoëfficiënten? (b1, ..., bk)
En waarom wel: misschien dat deze schattingen inaccuraat zouden zijn, omwille van die collineariteit?
-
- Berichten: 10.179
Mja, dat is meer wat gokken, lijkt me, toch? Wanneer is een schatter zuiver? En wanneer dus niet?
En met resultaten bedoelen ze inderdaad uw schattingen van de coëfficiënten.
-
- Berichten: 281
Ik bedoel eigenlijk.. stel dat 2 variabelen gecorreleerd zijn. Elk heeft zijn bijdrage aan de variatie in de afhankelijke variabele. Maar als je er 1 van de 2 uithaalt.. dan verandert de contributie van diegene die nog in het model zit.. toch?
Of bedoelden ze nu net niet, met die zin?
-
- Berichten: 10.179
Wat is de definitie van zuiver?
Wat je nu zegt, klopt wel. Maar dan is er een tweede effect: correlatie. Dan is er niet meer alleen multicollineariteit.
Aanvullend:
Wiki schreef:Multicollinearity does not actually bias results; it just produces large standard errors in the related independent variables.
In a pure statistical sense multicollinearity does not bias the results, but if there are any other problems which could introduce bias multicollinearity can multiply (by orders of magnitude) the effects of that bias. More importantly, the usual use of regression is to take coefficients from the model and then apply them to other data. If the new data differs in any way from the data that was fitted you may introduce large errors in your predictions because the pattern of multicollinearity between the independent variables is different in your new data from the data you used for your estimates.
-
- Berichten: 281
Drieske schreef:Wat is de definitie van zuiver?
Wat je nu zegt, klopt wel. Maar dan is er een tweede effect: correlatie. Dan is er niet meer alleen multicollineariteit.
Nu ben ik niet meer mee..
-
- Berichten: 10.179
Sorry, vergeet even wat ik net zei
. Ik was zelf even twee zaken door elkaar aan het halen
.
Kun je de definitie van zuiver (of onzuiver) geven?
-
- Berichten: 281
Ivm jouw aanvulling:
heb ik al gelezen op wikipedia. Maar beantwoord mn vraag nog steeds niet
Zuiver? Nee niet gezien in de cursus :/. Ik veronderstel: een variabele dat gemeten is, zonder systematische fouten (bv fout in meettoestel)?
-
- Berichten: 281
Trouwens net een nieuwe zin tegen gekomen, wiens interpretatie ik niet meteen door heb:
If both approaches (backward elimination and stepwise selection) do not lead to the same final regression model, then it means that the impact (contribution) of a certain explanatory variable depends on the presence or absence of explanatory variable that are already in the model: a explanatory variable can be statistically significant in a model if some other explanatory variable is in or is not in the model
Als de ene variabele afhangt van een of meerdere variabelen niet/wel in het model, is dat toch juist een teken van collineariteit? Of ben ik mis?
-
- Berichten: 6.058
Multicollineariteit = onafhankelijke variabelen correleren met elkaar waardoor het effect op de afhankelijke niet meer goed te zeggen is.
Voorbeeld (die ook op Wiki staat):
Is er een verband tussen ijsconsumptie en aantal mensen dat verdrinkt?
Je zult ziet dat ijsconsumptie correleert met het aantal mensen dat verdrinkt. Maar als je de buitentemperatuur erin betrekt deze ook correleert met de ijsconsumptie en het aantal mensen dat verdrinkt.
Je kunt dus bijvoorbeeld niet zeggen: ijsconsumptie leidt tot meer mensen die verdrinken (OMDAT de buitentemperatuur een rol speelt).
Wat je wel kunt zeggen is: de grootte van de ijsconsumptie voorspelt dat er weer meer mensen gaan verdrinken (ONGEACHT dat de buitentemperatuur een rol speelt).
That which can be asserted without evidence can be dismissed without evidence.
-
- Berichten: 281
Ow.. dat bedoel je dus met zuiver? Een zuiver effect bv? Er is in dit geval geen zuiver effect van ijsconumptie op aantal mensen dat verdrinkt, omdat het gecorreleerd is met t°...
-
- Berichten: 281
Maar hoe komt het nu dat, multicollineariteit de resultaten niet 'biased'?
Willen ze zeggen: multicollineariteit biased de resultaten niet, omdat de schattingen van de [pariele coefficienten daarom op zich niet fout zijn ofzo, en dat het model op zich wel nog juist is?
(dit antwoord heb ik trouwens tot hier toe al in 2 bronnen gevonden, dus ik veronderstel dat ze wel dit bedoelen met 'multicoll does not bias the results'?)
