Ik zal mijn volledige afleiding wel even geven:
Dit probeer ik te minimaliseren met OLS.
\(\sum^{N}_{i=1}(e_{i}^2)\)
Dit kan je herschrijven als:
\(\sum^{N}_{i=1}(Y_{i}-\hat{Y})^{2}\)
\(\sum^{N}_{i=1}(Y_{i}-(\hat{\beta_{0}}+\hat{\beta_{1}}X_{i}))^{2}\)
\(\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}X_{i}})^{2}\)
Nu differentieer ik ze t.o.v.
\(\beta_{0}\)
en
\(\beta_{1}\)
. (
Vraag: hoe heet deze vergelijking eigenlijk officieel? Dit is meer qua notatie een probleempje dan qua uitrekenen (i.e. niet zo belangrijk)).
Differentieer t.o.v.
\(\beta_{0}\)
\(2\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}}X_{i})\)
Gelijkstellen aan 0 om het te minimaliseren.
\(2\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}}X_{i})=0\)
\(\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}}X_{i})=0\)
\(\sum^{N}_{i=1}(Y)_{i} - \hat{\beta_{0}}\sum^{N}_{i=1} 1 - \hat{\beta_{1}}\sum^{N}_{i=1}X_{i} = 0\)
\(\sum^{N}_{i=1}(Y_{i}) - \hat{\beta_{0}}(N-1+1) - \hat{\beta_{1}}\sum^{N}_{i=1}X_{i} = 0\)
\(\sum^{N}_{i=1}(Y_{i}) - \hat{\beta_{0}}N - \hat{\beta_{1}}\sum^{N}_{i=1}X_{i} = 0\)
\(\sum^{N}_{i=1}(Y_{i}) - \hat{\beta_{1}}\sum^{N}_{i=1}X_{i} = \hat{\beta_{0}}N\)
\(\frac{\sum^{N}_{i=1}(Y_{i}) - \hat{\beta_{1}}\sum^{N}_{i=1}X_{i}}{N} = \hat{\beta_{0}}\)
\(\bar{Y} - \hat{\beta_{1}} \bar{X} = \hat{\beta_{0}}\)
Differentieer t.o.v.
\(\beta_{1}\)
\(2\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}}X_{i})X_{i}\)
Gelijkstellen aan 0 om het te minimaliseren.
\(2\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}}X_{i})X_{i}=0\)
\(\sum^{N}_{i=1}(Y_{i}-\hat{\beta_{0}}-\hat{\beta_{1}}X_{i})X_{i}=0\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - \hat{\beta_{0}}\sum^{N}_{i=1}(X_{i}) - \hat{\beta_{1}}\sum^{N}_{i=1}(X_{i}^2)=0\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - (\bar{Y} - \hat{\beta_{1}} \bar{X})\sum^{N}_{i=1}(X_{i}) - \hat{\beta_{1}}\sum^{N}_{i=1}(X_{i}^2)=0\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - \bar{Y} \sum^{N}_{i=1}(X_{i}) + \hat{\beta_{1}} \bar{X}\sum^{N}_{i=1}(X_{i}) - \hat{\beta_{1}}\sum^{N}_{i=1}(X_{i}^2)=0\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - \bar{Y} \sum^{N}_{i=1}(X_{i}) = - \hat{\beta_{1}} \bar{X}\sum^{N}_{i=1}(X_{i}) + \hat{\beta_{1}}\sum^{N}_{i=1}(X_{i}^2)\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - \bar{Y} \sum^{N}_{i=1}(X_{i}) = \hat{\beta_{1}} (\sum^{N}_{i=1}(X_{i}^2)-\bar{X}\sum^{N}_{i=1}(X_{i}))\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - \bar{Y} \sum^{N}_{i=1}(X_{i}) = \hat{\beta_{1}} (\sum^{N}_{i=1}(X_{i}^2)-(\frac{(\sum^{N}_{i=1}(X_{i}))^{2}}{N}))\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - (\frac{\sum^{N}_{i=1}(Y_{i})}{N}) \sum^{N}_{i=1}(X_{i}) = \hat{\beta_{1}} (\sum^{N}_{i=1}(X_{i}^2)-(\frac{(\sum^{N}_{i=1}(X_{i}))^{2}}{N}))\)
\(\sum^{N}_{i=1}(Y_{i}X_{i}) - (\frac{\sum^{N}_{i=1}(Y_{i})\sum^{N}_{i=1}(X_{i})}{N}) = \hat{\beta_{1}} (\sum^{N}_{i=1}(X_{i}^2)-(\frac{(\sum^{N}_{i=1}(X_{i}))^{2}}{N}))\)
Hmm... nu weet ik niet meer hoe ik de LHS "in elkaar" tot
\(\sum^{N}_{i=1}(Y_{i}-\bar{Y})(X_{i}-\bar{X})\)
heb gekregen... doe ik hier wat fout?
En de RHS klopt als het goed is, ik moet het alleen nog naar de LHS halen en dan is het delen door...
Nu loop ik eigenlijk vast, ik heb niet echt veel dingen gedaan met sommaties vermenigvuldigen...
.
