[wiskunde] bayes update

Moderators: ArcherBarry, Fuzzwood

Reageer
Gebruikersavatar
Berichten: 7.390

bayes update

Ik heb staan in mijn cursus:
\(f_{a posteriori}(q \vert k) \propto f_{likelihood}(k \vert q) f(a)_{ a priori}\)
Ook al begrijp ik de klassieke stelling van Bayes, hier zit ik een beetje vast. Iemand die dit kan verduidelijken? Ik weet dat het idee is dat je een bepaalde kansverdeling hebt, en die ke wil updaten naarmate er meer gegeven bijkomen.

Alvast bedankt!
"C++ : Where friends have access to your private members." Gavin Russell Baker.

Gebruikersavatar
Berichten: 2.609

Re: bayes update

Ik begrijp niet wat je precies nodig hebt, maar heb je de Wikipedia pagina van Maximum likelihood al eens bekeken?

Berichten: 1.617

Re: bayes update

Is f een kansdichtheid? Verder: waar komt die f(a) ineens vandaan? Bayes gaat over het verband van voorwaardelijke en simultaankansen van twee (al dan niet afhankelijke) stochastische variabelen. Ik ken geen versie met 3 (k,q,a).

Gebruikersavatar
Berichten: 7.390

Re: bayes update

Het is een versie van

\(
f_\text{a posteriori}(q \vert k) \propto f_\text{likelihood}(k \vert q) f(q)_\text{ a priori}
\)
[/color]

maar in dit geval wordt de
\(f(q)_\text{ a priori}\)
een uniforme verdeling genomen.

Als het makkelijker is om daar iets over te zeggen, is dat dus ook goed.
Xenion schreef: zo 01 dec 2013, 18:17
Ik begrijp niet wat je precies nodig hebt, maar heb je de Wikipedia pagina van Maximum likelihood al eens bekeken?
Ja, dat komt iets verder aan bod.
"C++ : Where friends have access to your private members." Gavin Russell Baker.

Gebruikersavatar
Berichten: 2.609

Re: bayes update

Het idee is doorgaans dat je iets hebt dat je kan observeren/meten, dit is in jouw geval een variabele k. Gelinkt aan die variabele is er een model q dat het beschrijft.

Op basis van dat model kan je een pdf f(k|q=x) opstellen, maar meestal ben je geïnteresseerd in f(q|k=x).

Hiervoor heb je f(q|k=x) nodig, maar die ken je doorgaans niet. Vandaar dat je zal werken met f(q|k=x) ~ f(k=x|q)*f(q).

In f(k=x|q) is q de veranderlijke en als je integreert over alle mogelijke waarden van q dan krijg je niet per se 1 als uitkomst. Hierdoor is deze functie geen kansdichtheidsfunctie en daarom wordt ze de likelihood functie genoemd.

De a priori informatie over de parameters van je model zitten vervat in f(q), maar vaak worden die uit gemak ondersteld uniform verdeeld te zijn.

Bijvoorbeeld:

Stel je wil dieren op basis van hun gewicht classificeren als olifanten of katten. Als je weet dat een dier tot een van deze klasses behoort dan kan je ervan uitgaan dat hun gewicht een normale verdeling volgt met een zeker gemiddelde en een zekere variantie. Dat geeft je pdfs f(k|q=kat) en f(k|q=olifant).

Je kan ook a priori informatie over het tegenkomen van een kat of een olifant gebruiken door f(q) niet uniform te kiezen. In België is f(q=kat) bijvoorbeeld aanzienlijk groter dan f(q=olifant).

Maar stel nu dat je ergens een zekere massa k=x hebt gemeten. Wat is nu de meest waarschijnlijke classificatie die die meting verklaart? Algemener: wat zijn de meest waarschijnlijke modelparameters?

En zo kom je dan bij maximum-likelihood schatters.

Gebruikersavatar
Berichten: 7.390

Re: bayes update

Bedankt voor de uitleg. Ik had het verkeerd voor dan. Ik had het geïnterpreteerd als volgt (voorbeeldje):

Je hebt een verdeling die de kans geeft op succes bij de lancering van een raket (dat is dan de f(likelihood). Deze is gebaseerd op een beperkt aantal lanceringen. Nadat je dan een extra lancering hebt uitgevoerd, kan je eigenlijk je model nauwkeuriger maken, want je hebt een meting extra als informatie. Daardoor kan je een 'betere' verdeling bekomen, namelijk de 'a posteriori'.
"C++ : Where friends have access to your private members." Gavin Russell Baker.

Gebruikersavatar
Berichten: 2.609

Re: bayes update

Dat klinkt ook ergens logisch. Misschien moet je meer context geven (stuk cursustekst)?

Reageer