Bayesin teoreema: ehdollinen todennäköisyys ja todisteiden päättely

Käytetty yhtälö on:

P ( A | B ) = P ( B | A ) P ( A ) P ( B ) . {\displaystyle P(A|B)={\frac {P(B|A)\,P(A)}{P(B)}}.}

Missä:

• P(A) on A:n ennakkotodennäköisyys tai rajatodennäköisyys. Se on "ennakkotodennäköinen" siinä mielessä, että siinä ei oteta huomioon mitään tietoa B:stä.
• P(A|B) on A:n ehdollinen todennäköisyys, kun B on annettu. Sitä kutsutaan myös jälkitodennäköisyydeksi, koska se on johdettu B:n määritellystä arvosta (tai riippuu siitä).
• P(B|A) on B:n ehdollinen todennäköisyys A:n suhteen. Sitä kutsutaan myös todennäköisyydeksi.
• P(B) on B:n ennakko- tai rajatodennäköisyys, ja se toimii normalisoivana vakiona.

Monissa skenaarioissa P(B) lasketaan epäsuorasti kaavalla P ( B ) = P ( B | A ) P ( A ) + P ( B | A c ) P ( A c ) {\displaystyle P(B)=P(B|A)P(A)+P(B|A^{c})P(A^{c})} , joka yksinkertaisesti sanoo, että B:n todennäköisyys on ehdollisten todennäköisyyksien summa, joka perustuu siihen, onko A tapahtunut vai ei.

Yksinkertainen esimerkki on seuraava: Sunnuntaina on 40 prosentin sateen mahdollisuus. Jos sunnuntaina sataa, maanantaina sataa 10 % todennäköisyydellä. Jos sunnuntaina ei sada, maanantaina sataa 80 prosentin todennäköisyydellä.

"Sunnuntaina sataa" on tapahtuma A, ja "maanantaina sataa" on tapahtuma B.

• P( A ) = 0,40 = Sateen todennäköisyys sunnuntaina.
• P( A` ) = 0,60 = Todennäköisyys, että sunnuntaina ei sada.
• P( B | A ) = 0,10 = Sateen todennäköisyys maanantaina, jos sunnuntaina satoi.
• P( B` | A ) = 0,90 = Todennäköisyys, että maanantaina ei sada, jos sunnuntaina satoi.
• P( B | A` ) = 0,80 = Sateen todennäköisyys maanantaina, jos sunnuntaina ei satanut.
• P( B` |A` ) = 0,20 = Todennäköisyys, että maanantaina ei sada, jos sunnuntaina ei satanut.

Ensimmäinen asia, jonka normaalisti laskisimme, on todennäköisyys sille, että maanantaina sataa: Tämä on summa todennäköisyyksistä "Sata sunnuntaina ja sataa maanantaina" ja "Ei sadetta sunnuntaina ja sataa maanantaina":

0,40 × 0,10 + 0,60 × 0,80 = 0,52 = 52 % {\displaystyle 0,40 \ kertaa 0,10 + 0,60 \ kertaa 0,80 = 0,52 = 52 \%} mahdollisuus

Jos meitä kuitenkin pyydettiin laskemaan todennäköisyys sille, että sunnuntaina satoi, kun otetaan huomioon, että maanantaina satoi, Bayesin teoreema astuu kuvaan. Sen avulla voimme laskea aikaisemman tapahtuman todennäköisyyden, kun otetaan huomioon myöhemmän tapahtuman tulos.

Käytetty yhtälö on:

P ( A | B ) = P ( B | A ) P ( A ) P ( B ) . {\displaystyle P(A|B)={\frac {P(B|A)\,P(A)}{P(B)}}.}

Tapauksessamme "Sade sunnuntaina" on tapahtuma A ja "Sade maanantaina" on tapahtuma B.

• P(B|A) = 0,10 = Sateen todennäköisyys maanantaina, jos sunnuntaina satoi.
• P(A) = 0,40 = Sateen todennäköisyys sunnuntaina.
• P(B) = 0,52 = Sateen todennäköisyys maanantaina.

Lasketaan siis todennäköisyys sille, että sunnuntaina satoi, kun otetaan huomioon, että maanantaina satoi, kaavalla:

P ( A | B ) = P ( B | A ) P ( A ) P ( B ) . {\displaystyle P(A|B)={\frac {P(B|A)\,P(A)}{P(B)}}.}

tai:

P ( A | B ) = 0.10 ∗ 0.40 0.52 = .0769 {\displaystyle P(A|B)={\frac {0.10*0.40}{0.52}}=.0769}}

Toisin sanoen, jos maanantaina satoi, sunnuntaina satoi 7,69 prosentin todennäköisyydellä.

Lasketaan todennäköisyys sille, että sunnuntaina satoi, kun otetaan huomioon, että maanantaina satoi, seuraavasti:

• Tiedämme, että maanantaina satoi. Näin ollen kokonaistodennäköisyys on P(B).
• Todennäköisyys, että sunnuntaina satoi, on P(A).
• Todennäköisyys sille, että maanantaina satoi, kun otetaan huomioon, että sunnuntaina satoi, on P(B|A).
• Todennäköisyys, että sunnuntaina sataa ja maanantaina sataa, on P(A)*P(B|A).
• Näin ollen kokonaistodennäköisyys sille, että sunnuntaina satoi, kun otetaan huomioon, että maanantaina satoi, on todennäköisyys sille, että sunnuntaina ja maanantaina satoi, jaettuna todennäköisyydellä sille, että maanantaina satoi.

Siksi,

P ( A | B ) = P ( B | A ) P ( A ) P ( B ) . {\displaystyle P(A|B)={\frac {P(B|A)\,P(A)}{P(B)}}.}

Toinen tapa nähdä tämä, joka osoittaa, mistä Bayesin teoreema on peräisin, on tarkastella todennäköisyyttä P(AB), että sataa sekä sunnuntaina että maanantaina. Tämä voidaan laskea kahdella eri tavalla, jotka antavat saman vastauksen P(AB):lle:

P ( A ) P ( B | A ) = P ( B ) P ( A | B ) {\displaystyle P(A)\,P(B|A)=P(B)\,P(A|B)}

Tässä suhteessa Bayesin teoreema on vain toinen tapa kirjoittaa tämä yhtälö.

• Bayesilainen todennäköisyys
• Bayesin verkko