Co to jest prawdopodobieństwo warunkowe?

To prawdopodobieństwo zdarzenia A liczone przy założeniu, że zaszło zdarzenie B. Oznacza się je P(A|B) i liczy jako iloraz P(A ∩ B) przez P(B). Sens jest geometryczny: informacja o zajściu B zawęża przestrzeń możliwości z całego Ω do samego B, więc licznik i mianownik trzeba zmierzyć wewnątrz tego mniejszego zbioru.

Dlaczego P(A|B) to nie to samo co P(B|A)?

Bo oba ilorazy mają ten sam licznik P(A ∩ B), ale różne mianowniki. W przykładzie ze stu uczniami 45 z 50 uczących się zdało egzamin, więc P(zdał | uczył się) wynosi 9/10, a spośród 60 zdających uczyło się 45, więc P(uczył się | zdał) wynosi 3/4. Ta sama komórka tabeli, dwie różne liczby — a mylenie ich jest najczęstszym błędem w tym dziale.

Do czego służy tabela dwudzielcza?

Do policzenia wszystkich prawdopodobieństw warunkowych jednego doświadczenia bez ani jednego wzoru. Wiersze to jedno kryterium, kolumny drugie, a w komórkach stoją liczności. Prawdopodobieństwo warunkowe czyta się wtedy jako iloraz komórki przez sumę tego wiersza albo tej kolumny — w zależności od tego, co jest warunkiem.

Kiedy stosuje się wzór na prawdopodobieństwo całkowite?

Gdy zdarzenie może zajść na kilka wykluczających się sposobów i dla każdego z nich znasz jego szansę osobno. Rozbijasz wtedy Ω na rozłączne zdarzenia pokrywające całość i sumujesz iloczyny P(Aᵢ) razy P(B|Aᵢ). Na drzewie stochastycznym jest to po prostu suma wszystkich ścieżek kończących się zdarzeniem B.

Co dokładnie robi twierdzenie Bayesa?

Odwraca warunek. Dane wejściowe mają zwykle postać P(objaw | przyczyna) — bo tak działają testy, czujniki i badania — a pytanie dotyczy P(przyczyna | objaw). Twierdzenie Bayesa liczy to drugie z pierwszego, dzieląc prawdopodobieństwo jednej ścieżki przez sumę wszystkich ścieżek prowadzących do tego samego wyniku.

Czym jest częstość bazowa i dlaczego jest ważna?

To prawdopodobieństwo hipotezy, zanim zobaczysz jakikolwiek dowód — w przykładzie z testem jest to 1 procent chorych w populacji. Wchodzi i do licznika, i do mianownika wzoru Bayesa, więc rządzi wynikiem: przy chorobie rzadkiej nawet bardzo dobry test daje po dodatnim wyniku prawdopodobieństwo dużo mniejsze niż jego czułość. Pominięcie tej liczby nazywa się ignorowaniem częstości bazowej.

Na czym polega błąd prokuratora?

Na podaniu prawdopodobieństwa dowodu przy założeniu niewinności jako prawdopodobieństwa niewinności przy zaobserwowanym dowodzie. Jeśli ślad pasuje do 1 osoby na 1000, a w mieście jest milion osób mogących go zostawić, to pasujących niewinnych jest około tysiąca — więc samo dopasowanie daje szansę winy rzędu jednej tysięcznej, a nie 99,9 procenta. Formalnie jest to zamiana P(dowód | niewinny) na P(niewinny | dowód).

Jak rozpoznać, że zdarzenia są niezależne?

Po tym, że warunek nic nie zmienia: P(A|B) równa się P(A). Podstawienie tego do definicji daje znany wzór P(A ∩ B) = P(A) razy P(B), więc niezależność opisana w lekcji o prawdopodobieństwie klasycznym jest szczególnym przypadkiem prawdopodobieństwa warunkowego, a nie osobnym pojęciem.

Poziom zaawansowany

Prawdopodobieństwo warunkowe i twierdzenie Bayesa

Informacja zmienia szanse. Gdy wiesz, że zaszło zdarzenie B, przestrzeń możliwości kurczy się do samego B — i wszystkie prawdopodobieństwa trzeba przeliczyć w środku. Ta lekcja pokazuje, jak to policzyć, jak odwrócić warunek twierdzeniem Bayesa i dlaczego dodatni wynik testu przesiewowego prawie nigdy nie znaczy tego, co się wydaje.

Zanim zaczniesz

Ten temat opiera się na wcześniejszych zagadnieniach. Zanim zaczniesz, warto przerobić poniższe lekcje — dzięki nim wszystko pójdzie gładko:

Gdzie się tego używa

Konkretne sytuacje, w których liczysz dokładnie tak, jak uczy ta lekcja:

Wynik testu przesiewowego
Test wykrywa chorobę u 99 na 100 chorych i myli się u 2 na 100 zdrowych, a choruje 1 osoba na 100. Wynik dodatni dostaje 0,01 · 0,99 = 0,0099 chorych i 0,99 · 0,02 = 0,0198 zdrowych, czyli razem 2,97 procenta badanych. Prawdopodobieństwo choroby po dodatnim wyniku wynosi 0,0099 / 0,0297, czyli dokładnie jedną trzecią — nie 99 procent. Dlatego dodatni wynik badania przesiewowego zawsze powtarza się testem potwierdzającym.
Filtr antyspamowy
Filtr uczy się, jak często słowo pada w spamie, a jak często w zwykłej poczcie. Jeśli słowo „faktura” występuje w 40 procentach spamu i w 2 procentach normalnych listów, a spamem jest 30 procent poczty, to po zobaczeniu tego słowa prawdopodobieństwo spamu wynosi 0,3 · 0,4 / (0,3 · 0,4 + 0,7 · 0,02) = 0,12 / 0,134, czyli około 90 procent. Cały klasyfikator naiwny Bayesa to ten sam rachunek powtórzony dla każdego słowa wiadomości.
Kontrola jakości na dwóch liniach
Zakład produkuje 70 procent sztuk na linii A, gdzie wadliwa jest 1 na 100, i 30 procent na linii B, gdzie wadliwe są 4 na 100. Wadliwość całej produkcji to 0,7 · 0,01 + 0,3 · 0,04 = 0,019, czyli 1,9 procenta. Gdy reklamacja dotyczy sztuki wadliwej, prawdopodobieństwo, że wyszła z linii B, wynosi 0,012 / 0,019, czyli około 63 procent — i to jest liczba, od której zaczyna się audyt.
Prognoza pogody na jutro
Serwis zapowiada deszcz na 30 procent dni. Gdy zapowiada, pada w 80 procentach przypadków; gdy nie zapowiada, pada w 10 procentach. Deszcz w losowo wybrany dzień ma więc prawdopodobieństwo 0,3 · 0,8 + 0,7 · 0,1 = 0,31. Jeśli spadł deszcz, a nie pamiętasz prognozy, szansa, że była zapowiadana, wynosi 0,24 / 0,31, czyli około 77 procent.

Wszystkie wzory

Prawdopodobieństwo warunkowe
$P(A|B) = \frac{P(A \cap B)}{P(B)}$
określone tylko dla P(B) > 0
Reguła mnożenia
$P(A \cap B) = P(B) \cdot P(A|B)$
definicja przemnożona przez P(B)
Wersja licznościowa
$P(A|B) = \frac{|A \cap B|}{|B|}$
gdy zdarzenia elementarne są równo prawdopodobne
Prawdopodobieństwo całkowite
$P(B) = \sum_{i=1}^{n} P(A_i) \cdot P(B|A_i)$
A₁, …, Aₙ rozbijają Ω na rozłączne przypadki
Twierdzenie Bayesa
$P(A_k|B) = \frac{P(A_k) \cdot P(B|A_k)}{\sum_{i=1}^{n} P(A_i) \cdot P(B|A_i)}$
odwraca warunek: z P(B|A) robi P(A|B)
Niezależność
$P(A|B) = P(A) \iff P(A \cap B) = P(A) \cdot P(B)$
warunek nie zmienia szans zdarzenia A

W prawdopodobieństwie klasycznym padło zdanie, że losowanie bez zwracania nie jest niezależne, bo po pierwszym losowaniu skład urny się zmienia. Zapisaliśmy to wtedy symbolem $P(A|B)$ i zostawiliśmy bez rachunku. Ta lekcja go dostarcza.

Punkt wyjścia jest prosty: informacja zmienia szanse. Gdy wiesz, że zaszło zdarzenie $B$ , wyniki spoza $B$ przestały być możliwe — przestrzeń zdarzeń elementarnych skurczyła się z całego $\Omega$ do samego $B$ i wszystko trzeba przeliczyć w środku.

Definicja

Prawdopodobieństwem warunkowym zdarzenia $A$ pod warunkiem $B$ nazywamy liczbę

P(A|B) = \frac{P(A \cap B)}{P(B)}, \qquad P(B) > 0

W liczniku stoi to, co sprzyja $A$ i leży w nowej przestrzeni, w mianowniku — cała nowa przestrzeń. To dokładnie ta sama konstrukcja co wzór klasyczny, tylko rolę $\Omega$ przejęło $B$ .

Zastrzeżenie $P(B) > 0$ nie jest formalnością: warunkowanie przez zdarzenie niemożliwe nie ma sensu, bo nie ma czym dzielić.

Gdy wszystkie zdarzenia elementarne są jednakowo prawdopodobne, wolno skrócić $|\Omega|$ w liczniku i mianowniku i liczyć wprost na licznościach:

P(A|B) = \frac{|A \cap B|}{|B|}

Tabela dwudzielcza

Najwygodniejszym narzędziem do liczenia prawdopodobieństw warunkowych jest tabela dwudzielcza: jedno kryterium w wierszach, drugie w kolumnach, liczności w komórkach.

Stu uczniów przed egzaminem — połowa się uczyła, połowa nie:

	zdał	nie zdał	razem
uczył się	45	5	50
nie uczył się	15	35	50
razem	60	40	100

Każde prawdopodobieństwo warunkowe czyta się z tej tabeli jako iloraz komórki przez sumę wiersza albo kolumny — bez ani jednego wzoru.

Z tabeli powyżej odczytaj P(zdał | uczył się) oraz P(uczył się | zdał).

$P(A|B)$ to nie jest $P(B|A)$

Przykład wyżej nie był ciekawostką, tylko najważniejszym ostrzeżeniem całej lekcji. Oba ilorazy dzielą to samo $P(A \cap B)$ , ale przez co innego, więc równe są tylko w szczególnym przypadku $P(A) = P(B)$ .

Codzienne wersje tej pomyłki brzmią zupełnie niewinnie:

„Większość chorych na grypę ma gorączkę" nie znaczy „większość osób z gorączką ma grypę".
„Prawie każdy wypadek ma w tle nadmierną prędkość" nie znaczy „prawie każda jazda za szybko kończy się wypadkiem".

W obu zdaniach zamieniono warunek z wnioskiem. Narzędzie, które robi tę zamianę poprawnie, poznasz dwie sekcje niżej.

Reguła mnożenia

Definicję warto raz przemnożyć przez mianownik, bo w tej postaci używa się jej najczęściej:

P(A \cap B) = P(B) \cdot P(A|B)

Czyta się to jak przepis na dwa kroki doświadczenia: najpierw zaszło $B$ , potem, już w zawężonym świecie, zaszło $A$ .

Z talii 52 kart losujemy dwie karty bez zwracania. Jakie jest prawdopodobieństwo, że obie będą asami?

Prawdopodobieństwo całkowite

Często jest odwrotnie: nie znamy $P(B)$ , za to znamy je osobno w każdym przypadku. Wtedy rozbijamy $\Omega$ na rozłączne zdarzenia $A_1, \dots, A_n$ pokrywające całość i sumujemy:

P(B) = \sum_{i=1}^{n} P(A_i) \cdot P(B|A_i)

Każdy składnik to jedna reguła mnożenia. Na rysunku odpowiada mu jedna ścieżka: prawdopodobieństwa mnoży się wzdłuż niej, a gotowe ścieżki dodaje.

Trzy urny wybierane po równo, w każdej inny skład. Liczba przy końcu ścieżki to iloczyn prawdopodobieństw na jej gałęziach. Białą kulę dają trzy ścieżki — ich suma jest prawdopodobieństwem całkowitym.

Trzy urny wybieramy z równym prawdopodobieństwem. W pierwszej są 2 kule białe na 5, w drugiej 3 na 5, w trzeciej 1 na 5. Jakie jest prawdopodobieństwo wylosowania kuli białej?

Twierdzenie Bayesa

Teraz odwrócenie warunku. Skoro $P(A_k \cap B)$ da się rozpisać na dwa sposoby, to

P(A_k|B) = \frac{P(A_k \cap B)}{P(B)} = \frac{P(A_k) \cdot P(B|A_k)}{\sum_{i=1}^{n} P(A_i) \cdot P(B|A_i)}

To jest twierdzenie Bayesa, a w mianowniku stoi dokładnie prawdopodobieństwo całkowite z poprzedniej sekcji. Na drzewie ma ono krótki opis: jedna ścieżka podzielona przez sumę wszystkich ścieżek kończących się tym samym wynikiem.

Dwie ścieżki kończą się wynikiem dodatnim: chory wykryty (0,0099) i zdrowy pomylony (0,0198). Druga jest dwa razy grubsza od pierwszej — mimo że test myli się rzadko, zdrowych jest po prostu bardzo dużo.

Test wykrywa chorobę u 99% chorych i daje fałszywy alarm u 2% zdrowych. Choruje 1% populacji. Jakie jest prawdopodobieństwo, że osoba z wynikiem dodatnim jest chora?

Dlaczego tak mało? Bo zdrowych jest $99$ razy więcej niż chorych, więc nawet dwuprocentowy odsetek pomyłek daje dwa razy więcej fałszywych alarmów niż wszystkich trafień. Widać to na drzewie: cienka gałąź $0{,}0099$ przeciwko grubej $0{,}0198$ .

Częstość bazowa i błąd prokuratora

Liczba $P(C) = 0{,}01$ z przykładu ma własną nazwę: częstość bazowa — prawdopodobieństwo hipotezy, zanim zobaczyliśmy jakikolwiek dowód. Wchodzi i do licznika, i do mianownika wzoru Bayesa, więc rządzi wynikiem.

Zobaczmy, co się dzieje, gdy zmienia się tylko ona, a test zostaje ten sam:

częstość bazowa	prawdopodobieństwo choroby po wyniku dodatnim
$0{,}1\%$	$4{,}7\%$
$1\%$	$33\%$
$10\%$	$85\%$
$50\%$	$98\%$

Ten sam test, ta sama czułość, cztery zupełnie różne odpowiedzi. Pominięcie częstości bazowej — czyli czytanie czułości testu tak, jakby była odpowiedzią na pytanie o pacjenta — jest właśnie tym błędem, który tabela pokazuje w liczbach.

Jego wersja sądowa nazywa się błędem prokuratora. Brzmi tak: ślad pasuje do jednej osoby na tysiąc, więc oskarżony jest winny z prawdopodobieństwem $99{,}9\%$ . To nieprawda, bo pomylono warunek z wnioskiem.

Ślad pasuje do 1 osoby na 1000. Zostawić go mógł każdy z miliona mieszkańców, a innych dowodów brak. Co można powiedzieć o winie osoby dopasowanej?

Niezależność jako przypadek szczególny

Skoro warunkowanie ma zmieniać szanse, warto nazwać sytuację, w której nic nie zmienia:

P(A|B) = P(A)

Podstawienie tego do definicji daje natychmiast wzór, który znasz z lekcji o prawdopodobieństwie klasycznym:

P(A \cap B) = P(A) \cdot P(B)

Niezależność nie jest więc osobnym pojęciem, tylko szczególnym przypadkiem prawdopodobieństwa warunkowego — tym, w którym informacja o $B$ okazuje się bezużyteczna. W tabeli z uczniami niezależności nie ma: $P(\text{zdał}) = \tfrac{60}{100}$ , a $P(\text{zdał}|\text{uczył się}) = \tfrac{45}{50}$ , więc uczenie się jednak pomaga.

Zadania

Zestaw pyta o trzy rzeczy, w kolejności lekcji. Prompt $P(A|B)$ podaje prawdopodobieństwa $P(A \cap B)$ oraz $P(B)$ — nie liczności — i prosi o iloraz. Prompt $P(B)$ podaje rozbicie na przypadki: pary $P(A_i)$ i $P(B|A_i)$ , z których trzeba złożyć prawdopodobieństwo całkowite. Prompt $P(A_1|B)$ podaje te same dane i pyta o odwrócenie warunku, czyli o twierdzenie Bayesa.

Odpowiedzią w każdym z trzech przypadków jest ułamek nieskracalny — konwencja z lekcji o prawdopodobieństwie klasycznym obowiązuje dalej.

Ćwiczenia

Rozwiąż zestaw zadań — trudność rośnie z każdym kolejnym. Na końcu zobaczysz wynik i listę pomyłek do powtórki.

Zadanie 1 z 8Punkty: 0

P(A|B): P(A∩B) = 1/10, P(B) = 4/5

Generator nie pyta o interpretację wyniku — o to, czy przy danej częstości bazowej dodatni wynik testu jest już powodem do niepokoju. To rozumowanie, a nie liczba, więc masz je wyłożone w przykładach powyżej.

Częste błędy

Mylenie $P(A|B)$ z $P(B|A)$ — ten sam licznik, inne mianowniki. Zawsze sprawdź, co jest warunkiem: to on stoi pod kreską ułamka.
Ignorowanie częstości bazowej — czułość testu nie jest odpowiedzią na pytanie o pacjenta. Przy chorobie rzadkiej większość alarmów jest fałszywa, choć test jest dobry.
Dzielenie przez $P(A)$ zamiast przez $P(B)$ — w mianowniku stoi prawdopodobieństwo warunku, czyli tego zdarzenia, o którym już wiadomo, że zaszło.
Rozbicie, które nie pokrywa całego $\Omega$ — wzór na prawdopodobieństwo całkowite wymaga przypadków rozłącznych i wyczerpujących; jeśli suma $P(A_i)$ nie wynosi $1$ , rachunek jest bez sensu.
Zakładanie niezależności bez sprawdzenia — mnożenie $P(A) \cdot P(B)$ jest legalne dopiero wtedy, gdy warunek naprawdę nic nie zmienia. Losowanie bez zwracania nigdy takie nie jest.
Warunkowanie przez zdarzenie o prawdopodobieństwie zero — nie ma czym dzielić, więc wyrażenie $P(A|B)$ po prostu nie jest określone.

Karta wzorów

Temat: Prawdopodobieństwo warunkowe

Prawdopodobieństwo warunkowe
$P(A|B) = \frac{P(A \cap B)}{P(B)}$
określone tylko dla P(B) > 0
Reguła mnożenia
$P(A \cap B) = P(B) \cdot P(A|B)$
definicja przemnożona przez P(B)
Wersja licznościowa
$P(A|B) = \frac{|A \cap B|}{|B|}$
gdy zdarzenia elementarne są równo prawdopodobne
Prawdopodobieństwo całkowite
$P(B) = \sum_{i=1}^{n} P(A_i) \cdot P(B|A_i)$
A₁, …, Aₙ rozbijają Ω na rozłączne przypadki
Twierdzenie Bayesa
$P(A_k|B) = \frac{P(A_k) \cdot P(B|A_k)}{\sum_{i=1}^{n} P(A_i) \cdot P(B|A_i)}$
odwraca warunek: z P(B|A) robi P(A|B)
Niezależność
$P(A|B) = P(A) \iff P(A \cap B) = P(A) \cdot P(B)$
warunek nie zmienia szans zdarzenia A

Test przesiewowy w populacji, w której choruje 1 osoba na 100. Cztery ścieżki wyczerpują wszystkie możliwości, a ich prawdopodobieństwa sumują się do jedynki. Wynik dodatni dają dwie z nich — i to ta druga, grubsza, przeważa.

Najczęstsze pytania

Powiązane artykuły

Świetliste słupki histogramu układające się w miękki dzwon rozkładu, jeden punkt odstający jaśniejszy od pozostałych, na tle kosmicznej mgławicy w fiolecie i magencie

Statystyka i prawdopodobieństwo

Człowiek średni nie istnieje

Cała statystyka opisowa opiera się na jednej transakcji: oddajesz informację o tłumie, dostajesz jedną liczbę. Transakcja bywa opłacalna, ale nigdy nie jest darmowa — i warto wiedzieć, co dokładnie w niej ginie. Od tablic śmiertelności z 1662 roku, przez „człowieka średniego" Queteleta, po samoloty, których nikt nie zobaczył.

15 min