Jeśli „wiesz”, że moneta jest uczciwa

to nadal spodziewamy się, że w dłuższej perspektywie odsetek reszek będzie wynosił 0,5 USD . Nie oznacza to, że powinniśmy oczekiwać, że więcej (niż 50%) następnych rzutów będzie ogonami, ale raczej, że początkowe 500 $ span > przewroty stają się nieistotne, ponieważ $ n \ rightarrow \ infty $ . Seria 500 $ głów może wydawać się dużo (i praktycznie rzecz biorąc, jest), ale

• jeśli 250 $ z następnego 500 $ przewrotów to orzełki proporcja próbki staje się $$ \ hat p = \ frac {500 + 250} {1000} = 0,75. $$
• jeśli 250 $ z następnego 500 $ przewrotów to orzełki ... $$ \ hat p = \ frac {500 + 250 + 250} {1500} \ około 0,67 $$
• jeśli 100 000 $ z następnych 200 000 $ przewrotów to głowy, to ... $$ \ hat p = \ cdots \ około 0,501. $$

To jest prawo wielkich liczb

Z drugiej strony ...

Gdybym miał rzucić monetą w prawdziwym życiu i zobaczyć 500 $ reszek z rzędu, zacząłbym poważnie wątpić, czy moneta jest rzeczywiście uczciwa. (Interesująca uwaga dodatkowa, w rzeczywistości trudno jest (niemożliwe?) przekupić monetę w prawdziwym życiu. Jedyne realistyczne wartości $ p $ to 0 $ , 0,5 $ i 1 $ , ale zignorujemy to ze względu na odpowiedź).

Aby uwzględnić tę możliwość, od samego początku moglibyśmy zastosować procedurę bayesowską. Zamiast zakładać $ p = 1/2 $ , załóżmy, że określimy wcześniejszą dystrybucję $$ p \ sim \ text {Beta} (\ alpha, \ alpha). $$

To jest rozkład symetryczny, który koduje moje przekonanie a priori, że moneta jest uczciwa, tj. $ E (p) = \ frac {1} {2} $ span >. To, jak mocno wierzę w to pojęcie, jest określone przez wybór $ \ alpha $ , ponieważ $ Var (p) = \ frac {1} {8 (\ alpha + 0.5)} $ .

• $ \ alpha = 1 $ odpowiada uniformowi sprzed $ (0, 1) $ .
• $ \ alpha = 0,5 $ to przeor Jeffreya - kolejny popularny wybór nie dostarczający informacji .
• Wybór dużej wartości $ \ alpha $ daje większe zaufanie do przekonania, że ​​ $ p = 1/2 $ . W rzeczywistości ustawienie $ \ alpha = \ infty $ oznacza, że ​​ $ Pr (p = 1/2) = 1 $ .

Stosując bezpośrednio regułę Bayesa, późniejsza dystrybucja dla $ p $ to $$ p | y \ sim \ text {Beta} (\ alpha + y, \ alpha + n-y) $$ gdzie $ y = \ text {liczba główek} $ i $ n = \ text {liczba przewrotów} $ span>. Na przykład, jeśli wybierzesz $ \ alpha = 1 $ i zauważysz $ n = y = 500 $ , późniejsza dystrybucja staje się $ \ text {Beta} (501, 1) $ i $$ E (p | y) = \ frac {\ alpha + y} {2 \ alpha + n} = \ frac {501} {502} \ około 0,998 $$ span> wskazując, że powinienem postawić na reszki przy następnym rzucie (ponieważ jest wysoce nieprawdopodobne, aby moneta była uczciwa).

Ten proces aktualizacji można zastosować po każdym przewróceniu, używając późniejszej dystrybucji po przerzuceniu $ n $ jako poprzedniej dla flip $ n + 1 $ . Jeśli okaże się, że główki za 500 $ były tylko (astronomicznie) nieprawdopodobnym wydarzeniem, a moneta jest naprawdę uczciwa, późniejsza dystrybucja w końcu to uchwyci (używając podobnego argumentu do poprzedniej sekcji).

Intuition do wyboru $ \ alpha $ : Aby pomóc zrozumieć rolę $ \ alpha $ w procedurze bayesowskiej możemy użyć następującego argumentu. Średnia późniejszej dystrybucji jest równoważna z oszacowaniem maksymalnego prawdopodobieństwa $ p $ , gdybyśmy mieli rozszerzyć dane o serię $ 2 \ alpha $ " hipotetyczne przewroty ", gdzie $ \ alpha $ z tych rzutów to głowy i $ \ alpha $ tych przewrotów to ogony. Wybranie $ \ alpha = 1 $ (tak jak zrobiliśmy powyżej) sugeruje, że rozszerzone dane to $ 501 $ szt. i 1 $ ogony. Wybór większej wartości $ \ alpha $ sugeruje, że potrzeba więcej dowodów, aby zmienić nasze przekonania. Mimo to, dla każdego skończonego wyboru $ \ alpha $ , te „hipotetyczne przerzuty” ostatecznie staną się nieistotne, ponieważ $ n \ rightarrow \ infty $ .

Prawo wielkich liczb nie mówi, że jakaś siła sprowadzi wyniki z powrotem do średniej.Stwierdza, że wraz ze wzrostem liczby prób fluktuacje będą coraz mniejsze.

Na przykład, jeśli rzucę monetą 10 razy i uzyskam 7 orłów, te dwie dodatkowe orły wydają się całkiem znaczące.Jeśli rzucę monetą 1000000 razy i dostanę 500002 orłów, te dwie dodatkowe orły są prawie całkowicie nieistotne.

W twoim przykładzie te 500 dodatkowych głów będzie DUŻO znaczące w próbie 1000 rzutów.Jeśli jednak będziesz kontynuować, kończy się to do 10 000 rzutów, te 500 głów daje tylko 5% różnicy.Po 1000000 prób rzutów 50/50 te 500 dodatkowych głów stanowi tylko 0,05% różnicy.Dojście do 1000000000 prób i ten początkowy okres szalonego szczęścia wyniósł tylko 0,00005% różnicy.Widać, że wraz ze wzrostem liczby prób wyniki stają się bliższe oczekiwanej wartości.

Pojęcie, że jedna strona jest „należna”, to w skrócie „błąd hazardzisty”.Podsumowując, błędem hazardzisty jest fałszywe przekonanie, że krótka perspektywa musi odzwierciedlać długą.

Moneta nie wie lub nie obchodzi, że planujesz przestać rzucać.Moneta pozostaje nieskończona liczbą rzutów, a wobec tej nieskończoności zaledwie 500 to nic.Należy pamiętać, że po zaobserwowaniu wyniku nie jest on już przypadkowy.Model p (głowy) = 0,5 nie reguluje wcześniej zaobserwowanych wartości.Każda z tych wartości to „orły” z prawdopodobieństwem 1.

Kiedy określasz problem, wytrwasz z modelem p (głowy) = 0,5.Ten model mówi, że historia nie ma znaczenia.W pewnym momencie można rozważyć inny model.

Wydaje mi się, że prosta odpowiedź jest taka, że ​​nie. Szansa, że ​​uczciwa moneta dostanie 500 $ reszów za 500 $ przewrotów wynosi 1 $ w $ 2 ^ {500} \ approx3 \ times10 ^ {150} $ . Dla porównania, jest to jedna na dziesięć miliardów asaṃkhyeyas, wartość używana w teologii buddyjskiej i hinduskiej do określenia liczby tak dużej, że jest nieobliczalna; chodzi o liczbę tomów Plancka w parseku sześciennym. Próbowałem wymyślić zgrabne porównanie „kulek w obserwowalnym wszechświecie”, ale nie mogę. Nic nie jest wystarczająco małe, a wszechświat nie jest wystarczająco duży.
Pod względem prawdopodobieństwa prawie raz googol jest bardziej prawdopodobne, że potasujesz talię kart w idealnej kolejności rosnącej, niskie asy, trefl-karo-kier-pik ( 1 $ span > w $ {52!} $ ).
W tym momencie powinieneś założyć, że przez pomyłkę rzucałeś dwugłową monetą. Monety dwugłowe nie są szczególnie rzadkie; są dość popularną nowością. Szacunki mówią, że do obiegu trafiają dziesiątki tysięcy (załóżmy, że dwadzieścia tysięcy) an - łatwy błąd z dobrze wykonaną monetą podstępną (i całkowicie legalną: monety podstępne powstają poprzez wycięcie dwóch monet i sklejenie ich razem, ale ja nie spróbuj argumentować, że są warte podwójnej wartości).
Jeśli wśród około 3,82 miliarda monet amerykańskich znajdujących się w obiegu krąży 20 000 monet z podwójnym nagłówkiem, prawdopodobieństwo, że wybrałeś jedną przez pomyłkę, wynosi 1 do 191 000. Jeśli istnieje 99% szans, że zauważysz, że moneta nie ma odwrotnej strony, to jest to tysiąc razy większe prawdopodobieństwo asa thiskhyeya niż ten wynik. Mając jedną monetę z dwoma nagłówkami pośród 793 464 097 826 $ monet wyprodukowanych przez mennicę amerykańską od 1890 r. I jedną na bilion szans, które pozwolą jej przemknąć, to wciąż katastrofa związana z próżnią, bardziej prawdopodobne niż alternatywa.

Jest już tutaj kilka świetnych odpowiedzi, ale chciałem dodać inny sposób myślenia o problemie, który może być bardziej intuicyjny niż przeglądanie matematyki (aby odnieść się do uczuć opisanych w pytaniu). To rozumowanie jest prawdziwe dla dowolnej określonej liczby prób, ale nie odnosi się do sytuacji arbitralnych więcej prób prowadzących do nieskończoności. Są one obsługiwane elegancko i dobrze w już opublikowanych odpowiedziach opartych na matematyce.

Każdy flip jest całkowicie niezależny, więc poprzedzające go przewroty nie mają żadnego wpływu na kolejne flipy. , ale nie opisujesz poszczególnych rzutów, ponieważ narzucasz informacje o poprzednich próbach.

W tym scenariuszu korzystasz z 500 poprzednich prób , aby dowiedzieć się, jak myślisz o wyniku następnej przewrotki. To nie działa, ponieważ każdy rzut jest niezależny od wszystkich innych. Jeśli narzucasz na problem informacje o 500 poprzednich rzutach, interpretujesz ten proces jako zbiór przewrotów. W takim przypadku bardziej intuicyjne może być rozważenie prób nie jako pojedynczych przewrotów, ale jako zestawy rzutów.

W prostszym przykładzie, jeśli rzucamy monetą trzy razy, mamy osiem możliwych wyników:

• HHH
• HHT
• HTH
• THH
• HTT
• THT
• TTH
• TTT

Podsumowując, wyniki te to:

• Trzy głowy: 1 kombinacja
• Dwie głowy, jeden ogonek: 3 kombinacje
• Jedna głowa, dwa ogony: 3 kombinacje
• Trzy ogony: 1 kombinacja

Zatem z opisów podsumowujących (gdzie kolejność odwrócenia nie ma znaczenia) jest bardziej prawdopodobne, że zobaczymy wynik 2: 1, po prostu dlatego, że istnieje sześć indywidualnych kombinacji, które dają ten wynik w porównaniu z możliwościami 3: 0 , których są tylko dwie możliwe kombinacje. Ale każda kombinacja trzech rzutów pojawia się na liście raz i jest tak samo prawdopodobna jak inne.

Ta sama logika obowiązuje w przypadku większej liczby prób, chociaż lista kombinacji staje się żmudna. Na szczęście dla nas, jeśli zakładamy serię 500 rzutów z rezultatami orzeł, które usuwają większość kombinacji z obrazu - musimy zacząć od 500/501 rzutów pokazujących głowy.

Od tego punktu wyjścia patrzymy teraz, ile wyników jest możliwych dla pozostałego rzutu i dla tego mamy podstawowe prawdopodobieństwo pojedynczego rzutu monetą, które daje dwa wyniki:

• 500 odwróconych głów, a następnie kolejne odwrócone głowy
• 500 przewrotów głowami, a następnie rewersami

Każda możliwa kombinacja rzutów w zestawie z określoną liczbą indywidualnych prób jest równie prawdopodobna, ale podsumowanie każdego zestawu daje wiele nakładających się wyników (istnieje wiele kombinacji, które dają 250 orłów i 250 reszek, ponieważ kolejność nie ma znaczenia dla podsumowania, ale dokładnie jedna kombinacja, która dałaby wszystkie głowy we wszystkich indywidualnych próbach).

Istnieją tylko dwie kombinacje, które mogą opisać sytuację w pytaniu: każdy pojedynczy z pierwszych 500 rzutów musi pokazać głowy (założono w zadaniu, więc prawdopodobieństwo takiego wyniku nie jest ważne), a następnie po pierwszych 500 rzutach możesz uzyskać wynik pierwszego reszka lub wynik 501 orłów.

Więc to moja sugestia, aby pomóc zinternalizować intuicję stojącą za tym scenariuszem:

• Każdy pojedynczy rzut uczciwej monety jest pozbawiony pamięci i całkowicie niezależne, więc każdy wynik jest równie prawdopodobny dla dowolnego konkretnego flip
• Tliczba możliwych kombinacji wyników przerzucenia w 500 liczba prób jest duża, ale każda określona kombinacja pojawia się tylko na tę listę raz. Każda możliwa kombinacja 500 rzutów jest dokładnie tak prawdopodobne, jak każdy inny (każdy ma jeden wpis w możliwych lista wyników)
• TIstnieją tylko dwie możliwe kombinacje rzutów 501, które zaczynają się z 500 rzutami, które pokazują wynik orła: jeden, w którym inny uderza głową rezultat pojawia się i taki, w którym pojawia się wynik ogonów.Każdy z nich wyniki są równie prawdopodobne (o czym zadecyduje sam 501 przewrót)

Kluczową rzeczą do zapamiętania jest to, że rzuty to IID.Realizacja może zostać uwzględniona, gdy zostanie uwzględniona w projekcie Twojego modelu.Jednym z przykładów jest to, że jeśli twój model jest modelem Markowa, w rzeczywistości wiele modeli wykorzystujących ramy bayesowskie obejmuje realizację aktualizacji prawdopodobieństwa.To świetny przykład tego, o czym wspomniałem wcześniej.Powód, dla którego nie dotyczy to twojego przypadku, ponieważ wykonanie nie jest uwzględnione w projekcie twojego modelu.

Intuicja często prowadzi nas na manowce w sferze niewidzialności, ponieważ nieskończoności nie doświadcza się w prawdziwym świecie.

Dobrą praktyczną zasadą, która pomoże Ci o tym pomyśleć, jest to, że każda liczba skończona wygląda od zera do nieskończoności. Milion głów z rzędu nadal wygląda jak zero do nieskończoności. Gdybyś miał „rzucić monetą nieskończoną liczbę razy” - czego nie możesz zrobić, ale tym, co naprawdę mamy na myśli , jest „rzucaj dalej” - wtedy w końcu seria miliona orłów staje się niemal pewna.

Ale nieskończoność to trudna koncepcja i musimy ciężko pracować, aby upewnić się, że wiemy, co mówimy. Na przykład to, co rozumiemy przez „staje się prawie pewne”, to: jeśli podasz mi procent, powiedzmy, 99,99; Następnie obliczę, ile rzutów monetą X musisz wykonać, aby mieć 99,99% prawdopodobieństwa, że ​​zobaczysz tam bieg miliona orłów. Ty określasz, co oznacza „blisko” - jeśli chcesz, aby było to 99,9999999%, w porządku, po prostu przeliczymy i podam Ci większą liczbę Y rzutów monetą do wykonania. Ale nawet koziołki w kształcie litery Y nie gwarantują milionowego przebicia. Gwarantuję tylko, że jeśli wykonasz kilka serii rzutów Y, możesz spodziewać się, że 99,9999999% z nich będzie miało przebieg miliona głów (a im więcej zrobisz, tym bliżej 99,9999999% możemy oczekiwać wyniku be).

We wszechświecie możliwości rozpoczęcie biegu z liczbą główek any jest możliwe. Prawo wielkich liczb mówi, że jeśli idziesz wystarczająco długo, ten konkretny bieg jest coraz bardziej nieistotny, ponieważ przeprowadza się tak wiele innych eksperymentów. Tak, możesz zdobyć miliard główek z rzędu. Ale jeśli podasz mi procent i cel, na przykład, powiedz: „Chcę mieć 99,8% pewności, że mój stosunek głowy do ogona mieści się w przedziale od 0,499 do 0,501 i wiem, że zaczynam z miliardem głów”. podam liczbę Z, która da 99,8% szans na osiągnięcie tego .

Nieskończoność nie jest liczbą.Jest to koncepcja poza liczbą, a kiedy o niej mówimy, musimy bardzo uważać, abyśmy wiedzieli, co naprawdę mamy na myśli, w przeciwnym razie będziemy się mylić.Prawo wielkich liczb mówi o tym, co się dzieje, gdy N „dąży do nieskończoności” (właściwie w kierunku nieskończoności, nie „do tego dochodzi”), więc nie jest zaskakujące, że rozumowanie na temat tegomówienie, że może doprowadzić do pewnych pułapek.Wszystko, czego doświadczamy, jest skończone, aw prawdziwym świecie, gdyby księgowy patrzył ci przez ramię, coraz bardziej denerwowałbyś się, ilu ogonów będziesz potrzebować, aby „zrównoważyć to wyczerpanie”.Nieskończoność ma na to czas, nawet jeśli cały okres istnienia ludzkości nie.

Różne szkoły prawdopodobieństwa są nieco zagmatwane, więc zróbmy to na komputerze w ramach eksperymentów.

Co to za zamieszanie

1. Jeśli mam (powiedzmy) 300 ogonów w pierwszych 500 rzutach, czy powinienem spodziewać się 200 ogonów w następnych 500 rzutach?

2. Jeśli mam (powiedzmy) 200 ogonów w pierwszych 200 rzutach, czy powinienem spodziewać się (tylko) 300 ogonów w następnych 800 rzutów?

3. Jeśli mam $ x $ w pierwszych przewrotach $ y $ , powinien Spodziewam się (tylko) 500-$ x $ w następnych $ 1000-y $ przewrotach?

Lub jeśli ustawimy ogon na -1 i zmierzamy na +1:

Jeśli w pierwszym $ y $ przerzucę sumę $ s_1 = x $ , czy powinienem się spodziewać, w następnym $ ny $ zamieni sumę na $ s_2 = -x \ frac {y} {ny } $ ?

Jeśli odwrócimy wiele, wiele przebiegów, z każdym uruchomieniem $ n $ przerzuca się i wykreślamy $ s_1 $ span> i $ s_2 $ , jeśli twoje stwierdzenie jest prawdziwe, powinniśmy zobaczyć ładną linię dla ustalonego $ y $ span>, dla $ s_2 = -s_1 \ frac {y} {ny} $ .

Oto kod w Pythonie opisujący Twój problem:

  importuj losowo
z matplotlib import pyplot as plt


def run ():
    n_trial = 1000
    flip = 1000
    odchylenie = []
    prognoza = []
    dla wersji próbnej w zakresie (n_trial):
        wynik = [random.choice ([- 1, 1]) for _ in range (flip)]
        prąd = 500
        deviation.append (sum (result [: current]))
        prediction.append (sum (result [current:]))

    odchylenie powrotu, przewidywanie


odchylenie, przewidywanie = run ()
plt.scatter (odchylenie, przewidywanie)
plt.show ()
 

Rezultatem jest gigantyczna kula bałaganu

, co oznacza, że nie są ze sobą spokrewnieni, nawet z „eksperymentalnego” punktu widzenia .

Nie ma znaczenia, czy w przeszłości wielokrotnie rzucałeś monetą. Za każdym razem, gdy rzucasz monetą, spodziewasz się, że jest 50% szans, że będą to orły. Jeśli masz zamiar rzucić nim 500 razy, powinno to być ok. Ale nie ma żadnej gwarancji. Wszystkie 500 razy mogą być orłami lub 0 razy.

W sumie, po wykonaniu tysięcznego rzutu, mogłeś mieć głowy od 500 do 1000 razy. Dokładna kombinacja orłów i reszek miała takie same szanse wystąpienia, nawet jeśli pierwsze 500 rzutów było orłami.

Aby to sobie wyobrazić, powiedzmy, że odwracałeś to 4 razy. Twoje pierwsze dwa salta to H, H. Twój wynik mógłby być wtedy:

  H, H, H, H
H, H, H, T
H, H, T, H
H, H, T, T
 

Możesz zobaczyć, że orły i reszki mają 50% szans. Powiedzmy, że wynik był H, H, H, T. Ten wynik był jednym z możliwych

  H, H, H, H
H, H, H, T < --- twoja
H, H, T, H
H, H, T, T
H, T, H, H
H, T, H, T
H, T, T, H.
H, T, T, T
T, H, H, H
T, H, H, T
T, H, T, T
T, H, T, T
T, T, H, H.
T, T, H, T
T, T, T, H.
T, T, T, T
 

czyli 16 kombinacji. Każde z nich mogło się zdarzyć i jeden z nich się wydarzył. Tylko dlatego, że mówisz, że pierwsze dwa to H, H nie zmienia wyniku ostatnich dwóch. Pierwsze dwa mogłyby być T, T lub T, H, a wynik dwóch ostatnich nadal byłby niezależny.