2.6.1. 一個簡單的例子：拋硬幣

想象一下，我們計劃拋硬幣并想要量化我們看到正面（與反面）的可能性有多大。如果硬幣是公平的，那么兩種結果（正面和反面）的可能性都相同。此外，如果我們打算拋硬幣n次，那么我們期望看到的正面部分應該與預期的反面部分完全匹配。一種直觀的方式是通過對稱性來看待這一點：對于每一個可能的結果nh 頭和nt=(n?nh)尾巴，有一個同樣可能的結果nt頭和nh尾巴。請注意，這只有在我們平均期望看到的情況下才有可能1/2拋出頭和1/2出現尾巴。當然，如果你多次進行這個實驗n=1000000拋擲每一個，你可能永遠看不到試驗在哪里nh=nt確切地。

形式上，數量1/2被稱為概率，在這里它捕捉到任何給定的拋擲都會出現正面的確定性。概率在之間分配分數0和1到感興趣的結果，稱為事件。這里感興趣的事件是 heads我們表示相應的概率 P(heads). 的概率1表示絕對確定性（想象一個雙面都是正面的騙局硬幣）和概率0表示不可能（例如，如果兩邊都是反面）。頻率nh/n和nt/n不是概率而是統計。概率是 數據生成過程的理論量。在這里，概率1/2是硬幣本身的屬性。相比之下，統計數據是作為觀察數據的函數計算的經驗量。我們對概率和統計量的興趣密不可分。我們經常設計稱為估計器的特殊統計數據，在給定數據集的情況下，它會產生 模型參數（如概率）的估計值。此外，當這些估計量滿足稱為一致性的良好屬性時，我們的估計將收斂到相應的概率。反過來，這些推斷的概率說明了我們將來可能遇到的來自同一人群的數據的可能統計特性。

假設我們偶然發現了一枚真實的硬幣，但我們并不知道它的真實價值P(heads). 要用統計方法調查這個數量，我們需要（i）收集一些數據；(ii) 設計一個估算器。這里的數據采集很容易；我們可以多次拋硬幣并記錄所有結果。形式上，從一些底層隨機過程中繪制實現稱為采樣。正如您可能已經猜到的那樣，一種自然的估計量是觀察到的正面朝上數與拋擲總次數之間的分數。

現在，假設硬幣實際上是公平的，即 P(heads)=0.5. 為了模擬公平硬幣的拋擲，我們可以調用任何隨機數生成器。以概率抽取事件樣本的一些簡單方法0.5. 例如 Python random.random在區間內產生數字[0,1]其中躺在任何子區間的概率[a,b]?[0,1]等于b?a. 因此我們可以通過0測試返回的1浮點數0.5是否大于0.5

num_tosses = 100
heads = sum([random.random() > 0.5 for _ in range(100)])
tails = num_tosses - heads
print("heads, tails: ", [heads, tails])

heads, tails: [48, 52]

num_tosses = 100
heads = sum([random