Bỏ qua đến nội dung chính
Mục lục

Bootstrap trong thống kê: lấy mẫu lại, scipy bootstrap()

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 5/6 · Chương 7

Mô phỏng: luật số lớn và định lý giới hạn trung tâm

  • 8 phút
  • Cơ bản
  • Python 3.14
  • Cập nhật

Bootstrap trong thống kê là cách ước lượng một con số tính trên mẫu, như trung vị, dao động bao nhiêu giữa các lần lấy mẫu, khi không có công thức sai số chuẩn gọn. Cách làm: lấy mẫu lại có hoàn lại từ chính mẫu đang có hàng nghìn lần, tính con số đó trên từng mẫu lại, rồi xem các kết quả trải rộng tới đâu.

Cần biết trước: sai số chuẩn, trung vị và số ngẫu nhiên trong NumPy.

Ý tưởng của bootstrap

Với trung bình, bài sai số chuẩn có sẵn SE = s/√n. Với trung vị thì không có công thức đơn giản như vậy. Nếu có cả tổng thể, bạn sẽ rút nhiều mẫu mới như bài phân phối mẫu. Bootstrap không có tổng thể, nên dùng chính mẫu thay cho tổng thể: rút từ mẫu n giá trị có hoàn lại, cũng n giá trị, được một mẫu lại (resample). Làm B lần, mỗi lần tính trung vị, rồi lấy độ lệch chuẩn của B trung vị đó:

SEboot=1B−1∑b=1B(θ^b∗−θˉ∗)2SE_{boot} = \sqrt{\frac{1}{B-1}\sum_{b=1}^{B}\left(\hat{\theta}^{*}_{b} - \bar{\theta}^{*}\right)^2}

Trong đó:

  • B (so_lan): số mẫu lại, thường 1.000 tới 2.000.

  • θ̂ có dấu sao, chỉ số b (trung_vi[b]): trung vị của mẫu lại thứ b.

  • θ̄ có dấu sao (trung_vi.mean()): trung bình của B trung vị đó.

  • SE với chữ boot (trung_vi.std(ddof=1)): sai số chuẩn bootstrap của trung vị.

Tính tay ba mẫu lại

Một mẫu năm đơn hàng có thời gian giao 12, 15, 19, 26, 48 giờ; trung vị là 19. Đánh số vị trí 1 đến 5 rồi tung xúc xắc năm mặt (bỏ mặt 6) năm lần để chọn vị trí, chọn trùng cũng được:

Mẫu lại

Vị trí rút

Giá trị

Trung vị

1

2, 2, 4, 5, 1

15, 15, 26, 48, 12

15

2

3, 5, 5, 1, 4

19, 48, 48, 12, 26

26

3

1, 1, 3, 2, 4

12, 12, 19, 15, 26

15

Ba trung vị 15, 26, 15 có trung bình 18,667 và độ lệch chuẩn √((3,667² + 7,333² + 3,667²) / 2) ≈ 6,35 giờ. Ba lần thì quá ít, nhưng cách làm không đổi khi có hàng nghìn lần. Khối dưới làm lại bảng bằng Python thuần:

python
import statistics

mau = [12, 15, 19, 26, 48]
cac_lan_rut = [[2, 2, 4, 5, 1], [3, 5, 5, 1, 4], [1, 1, 3, 2, 4]]
trung_vi = []
for vi_tri in cac_lan_rut:
    mau_lai = [mau[i - 1] for i in vi_tri]
    trung_vi.append(statistics.median(mau_lai))
print("Các trung vị:", trung_vi)
print("SE bootstrap:", round(statistics.stdev(trung_vi), 2))

KẾT QUẢ

Các trung vị: [15, 26, 15]
SE bootstrap: 6.35

statistics.stdev() chia cho B − 1, đúng như công thức.

Bootstrap trung vị trong mười dòng NumPy

File giao_hang.csv (số giả lập của AIDev) có 800 đơn. Giả sử bạn chỉ có 40 đơn đầu làm mẫu. rng.choice(mau, size=(2000, n), replace=True) cho 2.000 mẫu lại một lúc, mỗi hàng một mẫu; np.median(..., axis=1) cho 2.000 trung vị:

python
import numpy as np
import pandas as pd

t = pd.read_csv("giao_hang.csv")["thoi_gian_gio"].to_numpy()
mau = t[:40]
rng = np.random.default_rng(59)
mau_lai = rng.choice(mau, size=(2_000, len(mau)), replace=True)
trung_vi = np.median(mau_lai, axis=1)
print("Trung vị của mẫu:", np.median(mau), "giờ")
print("SE bootstrap:", round(float(trung_vi.std(ddof=1)), 2), "giờ")
thap, cao = np.round(np.percentile(trung_vi, [2.5, 97.5]), 2)
print("Khoảng bootstrap 95%:", float(thap), "-", float(cao), "giờ")

KẾT QUẢ

Trung vị của mẫu: 23.0 giờ
SE bootstrap: 3.43 giờ
Khoảng bootstrap 95%: 18.3 - 31.61 giờ

Lần chạy này: trung vị mẫu 23 giờ, SE bootstrap 3,43 giờ. Dòng cuối là khoảng bootstrap theo phân vị: bỏ 2,5% trung vị nhỏ nhất và 2,5% lớn nhất trong 2.000 trung vị, như cách lấy tứ phân vị, được khoảng 95% từ 18,3 đến 31,61 giờ. Nếu lặp lại cách lấy mẫu và cách tính này nhiều lần, khoảng 95% số khoảng tính được sẽ chứa giá trị thật. Bài khoảng tin cậy giải thích kỹ câu này.

Đổi t[:40] thành t[:200] rồi chạy lại: dòng SE in SE bootstrap: 1.38 giờ, nhỏ hơn hẳn vì mẫu lớn gấp năm.

So với scipy.stats.bootstrap()

scipy.stats.bootstrap() làm cả vòng trên. Dữ liệu đưa vào dạng tuple (mau,); method="percentile" chọn khoảng theo phân vị như trên; rng= nhận bộ sinh số để kết quả lặp lại được:

python
import numpy as np
import pandas as pd
from scipy import stats

mau = pd.read_csv("giao_hang.csv")["thoi_gian_gio"].to_numpy()[:40]
kq = stats.bootstrap((mau,), np.median, n_resamples=2_000,
                     confidence_level=0.95, method="percentile",
                     rng=np.random.default_rng(59))
print("SE bootstrap:", round(float(kq.standard_error), 2), "giờ")
ci = kq.confidence_interval
thap, cao = round(float(ci.low), 2), round(float(ci.high), 2)
print("Khoảng 95%:", thap, "-", cao, "giờ")

KẾT QUẢ

SE bootstrap: 3.43 giờ
Khoảng 95%: 18.3 - 31.61 giờ

Lần chạy này cho đúng SE 3,43 giờ và khoảng 95% từ 18,3 đến 31,61 giờ như mười dòng tự viết. Mặc định của hàm là method="BCa", một cách hiệu chỉnh khoảng cho thống kê lệch; nếu bỏ tham số method, con số hai đầu khoảng sẽ khác một chút.

Bootstrap đúng tới đâu

800 đơn ở đây là tổng thể thật, nên kiểm được: rút 2.000 mẫu 40 đơn mới từ tổng thể, tính độ lệch chuẩn thật của trung vị, đặt cạnh con số 3,43 giờ mà bootstrap đoán từ một mẫu:

python
import numpy as np
import pandas as pd

t = pd.read_csv("giao_hang.csv")["thoi_gian_gio"].to_numpy()
rng = np.random.default_rng(59)
mau_moi = rng.choice(t, size=(2_000, 40), replace=True)
trung_vi = np.median(mau_moi, axis=1)
print("Trung vị tổng thể:", np.median(t), "giờ")
sd = round(float(trung_vi.std(ddof=1)), 2)
print("SD thật của trung vị:", sd, "giờ")

KẾT QUẢ

Trung vị tổng thể: 25.6 giờ
SD thật của trung vị: 2.94 giờ

Lần chạy này: SD thật 2,94 giờ, bootstrap đoán 3,43 giờ, cùng cỡ nhưng cao hơn chừng 17%. Bootstrap chỉ biết những gì có trong 40 đơn: mẫu tình cờ trải rộng hơn tổng thể thì SE bootstrap cũng rộng hơn. Nó không tạo ra dữ liệu mới, chỉ dùng mẫu đang có thay cho tổng thể. Trung vị tổng thể 25,6 giờ nằm trong khoảng 18,3 đến 31,61 giờ ở trên.

Kiểm tra nhanh

  1. Mẫu [4, 9, 9, 20] được rút lại ba lần, cho ba trung vị 9, 9 và 14,5. Sau import statistics, print(round(statistics.stdev([9, 9, 14.5]), 2)) in ra gì?

    • 3.18
    • 2.59
    • 0.0
  2. Trong khung bẫy, vì sao replace=False cho SE bằng 0?

    • Vì 200 mẫu lại là quá ít
    • Vì mỗi mẫu lại gồm đúng 40 đơn cũ đổi thứ tự, nên trung vị không đổi
    • Vì np.median() bỏ qua tham số replace
  3. Những câu nào đúng về kết quả bootstrap trung vị 40 đơn ở bài?

    • Khoảng bootstrap 95% theo phân vị bỏ 2,5% trung vị mẫu lại nhỏ nhất và 2,5% lớn nhất
    • stats.bootstrap() với method="percentile" và cùng hạt giống cho cùng khoảng như vòng NumPy tự viết
    • SE bootstrap 3,43 giờ nghĩa là thời gian giao từng đơn dao động cỡ 3,43 giờ
    • Mặc định stats.bootstrap() dùng method="percentile"
  4. Bootstrap từ 40 đơn đoán SE 3,43 giờ, trong khi SD thật là 2,94 giờ. Cách nào làm con số đoán sát hơn?

    • Tăng n_resamples từ 2.000 lên 20.000
    • Lấy mẫu gốc nhiều đơn hơn
    • Đổi hạt giống cho tới khi SE gần 2,94
Đúng hết lần đầu +15 XP

Bài tập

Sai số chuẩn bootstrap của trung vị

x là list số đo của một mẫu. Viết thân hàm se_bootstrap_trung_vi(x, so_lan, rng): rút so_lan mẫu lại, mỗi mẫu lại len(x) giá trị có hoàn lại từ x bằng rng.choice(), tính trung vị từng mẫu lại, rồi trả về độ lệch chuẩn của các trung vị đó với ddof=1.

rng do nơi gọi tạo: không gọi np.random.seed(), không tạo bộ sinh số mới bằng np.random.default_rng(), không dùng scipy.stats.bootstrap(). Hàm không sửa x của nơi gọi.

Trả về: sai số chuẩn bootstrap của trung vị, một float.

Ví dụ se_bootstrap_trung_vi([0, 0, 1, 1, 1], 4000, np.random.default_rng(1)) cho khoảng 0.47.

python
import numpy as np


def se_bootstrap_trung_vi(x, so_lan, rng):
    pass  # Viết thân hàm thay cho dòng này

Tóm tắt

  • Bootstrap: rút có hoàn lại n giá trị từ chính mẫu, làm B lần, tính thống kê trên từng mẫu lại.

  • Độ lệch chuẩn (ddof=1) của B kết quả là sai số chuẩn bootstrap; phân vị 2,5% và 97,5% cho khoảng bootstrap 95%.

  • replace=False chỉ đổi thứ tự mẫu gốc, cho SE bằng 0.

  • stats.bootstrap((mau,), np.median, method="percentile", rng=...) cho cùng kết quả; mặc định của nó là "BCa".

  • Bootstrap không thêm thông tin: SE đoán từ 40 đơn lệch SD thật chừng 17%, và chỉ mẫu gốc lớn hơn mới làm nó sát hơn.

Câu hỏi thường gặp

Cần bao nhiêu mẫu lại?

Với sai số chuẩn, 1.000 tới 2.000 mẫu lại thường đủ; với hai đầu khoảng 95%, nên dùng vài nghìn. Thêm mẫu lại chỉ làm nhiễu mô phỏng nhỏ đi, không làm mẫu gốc tốt hơn.

Bootstrap dùng cho những thống kê nào?

Hầu hết các thống kê tính được trên một mẫu: trung vị, tứ phân vị, hệ số tương quan, hiệu trung bình hai nhóm. Nó kém với các thống kê nằm ở rìa, như giá trị lớn nhất, vì mẫu lại không bao giờ vượt được giá trị lớn nhất của mẫu gốc.

Bootstrap trong học máy có giống không?

Cùng cách rút có hoàn lại. Trong học máy, kỹ thuật bagging của rừng ngẫu nhiên huấn luyện mỗi cây trên một mẫu lại như thế, nhưng để làm mô hình ổn định hơn chứ không để đo sai số chuẩn.

Chủ đề

bootstrap thống kê

Dữ liệu của bài

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập