Tukey HSD sau ANOVA: so từng cặp nhóm với tukey_hsd()
Bài 10/14 · Chương 10
Các kiểm định thường dùng
- 8 phút
- Trung cấp
- Python 3.14
- Cập nhật
Trong bài này · 11
Tukey HSD (honestly significant difference) là kiểm định sau ANOVA so từng cặp nhóm để trả lời nhóm nào khác nhóm nào, mà vẫn giữ tỉ lệ báo nhầm của cả họ phép so ở mức α. Cách làm: chạy scipy.stats.tukey_hsd() trên các nhóm, đọc ma trận p-value và khoảng tin cậy của từng chênh lệch.
Cần biết trước: ANOVA một yếu tố, kiểm định t hai mẫu và khoảng tin cậy.
Vì sao không chạy t-test cho từng cặp
ANOVA chỉ nói có ít nhất một nhóm khác. Với k nhóm có k(k − 1)/2 cặp: 3 nhóm là 3 cặp, 5 nhóm là 10 cặp. Mỗi t-test có 5% cơ hội báo nhầm khi H₀ đúng (một sai lầm loại 1), nên chạy nhiều t-test thì cơ hội có ít nhất một lần báo nhầm cộng dồn. Khối mô phỏng dưới tạo năm nhóm 15 gói từ cùng một phân phối (không nhóm nào khác thật), lặp 2.000 lần và đếm số lần có ít nhất một cặp t-test cho p ≤ 0,05:
import numpy as np
from scipy import stats
rng = np.random.default_rng(83)
x = rng.normal(500, 2, size=(5, 2000, 15))
p = [stats.ttest_ind(x[i], x[j], axis=1).pvalue
for i in range(5) for j in range(i + 1, 5)]
co_cap_nham = (np.min(p, axis=0) <= 0.05).mean()
print("Số cặp:", len(p))
print("Lần có ít nhất một cặp báo nhầm:", round(co_cap_nham, 3))KẾT QUẢ
Số cặp: 10
Lần có ít nhất một cặp báo nhầm: 0.288Lần chạy này: gần 29% số lần có một cặp "có ý nghĩa" dù năm nhóm như nhau. Đổi hạt giống thành default_rng(13) thì dòng cuối in 0.293. Tukey HSD giữ tỉ lệ đó ở 5% bằng cách so mỗi chênh lệch với phân phối của chênh lệch lớn nhất trong k nhóm. Bài so sánh nhiều lần bàn chuyện này cho mọi loại kiểm định.
Công thức của Tukey HSD
Với cặp nhóm i và j, Tukey dùng phương sai trong nhóm MSW của ANOVA, gộp từ mọi nhóm:
Trong đó:
x̄ᵢ, x̄ⱼ (
x.mean()): trung bình của hai nhóm đang so.nᵢ, nⱼ (
len(x)): cỡ hai nhóm.MSW: SSW / (N − k) của bảng ANOVA, phương sai trong nhóm gộp.
q: so với phân phối khoảng biến thiên Student hoá (studentized range) với k nhóm và N − k bậc tự do,
scipy.stats.studentized_range.
Vì dùng phân phối của khoảng cách giữa nhóm cao nhất và thấp nhất, ngưỡng của q cao hơn ngưỡng của t, và càng nhiều nhóm thì càng cao. Bạn không cần tra bảng: tukey_hsd() làm hết.
Đọc kết quả tukey_hsd()
Quay lại ba quầy thu ngân của bài ANOVA: quầy A 4, 6, 5, 5 phút; quầy B 7, 9, 8, 8; quầy C 5, 7, 6, 6. Nhóm đánh số từ 0 theo thứ tự đưa vào; vòng lặp in từng cặp:
from scipy import stats
A = [4, 6, 5, 5]
B = [7, 9, 8, 8]
C = [5, 7, 6, 6]
kq = stats.tukey_hsd(A, B, C)
ktc = kq.confidence_interval()
for i, j in [(0, 1), (0, 2), (1, 2)]:
print(f"({i} - {j}) chênh {kq.statistic[i, j]:6.3f}",
f"p = {kq.pvalue[i, j]:.3f}",
f"KTC {ktc.low[i, j]:6.3f} {ktc.high[i, j]:6.3f}")KẾT QUẢ
(0 - 1) chênh -3.000 p = 0.001 KTC -4.612 -1.388
(0 - 2) chênh -1.000 p = 0.246 KTC -2.612 0.612
(1 - 2) chênh 2.000 p = 0.018 KTC 0.388 3.612Ma trận statistic chứa mỗi cặp hai lần, ngược dấu (statistic[1, 0] bằng −statistic[0, 1]), nên vòng lặp chỉ in i < j. statistic là chênh lệch trung bình theo phút; q không có trong kết quả. Đọc cặp (1 − 2): quầy B chờ lâu hơn quầy C 2 phút, khoảng tin cậy 95% đồng thời [0,39; 3,61] phút, p = 0,018. Cặp A với C: chênh 1 phút, khoảng [−0,61; 2,61] chứa 0, p = 0,246.
Đổi C = [5, 7, 6, 6] thành C = [6, 8, 7, 7] rồi chạy lại: quầy C chậm thêm một phút, và hàng (1 - 2) in chênh lệch 1.000.
Ba máy đóng gói: máy nào khác máy nào
ANOVA trên file khoi_luong_goi.csv (số giả lập của AIDev) đã bác bỏ H₀ rằng ba máy cùng khối lượng trung bình. Bây giờ đến lượt từng cặp. Thuộc tính pvalue là ma trận k × k, còn confidence_interval() cho hai ma trận low và high:
import pandas as pd
from scipy import stats
goi = pd.read_csv("khoi_luong_goi.csv")
ten, nhom = zip(*goi.groupby("may")["khoi_luong_g"])
kq = stats.tukey_hsd(*nhom)
ktc = kq.confidence_interval(confidence_level=0.95)
for i in range(3):
for j in range(i + 1, 3):
p = kq.pvalue[i, j]
p_in = "p < 0.001" if p < 0.001 else f"p = {p:.3f}"
chenh = round(kq.statistic[i, j], 2)
thap, cao = ktc.low[i, j], ktc.high[i, j]
print(ten[i], "-", ten[j], "| chênh", chenh, "g |", p_in,
f"| KTC {thap:.2f} {cao:.2f}")KẾT QUẢ
Máy 1 - Máy 2 | chênh 1.44 g | p < 0.001 | KTC 0.55 2.32
Máy 1 - Máy 3 | chênh 0.45 g | p = 0.451 | KTC -0.43 1.33
Máy 2 - Máy 3 | chênh -0.99 g | p = 0.024 | KTC -1.87 -0.10Ở mức ý nghĩa 5% cho cả họ ba phép so: máy 2 cho gói nhẹ hơn máy 1 trung bình 1,44 g (khoảng tin cậy 95% từ 0,55 đến 2,32 g). Máy 2 cũng nhẹ hơn máy 3 khoảng 0,99 g (từ 0,10 đến 1,87 g). Giữa máy 1 và máy 3, dữ liệu chưa đủ bằng chứng để bác bỏ H₀ (p = 0,451); đọc p-value như mọi khi: nếu H₀ đúng, xác suất có được kết quả lệch ít nhất như thế này là p. Chênh lệch dưới 2 g trên gói 500 g, nên có cần chỉnh máy 2 hay không phụ thuộc dung sai của sản phẩm.
tukey_hsd() dùng MSW gộp, nên nó cũng giả định phương sai các nhóm bằng nhau. Bài kiểm định Levene cho thấy giả định này lung lay ở ba máy; khi đó Games-Howell là lựa chọn an toàn hơn, nhưng scipy chưa có sẵn.
Kiểm tra nhanh
kq = stats.tukey_hsd(A, B, C). Phần tửkq.pvalue[0, 2]là p-value của cặp nào?- B với C
- A với C
- A với B
- Nhóm 0 với 2 phần tử đầu
Có 6 nhóm và H₀ đúng cho mọi nhóm. Những câu nào đúng?
- Có 15 cặp để so
- Chạy 15 t-test riêng rẽ, khả năng có ít nhất một cặp báo nhầm vượt xa 5%
- Tukey HSD làm mỗi cặp có 5% / 15 cơ hội báo nhầm, đúng như Bonferroni
- Tukey HSD giữ khả năng có ít nhất một cặp báo nhầm quanh 5%
Khoảng tin cậy Tukey của một cặp là [−0,43; 1,33] g. Câu nào đúng?
- p-value của cặp nhỏ hơn 0,05
- Khoảng chứa 0, nên ở mức 5% chưa đủ bằng chứng để nói hai nhóm khác
- Hai nhóm chênh đúng 0,45 g
Câu kết luận nào đúng cho cặp máy 1 với máy 2 ở trên?
- Máy 2 hỏng nên gói nhẹ hơn
- Xác suất hai máy như nhau dưới 0,1%
- Ở mức ý nghĩa 5% cho cả họ phép so, máy 2 cho gói nhẹ hơn máy 1 trung bình 1,44 g, khoảng tin cậy 95% từ 0,55 đến 2,32 g
- Hai máy khác nhau rất xa vì p rất nhỏ
Bài tập
Liệt kê các cặp nhóm khác nhau theo Tukey
cac_nhom là list các list số (ít nhất hai nhóm, mỗi nhóm ít nhất hai số), alpha là mức ý nghĩa. Viết thân hàm cap_khac(cac_nhom, alpha): chạy stats.tukey_hsd() và trả về các cặp (i, j) có p-value Tukey nhỏ hơn hoặc bằng alpha. Nhóm đánh số từ 0, mỗi cặp viết một lần với i < j, theo thứ tự i rồi j tăng dần.
Không dùng ttest_ind(). Hàm không sửa list của nơi gọi.
Trả về: một list các tuple (i, j).
Ví dụ cap_khac([[4, 6, 5, 5], [7, 9, 8, 8], [5, 7, 6, 6]], 0.05) cho [(0, 1), (1, 2)].
from scipy import stats
def cap_khac(cac_nhom, alpha):
pass # Viết thân hàm thay cho dòng nàyTóm tắt
Tukey HSD so mọi cặp nhóm sau ANOVA và giữ tỉ lệ báo nhầm của cả họ phép so ở α.
k nhóm có k(k − 1)/2 cặp; chạy từng t-test làm khả năng báo nhầm ít nhất một lần lên tới gần 29% với 5 nhóm.
stats.tukey_hsd(*nhom):pvalue[i, j],statistic[i, j]là chênh lệch,confidence_interval()cholowvàhigh.Khoảng tin cậy Tukey chứa 0 khi và chỉ khi p > α; báo cả chênh lệch, đơn vị và khoảng.
Tukey giả định phương sai bằng nhau, như ANOVA.
Câu hỏi thường gặp
Post hoc ANOVA có cần ANOVA có ý nghĩa trước không?
Tukey HSD tự giữ tỉ lệ báo nhầm nên về lí thuyết không cần, nhưng thói quen phổ biến là chạy ANOVA trước rồi mới so cặp. Nếu ANOVA chưa bác bỏ H₀ mà Tukey có một cặp có ý nghĩa, báo cả hai và nói rõ cặp đó sát ngưỡng.
Kiểm định sau ANOVA khác Bonferroni thế nào?
Bonferroni chia α cho số phép so, dùng được cho mọi loại kiểm định nhưng bảo thủ hơn. Tukey được thiết kế riêng cho so mọi cặp trung bình nên thường mạnh hơn. Bài so sánh nhiều lần có cả hai.
Chỉ muốn so các nhóm với một nhóm đối chứng thì sao?
Dùng kiểm định Dunnett, scipy.stats.dunnett(*nhom_thu, control=nhom_doi_chung): ít phép so hơn nên mạnh hơn Tukey cho câu hỏi đó.
Chủ đề
Dữ liệu của bài
- Tải xuống
khoi_luong_goi.csv
CSV · 3.19 KB
Bài này có hữu ích?
Hỏi đáp
Tham vấn chuyên môn
Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE
- Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
- Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
- Xây hệ thống AI cho doanh nghiệp tại VietPlatform.