Nghịch lý Simpson: tương quan, nhân quả, biến gây nhiễu
Bài 4/7 · Chương 11
Tương quan và hồi quy đơn
- 10 phút
- Trung cấp
- Python 3.14
- Cập nhật
Trong bài này · 13
Nghịch lý Simpson là khi một bên tốt hơn ở từng nhóm mà gộp các nhóm lại thì kém hơn, vì hai bên có cỡ nhóm khác nhau. Đây là ví dụ dễ thấy của biến gây nhiễu làm sai kết luận rút từ số gộp. Bạn gặp nó khi so tỉ lệ đỗ của hai trung tâm luyện thi, tỉ lệ chuyển đổi của hai trang web hay tỉ lệ khỏi bệnh của hai cách chữa.
Cần biết trước: hệ số tương quan, groupby và hàm agg().
Công thức tỉ lệ gộp
Tỉ lệ gộp của một bên là trung bình có trọng số của các tỉ lệ nhóm, trọng số là phần của mỗi nhóm trong tổng số:
Trong đó:
d và n với chỉ số k (
dat,tongcủa nhóm thứ k): số đạt và số tổng của nhóm thứ k.N(sum(tong)): tổng số của các nhóm.p với chỉ số k (
dat / tong): tỉ lệ của nhóm thứ k.p: tỉ lệ gộp.
Hai bên có trọng số khác nhau thì một bên có thể thắng ở từng pₖ mà vẫn thua ở p. Biến quyết định trọng số (học lực, thiết bị, mức bệnh) là biến gây nhiễu (confounder): nó ảnh hưởng tới cả việc chọn bên lẫn kết quả.
Tính tay: hai trung tâm luyện thi
Một bảng số do AIDev đặt: trung tâm A nhận chủ yếu học sinh khá, trung tâm B nhận chủ yếu học sinh trung bình.
Nhóm | A: đỗ / dự thi | A: tỉ lệ | B: đỗ / dự thi | B: tỉ lệ |
|---|---|---|---|---|
Khá | 72 / 80 | 90% | 19 / 20 | 95% |
Trung bình | 6 / 20 | 30% | 28 / 80 | 35% |
Gộp | 78 / 100 | 78% | 47 / 100 | 47% |
B hơn A năm điểm phần trăm ở cả hai nhóm, nhưng gộp lại thì A hơn B 31 điểm. Khối dưới tính lại bảng bằng Python thuần:
a = {"Khá": (72, 80), "Trung bình": (6, 20)}
b = {"Khá": (19, 20), "Trung bình": (28, 80)}
for nhom in a:
ta = a[nhom][0] / a[nhom][1]
tb = b[nhom][0] / b[nhom][1]
print(nhom, round(ta, 2), round(tb, 2))
dat = [sum(d for d, n in ben.values()) for ben in (a, b)]
tong = [sum(n for d, n in ben.values()) for ben in (a, b)]
print("Gộp", round(dat[0] / tong[0], 2), round(dat[1] / tong[1], 2))
print("Trọng số nhóm Khá:", 80 / 100, 20 / 100)KẾT QUẢ
Khá 0.9 0.95
Trung bình 0.3 0.35
Gộp 0.78 0.47
Trọng số nhóm Khá: 0.8 0.2Dòng cuối là lời giải: 80% học sinh của A thuộc nhóm Khá có tỉ lệ đỗ cao, còn B chỉ 20%. Học lực là biến gây nhiễu, vì nó vừa quyết định em vào trung tâm nào, vừa quyết định khả năng đỗ. So đúng là so trong từng nhóm học lực.
Đổi b = {"Khá": (19, 20), "Trung bình": (28, 80)} thành b = {"Khá": (76, 80), "Trung bình": (7, 20)} rồi chạy lại: dòng gộp in Gộp 0.78 0.83. B giữ nguyên tỉ lệ đỗ từng nhóm nhưng có cùng tỉ trọng 80/20 như A. Khi tỉ trọng hai nhóm bằng nhau, nghịch lý biến mất và B hơn A cả khi gộp.
Gộp và tách bằng groupby
Với một DataFrame mỗi dòng một nhóm, groupby() rồi sum() cho bảng gộp; chia hai cột sau khi cộng, không lấy trung bình cột tỉ lệ:
import pandas as pd
bang = pd.DataFrame({
"trung_tam": ["A", "A", "B", "B"],
"hoc_luc": ["Khá", "Trung bình", "Khá", "Trung bình"],
"do": [72, 6, 19, 28],
"du_thi": [80, 20, 20, 80]})
bang["ty_le"] = bang["do"] / bang["du_thi"]
print(bang.pivot(index="hoc_luc", columns="trung_tam",
values="ty_le"))
gop = bang.groupby("trung_tam")[["do", "du_thi"]].sum()
print(gop["do"] / gop["du_thi"])KẾT QUẢ
trung_tam A B
hoc_luc
Khá 0.9 0.95
Trung bình 0.3 0.35
trung_tam
A 0.78
B 0.47
dtype: float64Bảng đầu là kết luận tách theo học lực (B hơn ở cả hai hàng), dòng sau là kết luận gộp (A hơn). Câu hỏi "trung tâm nào dạy tốt hơn" phải được trả lời bằng bảng tách, vì học sinh không được chia ngẫu nhiên vào hai trung tâm.
Mô phỏng một biến gây nhiễu
Một quán ghi số ly trà đào và số chai nước suối bán mỗi ngày trong 300 ngày. Bài tự sinh dữ liệu nên biết sự thật: hai món không ảnh hưởng nhau, cả hai chỉ tăng theo mức nắng của ngày.
import numpy as np
rng = np.random.default_rng(91)
muc = rng.choice(["Mát", "Nóng", "Rất nóng"], size=300)
nen = np.select([muc == "Mát", muc == "Nóng"], [20, 35], 50)
tra = nen + rng.normal(0, 5, 300)
nuoc = 1.5 * nen + rng.normal(0, 6, 300)
print("r gộp:", round(np.corrcoef(tra, nuoc)[0, 1], 2))
for ten in ["Mát", "Nóng", "Rất nóng"]:
r = np.corrcoef(tra[muc == ten], nuoc[muc == ten])[0, 1]
print(ten, round(r, 2))KẾT QUẢ
r gộp: 0.89
Mát -0.08
Nóng 0.06
Rất nóng -0.08Vẽ cùng dữ liệu, tô màu theo mức nắng:
import numpy as np
import matplotlib.pyplot as plt
rng = np.random.default_rng(91)
muc = rng.choice(["Mát", "Nóng", "Rất nóng"], size=300)
nen = np.select([muc == "Mát", muc == "Nóng"], [20, 35], 50)
tra = nen + rng.normal(0, 5, 300)
nuoc = 1.5 * nen + rng.normal(0, 6, 300)
fig, ax = plt.subplots(figsize=(6.4, 4), layout="constrained")
for ten in ["Mát", "Nóng", "Rất nóng"]:
ax.scatter(tra[muc == ten], nuoc[muc == ten], s=12, label=ten)
ax.set_title("Bán theo ngày, tô màu theo mức nắng")
ax.set_xlabel("Ly trà đào")
ax.set_ylabel("Chai nước suối")
ax.legend()
plt.show()Lần chạy này cho r gộp gần 0,9, như thể bán thêm trà đào kéo theo bán thêm nước suối. Tách theo mức nắng, r trong từng nhóm chỉ quanh 0: trong những ngày cùng mức nắng, hai món không cùng tăng. Đổi default_rng(91) thành default_rng(7) để thấy r gộp vẫn quanh 0,9.
Câu đúng về bộ số này: trà đào và nước suối cùng tăng trong dữ liệu, vì cả hai cùng theo mức nắng. Không thể viết "trà đào làm tăng nước suối". Muốn kết luận nhân quả, cần một thí nghiệm chia ngẫu nhiên, như A/B test.
Áp vào thí nghiệm A/B theo thiết bị
File ab_test.csv là số giả lập của AIDev: lượt xem và lượt đăng ký mỗi ngày của trang A (cũ) và B (mới), tách theo thiết bị. Gộp rồi tách:
import pandas as pd
ab = pd.read_csv("ab_test.csv")
gop = ab.groupby("phien_ban")[["luot_xem", "chuyen_doi"]].sum()
print((gop["chuyen_doi"] / gop["luot_xem"]).map("{:.2%}".format))
cot = ["luot_xem", "chuyen_doi"]
tach = ab.groupby(["thiet_bi", "phien_ban"])[cot].sum()
ty_le = (tach["chuyen_doi"] / tach["luot_xem"]).map("{:.2%}".format)
print(ty_le)KẾT QUẢ
phien_ban
A 4.60%
B 5.37%
dtype: str
thiet_bi phien_ban
Di động A 3.85%
B 4.99%
Máy tính A 6.34%
B 6.26%
dtype: strGộp lại, B hơn A khoảng 0,8 điểm phần trăm. Tách ra, phần hơn đó nằm hết ở di động, còn trên máy tính hai trang gần như bằng nhau. Ở đây không có nghịch lý: tỉ trọng di động của hai trang gần bằng nhau, vì người xem được chia ngẫu nhiên. Nhưng tách vẫn đổi câu chuyện, từ "B tốt hơn" thành "B tốt hơn trên di động". Đọc một nhóm con sau khi đã xem dữ liệu chỉ là gợi ý cho một thử nghiệm sau, chưa là kết luận. So nhiều nhóm con là mắc lỗi nhiều chỉ số mà chương A/B test sẽ mô phỏng.
Kiểm tra nhanh
Với
a = [(72, 80), (6, 20)],sum(d for d, t in a) / sum(t for d, t in a)bằng bao nhiêu?0.60.780.75
Trong mô phỏng trà đào và nước suối, câu nào đúng?
- Bán thêm trà đào làm khách mua thêm nước suối
- Hai món cùng tăng trong dữ liệu vì cùng theo mức nắng, một biến gây nhiễu
- r gộp 0,89 chứng minh hai món phụ thuộc nhau
- Tách theo mức nắng làm mất mối liên hệ thật
Những câu nào đúng về nghịch lý Simpson?
- Nó cần hai bên có cỡ nhóm (trọng số) khác nhau
- Bên thắng ở từng nhóm có thể thua ở tỉ lệ gộp
- Nó chỉ xảy ra khi dữ liệu nhập sai
- Chia ngẫu nhiên vào hai bên giúp tránh nó
Trong khung bẫy trung bình cộng hai tỉ lệ nhóm, vì sao B có vẻ hơn A?
- Vì B thật sự có nhiều học sinh đỗ hơn
- Vì trung bình cộng coi nhóm 20 em và nhóm 80 em nặng như nhau
- Vì
round()làm tròn sai
Bài tập
Phát hiện nghịch lý Simpson
Bạn muốn một hàm cảnh báo khi số gộp kể ngược với số tách. a và b là hai list cùng độ dài, mỗi phần tử là một cặp (dat, tong) của cùng một nhóm, cùng thứ tự nhóm ở hai list; mọi tong lớn hơn 0. Viết thân hàm co_nghich_ly(a, b): trả True khi một bên có tỉ lệ cao hơn hẳn ở mọi nhóm mà tỉ lệ gộp lại thấp hơn hẳn bên kia, theo chiều nào cũng được.
Hàm không sửa a, b của nơi gọi.
Trả về: có nghịch lý hay không, một bool.
Ví dụ co_nghich_ly([(72, 80), (6, 20)], [(19, 20), (28, 80)]) cho True.
def co_nghich_ly(a, b):
pass # Viết thân hàm thay cho dòng nàyTóm tắt
Tỉ lệ gộp là trung bình có trọng số của tỉ lệ nhóm: cộng số đạt rồi chia cộng số tổng.
Nghịch lý Simpson: bên thắng ở từng nhóm vẫn có thể thua khi gộp, vì cỡ nhóm hai bên khác nhau.
Biến gây nhiễu ảnh hưởng cả việc vào nhóm nào lẫn kết quả, và tạo ra tương quan không phải tác động.
Tách theo biến gây nhiễu bằng
groupby()rồi so trong từng nhóm.Tương quan trong dữ liệu quan sát không đủ để kết luận nhân quả; chia ngẫu nhiên mới cắt được biến gây nhiễu.
Câu hỏi thường gặp
Tương quan và nhân quả khác nhau thế nào?
Tương quan nói hai biến cùng tăng hay ngược chiều trong dữ liệu; nhân quả nói đổi biến này thì biến kia đổi theo. Một biến gây nhiễu, sự trùng hợp hay chiều ngược lại đều tạo ra tương quan mà không có tác động.
Khi nào nên tin số gộp, khi nào tin số tách?
Khi các bên được chia ngẫu nhiên, hai cách thường cùng kể một chuyện và số gộp dùng được. Khi bên nào tự chọn nhóm (học sinh tự chọn trung tâm), so trong từng nhóm của biến gây nhiễu, như bảng tách của bài.
Làm sao biết biến nào là biến gây nhiễu?
Không có phép tính nào tự tìm ra. Hỏi biến nào vừa ảnh hưởng việc vào bên nào, vừa ảnh hưởng kết quả, rồi kiểm bằng groupby. Cách chắc hơn là thiết kế thí nghiệm chia ngẫu nhiên từ đầu.
Nghịch lý Simpson có xảy ra trong A/B test không?
Ít khi, nếu người dùng được chia ngẫu nhiên và tỉ lệ chia giữ đúng suốt thí nghiệm. Đổi tỉ lệ chia giữa chừng hay gộp nhiều đợt có tỉ lệ khác nhau thì có thể; bài A/B test là gì nói cách chia đúng.
Chủ đề
Dữ liệu của bài
- Tải xuống
ab_test.csv
CSV · 3.37 KB
Bài này có hữu ích?
Hỏi đáp
Tham vấn chuyên môn
Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE
- Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
- Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
- Xây hệ thống AI cho doanh nghiệp tại VietPlatform.