Bỏ qua đến nội dung chính
Mục lục

Odds ratio là gì? Đọc hệ số logistic bằng np.exp

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 4/11 · Chương 5

Phân loại: logistic regression, KNN, SVM, Naive Bayes

  • 8 phút
  • Cơ bản
  • Python 3.14
  • Cập nhật

Odds là tỉ số p/(1 − p) giữa khả năng một việc xảy ra và khả năng nó không xảy ra; odds ratio là thương odds của hai nhóm, cho biết odds của nhóm này gấp bao nhiêu lần nhóm kia. Trong logistic regression, np.exp(model.coef_) cho odds ratio của từng feature: odds của lớp 1 nhân lên bấy nhiêu lần khi feature đó tăng một đơn vị và các feature khác giữ nguyên.

Cần biết trước: logistic regression, hàm sigmoid và hàm toán học của NumPy.

Odds và odds ratio từ một bảng đếm

Hội viên Sóc Vàng (số giả lập của AIDev) chia hai nhóm theo cột tu_dong_gia_han: 1 là có bật tự động gia hạn, 0 là không. Đếm số người bỏ gói và ở lại trong từng nhóm:

python
import pandas as pd
hv = pd.read_csv("hoi_vien.csv")
bang = pd.crosstab(hv["tu_dong_gia_han"], hv["roi_bo"])
print(bang)
odds = bang[1] / bang[0]
print(odds.round(4).tolist())
print("odds ratio:", round(odds[1] / odds[0], 3))

KẾT QUẢ

roi_bo              0    1
tu_dong_gia_han           
0                1149  339
1                1256  256
[0.295, 0.2038]
odds ratio: 0.691

Odds của một nhóm là số người bỏ gói chia số người ở lại, cũng bằng p/(1 − p) với p là tỉ lệ bỏ gói. Nhóm không tự gia hạn: 339 / 1149 ≈ 0,295, tức cứ khoảng 100 người ở lại thì có 29–30 người bỏ. Nhóm có tự gia hạn: 256 / 1256 ≈ 0,204. Odds ratio 0,691 nói rằng bật tự động gia hạn đi kèm odds bỏ gói chỉ còn khoảng 69% so với nhóm không bật. Số dưới 1 là giảm, trên 1 là tăng, đúng 1 là không đổi.

Hệ số logistic là log của odds

Logistic regression viết log của odds thành một tổng tuyến tính, nên mũ của mỗi hệ số là một odds ratio:

ln⁡p1−p=b+w1x1+⋯+wnxn,ORj=ewj\ln\frac{p}{1-p} = b + w_1x_1 + \dots + w_nx_n, \qquad \text{OR}_j = e^{w_j}

Trong đó:

  • pp là xác suất lớp 1 (bỏ gói) của một khách;

  • p1−p\frac{p}{1-p} là odds, và ln⁡\ln của nó gọi là log-odds, chính là điểm z của bài sigmoid;

  • bb là intercept_, wjw_j là hệ số của feature thứ jj trong coef_;

  • ORj\text{OR}_j là odds ratio khi riêng xjx_j tăng một đơn vị.

Tăng xjx_j thêm 1 thì log-odds cộng thêm wjw_j, nên odds nhân thêm ewje^{w_j}. Fit trên đúng một cột nhị phân, model phải tái tạo đúng bảng đếm ở trên. C=1e6 gần như tắt khoản phạt, để hệ số không bị co:

python
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
hv = pd.read_csv("hoi_vien.csv")
X = hv[["tu_dong_gia_han"]]
model = LogisticRegression(C=1e6).fit(X, hv["roi_bo"])
print("hệ số:", model.coef_[0].round(4), model.intercept_.round(4))
print("np.exp:", np.exp(model.coef_[0]).round(3),
      np.exp(model.intercept_).round(3))

KẾT QUẢ

hệ số: [-0.3691] [-1.2208]
np.exp: [0.691] [0.295]

np.exp của hệ số là 0,691, đúng odds ratio của bảng đếm. np.exp của hệ số chặn là 0,295, odds của nhóm có x = 0. Hệ số âm cho odds ratio dưới 1. Đổi C=1e6 thành C=0.01 rồi chạy lại: hệ số bị phạt co về 0 và dòng cuối in np.exp: [0.819] [0.273], không còn khớp bảng đếm.

Đọc nhiều hệ số một lúc

Với nhiều feature, mỗi odds ratio là mức nhân của odds khi feature đó tăng một đơn vị gốc trong khi các feature khác đứng yên. Vì muốn đọc theo đơn vị gốc (một lần khiếu nại, một ngày), model dưới đây fit trên cột chưa scale:

python
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
hv = pd.read_csv("hoi_vien.csv")
cot = ["tu_dong_gia_han", "so_lan_khieu_nai",
       "so_lan_dang_nhap_30_ngay", "so_ngay_tu_lan_mua_cuoi",
       "ti_le_giao_tre"]
model = LogisticRegression(C=1e6).fit(hv[cot], hv["roi_bo"])
ti_so = pd.Series(np.exp(model.coef_[0]), index=cot)
print(ti_so.sort_values().round(2))

KẾT QUẢ

tu_dong_gia_han              0.59
so_lan_dang_nhap_30_ngay     0.87
so_ngay_tu_lan_mua_cuoi      1.01
so_lan_khieu_nai             1.54
ti_le_giao_tre              19.58
dtype: float64

Đơn vị quyết định độ lớn. Một ngày là quá nhỏ nên 1,01 trông như không đáng kể, còn tỉ lệ giao trễ đi từ 0 đến 1 nên "tăng một đơn vị" là từ 0% lên 100%, một bước không khách nào đi. Muốn đọc cho bước có nghĩa, lấy odds ratio mũ số bước: tăng k đơn vị thì odds nhân ORk=ekw\text{OR}^k = e^{k w}. Ba mươi ngày không mua: 1,0149³⁰ ≈ 1,56. Tỉ lệ giao trễ tăng 10 điểm phần trăm (0,1 đơn vị): 19,58^0,1 ≈ 1,35. Bảng này không cho so độ quan trọng giữa các cột khác đơn vị; muốn so thì fit trên cột đã qua StandardScaler, khi đó mỗi odds ratio ứng với một độ lệch chuẩn.

Nói hệ số thành câu

Người nghe không cần biết log-odds. Một câu tốt có bốn phần: feature tăng bao nhiêu, odds nhân bao nhiêu lần, giữ những gì như cũ, và ví dụ một khách cụ thể. Với bảng trên:

  • "Mỗi lần khiếu nại thêm, odds bỏ gói nhân khoảng 1,5 lần, khi những thứ khác như nhau. Một khách đang có 30% khả năng bỏ gói sẽ lên khoảng 40%."

  • "Khách bật tự động gia hạn có odds bỏ gói chỉ bằng khoảng 0,6 lần khách tương tự nhưng không bật."

Câu nào cũng chỉ mô tả mối liên hệ trong dữ liệu; chúng chưa chứng minh bật tự động gia hạn khiến khách ở lại: có thể chính người vốn định ở lâu mới là người chịu bật nó.

Để chắc rằng np.exp(coef_) thật sự là odds ratio, mô phỏng một bảng mà ta tự đặt odds ratio, rồi xem model học lại được gì. Mỗi lần khiếu nại nhân odds với e^0,4:

python
import numpy as np
from scipy.special import expit
from sklearn.linear_model import LogisticRegression
rng = np.random.default_rng(11)
khieu_nai = rng.integers(0, 5, size=20_000)
p = expit(-2.0 + 0.4 * khieu_nai)
bo_goi = (rng.random(20_000) < p).astype(int)
model = LogisticRegression(C=1e6)
model.fit(khieu_nai.reshape(-1, 1), bo_goi)
print("tỉ số odds đặt vào:", round(np.exp(0.4), 3))
print("tỉ số odds học lại:", np.exp(model.coef_[0]).round(3))

KẾT QUẢ

tỉ số odds đặt vào: 1.492
tỉ số odds học lại: [1.485]

Hai số lệch nhau ở chữ số thứ ba, phần lệch đến từ ngẫu nhiên của 20.000 dòng giả lập.

Kiểm tra nhanh

  1. Sau p = 0.75, round(p / (1 - p), 2) cho kết quả gì?

    • 0.75
    • 3.0
    • 0.33
  2. Nhóm A có odds 0,4, nhóm B có odds 0,2. Odds ratio của A so với B là bao nhiêu, và nghĩa là gì?

    • 2: odds của A gấp đôi odds của B
    • 2: xác suất của A gấp đôi xác suất của B
    • 0,2: hiệu hai odds
  3. Sau import numpy as np, round(float(np.exp(3 * np.log(1.5))), 3) cho kết quả gì?

    • 4.5
    • 3.375
    • 1.5
  4. Câu nào đọc đúng hệ số so_lan_khieu_nai có np.exp bằng 1,54?

    • Mỗi lần khiếu nại làm xác suất bỏ gói tăng 54%
    • Mỗi lần khiếu nại thêm, odds bỏ gói nhân khoảng 1,54 lần khi các feature khác giữ nguyên
    • Khiếu nại là nguyên nhân khiến khách bỏ gói
Đúng hết lần đầu +15 XP

Bài tập

Xác suất mới sau khi feature tăng

Một khách có xác suất bỏ gói p (0 < p < 1). Model cho một feature có odds ratio ti_so (số dương). Viết thân hàm xac_suat_moi(p, ti_so, so_don_vi) trả xác suất bỏ gói mới của khách khi riêng feature đó tăng so_don_vi đơn vị (số nguyên không âm).

Trả về: xác suất mới, một float.

Ví dụ: xac_suat_moi(0.3, 0.69, 2) trả khoảng 0.169.

python
def xac_suat_moi(p, ti_so, so_don_vi):
    pass  # Viết thân hàm thay cho dòng này

Tóm tắt

  • Odds = p/(1 − p); odds ratio là thương odds của hai nhóm, dưới 1 là giảm, trên 1 là tăng.

  • Mỗi hệ số logistic cộng thẳng vào log-odds; lấy mũ của nó bằng np.exp thì ra mức nhân của odds khi riêng feature đó tăng một đơn vị.

  • Tăng k đơn vị thì odds nhân ekwe^{k w}, tức odds ratio mũ k.

  • Odds ratio đọc theo đơn vị gốc của cột; muốn so độ quan trọng giữa các cột thì fit trên cột đã scale.

  • Nói "odds nhân bao nhiêu lần", không nói "xác suất tăng bao nhiêu phần trăm", và đừng coi mối liên hệ là nguyên nhân.

Câu hỏi thường gặp

Khi odds ratio bằng 1 thì nghĩa là gì?

Feature đó không làm odds đổi khi các feature khác giữ nguyên, ứng với hệ số bằng 0. Odds ratio gần 1 cũng có thể chỉ vì đơn vị của cột quá nhỏ, như một ngày; hãy nhân lên số bước có nghĩa trước khi kết luận.

Vì sao odds ratio của model khác odds ratio tính từ bảng đếm?

Bảng đếm chỉ nhìn một cột, còn model nhiều feature giữ các cột khác đứng yên. Tự động gia hạn có odds ratio 0,691 khi đứng một mình nhưng 0,59 trong model năm cột, một phần vì người bật nó khác người không bật ở cả những cột còn lại. Phần còn lại là tính chất của chính odds ratio: thêm một cột có liên quan tới nhãn vẫn làm odds ratio của cột đang xét đổi, kể cả khi cột thêm vào độc lập với nó (odds ratio không gộp được, non-collapsible). Vì vậy đừng đọc mức đổi như bằng chứng của gây nhiễu. Khoản phạt C= nhỏ cũng kéo odds ratio về 1.

Feature dạng chữ như tỉnh thì đọc odds ratio thế nào?

Sau khi mã hóa one-hot, mỗi cột là một tỉnh, và odds ratio của nó so odds của tỉnh đó với tỉnh bị bỏ làm mốc. Câu đọc phải nêu mốc: "so với khách ở tỉnh mốc, odds bỏ gói nhân … lần".

Chủ đề

odds ratio là gì

Dữ liệu của bài

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập