Bỏ qua đến nội dung chính
Mục lục

Dự án Sóc Vàng (2/5): chọn feature cho model, giữ hay bỏ

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 2/5 · Chương 11

Dự án: dự đoán khách rời bỏ từ đầu đến cuối

  • 9 phút
  • Trung cấp
  • Python 3.14
  • Cập nhật

Phần 2 của dự án Sóc Vàng chọn feature cho model: thử thêm hai cột có lý do nghiệp vụ, thử bỏ hai cột mà model gần như không dùng (feature selection), và để luật của phần 1 quyết định từng lần. Bạn gặp thêm một cột trông như cải tiến lớn nhất dự án nhưng thật ra chép đáp án, và cuối trang tự viết hàm tính tỉ lệ rời bỏ theo nhóm.

Cần biết trước: phần 1 của dự án, feature engineering và groupby.

Chương trình sẽ làm gì

Mốc hiện tại là logistic regression trên 10 cột số, bắt được 175 người trong 300 cuộc gọi. Vòng 1 của dự án có ba lần thử, lý do viết trước:

Lần

Thay đổi

Lý do

3

Thêm gia_han_dai

Bật tự gia hạn ở gói Quý hay Năm là một lời hứa ở lại lâu

4

Thêm san_ma

Người dùng mã cho phần lớn đơn mà ít mua có thể chỉ ở vì khuyến mãi

5

Bỏ tuoi và chi_tieu_90_ngay_nghin

Model gần như không dùng hai cột này; bớt cột thì dễ giải thích

Luật lấy từ phần 1: thêm cột phải bắt thêm ít nhất 5 người, bỏ cột không được mất quá 2 người. Mọi cột ở đây tính từ số liệu trước ngày chụp 15/06/2026 của chính hội viên đó. Chương trình đọc lại nhật ký, đo ba lần thử theo thứ tự, mỗi lần so với mốc hiện tại, thêm một dòng vào nhật ký và ghi lại nhat_ky.csv. Thứ tự dựng: đọc nhật ký và nhìn bảng theo gói, đo hai cột thêm, tìm cột model không dùng, đo phép bỏ, rồi ghép lại.

Bước 1: Đọc lại nhật ký và nhìn theo gói

Trên trang, file chỉ sống trong một lần chạy, nên khối dưới dựng lại hai dòng nhật ký của phần 1 từ chữ bằng io.StringIO. Trên máy, pd.read_csv("nhat_ky.csv") là đủ. Sau đó xem tỉ lệ rời bỏ theo gói và việc bật tự gia hạn:

python
import io
import pandas as pd
nhat_ky = pd.read_csv(io.StringIO(
    "lan,vong,thay_doi,vi_sao,bat_duoc,chenh,quyet_dinh\n"
    "1,0,luật lâu chưa mua,đội làm được ngay,164,0,mốc\n"
    "2,0,logistic 10 cột,model đơn giản nhất,175,11,giữ"))
print(nhat_ky[["lan", "thay_doi", "bat_duoc"]].to_string(index=False))
hv = pd.read_csv("hoi_vien.csv")
bang = hv.groupby(["goi", "tu_dong_gia_han"])["roi_bo"].agg(
    ["mean", "size"])
print(bang.round(2))

KẾT QUẢ

 lan          thay_doi  bat_duoc
   1 luật lâu chưa mua       164
   2   logistic 10 cột       175
                       mean  size
goi   tu_dong_gia_han
Năm   0                0.23   150
      1                0.12   453
Quý   0                0.19   366
      1                0.16   390
Tháng 0                0.24   972
      1                0.21   669

Ở gói Năm, người bật tự gia hạn rời bỏ 12%, người không bật 23%. Ở gói Tháng, bật hay không vẫn quanh 20%: gói tháng hủy lúc nào cũng được, nên bật tự gia hạn không nói lên nhiều. Một cột riêng cho "bật tự gia hạn ở gói dài" là ứng viên đáng thử.

Bước 2: Hai cột thêm

gia_han_dai bằng 1 khi hội viên bật tự gia hạn ở gói Quý hay Năm. san_ma bằng 1 khi hội viên dùng mã cho hơn 45% số đơn và có dưới 3 đơn trong 90 ngày. Mỗi cột đo riêng, cùng cách chia 5 phần của phần 1:

python
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import cross_val_predict
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
hv = pd.read_csv("hoi_vien.csv")
X, y = hv.loc[:, "tu_dong_gia_han":"ti_le_dung_ma_giam"], hv["roi_bo"].values
moi = {"gia_han_dai": hv.tu_dong_gia_han * (hv.goi != "Tháng"),
       "san_ma": (hv.ti_le_dung_ma_giam > 0.45) & (hv.so_don_90_ngay < 3)}
model = make_pipeline(StandardScaler(), LogisticRegression())
for ten, cot in moi.items():
    p = cross_val_predict(model, X.assign(**{ten: cot}), y,
                          method="predict_proba")[:, 1]
    print(ten, int(y[np.argsort(-p, kind="stable")[:300]].sum()) - 175)

KẾT QUẢ

gia_han_dai 3
san_ma -5

gia_han_dai bắt thêm 3 người: chưa tới biên 5, bỏ. san_ma làm mất 5 người: bỏ. Hai lần bỏ này không giống nhau. Đo lại trên 200 cách chia 5 phần khác nhau: gia_han_dai thêm trung bình gần 3 người, dương ở 85% số lần chia, nhưng chỉ 19% số lần chạm biên 5. Nó có lẽ có ích một chút, nhỏ hơn mức 300 cuộc gọi phân biệt được với nhiễu. san_ma mất trung bình hơn 3 người và không lần nào chạm biên. Nhật ký ghi cả hai, kèm con số.

Bước 3: Cột nào model gần như không dùng

Feature engineering là thêm cột; chọn feature còn là bớt cột. Với logistic regression sau StandardScaler, mọi cột cùng thang đo, nên hệ số gần 0 nghĩa là model gần như bỏ qua cột đó:

python
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
hv = pd.read_csv("hoi_vien.csv")
X = hv.loc[:, "tu_dong_gia_han":"ti_le_dung_ma_giam"]
model = make_pipeline(StandardScaler(), LogisticRegression())
model.fit(X, hv["roi_bo"])
he_so = pd.Series(model[-1].coef_[0], X.columns)
print(he_so.abs().sort_values().head(4).to_string(float_format="{:.3f}".format))

KẾT QUẢ

chi_tieu_90_ngay_nghin   0.003
tuoi                     0.020
so_thang_su_dung         0.188
so_don_90_ngay           0.246

Hai cột đứng đầu bảng có hệ số dưới 0,03, nhỏ hơn cột kế tiếp gần mười lần. Đây là model học trên cả 3.000 dòng, chỉ dùng để chọn ứng viên; quyết định bỏ hay giữ vẫn đến từ phép đo ở bước 4.

Bước 4: Bỏ hai cột yếu

Đo model 8 cột trên đúng cách chia cũ:

python
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import cross_val_predict
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
hv = pd.read_csv("hoi_vien.csv")
X = hv.loc[:, "tu_dong_gia_han":"ti_le_dung_ma_giam"]
X = X.drop(columns=["tuoi", "chi_tieu_90_ngay_nghin"])
y = hv["roi_bo"].to_numpy()
model = make_pipeline(StandardScaler(), LogisticRegression())
p = cross_val_predict(model, X, y, method="predict_proba")[:, 1]
print(X.shape[1], int(y[np.argsort(-p, kind="stable")[:300]].sum()))

KẾT QUẢ

8 176

8 cột bắt được 176 người, hơn mốc 1 người: không mất gì, nên giữ, và model 8 cột thành mốc mới. Trên 200 cách chia, phép bỏ này mất quá 2 người đúng một lần, nên quyết định không phụ thuộc cách chia.

Bước 5: Ghép thành chương trình hoàn chỉnh

Chương trình dưới đọc lại nhật ký, chạy ba lần thử theo thứ tự, mỗi lần so với mốc hiện tại, giữ những gì qua luật và ghi lại nhat_ky.csv:

python
import io
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import cross_val_predict
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

nhat_ky = pd.read_csv(io.StringIO(
    "lan,vong,thay_doi,vi_sao,bat_duoc,chenh,quyet_dinh\n"
    "1,0,luật lâu chưa mua,đội làm được ngay,164,0,mốc\n"
    "2,0,logistic 10 cột,model đơn giản nhất,175,11,giữ"))
hv = pd.read_csv("hoi_vien.csv")
y = hv["roi_bo"].to_numpy()
X = hv.loc[:, "tu_dong_gia_han":"ti_le_dung_ma_giam"].assign(
    gia_han_dai=hv.tu_dong_gia_han * (hv.goi != "Tháng"),
    san_ma=(hv.ti_le_dung_ma_giam > 0.45) & (hv.so_don_90_ngay < 3))
cot = list(X.columns[:10])
cac_lan = [("thêm gia_han_dai", "gói dài tự gia hạn", ["gia_han_dai"], []),
           ("thêm san_ma", "chỉ ở vì mã giảm giá", ["san_ma"], []),
           ("bỏ tuổi, chi tiêu", "model gần như không dùng", [],
            ["tuoi", "chi_tieu_90_ngay_nghin"])]
moc = 175
model = make_pipeline(StandardScaler(), LogisticRegression())
for thay_doi, vi_sao, them, bo in cac_lan:
    thu = [c for c in cot if c not in bo] + them
    bien = 5 if them else -2
    p = cross_val_predict(model, X[thu], y, method="predict_proba")[:, 1]
    bat_duoc = int(y[np.argsort(-p, kind="stable")[:300]].sum())
    quyet = "giữ" if bat_duoc - moc >= bien else "bỏ"
    nhat_ky.loc[len(nhat_ky)] = [len(nhat_ky) + 1, 1, thay_doi, vi_sao,
                                 bat_duoc, bat_duoc - moc, quyet]
    if quyet == "giữ":
        cot, moc = thu, bat_duoc
nhat_ky.to_csv("nhat_ky.csv", index=False)
print(pd.read_csv("nhat_ky.csv").drop(columns="vi_sao").to_string(index=False))
print("Mốc:", moc, "người,", len(cot), "cột")

KẾT QUẢ

 lan  vong          thay_doi  bat_duoc  chenh quyet_dinh
   1     0 luật lâu chưa mua       164      0        mốc
   2     0   logistic 10 cột       175     11        giữ
   3     1  thêm gia_han_dai       178      3         bỏ
   4     1       thêm san_ma       170     -5         bỏ
   5     1 bỏ tuổi, chi tiêu       176      1        giữ
Mốc: 176 người, 8 cột

Ba lần thử, một lần giữ. Vòng 1 có một lần giữ, nên theo luật dự án đi tiếp sang vòng 2. Danh sách cot (8 cột) và mốc 176 người là đầu vào của phần 3. Muốn thử thêm, viết một bộ bốn (đổi gì, vì sao, cột thêm, cột bỏ) vào cuối cac_lan trước khi chạy: nhật ký có thêm một dòng và luật tự quyết.

Bài tập

Tỉ lệ rời bỏ theo nhóm, bỏ nhóm quá nhỏ

Bước 1 và cái bẫy ở bước 4 đều tính tỉ lệ rời bỏ theo nhóm. Với nhóm vài người, tỉ lệ đó nhảy lung tung (như cái bẫy với nhóm tỉnh và kênh), nên một bảng để đọc cần bỏ nhóm quá nhỏ. Viết thân hàm ti_le_theo_nhom(bang, cot, toi_thieu): bang có cột roi_bo (0 hoặc 1) và cột tên cot, không có ô trống. Hàm gom theo cot và chỉ giữ nhóm có từ toi_thieu hội viên trở lên. Nó trả tỉ lệ rời bỏ của từng nhóm làm tròn 3 chữ số, xếp từ cao xuống thấp; hai nhóm bằng tỉ lệ thì nhóm có tên đứng trước theo thứ tự sắp xếp đứng trước. Hàm không sửa bang.

Trả về: tỉ lệ rời bỏ theo nhóm, index là tên nhóm, một Series.

Ví dụ: bảng 7 hội viên, gói Tháng có 3 người (2 rời bỏ), Quý 2 người (1 rời bỏ), Năm 2 người (không ai rời bỏ); ti_le_theo_nhom(bang, "goi", 2) trả Tháng 0.667, Quý 0.5, Năm 0.0.

python
import pandas as pd

def ti_le_theo_nhom(bang, cot, toi_thieu):
    pass  # Viết thân hàm thay cho dòng này

Thử mở rộng

Các hướng dưới làm được ngay với chương trình trên:

  • Gọi ti_le_theo_nhom(hv, "kenh_dang_ky", 30) trên bảng thật, xem kênh nào rời bỏ nhiều, rồi viết lý do cho một cột mới (chẳng hạn kenh_app bằng 1 khi đăng ký qua App) trước khi thêm nó vào cac_lan.

  • Thêm vào cac_lan một lần thử bỏ cột so_lan_khieu_nai với biên −2, và xem luật có cho bỏ một cột có hệ số lớn không.

  • Đảo thứ tự hai dòng đầu của cac_lan: mỗi lần so với mốc hiện tại, nên thứ tự đo có thể đổi kết quả khi một lần được giữ.

  • Phần 3, khi nào dừng tinh chỉnh model, bắt đầu từ mốc 8 cột.

Chủ đề

chọn feature cho model

Dữ liệu của bài

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập