Sklearn pipeline đầu tiên: make_pipeline chặn leakage
Bài 5/14 · Chương 3
Đánh giá model
- 6 phút
- Cơ bản
- Python 3.14
- Cập nhật
Trong bài này · 11
Sklearn pipeline nối scaler và model lại thành một estimator: make_pipeline(StandardScaler(), LogisticRegression()) có fit(), predict(), score() như một model, và mỗi lần fit() nó học thước đo của scaler trên đúng phần dữ liệu được đưa vào. Bạn dùng nó để khỏi phải tự nhớ fit scaler trên train rồi transform test, nhất là khi dự đoán cho khách mới.
Cần biết trước: StandardScaler, fit, predict, score và data leakage.
Tạo pipeline bằng make_pipeline()
Bảng khách hàng Sóc Vàng (số giả lập của AIDev) có mười cột số dùng được ngay. Các cột lệch thang đo rất xa nhau, nên LogisticRegression cần dữ liệu đã chuẩn hóa. Thay vì gọi scaler riêng, đưa cả hai vào make_pipeline():
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
kh = pd.read_csv("hoi_vien.csv")
X = kh.drop(columns=["ma_kh", "tinh", "kenh_dang_ky", "goi",
"diem_danh_gia_tb", "hoi_cach_huy_sau_moc", "roi_bo"])
X_train, X_test, y_train, y_test = train_test_split(
X, kh["roi_bo"], test_size=0.25, random_state=0,
stratify=kh["roi_bo"])
pipe = make_pipeline(StandardScaler(), LogisticRegression())
pipe.fit(X_train, y_train)
print("Test:", round(pipe.score(X_test, y_test), 3))KẾT QUẢ
Test: 0.817pipe là một estimator như mọi model: fit(X_train, y_train) chạy fit_transform của scaler trên X_train rồi fit model trên kết quả; score(X_test, y_test) chạy transform của scaler trên X_test rồi chấm. Bảng bỏ bảy cột: mã khách, ba cột chữ, cột có ô trống, cột rò nhãn của bài trước và chính nhãn.
Bên trong pipeline
make_pipeline() tự đặt tên mỗi bước theo tên class viết thường. Lấy từng bước bằng chỉ số, như phần tử của một list:
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
kh = pd.read_csv("hoi_vien.csv")
X = kh[["so_lan_dang_nhap_30_ngay", "so_don_90_ngay"]]
X_train, X_test, y_train, y_test = train_test_split(
X, kh["roi_bo"], test_size=0.25, random_state=0)
pipe = make_pipeline(StandardScaler(), LogisticRegression())
pipe.fit(X_train, y_train)
print(list(pipe.named_steps))
print(np.allclose(pipe[0].mean_, X_train.mean()))
print(pipe.predict(X_test.head(5)))KẾT QUẢ
['standardscaler', 'logisticregression']
True
[0 0 0 0 0]pipe[0] là scaler, và mean_ của nó bằng đúng trung bình của X_train: tập test không góp gì vào thước đo. predict() trên năm khách mới tự đi qua scaler trước, bạn không phải nhớ gọi transform(). Đổi X_test.head(5) thành X_test.head(3) rồi chạy lại: dòng cuối chỉ còn ba dự đoán.
Pipeline chặn rò qua tiền xử lý
Làm tay, scaler và model là hai đối tượng rời, và chỗ dễ sót nhất là tập test.
Pipeline còn chặn một kiểu rò khó thấy hơn. Mỗi lần fit(), scaler học lại trên đúng phần dữ liệu đưa vào. Khi một công cụ chia bảng nhiều lần rồi fit trên từng phần, như cross validation ở bài sau, pipeline bảo đảm phần đang dùng để chấm không bao giờ góp vào thước đo. Bảng có cả cột chữ cần mã hóa thì bước đầu của pipeline là một ColumnTransformer, xử lý cột số và cột chữ theo hai cách; bài ColumnTransformer chỉ cách dựng.
Kiểm tra nhanh
Sau
from sklearn.pipeline import make_pipeline,from sklearn.preprocessing import StandardScalervàfrom sklearn.linear_model import LogisticRegression,list(make_pipeline(StandardScaler(), LogisticRegression()).named_steps)cho kết quả gì?['standardscaler', 'logisticregression']['StandardScaler', 'LogisticRegression']['step_0', 'step_1']
Pipeline đã
fit(X_train, y_train). Thước đo của scaler bên trong học từ đâu?- Chỉ từ
X_train - Từ
X_trainvàX_test - Từ
X_test, lúc gọiscore()
- Chỉ từ
Những câu nào đúng về pipeline của bài?
pipe.predict(X_test)tự chuẩn hóaX_testtrước khi dự đoánpipe[0]là bước scaler- Phải tự gọi
scaler.transform(X_test)trướcpipe.score() - Pipeline chỉ dùng được với
LogisticRegression
Trong khung bẫy thứ hai, vì sao lời gọi
make_pipeline()báo lỗi?- Vì
StandardScalerkhông dùng được trong pipeline - Vì thiếu cặp ngoặc tròn, nên bước đầu là class chứ chưa phải một scaler
- Vì bước cuối phải đứng đầu
- Vì
Bài tập
Chấm một pipeline trên tập test
X_train, X_test là hai DataFrame cột số, y_train, y_test là nhãn 0/1 tương ứng. Viết thân hàm diem_pipeline(X_train, X_test, y_train, y_test): dựng bằng make_pipeline() một pipeline gồm StandardScaler() rồi LogisticRegression(), fit trên tập train, rồi chấm bằng score() trên tập test.
Hàm không sửa các bảng của nơi gọi.
Trả về: tỉ lệ đoán đúng trên tập test, một float.
from sklearn.linear_model import LogisticRegression
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
def diem_pipeline(X_train, X_test, y_train, y_test):
pass # Viết thân hàm thay cho dòng nàyTóm tắt
make_pipeline(StandardScaler(), LogisticRegression())tạo một estimator cófit(),predict(),score().fit()của pipeline học thước đo của scaler chỉ trên dữ liệu đưa vào, rồi fit model.predict()vàscore()tự transform dữ liệu mới bằng thước đã học.pipe[0]lấy bước đầu;named_stepscho tên các bước viết thường.Mỗi bước là một đối tượng đã tạo, có ngoặc tròn:
StandardScaler().
Câu hỏi thường gặp
make_pipeline và Pipeline khác nhau thế nào?
Cùng một thứ. Pipeline([("scaler", StandardScaler()), ("model", LogisticRegression())]) cho bạn tự đặt tên từng bước; make_pipeline() đặt tên tự động theo tên class. Tên bước chỉ quan trọng khi bạn tinh chỉnh tham số của một bước theo tên.
Pipeline có làm model tốt hơn không?
Không, pipeline cho đúng kết quả của cách làm tay đúng. Nó làm cho cách làm sai khó xảy ra hơn: không quên transform tập test, không fit scaler trên dữ liệu chấm. Bài cross validation dùng pipeline để mỗi lượt chấm được sạch.
Pipeline có lưu được để dùng sau không?
Có: lưu cả pipeline bằng joblib.dump(pipe, "model.joblib") và nạp lại bằng joblib.load(). Vì scaler nằm trong pipeline, khách mới chỉ cần đưa vào dữ liệu thô.
Bảng có cột chữ thì pipeline xử lý thế nào?
Cần một bước mã hóa cột chữ đứng trước model, thường đặt trong ColumnTransformer cùng scaler cho cột số. Bài ColumnTransformer dựng pipeline đó.
Chủ đề
Dữ liệu của bài
- Tải xuống
hoi_vien.csv
CSV · 207.25 KB
Bài này có hữu ích?
Hỏi đáp
Tham vấn chuyên môn
Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE
- Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
- Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
- Xây hệ thống AI cho doanh nghiệp tại VietPlatform.