Bỏ qua đến nội dung chính
Mục lục

Machine learning cheat sheet: bảng tra scikit-learn

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 1/9 · Chương 14

Trang phụ trợ

  • 6 phút
  • Trung cấp
  • Python 3.14
  • Cập nhật

Machine learning cheat sheet này gom các lệnh scikit-learn của cả tutorial vào một trang, chia thành bảy nhóm theo thứ tự làm một dự án: chia dữ liệu, tiền xử lý, model phân loại, model hồi quy, pipeline và chấm điểm, học không giám sát, tìm tham số. Mỗi dòng có việc cần làm, lệnh, kết quả thật khi chạy và một link tới bài dạy kỹ lệnh đó.

Cách đọc sklearn cheat sheet này

Mỗi nhóm mở đầu bằng một đoạn code ngắn tạo dữ liệu dùng chung, thường bằng make_classification() hay make_regression() với random_state cố định, nên kết quả trên máy bạn giống hệt bảng. Các dòng của bảng chạy lần lượt sau đoạn đó, như khi gõ từng dòng vào cửa sổ Python tương tác: dòng sau thấy biến mà dòng trước gán. Cột Kết quả là đúng thứ được in ra; ô có dấu gạch ngang là dòng không in gì, như một phép gán.

Dữ liệu sinh ngẫu nhiên chỉ để lệnh có cái mà chạy; đừng đọc các con số điểm như kết luận về model nào tốt hơn. Bảng tra lệnh NumPy có ở cheat sheet NumPy, công thức thống kê ở cheat sheet thống kê, còn cách chọn metric ở bảng tra metric.

Dữ liệu và chia dữ liệu

300 dòng, 5 feature, hai lớp lệch 80/20.

python
import numpy as np
from sklearn.datasets import make_classification
from sklearn.model_selection import KFold, train_test_split

X, y = make_classification(n_samples=300, n_features=5,
                           weights=[0.8], random_state=0)

Cần làm

Cú pháp

Kết quả

Bài

Xem cỡ bảng feature

X.shape

(300, 5)

bộ dữ liệu của sklearn

Đếm số dòng mỗi lớp

np.bincount(y).tolist()

[240, 60]

dữ liệu mất cân bằng

Chia train, test giữ tỉ lệ lớp

X_tr, X_te, y_tr, y_te = train_test_split(X, y, test_size=0.25, stratify=y, random_state=0)

—

train_test_split

Số dòng mỗi phần

(len(X_tr), len(X_te))

(225, 75)

train_test_split

Tỉ lệ lớp 1 trong test

round(float(y_te.mean()), 3)

0.2

train_test_split

Cỡ phần kiểm của 5 fold

[len(k) for _, k in KFold(5, shuffle=True, random_state=0).split(X)]

[60, 60, 60, 60, 60]

cross-validation

Tiền xử lý

Bảng bốn hội viên có một ô tuổi trống và một cột chữ.

python
import pandas as pd
from sklearn.compose import make_column_transformer
from sklearn.impute import SimpleImputer
from sklearn.preprocessing import OneHotEncoder, StandardScaler

bang = pd.DataFrame({"tuoi": [22, 35, None, 41],
                     "goi": ["Tháng", "Năm", "Tháng", "Quý"]})

Cần làm

Cú pháp

Kết quả

Bài

Điền ô trống bằng trung vị

SimpleImputer(strategy="median").fit_transform(bang[["tuoi"]]).ravel().tolist()

[22.0, 35.0, 35.0, 41.0]

SimpleImputer

Đưa cột số về cùng thang đo

StandardScaler().fit_transform(bang[["tuoi"]].fillna(35)).ravel().round(2).tolist()

[-1.62, 0.25, 0.25, 1.12]

StandardScaler

Tên cột sau one-hot

OneHotEncoder().fit(bang[["goi"]]).get_feature_names_out().tolist()

['goi_Năm', 'goi_Quý', 'goi_Tháng']

OneHotEncoder

Ghép xử lý theo từng cột

ct = make_column_transformer((SimpleImputer(strategy="median"), ["tuoi"]), (OneHotEncoder(), ["goi"]))

—

ColumnTransformer

Số cột sau khi ghép

ct.fit_transform(bang).shape

(4, 4)

ColumnTransformer

Đổi cột chữ bằng pandas

pd.get_dummies(bang["goi"], dtype=int).columns.tolist()

['Năm', 'Quý', 'Tháng']

get_dummies

Model phân loại

Cùng dữ liệu của nhóm đầu, đã chia train và test. score() của model phân loại là accuracy trên phần được chấm.

python
from sklearn.datasets import make_classification
from sklearn.dummy import DummyClassifier
from sklearn.ensemble import RandomForestClassifier
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.tree import DecisionTreeClassifier

X, y = make_classification(n_samples=300, n_features=5,
                           weights=[0.8], random_state=0)
X_tr, X_te, y_tr, y_te = train_test_split(
    X, y, test_size=0.25, stratify=y, random_state=0)

Cần làm

Cú pháp

Kết quả

Bài

Baseline: luôn đoán lớp đông

DummyClassifier().fit(X_tr, y_tr).score(X_te, y_te)

0.8

baseline

Logistic regression

lr = LogisticRegression().fit(X_tr, y_tr)

—

LogisticRegression

Accuracy trên test

round(lr.score(X_te, y_te), 3)

0.92

LogisticRegression

Xác suất lớp 1 của ba dòng đầu

lr.predict_proba(X_te[:3])[:, 1].round(3).tolist()

[0.027, 0.141, 0.004]

LogisticRegression

K láng giềng gần nhất

round(KNeighborsClassifier(15).fit(X_tr, y_tr).score(X_te, y_te), 3)

0.893

KNN

Cây quyết định giới hạn độ sâu

round(DecisionTreeClassifier(max_depth=3, random_state=0).fit(X_tr, y_tr).score(X_te, y_te), 3)

0.96

cây quyết định

Rừng ngẫu nhiên

round(RandomForestClassifier(100, random_state=0).fit(X_tr, y_tr).score(X_te, y_te), 3)

0.96

Random Forest

Model hồi quy

200 dòng, 4 feature, có nhiễu. score() của model hồi quy là R² trên phần được chấm.

python
from sklearn.datasets import make_regression
from sklearn.dummy import DummyRegressor
from sklearn.ensemble import HistGradientBoostingRegressor
from sklearn.linear_model import Lasso, LinearRegression, Ridge
from sklearn.model_selection import train_test_split

X, y = make_regression(n_samples=200, n_features=4, noise=20,
                       random_state=0)
X_tr, X_te, y_tr, y_te = train_test_split(
    X, y, test_size=0.25, random_state=0)

Cần làm

Cú pháp

Kết quả

Bài

Baseline: luôn đoán trung bình

round(DummyRegressor().fit(X_tr, y_tr).score(X_te, y_te), 3)

-0.047

baseline

Hồi quy tuyến tính

lin = LinearRegression().fit(X_tr, y_tr)

—

LinearRegression

R² trên test

round(lin.score(X_te, y_te), 3)

0.981

MAE, RMSE, R²

Hệ số của bốn feature

lin.coef_.round(1).tolist()

[4.4, 60.4, 71.7, 42.1]

LinearRegression

Ridge, phạt bình phương hệ số

round(Ridge(alpha=10).fit(X_tr, y_tr).score(X_te, y_te), 3)

0.972

Ridge và Lasso

Lasso, đếm hệ số khác 0

int((Lasso(alpha=30).fit(X_tr, y_tr).coef_ != 0).sum())

3

Ridge và Lasso

Boosting cho hồi quy

round(HistGradientBoostingRegressor(random_state=0).fit(X_tr, y_tr).score(X_te, y_te), 3)

0.876

HistGradientBoosting

Pipeline và chấm điểm

Một pipeline chuẩn hóa rồi logistic regression, chấm bằng cross-validation và bằng các metric trên phần test.

python
from sklearn.datasets import make_classification
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import (confusion_matrix, f1_score,
                             roc_auc_score)
from sklearn.model_selection import (cross_val_score,
                                     train_test_split)
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

X, y = make_classification(n_samples=300, n_features=5,
                           weights=[0.8], random_state=0)
X_tr, X_te, y_tr, y_te = train_test_split(
    X, y, test_size=0.25, stratify=y, random_state=0)

Cần làm

Cú pháp

Kết quả

Bài

Nối chuẩn hóa và model

pipe = make_pipeline(StandardScaler(), LogisticRegression())

—

pipeline

Tên các bước

list(pipe.named_steps)

['standardscaler', 'logisticregression']

pipeline

ROC-AUC trung bình 5 fold

round(float(cross_val_score(pipe, X, y, cv=5, scoring="roc_auc").mean()), 3)

0.957

cross-validation

Fit trên train

pipe = pipe.fit(X_tr, y_tr)

—

pipeline

Confusion matrix trên test

confusion_matrix(y_te, pipe.predict(X_te)).tolist()

[[58, 2], [4, 11]]

confusion matrix

F1 của lớp 1

round(f1_score(y_te, pipe.predict(X_te)), 3)

0.786

precision, recall, F1

ROC-AUC trên test, từ xác suất

round(roc_auc_score(y_te, pipe.predict_proba(X_te)[:, 1]), 3)

0.942

ROC-AUC

Học không giám sát

300 điểm quanh ba tâm, hai chiều.

python
import numpy as np
from sklearn.cluster import KMeans
from sklearn.datasets import make_blobs
from sklearn.decomposition import PCA

X, _ = make_blobs(n_samples=300, centers=3, n_features=2,
                  random_state=0)

Cần làm

Cú pháp

Kết quả

Bài

Gom thành 3 cụm

km = KMeans(n_clusters=3, n_init=10, random_state=0).fit(X)

—

K-Means

Số điểm mỗi cụm

sorted(np.bincount(km.labels_).tolist())

[93, 102, 105]

K-Means

Tổng bình phương khoảng cách tới tâm

round(float(km.inertia_), 1)

536.4

chọn số cụm k

Tỉ lệ phương sai mỗi trục PCA giữ

PCA(n_components=2).fit(X).explained_variance_ratio_.round(3).tolist()

[0.613, 0.387]

PCA

Tìm tham số

Tìm C của logistic regression trong một pipeline, chấm bằng ROC-AUC 3 fold.

python
from sklearn.datasets import make_classification
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import GridSearchCV
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

X, y = make_classification(n_samples=300, n_features=5,
                           weights=[0.8], random_state=0)
pipe = make_pipeline(StandardScaler(), LogisticRegression())
luoi = {"logisticregression__C": [0.01, 0.1, 1, 10]}

Cần làm

Cú pháp

Kết quả

Bài

Tên tham số của một bước trong pipeline

"logisticregression__C" in pipe.get_params()

True

hyperparameter

Thử mọi giá trị của lưới

tim = GridSearchCV(pipe, luoi, cv=3, scoring="roc_auc").fit(X, y)

—

GridSearchCV

Giá trị tốt nhất

tim.best_params_

{'logisticregression__C': 10}

GridSearchCV

Điểm cross-validation tốt nhất

round(float(tim.best_score_), 3)

0.955

GridSearchCV

Số lần fit trong cross-validation (chưa tính 1 lần refit)

len(tim.cv_results_["params"]) * 3

12

GridSearchCV

best_score_ là điểm trên chính các fold đã dùng để chọn C, nên lạc quan; muốn một con số trung thực, chấm model tìm được trên một tập test để riêng, hay dùng nested cross-validation. Lưu model đã fit ra file bằng joblib.dump() có ở bài lưu model bằng joblib.

Câu hỏi thường gặp

Có bản cheat sheet chính thức của scikit-learn không?

Tài liệu của scikit-learn có một sơ đồ chọn estimator theo loại bài toán và cỡ dữ liệu. Trang này khác ở chỗ mỗi dòng là một lệnh chạy được kèm kết quả thật, và trỏ về bài dạy kỹ lệnh đó trong tutorial; bảng chọn model có ở bài chọn model.

Vì sao mỗi nhóm lại tạo dữ liệu từ đầu?

Để mỗi nhóm đọc được riêng: bạn nhảy thẳng tới nhóm "Tìm tham số" mà không cần chạy các nhóm trên. Cùng random_state=0 nên dữ liệu phân loại của bốn nhóm giống hệt nhau.

Lệnh trong bảng có chạy trên bản scikit-learn cũ không?

Bảng chạy trên scikit-learn 1.8. Phần lớn lệnh chạy từ bản 1.4 trở đi; vài tên đã đổi so với code cũ trên mạng, như sparse_output hay root_mean_squared_error, có ở trang sửa code scikit-learn cũ.

Chủ đề

machine learning cheat sheet

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập