Bỏ qua đến nội dung chính
Mục lục

Câu hỏi phỏng vấn machine learning cho người mới

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 7/9 · Chương 14

Trang phụ trợ

  • 11 phút
  • Trung cấp
  • Python 3.14
  • Cập nhật

Trang này gom các câu hỏi phỏng vấn machine learning hay gặp ở vị trí mới vào nghề (data analyst, data scientist, ML engineer mức junior): overfitting, data leakage, cross-validation, chọn metric, chọn ngưỡng, các model cơ bản và cách kể một dự án. Dùng trang để ôn trong vài ngày trước buổi phỏng vấn, hay để tự kiểm mình đã chắc phần nào của tutorial.

Cách ôn với trang này

Mỗi câu trả lời mở bằng ý chính trong một hai câu, đúng độ dài nên nói khi được hỏi, rồi thêm chi tiết người phỏng vấn hay hỏi tiếp. Vài câu có một ô code nhỏ chỉ dùng Python thuần, không cần scikit-learn, vì người phỏng vấn hay bảo tính tay một con số trên bảng hay trên giấy.

Hãy che câu trả lời, tự nói thành lời, rồi mới đọc. Câu nào nói chưa trôi, mở bài ở dòng "Ôn lại" cuối câu trả lời. Nhiều câu hỏi phỏng vấn tiếng Anh (machine learning interview questions) hỏi đúng những ý này; tên khái niệm tiếng Anh có ở trang thuật ngữ machine learning. Câu hỏi về thống kê và về pandas có ở hai trang câu hỏi phỏng vấn thống kê và câu hỏi phỏng vấn pandas.

Nền tảng

Học có giám sát và không giám sát khác nhau thế nào?

Học có giám sát học từ bảng có cột đáp án (label): đoán giá nhà là hồi quy, đoán khách có rời bỏ là phân loại. Học không giám sát không có label, chỉ tìm cấu trúc trong dữ liệu, như gom khách thành nhóm hay giảm số cột. Người phỏng vấn hay hỏi tiếp một ví dụ của từng loại ở chỗ làm cũ của bạn, nên chuẩn bị sẵn.

Ôn lại: các loại bài toán.

Baseline là gì, vì sao cần?

Baseline là model đơn giản nhất để so, như luôn đoán giá trung bình hay luôn đoán lớp đông nhất. Không có nó thì không biết điểm của model là tốt hay chỉ bằng đoán mò. Trên 2.000 khách có 120 người rời bỏ, đoán "không ai rời" đã đúng 94%:

python
so_khach, so_roi_bo = 2000, 120

doan_toan_o_lai = (so_khach - so_roi_bo) / so_khach
print(doan_toan_o_lai)

KẾT QUẢ

0.94

Ôn lại: baseline.

Tham số và siêu tham số khác nhau ở đâu?

Tham số là thứ model tự học từ dữ liệu khi fit(), như hệ số của hồi quy tuyến tính. Siêu tham số (hyperparameter) là thứ bạn đặt trước khi học, như độ sâu tối đa của cây hay độ mạnh của phạt alpha. Siêu tham số được chọn bằng cross-validation trên phần train, không chọn bằng tập test.

Ôn lại: hyperparameter.

Chia dữ liệu và rò rỉ

Vì sao cần tập test riêng, và tập validation để làm gì?

Tập test cho một ước lượng trung thực về điểm trên dữ liệu model chưa thấy, với điều kiện chỉ dùng một lần ở cuối. Mọi quyết định trong lúc làm (chọn cột, chọn model, chọn ngưỡng) dùng tập validation hay cross-validation; quyết định dựa trên test thì điểm test không còn trung thực.

Ôn lại: train, validation, test.

Data leakage là gì? Kể hai ví dụ.

Data leakage là khi thông tin model không thể có lúc dùng thật lọt vào lúc học, làm điểm cao ảo. Hai ví dụ hay gặp: một cột được ghi sau thời điểm dự đoán (số lần khách gọi hỏi cách hủy gói, khi đoán khách có hủy không), và một bước tiền xử lý học trên cả bảng trước khi chia. Ví dụ năm dòng train và hai dòng test: trung bình mà bộ chuẩn hóa học bị kéo lệch khi nó nhìn cả hai dòng test.

python
from statistics import mean

train = [12, 15, 11, 14, 13]
test = [30, 28]
print(mean(train), round(mean(train + test), 2))

KẾT QUẢ

13 17.57

Người phỏng vấn hay hỏi tiếp: làm sao phát hiện? Điểm cao bất thường, một feature quá mạnh, và điểm tụt khi chạy trên dữ liệu kỳ sau.

Ôn lại: data leakage.

Khi nào không được chia train và test ngẫu nhiên?

Khi các dòng không độc lập: dữ liệu theo thời gian (phải học quá khứ, chấm tương lai), nhiều dòng của cùng một khách hay một bệnh nhân (phải giữ cả nhóm ở một phía), hay có dòng trùng. Chia ngẫu nhiên trong các trường hợp này để lọt thông tin từ test sang train.

Ôn lại: train_test_split.

Cross-validation hoạt động thế nào, và báo kết quả ra sao?

Chia dữ liệu thành k phần, lần lượt giữ một phần để chấm và học trên k − 1 phần còn lại, được k điểm. Báo trung bình kèm độ lệch giữa các fold, vì năm con số này dao động:

python
from statistics import mean, stdev

diem_fold = [0.78, 0.81, 0.76, 0.80, 0.79]
print(round(mean(diem_fold), 3), round(stdev(diem_fold), 3))

KẾT QUẢ

0.788 0.019

Muốn so hai model thì chấm cả hai trên cùng các fold và xem hiệu của từng cặp: model hơn ở mọi fold đáng tin hơn một hiệu trung bình nhỏ, như bài điểm CV dao động đo. Với bộ phân loại, cross_val_score mặc định đã dùng StratifiedKFold, nên mỗi fold giữ tỉ lệ lớp.

Ôn lại: cross-validation.

Overfitting và điều chuẩn

Overfitting là gì, nhận ra bằng cách nào?

Overfitting là khi model khớp cả nhiễu của dữ liệu học: điểm train cao, điểm validation thấp hơn hẳn. Underfitting ngược lại: cả hai điểm đều thấp. Nhận ra bằng cách so hai điểm, hay vẽ learning curve theo số dòng học.

Ôn lại: overfitting.

Có những cách nào chống overfitting?

Bốn nhóm cách: thêm dữ liệu; làm model đơn giản đi (cây nông hơn, ít feature hơn); điều chuẩn (phạt hệ số lớn bằng Ridge, Lasso, hay C nhỏ hơn ở logistic); và gộp nhiều model (rừng ngẫu nhiên). Nói thêm cách bạn chọn mức độ: bằng cross-validation, không bằng test.

Ôn lại: Ridge và Lasso và tỉa cây.

Ridge và Lasso khác nhau thế nào?

Cả hai thêm khoản phạt độ lớn hệ số vào loss. Ridge phạt tổng bình phương, co mọi hệ số nhỏ lại nhưng hiếm khi về đúng 0; Lasso phạt tổng trị tuyệt đối, đẩy hệ số của cột yếu về đúng 0 nên chọn cột luôn. Cả hai cần chuẩn hóa feature trước, vì khoản phạt so độ lớn hệ số giữa các cột.

Ôn lại: Ridge và Lasso.

Chọn metric

MAE và RMSE khác nhau thế nào, chọn cái nào?

Cả hai cùng đơn vị với label. RMSE bình phương sai số trước khi lấy trung bình nên phạt nặng các lần đoán lệch xa; MAE coi mọi phút lệch như nhau. Sáu đơn giao hàng, một đơn lệch 40 phút:

python
sai_lech = [2, -1, 3, -2, 1, 40]

mae = sum(abs(e) for e in sai_lech) / len(sai_lech)
rmse = (sum(e * e for e in sai_lech) / len(sai_lech)) ** 0.5
print(round(mae, 2), round(rmse, 2))

KẾT QUẢ

8.17 16.43

Chọn RMSE khi một lần lệch xa đắt hơn nhiều lần lệch nhỏ; chọn MAE khi muốn con số dễ giải thích và ít bị một đơn bất thường kéo.

Ôn lại: MAE, RMSE, R².

Precision và recall là gì? Khi nào ưu tiên cái nào?

Precision: trong các dòng model báo dương, bao nhiêu phần đúng. Recall: trong các dòng dương thật, model bắt được bao nhiêu phần. Ưu tiên recall khi bỏ sót đắt (bỏ sót hồ sơ vay sẽ vỡ nợ), ưu tiên precision khi báo nhầm đắt (gửi khuyến mãi tốn tiền cho người không cần). F1 là trung bình điều hòa của hai số khi cần một con số chung.

Ôn lại: precision, recall, F1.

ROC-AUC đo gì?

ROC-AUC là xác suất model chấm một dòng dương cao hơn một dòng âm, rút ngẫu nhiên mỗi bên một dòng. 0,5 là đoán bừa, 1 là xếp hạng hoàn hảo. Tính tay được bằng cách đếm cặp:

python
xac_suat = [0.9, 0.8, 0.7, 0.55, 0.4, 0.3, 0.2, 0.1]
nhan = [1, 1, 0, 1, 0, 1, 0, 0]

duong = [p for p, y in zip(xac_suat, nhan) if y == 1]
am = [p for p, y in zip(xac_suat, nhan) if y == 0]
cap_dung = sum(d > a for d in duong for a in am)
print(cap_dung, len(duong) * len(am), cap_dung / (len(duong) * len(am)))

KẾT QUẢ

13 16 0.8125

13 trên 16 cặp dương–âm được xếp đúng thứ tự. AUC không phụ thuộc ngưỡng, nên nó chấm khả năng xếp hạng chứ không chấm quyết định cuối.

Ôn lại: ROC-AUC.

Dữ liệu lệch lớp thì dùng metric nào?

Không dùng accuracy một mình, vì model lười đã đạt cao, như câu baseline ở trên. Báo recall và precision của lớp hiếm, cùng PR-AUC (average precision), mà mốc đoán bừa của nó là tỉ lệ lớp dương thay cho 0,5. ROC-AUC vẫn dùng được để so model, nhưng có thể trông đẹp khi lớp dương rất hiếm.

Ôn lại: dữ liệu mất cân bằng và đường ROC và PR.

Ngưỡng và quyết định

Vì sao không luôn dùng ngưỡng 0,5?

Vì 0,5 chỉ hợp khi bỏ sót và báo nhầm tốn như nhau. Khi bỏ sót một khách rời đi tốn 500 nghìn còn gọi nhầm một khách tốn 50 nghìn, ngưỡng thấp hơn rẻ hơn:

python
xac_suat = [0.9, 0.8, 0.7, 0.55, 0.4, 0.3, 0.2, 0.1]
nhan = [1, 1, 0, 1, 0, 1, 0, 0]
gia_bo_sot, gia_bao_nham = 500, 50

for nguong in (0.5, 0.25):
    bao = [p >= nguong for p in xac_suat]
    fn = sum(not b and y == 1 for b, y in zip(bao, nhan))
    fp = sum(b and y == 0 for b, y in zip(bao, nhan))
    print(nguong, fn, fp, fn * gia_bo_sot + fp * gia_bao_nham)

KẾT QUẢ

0.5 1 1 550
0.25 0 2 100

Người phỏng vấn hay hỏi tiếp: chọn ngưỡng trên phần nào? Trên validation hay bằng cross-validation, không trên test.

Ôn lại: ngưỡng quyết định.

class_weight làm gì?

class_weight="balanced" cho lỗi trên lớp hiếm nặng hơn khi học, nên xác suất model trả ra dời lên cho lớp hiếm và recall ở ngưỡng 0,5 tăng. Nó thường không làm model xếp hạng tốt hơn nhiều (AUC ít đổi), và xác suất không còn khớp tỉ lệ thật. Dời ngưỡng là cách khác cho cùng mục đích.

Ôn lại: class_weight.

Model

Logistic regression trả xác suất bằng cách nào?

Nó nhân mỗi feature với hệ số, cộng lại thành một số, rồi đưa qua hàm sigmoid để nén về khoảng 0 tới 1:

python
import math

def sigmoid(z):
    return 1 / (1 + math.exp(-z))

for z in (-2, 0, 2):
    print(z, round(sigmoid(z), 3))

KẾT QUẢ

-2 0.119
0 0.5
2 0.881

Tổng bằng 0 cho xác suất 0,5. Hệ số của một feature là mức thay đổi của log-odds khi feature đó tăng một đơn vị.

Ôn lại: LogisticRegression và hệ số và odds.

Cây quyết định chọn chỗ chia thế nào?

Ở mỗi nút, cây thử các cột và các mốc, chọn lần chia làm hai nhánh "sạch" nhất, đo bằng Gini hay entropy. Gini của một nút có hai khách rời đi trong sáu khách:

python
nhan_nut = ["roi", "roi", "o_lai", "o_lai", "o_lai", "o_lai"]

ti_le = [nhan_nut.count(n) / len(nhan_nut) for n in set(nhan_nut)]
gini = 1 - sum(p * p for p in ti_le)
print(round(gini, 3))

KẾT QUẢ

0.444

Nút chỉ một lớp có Gini 0. Cây sâu không giới hạn sẽ chia tới khi mọi lá sạch, nên dễ overfitting.

Ôn lại: cây quyết định và Gini và entropy.

Random Forest và boosting khác nhau thế nào?

Random Forest học nhiều cây sâu song song, mỗi cây trên một mẫu bootstrap và ở mỗi lần chia chỉ xét một nhóm cột bốc ngẫu nhiên, rồi lấy trung bình: giảm phương sai. Boosting học nối tiếp nhiều cây nông, cây sau sửa phần sai của các cây trước: giảm độ chệch. Boosting thường cho điểm cao hơn trên dữ liệu bảng lớn nhưng cần chỉnh tham số kỹ hơn và dễ overfit hơn.

Ôn lại: Random Forest và boosting.

Model nào cần chuẩn hóa feature?

Model dựa vào khoảng cách hay độ lớn hệ số: KNN, SVM, logistic và hồi quy có điều chuẩn, mạng nơ-ron. Model cây (cây quyết định, rừng, boosting) không cần, vì chúng chia theo ngưỡng trên từng cột. Bộ chuẩn hóa phải fit trên train, tốt nhất đặt trong pipeline.

Ôn lại: StandardScaler.

Dự án và thực tế

Bảng có ô trống và cột chữ thì xử lý thế nào?

Điền ô trống bằng SimpleImputer (trung vị cho cột số), cân nhắc thêm cột báo thiếu khi việc thiếu tự nó mang thông tin. Cột chữ mã hóa bằng OneHotEncoder khi ít nhóm, hay mã hóa theo nhãn có tính chéo khi rất nhiều nhóm. Mọi bước gom vào một ColumnTransformer trong pipeline, để fit trên train và áp y hệt cho dữ liệu mới.

Ôn lại: ColumnTransformer và pipeline đầy đủ.

Giải thích model cho người không học kỹ thuật thế nào?

Nói theo ba ý: model đoán gì và tốt hơn cách làm hiện tại bao nhiêu (so với baseline, bằng con số kinh doanh như số khách giữ được), những yếu tố nào model dựa vào nhiều nhất (permutation importance), và một ví dụ một khách cụ thể kèm lý do. Không nói "AUC 0,79" mà không dịch ra nghĩa.

Ôn lại: permutation importance và dự án báo cáo.

Kể một dự án machine learning bạn đã làm.

Kể theo thứ tự: bài toán và label, metric và vì sao chọn nó, baseline, cách chia dữ liệu và cách chống rò, model đã thử và điểm kèm độ lệch, quyết định cuối (ngưỡng, model nào), và điều bạn sẽ làm khác. Người phỏng vấn nghe nhiều nhất ở phần chia dữ liệu và metric, vì đó là chỗ người mới hay sai. Năm phần của dự án Sóc Vàng là một khuôn để kể.

Ôn lại: dự án Sóc Vàng.

Chủ đề

câu hỏi phỏng vấn machine learning

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập