Bỏ qua đến nội dung chính
Mục lục

Bài tập hồi quy tuyến tính, đa thức, Ridge và Lasso

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 9/10 · Chương 4

Hồi quy

  • 7 phút
  • Trung cấp
  • Python 3.14
  • Cập nhật

Sáu bài tập hồi quy tuyến tính dưới đây được chấm tự động ngay trên trang: mỗi bài bạn viết thân một hàm Python, bấm Chạy, và từng dòng kiểm tra báo đạt hay chưa. Các bài đi qua cả chương: gradient descent, mã hóa cột chữ, log giá, đọc hệ số của từng nhóm, Ridge và hồi quy đa thức chấm bằng cross validation.

Cần biết trước: hồi quy tuyến tính, linear regression trong sklearn và Ridge, Lasso.

Cách làm các bài tập

Mỗi bài cho sẵn các dòng import và dòng def với thân là pass. Bạn thay pass bằng thân hàm. Trình chấm không đọc những gì bạn in ra: nó gọi hàm với nhiều bảng khác nhau rồi so giá trị trả về, nên hàm phải return. Số thực được so gần đúng, nên đừng làm tròn.

Mỗi hàm có từ ba tới năm dòng kiểm tra: ví dụ trong đề, vài trường hợp dễ sai và một dòng kiểm hàm không sửa dữ liệu của nơi gọi. Dòng cuối gọi hàm trên tối đa 12 mẫu ngẫu nhiên có hạt giống, lấy từ gia_nha.csv (2.500 căn nhà giả lập ở TP. Hồ Chí Minh) hay thoi_gian_giao_hang.csv (3.000 đơn giao hàng giả lập), rồi so với một cách tính khác. Bí thì mở gợi ý theo thứ tự: gợi ý một chỉ chỗ cần nhìn, gợi ý hai nêu cách làm, gợi ý ba gần như là lời giải.

Mức dễ: một bước gradient descent và đếm cột one-hot

Hai bài đầu chưa cần fit model: một bài tính bằng công thức, một bài chuẩn bị bảng.

Một bước gradient descent

x, y là hai list số cùng độ dài, w, b là hệ số hiện tại của đường ŷ = w·x + b, lr là learning rate. Viết thân hàm mot_buoc_gd(x, y, w, b, lr): tính hai gradient của MSE, g_w = (2/n) · Σ (ŷ − y)·x và g_b = (2/n) · Σ (ŷ − y), từ w, b hiện tại, rồi cập nhật cả hai cùng lúc.

Hàm không sửa hai list của nơi gọi.

Trả về: w mới rồi b mới, một tuple hai số.

Ví dụ mot_buoc_gd([1, 2, 3, 4, 5], [12, 15, 21, 23, 29], 0.0, 0.0, 0.01) cho khoảng (1.368, 0.4). Ôn lại: gradient descent.

python
def mot_buoc_gd(x, y, w, b, lr):
    pass  # Viết thân hàm thay cho dòng này

Đếm số cột sau get_dummies

bang là một DataFrame, cac_cot_nhom là list tên các cột chữ của nó. Viết thân hàm dem_cot_one_hot(bang, cac_cot_nhom): đếm số cột của bảng sau pd.get_dummies(bang, columns=cac_cot_nhom, drop_first=True), tính cả các cột không mã hóa.

Hàm không sửa bang của nơi gọi.

Trả về: số cột, một int.

Ví dụ với cả bảng giá nhà và ["loai_nha"]: 9 cột không mã hóa cộng 2 cột của loại nhà, kết quả là 11. Ôn lại: pd.get_dummies.

python
import pandas as pd

def dem_cot_one_hot(bang, cac_cot_nhom):
    pass  # Viết thân hàm thay cho dòng này

Mức vừa: log giá và hệ số của từng nhóm

Hai bài này fit LinearRegression thật: một bài trên log giá, một bài đọc hệ số của các cột 0/1.

Đoán giá một căn bằng model học trên log giá

nha là một DataFrame có cột gia_ty và các cột số, can_moi là một dict có khóa là tên cột và giá trị là số đo của một căn mới, cac_cot là list tên cột feature. Viết thân hàm gia_doan_log(nha, can_moi, cac_cot): fit LinearRegression đoán np.log1p(gia_ty) từ cac_cot trên cả nha, đoán cho căn mới, rồi đổi về tỷ đồng bằng np.expm1.

Hàm không sửa bảng nha của nơi gọi.

Trả về: giá đoán bằng tỷ đồng, một float.

Ví dụ với cả bảng giá nhà, can_moi = {"dien_tich_m2": 70} và cac_cot = ["dien_tich_m2"], kết quả là khoảng 4.93. Giá đổi về bằng expm1 gần giá trung vị của các căn cùng số đo hơn là giá trung bình của chúng; bài ôn lại có khung bẫy về chuyện này. Ôn lại: log transform cho target.

python
import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression

def gia_doan_log(nha, can_moi, cac_cot):
    pass  # Viết thân hàm thay cho dòng này

Nhóm đắt nhất khi giữ diện tích cố định

nha là một DataFrame có các cột dien_tich_m2, gia_ty và một cột chữ tên cot_nhom. Viết thân hàm nhom_dat_nhat(nha, cot_nhom): mã hóa cot_nhom bằng pd.get_dummies(..., drop_first=True, dtype=int), fit LinearRegression đoán gia_ty từ dien_tich_m2 và các cột 0/1, rồi tìm nhóm có giá đoán cao nhất khi cùng diện tích. Nhóm bị bỏ (nhóm đầu theo thứ tự) là mốc với hệ số 0; mỗi nhóm khác có hệ số của cột 0/1 của nó.

Hàm không sửa bảng nha của nơi gọi.

Trả về: tên nhóm, một str.

Ví dụ với cả bảng giá nhà và "loai_nha", kết quả là "Nhà phố". Ôn lại: pd.get_dummies.

python
import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression

def nhom_dat_nhat(nha, cot_nhom):
    pass  # Viết thân hàm thay cho dòng này

Mức khó: Ridge và hồi quy đa thức chấm bằng cross validation

Hai bài cuối cần pipeline: chuẩn hóa trước Ridge, và PolynomialFeatures trước LinearRegression trong cross validation.

Độ lớn hệ số Ridge theo alpha

X là một DataFrame các cột số, y là một Series, cac_alpha là list các giá trị alpha. Viết thân hàm do_lon_he_so_ridge(X, y, cac_alpha): với mỗi alpha theo đúng thứ tự, fit pipeline StandardScaler rồi Ridge(alpha=alpha) và tính độ dài của vector hệ số, √(Σ w²), bằng np.linalg.norm.

Hàm không sửa X, y hay cac_alpha của nơi gọi.

Trả về: độ dài hệ số ứng với từng alpha, một list số float.

Ví dụ với ba cột diện tích, số phòng ngủ, số tầng của bảng giá nhà và cac_alpha = [1, 100, 10000], kết quả là khoảng [3.141, 3.032, 0.830]. Ôn lại: Ridge, Lasso.

python
import numpy as np
from sklearn.linear_model import Ridge
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler

def do_lon_he_so_ridge(X, y, cac_alpha):
    pass  # Viết thân hàm thay cho dòng này

R² cross validation của hồi quy đa thức

don là một DataFrame giao hàng có cột thoi_gian_giao_phut, cac_cot là list tên cột feature số, bac là bậc đa thức. Viết thân hàm r2_cv_da_thuc(don, cac_cot, bac): dựng pipeline PolynomialFeatures(bac, include_bias=False) rồi LinearRegression, chấm bằng cross_val_score với cv=KFold(5, shuffle=True, random_state=0), và lấy trung bình năm điểm R².

Hàm không sửa bảng don của nơi gọi.

Trả về: R² cross validation trung bình, một float.

Ví dụ với cả bảng giao hàng, cac_cot = ["khoang_cach_km"] và bac = 1, kết quả là khoảng 0.543. Ôn lại: PolynomialFeatures.

python
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import KFold, cross_val_score
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import PolynomialFeatures

def r2_cv_da_thuc(don, cac_cot, bac):
    pass  # Viết thân hàm thay cho dòng này

Câu hỏi thường gặp

Bài tập hồi quy tuyến tính có lời giải xem ở đâu?

Mỗi bài có lời giải mẫu, mở sau khi bạn đã chạy thử. Lời giải chỉ là một cách đúng: trình chấm so giá trị trả về, nên cách viết khác vẫn đạt nếu ra cùng kết quả trên mọi dòng kiểm tra.

Vì sao bài nhóm đắt nhất phải giữ diện tích cố định?

Vì nhóm có giá trung bình cao có thể chỉ là nhóm có nhà rộng hơn. Dòng kiểm tra thứ tư có đúng trường hợp đó: nhóm P đắt hơn tính trung bình, nhưng cùng diện tích thì nhóm Q đắt hơn. Bài hồi quy đa biến giải thích cách đọc hệ số khi các feature khác giữ nguyên.

Ở bài Ridge, vì sao dòng kiểm tra thứ ba đưa alpha lộn thứ tự?

Với Ridge, độ dài hệ số giảm khi alpha tăng: ở dòng đó, alpha 1, 10, 100 cho 3,690; 3,677; 3,555. Lưới được đưa vào theo thứ tự 100, 1, 10 để bắt lời giải tự sắp xếp alpha trước khi lặp; kết quả phải theo đúng thứ tự của cac_alpha.

Có nên học thuộc các giá trị như R² 0,543 không?

Không cần. Các con số chỉ để trình chấm so; điều đáng nhớ là cách dựng pipeline, cách chia KFold có hạt giống và việc so model bằng điểm trên phần giữ lại, không bằng điểm train.

Chủ đề

bài tập hồi quy tuyến tính

Dữ liệu của bài

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập