Log transform cho biến mục tiêu: log1p, expm1
Bài 8/10 · Chương 4
Hồi quy
- 9 phút
- Trung cấp
- Python 3.14
- Cập nhật
Trong bài này · 12
Log transform cho biến mục tiêu nghĩa là cho model học np.log1p(gia) thay cho giá, rồi đổi giá đoán về tỷ đồng bằng np.expm1(). Cách này hợp với target lệch phải như giá nhà, nơi vài căn đắt gấp mười căn thường. TransformedTargetRegressor của scikit-learn gói hai bước đó vào một model để không quên bước đổi ngược.
Cần biết trước: độ lệch của phân bố, hàm toán học NumPy và Ridge, Lasso.
Công thức: log1p và expm1
Biến đổi đi và về của giá y:
Trong đó:
y (
gia_ty): giá thật, tỷ đồng.z (
np.log1p(gia_ty)): giá ở thang log, thứ model học.e^z − 1 (
np.expm1(z)): đổi một giá đoán ở thang log về tỷ đồng.
Cộng 1 trước khi lấy log để y = 0 vẫn tính được (ln 1 = 0). Với giá luôn dương như ở đây, np.log và np.exp cũng dùng được, miễn là đi cùng cặp. Trên thang log, gấp đôi giá là cộng một khoảng gần cố định, nên model tuyến tính học được kiểu "thêm một tầng thì giá tăng 15%" thay cho "thêm một tầng thì giá tăng 0,9 tỷ" bất kể căn rẻ hay đắt.
Tính tay: log kéo các giá xa nhau lại gần
Bốn căn giá 1, 3, 9, 27 tỷ, mỗi căn gấp ba căn trước:
Giá y | 1 + y | z = ln(1 + y) | Khoảng cách tới căn trước |
|---|---|---|---|
1 | 2 | 0,693 | |
3 | 4 | 1,386 | 0,693 |
9 | 10 | 2,303 | 0,916 |
27 | 28 | 3,332 | 1,030 |
Trên thang tỷ đồng, khoảng cách là 2, 6, 18: căn đắt nhất bỏ xa mọi căn khác. Trên thang log, ba khoảng là 0,69; 0,92; 1,03, gần đều hơn nhiều so với thang tỷ. np.expm1 đưa z về đúng giá cũ:
import numpy as np
gia = np.array([1, 3, 9, 27])
z = np.log1p(gia)
print(z.round(3))
print(np.diff(z).round(3))
print(np.expm1(z))KẾT QUẢ
[0.693 1.386 2.303 3.332]
[0.693 0.916 1.03 ]
[ 1. 3. 9. 27.]Đổi [1, 3, 9, 27] thành [0, 1, 3, 9] rồi chạy lại: dòng đầu in [0. 0.693 1.386 2.303], giá 0 vẫn tính được.
Giá nhà lệch phải tới đâu
import pandas as pd
nha = pd.read_csv("gia_nha.csv")
print(nha["gia_ty"].describe().round(2))KẾT QUẢ
count 2500.00
mean 6.64
std 5.41
min 0.59
25% 3.16
50% 5.07
75% 8.08
max 49.68
Name: gia_ty, dtype: float64Trung bình 6,64 tỷ cao hơn trung vị 5,07 tỷ, và căn đắt nhất 49,68 tỷ gấp hơn 6 lần căn ở phần tư thứ ba: đuôi phải dài. Vẽ cùng 2.500 giá trên hai thang, cạnh nhau:
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
nha = pd.read_csv("gia_nha.csv")
fig, (trai, phai) = plt.subplots(1, 2, figsize=(6.4, 3.2), layout="constrained")
trai.hist(nha["gia_ty"], bins=40)
trai.set(title="Giá (tỷ đồng)", ylabel="Số căn")
phai.hist(np.log1p(nha["gia_ty"]), bins=40)
phai.set(title="log1p(giá)")
plt.show()Bên trái, phần lớn các cột chen ở góc trái còn đuôi chạy tới 50 tỷ. Bên phải, hai bên đỉnh gần đối xứng. Với sai số bình phương, vài chục căn trên 20 tỷ ở thang tỷ đồng có thể kéo lệch cả model; ở thang log, chúng chỉ còn là vài điểm hơi xa.
TransformedTargetRegressor so với fit trên giá thô
TransformedTargetRegressor(regressor=..., func=np.log1p, inverse_func=np.expm1) biến đổi y trước khi fit và tự đổi ngược khi predict, nên metric tính thẳng trên tỷ đồng. So Ridge trên giá thô với Ridge trên log giá bằng cross validation:
import numpy as np
import pandas as pd
from sklearn.compose import TransformedTargetRegressor
from sklearn.linear_model import Ridge
from sklearn.model_selection import KFold, cross_validate
from sklearn.pipeline import make_pipeline
from sklearn.preprocessing import StandardScaler
nha = pd.read_csv("gia_nha.csv")
X = pd.get_dummies(nha.drop(columns="gia_ty"), drop_first=True, dtype=int)
tho = make_pipeline(StandardScaler(), Ridge(alpha=1.0))
log = TransformedTargetRegressor(regressor=tho, func=np.log1p, inverse_func=np.expm1)
for ten, model in [("giá thô", tho), ("log giá", log)]:
kq = cross_validate(model, X, nha["gia_ty"], cv=KFold(5, shuffle=True, random_state=0), scoring=["r2", "neg_mean_absolute_error"])
print(ten, round(kq["test_r2"].mean(), 3), round(-kq["test_neg_mean_absolute_error"].mean(), 3))KẾT QUẢ
giá thô 0.802 1.609
log giá 0.915 0.963Cùng cột, cùng Ridge, chỉ đổi thang của target: R² cross validation từ 0,802 lên 0,915, sai trung bình mỗi căn từ 1,61 tỷ còn 0,96 tỷ. Lý do nằm ở cách giá được tạo ra: ở quận trung tâm, mỗi m² đắt hơn một tỷ lệ chứ không đắt thêm một số tỷ cố định, nên căn càng lớn thì khoản chênh càng lớn. Model trên giá thô chỉ học được một khoản cộng cố định cho quận. Ở thang log, ln(a · b) = ln a + ln b, nên một tỷ lệ đắt hơn thành đúng một khoản cộng, thứ hệ số tuyến tính biểu diễn được. Một lợi ích nữa: giá đoán sau expm1 không bao giờ âm, trong khi Ridge trên giá thô có thể đoán giá âm cho căn nhỏ ở xa trung tâm.
Kiểm tra nhanh
Sau
import numpy as np,print(np.log1p(0))in ra gì?0.0-inf1.0
Sau
import numpy as np,print(round(float(np.expm1(np.log1p(4.5))), 6))in ra gì?5.54.51.705
Những câu nào đúng về log transform cho target?
- Hợp với target dương, lệch phải, có vài giá trị rất lớn
- Giá đoán sau expm1 của một model trên log1p không bao giờ nhỏ hơn −1
- Phải tính metric trên thang log để so với model giá thô
- TransformedTargetRegressor bắt buộc phải tự gọi expm1 sau predict
Trong khung bẫy, MAE 0,118 có nghĩa là gì?
- Model sai trung bình 118 triệu đồng mỗi căn
- Model sai trung bình 0,118 đơn vị log, khoảng 12% giá mỗi căn
- Model tốt hơn baseline 0,118 tỷ
Bài tập
MAE bằng tỷ đồng của model học trên log giá
nha_train và nha_test là hai DataFrame có cột gia_ty và các cột số, cac_cot là list tên cột feature. Viết thân hàm mae_tren_log(nha_train, nha_test, cac_cot): fit một LinearRegression đoán np.log1p(gia_ty) từ cac_cot trên nha_train, đoán cho nha_test, đổi giá đoán về tỷ đồng bằng np.expm1, rồi tính MAE so với gia_ty của nha_test.
Hàm không sửa hai bảng của nơi gọi.
Trả về: MAE tính bằng tỷ đồng, một float.
Ví dụ: nha_train có ba căn 50, 60, 80 m² với giá đúng bằng np.expm1(0.03 * dien_tich_m2), nên model học khớp hoàn toàn; nha_test có hai căn 70 và 90 m² với giá thật lệch khỏi công thức đó +0,5 tỷ và −1,0 tỷ. Với cac_cot = ["dien_tich_m2"], kết quả là 0.75.
import numpy as np
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_absolute_error
def mae_tren_log(nha_train, nha_test, cac_cot):
pass # Viết thân hàm thay cho dòng nàyTóm tắt
Target dương, lệch phải như giá nhà thường được model tuyến tính học tốt hơn ở thang log.
np.log1p(y)= ln(1 + y) đưa giá sang thang log;np.expm1(z)= e^z − 1 đưa về, hai hàm là phép ngược của nhau.Ở thang log, một tỷ lệ như "đắt hơn 15%" thành một khoản cộng, thứ hệ số tuyến tính biểu diễn được.
TransformedTargetRegressor(regressor=..., func=np.log1p, inverse_func=np.expm1)tự đổi ngược khi predict.Metric phải tính trên đơn vị gốc; MAE trên thang log không phải tỷ đồng.
Câu hỏi thường gặp
Khi nào nên log transform biến mục tiêu?
Khi target luôn dương, lệch phải rõ (độ lệch trên khoảng 1), và sai số tự nhiên tỉ lệ với độ lớn: căn 30 tỷ sai 3 tỷ cũng bình thường như căn 3 tỷ sai 300 triệu. Giá, doanh thu, thu nhập thường như vậy. Target có giá trị âm thì log1p không dùng được.
Dùng np.log hay np.log1p?
Với giá luôn lớn hơn 0, cả hai đều được nếu đi đúng cặp: np.log với np.exp, np.log1p với np.expm1. log1p an toàn hơn khi target có số 0, như số lượt mua hay số ngày nghỉ.
Log transform có làm thay đổi metric nên tối ưu không?
Có. Fit trên log nghĩa là model giảm sai số tương đối, nên căn rẻ được đoán sát hơn và căn rất đắt có thể bị đoán hơi thấp. Nếu mục tiêu là sai số tuyệt đối thấp trên căn đắt, hãy so cả hai cách bằng MAE trên tỷ đồng như bài làm.
Có cần log cả các feature không?
Không bắt buộc. Feature lệch phải như diện tích hay thu nhập đôi khi cũng nên log, nhưng đó là quyết định riêng, chấm bằng cross validation; bài này chỉ đổi thang của target.
Chủ đề
Dữ liệu của bài
- Tải xuống
gia_nha.csv
CSV · 155.53 KB
Bài này có hữu ích?
Hỏi đáp
Tham vấn chuyên môn
Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE
- Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
- Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
- Xây hệ thống AI cho doanh nghiệp tại VietPlatform.