Bỏ qua đến nội dung chính
Mục lục

Elbow method và silhouette score: chọn số cụm K

AIDev Team · duyệt: Nguyễn Việt Chung

Bài 2/7 · Chương 8

Học không giám sát

  • 10 phút
  • Trung cấp
  • Python 3.14
  • Cập nhật

Silhouette score cho mỗi điểm một số từ −1 tới 1: lấy khoảng cách trung bình tới cụm gần bên cạnh trừ khoảng cách trung bình tới chính cụm của nó, rồi chia cho số lớn hơn trong hai số đó. Điểm của cả cách chia là trung bình các số này, và K nào cho trung bình cao hơn thì các cụm tách nhau rõ hơn. Elbow method nhìn cách khác: vẽ inertia theo K và tìm chỗ đường cong gãy.

Cần biết trước: K-means, vòng lặp for và biểu đồ đường.

Silhouette score là gì và tính thế nào

Với điểm thứ i, lấy trung bình khoảng cách từ nó tới các điểm cùng cụm (a), và trung bình khoảng cách từ nó tới từng cụm khác rồi giữ cụm cho số nhỏ nhất (b):

si=bi−aimax(ai,bi)s_i = \frac{b_i - a_i}{\text{max}(a_i, b_i)}

Trong đó:

  • a_i: khoảng cách trung bình từ điểm i tới các điểm khác trong cụm của nó.

  • b_i: khoảng cách trung bình từ điểm i tới các điểm của cụm bên cạnh gần nhất.

  • s_i: gần 1 khi điểm nằm sâu trong cụm, quanh 0 khi nằm ở ranh giới, âm khi điểm gần cụm khác hơn cụm của mình.

  • silhouette_score(): trung bình s_i trên mọi điểm.

Sáu khách, mỗi khách một số: số đơn trong 12 tháng là 1, 2, 3, 8, 9, 15, chia thành hai cụm {1, 2, 3} và {8, 9, 15}. Tính tay cho khách 8 đơn: a = (1 + 7) / 2 = 4, b = (7 + 6 + 5) / 3 = 6, nên s = (6 − 4) / 6 ≈ 0,333. Khách này nằm gần mép cụm vì khách 15 đơn kéo trung bình cụm ra xa. Khối dưới tính s cho cả sáu khách bằng NumPy rồi so với scikit-learn:

python
import numpy as np
from sklearn.metrics import silhouette_score

x = np.array([1, 2, 3, 8, 9, 15])
nhan = np.array([0, 0, 0, 1, 1, 1])
d = np.abs(x[:, None] - x[None, :])
s = []
for i in range(len(x)):
    cung = (nhan == nhan[i]) & (np.arange(len(x)) != i)
    a = d[i, cung].mean()
    b = d[i, nhan != nhan[i]].mean()
    s.append((b - a) / max(a, b))
print(np.round(s, 3))
print("trung bình:", round(np.mean(s), 3))
print("sklearn:   ", round(silhouette_score(x[:, None], nhan), 3))

KẾT QUẢ

[0.845 0.885 0.804 0.333 0.5   0.5  ]
trung bình: 0.645
sklearn:    0.645

Hai con số trùng nhau. Đổi 15 thành 10 rồi chạy lại: khách 8 đơn giữ b nhưng có a nhỏ đi, và dòng trung bình in 0.807.

Elbow method là gì: inertia theo K

Inertia là tổng bình phương khoảng cách tới tâm cụm. Thêm một tâm thì nghiệm tốt nhất không thể tệ hơn, vì không điểm nào phải đi xa hơn; K-means chỉ tìm nghiệm tốt cục bộ, nên đường đo được có thể nhích lên, nhưng gần như luôn đi xuống. Vậy không thể chọn K có inertia nhỏ nhất. Elbow method tìm chỗ mà thêm một cụm chỉ còn bớt được ít inertia, tức chỗ đường cong gãy như khuỷu tay. Khối dưới chạy K từ 2 tới 7 trên bảng chi_tieu_khach_hang.csv (số giả lập của AIDev, 1.500 khách của chuỗi Sóc Nhanh), đã log bốn cột lệch phải và scale như bài trước:

python
import numpy as np
import pandas as pd
from sklearn.cluster import KMeans
from sklearn.metrics import silhouette_score
from sklearn.preprocessing import StandardScaler

kh = pd.read_csv("chi_tieu_khach_hang.csv").drop(columns="ma_kh")
kh[kh.columns[:4]] = np.log1p(kh[kh.columns[:4]])
Z = StandardScaler().fit_transform(kh)
for k in range(2, 8):
    km = KMeans(n_clusters=k, n_init=10, random_state=0).fit(Z)
    s = silhouette_score(Z, km.labels_, sample_size=500,
                         random_state=0)
    nho = np.bincount(km.labels_).min() / len(Z)
    print(k, round(km.inertia_), round(s, 3), f"{nho:.1%}")

KẾT QUẢ

2 5263 0.462 19.4%
3 2909 0.477 19.3%
4 2404 0.387 19.2%
5 2119 0.368 5.6%
6 1929 0.341 1.7%
7 1757 0.334 1.7%

Ba cột in ra là inertia, silhouette và tỉ lệ khách của cụm nhỏ nhất. Inertia giảm mạnh từ K = 2 sang 3 (bớt 2.354), rồi chỉ còn bớt 505 từ 3 sang 4 và ít hơn nữa sau đó, nên khuỷu nằm ở K = 3. Silhouette cũng cao nhất ở K = 3. Hình dưới vẽ lại các số vừa in thành hai đường cạnh nhau:

python
import matplotlib.pyplot as plt

cac_k = [2, 3, 4, 5, 6, 7]
inertia = [5263, 2909, 2404, 2119, 1929, 1757]
sil = [0.462, 0.477, 0.387, 0.368, 0.341, 0.334]
fig, (ax1, ax2) = plt.subplots(1, 2, figsize=(8, 3.2),
                               layout="constrained")
ax1.plot(cac_k, inertia, marker="o")
ax1.set(title="Elbow: inertia theo K", xlabel="K", ylabel="inertia")
ax2.plot(cac_k, sil, marker="o", color="C1")
ax2.set(title="Silhouette theo K", xlabel="K", ylabel="silhouette")
plt.show()
Hai biểu đồ đường theo K từ 2 tới 7: inertia giảm dốc từ khoảng 5.300 xuống 2.900 ở K bằng 3 rồi thoải dần; silhouette cao nhất khoảng 0,48 ở K bằng 3 rồi giảm còn khoảng 0,33.

sample_size: tính silhouette trên một mẫu

Silhouette cần khoảng cách giữa mọi cặp điểm: 1.500 khách là hơn một triệu cặp, mười nghìn khách là năm mươi triệu. sample_size=500 chỉ lấy ngẫu nhiên 500 điểm để tính, nhanh hơn nhiều mà số vẫn sát số tính trên đủ bảng.

Chọn K bằng chỉ số và nghiệp vụ

Silhouette cao không chứng minh dữ liệu có nhóm thật. Khối dưới rải đều 300 điểm trong một hình vuông, không có nhóm nào, rồi vẫn phân cụm:

python
import numpy as np
from sklearn.cluster import KMeans
from sklearn.metrics import silhouette_score

deu = np.random.default_rng(3).uniform(size=(300, 2))
for k in range(2, 6):
    nhan = KMeans(k, n_init=10, random_state=0).fit_predict(deu)
    print(k, round(silhouette_score(deu, nhan), 3))

KẾT QUẢ

2 0.353
3 0.378
4 0.411
5 0.385

Bảng không có cấu trúc mà silhouette ở K = 4 vẫn cao hơn 0,379 của bảng khách hàng với K = 4. Vậy chỉ số chỉ giúp so các K trên cùng một bảng, còn quyết định cuối nhìn vào việc các cụm sẽ được dùng ra sao. Hai câu hỏi hay gặp:

  • Cụm nhỏ nhất có đủ khách để làm gì riêng không? Ở bảng trên, từ K = 5 có cụm chỉ 5,6% và từ K = 6 chỉ 1,7%: đó là nhóm khách mua sỉ, tách riêng thì đúng về số nhưng quá ít để mở một chương trình.

  • Có cụm nào gộp hai kiểu khách cần đối xử khác nhau không? Với K = 3, một cụm có trung vị 96 ngày chưa quay lại, nhưng K = 4 tách nó thành nhóm 69 ngày và nhóm 194 ngày. Nhắc khách vắng hai tháng và kéo lại khách mất nửa năm là hai việc khác nhau.

Vì vậy, dù silhouette chọn 3, cách chia 4 cụm vẫn có thể là lựa chọn tốt hơn cho người làm marketing. Ghi lại lý do cùng con số để người sau hiểu vì sao không lấy K có silhouette cao nhất.

Kiểm tra nhanh

  1. Với sáu khách 1, 2, 3, 8, 9, 15 đơn chia thành hai cụm {1, 2, 3} và {8, 9, 15}, silhouette của khách 15 đơn bằng bao nhiêu?

    • Khoảng 0,5
    • Khoảng 0,33
    • Khoảng 0,85
    • Đúng 1
  2. Vì sao không chọn K có inertia nhỏ nhất?

    • Vì inertia nhỏ nghĩa là các cụm chồng lên nhau
    • Vì inertia gần như luôn đi xuống khi K tăng, nên K lớn nhất trong danh sách gần như luôn thắng
    • Vì inertia chỉ tính được khi đã scale dữ liệu
  3. Những câu nào đúng về silhouette_score(Z, nhan, sample_size=500, random_state=0)?

    • Chỉ dùng 500 điểm lấy ngẫu nhiên để tính
    • Chạy lại cho cùng một số vì random_state cố định mẫu
    • Phân cụm lại 500 điểm rồi mới tính
    • Trả về một mảng 500 số
  4. Trên bảng khách, silhouette cao nhất ở K = 3 nhưng K = 4 tách cụm 96 ngày thành 69 ngày và 194 ngày. Cách làm nào hợp lý nhất?

    • Luôn lấy K = 3 vì chỉ số là khách quan
    • Lấy K = 7 để có nhiều phân khúc nhất
    • Cân nhắc K = 4 vì hai nhóm mới cần hai cách xử lý khác nhau, và ghi lại lý do cùng con số
Đúng hết lần đầu +15 XP

Bài tập

Chọn K có điều kiện cỡ cụm

Z là mảng NumPy đã scale, cac_k là list các giá trị K cần thử (đều từ 2 trở lên), ti_le_toi_thieu là tỉ lệ khách tối thiểu của cụm nhỏ nhất, từ 0 tới 1. Viết thân hàm chon_k(Z, cac_k, ti_le_toi_thieu):

  • với mỗi K, phân cụm bằng KMeans(n_clusters=k, n_init=3, random_state=0) (ba lần chạy cho bảng nhỏ của bài này);

  • bỏ K nếu cụm nhỏ nhất có tỉ lệ khách dưới ti_le_toi_thieu (bằng thì vẫn giữ);

  • trong các K còn lại, chọn K có silhouette_score() cao nhất, tính trên đủ Z.

Đề bảo đảm có ít nhất một K được giữ.

Trả về: K được chọn, một int.

Ví dụ: với một bảng 51 điểm có ba đám 16 điểm và một đám 3 điểm, cac_k = [2, 3, 4, 5, 6], ngưỡng 0,1 cho 3, còn ngưỡng 0,05 cho 4.

python
import numpy as np
from sklearn.cluster import KMeans
from sklearn.metrics import silhouette_score

def chon_k(Z, cac_k, ti_le_toi_thieu):
    pass  # Viết thân hàm thay cho dòng này

Tóm tắt

  • Silhouette của một điểm là (b − a) / max(a, b): a đo độ gần với cụm của mình, b đo độ gần với cụm hàng xóm.

  • silhouette_score() lấy trung bình trên mọi điểm; cao hơn nghĩa là các cụm tách nhau rõ hơn, và cần ít nhất hai cụm.

  • Elbow method vẽ inertia theo K và tìm chỗ gãy, vì thêm cụm thì inertia gần như chỉ đi xuống.

  • sample_size= cho silhouette nhanh trên bảng lớn; luôn đi kèm random_state.

  • Dữ liệu rải đều vẫn cho silhouette quanh 0,4, nên chỉ số chỉ dùng để so các K trên cùng bảng.

  • Chọn K cuối cùng bằng cả chỉ số lẫn câu hỏi nghiệp vụ: cỡ cụm nhỏ nhất, cụm nào gộp hai kiểu khách khác nhau.

Câu hỏi thường gặp

Silhouette score bao nhiêu là tốt?

Không có ngưỡng chung. Trên bảng khách ở bài này, K = 3 cho khoảng 0,48; ba đám điểm tách hẳn nhau có thể lên 0,7 tới 0,8; còn điểm rải đều vẫn được khoảng 0,35 tới 0,41. So silhouette giữa các K trên cùng một bảng, đừng so giữa hai bảng khác nhau.

Elbow method và silhouette chọn hai K khác nhau thì sao?

Chuyện này hay xảy ra vì khuỷu của đường inertia thường mờ. Xem cả hai như gợi ý một khoảng K, rồi chạy K-means với từng K trong khoảng, đọc trung vị các cột của từng cụm và chọn cách chia mà người dùng kết quả hiểu và làm được việc với nó.

Có cách nào khác để chọn số cụm?

Có: chỉ số Davies–Bouldin, Calinski–Harabasz, hoặc chạy lại phân cụm trên các nửa bảng khác nhau và xem các cụm có giữ nguyên không. Bài phân cụm phân cấp cho thêm một cách nhìn: cắt cây ở chỗ hai lần gộp cách nhau xa nhất.

Chủ đề

silhouette score

Dữ liệu của bài

Bài này có hữu ích?

Hỏi đáp

Đang tải câu hỏi…

Tham vấn chuyên môn

Nguyễn Việt Chung

Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE

  • Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
  • Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
  • Xây hệ thống AI cho doanh nghiệp tại VietPlatform.
Biên soạn: AIDev Team · Rà soát · Quy trình biên tập