
VPS GPU: khi nào cần, khi nào VPS thường là đủ?
AIDev TeamTham vấn chuyên môn: Nguyễn Việt Chung
Đăng 10 phút đọc
Mục lục · 16
VPS thường chỉ có CPU, thuê theo tháng; máy GPU thuê theo giờ và đắt hơn nhiều. Mình chạy cùng hai việc AI hay gặp, chép lời 10 phút tiếng Việt bằng Whisper và viết email bằng một LLM 3B, trên VPS 2 vCPU và trên RTX 3090, đo thời gian, độ chính xác và quy ra tiền để biết lúc nào thật sự cần GPU.
VPS GPU là máy chủ ảo có gắn card đồ họa (GPU), dùng cho việc AI cần tính song song như chép lời, chạy LLM (mô hình ngôn ngữ lớn), tạo ảnh. Bạn cần GPU khi việc AI phải xong ngay (chat với khách, xử lý theo yêu cầu) hoặc khi khối lượng việc lớn. Việc nhỏ chạy nền, chờ được vài phút thì VPS chỉ có CPU vẫn làm được, rẻ hơn nhiều.
Ngày 08/11/2026 mình chạy cùng hai việc trên một VPS NAT 2 vCPU (nhân CPU ảo), 4GB và trên một máy RTX 3090 thuê theo giờ:
Chép lời 10 phút tiếng Việt bằng Whisper large-v3-turbo (model chép lời của OpenAI): VPS mất 466 giây (7 phút 46 giây), 3090 mất 11,2 giây. Độ chính xác chênh không nhiều: sai 12,9% so với 10,7% số từ.
LLM llama3.2:3b viết một email khoảng 300 token (token là mẩu chữ model đọc và sinh ra, thường ngắn hơn một từ): VPS 6,9 token/giây, mất 42 đến 45 giây; 3090 246 token/giây, khoảng 1,2 giây.
Tiền: VPS 145.000đ cho cả tháng; 3090 15.000đ mỗi giờ. Phiên GPU của mình kéo dài 25 phút, tính tròn một giờ là 15.000đ, trong đó phần chạy trên GPU chỉ khoảng 2,6 phút.
VPS GPU khác VPS thường thế nào?
VPS thường (CPU) | VPS GPU / máy GPU thuê | |
|---|---|---|
Phần cứng tính toán | vài vCPU | CPU + một card GPU (ví dụ RTX 3090 24GB VRAM) |
Cách thuê hay gặp | theo tháng | theo giờ, bật khi cần, trả khi xong |
Giá ở AIDev Cloud (08/11/2026) | 145.000đ/tháng cho 2 vCPU, 4GB | 15.000đ/giờ cho RTX 3090 |
Hợp với | web, bot, n8n, cơ sở dữ liệu, chạy 24/7 | chép lời, LLM, tạo ảnh, video, fine-tune (huấn luyện thêm model) |
GPU có hàng nghìn nhân nhỏ làm phép nhân ma trận cùng lúc, đúng loại phép tính mà model AI dùng. CPU có ít nhân hơn nhiều nên chạy cùng model chậm hơn hàng chục lần. Card GPU còn có bộ nhớ riêng (VRAM); model phải nằm vừa trong VRAM thì mới chạy nhanh. Cách tính VRAM cần cho từng model có ở bài VRAM là gì, bao nhiêu là đủ.
Mình đo thế nào?
Hai máy chạy cùng một script:
VPS NAT Small: 2 vCPU Xeon E5-2696 v4, 4GB RAM, Ubuntu 24.04. Trước khi đo mình dừng các dịch vụ khác trên máy. Cách thuê VPS loại này có ở bài VPS là gì.
Máy RTX 3090 24GB của AIDev Cloud thuê theo giờ, image (bản hệ điều hành dựng sẵn) "Ubuntu 24.04 AI" có sẵn driver, CUDA 12.9 và cuDNN 9 (thư viện để chạy AI trên card NVIDIA).
Việc 1: chép một file 608 giây ghép từ 45 câu tiếng Việt khác nhau của bộ FLEURS (có sẵn lời gốc để chấm), bằng faster-whisper 1.2.1. CPU chạy kiểu int8 (weights nén về số nguyên 8 bit cho nhẹ), GPU chạy float16 (số thực 16 bit, kiểu chuẩn trên GPU). Độ chính xác tính bằng WER (tỉ lệ từ sai so với lời gốc). Cách dựng file và so sáu model Whisper có ở bài Whisper AI tiếng Việt chạy local.
from faster_whisper import WhisperModel
model = WhisperModel("large-v3-turbo", device="cpu", compute_type="int8") # GPU: device="cuda", compute_type="float16"
segs, info = model.transcribe("10phut.wav", language="vi", beam_size=5, condition_on_previous_text=False)
text = " ".join(s.text for s in segs)
Việc 2: hỏi llama3.2:3b (model 3 tỉ tham số của Meta, bản tải về 2GB) qua Ollama 0.40.15 (công cụ chạy LLM trên máy) cùng một yêu cầu viết email xin lỗi khách vì giao gạo trễ, 3 lượt, đọc tốc độ sinh chữ từ --verbose:
curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.2:3b
ollama run llama3.2:3b --verbose "Viết email ngắn bằng tiếng Việt báo khách hàng rằng đơn hàng gạo ST25 sẽ giao trễ 2 ngày vì mưa lớn, xin lỗi và tặng mã giảm giá 5%."
Chép lời bằng Whisper: CPU chậm hơn GPU bao nhiêu?

Trên VPS 2 vCPU, model nhỏ (small) chép nhanh gấp 3,3 lần thời gian thực nhưng sai gần một phần tư số từ. Model turbo đúng hơn hẳn nhưng chỉ nhanh gấp 1,3 lần thời gian thực: 10 phút ghi âm cần gần 8 phút.

Trên 3090, turbo chép 10 phút trong 11,2 giây, nhanh gấp 54 lần thời gian thực, mà lại đúng nhất (sai 10,7%). Lạ là turbo còn nhanh hơn small trên GPU: phần sinh chữ của turbo chỉ có 4 lớp, nên khi có GPU thì nó gần như không tốn thời gian.

Cùng máy 3090 nhưng tắt GPU, chạy trên 25 vCPU, turbo mất 291,9 giây, chỉ nhanh hơn VPS 2 vCPU chưa tới hai lần. Mình để faster-whisper tự chọn số luồng CPU nên nó không dùng hết 25 nhân; dù vậy, khoảng cách tới GPU vẫn là hàng chục lần.
Chép 10 phút tiếng Việt | VPS 2 vCPU | RTX 3090 |
|---|---|---|
small | 183,3 giây, sai 23,9% | 15,8 giây, sai 24,2% |
large-v3-turbo | 465,6 giây, sai 12,9% | 11,2 giây, sai 10,7% |
Nạp model turbo | 5,3 giây | 21,0 giây |
RAM cao nhất (turbo) | 2,16GB | 1,97GB RAM, phần chính nằm trong VRAM |
LLM 3B trên VPS chạy được không?
Chạy được, nhưng chậm. llama3.2:3b trên VPS 2 vCPU sinh 6,56 đến 6,94 token mỗi giây, một email 241 đến 309 token mất 42 đến 45 giây. Model chiếm 2,6GB RAM, gần hết phần trống của máy 4GB.

Trên 3090, cùng câu hỏi ra câu trả lời trong khoảng 1,2 giây, 242 đến 246 token mỗi giây. Lượt đầu mất 95,8 giây trên một máy vừa tạo: 52,9 giây là nạp model từ ổ vào card, phần lớn thời gian còn lại là bước đọc câu hỏi, vốn rất chậm ở lượt đầu. Từ lượt thứ hai thì gần như tức thì. Khi có GPU, Ollama tự dùng context (số token model nhìn được trong một lần hỏi) 32.768 token thay vì 4.096 như trên VPS, VRAM dùng 6.020MiB.


Bốn mươi giây cho một email là quá lâu nếu khách đang chờ trong khung chat. Nhưng nếu đó là việc chạy nền, ví dụ n8n tóm tắt 50 đơn hàng mỗi đêm, thì 50 lần 45 giây là khoảng 38 phút, VPS vẫn làm xong trước sáng. Câu trả lời của model 3B bằng tiếng Việt dùng được cho bản nháp, nhưng chưa nên gửi thẳng cho khách mà không đọc lại.
Quy ra tiền: thuê GPU theo giờ hay để VPS chạy?
VPS NAT Small | RTX 3090 theo giờ | |
|---|---|---|
Giá | 145.000đ/tháng, chạy 24/7 | 15.000đ/giờ |
Chép lời turbo trong 1 giờ chạy liên tục | khoảng 78 phút ghi âm | khoảng 54 giờ ghi âm (chưa tính nạp model) |
LLM 3B trong 1 giờ chạy liên tục | khoảng 80 email | vài nghìn email |
Hợp với | việc nhỏ, đều, chờ được | việc dồn một lúc hoặc cần trả lời ngay |
Con số "1 giờ chạy liên tục" là tính từ tốc độ đo được, máy không bị việc khác chen. Thực tế, phiên GPU của mình kéo dài 25 phút (từ 14:20:47 tới 14:46:03 giờ UTC). Máy sẵn sàng sau 94 giây; phần lớn thời gian còn lại là cài thư viện, tải dữ liệu, tải model. AIDev Cloud làm tròn giờ lẻ lên một giờ, nên phiên này tính 15.000đ. Phần chạy trên GPU của cả Whisper lẫn LLM, tính cả nạp model, cộng lại khoảng 2,6 phút; thêm 6,6 phút mình chạy Whisper bằng CPU của chính máy đó để so. Nếu chỉ chép vài file mỗi tuần, thuê GPU từng lần vẫn ổn, nhưng nên gom việc lại chạy một lần để giờ thuê không tốn vào việc cài đặt. Bảng giá từng loại card có ở bài giá thuê GPU theo giờ.
Khi nào cần VPS GPU, khi nào VPS thường là đủ?
Cần GPU khi:
Người dùng đang chờ câu trả lời: chatbot dùng LLM, chép lời cuộc gọi ngay khi gọi xong, tạo ảnh theo yêu cầu.
Khối lượng lớn: hàng chục giờ ghi âm, hàng nghìn tài liệu cần tóm tắt.
Model lớn hơn RAM của VPS: LLM từ 7B trở lên, model tạo ảnh, video.
VPS thường là đủ khi:
Việc chạy nền, chờ được: chép vài file ghi âm mỗi ngày, tóm tắt đơn hàng ban đêm.
Model nhỏ: Whisper small, turbo, LLM 1B đến 3B, model phân loại văn bản.
Bạn đã gọi API của dịch vụ AI bên ngoài: phần nặng chạy ở bên họ, VPS chỉ gửi yêu cầu và nhận kết quả. Bot hay n8n gọi API thì VPS 1 đến 2GB là đủ, xem bảng RAM ở bài chọn cấu hình VPS giá rẻ.
Lỗi mình gặp khi đo
Lỗi đầu tiên đến từ thư viện. Lúc cài, PyAV (thư viện đọc file âm thanh mà faster-whisper dùng) lên bản 19.0.2, và faster-whisper 1.2.1 gọi một tham số mà bản này đã bỏ:
TypeError: open() got an unexpected keyword argument 'metadata_errors'

Sửa bằng cách ghim PyAV dưới bản 19 (cài được 18.1.0); uv là công cụ cài gói Python, dùng như pip:
uv pip install "faster-whisper==1.2.1" "av<19"
python -c "import av; print(av.__version__)" # 18.1.0
Lỗi thứ hai tốn tiền hơn. Trên máy GPU, mình cài thêm nvidia-cudnn-cu12 qua pip theo thói quen. Gói này nặng, tải chậm, lệnh cài đứng hơn 5 phút trong khi đồng hồ GPU vẫn chạy. Kiểm tra lại mới thấy image "Ubuntu 24.04 AI" đã có sẵn CUDA 12.9 và cuDNN 9:
ldconfig -p | grep cudnn # thấy libcudnn_*.so.9 trong /lib/x86_64-linux-gnu
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
Bài học: trên máy thuê theo giờ, kiểm tra thứ có sẵn trước khi cài, và chuẩn bị script trên máy rẻ trước.
Còn một dòng cảnh báo lúc mới cài Ollama:
Warning: could not connect to a running Ollama instance
Đó là do dịch vụ Ollama chưa kịp chạy khi lệnh ollama gọi tới; vài giây sau là hết.
Khi nào không nên thuê máy GPU?
Việc chỉ cần vài lần mỗi tháng và chờ được: VPS bạn đã có sẽ làm chậm hơn nhưng không tốn thêm tiền.
Bạn chưa chắc model nào hợp: thử model nhỏ trên CPU trước, xác nhận kết quả dùng được rồi mới thuê GPU để chạy nhanh.
Để GPU chạy 24/7 chỉ để chờ yêu cầu thưa thớt: tiền theo giờ cộng lại nhanh hơn bạn nghĩ.
Câu hỏi thường gặp
Thuê VPS GPU giá bao nhiêu?
Ở AIDev Cloud ngày 08/11/2026, máy RTX 3090 24GB là 15.000đ mỗi giờ, tính từ lúc máy sẵn sàng tới lúc trả máy, giờ lẻ làm tròn lên một giờ. Giá các loại card khác có ở bài giá thuê GPU.
VPS 4GB chạy Whisper được không?
Được. Turbo dùng tối đa 2,16GB RAM, small khoảng 1,06GB. Nhưng nếu VPS đang chạy dịch vụ khác cỡ 1GB trở lên thì nên dừng chúng khi chép, hoặc dùng model small.
LLM 7B có chạy trên VPS 4GB được không?
Mình không thử. Bản 7B nén về 4 bit (quantization) nặng khoảng 4,7GB theo trang model của Ollama (ví dụ qwen2.5:7b), vượt máy 4GB; và ở cỡ 3B tốc độ đã chỉ còn khoảng 7 token/giây.
Có VPS vừa có GPU vừa thuê theo tháng không?
Có nhà cung cấp làm vậy, nhưng giá theo tháng của máy GPU cao vì card được giữ cho bạn cả khi không dùng. Với việc không đều, thuê theo giờ thường rẻ hơn.
Đọc tiếp
Việc AI cần GPU, bạn thuê máy theo giờ trên AIDev Cloud và trả máy khi xong. Phần chạy 24/7 như bot, n8n, web thì đặt trên VPS NAT thuê theo tháng.
Đo ngày 08/11/2026: VPS NAT Small của AIDev Cloud (2 vCPU Intel Xeon E5-2696 v4, 4GB RAM, Ubuntu 24.04.5) và máy RTX 3090 24GB của AIDev Cloud (25 vCPU E5-2696 v4, 55GB RAM, driver 610.43.02, CUDA 12.9); faster-whisper 1.2.1, PyAV 18.1.0, Ollama 0.40.15, llama3.2:3b.
Tham vấn chuyên môn
Nhà sáng lập AIDev và VietPlatform · Thạc sĩ AI MSE
- Tốt nghiệp thủ khoa xuất sắc Thạc sĩ AI MSE.
- Đồng sáng lập, CTO E-University, SVOnline: số hóa 10+ đại học, 40.000+ sinh viên.
- Xây hệ thống AI cho doanh nghiệp tại VietPlatform.


