VPS Cho AI & Machine Learning 2026: Chạy LLM, Stable Diffusion Trên VPS Giá Rẻ

2026 là năm AI bùng nổ. Không còn giới hạn trong phòng lab của Google hay OpenAI — AI giờ đây chạy được trên VPS giá rẻ. Bạn muốn chạy Llama 3, Mistral, Stable Diffusion, hay fine-tune model riêng? Không cần GPU RTX 4090 50 triệu. Một VPS GPU hoặc VPS CPU mạnh là đủ để bắt đầu. Bài này hướng dẫn chọn VPS cho AI/ML từ A đến Z.

1. Bạn Cần VPS Như Thế Nào Cho AI/ML?

Không phải AI nào cũng cần GPU. Phân loại nhu cầu:

2. So Sánh VPS GPU Cho AI/ML 2026

3. Cài Đặt Môi Trường AI/ML Trên VPS Ubuntu

3.1. Cài PyTorch + CUDA

# Update hệ thống
sudo apt update && sudo apt upgrade -y

# Cài NVIDIA driver (nếu có GPU)
sudo apt install nvidia-driver-550 -y
sudo reboot

# Cài CUDA toolkit
wget https://developer.download.nvidia.com/compute/cuda/12.4.0/local_installers/cuda_12.4.0_550.54.14_linux.run
sudo sh cuda_12.4.0_550.54.14_linux.run

# Cài Miniconda
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh -b
source ~/.bashrc

# Tạo môi trường AI
conda create -n ai python=3.11 -y
conda activate ai

# Cài PyTorch với CUDA 12.4
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

# Verify GPU
python -c "import torch; print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"

3.2. Chạy Llama 3 Với Ollama (CPU-Only)

# Cài Ollama — chạy LLM không cần GPU
curl -fsSL https://ollama.com/install.sh | sh

# Pull model Llama 3 8B (~4.7GB)
ollama pull llama3:8b

# Chạy inference
ollama run llama3:8b

# Gọi qua API (port 11434)
curl http://localhost:11434/api/generate -d '{
  "model": "llama3:8b",
  "prompt": "Giải thích Transformer architecture bằng tiếng Việt",
  "stream": false
}'

3.3. Cài Stable Diffusion WebUI (Cần GPU)

# Clone Automatic1111 WebUI
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
cd stable-diffusion-webui

# Cài dependencies
python -m venv venv
source venv/bin/activate
pip install -r requirements.txt

# Tải model (vd: SDXL) vào thư mục models/Stable-diffusion/
wget -P models/Stable-diffusion/ https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0/resolve/main/sd_xl_base_1.0.safetensors

# Chạy webui (thêm --listen để truy cập từ xa)
python launch.py --listen --port 7860

3.4. Jupyter Notebook + Ngrok (Truy Cập Từ Xa)

# Cài Jupyter
pip install jupyter notebook

# Tạo config
jupyter notebook --generate-config
jupyter notebook password  # đặt mật khẩu

# Chạy background
nohup jupyter notebook --ip=0.0.0.0 --port=8888 --no-browser &

# Hoặc dùng ngrok để có HTTPS
wget https://bin.equinox.io/c/bNyj1mQVY4c/ngrok-v3-stable-linux-amd64.tgz
tar xzf ngrok-v3-stable-linux-amd64.tgz
./ngrok http 8888

4. Tối Ưu Hiệu Năng AI Trên VPS

Quantization — Giảm RAM/VRAM 50-75%

Quantization là kỹ thuật nén model từ FP16 xuống INT8/INT4, giảm RAM cần dùng đáng kể mà chất lượng giảm không nhiều:

# Dùng llama.cpp để quantize
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp && make -j4

# Convert model sang GGUF format
python convert.py /path/to/llama-3-8b --outtype q4_K_M

# Chạy quantized model — RAM giảm từ 16GB còn ~5GB
./main -m llama-3-8b-q4_K_M.gguf -p "Hello world" -n 128

Swap File — Dự Phòng Khi Hết RAM

# Tạo 32GB swap
sudo fallocate -l 32G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile
echo '/swapfile none swap sw 0 0' | sudo tee -a /etc/fstab

5. So Sánh: Tự Build PC AI Hay Thuê VPS GPU?

6. AI Pipeline Trên VPS: RAG + Vector Database

Một trong những ứng dụng AI phổ biến nhất 2026 là RAG (Retrieval-Augmented Generation) — cho LLM "đọc" tài liệu của bạn rồi trả lời:

# Cài ChromaDB + LangChain
pip install chromadb langchain langchain-community sentence-transformers

# Python RAG pipeline đơn giản
from langchain_community.document_loaders import TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.vectorstores import Chroma
from langchain_community.embeddings import HuggingFaceEmbeddings
import ollama

# Load tài liệu
loader = TextLoader("kien_thuc.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
chunks = splitter.split_documents(docs)

# Embed & lưu vào ChromaDB
embeddings = HuggingFaceEmbeddings(model_name="keepitreal/vietnamese-sbert")
db = Chroma.from_documents(chunks, embeddings, persist_directory="./chroma_db")

# Query
query = "Cách cài VPS cho người mới?"
results = db.similarity_search(query, k=3)
context = "\n".join([r.page_content for r in results])

# Gọi LLM
response = ollama.generate(model="llama3:8b", prompt=f"Context:\n{context}\n\nQuestion: {query}\nAnswer:")
print(response['response'])

7. Bảng Tổng Hợp Nhu Cầu VPS AI

8. Những Lỗi Thường Gặp Khi Chạy AI Trên VPS

1. Hết RAM → OOM Kill: Luôn tạo swap file ít nhất 16GB. Dùng quantization (INT4/INT8) để giảm RAM.
2. Không nhận GPU: Check nvidia-smi, cài đúng driver version tương thích CUDA.
3. Model quá nặng: Llama 3 70B cần 140GB RAM — không chạy được trên VPS thường. Chọn model nhỏ hơn (7B-13B).
4. Timeout khi tải model: Dùng tmux hoặc screen để session không bị ngắt khi SSH disconnect.
5. Bảo mật Jupyter Notebook: Luôn đặt password, không để port 8888 open ra internet nếu không có auth.

Xem thêm:

• VPS Cho Lập Trình Viên — nếu bạn dev muốn thử AI
• Cài Docker & Docker Compose Trên VPS — đóng gói môi trường AI
• Monitoring VPS với Prometheus + Grafana — theo dõi GPU usage
• Cài Node.js + PM2 Trên VPS — deploy AI API
• VPS GPU Cho AI & Deep Learning — chi tiết hơn về GPU