Inference Engineering: bản đồ toàn cảnh
Inference engineering là gì, vì sao 2026 là năm đầu tiên thế giới chi cho inference nhiều hơn training, và bản đồ 5 tầng từ hardware tới gateway — kèm lộ trình đọc 67 bài của chuỗi.
17 phút đọc
LLM
4 bài viết
RLHF và cách nó hoạt động
RLHF - Reinforcement Learning from Human Feedback: ba giai đoạn huấn luyện LLM, reward model và thuật toán PPO.
12 phút đọc Cập nhật ngày
Kiến trúc của mô hình Llama
Phân tích kiến trúc mô hình Llama: RMSNorm, RoPE, SwiGLU và Grouped Query Attention.
9 phút đọc
LoRA, QLoRA - Huấn luyện LLM chưa bao giờ nhanh và nhẹ đến thế !
Giải thích LoRA và QLoRA: hai kỹ thuật fine-tuning hiệu quả tham số cho mô hình ngôn ngữ lớn.
9 phút đọc Cập nhật ngày