Cây quyết định, Random Forest và Gradient Boosting: vũ khí số một cho dữ liệu dạng bảng

Deep Learning thống trị ảnh, âm thanh và văn bản. Nhưng với dữ liệu dạng bảng — bảng giao dịch, hồ sơ khách hàng, log hệ thống — các mô hình dựa trên cây như Random Forest, XGBoost, LightGBM vẫn thường thắng, chạy nhanh hơn, cần ít tinh chỉnh hơn. Phần lớn bài thi Kaggle dạng bảng được thắng bằng gradient boosting.

Bài này đi từ một cây quyết định đơn lẻ tới hai cách gộp nhiều cây: bagging (Random Forest) và boosting.