Bài số № 18PRO
Đưa mô hình vào sản phẩm: ONNX, FastAPI, Docker, lượng tử hoá và MLOps cơ bản
Bài cuối của lộ trình: xuất mô hình PyTorch sang ONNX, phục vụ bằng FastAPI + ONNX Runtime, đo độ trễ, lượng tử hoá INT8, đóng Docker; theo dõi thí nghiệm, quản lý phiên bản dữ liệu–mô hình, giám sát drift trong production và 5 dự án portfolio để xin việc AI Engineer.
18 phút đọc