Mã nguồn mở GPU-Unlock Ada tăng gấp đôi hiệu năng Tensor trên RTX 4090

GPU‑Unlock Ada là một dự án mã nguồn mở trên GitHub do JustAResearcher phát triển, cung cấp mô-đun kernel Linux cho phép ghi đè tốc độ SM trên card RTX 4090. Dự án tạo firmware tại chỗ và thực hiện override trước khi driver NVIDIA chuẩn khởi động. Nhờ cơ chế này, hiệu năng tensor FP16 và BF16 trên RTX 4090 tăng gần gấp đôi so với trạng thái gốc. Các kết quả được đo bằng CUDA benchmark cho thấy FP16 từ 165.6 TF/s lên 331.6 TF/s và BF16 từ 165.5 TF/s lên 330.6 TF/s. Đây là tin đáng chú ý vì nó mở ra khả năng tối ưu phần cứng GPU mà không cần thay đổi driver chính thức.

Chi tiết

RTX 4090 và các GPU dòng Ada như RTX 4070 Ti SUPER thường bị giới hạn bởi tốc độ SM mặc định, khiến hiệu năng tensor không đạt tối đa tiềm năng. Để giải quyết, dự án GPU‑Unlock Ada cung cấp một mô-đun kernel Linux viết bằng C, cho phép người dùng ghi đè lựa chọn tốc độ SM trước khi driver NVIDIA khởi động. Firmware được tạo ra cục bộ, không phụ thuộc vào firmware của NVIDIA, và được tải vào kernel như một module.

Cơ chế override này được kiểm chứng trên RTX 4090 (PCI ID 10de:2684, AD102) và cho thấy tăng gấp đôi thông lượng tensor FP16 và BF16 khi tích lũy FP32. Các số liệu công bố bởi dự án cho thấy FP16 tăng từ 165.6 TF/s lên 331.6 TF/s, BF16 từ 165.5 TF/s lên 330.6 TF/s. Ngoài ra, các luồng INT8, dp4a và scalar FP32 duy trì gần mức cơ sở, chứng tỏ không gây suy giảm các kiểu tính toán khác.

Dự án đã vượt qua PCIe Function Level Reset (FLR) và khởi tạo driver NVIDIA 615.78.08, đồng thời các kiểm tra số học đều thành công. Một bản chạy độc lập (revision 8855e7b) trên Linux kernel 7.2.11‑arch1‑1 xác nhận lại các kết quả, với thông lượng FP16/FP32 tăng từ 160.4 TF/s lên 320.4 TF/s và BF16/FP32 từ 159.7 TF/s lên 320.2 TF/s. Thử nghiệm cuBLAS GEMM cho thấy mức tăng 12‑34% cho FP16 và 16‑20% cho BF16 tùy hình dạng tính toán.

Điểm nổi bật

• Mô-đun kernel Linux cho phép ghi đè tốc độ SM trước khi driver NVIDIA khởi động
• Hiệu năng tensor FP16 và BF16 trên RTX 4090 tăng gần gấp đôi
• Override vẫn hoạt động sau PCIe Function Level Reset và khởi tạo driver 615.78.08
• INT8, dp4a và scalar FP32 không bị ảnh hưởng đáng kể
• Kết quả được xác nhận bởi một bản chạy độc lập trên Linux

Vì sao đáng chú ý

Các lập trình viên và nhà nghiên cứu AI có thể khai thác khả năng tăng gấp đôi thông lượng tensor để rút ngắn thời gian huấn luyện mô hình mà không cần phần cứng mới. Giải pháp mở nguồn cho phép tùy chỉnh và tích hợp dễ dàng vào môi trường Linux hiện có. Điều này đặc biệt hữu ích cho các dự án cần tối ưu chi phí và tối đa hoá hiệu năng GPU.

Thông tin nhanh

• Kho mã: JustAResearcher/gpu-unlock-ada
• Số sao: 2.002 · Fork: 252
• Ngôn ngữ: C · Giấy phép: GPL-2.0

Nguồn: GitHub

---

Tin do AI tóm tắt từ nguồn công khai (RSS, GitHub); bấm link nguồn để đọc bài gốc.