Modder mở khóa giới hạn AI một nửa tốc độ trên GPU Nvidia RTX 20/30/40, RTX 4090 có thể đạt gấp đôi tensor rate

Tóm tắt nhanh

• Modder tìm ra cách loại bỏ giới hạn hiệu năng AI chạy ở một nửa tốc độ trên GPU Nvidia GeForce RTX thế hệ 20, 30 và 40 bằng khai thác firmware, theo VideoCardz.
• Bản unlock trả lại throughput ma trận gốc; trên RTX 4090 peak tensor rate tăng từ 165.6 lên 331.6 TFLOPS (FP16) và tương tự với BF16.
• Cải thiện thực tế trên workload giảm bớt: cuBLAS GEMM median thấy tăng khoảng 12–34% trong một thử nghiệm độc lập với fork Ada.
• Một số bài benchmark người dùng báo cáo matrix-multiply tăng đến +80.1% (RTX 4070 Ti) và RTX 3090 Ti thấy +35% FP16, +80% BF16, +94% TF32 với driver chỉnh sửa.
• Tốc độ chatbot (token) ít thay đổi vì phụ thuộc băng thông bộ nhớ; LLM prefill trên Ampere cải thiện 14–36%, còn LLM decode và INT8 gần như không đổi.
• Có ba dự án khác nhau cung cấp unlock: gpu-unlock (Ampere), gpu-unlock-ada (Ada/RTX 4090) và turing-unlock (Turing), mỗi dự án dùng module Linux không chính thức; Windows có bản thử nghiệm khác.
• Phạm vi card được hỗ trợ khác nhau: gpu-unlock liệt kê GA102/GA103/GA104/GA106 (Ampere); gpu-unlock-ada hỗ trợ RTX 4090 và thử nghiệm một vài model 40-series; turing-unlock chạy trên RTX 2080 Ti (22GB mod).
• RTX 50 (Blackwell) hiện không được hỗ trợ và được cho là ngoài phạm vi của nhà phát triển gpu-unlock.
• Các con số tăng phụ thuộc nhiều vào giới hạn công suất; ví dụ, báo cáo +25% đến từ card bị giới hạn 225 W và các card OEM/điều chỉnh công suất cho kết quả khác nhau.
• Một dự án khác, KohakUnlock, trên Leadtek 2080 Ti 22GB ghi nhận cải thiện 85% về instruction rate và median matrix-multiply +53% so với card khóa cùng mẫu.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.