Người dùng Reddit mua dàn đào tiền số cũ giá $35, nhận 54GB VRAM và chạy mô hình Qwen 35B

Tóm tắt nhanh

• Một người dùng Reddit (markpronkin) mua một dàn đào crypto cũ tìm thấy trong gara với giá 3.000 ruble (~$35) mà người bán từ chối cho thử trước khi mua.
• Dàn gồm chín GPU Nvidia P106-100 tổng cộng 54GB VRAM, và OP cho biết tất cả đều hoạt động ngay lần khởi động đầu tiên.
• OP thử chạy mô hình MoE Qwen3.6-35B-A3B trên Ollama, đạt hơn 30 token/giây ở lần chạy đầu tiên.
• Các GPU là P106-100 (Pascal) có 6GB GDDR5 mỗi card, ra mắt khoảng giữa 2017; Gigabyte P106-100 có bộ nhớ 8.008 MHz và bus 192-bit (~192 GB/s mỗi card).
• CUDA 13.0 đã loại bỏ biên dịch offline cho GPU trước compute capability 7.5 (bao gồm Pascal); driver nhánh 580 là nhánh cuối cùng hỗ trợ GPU trước CC 7.5, nhưng cập nhật bảo mật được duy trì đến tháng 10/2028.
• Hiệu năng bị giới hạn bởi CPU Celeron yếu, ít RAM hệ thống và các khe PCIe 2.0 x1 trên bo mạch chủ; mô hình MoE phù hợp hơn mô hình dense nặng.
• Dưới 8-bit, Qwen3.6-35B-A3B chiếm ~36.9GB; Llama 3.3 70B ở 4-bit chiếm ~42.5GB, nhưng hiệu năng sẽ bị giới hạn (ví dụ 70B 4-bit khoảng 4,5 token/giây trước khi gặp tắc nghẽn khác).
• Tính ra giá khoảng $0.65 mỗi GB VRAM; so sánh RTX 5090 32GB ra mắt $1.999 có băng thông 1.792 GB/s, dàn này có VRAM 1,7 lần nhưng băng thông mỗi card chỉ ~1/9.
• Caveat: tổng TDP GPU ước tính khoảng 1.080W, nhưng OP nói tiền điện miễn phí hoặc rẻ ở Nga; OP dự định chuyển phần cứng vào case hỗ trợ i7-7700K và 32GB RAM, mở rộng lên 12 GPU để đạt 72GB VRAM.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.