Mac Studio with M5 Ultra vượt DGX Spark trong benchmark AI cục bộ

Tóm tắt nhanh

• Apple Mac Studio with M5 Ultra đã được Tom's Hardware benchmark cho AI cục bộ và cho thấy hiệu năng rất mạnh nhờ 36-core CPU, 80-core GPU với Neural Accelerators và tùy chọn tới 512GB unified memory.
• Trong bài test AgentPerf-Local của Artificial Analysis với Qwen 3.8 27B, Mac Studio hoàn thành chỉ chưa tới một nửa thời gian so với một hệ thống Dell Pro Precision GB10 đơn lẻ, cấu hình gần giống Nvidia DGX Spark.
• Tom's Hardware cho biết hệ thống GB10 họ test có giá tới $10,000, còn Mac Studio test ở mức khoảng $12,300 trở lên, nên phép so sánh này được xem là khá sát về mặt chi phí.
• Bài benchmark nhấn mạnh rằng AgentPerf-Local chủ yếu đo prompt processing hơn là token generation, vì vậy có lợi cho các hệ thống có nhiều raw compute như M5 Ultra và GB10.
• Mac Studio có băng thông bộ nhớ 1.2 TB/s, cao hơn rất nhiều so với 273 GB/s của GB10, giúp nó có lợi thế lớn trong decode bandwidth.
• Với llama.cpp làm inference backend trên cả hai máy và bật native multi-token prediction của Qwen 3.8 27B, Mac Studio không chỉ chạy nhanh hơn mà còn tiêu thụ ít energy hơn khoảng 16%.
• Theo Tom's Hardware, energy-delay product của Mac Studio thấp hơn một nửa so với DGX Spark trong bài test này, cho thấy hiệu quả tổng thể vượt trội.
• Bài viết cũng nói cấu hình Mac Studio họ test đang có thời gian giao hàng từ 13 đến 15 tuần, phản ánh nhu cầu rất cao từ người dùng AI cục bộ.
• Tom's Hardware kết luận rằng kết quả này rất ấn tượng cho Mac Studio khi chạy các mô hình dense và workload agentic, dù một inference engine khác có thể cho kết quả khác với hệ thống kiểu Spark.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.