AMD và Intel hợp tác đưa tối ưu PyTorch cho CPU vào một đường code chung qua oneDNN
AMD and Intel will work together to create a single PyTorch code path for AI inference on CPUs
Tóm tắt nhanh
- Intel và AMD đang hội nhập các tối ưu CPU cho PyTorch vào một thư viện thống nhất thông qua oneDNN, giúp tối ưu cho cả chip AMD và Intel.
- AMD trước đây duy trì ZenDNN downstream và hiện đưa các cải tiến đó vào oneDNN mã nguồn mở do UXL Foundation công bố.
- AMD thông báo gia nhập UXL Foundation với tư cách "steering member" và đóng góp 20.000 USD mỗi năm.
- EAG (x86 Ecosystem Advisory Group) — sáng kiến chung chủ yếu giữa Intel và AMD thành lập 2024 — đã khuyến nghị hợp nhất nỗ lực này dưới oneDNN.
- oneDNN đã được thêm làm backend cho PyTorch cuối 2023 và khi đó ghi nhận tăng 1,24x với Float32 và 2,21x với BFloat16 cho inference trên CPU.
- Thư viện oneDNN phát hiện tính năng phần cứng khi chạy để sinh kernel tối ưu và hỗ trợ dữ liệu độ chính xác thấp cùng các phép toán như ma trận nhân và tích chập.
- Động thái giúp đơn giản hóa việc phát triển với PyTorch trên nhiều hệ thống bằng một backend duy nhất cung cấp các tối ưu phù hợp với phần cứng.
- oneDNN là thư viện đa nền tảng, cũng hoạt động trên Arm và RISC-V; Intel là một trong những thành viên sáng lập đưa oneDNN vào UXL Foundation.
Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
AMD and Intel are working together to bring CPU inference optimizations for PyTorch under the unified oneDNN library.Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của Tom's Hardware.
