DeepSeek và Huawei phát hành bộ công cụ lập trình Ascend mã nguồn mở để giảm phụ thuộc vào hệ sinh thái Nvidia

Tóm tắt nhanh

• DeepSeek và Huawei hợp tác phát hành bộ thư viện mã nguồn mở cho chip Ascend, bao gồm thư viện tính toán AI và giao tiếp chip-to-chip, nhằm giảm phụ thuộc vào hệ sinh thái phần mềm và phần cứng của Nvidia.
• Bộ công cụ có thư viện DeepGEMM-Ascend xử lý nhân ma trận và phép toán dùng trong mô hình DeepSeek, hỗ trợ BF16, FP8 và FP4 và giữ nguyên giao diện lập trình giống DeepGEMM hiện có.
• Thư viện DeepEP-Ascend đảm nhiệm giao tiếp cho huấn luyện và suy luận, bao gồm định tuyến dữ liệu cho các chuyên gia trong mô hình mixture-of-experts và hợp nhất đầu ra.
• TileLang được cập nhật để hỗ trợ gốc Ascend 950, cung cấp tạo mã, lập lịch tự động và đồng bộ hóa, được mô tả là mô hình lập trình “đơn giản hơn” so với CUDA.
• Các công cụ được phát triển và thử nghiệm trên phần cứng Ascend 950, và xây dựng trên nền tảng phần mềm CANN của Huawei để chạy khối lượng công việc AI.
• Hai công ty tối ưu hóa tính toán và giao tiếp trên hệ thống supernode gồm 128 Ascend 950, xử lý cả hiệu năng chip riêng lẻ lẫn băng thông di chuyển dữ liệu giữa các chip.
• TileLang vẫn hỗ trợ nhiều nền tảng, bao gồm GPU Nvidia, nên ngôn ngữ giữ được tính hữu dụng cho hệ sinh thái khác; đồng thời công cụ giúp tận dụng hiệu năng phần cứng Huawei.
• Thông báo đến sau 2 tuần Huawei giới thiệu thế hệ bộ xử lý AI và supernode mới; Huawei dự kiến hệ thống AI của họ sẽ được dùng rộng rãi cho huấn luyện mô hình vào năm 2027.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.