Baseten ra mắt Base Labs hợp tác với Hugging Face và Goodfire để chuẩn hóa an toàn cho mô hình open-weight

Tóm tắt nhanh

• Baseten và Base Labs công bố chuẩn hạ tầng an toàn mới cho mô hình open-weight cùng Hugging Face và Goodfire AI.
• Mục tiêu là xây dựng hạ tầng đánh giá và giám sát an toàn cho các mô hình open-weight, thay vì áp thêm biện pháp sau khi triển khai.
• Tin tức được đưa ra giữa tranh luận về rủi ro từ kỹ thuật 'abliteration' có thể loại bỏ các biện pháp bảo vệ; Hugging Face hiện liệt kê hơn 6.000 mô hình bị abliterated.
• Base Labs sẽ phát triển và công bố phương pháp để huấn luyện và giám sát mô hình mở, được định hình như một “chuẩn” minh bạch tích hợp khi huấn luyện và triển khai.
• Goodfire, chuyên về giải thích quyết định mô hình, được nêu là ứng viên chính cho phần “tích hợp an toàn” trong hệ thống.
• Các công ty chưa tiết lộ chi tiết kỹ thuật về cách thức hợp tác hoạt động; Goodfire cho biết mục tiêu là "Safety must be built into open models and provided by those who serve them."
• Baseten kêu gọi cộng đồng nhà phát triển đóng góp vào khuôn khổ này để xây dựng hệ sinh thái mô hình mở an toàn và dễ tiếp cận.
• Baseten vừa gọi vốn Series F 1,5 tỷ USD lên định giá 13 tỷ USD; Goodfire đã gọi vốn Series B 150 triệu USD do B Capital dẫn đầu.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.