Apple thử nghiệm Harbor, app cho Mac chạy mô hình AI cục bộ

Tóm tắt nhanh

• Apple đang thử nghiệm Harbor qua công ty con Claris, một app cho Apple silicon Mac biến máy thành private AI inference server để chạy open-weight models cục bộ.
• Harbor hỗ trợ một Mac đơn lẻ và cả cụm nhiều Mac kết nối qua Thunderbolt 5, cho phép gộp unified memory để chạy mô hình lớn hơn và xử lý nhiều yêu cầu hơn.
• Theo MacRumors, Apple đã bổ sung RDMA over Thunderbolt 5 trong macOS Tahoe 26.2, giúp việc clustering với Harbor nhanh hơn.
• Ứng dụng tự động phát hiện các thiết bị qua Thunderbolt 5, nên người dùng chỉ cần cắm máy và bắt đầu, không cần cấu hình thủ công hay dùng command line.
• Harbor cho phép duyệt, tải xuống và nạp mô hình ngay trong app, còn phần quản lý model sẽ do ứng dụng xử lý.
• MacRumors cho biết Harbor đang ở giai đoạn early access và chưa phát hành công khai; trước đó đã có một App Store listing nhưng hiện đã bị gỡ.
• Trang đăng ký của Harbor yêu cầu tên công ty, cho thấy Apple có thể đang nhắm tới nhóm khách hàng doanh nghiệp hơn là người dùng cá nhân.
• Claris vốn nổi tiếng với FileMaker dành cho doanh nghiệp, nên hiện chưa rõ Apple sẽ tiếp thị Harbor như thế nào hoặc liệu ứng dụng có miễn phí hay không.
• MacRumors nói Harbor có thể kết hợp giao diện đơn giản kiểu LM Studio với khả năng clustering giống Exo, trong khi 9to5Mac cho biết app có thể ra mắt công chúng trong những tuần hoặc tháng tới.

Tóm tắt tự động bằng AI từ 2 nguồn, có thể có sai sót. Hãy kiểm chứng ở bài gốc.