Safeworld ra mắt để đánh giá an toàn cho robot dùng GenAI giữa lo ngại về tính không dự đoán được

Tóm tắt nhanh

• Safeworld — do Dr. Ding Zhao, Kyle Wong và Simo Rachidi sáng lập — ra mắt từ trạng thái stealth với vòng seed hơn 12 triệu USD do Shine Capital và a16z Speedrun dẫn đầu.
• Công ty nhắm tới bài toán đánh giá an toàn cho hệ điều khiển robot sử dụng mô hình generative AI, vốn mang tính ngẫu nhiên khó dự đoán so với thuật toán truyền thống.
• Safeworld xây dựng mô phỏng số các môi trường thực tế (ví dụ góc khuất trong nhà máy) bằng công cụ như Genesis hoặc MuJoCo để chèn robot và chạy hàng nghìn kịch bản tương tác với mô hình con người.
• Mục tiêu là chạy các kịch bản khó như người vấp/ngã hoặc mang vật cồng kềnh để kiểm tra khả năng phát hiện và phản ứng của robot mà không cần thử nghiệm thực tế nguy hiểm.
• Người sáng lập cho rằng thách thức lớn hơn xe tự lái vì robot hoạt động trong môi trường không cấu trúc và mỗi cơ sở có tiêu chuẩn an toàn khác nhau.
• Safeworld cho rằng các nhà sản xuất robot sẽ muốn bên thứ ba xác nhận các trường hợp an toàn và chia sẻ thông tin giữa các đối thủ để xây dựng tiêu chuẩn ngành.
• Đối tác đầu tiên gồm Gritt Robotics, whose CTO Vishal Dugar cho biết khó có thể chứng minh an toàn bằng phương pháp toán học thuần túy và họ đang hợp tác phát triển mô phỏng an toàn.
• Các nhà đầu tư bổ sung gồm Box Group, Carnegie Mellon University Endowment, Innovation Endeavors và SV Angel; a16z Speedrun kêu gọi cần lập tiêu chuẩn an toàn khi robot bắt đầu được thiết kế và triển khai.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.