Anthropic cảnh báo đã rất gần khả năng RSI, tức AI tự cải thiện chính nó

Tóm tắt nhanh

• Anthropic cho biết trong bản S-1A sửa đổi rằng họ có thể sớm chạm ngưỡng “recursive self-improvement” (RSI), tức AI đủ mạnh để tự cải thiện việc huấn luyện của chính mình.
• Công ty nói việc dùng AI để tăng tốc R&D có thể làm năng lực mô hình tiến nhanh hơn khả năng phát triển, kiểm chứng và triển khai các biện pháp an toàn, căn chỉnh và bảo mật tương ứng.
• Anthropic thừa nhận đã từng không nhận ra một số bước nhảy về năng lực khi dùng AI để phát triển các mô hình mới và có thể sẽ lại không nhận ra một sự tăng tốc đáng kể cho đến sau khi nó xảy ra.
• Theo hồ sơ, các ước tính nội bộ và kỳ vọng về các mô hình tương lai cho thấy công ty có thể “imminently meet” định nghĩa của Responsible Scaling Policy về “dramatically accelerated progress attributable to AI”.
• Anthropic nói chưa có mô hình hiện tại nào vượt ngưỡng RSI này và họ vẫn đang đánh giá dữ liệu nền tảng.
• Công ty cũng khẳng định chưa kỳ vọng có thể dùng Claude để tự động thiết kế và xây dựng hoàn toàn các thế hệ frontier model tiếp theo mà không cần giám sát hay hiểu biết đáng kể của con người.
• Anthropic cho biết họ đang cân nhắc cập nhật Responsible Scaling Policy để giữ con người tiếp tục kiểm soát việc phát triển frontier model tại công ty.
• Bài viết lưu ý S-1 vừa là tài liệu công bố thông tin vừa có thể mang tính marketing, nên tuyên bố về việc “rất gần” một mô hình tự xây dựng có thể cũng nhằm mục đích đó.
• Dù vậy, TechCrunch cho rằng Claude đã tăng mạnh năng lực trong năm nay, đặc biệt ở coding, math và cybersecurity, nên cảnh báo của Anthropic đáng được chú ý.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.