Lỗi AI suýt khiến quân đội Mỹ tấn công tàu Trung Quốc

Tóm tắt nhanh

• Quân đội Mỹ gần tiến hành một chiến dịch có vũ khí chống một tàu Trung Quốc sau khi phân tích tình báo nói tàu chở linh kiện cho chương trình vũ khí hạt nhân; chiến dịch bị hủy ở phút chót, CNN đưa tin.
• Báo cáo sai lệch bắt nguồn từ một nhà phân tích thuộc Special Operations Command đã dùng chatbot AI để tổng hợp nguồn mở và tín hiệu tình báo có bảo mật, và chatbot đã 'hallucinate' sai danh mục hàng hóa của tàu.
• Nhà phân tích sau đó dùng chatbot thứ hai để định dạng phát hiện sai thành bản tóm tắt dạng chính thức và bản này được phát tán trong các kênh chỉ huy.
• Sự kiện làm dấy lên lo ngại rằng khi quân đội phụ thuộc hơn vào AI để tăng tốc ra quyết định, các lỗi của hệ thống có thể lên tới chuỗi chỉ huy nếu không có giám sát con người đầy đủ.
• Chuyên gia Jake Steckler kêu gọi bổ sung các biện pháp an toàn cho AI và nhấn mạnh rằng tốc độ áp dụng không nên đánh đổi bằng độ tin cậy, nhưng cũng nói AI có thể hữu ích nếu dùng đúng bối cảnh và có bảo đảm.

Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.