Cơ quan Nội vụ Anh có thể bị điều tra vì dùng công nghệ OpenAI trong quyết định asylum
UK Home Office May Face Investigation Over Use of OpenAI Tech
Tóm tắt nhanh
- Theo ORG, ICIBI đã yêu cầu tổ chức này cung cấp thêm thông tin về các công cụ AI mà Bộ Nội vụ Anh đang dùng khi lập kế hoạch thanh tra năm tới.
- Bộ Nội vụ sử dụng Asylum Case Summarisation (ACS) và Asylum Policy Search (APS), xây trên GPT-4 (2023) của OpenAI và Microsoft Foundry, để tóm tắt phỏng vấn và thông tin quốc gia xuất xứ.
- Các công cụ được bắt đầu thử nghiệm cuối 2024 nhằm giải quyết khoảng 100.000 hồ sơ asylum tồn đọng và hàng chục nghìn đơn mới mỗi năm.
- Bộ nói quyết định asylum do nhân viên được đào tạo đưa ra, AI chỉ hỗ trợ tra cứu hồ sơ và chính sách; các công cụ không được dùng một mình để quyết định.
- ORG phát hiện tỉ lệ bản tóm tắt ACS bị đánh giá là không dùng được—do lỗi thực tế hoặc miêu tả sai—cao hơn đáng kể so với tỉ lệ lỗi 9% trong báo cáo thử nghiệm chính thức.
- ORG cũng tìm thấy APS không có quy trình kiểm soát chất lượng cho các bản tóm tắt do nó tạo ra.
- Chính phủ ước tính khi dùng chung hai công cụ có thể tiết kiệm khoảng một giờ cho mỗi hồ sơ trong thử nghiệm, giúp nhân viên xử lý nhanh hơn.
- Tháng 7 có vụ toà án chỉ ra Bộ Nội vụ đã viện dẫn một tài liệu 'AI hallucinated' để từ chối hồ sơ asylum của một phụ nữ Morocco, làm dấy lên lo ngại về độ chính xác của AI.
Tóm tắt tự động bằng AI từ bài gốc, có thể có sai sót. Hãy kiểm chứng ở bài gốc.
Trích đoạn bài gốc
A government watchdog is considering a probe into the Home Office’s use of ChatGPT technology to process asylum claims amid concerns over the tools’ accuracy and secrecy surrounding their use.Tapview chỉ hiển thị tiêu đề, trích đoạn ngắn, tóm tắt và đường dẫn tới bài gốc. Nội dung gốc thuộc bản quyền của WIRED.
