Một thẩm phán liên bang vừa thả một chú thích thú vị khiến mọi người bàn tán. Hóa ra các cơ quan thực thi di trú đã dựa vào các công cụ AI cho các hoạt động của họ, và thẩm phán đã chỉ ra một điều mà không ai hỏi nhưng mọi người cần phải nghe: những hệ thống này có thể không đáng tin cậy như chúng ta nghĩ.

Những mối quan tâm? Hai vấn đề lớn. Đầu tiên, độ chính xác. Các mô hình AI có thể sai sót, nhận diện sai hoặc đưa ra kết quả dựa trên dữ liệu huấn luyện bị lỗi. Khi bạn đang xử lý tình trạng di cư của con người, đó không phải là một biên độ sai số mà bạn muốn đánh cược. Thứ hai, quyền riêng tư. Những dữ liệu nào mà các công cụ này đang thu thập? Ai có quyền truy cập? Chúng được lưu trữ trong bao lâu? Ghi chú của thẩm phán không cung cấp câu trả lời, nhưng chắc chắn đã nêu ra những câu hỏi đúng.

Điều này không chỉ liên quan đến chính sách nhập cư. Nó liên quan đến cách mà các chính phủ áp dụng công nghệ mà không có các khuôn khổ minh bạch. Trong một thời đại mà các hệ thống phi tập trung và chủ quyền dữ liệu là những vấn đề nóng trong các vòng tròn Web3, việc thấy các cơ quan trung ương sử dụng các công cụ AI không minh bạch cảm thấy như một bước lùi. Nếu các nhà vận động blockchain giảng giải về tính minh bạch và quyền kiểm soát của người dùng, thì các tổ chức công cộng không nên bị giữ ở cùng một tiêu chuẩn?