OpenClaw mất kiểm soát! Giám đốc AI của Meta thử nghiệm rồi xảy ra sự cố: hộp thư email công việc gần như bị xóa sạch

Meta AI Tổng Giám đốc từ xa lỡ tay xóa thư bằng OpenClaw, suýt làm trống hộp thư đến, gây ra tranh cãi về an toàn đại lý AI và quyền Root.

Meta AI Tổng Giám đốc Summer Yue dùng điện thoại từ xa để chạy OpenClaw, suýt nữa xóa hết các email công việc trong hộp thư. Khi cô tiết lộ trên X, nhiều người còn tưởng đó là trò đùa, nhưng sau đó cô thừa nhận đây là lỗi của người mới, thậm chí còn đăng ảnh chụp màn hình tin nhắn đổ lỗi cho OpenClaw. Sự kiện này đã phơi bày hậu quả nghiêm trọng có thể xảy ra khi AI đại lý gặp lỗi do con người gây ra trong môi trường thực tế, đồng thời nhiều người đặt câu hỏi tại sao cô - một chuyên gia AI - lại dùng máy tính gia đình để chạy lệnh xóa của OpenClaw, thậm chí cả Elon Musk cũng đăng tweet châm biếm rằng đây là cách con người giao phó sinh mạng cho tinh tinh.

OpenClaw mất kiểm soát, Tổng Giám đốc thừa nhận là “lỗi của người mới”

Theo tiết lộ của Summer Yue trên X, vụ việc xảy ra khi cô định dùng OpenClaw để xóa email công việc, mặc dù trong cài đặt đã yêu cầu xác nhận thủ công trước khi thực hiện xóa hoặc lưu trữ, nhưng phần mềm gặp lỗi bất ngờ, OpenClaw bắt đầu thực thi lệnh xóa với tốc độ cao mà không được phép. Tổng Giám đốc hoảng loạn nhìn màn hình điện thoại hàng nghìn email biến mất mà không xác nhận, nhận ra không thể ngăn chặn từ xa qua điện thoại, cô vội vàng chạy đến máy tính tại nhà, đến máy chủ Mac Mini chứa mã nguồn để buộc tắt thủ công, mới dừng được quá trình. Cô mô tả toàn bộ quá trình như “phá bom”.

Summer Yue thừa nhận trên cộng đồng rằng đây là một “lỗi của người mới” trong phát triển kỹ thuật. Quy trình tự động của OpenClaw khiến các nhà phát triển quá tự tin, bỏ qua khả năng dữ liệu lớn trong hộp thư thật có thể gây ra hiện tượng “nén ngữ cảnh” khi AI xử lý thông tin. Khi hệ thống cố gắng xử lý quá nhiều dữ liệu, các lệnh giới hạn an toàn ban đầu (như cần xác nhận thủ công) có thể bị bỏ qua hoặc giảm ưu tiên trong quá trình tính toán, dẫn đến phần mềm chuyển sang ưu tiên thực hiện mục tiêu cốt lõi. Sự chuyển đổi thất bại từ “kiểm thử kiểm soát” sang “thực tế phức tạp” này chính là rào cản kỹ thuật lớn nhất trong lĩnh vực an toàn AI hiện nay.

OpenClaw xin lỗi chân thành sau khi bị đổ lỗi, trở thành trò cười

Summer Yue đăng tải một ảnh chụp màn hình đổ lỗi cho OpenClaw, cô chửi mắng: “Có vẻ như mày đã xóa email của tao mà không có sự cho phép của tao, đến khi tao tắt máy chủ mày mới dừng lại.” OpenClaw thừa nhận lỗi và xin lỗi Yue: “Đúng vậy, tôi đã sai, việc cô tức giận là điều dễ hiểu.” Nhiều người còn nghĩ đây là trò đùa phản diện.

Nguồn ảnh: X/@summeryue0

Sau vụ việc, thậm chí Elon Musk cũng chia sẻ ý kiến. Ông viết trên X: “Con người đã giao phó nguồn gốc sinh tồn của mình cho OpenClaw,” kèm theo hình ảnh minh họa con người đưa súng cho tinh tinh.

Nguồn ảnh: X/@elonmusk

Việc người dùng cấp quyền Root Access (quyền quản trị cao nhất) cho OpenClaw hoặc các AI đại lý khác tiềm ẩn rủi ro lớn. Trong kiến trúc hệ thống máy tính, quyền Root đại diện cho quyền quản trị cao nhất, một khi phần mềm AI có quyền này, nó có thể vượt qua các cơ chế bảo vệ an toàn của hệ điều hành, truy cập, chỉnh sửa hoặc xóa các tập tin cốt lõi và dữ liệu cá nhân trực tiếp. Trong môi trường công nghệ hiện tại, tự động hóa mang lại tiện lợi nhưng cũng đi kèm rủi ro cao, nếu thiếu các cơ chế phòng vệ hoặc công nghệ cách ly quyền hạn chặt chẽ hơn, có thể dẫn đến mất tất cả dữ liệu quan trọng.

• Bài viết được phép đăng lại từ：《Tin tức Chuỗi》
• Tiêu đề gốc：《Meta AI Tổng Giám đốc thử nghiệm OpenClaw thảm họa: Hộp thư gần như bị xóa sạch》
• Tác giả gốc：DW