Người sáng lập Ethereum cảnh báo: Việc quản lý bằng AI là "ý tưởng tồi", có thể dẫn đến thiệt hại tài chính lớn.

Người đồng sáng lập Ethereum, Vitalik Buterin, gần đây đã viết trên X (trước đây là Twitter), thẳng thắn chỉ ra rằng "quản trị trí tuệ nhân tạo" tồn tại những rủi ro nghiêm trọng, thậm chí có thể gây ra tổn thất tài chính lớn. Nhận xét của ông xuất phát từ mối lo ngại về lỗ hổng an ninh của nền tảng AI và đã đề xuất một phương án quản trị thay thế vững chắc hơn.

Nhược điểm chết người của AI trong quản trị

Phát biểu của Buterin là để đáp lại cảnh báo của Eito Miyamura, đồng sáng lập nền tảng quản trị dữ liệu AI EdisonWatch. Miyamura tiết lộ rằng, sau khi ChatGPT bổ sung hỗ trợ toàn diện cho công cụ MCP (giao thức ngữ cảnh mô hình), rủi ro an toàn đã tăng lên một cách đột ngột.

Cập nhật này cho phép ChatGPT kết nối trực tiếp và đọc dữ liệu từ các ứng dụng như Gmail, lịch, Notion, nhưng điều này cũng tạo cơ hội cho kẻ tấn công:

Gửi lời mời lịch độc hại có "gợi ý jailbreak" để vượt qua hạn chế và có được quyền quản lý.

Nạn nhân ngay cả khi không chấp nhận lời mời, cũng có thể kích hoạt lỗ hổng khi ChatGPT giúp sắp xếp lịch.

Một khi bị tấn công, kẻ tấn công có thể truy cập từ xa vào email và dữ liệu cá nhân của nạn nhân, và gửi chúng đến hộp thư đã chỉ định.

Buterin cảnh báo, nếu sử dụng AI cho các nhiệm vụ quản trị như phân bổ quỹ, những kẻ có hành vi xấu sẽ lợi dụng các lỗ hổng tương tự để cài đặt lệnh "cho tôi tất cả tiền" vào hệ thống, dẫn đến việc chuyển tiền quy mô lớn.

Giải pháp thay thế của Buterin: Quản trị thông tin tài chính

Để giảm thiểu rủi ro, Buterin đề xuất áp dụng mô hình thị trường thông tin (information markets):

Xây dựng một thị trường mở, cho phép các nhà phát triển khác nhau nộp các mô hình AI của riêng họ.

Giới thiệu "cơ chế kiểm tra ngẫu nhiên", bất kỳ ai cũng có thể kích hoạt kiểm tra, được đánh giá bởi ban giám khảo nhân tạo về hành vi của mô hình.

Mô hình ngôn ngữ lớn (LLM) có thể hỗ trợ các thành viên hội đồng xét xử trong việc đưa ra phán quyết, đảm bảo hiệu quả và độ chính xác của việc xem xét.

Ông cho rằng, thiết kế hệ thống này có thể cung cấp sự đa dạng mô hình ngay lập tức và thông qua các động lực của thị trường, khuyến khích các nhà phát triển và những người tham gia bên ngoài chủ động giám sát và sửa chữa các vấn đề, tổng thể thì mạnh mẽ hơn so với việc quản lý bằng một AI duy nhất.

Tại sao rủi ro quản trị AI lại cao?

Buterin chỉ ra hai lý do:

1. Rủi ro an ninh AI truyền thống: bao gồm tấn công jailbreak, lạm dụng quyền hạn, đánh cắp dữ liệu, v.v.

2. Tác động giá trị ngắn hạn: Một khi hệ thống quản trị AI bị tấn công, có thể gây ra tổn thất về tài chính và tài sản không thể đảo ngược trong thời gian rất ngắn.

Ông nhấn mạnh rằng, mặc dù ý tưởng về "AI như một nhà quản lý" thật thú vị, nhưng ở giai đoạn hiện tại, những thí nghiệm như vậy là quá nguy hiểm đối với ngân sách công và hệ thống quản trị.

Kết luận

Khi công nghệ AI nhanh chóng thâm nhập vào lĩnh vực tài chính và quản trị, vấn đề an ninh đang trở thành thách thức cốt lõi không thể bỏ qua. Cảnh báo của Buterin nhắc nhở chúng ta rằng, trong khi theo đuổi hiệu quả và tự động hóa, cần đảm bảo rằng thiết kế thể chế có thể chống lại các cuộc tấn công ác ý, nếu không thì "quản trị thông minh" có thể ngay lập tức biến thành "quản trị thảm họa".